포티투마루, 생성형 인공지능 최초 AI 신뢰성 인증 획득

  • 대한민국 최초로 생성형 AI 기반 초거대 언어 모델(LLM)에 대한 신뢰성 인증 획득

생성형 AI 스타트업 포티투마루(42Maru, 대표 김동환)가 대한민국 최초로 생성형 인공지능 기반 초거대 언어 모델(LLM)에 대한 AI 신뢰성 인증을 획득했다고 6일 밝혔다.

과학기술정보통신부(과기정통부, 장관 유상임)와 한국정보통신기술협회(TTA, 회장 손승현)는 인공지능(AI) 시스템의 신뢰성을 확보하기 위해 'AI 신뢰성 인증(CAT: Certification of AI Trustworthiness)' 제도를 운영하고 있다. CAT 인증은 국내 기업의 인공지능 신뢰성 제고와 경쟁력 강화를 위해, 인공지능 모델 또는 시스템을 대상으로 AI 거버넌스 체계 구축과 투명성, 책무성 등의 신뢰속성을 갖추었는지를 심사하는 인증이다.

TTA는 ISO/IEC AI 신뢰성 관련 국제 표준, UNESCO, NIST, EU AI 법안 등 국제 사회가 정의한 AI 신뢰성 요구 조건에 따라 위험 기반 평가를 수행하고, 기업들이 신뢰할 수 있는 AI 제품을 개발할 수 있게 지원하고 있다. 이 외에도 과기정통부와 협력해 인공지능 신뢰성·품질 대상 운영, 레드팀 챌린지 행사 등 다양한 AI 신뢰성 관련 활동을 지속적으로 전개하고 있다. 포티투마루도 올해 4월에 국내 생성형 AI를 대상으로 열린 ‘생성형 AI 레드팀 챌린지’ 행사에 네이버클라우드, SK텔레콤 등과 함께 자체 초거대 언어 모델인 LLM42로 참가한 바 있다.

포티투마루의 LLM42는 인공지능 신뢰성 확보를 위한 위험기준 시험평가 기준인 ▲책임성 ▲안전성 ▲투명성 ▲다양성 존중 등을 바탕으로 11가지의 세부 신뢰성 요구사항에 대한 평가와 검증을 거친 후 인증을 획득했다. 올해 8월 인증 심사를 시작하여 인공지능 시스템에 대한 위험관리, 신뢰성 및 추적가능성, 거버넌스 체계, 데이터 활용 정보, 견고성 확보 및 데이터의 편향 제거, 라이브러리 보안성 및 호환성, 인공지능 모델의 편향 제거, 공격에 대한 방어 대책 수립 및 추론 결과에 대한 설명 제공 등 다양하고 촘촘한 세부 신뢰성 요구사항에 대해 직접 테스트를 거치고 고객 도메인에 적용하는 과정을 거친 후 11월 초 대한민국 LLM 모델 1호로 AI 신뢰성 인증을 획득했다.

이는 대한민국 초거대 언어모델(LLM) 최초이자, 생성형 AI 기업으로서도 첫 인증 획득 사례이다.

포티투마루는 생성형 AI 스타트업으로 초거대 언어모델의 단점인 환각(hallucination) 현상을 검색증강생성 기술인 RAG42와 인공지능 독해 기술인 MRC42와의 엔지니어링으로 완화하고 전문 산업 분야에 특화된 경량화 모델 LLM42를 개발•서비스하고 있다. 기업용 Private 모드를 지원하여 기업 내부 데이터와 민감한 고객 정보 유출에 대한 걱정없이 안전하게 초거대 AI를 활용할 수 있으며, 솔루션 구축과 학습, 서빙에 들어가는 비용을 획기적으로 절감할 수 있다.

포티투마루 김동환 대표는 “포티투마루의 LLM42가 대한민국 초거대 언어모델(LLM) 최초로 AI 신뢰성 인증을 획득하게 되어 매우 뜻깊다. 특히 생성형 AI와 같은 초고도화된 기술이 안전하고 투명하게 사용될 수 있도록 하는 것은 생성형 AI 기업으로서 사회적 책무라고 생각한다.”며, “이번 인증을 통해 LLM42가 엄격한 기준의 AI 신뢰성 요구사항을 충족하고 지속적으로 준수함으로써, 공공 및 기업 고객들에게 더 안전하고 신뢰할 수 있는 인공지능 서비스를 제공함은 물론, 시장에서의 신뢰를 바탕으로 지속 가능한 AI 생태계를 구축하는데 기여하고자 한다.”라고 강조했다.

김광우 기자

kimnoba@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

초기투자AC협회, 글로벌 엔젤투자 국제기구 WBAF와 협약 갱신

초기투자액셀러레이터협회(이하 협회)는 바레인의 수도 마나마에서 열린 2024 WBAF Global Congress에서 WBAF(World Business Angels Investment Forum)와 글로벌 파트너스 업무협약을 체결했다고 22일...

스노우플레이크, 마이크로소프트 파워 플랫폼 전용 커넥터 출시

글로벌 AI 데이터 클라우드 기업 스노우플레이크(Snowflake)는 미국 워싱턴주 시애틀에서 개최된 연례 개발자 컨퍼런스 마이크로소프트 이그나이트(Microsoft Ignite)에서 마이크로소프트 파워 플랫폼(Microsoft Power...

삼성전자, 차세대 AI '가우스2' 공개..."기존 오픈소스 모델보다 3배 빨라"

삼성전자가 자체 개발한 2세대 생성형 AI 모델 '삼성 가우스2'를 공개했다. 기존 오픈소스 AI 모델 대비 처리 속도가 최대 3배 빠르고, 다양한 형태의 데이터를 동시에 처리할 수 있는 것이 특징이다.

대화형 AI 에이전트 ‘젠투’, ‘98% 고객 붙잡는 커머스 전략’ 웨비나 개최

대화형 인공지능(AI) 에이전트 ‘젠투(Gentoo)’ 개발사 와들은 ‘이탈하는 98%의 고객을 붙잡는 온라인 커머스 성공 전략’을 주제로 웨비나를 개최한다고 21일 밝혔다. 와들...