생성형 AI 스타트업 포티투마루(42Maru)는 ‘스마트테크코리아 2024’ 행사에 참가하여 도메인 특화 설치형 LLM(대규모 언어 모델) 및 생성형 AI 솔루션 DocuAgent42를 선보인다고 18일 밝혔다.

오는 19일부터 3일간 코엑스에서 열리는스마트테크코리아는 단일 국내 최대 규모의 ICT 행사로 인공지능&빅데이터쇼, 스마트테크쇼, 리테일테크쇼, 로봇테크쇼, 시큐테크쇼 등 총 5개의 전문 전시회로 구성되어 있으며, 코엑스 1층 A, B홀, 3층 C홀에서 진행된다.

포티투마루는 인공지능&빅데이터쇼에 참가하여 1층 A홀 행사장 입구에 부스를 준비해 도메인 특화 설치형 LLM(대규모 언어 모델) 및 생성형 AI 솔루션을 선보일 예정이다.

포티투마루 측은 "도메인 특화 설치형 LLM은 특정 산업 분야의 요구와 특성에 최적화한 경량화 언어 모델로, 질의 응답, 문서 요약, 초안 작성, 문서 분류 등 다양한 자연어 처리 기능을 수행하며 이를 통해 복잡한 업무를 자동화 할 수 있다"며 "전자, 통신, 금융, 자동차, 조선해양, 엔지니어링, 커머스, 리테일, 교육, 법률, 헬스케어, 국방 등 다양한 산업 분야에서 정확하고 효율적인 데이터 처리를 통해 업무 효율성을 높이고 비용을 절감하여 비즈니스 고도화와 고객 서비스 향상에 중요한 도구가 된다"고 설명했다.

특히 네이버클라우드의 하이퍼클로바 X, LG U+의 익시젠, 구글의 제미나이 프로 및 포티투마루의 자체 초거대 AI LLM42까지 글로벌 및 국내 리딩 IT기업들과의 전략적 협력을 통해 산업별로 특화된 LLM을 설치형으로 제공하고 있다.

또한 LLM, RAG 및 MRC 기술을 활용한 생성형 AI 서비스인 ‘DocuAgent42’도 함께 선보일 예정이다. 기업 내 보유 중인 다양한 유형의 문서 파일과 웹 문서를 검색 혹은 대화형 에이전트 인터페이스로 제공하며 방대한 양의 비정형 문서 내에서 원하는 정보만 정확하게 제공한다. AI 업무 어시스턴트 외에도 AI 상담사, AI 비서, AI 강사 및 안내원 등 다양한 분야에 적용이 가능하며, 프로세스 개선, 작업 시간 및 비용 효율화, 리소스 절감 등 업무 효율성 향상에 큰 도움이 된다. 행사 현장에서는 솔루션을 도입한 고객사의 생생한 사례와 이를 통해 개선된 업무 프로세스에 대한 인사이트를 함께 공유할 예정이다.

포티투마루는 생성형 AI 스타트업으로 초거대 언어모델의 단점인 환각(hallucination) 현상을 검색증강생성 기술인 RAG42와 인공지능 독해 기술인 MRC42와의 엔지니어링으로 완화하고, 기업용 Private 모드를 지원하여 기업 내부 데이터와 민감한 고객 정보 유출에 대한 걱정없이 안전하게 초거대 인공지능을 활용하고 있다. 또한 전문 산업 분야에 특화한 경량화 모델을 구현해 솔루션 구축과 학습, 서빙에 들어가는 비용을 획기적으로 절감하는 성과를 내고 있다.

김동환 포티투마루 대표는 “이번 행사를 통해 생성형 AI가 어떻게 실제 산업 현장에서의 난제들을 해결하고 실질적인 비즈니스 가치를 창출할 수 있는지 사례 중심의 인사이트를 공유할 예정"이라며 “LLM의 환각(Hallucination), 보안, 고비용 문제를 해결한 산업 특화 설치형 LLM 도입을 통해 AX(AI Transformation)를 실현하고 비즈니스 고도화에 기여할 것으로 기대한다”고 전했다.