포티투마루, '2024 AI&빅데이터쇼'서 도메인 특화 LLM과 생성형 AI 솔루션 선봬

포티투마루(대표 김동환)는 19일부터 21일까지 3일간 코엑스에서 열리는 '2024 AI&빅데이터쇼'와 '스마트테크코리아 2024'에 참가해 도메인 특화 설치형 LLM(대규모 언어 모델)와 생성형 AI 솔루션 'DocuAgent42'를 선보였다고 밝혔다.

사진제공=포티투마루

스마트테크코리아 2024는 단일 국내 최대 규모의 ICT 행사로 AI&빅데이터쇼, 스마트테크쇼, 리테일테크쇼, 로봇테크쇼, 시큐테크쇼 등 총 5개의 전문 전시회로 구성됐으며, 코엑스 1층 A, B홀, 3층 C홀에서 진행된다.


포티투마루는 AI&빅데이터쇼에 참가해 도메인 특화 설치형 LLM 및 생성형 AI 솔루션을 선보였다. 도메인 특화 설치형 LLM은 특정 산업 분야의 요구와 특성에 최적화한 경량화 언어 모델로, 질의 응답, 문서 요약, 초안 작성, 문서 분류 등 다양한 자연어 처리 기능을 수행하며 이를 통해 복잡한 업무를 자동화 할 수 있다.

사진제공=포티투마루

포티투마루의 도메인 특화 설치형 LLM과 생성형 AI 솔루션은 국내외 전자, 통신, 금융, 자동차, 조선해양, 엔지니어링, 커머스, 리테일, 교육, 법률, 헬스케어, 국방 등 다양한 산업 분야에서 정확하고 효율적인 데이터 처리를 통해 업무 효율성을 높이고 비용을 절감해 비즈니스 고도화와 고객 서비스 향상에 중요한 도구가 된다.

특히 네이버클라우드의 하이퍼클로바 X, LG U+의 익시젠, 구글의 제미나이 프로 및 포티투마루의 자체 초거대 AI LLM42까지 글로벌 및 국내 리딩 IT 기업과의 전략적 협력을 통해 산업별로 특화한 LLM을 설치형으로 제공하고 있다.


포티투마루는 LLM, RAG 및 MRC 기술을 활용한 생성형 AI 서비스인 DocuAgent42도 함께 선보였다. 기업 내 보유 중인 다양한 유형의 문서 파일과 웹 문서를 검색 혹은 대화형 에이전트 인터페이스로 제공하며 방대한 양의 비정형 문서 내에서 원하는 정보만 정확하게 제공한다.

포티투마루의 생성형 AI 서비스인 DocuAgent42는 AI 업무 어시스턴트 외에도 AI 상담사, AI 비서, AI 강사 및 안내원 등 다양한 분야에 적용이 가능하며, 프로세스 개선, 작업 시간 및 비용 효율화, 리소스 절감 등 업무 효율성 향상에 큰 도움이 된다. 행사 현장에서는 솔루션을 도입한 고객사의 생생한 사례와 이를 통해 개선된 업무 프로세스에 대한 인사이트를 함께 공유할 예정이다.

특히 포티투마루는 초거대 언어모델의 단점인 환각 현상을 검색증강생성 기술인 RAG42와 인공지능 독해 기술인 MRC42와의 엔지니어링으로 완화한다. 기업용 프라이빗 모드를 지원해 기업 내부 데이터와 민감한 고객 정보 유출에 대한 걱정없이 초거대 AI를 활용하게 한다. 전문 산업 분야에 특화한 경량화 모델도 구현해 솔루션 구축과 학습, 서빙에 들어가는 비용을 획기적으로 절감한다.

포티투마루는 유럽 최대 엑셀러레이터 'Thechstars London' 프로그램에 선정돼 투자유치를 진행했으며 현재 런던법인을 중심으로 국내를 넘어 유럽 및 글로벌 진출을 진행하고 있다.

포티투마루 김동환 대표는 "이번 박람회를 통해 생성형 AI가 어떻게 실제 산업 현장에서의 난제들을 해결하고 실질적인 비즈니스 가치를 창출하는지 사례 중심의 인사이트를 공유했다"며, "현재 국내 대기업을 비롯해 영국 유럽 등 글로벌 기업에 자사제품을 공급하고 있는데 이번 박람회에서 다양한 업계 관계자들에게 LLM의 환각, 보안, 고비용 문제를 해결한 포티투마루의 산업 특화 설치형 LLM을 선보여 AI 전환을 실현하고 비즈니스 고도화에 기여할 것으로 기대한다"고 말했다.

한편 포티투마루는 글로벌 최고 기계독해, 언어이해 경진대회 SQuAD2.0에서 공동 1위(구글 AI팀)를 수상했으며, ACL 논문 채택, 영국 파이낸셜타임즈(FT) 선정 2002~2003 아시아 태평양 고성장기업에 선정되는 등 다양한 전문 분야에서 세계 최고 수준 기술 리더십을 인정받았다.