생성형 AI 스타트업 포티투마루가 생성형 인공지능 기반 초거대 언어 모델(LLM)에 대한 AI 신뢰성 인증을 획득했다. 이는 국내 LLM 모델 중 첫 사례이자, 생성형 AI 기업으로서도 최초의 인증 획득으로 기록됐다.
과학기술정보통신부와 한국정보통신기술협회(TTA)가 주관하는 ‘AI 신뢰성 인증(CAT: Certification of AI Trustworthiness)’ 제도는 인공지능 시스템의 신뢰성 확보를 목표로 운영되고 있다. 이 인증은 AI 모델 또는 시스템이 AI 거버넌스 체계를 구축하고 투명성, 책무성 등의 신뢰속성을 갖추었는지를 심사한다.
포티투마루의 LLM42 모델은 11가지 세부 신뢰성 요구사항에 대한 평가와 검증을 거쳐 인증을 획득했다. 주요 평가 기준에는 책임성, 안전성, 투명성, 다양성 존중 등이 포함됐다. 인증 과정은 올해 8월부터 시작되어 약 3개월간 진행됐다.
김동환 포티투마루 대표는 “LLM42가 대한민국 초거대 언어모델 최초로 AI 신뢰성 인증을 획득하게 되어 매우 뜻깊다”며 “생성형 AI와 같은 초고도화된 기술이 안전하고 투명하게 사용될 수 있도록 하는 것은 생성형 AI 기업으로서 사회적 책무”라고 밝혔다.
포티투마루는 생성형 AI의 주요 문제점인 환각(hallucination) 현상을 완화하기 위해 검색증강생성 기술인 RAG42와 인공지능 독해 기술인 MRC42를 활용하고 있다. 또한 기업용 Private 모드를 지원하여 기업 내부 데이터와 고객 정보 보호에 주력하고 있다.
TTA는 ISO/IEC AI 신뢰성 관련 국제 표준, UNESCO, NIST, EU AI 법안 등 국제 사회가 정의한 AI 신뢰성 요구 조건에 따라 위험 기반 평가를 수행하고 있다. 이외에도 과기정통부와 협력하여 인공지능 신뢰성·품질 대상 운영, 레드팀 챌린지 행사 등 다양한 AI 신뢰성 관련 활동을 지속적으로 전개하고 있다.
이번 인증 획득을 통해 포티투마루는 공공 및 기업 고객들에게 더 안전하고 신뢰할 수 있는 인공지능 서비스를 제공할 수 있게 됐다. 김 대표는 “시장에서의 신뢰를 바탕으로 지속 가능한 AI 생태계를 구축하는데 기여하고자 한다”고 강조했다.
관련 기사
