글로벌 AI 스타트업 ‘투플랫폼(Two Platforms)’이 초고속 다국어 온라인 생성 AI 모델 ‘수트라(SUTRA)’를 출시했다.
투플랫폼은 삼성전자에서 웨어러블 기기, VR, AI 개발 등을 이끌어 최연소 임원에 올랐던 프라나브 미스트리가 지난 2021년 창업했다. 한국 시장에 내놓은 첫 프로덕트인 AI 소셜앱 ‘재피(ZAPPY)’가 정식 론칭 후 3개월이 채 지나기도 전에 수천만 개의 AI 메시지와 함께 30만명이 넘는 가입자를 모아 주목을 받기도 했다.
투플랫폼의 첫 번째 B2B향 AI 모델 ‘수트라’는 산스크리트어로 짧고 간결한 지혜를 엮은 격언집을 뜻한다. 다양한 언어의 정보들을 포괄하여 빠르고 간편하게 원하는 정보를 얻을 수 있다는 의미다. 수트라는 빠른 속도를 기반으로 응용프로그램에 최적화된 ‘터보’, 다국어 대화에 이상적인 ‘라이트’, 인터넷에 연결된 모델로 쿼리를 이해하고 웹을 탐색해 할루시네이션(hallucination, 환각) 없이 최신 응답을 제공하는 ‘온라인’까지 총 세 개의 모델로 구성되어 있다. 50개 이상의 언어를 지원하며 1,000만 건 이상의 대화 데이터를 학습하고 이를 미세조정해 일관적이고 지속적인 대화 형식의 정보 검색을 구현했다.
수트라는 주요 LLM(Large Language Model, 거대언어모델)들이 모두 영어 중심적이라는 문제 의식에서 출발했다. 기존 LLM들은 영어로 사용했을 때 최상의 결과물을 내놓지만, 전 세계 인구의 81%는 비영어권으로 분류된다. AI 사용에서 맞닥뜨리는 언어의 장벽을 넘을 수 있도록 한국어, 힌디어 등 다양한 언어로 사용할 수 있는 LLM을 만들고자 했던 것이 수트라의 탄생 배경이다. 이에 걸맞게 수트라는 비영어 MMLU 벤치마크에서 선두권의 성적을 기록했다. 개인 유저도 유료로 사용해야 하는 GPT-4.0을 제외하면 한국어, 힌디어 테스트에서 각각 62점, 63점으로 2위를 기록했고, 구자라트어 테스트에서는 1위를 차지했다.
인터넷 연결로 실시간 정보를 제공하는 온라인 모델에 대해서도 주목해볼만 하다. 기존 LLM들은 미리 학습된 데이터 내에서만 답변을 내놓고, 질문에 맞는 답을 찾지 못하는 경우 허위 정보를 생성하는 할루시네이션 현상을 일으킨다. 반면 수트라 온라인은 인터넷 기반으로 실제 존재하지 않는 사실을 필터링할 수 있어 환각을 대폭 줄인다. 속도면에서도 타 제품 대비 우수하다. GPT-3.5, 라마(Llama-70b)와 비교해 1.3~5배 빠른 초당 토큰 처리량을 나타낸다.
에너지 효율과 비용 절감 측면에서도 특장점을 가지고 있다. 각각의 목적에 맞는 다국어 토크나이저를 구축해 타 모델 대비 최대 8배의 효율을 달성했고, 이를 통해 생성 과정에서 상당한 비용 절감 또한 가능하다. 수트라의 초당 120개의 토큰을 처리할 수 있고, 100만개 토큰을 처리하는데 드는 비용은 1달러에 불과하다. 기존 LLM들이 갖고 있는 문제들을 대폭 해소하고 효율성 또한 제고한 수트라는 사용량에 따른 가격 책정과 간단하게 통합할 수 있는 API를 통해 서비스형 모델(MaaS)로 제공될 예정이다.
투플랫폼은 수트라의 투트랙 활용을 구상하고 있다. 먼저 높은 ROI(Return on Investment, 투자 대비 수익)를 바탕으로 기업 파트너와의 협업을 추진한다. 수트라는 성능 면에서는 오픈 AI의 최신 모델인 GPT-4.0에 미치지 못하지만, 가격과 에너지 효율 측면에서 확실한 경쟁력을 확보했다. 또한 토큰 처리 속도 테스트와 비영어 MMLU 벤치마크에서도 타 모델보다 높은 성적을 거둬 성능을 객관적으로 인정받았다. 적은 투자로 높은 효과를 거둘 수 있어 생성 AI 도입을 원하는 기업들에게 매력적인 선택지다. 동시에 자사 서비스인 AI 소셜앱 재피(ZAPPY)와 신개념 대화형 검색 엔진 지니야(Geniya)의 성능 향상에도 수트라를 적극 이용한다는 계획이다.
투플랫폼의 미스트리 대표는 “수트라는 영어로 훈련된 AI 모델로 인해 발생하는 언어 격차를 해소한다. 또한 훈련된 말뭉치 데이터에서 벗어나 실시간 정보로 지식을 확장한다는 의의가 있다”며 “우리는 모두를 위한 AI를 만들고, AI와 인간의 상호작용을 재정의한다는 미션을 위해 일하고 있다. AI의 대중적 접근성을 높인 수트라가 목표 달성에 중요한 발판이 될 것”이라고 자평했다.
관련 기사
