AI 스타트업 셀렉트스타가 스페인 바르셀로나에서 개최된 MWC2025에서 ‘글로벌 AI 레드팀 챌린지’를 개최했다. 이번 대회는 생성형 AI의 보안 취약점을 발견하는 국제 경연장이었다.

지난 5일(현지 시각) 피라 그란 비아 전시장에서 열린 이 대회에는 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 등 다양한 국적의 참가자 100여 명이 모여 AI 모델의 취약점을 찾아내는 경쟁을 펼쳤다.

GSMA(세계이동통신사업자연합회)와 공동으로 주최한 셀렉트스타는 레드팀 플랫폼 운영과 문제 출제, 응답 검수 등 대회의 핵심 역할을 담당했다. 총 335명이 사전 신청한 가운데, 참가자들은 셀렉트스타가 구축한 플랫폼에 연결된 대규모언어모델(LLM)을 대상으로 프롬프트 공격을 시도했다.

“이번 대회는 AI 모델의 보안과 안정성을 강조하고, 생성형 AI 서비스 신뢰성 검증의 필요성을 글로벌 시장에 알리기 위해 마련됐다”고 셀렉트스타 측은 설명했다.

대회에서는 LG유플러스의 엑사원 기반 소형 언어모델 익시젠, 아랍에미리트의 TelecomGPT, 말레이시아의 AIngineer 등 여러 국가의 LLM이 테스트 대상으로 활용됐다. 최종 우승은 생성형 AI의 오류를 가장 많이 발견한 싱가포르의 투자 전문가 투 무젠 토미시가 차지했다.

셀렉트스타는 이번 행사에서 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(DATUMO Eval)’도 처음으로 공개했다. 이 솔루션은 생성형 AI 서비스의 신뢰도를 자동으로 분석하고 검증할 수 있어 참관객들과 글로벌 기업들로부터 높은 관심을 받았다.

황민영 셀렉트스타 부대표는 “MWC25에서 최초의 글로벌 레드팀 챌린지 개최와 ‘다투모 이밸’ 솔루션을 해외 시장에 처음 선보이며 AI 모델의 신뢰성 검증이 업계 전반에서 중요한 과제가 되고 있음을 실감했다”고 밝혔다.

셀렉트스타는 GSMA, 후원사 e&와 함께 내년 MWC에서 더 큰 규모의 레드팀 챌린지를 진행하기로 합의했으며, 이번 성과를 바탕으로 전 세계 AI 전문가 및 파트너들과의 협력 네트워크를 확장해 다양한 산업 분야에 솔루션을 적용할 기회를 모색할 계획이다.