
셀렉트스타가 오는 3월 스페인 바르셀로나에서 열리는 세계 최대 모바일 전시회 ‘MWC 2025’에서 GSMA(세계이동통신사업자연합회)와 함께 ‘글로벌 AI 레드팀 챌린지’를 개최한다.
이번 행사는 3월 5일 현지 시각 오후 12시 30분부터 2시간 동안 Fira Gran Via Hall 6에서 진행될 예정이다. 주최 측에 따르면, 이는 다국적 참가자와 대형언어모델(LLM)이 투입되는 최초의 글로벌 오프라인 AI 레드팀 챌린지다.
AI 레드팀 챌린지는 AI의 안전성, 신뢰성, 보안을 강화하기 위해 실제 서비스 중인 LLM에 모의 프롬프트 공격을 수행하는 행사다. 참가자들은 유해하거나 차별적인 결과, 시스템 오용 등 AI의 결함과 취약성을 찾아내고 검증하게 된다.
셀렉트스타 황민영 부대표는 “이번 행사를 통해 셀렉트스타의 글로벌 수준 AI 레드팀 기술과 신뢰성 검증 기술을 인정받았다”며 “이를 계기로 AI 신뢰성 평가 솔루션을 세계 무대에 선보이고 글로벌 AI 기업과의 협력을 강화할 계획”이라고 전했다.
이번 대회에는 LG유플러스의 익시젠, 아랍에미리트의 TelecomGPT, 말레이시아의 AIngineer 등 글로벌 AI 기업들이 개발한 LLM이 출제 모델로 참여한다. 또한 GSMA, E&, 대한민국 과학기술정보통신부, 대한민국 인공지능 안전연구소 등이 후원사로 나선다.
셀렉트스타는 MWC 2025에서 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘DATUMO Eval’도 공개할 예정이다. 이 솔루션은 AI 서비스 운영 중 발생할 수 있는 오류와 위험성을 사전에 식별하고 대응할 수 있도록 지원한다.
앞서 셀렉트스타는 지난해 4월 국내 최초이자 최대 규모로 개최된 ‘생성형 AI 레드팀 챌린지’에서 대표 파트너사로 참여한 바 있다.
Leave a Comment