인터랙티브 AI 플랫폼 ‘제타’를 운영하는 생성 AI 스타트업 스캐터랩이 안전하고 윤리적인 인공지능 이용 환경 조성에 앞장서고 있다. 방송통신위원회의 ‘생성형 인공지능 서비스 이용자 가이드라인’에 스캐터랩의 운영정책이 모범사례로 다수 인용되며 업계 표준으로 자리매김하고 있다.

3월 28일부터 시행되는 방통위 가이드라인에는 스캐터랩이 운영 중인 ‘제타’와 과거 서비스했던 ‘너티’ 등의 운영정책과 콘텐츠 생성 기준이 약 20여 차례 인용됐다. 이는 스캐터랩의 정책이 생성형 AI 서비스의 부정적 영향을 최소화하는 모범적 사례로 인정받았음을 의미한다.

‘제타’는 사용자와 AI가 실시간으로 상호작용하며 스토리를 창작할 수 있는 플랫폼으로, 엄격한 콘텐츠 정책을 운영하고 있다. 방송통신심의위원회의 인터넷 내용등급 서비스(SafeNet)를 참고해 15세 수준의 콘텐츠를 지향하며, 만 14세 미만은 서비스 가입을 제한하고 있다.

스캐터랩 관계자에 따르면, ‘제타’는 자동화된 AI 어뷰징 필터와 필터링 리스트 등의 기술적 조치와 함께 지속적인 모니터링을 통해 성인물 수준의 콘텐츠가 생성되지 않도록 엄격히 관리하고 있다. 부적절한 이용이 확인될 경우에는 단계별 제재 조치가 적용된다.

또한 스캐터랩은 AI 생성 콘텐츠의 투명성을 높이기 위해 서비스 화면 캡처 시 모든 AI 대화에 워터마크를 표시하고, 데이터 관리 방식을 이용자에게 명확히 안내하고 있다.

지난 10여 년간 다양한 감성 AI 챗봇과 생성형 AI 플랫폼을 개발해온 스캐터랩은 이용자의 정서적 보호에도 주력하고 있다. 2022년 출시한 AI 챗봇 ‘이루다 2.0’을 통해 여러 대학과 협업하여 AI 챗봇이 이용자의 심리상태에 미치는 영향에 관한 연구를 진행했다.

유니스트와 고려대학교 안암병원 연구팀은 소셜 챗봇이 외로움과 사회 불안을 완화하는 데 효과적이라는 연구 결과를 발표했으며, 이 논문은 올해 1월 의료정보학 분야 국제 학술지 JMIR에 게재됐다. 카이스트 연구팀 역시 소셜 챗봇과의 대화가 정신건강 증진에 효과적이라는 연구로 국제 학회 CIST에서 최우수 학생 논문상을 수상했다.

최근 스캐터랩은 ‘제타’ 내에서 이용자가 극단적 선택에 대해 과도한 언급을 할 경우, 채팅창에 관련 상담 문구를 표시하는 기능도 도입했다.

김종윤 스캐터랩 대표는 “앞으로도 AI 서비스 제공 시 윤리 원칙을 준수하고 다양한 장치를 마련해 AI 서비스 이용자 보호를 위해 최선을 다할 것”이라고 밝혔다.