최근 텔레그램에서 미성년자를 포함한 일반 여성들의 성착취 영상을 공유, 판매한 ‘n번방 사건’이 사회적으로 큰 물의를 일으키면서, 이들이 벌인 여러 범죄 가운데 ‘딥페이크(deep fake) 기술’을 악용한 성범죄가 심각한 문제로 제기되고 있다.
딥페이크는 인공지능 ‘딥러닝(deep learning)’과 가짜를 뜻하는 ‘페이크(fake)’의 합성어로, 컴퓨터에 입력된 데이터를 인공지능(AI)이 스스로 분석하고 학습해 진짜와 구별이 힘든 가짜 이미지를 만들어 내는 기술이다. 주로 의료 현장이나 영화 제작 등의 엔터테인먼트 분야에서 유용하게 활용되고 있으나, 최근에는 지인이나 유명인의 얼굴을 음란물에 합성해 불법 유포하는 성범죄에 잘못 활용됨에 따라 부정적인 시선을 받고 있는 것.
이렇듯 실제와 구분이 힘들 정도로 자연스러운 영상 구현이 가능한 딥페이크 기술의 상용화가 가시화되면서, 음란물, 가짜뉴스 생산 등 대중을 오도하거나 사회적 혼란을 야기하는 악용에 대한 우려 또한 높아지고 있다.
이에 국내에서는 첨단 기술의 역기능을 사전에 방지하기 위한 ‘딥페이크 포르노 처벌 강화법’을 국회 본회의에서 통과시키며 법적 해결책이 마련되고 있으며, 그와 동시에 인공지능 관련 IT 기업을 중심으로 영상의 조작 여부를 가려내기 위한 딥페이크 검출 기술의 연구 개발이 한창이다.
인공지능 전문 기업 ‘머니브레인’은 최근 인공지능 영상 합성 기술로 현직 대통령을 실제와 똑같이 구현해내며 업계의 주목을 받은 IT 기업으로, 국내 최고 수준의 인공지능 관련 기술력, 인력을 바탕으로 딥페이크 검출 기술 연구에 몰두하고 있다.
우선 머니브레인은 영상의 진위 여부를 판단하는 능력을 갖춘 딥러닝 모델 ‘AI Fake Finder(AI 영상 조작 검출 기술)’를 만드는데 주력하고 있다. 다양한 베이스 모델을 통해 진짜와 가짜를 스스로 판별할 수 있도록 지속적으로 반복 학습시키는 연구를 진행 중이다. 특히 학습에 필요한 데이터베이스의 경우, 독일 뮌헨공대와 이탈리아 나폴리 페데리코2세 대학 연구진이 개발한 ‘페이스포렌식++(FaceForensics)’ 데이터를 활용하여 연구의 객관성을 높였다.
이러한 학습 결과를 토대로, 머니브레인의 딥러닝 모델은 ‘페이스포렌식++’에 적용된 합성 방법 네 가지(DeepFakes, Face2Face, FaceSwap, NeuralTexture) 영역에서 모두 99%를 상회하는 진위 판별 능력을 보여준다. 이는 인셉션넷을 확장한 뉴럴넷 모델 ‘XceptionNet’을 비롯한 다른 어떤 모델도 아직 도달하지 못한 수치라는 점에서, 머니브레인이 지닌 딥페이크 검출 기술력의 우수성을 엿볼 수 있다.
뿐만 아니라 머니브레인은 이미지 내 얼굴 추출 방식, 데이터 증강 방식, 베이스 모델 교체 등 연구 방법을 다각적으로 적용하여 오차 범위를 최대한 줄이는 등 머니브레인만의 딥페이크 검출 기술의 정확성을 높여 나갈 계획이다.
이 밖에도 국내에서 딥페이크 검출 기술 연구에 힘쓰고 있는 기업으로 ‘알엔딥’을 꼽을 수 있다. 알엔딥은 최근 AI 기술을 기반으로 온라인 성폭력 및 음란물 유해 사이트를 막는 ‘레드 AI’ 기술 개발을 완료했으며, 이를 기반으로 불법적으로 활용되는 딥페이크 검출 기술과 욕설 검출 및 방지 기술 개발을 진행 중이다. 사진 및 영상 속 얼굴의 진위 여부를 1초 내에 찾아낸다는 것이 특징으로 다양한 데이터셋을 확보해 AI 학습을 시키고, 정교한 합성을 모두 감별해 낼 수 있는 정확도 높은 기술을 구현해내는 것을 목표로 하고 있다.
또한 알엔딥은 최근 입력된 사진 및 영상의 모든 프레임을 검사하고, 주요 노출부위에 대해 모자이크를 자동으로 생성해주는 ‘레드 AI 모자이크’ 기술을 개발, 발표했다. 해당 화면 내에 문제가 될만한 부분이 포함되어 있을 경우, 해당 화면 전체를 모두 가리기 위해 블랙화면으로 처리할 수도 있으며, 특정 부위만 흐릿하게 보이게 하는 블러링(Bluring) 처리까지 가능하다.
머니브레인 장세영 대표이사는 “딥페이크 기술은 성장 잠재력과 효용성이 매우 높은 기술이지만 악용 방법 또한 갈수록 교묘해짐에 따라 피해 사례가 급증하고 있어 매우 안타깝다”며 “머니브레인은 자사가 보유한 기술력을 토대로 딥페이크 기술이 관계 산업의 발전에 이로운 방향으로 활용 될 수 있게 실질적인 해결책을 제시하는 기업이 되고자 노력할 것”이라고 전했다.
관련 기사
