머니투데이

속보
통합검색

얼굴 합성 음란영상물·짤방 가능케한 검은 기술

머니투데이
  • 김재현 이코노미스트
  • VIEW 63,478
  • 2019.09.14 06:20
  • 페이스북
  • 트위터
  • 네이버
  • 카카오스토리
  • 텔레그램
  • 문자
  • 글자크기조절
  • 댓글···

[길게보고 크게놀기]'딥페이크' 기술이 개발되자 네티즌이 제일 먼저 한 일

[편집자주] 멀리 보고 통 크게 노는 법을 생각해 봅니다.
image
/그래픽=김현정 디자인기자
최근 중국 SNS에서 네티즌의 얼굴이 들어간 드라마 짤방이 폭발적으로 확산됐다. 예컨대 올해 방영된 미국 드라마 '왕좌의 게임' 시즌 8에서 주인공 존 스노우의 얼굴을 중국 네티즌의 얼굴로 바꿔치기 한 장면이다. 지난 8월30일 출시된 자오(ZAO)라는 앱을 이용한 짤방이었다.

◇누구나 드라마 주인공이 될 수 있는 시대
이 앱은 사용자가 자신의 정면사진을 올리면 인공지능(AI) 기술을 이용해 드라마 주인공 얼굴을 사용자 얼굴로 바꿔준다. 중국 네티즌들이 위챗 모멘트에 짤빵을 공유하면서 이 앱이 급속도로 퍼졌다. 위챗은 중국의 모바일 메신저로 위챗의 모멘트는 카카오 페이지와 유사하며 중국 네티즌들이 페이스북처럼 사용한다.

자오에 따르면 앱 출시 몇 시간 만에 서버 용량의 3분의1이 사용됐고 9월1일 중국 애플 앱스토어 무료 앱 순위에서 1위에 오를 정도로 선풍적인 인기를 끌었다.

처음에는 순풍에 돛 단 듯했는데, 곧 자오에 대한 문제가 제기되기 시작했다. 앱을 사용하기 위해 반드시 동의해야 하는 사용자 이용 약관 중 한 조항이 문제가 됐다.

"만약 사용자가 동영상 콘텐츠 안에 있는 얼굴을 본인이나 다른 사람의 얼굴로 바꾼다면, 사용자는 자오 및 관련업체가 초상권을 전 세계적인 범위에서 영구히 보관, 수정 및 재이용할 수 있다는 데 조건없이 동의한다"는 구절이었다.

즉 사용자의 초상권을 자오에 넘겨야만 자오를 이용할 수 있다는 얘기다. 여론이 들끓기 시작했고 관할부처인 공업정보화부는 자오측 관계자를 불러들였다. 자오 측은 곧바로 사용자의 안면 데이터를 보관하지 않겠다는 성명을 발표했지만, 후폭풍은 쉽게 사그라들지 않는 분위기다.

이번 자오 논란의 핵심은 '딥페이크'(Deepfakes: 인공지능을 이용한 영상합성) 기술이다. 논란이 커진 건 안면인식과 직접 연관돼 있기 때문이다. 중국이 거국적으로 지원하고 있는 AI영역에서 가장 활용도가 높은 게 바로 안면인식이다.

중국에 설치된 감시카메라(CCTV) 수는 2억대가 넘으며 도로에 설치된 감시카메라로 무단 횡단하는 사람의 개인정보를 판별할 수 있을 정도로 중국 안면인식 기술은 세계 최고 수준이다. 중국은 내친 김에 내년까지 감시카메라 수를 4억대로 늘릴 계획이다. 중국 전역이 고도의 감시사회가 된다는 의미다. 중국에서 가장 안면인식 기술에 관심이 많고 활용을 잘 하는 건 중국 정부이기 때문이다.

◇딥페이크: Deep Learning+Fake
딥페이크는 2017년 북미 최대 커뮤니티 사이트인 레딧(Reddit)에서 '딥페이크스'(deepfakes)라는 닉네임을 가진 네티즌이 영상합성 기술을 활용한 영상을 올리면서 시작됐다. 이 기능 역시 딥페이크(deepfake)라고 명명됐는데, 딥러닝(deep learning)과 가짜(fake)를 합친 용어다.

VR(가상현실)하면 사람들이 자연스럽게 떠올리는 것 중 하나는 성인 콘텐츠일 것이다. 처음 딥페이크 기술이 개발되자 네티즌들이 가장 먼저 한 일도 유명 여배우 얼굴을 포르노 영화에 나오는 배우의 신체에 덧붙이는 일이었다.

영화 '해리포터' 시리즈에 나왔던 엠마 왓슨, '어벤져스' 시리즈에 나왔던 스칼렛 요한슨 등 유명 여배우 얼굴을 합성한 음란 영상이 줄줄이 돌아다니기 시작했다. 얼마 안돼서 합성된 영상임이 밝혀졌지만 말이다.

딥페이크를 이용한 음란영상 게시물이 갈수록 증가하자, 레딧·트위터 등 주요 사이트는 관련 영상 게시를 금지했다.

AI 기술이 발달해서인지, 중국 일부 사이트의 판매자는 중국 연예인 얼굴을 성인영상물에 덮어씌운 동영상을 팔기도 하는데, 심지어 주문생산도 가능하다고 한다. 자신이 좋아하는 여배우가 출연하는 맞춤 음란영상 제작도 가능하다는 얘기다.

우리나라에서 논란이 되고 있는 '맞춤형 리얼돌'을 떠올리게 하는 대목이다. 구매자가 아는 여성이나 좋아하는 연예인의 특징을 그대로 본뜬 맞춤형 리얼돌 제작이 가능하다고 알려지면서 개인정보 보호나 성 상품화에 대한 우려가 커졌다.

자오는 딥페이크 기술을 직접 응용했다고 밝히진 않았지만, 유사한 점이 제법 많다. 지금까지는 컴퓨터로 딥페이크 기술을 직접 구현하거나 관련 사이트의 도움을 얻어야만 딥페이크를 이용할 수 있었는데, 자오가 출현함으로써 딥페이크 이용의 진입장벽이 크게 낮아졌다.

앞으로는 누구나 쉽게 앱을 다운받아, 클릭 한 번으로 딥페이크 기술을 이용할 수 있게 될 것이다. 더불어 개인정보 보호나 타인의 개인정보 남용에 대한 논란도 증폭될 전망이다.

※ 이 기사는 빠르고 깊이있는 분석정보를 전하는 VIP 머니투데이(vip.mt.co.kr)에 2019년 9월 13일 (18:00)에 게재된 기사입니다.




오늘의 꿀팁

  • 띠운세
  • 별자리운세
  • 날씨
  • 내일 뭐입지

많이 본 뉴스

인구이야기 POPCON (10/8~)
메디슈머 배너_슬기로운치과생활 (6/28~)
블록체인

포토 / 영상