머니투데이

속보
통합검색

"이거 ○○○ 아냐?"…딥페이크 63%, '아는 여자' 사진 훔쳐썼다

머니투데이
  • 백지수 기자
  • 카카오톡 공유하기
  • 카카오톡 나에게 전송하기
  • 페이스북
  • 트위터
  • 네이버
  • 카카오스토리
  • 텔레그램
  • 문자
  • VIEW 6,465
  • 2021.01.26 05:30
  • 글자크기조절
  • 의견 1

[MT리포트] AI 시대의 '그늘' 딥페이크(上)

[편집자주] ‘n번방’ 사건이 우리 사회를 발칵 뒤집은 지 10개월이 지났다. 온라인 성착취물에 대한 단속도, 제도도 강화됐다. 그럼에도 아직도 사이버 공간에는 불법 음란물이 버젓이 공유되고 있다. 최근엔 딥페이크 기술을 악용한 합성물들이 넘쳐나며 또다른 가해로 이어지고 있다. 다크웹 사이트에서는 아직도 유명 걸그룹 멤버들의 얼굴을 교묘히 합성된 허위 음란물 영상들이 유통되고 있으며, 그 피해는 이제 일반인들을 겨냥하고 있다. ‘AI(인공지능) 시대의 그늘’ 딥페이크 불법 영상물 유통 실태와 점검해봤다.


"인스타그램 알려주세요" 연예인·친구 가리지 않는 '딥페이크'


"이거 ○○○ 아냐?"…딥페이크 63%, '아는 여자' 사진 훔쳐썼다
“무료로 지인 얼굴 합성·얼싸(얼굴에 사정) 딥페(딥페이크의 줄임말) 해드려요. 지인 인스타그램 필요해요. 비밀보장 당연. 연예인, 스트리머, 틱토커(동영상 앱 틱톡에 영상을 올리는 이용자)도 가능.”

기자가 트위터에서 ‘#딥페’라는 해시태그로 검색하자 불과 몇 시간 전 올라온 이같은 내용의 글들이 이어졌다. ‘#지인’ ‘#능욕’ 등의 해시태그가 같이 붙어 있었다. 이중에는 지인의 얼굴을 성행위로 흥분된 표정을 나타내는 은어 ‘아헤가오’(‘아, 헤’ 등의 소리를 내고 있는 얼굴이라는 뜻의 일본어)로 합성해 준다는 게시물도 수십건 검색됐다. DM(다이렉트메시지)을 보내면 지인 사진을 나체 사진이나 음란 영상에 합성해 주거나 이같은 불법 합성물을 공유하는 이른바 ‘합성방’으로 안내하는 식이다. 합성방은 텔레그램이나 디스코드 등 메신저로 연결됐다. 일부 계정에서는 “취미로 하는 작업”이라며 “돈은 받지 않는다”고도 안내했다. 트위터뿐 아니라 디스코드에서도 직접 관련 채팅방을 검색하자 1000원, 2000원 등 소액을 받고 딥페이크로 합성을 해준다는 합성 신청방이 검색됐다.

유명 연예인들을 노리던 딥페이크 범죄가 이제 일반인으로 확대되고 있다. 아는 지인의 얼굴을 활용해 불법 음란물과 합성해달라는 청탁 사례가 늘고 있다는 것. 당사자들의 의사와는 전혀 무관한 명예훼손이자 모욕죄에 해당한다. 이 영상이 공유될 경우 더욱 심각한 범죄행위가 될 수 있다.

더욱 우려되는 건 딥페이크 기반 영상물 제작이 자동화되면서 마음만 먹으면 누구나 쉽게 영상 합성물을 만들 수 있다는 점이다. 최근에는 딥페이크 합성 영상을 손쉽게 만들 수 있는 스마트폰 앱도 있다. 지난해 12월 딥페이크를 이용한 지인 능욕 성 영상물을 제작해 SNS(사회관계망서비스)에 유포한 혐의로 전북 전주에서 30대 남성이 경찰에 붙잡혔는데, 이 용의자도 딥페이크 기능이 탑재된 스마트폰 앱을 사용한 혐의를 받고 있다. 일반인 누구나 딥페이크 피해에 노출돼 있고, 또 언제든 가해자가 될 수도 있다. 네이버 지식IN 등 공개 게시판에서도 자신이 청소년이라며 “딥페이크를 제작한 적 있는데 처벌 대상이냐”는 문의 글을 심심찮게 찾아볼 수 있다.

딥페이크 영상물 피해가 많아지면서 최근 이를 기술적으로 탐지, 추적하는 보안 기술도 개발되고 있다. 하지만 범람하고 있는 딥페이크 영상물 범죄를 막기엔 기술적 대책만으로는 한계가 있다는 지적이다. 우사이먼성일 성균관대 데이터사이언스융합학과 교수는 “딥페이크 탐지기술 개발도 중요하지만 사회·제도적인 해결책이 우선 필요하다”고 지적했다.

백지수 기자



10.5만명 딥페이크 피해자, 70%는 일반인…"SNS 사진 훔쳐가"


딥페이크 음란물, 25% 한국 여성 연예인 대상

"이거 ○○○ 아냐?"…딥페이크 63%, '아는 여자' 사진 훔쳐썼다
“어? 드라마 ‘구미호뎐’에 트와이스 미나가 나왔어?”

A씨는 유튜브 알고리즘에 걸린 지난해 12월3일 종영한 tvN 드라마 ‘구미호뎐’ 관련 영상을 보다가 깜짝 놀랐다. 썸네일을 보고 두 주연배우 조보아와 이동욱이 대화를 나누는 한 장면인 줄 알고 클릭했는데 화면 속 얼굴은 걸그룹 트와이스 멤버 미나였다. 화면 속 목소리는 조보아였지만 입과 눈썹의 움직임과 눈을 내리까는 표정 등은 그냥 미나다. 마치 미나가 연기하는 것처럼 자연스러웠다. 다시 보니 이동욱인 줄 알았던 남자 배우도 다른 얼굴이었다. 트와이스 멤버 쯔위의 이목구비를 이동욱 얼굴과 합성한 것이었다.

A씨가 시청한 2분17초 길이의 이 영상은 다름 아닌 딥페이크(Deepfake) 영상이다. 지난 11일 트와이스의 해외 팬 계정으로 추정되는 한 유튜브 계정에 업로드됐다. 제작자는 영어로 작성한 영상 설명에서 원본 영상의 출처를 밝히며 “재미삼아 (딥페이크 제작을) 학습하려는 목적으로 만들었다”고 밝혔다.

이처럼 단순한 재미를 위해 만든 합성 영상물도 많다. 실제 유튜브를 보면 드라마, 뮤직비디오 등에 딥페이크 영상을 어렵지 않게 찾아볼 수 있다. 딥페이크는 AI(인공지능) 기술을 활용해 영상이나 사진을 자동 합성하는 이미지 처리 기술이다. 컴퓨터 비전 연구에 쓰이는 인공지능 신경망 기술로 반복적인 학습을 통해 ‘진짜 같은 이미지’를 만들어낸다. 주로 CG(컴퓨터그래픽) 작업에 많이 활용된다. 지난해에는 엠넷(Mnet)에서 고인이 된 가수 거북이 터틀맨의 생전 모습과 목소리로 최신곡인 드라마 ‘이태원클래쓰’ OST 무대를 구현하는 데에도 이 기술이 쓰였다.

문제는 악의적인 목적으로 딥페이크 영상기술이 악용되고 사례가 늘고 있다는 점이다. 인지도 높은 스타 연예인들의 얼굴 이미지를 도용해 음란물을 제작하는 사례가 대표적이다. AI 알고리즘 기술이 진화되면서 불법 합성 수준도 더욱 정교해지고 있다. 지난 22일 기자가 확인한 다크웹 포르노 사이트 영상 중에는 육안으로는 합성 여부를 구분하기 어려울 정도로 정교한 걸그룹 딥페이크 영상들이 수십건 발견됐다. 인스타그램과 틱톡 등 SNS 영상에 올린 일반인들 사진·영상 역시 딥페이크 범죄의 타깃물이다.

네덜란드의 AI 연구소 센서티(옛 딥트레이스)가 발간한 보고서에 따르면, 지난해 7월까지 텔레그램에서 전세계 10만4852명의 여성이 이른바 ‘딥페이크봇’에 걸려 나체 사진에 자신의 얼굴이 합성되는 피해를 당했다. 딥페이크봇은 인물 이미지를 올리면 자동으로 여성의 나체에 그 인물의 얼굴을 합성해주는 프로그램이다. 이 중 70%는 유명인이 아닌 일반인들의 개인 SNS 등에서 불법적으로 수집한 이미지와 영상이었던 것으로 조사됐다. 일반 여성들을 타깃으로 한 불법 딥페이크 합성물이 빠르게 확산되고 있다는 얘기다. 같은 연구소의 2019년 조사에서는 그해 제작된 1만4600여건의 딥페이크 영상 중 96%가 음란물이고, 이중 25%는 한국 여성 연예인들의 얼굴이 합성된 것으로 나타났다.

"이거 ○○○ 아냐?"…딥페이크 63%, '아는 여자' 사진 훔쳐썼다
딥페이크 영상물 피해 사례가 속출하면서 국민적 공분도 크다. 지난 13일 올라온 딥페이크 강력처벌 청와대 국민청원에 37만여명이 몰렸다. 정부도 팔을 걷었다. 과학기술정보통신부는 지난해 N번방 사건이 수면 위로 떠오른 것을 계기로 딥페이크 불법 영상을 차단·판별 기술 개발을 국가연구과제(R&D)로 제시했다. 머니브레인, 알앤딥 등 AI 기업들이 뛰어들었다. 그러나 탐지 기술로 딥페이크 영상물을 거른다는 게 쉽진 않다. 불법 영상 제작과 유포가 탐지 기술들을 교묘히 우회하고 있기 때문이다.

불법 딥페이크 영상물 탐지기술도 중요하지만 이보다는 타인의 동의를 받지 않은 딥페이크 합성은 범죄라는 사회적 인식 확산이 중요하다는 게 전문가들의 지적이다. 이미 지난해 성폭력처벌특례법 개정안에 따라 딥페이크 처벌 규정이 강화됐다. 대상자의 의사에 반해 성적 욕망이나 수치심을 유발하는 촬영·영상·음성물 등을 편집·합성·가공했거나 이를 배포하면, 5년 이하 징역 또는 5000만원 이하 벌금형을 받을 수 있다. 불법 합성 영상 제작·유포에 돈을 받으면 7년 이상 징역형에 처한다.

성적 수치심을 유발하지 않더라도, 합성 대상의 얼굴을 변형해 모욕감을 느끼게 하는 등의 행위도 명예훼손이나 초상권 침해 등의 범죄가 될 수 있다. 딥페이크가 사이버 불링(괴롭힘)이나 악의적 비방 등에 악용될 여지도 충분하다.

좋은 의도에서 딥페이크 창작물을 만들었다 해도 본인의 직접적 동의 없이 만들어질 경우 적절한지에 대한 사회적 합의도 필요하다는 제안도 나온다. 최근 동성의 아이돌 멤버 간 연애를 묘사하는 소설이나 그림 등 창작물을 통칭하는 ‘알페스’(RPS)도 비슷한 논란에 휘말려 있다. 온라인상에서는 이를 ‘팬픽’(팬(fan)+소설(fiction)의 합성어)의 연장선에 있는 팬 문화로 받아들여할 지, 새로운 범죄 유형으로 판단해야 할 지 설왕설래 중이다.

윤덕경 한국여성정책연구원 연구위원은 “딥페이크를 이용한 성폭력은 분명히 ‘처벌되는 범죄’라는 인식을 확산할 필요가 있다”고 말했다. 이어 “수사·피해자 보호 현장에서도 딥페이크 영상물 탐지·삭제를 위한 기술 개발·도입에도 보다 적극적일 필요가 있다”고 말했다.

백지수 기자




베스트클릭

오늘의 꿀팁

  • 날씨
  • 건강쏙쏙

많이 본 뉴스

머니투데이 페이스북 퀴즈 이벤트
부꾸미
사회안전지수

포토 / 영상

머니투데이 SERVICE