텔레그램 성범죄 '딥페이크봇'…1분만에 20개 찾았다

'B' 딥페이크봇 운영자는 봇의 프리미엄 서비스를 홍보하는 또 다른 광고 채널을 텔레그램에서 운영했다. 이 광고 채널에서는 입을 벌리거나 눈을 감는 표정으로 바꾸는 등 효과를 추가하는 서비스를 판매했다. 검은 머리 동양인 여성의 얼굴 사진이 합성돼 홍보물에 사용됐다./사진=텔레그램 갈무리

"덜 유명하고 님들이 안 써봤을 '딥페이크봇', 좋아요 누르면 더 올려드림."

28일 SNS(소셜미디어) 엑스와 미국 온라인 커뮤니티 레딧 등에서 '딥페이크 봇'을 검색한 결과 불과 1분만에 텔레그램 채팅방으로 연결되는 링크가 20여개 나타났다.


텔레그램으로 연결되는 도메인에는 'Braundress'(속옷 벗기기) 'Fakenude'(가짜 나체) 'Unclothy'(헐벗은) 등 표현이 담겼다. 딥페이크봇은 사진 한 장을 넣으면 딥페이크 기술로 음란물을 자동 생성하는 텔레그램 AI 봇이다.

다수 SNS 이용자들은 해당 링크를 공유하며 '무료 체험'을 하고 있었다. 상당수 봇이 사진 1장까지 무료로 제작해주고 이후 유료로 전환해 수익을 낸다. 텔레그램에 재가입하는 방법과 재가입 대기시간이 길어질 경우 가상 전화번호를 생성하는 방법 등도 공유된다.

딥페이크봇 "남성 사진은 보내지마라"

접속해본 딥페이크봇은 1대1 대화방처럼 운영됐다. 한 딥페이크봇은 '남성 사진은 보내지 말아라' '여성 한 명만 포함된 사진을 사용해라' 같은 고려 사항을 메시지로 띄웠다. /사진=텔레그램 갈무리

딥페이크봇은 '1대 1 대화방'처럼 운영됐다. 대체로 입장과 동시에 '사용자 동의서'를 보여주고 동의 버튼을 누르도록 했다. '만 18세 이상임을 확인했다' '미성년자 이미지를 올리면 안 된다'는 등 내용이 담겼다. 한 딥페이크봇은 '남성 사진은 보내지 말아라' '여성 한 명만 포함된 사진을 사용해라'라고 강조했다.


한 딥페이크봇 운영자는 봇의 프리미엄 서비스를 광고하는 텔레그램 채널을 별도 운영했다. 구독자는 5만1000여명에 달했다. 해당 광고 채널에서는 입을 벌리거나 눈을 감는 표정으로 바꾸는 등 서비스를 판매했다. 검은 머리 동양인 여성의 얼굴 사진이 합성돼 홍보물에 사용됐다.

통역 기능도 탑재했다. 영어, 스페인어, 프랑스어, 중국어, 일본어, 이란어 등으로도 대화가 가능했다. 전세계 누구나 사진 한 장만 있으면 서버에 저장된 나체 사진과 합성해 손쉽게 불법 합성물을 제작하고 퍼 나를 수 있다는 의미다.

한국어로 자동 번역할 수 있도록 버튼이 마련돼 있었다. 영어, 스페인어, 프랑스어, 중국어, 일본어, 이란어 등 수많은 언어로 번역이 가능했다. /사진=텔레그램 갈무리

떴다방식 '딥페이크방'도…"수사 기법 알려지면 범죄자들 또 대응"

이용자들은 '무료 체험'을 전전하며 무료 사용 팁을 공유하고 있다. 봇 대부분이 사진 1장까지는 무료 제작할 수 있다가 이후 유료 전환되는 수익 구조다. /사진=텔레그램 갈무리

딥페이크봇이 기하급수적으로 늘어나면서 경찰도 긴장감을 높이고 있다. 서울경찰청 사이버수사대는 22만7000여명이 이용한 것으로 추정되는 딥페이크봇 등 8곳에 대한 내사(입건 전 조사)에 착수했다.

경찰 관계자는 "어렵지만 차근차근 풀어가겠다. 통상 텔레그램 수사는 때마다 맞는 기법을 개발하거나 기존 방법을 응용·조합해 추적한다. 이번 사안도 새로운 경우인데 여러 가지 방안을 들여다보고 있다"고 밝혔다.

'떴다방'식 딥페이크봇도 수사 난도를 높인다. 최근 인천에서 발생한 대학생 불법합성물 사건도 경찰 수사 중 대화방이 사라지면서 수사가 일시 중단됐던 것으로 전해졌다.

경찰 관계자는 "여러 아이디어를 취합하고 있다. 항상 수사 기법이 알려지면 그것에 대해서 범죄자들이 또 대응하고 경찰이 다시 기법을 만들어야 하는 식"이라며 "(조사 중인 딥페이크 봇이) 8개라는 것은 언제든 바뀔 수 있는 숫자다. 협업해서 어떻게든 대응책을 마련할 것"이라고 밝혔다.