'딸깍' 몇 번에 생지옥 추락하는데…"이것도 범죄인가요?"

정치권 나서도…아이돌 성적묘사 '알페스 용의자' 다 풀려났다

2021년 1월 19일 오전 하태경 국민의힘 의원과 이준석 국민의힘 최고위원이 영등포경찰서 앞에서 기자회견을 열고 '알페스' 제작자와 유포자를 처벌해달라는 수사의뢰서를 경찰에 제출했다./사진=김성진 기자

디지털 성폭력의 일종으로 여겨지는 '알페스' 용의자들이 기소유예 처분에 그쳤다. 정치권 최고위층이 나서서 엄벌을 촉구하며 고발했지만 결국 처벌하지 못했다. 디지털 성범죄를 단죄하기 위한 사회적 공감대가 부족한 탓으로 풀이된다.

12일 경찰에 따르면 2021년 6월 서울 영등포경찰서가 성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌특례법) 위반혐의로 입건해 기소의견으로 서울남부지검에 송치한 알페스 제작·유포 용의자 7명이 최종 기소유예 처분을 받은 것으로 확인됐다. 이는 같은 해 1월 하태경 국민의힘 의원과 이준석 국민의힘 최고위원(현 개혁신당 의원) 등이 알페스 관련자 110여명을 경찰에 수사의뢰한 결과다.


◆ 미성년 아이돌 성행위까지 묘사한 알페스·섹테 모두 기소유예

알페스는 RPS(Real Person Slash)를 빠르게 발음한 단어다. 대개 아이돌 팬들이 멤버들을 주인공으로 등장시키는 가상스토리 '팬픽'의 일종으로 여겨지는데 아이돌을 성적 대상화하고 이들의 성적 지향과 상관없이 '남성 동성애'로 스토리를 만드는 게 특징이다. 미성년 아이돌 멤버를 대상으로 한 알페스도 텔레그램 등을 중심으로 빠르게 퍼져나갔다.

특히 미성년 아이돌 등을 대상으로 노골적 성행위를 묘사하는 콘텐츠까지 퍼지면서 사회적 문제가 됐다. 2021년 1월 알페스를 처벌해달라는 청와대 국민청원에는 22만여명이 힘을 보탰다. 고주희 당시 청와대 디지털소통센터장이 "아동·청소년의 성행위 등을 표현하는 그림을 포함하거나 딥페이크를 이용해 특정인을 성적 대상화하는 경우에는 현행법상 처벌대상이 된다"고 밝혔지만 결국 기소유예라는 솜방망이 처분에 그쳤다.


경찰이 입건한 7명 중 2명은 단순한 글·그림 알페스가 아닌 '섹테'를 제작해 배포한 것으로 알려졌다. 섹테는 목소리를 짜깁기해 마치 성행위 중 신음소리를 내는 듯한 연출이 가미된 음성파일이다. 이는 성착취물에 해당하는지 여부에 대해 논란이 있는 알페스와 달리, 현행법으로도 충분히 처벌 가능하다는 게 법조계의 주된 의견이었다.

일명 '딥페이크 방지법'으로 불리는 성폭력범죄처벌특례법 14조 2의 1항은 처벌 대상 영상물을 규정하면서 '사람의 음성을 대상으로 한 음성물'을 '대상자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 자'를 포함한다.

◆ "늘어나는 디지털 성범죄, 법적 대응 위한 사회적 논의 필요해"

/삽화=김현정디자인기자

충분한 법적 근거에도 불구하고 디지털 성범죄가 가벼운 처벌에 그치거나 아예 처벌을 피해가는 건 사회적 논의가 부족하기 때문이라는 분석이 나온다. 이성엽 고려대 기술경영전문대학원 교수는 "법상 배포 목적이 아니면 처벌이 어려운데 목적이라는 게 주관적이다 보니 검찰에서도 입증하는 게 쉽지 않다"고 봤다.

이 교수는 "어느 정도의 행위까지가 반사회적인 것으로 인정되는지에 대한 사회적 논의가 부족한 가운데 디지털 윤리의식도 박약해 디지털 성범죄물이 급증했을 것"이라며 "최근에는 디지털 성범죄물의 제작·소지만으로도 처벌하자는 의견이 광범위한 지지를 받는 것으로 보인다"고 전했다. 이어 "사회적 공감대가 먼저 형성돼야 국회에서도 법이 통과될 수 있을 것"이라며 "기술의 발전을 악용하는 행위에 대해 법이 어떻게 적절하게 개입할 수 있을지 논의할 시점"이라고 덧붙였다.


'딸깍' 10초만에 딥페이크 합성…사진 한 장만으로 '생지옥'

'눈물의 여왕'의 백현우(배우 김수현)와 이미지 합성을 한 기자 사진.

최근 합성음란물 유포 등 딥페이크(이미지 합성) 성범죄가 급증하면서 사회적 문제로 확산되는 가운데, 마우스 클릭 서너 번이면 누구나 쉽게 콘텐츠 제작이 가능한 것으로 나타났다. 단순 '재미' 용도로 개발됐지만, 마음만 먹으면 얼마든지 음란물을 제작해 악용할 소지가 있는 만큼 이용자들의 주의가 요구된다.

직접 딥페이크 콘텐츠 제작에 도전했다. 고도의 기술력과 거창한 프로그램이 필요할 것이란 기존 생각과 달리 웹사이트와 모바일 앱스토어에선 다양한 AI(인공지능) 얼굴 합성, 딥페이크 제작 앱이 유통되고 있다. 이들 앱 대부분은 기본적인 이미지 합성 기능을 무료로 제공한다. 정기권을 구매(3일 무료 체험 가능)하면 고화질 이미지 합성, 영상합성 등 프리미엄 서비스까지 이용할 수 있다.

이소룡 영상에 기자 사진을 합성한 영상.

대표적으로 '페이스 스와퍼 AI'(웹사이트)와 'AI 픽'(모바일앱) 두 가지 프로그램을 사용했다. 두 앱 모두 AI 기술을 활용해 사용자 얼굴을 대상 이미지에 합성하는 방식이다. 페이스 스와퍼 AI는 기본 이미지 합성 서비스는 무료로 제공하지만 'AI로 옷 갈아입기' '영상 합성' '단체 사진 합성' 등은 유료다. AI 픽은 기본 제공되는 AI 사진에 자신의 사진을 합성하는 식이다.

레오나르도 디카프리오와 이미지 합성 사진.

페이스 스와퍼 AI의 UI(사용자인터페이스)는 직관적이고 이용 방법도 간편했다. 마침 최근 새로 찍은 여권 사진이 있어 이미지 합성에 사용했다. 대상 이미지는 국내외 배우들이다. 이미지 합성 때 중점을 둔 부분은 '얼마나 감쪽같을까' '위화감은 없을까'였다. 감히 영화 '타이타닉'의 레오나르도 디카프리오 스틸컷과 합성해봤다. 제작 시간은 10초 남짓. 살짝 부자연스럽지만 나름 괜찮은 결과물이다. 눈매와 시선 처리, 표정 등을 잘 살렸다. 물론 '잘생김'은 사라졌다.

영화 '서울의 봄' 전두광(배우 황정민)과 이미지 합성 사진.

아직 내가 생각한 완벽한 딥페이크를 얻지 못했다. 조금 더 자연스러운 결과물을 위해 한국 배우와의 이미지 합성을 시도했다. '눈물의 여왕'의 김수현과 '서울의 봄'의 황정민과 합성하니 디카프리오보다 결과물이 훨씬 만족스러웠다. 리얼리티를 결정하는 요소인 음영 처리와 표정, 얼굴 방향까지 나름 만족할만한 수준이다. 드라마 주인공 실루엣에 내 모습이 담겨 신기했다.

AI 픽을 활용한 이미지 합성 사진.

또 다른 이미지 합성 앱인 AI 픽은 어떨까. 이 앱은 기본 제공되는 AI 사진에 자신의 이미지를 합성하는 방식이다. 페이스 스와퍼 AI보다 위화감은 덜하지만, 완벽한 자연스러움을 추구하다 보니 원본 사진이 많이 사라진 느낌이다. 특정 사진의 경우 아예 내 모습을 찾기 힘들 정도였다.

영상도 도전했다. 영상은 사진보다 훨씬 많은 사실감을 요구한다. 정면 사진만 신경 쓰면 되는 이미지 합성과 달리 영상은 표정 변화와 얼굴 측면까지 고려해야 한다. 프로그램을 통해 '이소룡'과 '닥터 스트레인지' 영상을 합성했다. 영상합성 역시 20초 정도로 빠르게 제작됐다. 움직임에 따라 변하는 표정이 꽤 자연스러웠다. 뭔가 웃기면서 어색했지만, 일반 영상으로 제작했다면 감쪽같을 수 있겠다는 생각을 했다.

닥터 스트레인지 영상에 기자 사진을 합성한 영상.

다양한 딥페이크 콘텐츠 프로그램을 사용해보고 느낀 점은 무서울 정도로 제작이 쉽고 간편하다는 점이다. 10대도 마음만 먹으면 얼마든지 불법 음성 합성물을 만들어 유통할 수 있다. 대부분 프로그램이 별도의 가입 절차가 필요 없다. 이메일 인증이 필요한 앱도 있지만, 추가적인 성인인증 절차를 요구하지 않는다.

AI 기술 발전으로 이젠 이미지와 영상이 진짜인지 가짜인지 의심해야 하는 시대가 왔다. 물론 딥페이크를 잘 활용하면 좋은 기능으로 사용할 수 있지만, 성범죄 등 악용 사례가 발생하면서 이를 규제할 강력한 법적 조치나 제도적 장치가 필요해 보인다. 자신의 사진이 어디서 어떻게 불법으로 활용되는지 모르는 세상에 살아가는 것이 정말 무섭다.


텔레그램이 딥페이크 온상인데…또 국내 플랫폼만 때려잡나

딥페이크 규제…국내 기업 역차별 없어야/그래픽=윤선정

생성형 AI(인공지능)를 악용한 딥페이크가 사회적 이슈로 떠오르자 국회가 관련 법안을 발의하며 대응에 나섰다. 특히 딥페이크가 주로 유통되는 텔레그램 등 플랫폼에 법적 의무를 부과하는 등 규제해야 한다는 목소리가 높아지자 일각에서는 자칫하다간 국내 플랫폼 역차별 문제가 불거질 수 있다는 우려를 제기한다.

12일 IT(정보기술) 업계에 따르면 딥페이크 문제가 터진 이후로 국회에는 관련 법안이 30건 이상 발의됐다. 주로 딥페이크를 편집, 합성, 가공하는 것뿐만 아니라 소지, 구입, 저장, 시청하는 행위에 대해 처벌 규정을 신설하고 상습적인 경우 형을 가중하는 내용이 대부분이다. 가해자에 대한 수사·처벌 강화, 방송통신심의위원회의 역할과 중요성 격상, 허위 영상물 삭제 등 피해자 지원을 위한 내용도 포함됐다.

이에 대해 플랫폼 업계와 학계 등에서는 딥페이크를 규제해야 한다는 점에 공감하지만 자칫 분위기에 휩쓸려 과도한 규제로 이어져선 안 된다고 지적한다. 생성형 AI 등장 이후 하루가 다르게 기술이 발전하고 있는 상황에서 섣부른 규제는 국내 플랫폼에 대한 역차별 문제를 일으키고 산업 발전에 부담을 줄 수 있다는 취지다.

이날 방송회관에서 열린 '딥페이크 성범죄영상물 OUT! 현안 진단과 대책 모색' 토론회에서 최경진 가천대학교 법과대학 교수는 딥페이크 관련 법제도 개선 방향으로 △AI가 실제 적용되는 분야의 특성과 구체적인 위험성을 고려한 비례적 규제 체계 정립 △자율 준수 강화 등을 제시했다. 그러면서 정부는 정부대로 법적 규제를 준비하되 기업은 자율규제를 강화해야 한다고 강조했다.

정필운 한국인터넷법학회장은 "네이버, 카카오와 같은 국내 사업자와 구글, 페이스북 같은 외국 사업자를 동등하게 대우하지 못하는 비대칭 규제가 가져온 결과를 생각해 볼 필요가 있다"며 "이른바 역차별이라고 불리는 이 문제는 국내 정보기술 산업의 발전을 가로막는 고전적인 문제 중 하나"라고 말했다. 이어 "유튜브, 텔레그램에 대한 실효적인 대응이 어려운 것에서 볼 수 있듯이 지금이라도 비대칭 규제에 대한 전향적인 인식을 할 필요가 있다"고 덧붙였다.

(서울=뉴스1) 신웅수 기자 = 최형두 국민의힘 의원이 5일 오후 서울 여의도 국회에서 열린 '딥페이크 성범죄영상물 어떻게 근절할 것인가' 토론회에서 발언하고 있다. 2024.9.5/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지. /사진=(서울=뉴스1) 신웅수 기자

국내 규제기관은 외국 플랫폼 규제에 어려움을 겪고 있다. 대표적으로 유튜브 뮤직의 경우 유튜브 프리미엄 끼워팔기 의혹으로 1년 넘게 조사가 진행되고 있지만 여전히 제재 종류와 수위를 결정하지 못하고 있다. 개인정보보호위원회의 경우 2022년 구글과 메타에 이용자 동의 없이 개인정보를 수집해 온라인 맞춤형 광고에 활용한 구글과 메타에 총 1000억원의 과징금을 부과했으나 행정소송으로 이어져 효력을 발휘하지 못하고 있다.

이번에도 텔레그램이라는 외국계 플랫폼에서 문제가 터졌는데 이를 이유로 전체 플랫폼에 대한 규제 법안을 새로 만들었다가 국내 플랫폼만 규제를 적용받을 수 있다는 게 업계의 관측이다. 최근 텔레그램이 불법 소지가 있는 부분을 수정하겠다는 뜻을 밝혔으나 이는 CEO(최고경영자)가 수감돼있기 때문이지 현실적으로는 국내 수사기관에서 접근조차 어려운 게 텔레그램이기 때문이다.

실제로 국내 플랫폼은 딥페이크 방지를 위해 여러 장치를 마련해두고 있다. 네이버(NAVER (160,100원 ▲100 +0.06%))의 경우 실시간 AI 이미지 필터링 시스템 '클로바 그린아이'를 각 서비스에 적용해 딥페이크를 걸러내고 있고 카카오 (35,600원 ▲250 +0.71%)도 포털 다음에서 딥페이크 관련 검색어를 청소년 보호 검색어로 지정하는 등 관련 노력을 기울이고 있다.

이소은 국립부경대 미디어커뮤니케이션학부 교수는 "딥페이크 악용 이미지를 삭제하거나 업로더 활동 금지, 관련 커뮤니티 폐쇄, 관련 검색어 금지 등 플랫폼 사업자의 자율규제가 필요하다"며 "플랫폼 책무를 부과하는 입법에 대해서는 산업계에 미치는 부작용도 고려해야 한다"고 강조했다.

한 플랫폼 업계 관계자는 "국내에서는 워낙 플랫폼 산업에 대한 규제가 강해 한 번이라도 문제가 생기면 큰 타격을 입을 수 있어 다들 조심하는 분위기"라며 "자체적으로 시스템도 마련하고 모니터링도 운영하면서 딥페이크 같은 성범죄에 대응하고 있다. 지금도 외국계 기업은 국내 규제를 우습게 아는데 추가적으로 규제가 생기면 국내 산업만 더욱 위축될 것"이라고 말했다.


딥페이크 공화국 오명 쓴 한국…옆에서 몰래 거드는 중국

/AFPBBNews=뉴스1

"한국은 딥페이크 음란물 문제의 진앙."

가디언·BBC·월스트리트저널(WSJ) 등 주요 외신은 최근 한국의 딥페이크(Deepfake·이미지 합성 기술) 음란물 사태를 집중 조명했다. 이들은 한국이 몰카(몰래카메라), 텔레그램 'N번방' 사태 등 "디지털 성범죄 관련 어두운 역사가 있다"며 이번에 딥페이크 음란물과 싸우며 전 세계적 문제의 진앙이 됐다고 평가했다. 그러나 딥페이크 음란물 문제는 과거 미국 등에서도 논란이 됐었고, 확산한 영상 대부분이 중국에서 만들어진 것이라며 한국이 오명을 쓰고 있다는 주장도 있다.

12일 주요 외신 보도를 종합하면 매체들은 한국의 성(性)차별, 성희롱 문화, 왜곡된 성인식 속 AI(인공지능) 등 첨단기술 발전, 낮은 처벌 강도 등이 한국 내 디지털 성범죄의 폭발적인 증가로 이어졌다고 지적한다. 특히 영상을 유포하는 채팅창이 한국어로 이뤄졌다는 점을 앞세워 딥페이크 음란물 제작자와 이를 원하는 사람들이 한국인이라고 특정했다.

WSJ은 "익명의 텔레그램 사용자 수십만 명이 이미지와 동영상으로 조작된 한국 여성들의 사진을 (당사자의) 허락 없이 유포했다. 영상이 유포된 채팅창은 한국어로 이뤄졌다. 이는 해당 채팅방에 있는 사람들이 한국인이라는 것을 보여준다"고 전했다. 특히 일부 연구 결과를 인용해 "한국은 전 세계에 확산한 딥페이크 음란물의 약 절반을 공급하는 국가"라며 한국의 딥페이크 음란물 사태가 상당히 심각한 수준이라고 짚었다. 프랑스 일간지 르몽드는 과거 오랫동안 '불법 촬영 공화국'으로 불렸던 한국이 이젠 '딥페이크 공화국'이 됐다고 전하기도 했다.

다만 일부 매체들은 딥페이크 음란물 대부분이 중국에서 만들어졌다는 과거 연구 자료를 인용해 한국을 '중국발 영상의 피해국'으로 봤다. 미국 대표 대중문화잡지인 롤링스톤은 2019년 네덜란드 사이버보안 연구업체 딥트레이스의 자료를 인용해 "케이팝(K-POP)이 세계적인 산업으로 성장하면서 케이팝 스타들이 딥페이크 영상의 피해자가 되고 있다"며 "(케이팝 스타들의) 딥페이크 영상 대부분은 한국이 아닌 중국에서 제작된 것"이라고 설명했다. 중국이 케이팝의 주요 소비국 중 하나인 만큼 케이팝 가수에 대한 딥페이크 영상도 많이 제작하고 이를 유포하고 있다는 주장이다.

이와 관련 미국의 비영리 뉴스 매체인 마켓플레이스는 지난 6월 "최근 중국 내 딥페이크 기술 가격이 저렴해지고, 해당 기술을 습득해 활용하는 것이 이전보다 훨씬 간단해졌다. 틱톡, 더우인 등 중국 SNS 내 AI로 생성한 '외국인의 딥페이크 영상'이 더 많이 등장하고 있다"며 "외국인이 중국에 자신의 딥페이크 영상이 있는지 알아내는 건 쉽지 않아 관련 처벌도 어려운 상황"이라고 지적했다.

딥페이크 음란물 영상 분석/그래픽=이지혜

미국 사이버보안업체인 시큐리티히어로의 '2023 딥페이크 현황' 보고서에 따르면 한국은 딥페이크 음란물에 가장 취약한 국가이고 한국인 가수는 딥페이크 음란물 범죄에 가장 많이 노출된 것으로 나타났다. 보고서는 "한국은 딥페이크 음란물의 가장 큰 표적이 되는 국가"라며 "딥페이크는 엔터테인먼트, 정치, 허위 정보 등 다양한 목적으로 사용되지만, 특정 국가에서는 특정 형태 특히 노골적인 성격의 콘텐츠에 더 취약한 경향이 있다"고 설명했다.

시큐리티히어로가 2023년 7월15일~8월29일(현지시간) 딥페이크 음란물 사이트 10곳과 유튜브 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만5820건을 분석한 결과 영상에 가장 많이 등장한 인물은 한국인이었다. 한국인 비중은 전체의 53%로, 2위인 미국인(20%)을 크게 앞섰다. 일본인, 영국인, 중국인의 비중은 각각 10%, 6%, 3%였다.

또 보고서가 꼽은 딥페이크 음란물의 최대 피해자 10명 중 8명이 한국인이었고, 이들 모두 가수였다. 보고서는 사안의 민감성을 고려해 피해자의 이름을 밝히지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 음란물 1595건에 등장했고, 영상 조회수는 561만회 이상에 달했다. 두 번째 피해자의 영상은 1238건으로 조회수는 386만5000회로 집계됐다.