전세계 딥페이크 성행하자…20개국이 한국 경찰 찾은 사연

머니투데이

이강준 기자

(서울=뉴스1) 장수영 기자 = 국가수사본부 사이버범죄수사과 김문영 경감이 28일 서울시내에서 수사참고자료로 활용하는 딥페이크 탐지 소프트웨어를 설명하고 있다. 해당 소프트웨어는 한국인 및 아시아인 5400여 명의 얼굴과 이를 이용한 520만 점의 합성물 데이터를 바탕으로 주파수 및 정합성 분석 기법을 활용, 약 80%의 탐지율을 나타낸다. 2024.8.28/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지. /사진=(서울=뉴스1) 장수영 기자

경찰청 국가수사본부가 구축한 온라인 아동청소년 성착취물 삭제·차단 국제 대응플랫폼 '아이나래'(InaRAE)에 참가하려는 국가가 늘고 있다. 경찰은 아이나래를 통해 타국 법집행기관과 손잡고 최근 문제가 된 청소년 대상 딥페이크 음란물 대응에도 나선다. 아이나래는 일종의 디지털 핫라인으로 아동성착취물이 올라간 사이트를 실시간으로 회원국끼리 공유해 삭제·차단을 요청할 수 있는 플랫폼이다.

29일 경찰청에 따르면 아이나래에 동참한 대만·싱가포르·인도네시아·태국 등 6개국을 제외하고 20개국 법집행기관, 단체가 플랫폼 동참에 긍정적인 입장을 내놨다.

경찰청은 지난 5월 아이나래 구축을 완료했다. 아이나래의 주요 기능은 △자동분류 기능 △삭제 요청 기능 △차단 요청 기능 세 가지다.

아이나래는 각 회원국에서 제공한 합법 및 불법 사이트의 URL 목록을 등록해 데이터베이스를 구축한다. 아동성착취물이 등재된 문제 사이트의 URL을 아이나래 입력창에 입력하면 해당 데이터베이스를 기반으로 그 사이트를 규제하는 국가가 어느 곳이고 불법 사이트에 해당하는지를 즉시 표시(자동 분류)해 준다.

/사진제공=경찰청

삭제 요청 기능은 아동성착취물이 등재됐지만 사이트 자체는 합법적인 것으로 표시될 경우 사이트를 규제하는 회원국을 지정해 해당 게시물을 삭제 요청을 할 수 있도록 하는 기능이다.

차단 요청 기능은 아동성착취물이 등재된 사이트가 불법 사이트로 분류될 경우에 활용한다. 각 회원국은 수사 과정에서 불법 사이트로 판단되는 사이트를 발견할 경우 아이나래를 통해 다른 회원국 전부에 해당 사이트 URL 차단을 요청할 수 있다.

/사진제공=경찰청

경찰은 국내에서 피해 사례가 다수 보고된 만 16세미만 아동청소년을 대상 딥페이크 음란물이 해외 온라인 사이트를 통해 유포될 경우 아이나래를 적극 활용해 선제 대응한다는 방침이다.

청소년 대상 딥페이크 음란물 피해 신고는 계속 늘고 있다. 교육부는 17개 시도교육청을 통해 확인한 결과 올해 1월부터 지난 27일까지 학생 186건의 피해 신고가 접수됐다고 밝혔다.

피해자 가운데 초등학생이 8명, 중학생 100명, 고등학생 78명이었다. 교육부는 179건에 대해 수사를 의뢰했다.

/사진=김현정디자인기자

경찰에 검거된 딥페이크 음란물 피의자도 10대가 대다수였다. 올해 1~7월 딥페이크 음란물 영상 제작 혐의로 붙잡힌 피의자 중 10대가 131명으로 73.6%를 차지했다. 지난해에도 91명으로 75.8%에 달했다.

경찰청 사이버범죄수사과는 이날 전 세계 법집행기관이 모인 '2024 국제 사이버범죄대응 심포지엄'에서 더 많은 국가가 아이나래에 동참할 수 있도록 이 플랫폼을 소개하고 아동청소년 성착취물 차단 의지를 내비쳤다.

함영욱 경찰청 사이버범죄수사과장은 "아동청소년 성착취물에 대해서는 반드시 차단하고 피의자를 엄단해야 한다는 공감대가 있다"며 "국내를 비롯해 해외에서도 문제가 되는 딥페이크 음란물도 아이나래를 통해 대응해나갈 수 있을 것"이라고 말했다.

경찰청은 딥페이크 성범죄를 근절하기 위해 이날부터 7개월간 특별 집중단속도 실시한다. 경찰은 시·도경찰청 사이버성폭력수사팀을 중심으로 적극적으로 단속해나갈 예정이다. 딥페이크 제작부터 유포까지 철저히 추적·검거해 피의자를 발본색원할 방침이다.

경찰청은 시·도경찰청과 긴밀히 협업하면서 △딥페이크 탐지 소프트웨어를 활용한 분석 △국제공조 등 수사에 필요한 사항도 지원할 예정이다.

경찰은 특히 딥페이크 대상이 아동·청소년일 경우 아동·청소년성착취물에 해당하므로 청소년성보호법을 적용해 더욱 엄정대응 한다.