오세훈 "딥페이크 불법영상물 삭제주체 '국가→지자체' 확대하자"

오세훈 서울시장이 3일 오전 국회 의원회관 제8간담회의실에서 열린 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책토론회'에 참석해 발언하고 있다./사진제공=오세훈

오세훈 서울시장이 텔레그램 등을 통해 무차별 확산하는 딥페이크(Deepfake·이미지·음성합성기술) 피해자 신속 지원을 위해 불법 영상물 삭제 주체를 국가에서 지방자치단체로 확대하는 법령 개정을 제안했다.

오 시장은 3일 오전 국회 의원회관(제8간담회의실)에서 열리는 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회'에 참석한다. 조은희 국민의힘 의원실과 한국여성인권진흥원이 주최한 이날 토론회에선 이수정 교수, 경찰청, 서울시, 서울시교육청 등이 발제자로 나선다.


오 시장은 토론회에서 "딥페이크 영상은 제작에 단 '7초' 밖에 걸리지 않고 누구나 피해자가 될 수 있다는 점에서 이전의 디지털 성범죄와는 다른 양상을 보이는 것이 특징"이라며 "해외에 서버를 둔 텔레그램 특성상 가해자를 특정하기 어려워서 수사도 힘든 상황"이라고 했다.

그러면서 "현재 전국적으로 피해 학교가 400개에서 500개 정도 될 것으로 추산되고는 있지만 딥페이크 특성상 피해자가 피해 사실을 모르는 경우가 많다는 점을 고려하면 정확한 피해 규모를 추산하는 것조차 어렵다"며 "서울시는 최대한 서둘러 단 한 명의 피해자라도 더 도와 피해자가 무거운 짐을 홀로 감당하지 않도록 함께 하겠다"고 했다.

서울시는 디지털 성범죄 예방과 피해자 지원을 위해 지난 2022년 '서울 디지털성범죄 안심지원센터'를 개관해 영상 삭제 지원부터 피해자 지원까지 원스톱서비스를 제공하고 있다. 지금까지 약 2년 반 동안 1437명을 대상으로 3만9764건의 피해를 지원했다.

지난해에는 전국 최초로 인공지능(AI) 기술로 피해 영상물을 24시간 자동 추적·감시하고 삭제하는 기술을 개발해 성착취물을 찾아내는 데 걸리는 시간을 평균 2시간에서 3분으로 크게 줄였다. 이런 노력을 높게 산 UN(국제연합)으로부터 올해 국내에서 유일하게 '2024 UN 공공행정상' 대상을 수상하기도 했다.


최근에는 지자체 최초로 방송통신심의위원회와 협력해 피해 영상물을 24시간 내 삭제 지원하는 핫라인 시스템을 가동 중이다. '디지털 성범죄 SOS 상담창구'를 신설해 개설한 지 2일 만에 딥페이크 피해자 15명에게 상담 지원을 제공했다.

진화하는 딥페이크 기술에 대응하기 위해 피해자 얼굴 사진과 유사도·정확도가 높은 영상을 검출하는 AI 얼굴매칭 딥페이크 검출기술인 '서울 안심 아이'를 내년 상반기까지 개발한다. 검색부터 신고까지 전 과정을 AI가 자동 실시하는 AI 신고자동화 시스템도 연내 구축할 계획이다.

아울러 이번 달부터 초·중·고 50개 학급 1000명을 대상으로 딥페이크 예방교육을 운영하고, 재발 방지를 위해 가해자 상담·교육도 함께 추진한다. 오 시장은 신속한 피해자 지원을 위해 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요한 만큼, 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구할 예정이다.