5분만에 찾아낸다…'한국인' 딥페이크 탐지 프로그램 개발

머니투데이

이강준 기자

(서울=뉴스1) 김명섭 기자 = 23일 오전 서울 양천구 방송통신심의위원회에서 열린 제14차 통신심의소위원회 회의에서 한 위원이 틱톡에 올라온 '가상으로 꾸며본 윤석열 대통령 양심고백' 딥페이크 영상 게시물 관련 자료를 살펴보고 있다. 2024.2.23/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지. /사진=(서울=뉴스1) 김명섭 기자

경찰청 국가수사본부가 딥페이크 탐지 소프트웨어를 개발해 딥페이크를 이용한 범죄 단속에 활용한다고 5일 밝혔다.

경찰이 개발한 탐지 소프트웨어는 딥페이크 의심 영상을 시스템에 올리면 5~10분 내 분석 작업을 완료해 영상의 진위 여부를 판별한다. 판별이 완료되면 결과보고서를 즉시 만들어 수사에 곧바로 활용할 수 있다.

기존 딥페이크 탐지 모델은 해외에서 제작돼 북미·유럽계 위주 데이터로 구성됐다. 이 때문에 한국인을 대상으로 합성된 영상은 탐지율이 떨어지는 문제점이 있었다.

이번에 개발한 탐지 소프트웨어는 인물 5400명의 데이터 520만점(한국인 데이터 100만점, 아시아 계열 인종 데이터 13만점 포함)으로 한국인 데이터 학습이 이뤄졌다. 기존 학습 데이터에 없는 새로운 합성 영상이 발견돼도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.

이 소프트웨어의 진위 여부 탐지율은 약 80%다. 100%가 아닌만큼 경찰은 증거자료보다는 수사 방향을 설정하는 자료로 쓸 방침이다. 경찰은 딥페이크 영상 선거범죄에 대해서는 학계·기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 거쳐 해당 소프트웨어의 오탐지 가능성도 낮출 예정이다.

경찰은 개정 공직선거법 제82조의8에 따라 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동이 금지돼 해당 범죄에 대해 엄정 대응하겠다고 밝혔다.

경찰청 관계자는 "더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것"이라며 "선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 말했다.