늘어나는 '딥페이크 영상'…작년 월 90건 조치→올해 160건

머니투데이

변휘 기자

/사진=김현정디자이너

방송통신심의원회(방심위)가 작년 6월 이후 15개월 동안 차단·삭제한 '딥페이크 성적 허위영상(불법합성물)'이 약 2000개에 달하는 것으로 조사됐다.

27일 국회 과학기술정보방송통신위원회 소속 김상희 부의장(더불어민주당)이 방심위에서 제출받은 자료에 따르면, 방심위가 차단·삭제 지시한 불법합성물은 지난해 6월 25일부터 작년 말까지 548건, 올 들어 지난달 25일까지는 1408건이었다.

조치 건수 합계는 총 1956건이며, 1년 사이 조치 건수는 월 평균 약 90개에서 약 160개로 급증했다. 이는 딥페이크 범죄에 대한 처벌을 강화하는 내용의 '성폭력범죄의 처벌 등에 관한 특례법'이 개정·시행된 결과로 풀이된다.

하지만 김 부의장은 "딥페이크 범죄가 근절될 것이라는 예상과 달리 그 수법은 진화하고 차단·삭제 건수도 증가하고 있다"고 평가했다. 또 경찰청에서 제출받은 딥페이크 범죄 내용에 따르면, SNS와 채팅 메신저로 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 불법촬영물을 제작한 뒤 판매·유포하는 행태가 늘어난 것으로 파악했다.

이 때문에 AI(인공지능) 등 지능정보 기술 악용 피해를 막기 위해 기술 규제가 필요하다는 목소리도 나온다 .현행 '지능정보화 기본법'에 따르면 지능정보 기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고, 필요하다면 국가가 그 기술을 비상 정지하게 돼 있다. 그러나 이 같은 조치가 적용된 전례가 없다.

김 부의장은 "현행법에는 AI를 악용해 심각한 정신적, 금전적 피해를 주는 것에 대한 규정이 없다"며 "AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다"고 말했다.