네이버, 딥페이크 전용 신고채널 개설

/사진=네이버

NAVER (160,100원 ▲100 +0.06%)(네이버)가 최근 사회적 문제로 급부상한 딥페이크 영상에 따른 피해를 신고하는 전용 채널을 개설했다. 네이버는 28일 고객센터 공지를 통해 이 같은 사실을 알렸다.

네이버는 "최근 사회적으로 문제가 되고 있는 딥페이크 기술을 악용한 디지털 성범죄와 관련해 네이버는 이용자 여러분의 안전과 개인정보 보호를 최우선으로 생각한다"며 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있고, 타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 AI 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 밝혔다.

이어 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견했다면, 아래의 신고 채널을 통해 접수해 주기 바란다"며 "이용자 여러분의 적극적인 협조를 부탁드리며, 안전한 온라인 환경을 만들기 위해 최선을 다하겠다"고 덧붙였다.


한편 네이버는 2017년 개발한 AI(인공지능) 기술 기반의 실시간 음란물 필터링 기술인 '클로바 그린아이'로 네이버 카페, 블로그 등에서 감지된 운영정책 위반 게시물은 감지된 즉시 차단 등의 조치를 취하고 있다. 그린아이는 네이버에 축적된 다양한 이미지 데이터를 학습해 99.5%의 적중률로 높은 판단 정확도를 보인다. 2022년부터는 네이버 클라우드 플랫폼을 통해 외부 기업도 사용할 수 있는 솔루션으로 공개하고 있다.

아울러 네이버는 운영정책을 위반하는 게시물을 빠르게 감지해 조치하기 위한 기술의 개발, 적용과 함께 AI 시스템을 통해 걸러진 운영정책 위반 게시물의 보다 정확한 처리를 위해 모니터링 전담 부서를 운영하고 24시간 모니터링 체제를 유지하고 있다.