유재석 추천 리딩방 입장했다 '탈탈'…판치는 사칭범, 구글 칼 뺐다

[단독]유재석도 뒷목잡은 '그 놈'…'진짜 얼굴'로 잡아낸다 ①구글, AI 기술로 AI 범죄 차단

미국 캘리포니아주 마운틴뷰에 위치한 구글 본사 전경. 2019.5.16. /로이터=뉴스1

구글이 '사칭'과의 전쟁에 나섰다. '딥페이크(Deepfake)'를 활용한 사칭 영상이 유튜브에서 범람하는 가운데 AI(인공지능)를 악용한 범죄를 AI기술로 뿌리 뽑기 위한 시험에 나선다. AI가 유명인의 얼굴 데이터를 사전 학습하고, 이를 기반으로 유명인 사칭 영상·광고가 유튜브에 불법적 용도로 등장하면 적발해 조치하는 방식이다.


20일 플랫폼 업계와 관계당국 등에 따르면 구글은 사칭 광고 근절을 위한 기술적 방안 중 하나로 유명인의 얼굴 데이터를 활용하는 방안을 시험 중이다. 국내에서는 실제로 사칭 광고 등에 얼굴을 도용당한 다수 유명인들을 대상으로 협조를 요청한 것으로 알려졌다.

최근 딥페이크 기술이 대중화하면서 유명인의 얼굴을 도용한 투자 사기가 기승이다. 유튜브·인스타그램·페이스북 등 주요 플랫폼에 유명인이 등장해 유망한 주식 투자 종목을 추천하거나 재테크 도서·강연 등을 권하는 사진·영상 등을 올리고, 관심을 갖는 사람에게 투자금을 요구한 뒤 편취하는 수법이다. 물론 광고 내 유명인 초상은 조작된 콘텐츠다.

이에 얼굴을 빼앗긴 이들이 직접 나섰다.방송인 송은이·황현희씨, 유명강사 김미경씨, 존리 전 메리츠자산운용 대표, 주진형 전 한화투자증권 대표 등 다양한 분야의 인사들이 '유명인 사칭 온라인 피싱 범죄 해결을 위한 모임(유사모)'를 결성해 지난달 22일 기자회견에 나섰고, 방송인 유재석 등 137명이 유사모에 동참했다. 여론이 악화된 데다 유명인들 중 여럿이 유튜브 생태계를 지탱하는 크리에이터이기도 한 만큼, 구글도 한층 문제의 심각성을 인식했다는 평가다.

지난달 22일 오후 서울 중구 한국프레스센터에서 진행된 '유명인 사칭 온라인 피싱범죄 해결 촉구' 기자회견. 2024.03.22 /사진=김창현

특히 구글은 최근 다수 유명인들을 대상으로 얼굴 데이터 수집·활용 등에 대한 사전 동의 의사를 타진 중인 것으로 알려졌다. 본인이 허락한 경우 구글의 AI가 해당 유명인의 얼굴 데이터를 학습하고 유튜브 영상들을 모니터링해, 그중 불법·사칭 영상을 가려내는 방안을 시험하려는 준비로 보인다.

다만 구글의 이 같은 기술적 대응책이 실제 적용될지 단정하기는 이르다. 두드려 봐야 할 돌다리가 여럿이다. 우선 유명인 등장 콘텐츠 중 실제로 불법·사칭 범죄를 정교하게 가려낼 수 있을지가 관건이다. 플랫폼 업계 관계자는 "유명인 얼굴이 쓰인다고 무조건 불법·사칭으로 분류할 수는 없다. 자유로운 창작 활동을 저해할 수 있기 때문"이라며 "구글로서는 경계해야 할 이슈"라고 진단했다. 이에 유명인이 직접 참여하지 않음에도 유명인 광고가 등장하면서 대규모 수익이 발생하는 채널 또는 광고주 등이 모니터링 대상으로 꼽힌다.

또 유튜브는 전세계를 대상으로 하는 플랫폼이다. 국내는 물론 해외에서도 유명인 사칭 범죄가 빈번한 만큼, 얼굴 데이터 기반의 AI 모니터링 조치는 국경을 넘나들 수 있다. 구글과 같은 빅테크의 생체인식 정보 수집은 사회적 논란을 초래할 수 있는 휘발성 높은 소재다. 관련 법·규제 현황도 신중히 검토해야 할 대목이다.

이와 관련 구글코리아 관계자는 "이용자 보호는 언제나 최우선 과제다. 구글은 엄격한 정책 및 집행 프로세스를 갖춰 구글 플랫폼 내에서 발생하는 악의적인 부정 행위들을 차단한다"면서 "특정인의 이미지가 구글의 정책을 위반해 악용되는 사실이 발견되면 이를 감지하는 기술 및 관련 정책의 집행 기술들을 적용, 원작자의 이미지와 구글의 이용자들을 보호할 것"이라고 말했다.

유명인 얼굴 팔아 온라인 피싱…사칭 광고, 안잡나 못잡나② 네카오·구글·메타, 사칭광고와 전쟁

/그래픽=조수아 디자인 기자

최근 유명인을 사칭한 온라인 피싱 사례가 증가하면서 국내외 플랫폼 역시 강력 제재로 대응에 고삐를 죄고 있다. 다만 이 같은 노력에도 온라인 플랫폼상에 '사칭 광고'는 근절되지 않고 있다. 이에 대해 플랫폼 업계는 '유명인'이라는 범주가 불명확해 이를 완전히 걸러내는 데에 애매한 부분이 있고, 일부 기술적인 한계도 있다고 입을 모은다.

20일 업계에 따르면 국내 대표 플랫폼 네이버(NAVER (194,600원 ▲5,800 +3.07%))와 카카오 (49,200원 ▲900 +1.86%)는 사칭 광고에 대한 신고 및 모니터링을 강화하고 있다. 지난해 10월부터 본격 시작된 연예인, 경제전문가 등 유명인 사칭 범죄는 페이스북에서 시작돼 유튜브로 번졌으며, 카카오톡 네이버 밴드 등의 플랫폼을 통해 기하급수적으로 퍼졌다.

이에 네이버는 지난해 11월부터 사칭 계정이 개설한 밴드에 일괄적으로 제재를 가하는 등 징계 기준을 강화하고, 24시간 집중 모니터링을 운영하고 있다. 또 사칭 투자 유도 밴드에 대한 신속한 조치가 가능하도록 밴드 서비스 내 '신고하기' 사유에 '사칭' 추가 및 내부 징계·고지 시스템을 고도화했다.

올해 1월엔 네이버 밴드 활동 정책에 '이용 제한 사유에 해당하는 사칭 계정 및 사칭 밴드 정의와 징계 기준'을 명문화했다. 더불어 이달 4일엔 네이버 신고센터 내 사칭 피해 신고 채널을 추가했다. 밴드 포함 네이버 서비스에서 사칭 피해가 발생한 경우 피해를 신속히 신고할 수 있도록 개선한 것이다. 지난 11일부터는 유명인 사칭의 경우 본인확인 후 즉시 조치되도록 강화했다.

카카오도 오픈채팅에서 발생하는 사칭 광고 피해에 대해 이용자의 신고를 바탕으로 조치를 취하고 있다. 오픈채팅 전체 신고 영역에 사기·사칭 전용 신고 메뉴를 신설하고, 수시로 금칙어를 강화해 해당 키워드 검색 시 노출을 제한하도록 운영하고 있다. 또한 올 상반기 중 고객센터 도움말 페이지에 '사기·사칭 신고' 설명 페이지를 추가할 예정이다.

네이버, 카카오 등 국내 포털을 회원사로 둔 KISO(한국인터넷자율정책기구) 관계자는 "유명인 등 사칭 사례가 발견될 경우 고객센터에 신고하면 이용을 제한한다"며 "신고뿐 아니라 모니터링을 통해서도 관련 사례를 수집해 조치(이용 제한)하고 있다"고 말했다.

그간 미온적 반응으로 일관했던 구글과 메타도 최근 부랴부랴 대응책을 내놨다. 구글은 지난달 28일 고객지원 홈페이지의 광고 정책 페이지를 통해 사칭 행위가 발견되면 경고 없이 계정을 정지하는 원스트라이크 아웃제를 시행한다고 밝혔다. 또 AI(인공지능) 모델 '제미나이'를 활용해 사칭 관련 정보를 색출한다는 계획이다. 이와 함께 '유명인 동의' 전제로 얼굴정보를 수집해 사칭광고 방지 기술을 시험 중이다.

메타 역시 지난 5일 한국 뉴스룸에 올린 '사칭 광고에 대한 메타의 대응과 노력' 게시글에서 "우리의 플랫폼에 사칭 계정들이 존재하며 사기행위를 하고 있다는 사실을 인지하고 있다"며 "정책 위반 계정·페이지·광고를 정지·삭제하는 등 단속을 대폭 강화했다"고 밝혔다. 이를 위해 메타는 유명인 사칭 광고에 대한 추가 탐지 모델을 구축했다.

국내외 플랫폼의 이 같은 노력에도 유명인 사칭 사례는 좀처럼 근절되지 않고 있다. 업계는 사칭 광고 및 콘텐츠를 판별하는 데 애매한 부분이 있고, 인력 및 기술적인 한계도 있다고 설명한다. 게다가 불법 광고사들은 플랫폼 단속을 피하기 위해 '우회 교육'까지 하는 것으로 알려졌다.

플랫폼 업계 한 관계자는 "'유사모'(유명인 사칭 온라인 피싱 범죄 해결을 위함 모임) 회원을 비롯해 유명 연예인의 사칭 광고는 집중 모니터링 하고 있어 거의 100% 조치하고 있다"면서도 "다만 유명하지 않은 투자가나 리딩방 등의 경우 사칭 광고 구분이 어렵고 판별하는데 시간이 걸려 실시간 대응은 힘들다"고 말했다. 그러면서 "모니터링 인력이 부족하고, (사칭 광고) 필터링 기술도 한계가 있다"고 덧붙였다.