구글 "생성AI가 만든 영상, 사람과 같은 기준으로 차단"

장 자크 사헬 구글 아채지역 콘텐츠 정책총괄. /사진=구글

구글이 AI가 제작한 콘텐츠에 대해서 사람이 만든 콘텐츠와 동일한 기준으로 삭제·차단한다는 원칙을 공개했다. 생성형 AI를 이용한 양산형 콘텐츠나 가짜뉴스가 범람할 수 있어 규제가 필요하다는 시선이 있지만, 다른 잣대를 들이대지 않겠다는 의미다.

장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄은 27일 서울 강남구 구글코리아 본사에서 열린 온라인 간담회에서 "새로운 기술을 기반으로 나온 신규 제품도 (기존과) 동일한 원칙을 적용할 것"이라고 밝혔다.


사헬 총괄은 구글의 동영상 플랫폼 유튜브나 앱마켓 구글플레이 등에 부적절한 콘텐츠가 노출되지 않도록 관리한다. 혐오발언이나 허위 정보, 사기 행위 등을 걸러내는 정책을 만드는 것이다.

사헬 총괄은 "아직까지 (생성형 AI) 기술이 초기 단계이다 보니 (가짜뉴스 등) 문제가 나타나는 것 같다"며 "구글도 이런 콘텐츠와 관련해 큰 책임감을 느끼고 관련 정책 설립·집행을 진행하고 있다"고 설명했다. 그는 "이를 위해 프로세스를 구축하고 인력을 훈련 시키며 유해 콘텐츠에 대항하는 등 많은 노력을 하고 있다"고 덧붙였다.

사헬 총괄은 동시에 생성형 AI가 콘텐츠 업계에 줄 수 있는 긍정적인 측면이 많다고도 강조했다. 생성형 AI로 생겨나는 긍정적인 측면과 부정적인 측면 양쪽을 잘 활용할 수 있도록 고민하고 있다는 뜻이다. 버추얼 인플루언서 콘텐츠나 양산형 콘텐츠 등 생성형 AI가 만든 콘텐츠라고 해서 별도의 기준을 세우지 않는 것도 이같은 이유에서다.


그는 "우리는 기술 발전 측면에서 매우 기대되는 시기에 살고 있다"며 "(생성형 AI가 만드는 콘텐츠의) 유해한 부분은 끊임없이 과거처럼 엄격하게 다루겠지만, 동시에 이 신기술이 제공하는 기회는 적극적으로 활용할 수 있게끔 해야 한다"고 강조했다.

구글은 현재 AI 머신러닝(ML)을 활용해 대부분 유해 콘텐츠를 삭제·차단하고 있다. 지난해 4분기 기준 유튜브에서 삭제된 영상의 94% 이상이 머신러닝 기술로 감지됐고, 이 중 71% 이상이 조회수 10회를 기록하기 전 AI에게 적발됐다. 인간의 판단이 필요한 부분은 2만명 인력이 직접 검토·삭제한다. 사헬 총괄은 "한국어를 포함해 여러 언어에 능통한 사람들이 전 세계에서 삭제 요청과 신고를 24시간 처리하고 있다"고 했다.

구글은 제품과 서비스 전반에 걸쳐 △개방성과 접근성 유지 △이용자의 선택 존중 △문화적·언어적 다양성 고려 등 일관되게 적용되는 기준을 바탕으로 정보의 품질 관리에 접근하고 있다.