구글 'AI소스' 공개했더니 성인물 합성 부작용이…

미국 실리콘밸리 마운틴뷰에 위치한 구글 본사(구글플렉스)/사진=구글

2015년 구글은 AI(인공지능) '텐서플로우'(Tensorflow)를 오픈소스로 공개했다. 텐서플로우는 구글 브레인팀이 만든 AI 기계학습 시스템이다. 스스로 이미지나 소리 등을 학습해 대상을 구별할 수 있다. 예를 들어 이미지를 인식해 질병을 발견하거나 새 소리를 듣고 종류를 구분한다.


하지만 오픈소스 공개 3년째인 지금 AI를 활용한 성인 영상물이 등장하고, 정치인의 연설 장면을 합성하는 등 부작용이 나타나 대책 마련이 시급하다는 지적이 제기된다.

8일(현지시간) 쿼츠 등 주요 외신에 따르면 소셜 뉴스 사이트 레딧(reddit)에서 활동하는 '딥페이크스'(deepfakes)라는 아이디는 최근 텐서플로우를 활용해 어느 얼굴이든 영상에 합성할 수 있는 소프트웨어를 제작하고 이를 공유했다.

1시간짜리 영상을 합성하는 데 8~12시간이 걸리지만 반응은 폭발적이다. AI가 프레임별로 정밀하게 짜깁기한 영상은 진짜인지 합성인지 구분하기 힘들 정도였다.

이 소프트웨어가 공유된 레딧 커뮤니티에는 순식간에 9만1000여명의 팔로워가 몰렸다. 사람들은 유명 배우나 지인들의 얼굴을 성인 영상물에 합성해 올리기 시작했고, 이런 영상이 SNS(소셜네트워크서비스)로 퍼져나가며 문제가 커졌다.


또 다른 레딧 유저는 아예 스마트폰으로 합성할 수 있는 페이크앱(FakeApp)도 내놨다. 딥페이크스의 소프트웨어가 컴퓨터에서만 가능했던 점을 보완해 모바일에서도 이용할 수 있게 한 것. 이 앱은 초보자들도 쉽게 합성할 수 있는 간편함을 장점으로 내세운다.

선구자가 등장하면 추종자도 생기는 법. AI를 활용해 가짜 성인물을 만드려는 개발자도 10여명 넘게 등장했다. 한 개발자는 인스타그램에 올라간 영상을 복사하기만 하면 누드로 합성해주는 프로그램을 선보이기도 했다.

그러는 사이 피해자들도 늘어갔다. 영화배우 엠마 왓슨, 가수 제시카 알바, 페이스북에 올라온 평범한 개인까지 사람들의 검은 욕구를 채워주는 희생양이 됐다. 심지어 엠마 왓슨의 합성 누드 영상은 한 연예 전문 웹사이트에 게재돼 논란이 일기도 했다.

/사진=pixabay

AI가 합성하는 영상물 기술은 정치 영역으로 확산될 조짐을 보인다. '가짜 뉴스' 문제가 영상으로 확대되면 혼란이 더 커질 것이라는 우려가 나온다. 레딧에는 이미 히틀러와 유명 정치인의 연설을 합성한 영상이 올라오고 있다.

미국 스탠포드 대학은 관련 기술 개발을 마쳤다. 페이스투페이스(Face2Face)라는 이름의 이 프로그램은 한 사람이 말하는 영상을 찍고, 그 위에 유명 정치인의 얼굴을 덧씌운다. 그리고 음성기술을 통해 목소리도 정치인과 똑같이 바꾼다. 마음만 먹으면 유명인이 영상을 찍은 것처럼 위조할 수도 있는 것이다.

뉴욕타임스는 "이런 AI기술의 발전으로 트위터나 페이스북 등에 보다 정교하고 발전된 가짜뉴스가 등장할 것"이라며 "모든 이들이 높은 수준의 컨텐츠 제작이 가능해지면서 전통 뉴스미디어도 뒤처질 수 있다"고 분석했다.

구글이 AI 소스를 공개한 것은 개발자들이 자사 알고리즘을 활용하면서 서로 도움을 얻고 시장도 확대하기 위해서다. 하지만 윤리 가이드라인이나 이를 활용한 불법행위에 대한 제재 방침 등이 없기 때문에 악용 사례가 끊이지 않는다는 의견도 나온다.

마이크로소프트의 AI 담당 부사장 해리 셤은 "윤리적인 문제는 굉장히 해결하기 어렵다"며 "이런 과정을 통해 보이지 않는 문제점을 찾아가는 것이라고 본다"고 말했다.