스위프트 '딥페이크' 논란에…X 부랴부랴 '콘텐츠 단속센터' 신설

머니투데이

김하늬 기자

세계적인 팝스타 테일러 스위프트의 얼굴을 합성한 음란 딥페이크(Deepfake, 가짜 사진·영상) 사진이 '엑스'(옛 트위터)에 급속도로 유포되면서, 인공지능(AI) 규제의 목소리가 높아지고 있다. X(옛 트위터)는 부랴부랴 불법콘텐츠 단속 센터 설립안을 발표했고, 미 의회는 규제법 마련 촉구에 나섰다.

[부에노스아이레스=AP/뉴시스] '테일러노믹스(Taylornomics)'라는 신조어를 탄생시키며 신드롬을 일으키고 있는 미국 팝스타 테일러 스위프트가 9일(현지시각) 아르헨티나 부에노스아이레스의 모뉴멘탈 스타디움에서 '에라스 투어' 콘서트를 열고 공연하고 있다. 앞서 스위프트는 지난 10개월 동안 65개의 곡을 애플 뮤직 '오늘의 톱 100: 글로벌 차트'에 올리면서 '2023 애플 뮤직 올해의 아티스트로 선정됐다. 2023.11.10.

28일(현지시간) 블룸버그통신에 따르면 X는 성 착취물이나 허위 정보를 단속하는 '신뢰와 안전센터(Trust and Safety center of excellence)'를 미국 텍사스주 오스틴에 신설한다고 밝혔다. X는 센터에 100명의 콘텐츠 관리자를 정규직으로 채용할 계획이다. 이들은 성 착취물뿐만 아니라 혐오 발언이나 폭력적인 내용의 게시물을 골라내는 역할도 맡는다.

X의 이번 결단은 최근 불거진 테일러 스위프트의 딥페이크 사진 유포 사태로 많은 질타를 받았기 때문으로 풀이된다. 블룸버그는 "X의 최고경영자(CEO)인 린다 야카리노가 오는 31일 온라인 아동 성 착취물 위기에 관한 연방 상원 사법위원회 청문회에 출석해야 한다"며 "국회 응답을 사흘 앞두고 나온 대책인 셈"이라고 블룸버그는 분석했다.

앞서 지난 24일 AI로 합성한 듯한 스위프트의 음란 딥페이크 이미지는 X에 처음 올라오자마자 순식간에 온라인에 퍼져나갔다. NYT에 따르면 문제의 사진은 19시간 동안 X 계정에 공개돼 있었고 조회수만 4700만회에 달했다. 이 이미지를 퍼 나른 다른 계정의 게시물도 수천만 회의 조회 수와 수십만 건의 '좋아요'를 기록했다.

X측은 다음 날(25일)이 되어서야 사진을 포함한 여러 계정을 정지시켰지만 이미 텔레그램과 인스타그램 등 다른 소셜미디어(SNS) 플랫폼으로 퍼진 뒤였다. X는 아예 검색창에서 '테일러 스위프트' 관련 정보 검색을 할 수 없게끔 조치를 취했다.

하지만 근본적 대책이 부족하다는 비판에 직면했다. 뉴욕타임스(NYT)는 "일론 머스크 테슬라 최고경영자(CEO)가 2022년 트위터를 인수한 이후 허위 정보나 증오심의 표현 등 문제가 있는 콘텐츠가 증가하는 추세가 목격되고 있다"며 "웹사이트의 콘텐츠 규칙을 완화했고, 플랫폼 안전 관련 부서 인력을 대거 감원했다"며 시스템의 문제를 지적했다. 또 머스크가 표현의 자유를 중시하겠다고 강조한 것이 허위 이미지에 늑장 대응을 하도록 만들었다는 지적을 받고 있다고 짚었다.

법적 규제를 강화해야 한다는 목소리도 나온다. 카린 장피에르 미 백악관 대변인은 영상이 퍼지기 시작한 이튿날인 26일 브리핑에서 "미 행정부가 이 문제를 매우 심각하게 받아들이고 있다"면서 "의회도 입법 조처에 나서야 한다"고 말했다.

NYT에 따르면 현재 연방정부 차원의 딥페이크 규제법이 없다. 다만 몇 개 주에서 상대 동의 없는 딥페이크 제작 또는 유포를 범죄로 처벌하고 있다. 이번 사건을 통해 입법에 탄력이 붙을 수 있다는 전망이 나온다.

미국 하원의 조 모렐(민주당)과 톰 킨 주니어(공화당) 의원은 빠르게 진화하는 AI 기술에 '가드레일'을 만들어야 한다고 한목소리를 냈다. 두 사람은 디지털로 조작된 포르노 이미지를 무작위로 유포하는 행위를 연방 범죄로 규정하고, 징역형과 벌금을 부과하는 법안을 공동 발의했다. 또 하원에 발의된 초당적 법안인 '이미지 딥 페이크 방지법'의 조속한 통과도 촉구했다. 톰 킨 의원은 "모든 AI 콘텐츠에 라벨을 지정하는 'AI 라벨링 법'까지 필요하다"고도 강조했다.