올해 20억명 투표하는데...GPT로 거짓 유포하는 불량국가들

챗GPT가 생성한 컴퓨터 화면 이미지에 표시된 오픈AI의 로고가 보이고 있다. 유럽연합(EU) 의원들은 지난 3월 13일 EU 27개국의 인공지능(AI)법을 최종 승인했다. 이 법은 올해 말 발효될 예정이다./AP=뉴시스

러시아, 중국, 이란, 이스라엘과 연계된 작전 조직이 오픈AI의 인공지능 도구를 사용해 허위 정보를 생성해 퍼뜨리고 있다. 전세계 20억명이 투표하는 올해 유독 기술이 정보 전쟁에서 중요해진 영향이다.

오픈AI는 30일(현지시간) 보고서를 통해 챗GPT를 이용해 전보다 언어 오류가 적은 테스트와 이미지를 대량으로 만들고 게시물이나 댓글을 생성한 5개의 정보 작전이 포착됐다고 밝혔다. 오픈AI는 다른 사람을 속이거나 오도하기 위해 자사 모델을 사용하는 것을 금하고 있다.


오픈AI는 보고서에서 "러시아의 우크라이나 침공, 가자지구 분쟁, 인도 선거, 유럽과 미국의 정치, 중국 반체제 인사 및 외국 정부의 중국 정부 비판" 등의 이슈에 해당 콘텐츠들이 초점을 맞췄다고 밝혔다.

2016년 미국 대선에서 도널드 트럼프가 이긴 후 러시아 트롤 농장이 투표를 조작하려했다는 증거가 발견되자 메타와 구글 유튜브 등 소셜미디어 플랫폼들은 허위정보 단속에 노력해왔다. 사실적인 딥페이크를 만들어 미디어를 조작한 후 자동화된 방식으로 콘텐츠를 퍼뜨리는 게 어느 때보다 쉬워지면서 오픈AI는 안팎으로 윤리적 압박이 가중되고 있다.

29일(현지시각) 남아프리카공화국 요하네스버그 인근 알렉산드라에서 유권자들이 총선 투표를 위해 줄을 서고 있다. 남아공은 이날 오전 7시부터 오후 9시까지 총선 투표를 치른다. 집권 여당인 아프리카민족회의(ANC)는 올해 높은 실업률과 범죄, 부패의 만연, 빈부 격차 등으로 지지율이 떨어지며 30년 만에 처음으로 과반 의석을 얻지 못할 것으로 관측되고 있다. /AP=뉴시스

특히 올해는 전 세계 약 20억명의 유권자가 투표를 했거나 투표를 앞둔 상황이어서 각국 정책 입안자들은 기업들에 적절한 보호 장치를 마련할 것을 촉구하고 있다. 오픈AI는 허위정보 탐지를 위해 자체 AI 기반 도구를 구축하고 있고 자사 모델이 이미 허위정보 생성 세력의 텍스트나 이미지 생성 요청을 거부했다고 설명했다.


보고서에 언급된 챗GPT를 이용해 허위정보를 유포한 정보작전 중 하나는 러시아의 '도플갱어'(Doppelganger). 이미 2022년 우크라이나에 대한 지지를 약화시키려는 러시아의 정보작전으로 처음 알려졌었다.

중국의 이익을 대변하는 메시지를 스팸처럼 보이게 만들어 온라인에 유포하는 '스패머플라지'(Spamouflage)에도 오픈AI의 AI 모델이 사용됐다. 두 작전 모두 'X(엑스)' 등 소셜미디어 플랫폼에 게시하기 전 여러 언어로 텍스트나 댓글을 만드는데 챗GPT를 썼다.

지금까지 알려지지 않았던 러시아의 정보작전 '나쁜 문법'(Bad Grammar)도 오픈AI 모델을 사용해 텔레그램 봇을 실행하기 위한 코드를 디버깅(프로그래밍에서 잘못된 부분을 찾아 고치는 것)해 러시아어와 영어로 정치 댓글을 작성해 텔레그램에 게시했다.

친이스라엘 허위정보를 제공하는 세력도 포착됐다. 이스라엘 텔아비브에 본사를 둔 정치 캠페인 관리업체 STOIC가 운영하는 것으로 추정되는데, 챗GPT를 사용해 X와 메타의 인스타그램 및 페이스북에 기사와 댓글을 생성했다. 메타와 오픈AI는 STOIC의 콘텐츠를 삭제하고 관련 계정을 해지했다.