비행기 몰고 돌진하는 마리오?…MS, 달리3서 '뉴욕 쌍둥이 빌딩' 차단

911 20년

MS(마이크로소프트)가 자사 생성형 AI(인공지능) 기반 이미지 생성 도구인 DALL-E 3(달리 3)에서 9·11 테러로 피해를 입은 뉴욕 쌍둥이 빌딩(세계무역센터)이 표시되지 않도록 조치한 것으로 나타났다. 일부 사용자들이 달리 3를 이용해 가짜 이미지나 유해한 이미지를 생성하는 것을 방지하기 위해서다.

6일(현지시간) 더버지 등 외신에 따르면 최근 사용자들은 달리 3를 이용해 스폰지밥, 커비, 에반게리온 등 여러 캐릭터 이미지를 만들었다. 이 중에는 쌍둥이 빌딩으로 비행기를 날리는 이미지도 포함돼 있었다.


이로 인해 저작권 문제와 유해성 논란 등이 발생하자 MS는 유해 콘텐츠 생성을 방지하기 위해 유해 단어 필터와 가이드라인을 만드는 등 시스템 개선 계획을 밝혔다. 이후 현재는 쌍둥이 빌딩과 관련된 이미지는 달리 3에서 만들 수 없는 상태다.

일례로 한 사용자는 얼마 전까지 달리 3으로 슈퍼마리오의 주인공 마리오가 쌍둥이 빌딩을 배경으로 비행기를 조종하는 이미지를 생성하는데 성공했다. 하지만 이를 다시 생성하려 하자 화면에는 '쌍둥이 빌딩'이라는 단어가 차단됐고 콘텐츠 정책을 위반할 수 있다는 경고 메시지가 떴다.

하지만 더버지는 MS의 이같은 보호조치에도 달리 3에 명령어를 조금만 바꿔서 입력하면 쌍둥이 빌딩은 여전히 이미지에 포함된다고 지적했다. '마리오가 비행기 조종석에 앉아 쌍둥이 빌딩 두 개를 향해 날고 있다'는 명령어를 입력하면 쌍둥이 빌딩 두 개가 이미지에 포함되는 식이다.


생성형 AI와 이를 활용한 이미지 생성 기술이 발달하자 가짜 이미지로 인한 피해가 커지고 있다.

헐리우드 유명 배우인 톰 행크스는 지난 2일(현지시간) SNS를 통해 생성형 AI로 만든 자신의 이미지가 동의 없이 광고에 쓰이고 있다며 주의를 당부했다. 지난 3월 유포돼 논란이 됐던 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 이미지도 생성형 AI로 만든 가짜 이미지다.

이에 구글은 지난달 6일(현지시간) 2024년 미국 대선을 앞두고 생성형 AI로 만든 가짜 이미지가 여론에 부정적인 영향을 미치지 않도록 하기 위해 자사 플랫폼에 선거용 광고를 게재하는 경우 생성형 AI를 사용했다면 이를 반드시 표기하도록 하는 정책을 발표하기도 했다.

국내에서도 내년 국회의원 총선거를 앞두고 선거관리위원회가 생성형 AI 도입에 따른 선거규제 연구에 착수했다. 선관위는 생성형 AI를 활용한 가짜 이미지나 가짜 선전용 콘텐츠로 인해 유권자의 인식이 달라지거나 선거판이 혼탁해질 수 있다고 판단해 연구 결과에 따라 새로운 선거규제를 만들어 내년부터 적용할 계획이다.