AI 윤석열·이재명 챗봇 등장…"가짜 후보" 논란에 전문가 충고[인싸IT]

국민의힘이 지난 6일 중앙선대위 출범식에서 공개한 AI(인공지능) 윤석열의 연설 모습 /사진=이준석 국민의힘 대표 페이스북 캡처

AI(인공지능)을 이용한 선거 운동의 적절성에대한 논란이 일고 있다. 윤석열 국민의힘 후보가 지난 6일 당 중앙선거대책위원회(선대위) 출범식에 'AI 윤석열'로 등장한게 그 시작이다. 김동연 새로운물결 후보 역시 영입인재 1호로 당 논평을 쓸 AI 대변인 '에이디'를 발탁했다. 앞서 이재명 더불어민주당 후보는 지지자가 만든 이른바 '이재명 챗봇'(대화형 AI)으로 후보 공약과 유세 일정에 대한 안내를 한다.

이와관련, 현재의 공직선거법상 선거운동에서의 AI 활용을 제한하는 조항은 없다. 하지만 AI로 만든 '가상의 후보'가 선거운동에 나서는 것을 두고, 기술적 진화에 따른 자연스러운 현상이라는 반응이 있는 반면, 사이버상에서 가짜 후보의 유세는 유권자의 판단을 흐릴 수 있다는 등의 갑론을박이 이어진다. 실제 여권 인사인 고삼석 전 방송통신위원회 상임위원은 지난 7일 'AI 윤석열'을 "(도리도리, 쩍벌 등) 좋지 않은 후보의 이미지와 부족한 언변을 속이기 위한 것"이라며 "대통령이 되겠다는 사람이 시간상 제약을 이유로, 잘 만들어진 아바타를 보고 자신을 선택해 달라고 유권자에게 호소하는 것은 일종의 사기"라고 비판하고 나섰다.


'비호감 대선', AI가 만병통치약?…대선 후보들은 왜 AI에 꽂혔나9일 AI·소프트웨어(SW) 업계에서는 정당을 막론하고 대선 후보들이 AI를 선거 운동에 활용하는 것은 '이미지 메이킹'의 한 수단으로 평가한다. 4차 산업 기술인 AI를 적극 활용하는 모양새로 첨단IT 기술에 능숙하다는 이미지를 노린다는 것이다. 코로나19가 확산으로 제약이 많은 현장 유세대신 온라인에서 유권자들에게 보다 친숙하게 접근하는 의도도 읽힌다. 근본적으로 역대급 비호감 대선으로 평가받는 가운데 잘 짜여진 대본(데이터)만 학습한 AI를 통해 비호감 이미지를 줄여보려는 포석도 깔려있다는 것이다.

이와관련 민주당 측은 "딥페이크 영상을 활용한 선거운동은 미국과 유럽에서 금지하고 있다"면서 "국민의힘이 만든 'AI 윤석열'에 대해 선관위의 판단을 받을 것"이라고 밝혔다.

실제로 딥페이크(AI 얼굴 합성 기술)와 음성 합성 기술을 활용한 AI 윤석열에게서는 윤후보의 단점으로 지목된 일명 '도리도리' 습관을 찾기 어렵다. AI에서는 결점을 감춘 셈이다. 진짜 윤 후보와 달리 AI 윤석열은 시종일관 카메라와 눈을 맞추며 유권자들에게 지지를 호소한다.


이 후보의 '이재명챗봇' 역시 후보 공약 안내 외에도 대장동 특혜 의혹 등에 대해 상세하게 해명하는 역할을 한다. 주요 키워드를 대화형으로 물으면 AI가 사전에 학습한 답변을 내놓는 식이다. 실제 기자가 '대장동 특혜'에 대한 질문을 입력하자 1400자가 넘는 해명글과 관련 자료를 챗봇이 쏟아냈다.

이재명 더불어민주당 후보를 소개하는 인공지능(AI) 챗봇(대화형 로봇) '이재명챗봇' /사진='이재명챗봇' 웹페이지 캡처

"현재의 AI, 상대 진영 역공에 취약…활용도 높겠나"현행 공직선거법에서는 이와 같은 AI 선거운동을 제한할 규정은 따로 두고 있지 않다. 전문가들은 광범위하게 영상이나 소프트웨어(SW) 등을 활용한 온라인 선거 운동으로 해석할 여지가 있다고 본다. IT 법률 전문가인 구태언 법무법인 린 변호사는 "AI는 사람이 아니고 음성 ARS(자동응답)나 자동 챗봇 등은 컴퓨터 소프트웨어일 뿐이며 이에 대해서는 규제가 없다"라며 "후보자가 자신의 외모를 가진 AI를 홍보 목적으로 사용하는 것도 기존 선거운동 규제 범위 내에서 하면 된다"고 설명했다. 구 변호사는 다만 "상대방 후보를 비방할 목적으로 상대방 후보의 외모를 본 딴 AI를 활용하는 것은 허위 사실 적시에 따른 선거법 위반이 될 것"이라고 말했다.

AI 연구자들은 현재의 기술력이 유권자 눈을 속여 남을 비방하는 등 악용될 정도로 정교하진 않다고 입을 모은다. 이재명 챗봇에 '오늘 날씨 좋네요' 같은 다른 말을 입력하면 '국민의 소리에 귀 기울이겠습니다'처럼 동문서답이 나온다. AI 윤석열의 경우 윤 후보 얼굴을 합성만 영상만 있고 아직 대화형으로 유권자와 소통하는 수준도 아니라는 게 전문가들 판단이다.

오히려 AI를 잘못 활용하면 후보가 역공을 받을 수 있다는 반응도 나온다. '설명가능한 AI'(AI 알고리즘의 투명성을 연구하는 분야) 전문가인 최재식 카이스트 교수는 "정치인들이 답하기도 어려운 질문을 AI가 더욱 명쾌하게 답하기는 어렵다"며 "현존 기술로는 오히려 AI가 상대 후보 지지자의 유도 질문에 넘어갈 가능성도 적지 않아서 활용도가 높을지 의문이 든다"고 말했다.

AI·IT 관련법 연구자인 고학수 서울대 법학전문대학원 교수도 "AI 윤석열이나 이재명챗봇의 말을 유권자들이 진짜 후보의 발언이라고 믿을 가능성은 낮다"며 "기술 수준이 더욱 높아질 다음 대선이라면 몰라도 현 시점에서의 논란 자체가 시기상조"라고 말했다.

다만 AI 전문가들은 앞으로 AI 기술 수준이 발전할 수록 선거 운동에서의 AI 활용 범위와 형태 등에 대한 논의는 필요한 부분이라고 말한다. 최 교수는 "AI 알고리즘을 검증할 규정이 생긴다면 선거운동에서의 AI 활용도 활발해질 수 있다"라면서도 "사람들이 더 안심하고 AI를 활용할 수 있도록 하는 사회적 합의가 전제돼야 한다"고 말했다.