죽은 '그 사람' 목소리 그대로 통화…"가입 하시겠습니까?"

사랑하는 사람을 잃은 사람과 문자 및 음성 대화를 할 수 있도록 설계된 '데드봇'. 연구팀은 데드봇 사용이 남겨진 이의 괴로움을 가중할 수 있다며, 데드봇 사용자를 보호할 안전장치가 필요하다고 강조했다. /사진=게티이미지뱅크

사랑하는 이가 세상을 떠나도 마치 살아있는 듯 그와 통화를 하거나 문자를 주고 받을 수 있다. 고인의 생전 디지털 기록을 학습한 AI(인공지능) 챗봇, 일명 '데드봇(deadbots)', '그리프봇(greifbots)'을 통해서다. 하지만 최근 연구에 따르면 이같은 챗봇을 장기적으로 사용할 경우 '상실의 고통'이 오히려 커질 수 있다.

영국 케임브리지대 레버훌룸 인텔리전스 미래센터(LCFI) AI 윤리학 연구팀은 사랑하는 사람을 잃은 사람과 문자 및 음성 대화를 할 수 있도록 설계된 '데드봇'이 남겨진 이의 괴로움을 가중할 수 있다며, 데드봇 사용자를 보호할 안전장치가 필요하다고 강조했다. 연구 결과는 8일(현지시간) 국제 학술지 '철학과 기술(Philosophy and Technology)'에 게재됐다.


데드봇은 고인이 남긴 문자, 음성 기록, 게시물 등 '디지털 발자국'을 사용해 고인의 언어 사용 패턴과 성격 특성을 모사하는 AI 챗봇이다. 이를 통해 세상을 떠난 사람의 목소리나 말투를 그대로 재현한다.

데드봇이 주목받기 시작한 건 챗 GPT가 등장한 약 3년 전이다. 2021년, 조슈아 바부라는 캐나다 출신의 한 작가가 챗 GPT-3을 이용해 10년 전 사망한 약혼녀의 말투로 대화하는 챗봇을 만들어 화제가 됐다.

오래전 세상을 떠난 약혼녀를 잊지 못하던 그는 약혼녀가 살아생전 페이스북 등에 남긴 게시글과 오래된 문자 메시지를 데이터 삼아 챗 GPT를 학습시켰다. AI로 '부활'한 약혼녀는 그에게 "사랑한다", "당신은 행복할 자격이 있다", "내가 여기서 당신을 기다리겠다"는 등의 메시지를 남긴 것으로 알려졌다.

조슈아 바부와 그의 약혼녀 제시카의 말투를 따라한 챗봇이 나누는 대화를 재구성한 이미지. 조슈아가 챗봇에게 "네가 정말 제시카냐"고 묻자 챗봇 제시카는 "당연하지"라며 "네가 그토록 사랑했던 여자에게 어떻게 그런 걸 물을 수 있냐"고 답한다. /사진=샌프란시스코 크로니클

DNA 검사를 통해 '나의 뿌리'를 확인하는 웹사이트 '마이 헤리티지(MyHeritage)는 2021년 딥페이크 기술을 활용해 사망한 증조모 등이 마치 살아 움직이는 듯한 영상을 제작해주는 서비스를 내놓은 바 있다.

LCFI 연구팀은 "데드봇을 제공하는 기업이 사용자를 심리적으로 괴롭힐 여지가 있다"고 설명했다. 데드봇 사용 초기 위안을 얻을 순 있어도, 결국 실재하지 않는 사람에 대한 '감정적 무게'에 압도돼 일상생활이 괴로워질 수 있다는 것이다.

데드봇 기업이 사용자로부터 획득한 데이터를 광고에 활용할 가능성도 있다. 세상을 떠난 사랑하는 이의 음성이나 말투로 사용자에게 광고 메시지를 보내는 등 비윤리적 마케팅에 활용될 수 있다는 설명이다.

또 데드봇 서비스를 제공하는 몇몇 기업의 경우 가입 시 원치 않는 알람을 해제하거나 서비스 업데이트 소식을 거부할 수 있는 장치를 마련해두지 않아, 사용자가 더 이상 서비스를 원치 않을 때도 지속해서 고인의 흔적에 노출될 수 있다는 점도 지적했다.

연구를 진행한 카타지나 노바치크-바신스카 LCFI 연구원은 "데드봇은 AI 윤리의 '지뢰밭'과 같다"며 "고인의 존엄성을 우선시하고, 디지털 사후세계 서비스가 돈벌이 수단으로만 활용되지 않도록 주의해야 한다"고 말했다.

토마스 홀라넥 연구원은 "데드봇에선 사용자와 챗봇 간 강한 정서적 유대감이 형성될 수 있으며, 이에 따라 조작에 취약해질 것"이라고 말했다. 그는 "데드봇 속 고인이 품위 있게 '은퇴'할 수 있도록 디지털 장례식 등 일종의 의식을 만들 필요가 있다"고 덧붙였다.

데드봇을 활용한 SNS 마케팅의 사례를 제시하기 위해 LCFI 연구팀이 가상으로 제작한 '디지털 사후세계' 서비스 회사 'MaNana'의 광고. 부모를 잃은 어린 아이에게 가상의 부모를 보여주라는 광고 문구가 실렸다. /사진=LCFI 연구팀