알렉사, 범인 소리를 들려줘…개인정보 유출우려도

구글의 인공지능(AI) 음성인식 비서 '틱홈' /사진=AFP

#2015년 11월 21일 미국 아칸소주(州)에서 제임스 베이츠는 술을 마신 뒤 자택 욕조에서 친구 빅터 콜린스를 살해한 혐의로 기소됐다. 검찰은 "베이츠가 피해자를 공격하고 시신을 치우는 과정을 아마존의 에코 스피커가 포착해 녹음했을 가능성이 있다"며 아마존 서버에 저장된 내용을 제출할 것을 요구했다.

친구 빅터 콜린스를 살해한 혐의로 기소된 제임스 베이츠의 재판 당시, 아마존 서버에 저장된 인공지능 스피커 대화 내용은 물증으로 사용됐다. 영국 가디언은 이를 두고 "베이트가 '알렉사, 내가 어떻게 시체를 숨기지?'라고 노골적으로 물어보지 않았더라도 아마존이 집안의 배경 소리를 가지고 있을 수 있다는 것"이라고 설명했다. 범죄 현장을 재구성하는 데 가장 많이 활용되는 감시카메라(CCTV)의 역할을 인공지능(AI) 스피커가 대신 할 수 있다는 말이다.


최근 AI 음성인식 스피커를 통한 개인정보 유출 사건이 빈번하게 일어나고 있다. 지난 10일(현지시간) 벨기에 공영방송 VRT는 구글과 계약한 업체로부터 고객들의 중요 개인정보가 들어있는 녹음파일을 입수했다고 보도했다. 구글의 인공지능 비서 '구글 어시스턴트'에 녹음돼 있던 이용자들의 대화 1000여 건이 유출됐음을 확인한 것이다. VRT는 이 녹음파일에 담긴 내용과 실제 신원을 대조해 이들의 집주소, 건강상태, 조울증 병력 등까지 알아볼 수 있었다고 전했다.

구글 또한 자사 홈페이지를 통해 이를 시인했다. 구글은 "우리 대화 분석가들 중 한 명이 데이터 보안 정책을 어기고 네덜란드어 음성 데이터를 유출했다는 사실을 방금 파악했다"면서 "이런 부정행위가 재발하지 않도록 이 문제와 관련한 보호장치들을 전면 재검토하겠다"고 밝혔다.

뉴욕 포드햄 로스쿨 법정보정책센터의 조엘 레이덴버그 소장은 "'사생활의 합리적 기대'라는 법적 기준이 없어지고 있다"며 "개인정보를 제 3자에게 전송할 수 있는 기기를 스스로 집안에 설치했다면 사생활 보호권리를 포기하는 것과 같다"고 말했다.


구글은 전세계 계약직 직원들에게 AI스피커에 담긴 대화 내용의 분석을 맡기고 있다. 아직까지 기계가 자동으로 학습하는 '머신러닝'에 많은 한계가 있기 때문에 사람이 직접 대화 패턴을 분석해야 하는 것이다. 미국 IT매체 더 버지는 "오직 전체 데이터의 0.2%만이 구글 소속 언어 전문가들에 의해 검토되고 나머지는 수시로 채용하는 일반 계약직 직원들이 듣고 있다"고 전했다. 아마존도 지난 4월 AI 음성비서 '알렉사'를 통해 녹음된 이용자들의 목소리를 전세계 수천명의 직원들이 들으면서 분석한다는 사실이 알려지기도 했다.

구글은 "검토 과정의 일부로서 사용자 계정과 연관되지 않으며 직원들은 주변 사람의 대화나 소음을 기록하지 않고 스피커에다 대고 하는 말만 기록하게 교육시키고 있다"고 설명했다. 애플 역시 "데이터 추가 분석을 위해 클라우드에 저장해야 할 경우, 사용자의 실제 이름이 아닌 코드화된 식별자로 지정해 최대 2년간 사본 파일을 저장한다"는 입장이다.

하지만 고의적인 해킹의 위험이 여전히 존재한다. 가디언은 "이용자의 계정 아이디와 비밀번호만 뚫으면 해커는 그 사람이 집에서 한 모든 요청을 들을 수 있다"고 전했다.

물론 AI 스피커 이용자는 대화기록을 언제든 확인하고 삭제할 수 있다. 하지만 이에 대해 모르는 이용자가 많고 일부는 필요성을 느끼지 못하기도 한다. 더구나 '더 버지'에 따르면 아마존 알렉사의 경우 사용자가 대화 내용을 삭제해도 분석에 필요한 데이터 중 일부는 서버에 무기한 저장된다. 구글 측은 "우리는 항상 음성인식 기술을 개선하기 위해 이용자들의 데이터가 어떻게 사용되는지 고객들에게 더 명확히 알리기 위해 노력할 것"이라고 밝혔다. 가디언은 "점점 발전하는 AI 스피커의 활용은 많은 사람들의 삶에 스며들고 있는 IT 기술이 어떻게 사용되고 있는지 하나하나 꼼꼼히 살펴봐야 한다는 것을 뜻한다"고 설명했다.