"회사가 내 목소리 청취"…AI 비서 괜찮을까

네이버 AI 서비스 클로바가 탑재된 스마트 스피커

인공지능(AI)과 이용자간 대화를 엿듣는다? 아이폰 음성인식 비서 ‘시리(Siri)’와 이용자간 대화 녹취 파일 논란에 애플이 지난달 28일(현지시간) 결국 사과했다. 그런데 알고 보면 다른 AI 서비스 회사들도 이용자 정보를 수집한다. 음성 인식률을 높이고 서비스를 고도화하기 위해선 음성 데이터 수집이 불가피하다는 항변이다.

그러나 이용자들은 불안해한다. 사생활 침해 가능성 때문이다. 심지어 자신의 음성명령이 AI 서비스 회사로 빠져 나간다는 것 자체를 몰랐던 이용자도 부지기수다. 업계 전문가들은 이용자 정보 수집 동의 절차를 명확히 하고 수집된 정보 처리 과정상 보안정책을 더욱 강화해야 한다고 조언한다.

◇AI, 이용자 정보 수집하는 이유=3일 관련업계에 따르면, 이동통신사, 스마트폰 제조사, 포털 등 국내 AI 서비스 사업자 대부분 이용자들의 음성 정보를 수집하고 있다. 사투리나 억양, 상황별로 다른 다양한 이용자들의 음성 데이터가 확보돼야 인식률을 끌어올릴 수 있다. 학습 데이터가 많으면 많을 수록 AI 서비스 품질 수준도 높아진다.


네이버 AI 서비스 ‘클로바’의 경우, AI 서비스 기능 개선을 위해 이용자들의 음성 명령 중 일부를 수집한다. 녹음된 음성 데이터는 별도 계약된 협력사 직원들이 텍스트로 바꾸는 작업을 한다. 네이버 관계자는 “비식별 처리된 음성 명령 전체 가운데 1% 미만에 한해 직접 듣고 텍스트화하는 ‘전사’ 작업을 진행한다”고 밝혔다. 이는 이용자가 클로바를 호출할 때 작업을 제대로 수행하고 있는지를 확인하고 이를 기반으로 서비스 품질을 높이기 위한 작업이라는 설명이다.

카카오도 마찬가지다. AI 서비스 품질 향상을 위해 음성 명령 전체 가운데 무작위로 0.2% 미만의 음성 데이터를 추출, 협력사가 직접 듣고 텍스트로 입력하는 작업을 진행해왔다.

삼성전자도 갤럭시 스마트폰에 탑재된 AI 비서 서비스 ‘빅스비’를 통해 음성정보를 수집하고 있다. 개인정보 수집 동의를 거부하면 빅스비 사용이 불가능하다. SK텔레콤, KT 등도 자사 AI 음성 서비스에서 수집된 고객 음성정보를 암호화, 비식별화 과정을 거쳐 분석, 서비스 고도화에 활용하고 있다.


◇내 사생활 정보 빠져 나갈까=업계 전문가들은 AI 이용자들이 불안에 떨 필요는 없다고 말한다. AI 스피커를 거실에 뒀다고 모든 대화를 엿듣는 건 아니다. AI 서비스를 호출한 뒤의 이용자 명령어만 수집한다. 모든 이용자 정보가 수집되는 것이 아니며, 수집된 정보는 특정인을 알아볼 수 없게 비식별화된다. 이후 자사 직원 혹은 외부 협력업체에 건내진다.

분석 과정에서도 다양한 보안장치를 갖추고 있다. 네이버 관계자는 “전사 작업을 담당하는 자회사 직원과 별도 보안 계약서를 작성하고 작업자에게 전사할 음성 내용을 음성명령 단위로 쪼개 배분해 개별 작업자가 음성 내용 전체를 볼 수 없도록 하는 등 사생활 침해 가능성을 차단하고 있다”고 강조했다. 카카오 관계자는 “개인정보에 해당 되는 내용은 자동 마스킹 처리되고 작업에 사용되는 음성도 변조해 철저히 비식별처리한다”고 밝혔다.

그럼에도 ‘시리’ 사용자 음성파일 녹음 논란 이후 AI 서비스 이용자들이 불안에 떠는 건 사실 서비스 회사들의 책임도 적지 않다는 지적이다. 사실 서비스 회사들은 이용자들의 동의를 받고 정보를 수집한다. 문제는 이용약관에 동의했음에도 자신의 음성명령이 녹음돼 서비스 회사에 전송된다는 사실을 모르는 이용자들이 더 많다. 서비스 안내 및 개인정보 제공 동의 과정에서 약관이 길고 모호하기 때문이다.

보안업계의 한 전문가는 “자신의 음성 데이터가 어떤 경우에 수집될 수 있고, 어떻게 활용되는지 보다 명확하게 이용자 약관을 통해 설명할 필요가 있다”며 “아울러 음성 데이터 처리 과정에서 AI 서비스 기업의 직원과 협력사에 위한 이용자 사생활 침해 가능성이 없도록 내외부적으로 검증할 수 있는 프로세스도 마련해야한다”고 목소리를 높였다.

이와 관련, 네이버와 카카오는 음성 데이터 수집 허용 여부를 이용자가 선택할 수 있는 기능을 추가하겠다고 밝혔다.

한편, 앞서 애플은 지난달 28일(현지시각) 아이폰 시리와 이용자가 나눈 대화를 계약업체 직원들이 듣도록 한 것에 대해 사과했다. 애플은 아이폰 등 자사 기기 사용 고객들이 시리를 호출했을 때 작업을 제대로 수행했는지 확인하기 위한 평가(Grading) 프로그램을 운영하면서 협력사 직원을 동원해 사용자-시리 간 녹음파일을 분석, 성능 개선에 활용해왔다. 애플은 “시리 성능 향상을 위해 관련 음성 파일을 공유하는데 동의하는 고객들에 한해, 자사 직원들을 통해서만 이를 청취하고 분석할 수 있게 하겠다”고 밝혔다. 다만 애플은 “시리 성능 향상을 위해 컴퓨터로 생성한 녹취록은 계속 사용하겠다”고 말했다.

애플 시리 실행화면