AI 챗봇 이루다 이미지. /사진=스캐터랩

성차별·소수자 혐오 논란에 서비스를 잠정 중단한 AI(인공지능) 챗봇 '이루다'의 개발사 스캐터랩 직원들이 이용자 개인들에게 수집한 사적인 카카오톡(카톡) 대화를 돌려봤다는 의혹에 대해 관계 당국이 조사에 나섰다.

개인정보보호위원회는 13일 오후 서울 정부서울청사에서 진행된 대변인 브리핑에서 "금일 AI 챗봇 이루다 논란과 관련한 본격적인 조사에 착수했다"고 밝혔다.

김진해 개인정보위 대변인은 "해당 사업자가 이루다 서비스 과정에서 개인정보보호법을 위반했는지 여부를 면밀히 점검하고 이용자의 사적인 카톡 대화 내용을 사내에서 공유했는지 여부도 아울러 파악할 예정"이라고 밝혔다.

김 대변인은 "개인정보보호법에 따른 이용자의 대화 내용을 AI 학습용으로 활용하기 위해서는 이용자에게 그 사실을 명확히 알리고 사전 동의를 받아야 한다"고 설명했다. 이어 "동의를 받았다고 하더라도 내용에 민감한 사생활 정보가 포함됐을 수 있는 만큼 특정 개인을 알아볼 수 없을 정도로 비식별 처리 등 안전하게 처리할 필요가 있다"고 강조했다.

앞서 스캐터랩은 이루다의 AI 알고리즘 핑퐁을 개발하기 위한 기계학습(머신러닝) 학습용 데이터로 자사 기존 서비스 '연애의 과학'을 통해 수집한 개인들의 카톡 대화 데이터 100억건을 사용했다고 밝힌 바 있다. 연애의 과학은 개인들이 의뢰한 연인·파트너 간의 카톡 대화 텍스트 데이터를 분석해주는 서비스다.

이와 관련 개인들이 분석을 의뢰하며 제공한 카톡 대화들을 스캐터랩 직원들이 함께 돌려봤다는 전 직원의 증언이 나와 파장이 일었다.

이에 스캐터랩은 전날 보도자료를 통해 "해당의혹과 관련 사내에서 자발적으로 진상조사위원회를 구성해 조사하고 있다"고 밝혔다. 스캐터랩은 "전날까지 전 팀원이 참여하는 카톡 대화방의 조사를 진행했으며 (문제가 불거진) 당해년도 단톡(단체 채팅방)에서는 해당 내용이 발견되지 않았다"고 밝혔다. 그러면서 "또 다른 사내 메신저 채널인 슬랙에 대해서는 다수 대화 채널이 있는 관계로 현재 계속해서 조사를 진행 중"이라고 밝혔다.


스캐터랩은 AI 이루다의 답변 내용에 개인들의 실명이나 계좌번호, 상세 주소 등 개인정보가 비식별화(몇몇 정보를 결합해도 개인을 특정할 수 없도록 하는 것) 조치 없이 노출됐다는 의혹에는 "개별 문장 단위의 대화 내용에서는 알고리즘에 의해 비식별화 조치를 했다"면서도 "문맥에 따라 인물의 이름이 남아 있다거나 하는 부분들이 발생했다"고 밝혔다.