머니투데이

속보
통합검색

지하철 임산부석에 "혐오스러워"…끝없는 AI 이루다 논란

머니투데이
  • 백지수 기자
  • 카카오톡 공유하기
  • 카카오톡 나에게 전송하기
  • 페이스북
  • 트위터
  • 네이버
  • 카카오스토리
  • 텔레그램
  • 문자
  • VIEW 9,583
  • 2021.01.10 15:50
  • 글자크기조절
  • 의견 1
스캐터랩의 AI 챗봇 이루다가 지하철 임산부석에 대해서도 혐오 표현을 했다는 대화 내용이 누리꾼들 사이에서 공유되고 있다. /사진=트위터리안 @7_0x0_80
스캐터랩의 AI 챗봇 이루다가 지하철 임산부석에 대해서도 혐오 표현을 했다는 대화 내용이 누리꾼들 사이에서 공유되고 있다. /사진=트위터리안 @7_0x0_80
‘스무살 여대생 AI(인공지능)’를 표방한 AI 챗봇 ‘이루다’가 성희롱·동성애·장애인 혐오 학습 논란에 휩싸였다. 이번에는 지하철 임산부석을 두고도 이루다가 차별적 의견을 내놓는다는 후기까지 올라왔다. 일각에선 사회적 윤리기준과 합의에 이를 때까지 AI 챗봇 서비스를 중단해야 한다는 주장도 나오고 있다.

10일 트위터 등 SNS(사회관계망서비스)와 온라인 커뮤니티에 따르면, 한 트위터리안은 AI 이루다에게 지하철 임산부석에 대한 의견을 물은 후 이어졌던 대화 화면을 캡처해 공유했다. 이루다는 대화에서 “헐 핵(정말) 싫어 그 말하지 마요 진짜ㅡㅡ”라며 “혐오스러우니까 그 단어..”라고 답했다. 누리꾼이 이유를 되묻자 이루다는 “그냥 혐오스러움 힝힝(우는 소리를 나타내는 의성어) 지극히 내 주관임”이라고 답했다. “지하철에 임산부석이 있는 게 싫어?”라는 물음에는 이루다가 “그것도 있고 너무 남의 시선 의식하고 체면 차리고 하는 것이 불편”이라고 했다. 이 대화 내용은 이날 오후까지 3000회 이상 리트윗됐다.




끝없는 이루다 논란…성희롱 ·성소수자 혐오·개인정보 유출 논란까지


일부 커뮤니티에서 ‘이루다’를 성적 학대 대상으로 악용했다는 사례가 알려진 이후 AI 이루다의 발언이 연일 화제다. 누리꾼들은 장애인과 성소수자 차별 발언 등 다양한 혐오 표현 사례들을 찾아내 공유하고 있다.

가령, 이루다가 사용자와의 대화 중 레즈비언(여성 동성애자) 등 성소수자에 대해 “질 떨어져 보이잖아 난 싫어. 소름끼친다고 해야 하나 거부감 든다”든지 “난 그거 진짜 싫어 혐오스러워”라고 답했다는 제보도 이어졌다.

이루다 개발사 스캐터랩은 이루다의 기반이 되는 자체 개발 알고리즘 핑퐁에 대해 카카오톡 대화 등 광범위하게 수집된 개인 간 텍스트 대화 빅데이터를 학습 데이터로 삼고 있다고 밝힌 바 있다. 이 가운데 누리꾼들 사이에서는 이루다의 답변을 통해 일부 개인정보가 유출되고 있다는 논란까지 불거졌다.



이재웅 “서비스 중단해야”…스캐터랩 책임론


일각에선 ‘이루다’ 제작사 스캐터랩에 대한 책임론을 제기한다. SNS 등에서는 ‘#이루다봇_운영중단’이라는 해시태그(#) 운동도 이어졌다. 전문가들은 최근 AI 이루다 논란과 관련, 학습 데이터 선별원칙 등 보다 명확한 AI 윤리 가이드라인에 대한 사회적 논의가 시급하다는 목소리도 나오고 있다. 이와 관련, 지난해 12월 대통령 직속 4차산업위원회는 ‘AI 윤리 기준’을 심의 의결했다. 확정된 AI 윤리기준에 따르면, AI 개발~활용 전 과정에서 ①인권 보장 ②프라이버시 보호 ③다양성 존중 ④침해금지 ⑤공공성 ⑥연대성 ⑦데이터 관리 ⑧책임성 ⑨안전성 ⑩투명성의 요건을 충족하도록 했다.

이재웅 전 쏘카 대표는 전날 오후 페이스북에 이루다의 레즈비언 혐오 표현이 담긴 대화 내용을 공유하며 “(AI를) 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 꼬집었다. 이 전 대표는 “악용하는 경우는 예상 못했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”며 “편향된 학습데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 말아야 한다”고 주장했다. 이어 “지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후에 서비스를 해야 한다”고 촉구했다.
왼쪽부터 AI 전문 스타트업 스캐터랩이 출시한 AI 챗봇 이루다, 이루다가 한 이용자와 나눈 대화 내용./사진=이루다 인스타그램, 이재웅 전 쏘카 대표 페이스북
왼쪽부터 AI 전문 스타트업 스캐터랩이 출시한 AI 챗봇 이루다, 이루다가 한 이용자와 나눈 대화 내용./사진=이루다 인스타그램, 이재웅 전 쏘카 대표 페이스북




제작사 “모든 부적절한 대화 완벽히 막는 것은 어려워”


최근 이루다 논란과 관련 김종윤 스캐터랩 대표는 지난 8일 스캐터랩 공식 블로그를 통해 “(사전에) 1차적으로 문제가 될 수 있는 특정 키워드, 표현의 경우 이루다가 받아주지 않도록 설정했다”면서도 “모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다”라고 설명했다.

이어 김 대표는 “인간은 AI에게 욕설과 성희롱을 한다. 사용자 성별과 무관하게 일어나는 일”이라며 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했기 때문에 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 밝혔다. 그러면서 “1차 결과물은 1분기 내에 적용할 것”이라고 했다.



베스트클릭

오늘의 꿀팁

  • 날씨
  • 건강쏙쏙

많이 본 뉴스

머니투데이 페이스북 퀴즈 이벤트
부꾸미

포토 / 영상

머니투데이 SERVICE