카카오 "차별·증오발언 강경 대응하겠다"…AI 이루다 사태 사전 방지

사진제공=카카오

카카오가 13일 디지털 공간에서의 모든 차별·증오발언을 근절하기 위한 원칙을 발표했다. 국내 기업이 증오 발언을 근절하기 위해 직접 원칙을 적용하는 것은 처음이다. AI(인공지능) 챗봇 '이루다'를 둘러싼 성희롱·소수자 차별 논란이 사회적으로 파장을 일으킨 가운데, 카카오의 행보에 비상한 관심이 쏠리고 있다.

카카오는 이날 '카카오 정책산업 연구' 공식 브런치를 통해 '증오발언 근절을 위한 카카오의 원칙'을 발표하며 카카오 플랫폼 내의 모든 서비스에서 발견되는 차별과 증오에 강경 대응하겠다는 입장을 밝혔다. 카카오 플랫폼의 뉴스나 콘텐츠 서비스의 댓글, 게시판, 카페 공개 게시글, 카카오의 AI 카카오i 등 모든 서비스와 AI 등 카카오가 연구·개발하는 모든 기술에서 이 원칙을 적용하겠다는 방침이다.


카카오는 우선 국가·지역 등의 출신이나 인종, 외양, 장애, 질병 유무, 사회 경제적 상황, 지위, 종교, 연령, 성별, 성 정체성, 성적 지향 등 여러 정체성 요인을 이유로 특정 대상을 차별하거나 이에 대한 편견을 조장하는 행위, 일방적으로 모욕·배척하는 행위 등을 반대한다고 명시했다.

카카오는 또 "이러한 차별에 기반해 특정인과 특정 집단을 공격하는 발언을 '증오발언'으로 정의한다"고 밝혔다. 여기서 '증오 발언'이란 대상을 단순히 혐오하는 수준을 넘어서서 '고의적인 폭력성'까지 포괄한다는 개념이라고 카카오는 설명했다. 디지털 공간의 증오발언이 이용자의 인권과 존엄성을 훼손하고 안전까지 위협한다는 점에서 강경히 대처하겠다는 방침이다.

카카오는 이용자가 댓글이나 게시판 등 카카오 서비스 내 공개된 공간에서 특정인과 특정 집단에 대한 폭력을 선동하거나 인간의 존엄성을 훼손하는 발언에 유의해야 한다는 원칙도 강조했다. 증오발언을 근절하기 위해 카카오의 정책과 기술, 서비스 기획과 디자인 등을 고도화하고 사내 교육과 모니터링을 강화하겠다는 방침도 밝혔다.


다만 카카오는 "카카오톡의 사적 대화공간이나 메일, 톡서랍 등 개인화한 서비스와 커뮤니티 비공개 게시글 등에는 프라이버시 존중을 최우선 가치로 적용할 것"이라고 덧붙였다.

카카오는 이같은 원칙이 지난해 1월부터 1년간에 걸쳐 고민한 결과물이라고 밝혔다. 카카오 미디어자문위원회와 시민사회 전문가, 국가인권위원회, 한국언론법학회 등 민·관·학 전문가들이 머리를 맞대고 사회의 눈높이에서 만든 원칙이라는 설명이다.

카카오는 이같은 원칙을 이날 카카오 운영정책 내 '서비스 이용 시 금지하는 활동'의 세부 조항에 이를 반영해 수정했다고도 밝혔다. 여기에는 금지 활동의 범위에 '인간으로서의 존엄성을 훼손하거나 폭력을 선동하거나 차별·편견을 조장하는 행위'가 표현된다는 점을 분명히했다.

카카오는 이를 디지털 기업 고유의 ESG 활동의 일환이라고 소개했다. 전날 김범수 카카오 이사회 의장이 이사회 산하 ESG(환경·사회·지배구조) 위원회를 신설하고 직접 위원장으로 나선 가운데 카카오가 처음 공개한 ESG 활동이다.

카카오는 증오발언 문제에 대한 논의 과정도 투명하게 밝히겠다며 '증오발언 대응 정책 녹서(green paper)'도 공개했다. 증오발언 여부를 판단하기 위한 올바른 사회적 가치에 대해 어떤 합의 과정이 있었는지를 명시한 셈이다.

카카오 관계자는 "건강한 디지털 공간을 만든다는 궁극적인 목표 달성을 위해서는 이용자들의 참여가 중요하다"며 "이번에 발표한 원칙이 실질적인 결과로 연결될 수 있도록 이용자들도 증오발언 근절 노력에 함께 해 달라"고 당부했다.