인스타, AI로 ‘영어 혐오표현’ 가려낸다…한국은 아직

머니투데이

최연재 인턴기자

인스타그램 공식 블로그에 소개된 혐오표현 관리 기능/사진제공= 인스타그램

/사진제공=AFP

인스타그램이 인공지능(AI)을 활용해 혐오표현이 담긴 게시물을 관리한다.

19일(현지시간) BBC에 따르면 인스타그램은 지난 16일부터 사진이나 동영상의 자막이 불쾌감을 줄 수 있는 경우 이를 알리고, 글을 게시하기 전 재고할 수 있도록 했다. 이 기능은 일부 국가에서 선 출시되며 몇 달 안에 전 세계로 확대될 예정이다. 일단은 영어와 프랑스어 사용국가가 우선이며 현재 한국(한국어)은 해당 기능이 적용되지 않고 있다.

인스타그램 측은 인공지능으로 기존에 신고 된 혐오성을 띤 단어와 새 게시물 단어를 비교 분석해 수정 권고 여부를 판단 할 것이라며 공식 블로그에 이와 같이 게재했다.

인스타그램 관계자는 “인공지능을 통한 자막 검토는 ’사이버 괴롭힘‘을 방지할 수 있고, 사람들에게 혐오의 대한 심각성을 심어 줄 것”이라고 밝혔다.

인스타그램 공식 블로그에 소개된 혐오표현 관리 기능/사진제공= 인스타그램

그동안 인스타그램은 ‘사이버 괴롭힘’으로 문제가 많다고 지적을 받았다. 영국의 청소년 괴롭힘 방지 단체인 ‘디치 더 라벨 (Ditch the Label)에 의하면 페이스북과 스냅챗의 ’사이버 괴롭힘 지수‘는 각각 6%와 5%이고, 인스타그램은 7%로 가장 높은 것으로 지난 7월에 집계되었다.

BBC 뉴스에 따르면 현재 미국 청소년의 약 80%가 인스타그램을 사용하고 있으며, 약 절반 이상이 ‘사이버 괴롭힘’을 당한 적이 있다고 보도했다.

올해 초 인스타그램은 ‘댓글 제한’을 한국어로도 지원하기 시작했다. 이 기능은 인공지능(AI)을 활용해 불쾌감을 줄 수 있는 부적절한 댓글을 자동으로 숨겨주고, 반복적으로 악성 댓글을 올리는 계정을 차단할 수 있도록 한다. 정확도는 약 95%에 이른다.