"불법행위, 욕설 차단"...개인방송 음란물도 걸러내는 'AI'

네이버(NAVER (160,300원 ▲400 +0.25%))가 게임 스트리밍(중계) 플랫폼 '치지직' 출시 후 일부 스트리머의 불법 방송으로 논란을 빚고 있지만, 24시간 모니터링 인력 배치 및 AI(인공지능) 기술로 적극 대응에 나서고 있다.

7일 업계에 따르면 네이버는 사내 치지직 운영 조직과 손자회사인 '그린웹서비스'를 통해 치지직을 모니터링 한다. 현재 베타테스트 기간에다 론칭 한 달도 안 된 시점이라 모니터링 인력이 많지 않지만 계속 확충해나갈 계획이다.


네이버 관계자는 "베터테스터 규모를 늘리고, 정식 서비스 출시를 고려해 모니터링 인력도 계속 충원하고 있다"면서 "현재 3교대로 24시간 모니티링 중이다. 그린웹서비스도 원활한 서비스 제공을 위해 박차를 가하고 있다"고 말했다. 그린웹서비스는 네이버의 광고운영, 검색운영, 영상제작 업무 등을 수행하는 네이버I&S의 100% 자회사다.

네이버는 음란물 필터링 강화를 위해 AI(인공지능) 기술인 '엑스아이(X-eye)'도 치지직에 적용했다. 네이버에 따르면 엑스아이가 유해 사진 및 동영상을 걸러낼 수 있는 확률은 98.1%에 달한다. 직원이 놓치거나 늦게 발견해 조치를 취할 때까지 유해물이 노출될 수 있는 허점을 보완할 수 있다. 엑스아이는 현재 치지직의 VOD(주문형비디오), 채팅에 적용됐다. 향후 라이브영상까지 적용 범위를 확대할 계획이다.

네이버는 이같은 모니터링 시스템을 통해 최근 치지직 내에서 발생한 불법 콘텐츠를 적극 대응하고 있다. 치지직의 스트리머 '정병소녀'는 지난 3일 욱일기가 그려진 티셔츠와 머리띠를 착용한 채 방송을 진행해 논란이 됐다. 치지직 측은 운영 정책 위반 등을 이유로 채널 운영을 정지 처리했다. 지난달에는 타 플랫폼에서 물의를 일으키고 영구 정지를 받은 스트리머가 치지직에서 방송한다는 신고를 받고 이들의 방송 자격을 박탈했다. 또 연령 제한이 필요한 라이브·영상 서비스에 해당 기능을 추가했다.


이에 대해 방송 업계 한 관계자는 "네이버가 스트리밍 시장에 진출한 것은 처음이라 다소 대응이 부족할 수 있지만 이 정도면 괜찮은 수준"이라며 "BJ 논란 등은 이미 아프리카TV (127,700원 ▼3,400 -2.59%)나 트위치도 겪었고 대형 플랫폼으로 성장하고 대응력을 키우기 위해선 어쩌면 꼭 지나쳐야 할 단계"라고 말했다.

경쟁사인 아프리카TV는 이미 수준 높은 모니터링 시스템을 갖췄다. 아프리카TV에 따르면 모니터링 전담 인력만 100여명에 달하며, 24시간 근무 체계를 통해 실시간 대응한다.

여기에 자체 개발 AI 필터링 기술인 '태권S'와 '태권A'도 적용했다. 태권S는 실시간 음란물 필터링 기술이다. 축적된 수백만건의 음란물 영상을 학습한 AI는 부적절한 사진이나 동영상을 감지해 전담 운영자에게 알려준다. 최근엔 방송국 게시글 이미지 영역까지 확대 적용했다. 태권A는 불법 홍보 키워드나 문구를 포함하는 메시지를 감지하고 차단하는 기술이다. 수많은 불법 홍보 메시지 리스트를 사전에 학습하고 특정 패턴을 감지하는 알고리즘을 활용해 이를 분석 탐지한다.

한편 아프리카TV는 올 상반기 글로벌 플랫폼 '숲'(SOOP)을 선보인다. 이와 함께 국내 플랫폼 및 BJ, 별풍선 등 모든 명칭을 변경해 이미지 쇄신에 나선다는 계획이다.