캐리버스, ETRI와 메타버스 AI 보안관 개발 "디지털 어뷰징 예방"

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]




캐리버스는 문화체육관광부와 한국콘텐츠진흥원(KOCCA) 지원으로 한국전자통신연구원(ETRI)과 함께 메타버스 기술력 선보인다고 23일 밝혔다.

캐리버스는 '건전한 메타버스 서비스를 위한 디지털 어뷰징 탐지 및 관리 기술 개발' 과제를 수행하고 있다. 오는 2025년까지 29억6000만원 규모의 지원을 받는다. 한국전자통신연구원(ETRI)이 주관 연구기관이다. 캐리버스는 메타버스 기술력을 인정받아 인텔리어스, 중앙대학교 산학협력단과 함께 공동연구기관으로 참여하고 있다.

이번 사업은 안전하고 건전한 메타버스 서비스 환경을 만들기 위해서 디지털 어뷰징 탐지 및 관리 기술을 개발하고, 이를 메타버스 플랫폼에 적용해서 디지털 어뷰징(욕설, 성희롱, 이상행동 등)을 방지하는 데 그 목적이 있다.


한국전자통신연구원과 공동 연구기관들은 텍스트와 영상 분석을 기반으로 어뷰징을 탐지할 수 있는 안전 AI(인공지능) 기술을 개발해 메타버스의 디지털 어뷰징 대응에 힘써왔으며, 기술 검증과 시범서비스 도입을 앞두고 있다.

캐리버스는 이번 과제에서 콘텐츠 및 기술 개발을 담당하고 있다. AI를 기반으로 하는 메타보안관 NPC를 개발했고, 해당 NPC를 통해 유저의 텍스트 및 영상 증거를 수집한다. AI 기술을 이용해 채팅 등 대화의 문맥을 이해하고 악성 의도를 정교하게 탐지해 어뷰징을 실시간으로 차단한다. 영상 어뷰징 방지를 위해서는 AI로 아바타 행동 데이터셋을 생성 하고, 데이터셋을 통해 딥러닝 된 모델에 의해 아바타 포즈 추정 및 행위 탐지를 진행해 어뷰징 행위를 차단할 수 있도록 한다.

기술 검증과 시범서비스는 메타버스 플랫폼 '캐리버스'를 통해 진행된다. 연구기관들은 그동안의 성과를 캐리버스에서의 시범 적용 이후 표준화로 추진하며, 실세계에서의 어뷰징 탐지를 위한 안전 AI로 확대한다는 계획이다. AI 보안관은 올 4분기에 적용될 예정이다.


[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']