"딥페이크 범죄, AI로 잡는다"…딥브레인AI, 탐지 솔루션 선봬

머니투데이

고석용 기자

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

생성형 인공지능(AI) 스타트업 딥브레인AI가 경찰청과 함께 딥페이크 탐지 솔루션을 선보였다고 15일 밝혔다. 경찰청은 개발된 솔루션을 활용해 총선 사기, 보이스피싱, 성범죄 등 디지털 범죄 검거에 활용한다는 계획이다.

딥브레인AI의 딥페이크 탐지 솔루션은 종합탐지와 음성탐지 등 2가지로 구성돼 있다. 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 탐지모델, 탐지구간, 탐지인물 등을 설정하면 5~10분 내에 진위여부를 판별한다.

이미지와 영상은 픽셀 단위로 분석하며, 음성은 주파수와 시간, 노이즈 등 다양한 조작 요소를 종합적으로 고려해 판단한다. 판별이 완료되면 변조율과 합성유형 등 범죄에 사용된 기술 정보도 함께 제공한다.

딥브레인AI는 이번 솔루션 개발에 한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만건을 포함해 총 520만건의 데이터를 학습시켰다고 밝혔다.

딥브레인AI는 경찰청과의 협력을 계기로 다양한 분야의 기업·기관과도 딥페이크 탐지 솔루션 구축해나가겠다고 밝혔다. 딥브레인AI 측은 서비스형 소프트웨어(SaaS) 형태로 제공돼 솔루션 활용을 위해 별도의 서버나 장비 구축 없이 솔루션을 빠르게 확산시킬 수 있다고 보고있다.

장세영 딥브레인AI 대표는 "허위 정보의 진위여부를 즉각 판별하는 솔루션을 적극 공급하며 전 사회적인 손실 비용을 최소화할 것"이라며 "누구나 쉽고 간편하게 허위 사실을 판단할 수 있도록 도와 딥페이크 범죄를 무력화시키는 게 궁극적인 목표"라고 전했다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]