보이스피싱·딥페이크 범죄 막는다…딥브레인AI, 탐지기술 고도화

머니투데이

최태범 기자

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

인공지능(AI) 기술 기업 딥브레인AI가 딥페이크(Deepfake) 탐지 솔루션의 고도화를 통해 조작된 영상 검출은 물론 이미지·음성까지 탐지 범위를 확대했다고 3일 밝혔다.

딥페이크는 특정인의 얼굴과 목소리, 행동까지 그대로 재현한 위조 콘텐츠를 일컫는다. 딥페이크 제작의 기술적 장벽이 낮아지며 사회적 문제로 떠오르고 있다. 다가오는 미국 대선을 앞두고 가짜 뉴스, 불법 음란물 등 범죄에 악용되는 사례가 지속적으로 늘고 있다.

딥브레인AI는 세상에 존재하지 않는 가상 인간의 얼굴을 제작하는 페이스 제너레이션(Face Generation)과 원하는 얼굴로 교체하는 페이스 스왑(Face Swap), 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지한다.

아울러 특정 인물의 영상 데이터로 얼굴 특징, 체형, 행동 패턴 등을 분석해 딥러닝 학습을 진행한 후 특정 인물에 대한 진위 여부를 판별하는 '특정 인물 탐지 모델'과 음성 합성 여부를 탐지하는 '음성 탐지 모델'을 제공한다.

특히 음성 탐지 모델은 음성의 주파수와 시간 등을 각각 고려해 분석한 후 모델 학습을 진행하는 음성 판별 방식을 사용하며, 국내 통신사와 협력해 범죄 수법이 날로 진화하고 있는 보이스피싱 예방에도 활용할 계획이다.

딥브레인AI의 딥페이크 탐지 솔루션은 한국어, 영어, 중국어, 일본어를 우선 지원한다. 현재 국내 일부 관공서에서 활용되고 있다.

앞으로 은행, 증권, 보험 등 금융권과 통신사를 비롯해 선거관리위원회, 방송통신위원회 등 다양한 산업군에서도 활용할 수 있도록 맞춤형 지원을 확대할 예정이다. 일반 소비자도 사용 가능한 서비스도 개발해 연내 공개할 계획이다.

장세영 딥브레인AI 대표는 "AI 기술이 고도화되면서 이를 악용해 범죄를 저지르는 사례가 전 세계적으로 증가하고 있다. 딥페이크 탐지 솔루션을 관공서와 기업, 개인 등 맞춤 지원해 AI 기술의 악용으로 인한 피해 예방에 앞장설 것"이라고 말했다.

[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']