조작한 사진·영상 AI가 잡는다…국내 최초 실용기술 개발

머니투데이

류준영 기자

복합 변형 탐지 결과, 복사-붙여넣기를 하면 스플라이싱+리사이즈+블러 등의 몇몇 필수변이들이 탐지됨/사진=KAIST

카이캐치로 사진 변형 여부를 탐지한 결과, 오른쪽 녹색 부분이 편집 등 변형한 부분/사진=KAIST

국내 연구진이 위·변조된 사진·영상을 탐지해내는 기술을 개발했다.

한국과학기술원(KAIST) 전산학부 이흥규 교수 연구팀은 KAIST 창업기업인 ‘디지탈이노텍’과 함께 인공신경망을 이용해 디지털 사진의 변형 여부를 탐지하는 소프트웨어(SW) ‘카이캐치’(KAICATCH)를 개발했다고 3일 밝혔다.

이는 그동안 논문 발표 수준에만 머물러 있던 기술을 실용화 단계로 끌어 올렸다는 점에서 주목받고 있다. 국내 최초임과 동시에 세계 두 번째다.

최근 인공지능(AI) 기술을 활용해 얼굴이나, 특정 부위를 합성한 영상편집물 ‘딥페이크’(deepfake)를 포함해 각종 위·변조 영상의 등장으로 위·변조 탐지기술에 대한 관심이 늘고 있다. 위·변조 여부를 직접 확인할 수 있는 분석 도구는 현재 없다.

특히, 기존 디지털 사진 포렌식 기술은 개개 변형 유형에 대응해 개발돼 변형 유형이 다양하거나, 사전에 특정되기 전에는 일정 수준 이상의 높은 신뢰도를 확보하기 어렵다. 어떤 변형들이 가해진 것인지 알 수 없는 상황에서는 판독의 정확성 및 신뢰도가 떨어질 수 밖에 없다.

복합 변형 탐지 결과, 복사-붙여넣기를 하면 스플라이싱+리사이즈+블러 등의 몇몇 필수변이들이 탐지됨/사진=KAIST

연구팀은 2015년 6월부터 ‘디지털 이미지 위·변조 식별 웹서비스’를 통해 수집한 30여 만장의 이미지 데이터와 신경망 기반의 포렌식 영상 데이터, 딥페이크 실험 영상 자료 등을 정밀 분석해 다양한 변형을 탐지해낼 수 있는 SW를 개발했다.

연구팀은 잘라 붙이기, 복사 붙이기, 지우기, 이미지 내 물체 크기 변화와 이동, 리터칭 등 일상적이면서 자주 발생하는 변형들에서 언제나 발생하는 변이들을 분류, 정리한 뒤 ‘필수 변이’로 정의하고 이들을 종합 탐지하도록 했다.

그 결과 변형의 유형을 특정하지 못하는 상태에서도 변형이 발생했는지 여부를 정확히 판단, 탐지 신뢰도를 높였다.

이 교수팀이 개발한 ‘카이캐치’는 전통적 영상 포렌식 기술, 스테그 분석 기술 등 픽셀 단위의 미세한 변화를 탐지하는 기술들을 응용해, ‘이상 영역 추정 엔진’과 ‘이상 유형 분석 엔진’ 두 개의 AI 엔진으로 구성됐다. 이를 기반으로 결과를 판단하고 사진에 대한 다양한 변형 탐지 기능과 사진의 변형 영역 추정 기능 등을 함께 제공한다.

이 교수는 “이 기술은 특히 임의의 환경에서 주어진 디지털사진의 변형 여부를 판단하는데 탁월한 성능을 보인다”며 “현재 확보한 실험실 수준의 딥페이크 탐지 엔진을 실용화 수준으로 발전시켜 카이캐치에 탑재할 계획”이라고 말했다.