[MT시평]딥페이크 금융사기 대응정책 절실

안수현 한국외대 법학전문대학원장

최근 인공지능(AI) 기술의 발전이 사기에 활용돼 피해가 확산한다. 이른바 인공지능으로 조작된 가짜 목소리(딥보이스)가 생성형 인공지능과 결합해 딥페이크(Deepfake, 인공지능 기술인 deep learning과 가짜를 의미하는 fake가 합성된 말로 인공지능으로 만든 합성영상·이미지)가 사기에 이용되기 때문이다.

인공지능이 발전하기 전에는 비디오를 편집해 내용을 왜곡하는 영상을 만들거나 합성이미지를 생성하는 위변조가 주를 이뤘다. 이런 방식의 위변조는 짧은 시간과 적은 노력으로 만든다고 해서 칩페이크(Cheapfake) 또는 딥페이크와 대조돼 셸로페이크(Shallowfake)라고 한다.


국내의 경우 '유명인사 사칭 투자사기'로 유명배우의 얼굴과 음성을 조작한 가짜영상을 활용해 투자를 권유하는 사건이 늘고 있다. 지난해 잡힌 보이스피싱 일당은 중국에 보이스피싱 콜센터를 두고 검찰과 금융감독원 직원 등을 사칭해 1891명에게 1491억원을 가로챘는데 이들은 매스컴을 통해 알려진 검사의 얼굴을 이용한 딥페이크 피싱범죄를 계획해 충격을 줬다. 보이스피싱 피해의 약 80%가 사칭형(가족, 지인 등)이라는 점에서 생성형 AI 기반의 딥페이크 영상·음성은 갈수록 금융사기에 활용될 것으로 예측된다.

금융보안원은 2024년 디지털금융 및 사이버보안 이슈로 딥페이크 악용 금융사기 범죄가 현실화할 것이라고 전망하면서 금융소비자 홍보강화와 금융사기 예방을 위한 정책마련이 시급하다고 했다. 그런데 딥페이크 기술개발과 이용에 관한 규제로 인공지능 기술로 만든 영상물 콘텐츠에 워터마크(식별표시) 부착의무 등을 담은 법안(정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안)이 국회에 상정됐으나 논의는 그리 활발하지 않다.

한편 딥페이크를 이용한 금융사기는 예방도 중요하지만 지능화·고도화해 원천차단이 불가능하다는 점에서 피해구제가 필수다. 보이스피싱의 경우 전기통신 금융사기로 관련계좌에 대한 지급정지 요청과 피해환급이 가능하다. 다만 피해액이 단기에 다수의 계좌를 거쳐 이전되는 과정에서 신속한 지급정지가 어려워 환급률은 낮은 편이다. 금융감독원의 2022년 국내 보이스피싱 피해현황에 따르면 피해금액은 1451억원이나 피해금 환급률은 26.1%에 불과하다. 최근 인공지능 기반 금융사기에 대응하기 위해 영국 결제시스템 규제기관 PSR는 딥페이크 결제사기 시 은행의 보상책임을 확대해 피해자 본인이 직접 송금했더라도 은행이 피해자의 중대한 과실이 있다는 것을 증명하지 못하면 최대 41만파운드(약 6억9000만원)를 보상하게 할 계획이다. 영국 은행들도 사기방지 기술에 대한 투자를 대폭 확대했는데 대표적 챌린지뱅크인 버진머니는 인공지능을 활용한 사이버범죄 예방에 앞으로 3년간 1억3000만파운드(약 2206억원)를 투자할 계획이다.

갈수록 누구나 쉽게 딥페이크를 생성할 수 있어 피해도 커질 수 있다. 조속히 인공지능을 이용한 금융사기 대응방안이 촘촘히 만들어지길 희망한다.