딥페이크에 340억 날린 금융사… 금감원, AI 리스크 대응책 마련

금융권 AI 위험 종류/그래픽=김다나

금융권에서 생성형 AI(인공지능) 활용이 늘어나는 가운데 금융당국이 관련 리스크에 대응할 감독·규율 방안을 마련한다. 최근 딥페이크 영상에 홍콩 금융사가 342억원 손실을 보는 등 금융권 AI 활용의 위험이 가시화하고 있다. 국제적인 규제 강화가 예상되는 만큼 금융당국이 선제적으로 AI 이용실태와 관리체계를 파악해야 한다는 제언이 나온다.

금감원은 지난 15일 본원 2층 대강당에서 금융회사 AI 담당 임원 등 약 250명이 참석한 가운데 '금융권 AI 활용 활성화를 위한 세미나'를 열었다고 17일 밝혔다.


이날 세미나에서 김병칠 금감원 부원장보는 "AI 활용 시 발생할 수 있는 정보 유출 등 리스크 요인의 감독 방안을 균형감 있게 검토하겠다"고 말했다. 그러면서 합리적인 규율 방안을 마련하겠다고 했다.

최근 금융업에서의 AI 활용은 점차 늘어나는 추세다. 전자정보기술산업협회에 따르면 지난해 금융권에서 생성형 AI 시장 규모는 약 106억달러였다. 오는 2030년 439억달러(58조4700억원)까지 빠른 속도로 성장할 전망이다.

하지만 AI 활용에 따른 리스크도 크다. 지난달 홍콩의 한 금융사는 딥페이크(AI를 활용한 가짜 이미지·영상)에 속아 약 342억원의 송금 사기를 당했다. 이 외에도 금융권 AI 이용은 △여·수신 계약 금리 체결 △신용등급 평가 △카드발급 심사 등에서 편향된 결과를 가져올 수 있다. 잘못된 신용 계약을 체결하는 등 금융사 리스크 관리를 어렵게 만들 수도 있다.


이에 금융당국이 선제적으로 AI 리스크를 관리하고 규제 감독 방향을 제시해야 한다는 목소리가 나온다. 이미 해외 금융당국은 규제 체계를 정비하는 등 대응에 나섰다.

이병관 한국금융연구원 부장대우는 "주요국 금융당국의 대응을 감안해 국내 금융기관의 AI 이용실태와 관리체계를 파악해야 한다"며 "특히 금융시스템의 안정성과 관련된 문제는 향후 국제적인 규제·감독 강화가 예상되므로 해외 상황을 예의주시하면서 AI 관련 대응책을 검토하는 게 바람직하다"고 설명했다.

곽범준 금감원 디지털혁신국장은 "고위험 AI의 효과적 통제를 위해서는 자체 거버넌스 구축과 이를 통한 자율적 통제가 선행돼야 한다"며 "금감원도 금융권 AI 내부통제 워크숍 개최 등으로 모범사례를 공유하고 올바른 거버넌스의 구축·확산을 위해 노력하겠다"고 밝혔다.

한편 이날 세미나에선 조영서 KB금융 (76,600원 ▼1,100 -1.42%)지주 부사장과, 안성희 신한카드 상무, 김성수 교보생명 상무 등이 참석해 현재 금융권에서의 AI 활용 사례를 공유했다.

조 부사장은 KB금융의 AI 위험관리정책 수립, AI 모델 평가·검증, 사후 모니터링 등 AI 거버넌스 구축 사례를 소개했다. 안 상무는 AI 사용을 확대해 2025년까지 신한카드 고객상담 커버리지를 50%로 확대하겠다고 밝혔다. 김 상무는 보험 지금·대출 심사에 AI를 활용해 휴먼 에러를 최소화하겠다는 추진 계획을 공개했다.

금융업, 생성형 AI 시장규모/그래픽=김다나