"딥페이크 등 부작용 막자"…유엔 'AI 결의' 첫 채택

머니투데이

김하늬 기자

유엔(UN) 회원국이 안전한 인공지능(AI) 시스템 활용을 위한 국제적 합의안 마련에 뜻을 모았다.

21일(현지시간)로이터통신에 따르면 UN회원국은 미국 뉴욕 UN 본부에서 총회를 열고 안전하고 신뢰할 수 있는 AI 관련 결의안을 만장일치로 채택했다.

전 세계적으로 AI 사용이 거스를 수 없는 흐름이 된 상황에서 이미지 합성기술인 '딥페이크'와 같은 부작용을 최소화하기 위한 대책 마련에 머리를 모으겠다는 취지다.

이번 결의안은 AI 시스템의 안전하고 신뢰할 수 있는 보안 기준의 필요성을 강조했다. 특히 디지털화를 방해하기보다는 더욱 증진하는 방향으로 인공지능이 사용되어야 한다는 것이 기본 개념이다.

AI 사용과 관련해 선진국과 신흥국 간 디지털 격차를 좁혀야 한다는 내용도 담겨있다. 신흥국도 AI를 혜택을 누릴 수 있는 기술과 능력을 갖추도록 도와야 한다는 의미다. 이들 국가는 질병 진단, 홍수 예방, 농업 생산성 향상, 직업교육 등에서 AI 사용이 필요한 측면이 있다는 취지다.

미국이 지난 주에 제출한 이 결의안은 모든 유엔 회원국들과 각 지역별 국가별로 다방면의 이해관계자들이 참여해서 안전하고 신뢰할 수 있는 AI시스템 확보를 위해 관련 법규와 관리 방법 등을 공유하도록 권고하고 있다. 그렇게 해서 모든 수준의 친환경시스템을 가능하게 하는 AI시스템을 확보하자는 것이다.

초안에는 물리적·보안 시스템과 위험 관리를 포함해 AI 사용에 대한 효과적인 안전장치를 마련할 것을 요구하고 "민간 부문이 해당하는 국제법과 국내법을 준수할 것을 권장하라"는 내용도 포함됐다.

회원국들은 이날 결의에서 적절한 안전장치 없이 AI를 사용하거나 국제법을 위배해 사용해선 안 된다는 점을 강조했다. 또 AI를 부적절하거나 악의적으로 설계·개발·배포·사용해선 안 된다고 했다.

린다 토머스-그린필드 주유엔 미국대사는 "AI 기술이 빠르게 발전함에 따라 회원국들이 이 중요한 순간을 맞아 집단행동을 해야 할 긴급한 필요성이 있다"고 결의 필요성을 강조했다.

다만 초안에는 AI를 둘러싼 최대 우려 가운데 하나인 군사기술 접목은 다루지 않았다. 블룸버그 통신은 미국의 결의안 상정시 "세계적 규제 체계를 마련하자는 이번 결의안이 미국 국내에서는 AI 관련 규제가 없는 것과는 대조된다"고 지적했다.