"AI, '핵무기 없는 세계' 저해 말아야"…군사 AI 규범 청사진 발표

10일 서울 중구 롯데호텔에서 열린 2024 인공지능의 책임있는 군사적 이용에 관한 고위급회의(REAIM)에서 참석 연사들이 '군사 분야 AI 미래 거버넌스 구상' 본회의를 갖고 군사분야 AI 관련 현행 국제 제도 및 협력 강화 전략, 조치 등을 논의하고 있다. 왼쪽부터 로빈 가이스 유엔군축연구소 소장, 루벤 브레이클만스 네덜란드 국방장관, 데니스 가르시아 노스이스턴대 교수, 프라나브 미스트리 투플랫폼 CEO, 레이첼 아담스 AI 거버넌스 글로벌 센터 CEO 겸 창립자, 이즈미 나카미츠 유엔군축고 /사진=뉴시스

인공지능(AI) 기술을 군사분야에 아무런 규제 없이 활용할 수 있다면 어떤 일이 벌어질까. 혹시 모를 참사를 막기 위해 세계 외교·안보 분야 지도자들과 전문가들이 '행동의 청사진'(블루프린트 포 액션·Blueprint for Action) 선언문을 채택했다. 최소한의 가이드라인을 마련하자는 취지다.

외교부는 10일 '2024 제2차 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급회의'(REAIM 고위급회의)의 결과물로 발표된 행동의 청사진 선언문 내용을 공개했다. 외교부에 따르면 우리나라를 포함해 미국, 일본, 덴마크, 프랑스, 가나, 그리스, 헝가리 등 총 61개국이 이번 선언문에 지지를 표했다.


총 20개 항으로 구성된 선언문은 크게 3가지 대주제로 나뉘었다. △AI가 국제 평화와 안보에 미치는 영향 △AI의 책임 있는 군사적 이용을 위한 조치 △군사 분야 AI의 미래 거버넌스 구상 등이다.

구체적으로 살펴보면 선언문 5항은 "국가 및 테러 집단을 포함한 비국가 행위자들에 의해 대량살상무기의 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요성을 강조한다"며 "AI 기술이 군축, 군비통제 및 비확산 노력을 저해하지 않고 지원해야 함을 강조하고, 특히, 핵무기 없는 세계라는 궁극적 목표를 저해하지 않는 가운데, 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다"고 밝혔다.

6항에서는 "잠재적으로 위험한 AI 기반 시스템을 포함한 군사 분야 AI 역량을 무책임한 행위자들이 획득 및 오용하는 것을 방지하기 위한 강력한 통제 및 보안 조치 마련의 중요성을 강조한다"며 "이러한 수단이 여타 비군사적 분야에서 AI 역량이 제공하는 혜택에 대한 평등한 접근을 저해해서는 안 된다는 점을 유념한다"고 했다.


11항에 "AI 적용은 UN 헌장, 국제인도법, 국제인권법을 포함해 적용 가능한 국제법, 그리고 지역 기구를 포함한 적절한 여타 법적 체제에 합치하는 방식으로 개발, 배치, 이용돼야만 한다는 점을 확인한다"며 "효과적인 법적 검토 절차, 신뢰 구축 조치, 적절한 위험 감소 조치의 개발과, 국가 간 모범사례 및 교훈에 관한 정보 공유 및 협의를 장려한다"는 내용도 담겼다.

12항에는 "책임 있는 군사분야 AI를 위한 노력이 AI 기술 관련 연구, 개발, 실험, 혁신에 대한 노력과 병행될 수 있으며, 방해하지 않는다는 점을 강조한다"고 기재했다.

15항에서는 "군사분야 AI 거버넌스 관련 논의에 개발도상국들의 완전한 참여를 촉진하고, 군사적 AI 역량의 개발, 배치 및 이용에 대한 책임있는 접근을 촉진하기 위해 특히 개도국에게 있어 역량 강화가 중요함을 강조한다"며 "군사분야 AI의 책임 있는 개발, 배치 및 이용에 대한 지식 격차를 줄이기 위한 역량 강화 관련 국제협력을 강화하기로 공약한다"고 밝혔다.

특히 17항에서는 "데이터가 군사분야 AI 적용에 매우 중요하다는 점에 주목하면서, 국가 및 여타 이해관계자들이 데이터 수집, 저장, 처리, 교환, 삭제 및 데이터 보호를 위한 투명한 정책 및 절차 등을 포함하는 적절한 데이터 거버넌스 메커니즘 관련 추가적 논의에 참여할 필요가 있음에 주목한다"고 했다.

REAIM 고위급회의는 AI의 군사적 이용이 국제평화와 안보에 미치는 영향에 대한 이해를 제고하고 관련 국제 규범 형성 과정에 기여하고자 출범했다. 이번 회의는 외교부와 국방부 공동 주관으로 서울에서 전날(9일)부터 이틀간 진행됐으며 네덜란드·싱가포르·케냐·영국이 공동 주최국으로 참여했다. 총 96개국 정부 대표단이 참석했는데 이 중 38개국에서 외교·국방 장·차관급이 자리했다.