美싱크탱크, AI발 '핵전쟁' 경고…"핵 전쟁억지력 잃을 것"

미국 비영리 싱크탱크 랜드코퍼레이션이 최신 보고서에서 AI(인공지능)이 2040년까지 핵전쟁을 일으킬 수 있다고 경고했다./사진=보고서 표지(랜드코퍼레이션 웹사이트 캡처)

AI(인공지능)가 20여년 안에 핵전쟁을 일으킬 수 있다는 경고가 제기됐다.

25일(현지시간) 미국 비영리 싱크탱크인 랜드코퍼레이션은 'AI가 핵전쟁 위험에 미칠 영향'이라는 제목의 최신 보고서에서 AI가 2040년까지 핵전쟁을 촉발할 수 있다고 분석했다.


핵무기는 지난 수십년간 전쟁 억지 수단 역할을 했다. 핵공격이 공멸을 초래할 것이라는 우려 속에 평화가 유지된 셈이다.

보고서는 그러나 AI가 지정학적 안정을 무너뜨리고 전쟁 억지 수단이라는 핵무기의 위상을 흔들 수 있다고 봤다. AI와 머신러닝(기계학습) 기술의 발전이 오판을 불러올 수 있다는 것이다. 한 예로 센서 기술이 발전하면 핵공격 수단이 되는 잠수함이나 이동 미사일 발사대 등에 대한 타격이 수월해진다. 보복 공격을 피할 수 있다는 판단을 하기 쉽다.

보고서는 특히 드론(무인기)을 비롯한 살상용 로봇, 이른바 '킬러로봇'보다 AI를 활용해 군사행동을 결정하는 게 더 위험하다고 봤다. AI가 단지 협상력을 높이기 위한 선제공격을 부추길 수 있다는 것이다.


이번 보고서는 여러 차례의 전문가 워크숍을 거쳐 작성됐다. 보고서 공동 저자인 앤드류 론 랜드코퍼레이션 엔지니어는 "일부 전문가들이 AI 의존도가 높아지면서 새로운 형태의 재앙적 실수 가능성이 커졌다고 우려한다"고 지적했다. 그는 기술이 성숙 단계에 접어들기 전에 AI를 사용하려는 압력이 커지고 있다며 전략적 안정을 유지하는 게 점점 더 어려워질 수 있다고 경고했다. 그러면서 핵열강들이 핵전쟁 위험을 제한할 기구를 만드는 데 동참해야 한다고 강조했다.

AI의 위험성을 걱정하는 전문가들은 1983년 핵 알람 사태를 교훈으로 삼아야 한다고 지적한다. 미소 냉전이 한창이던 1983년 9월 당시 소련 공군 중령으로 당직 중이던 스타니슬라프 페트로프는 미국이 소련을 향해 미사일 5발을 발사했다는 알람을 확인했다. 상부에 보고해 보복 대응 여부를 결정해야 했지만 페트로프는 알람이 컴퓨터 오류로 오작동했다고 결론 내렸다. 이 판단은 적중했고 그는 인류를 핵전쟁에서 구한 영웅이 됐다.

보고서의 또 다른 공동 저자인 에드워드 가이스트 랜드코퍼레이션 연구원은 "핵전쟁과 AI의 관계는 새로운 게 아니라 뒤얽힌 역사를 갖고 있다"며 "AI 초기 개발은 상당수가 군사적 지원과 군사적인 목적에 따라 수행됐다"고 지적했다.

일론 머스크 테슬라 CEO(최고경영자)를 비롯한 AI 전문가 100여명은 지난해 유엔에 킬러로봇을 막아야 한다고 촉구했다. 머스크는 AI가 불멸의 독재자를 만들고 3차 세계대전을 촉발할 수 있다고 경고했다.