이스라엘의 가자지구 폭격을 지휘하는 AI 머신 [PADO]

[스데로트=AP/뉴시스] 이스라엘 현충일인 13일(현지시각) 이스라엘 남부 스데로트의 관광지를 방문한 사람들이 가자지구에서 폭발이 일어난 후 연기가 치솟는 것을 지켜보고 있다. 2024.05.14.

2021년, '인간-기계 팀: 우리의 세상을 혁신할 인간과 AI 간의 시너지 창출법'이라는 영문 서적이 'YS 준장'이라는 필명으로 출간됐다.

이스라엘의 엘리트 정보부대인 8200부대의 현직 사령관으로 확인된 저자는 이 책에서 방대한 규모의 데이터를 신속하게 처리해 전쟁이 한창 진행되는 상황에서 공격에 사용할 수천 개의 '표적'을 생성할 수 있는 특수한 체계를 개발해야 한다고 주장했다.


저자는 이런 기술이 "새로운 표적을 찾고 선택하는 의사결정 과정에 있어 '인간이 유발하는 병목현상' 문제를 해결할 것"이라고 말한다.

이런 체계는 실제로 존재한다. +972매거진과 로컬콜의 취재에 따르면 이스라엘군(IDF)은 '라벤더'라는 AI 기반 프로그램을 개발했으며, 이 프로그램의 정체는 이번에 최초로 공개됐다. 현재 가자지구를 대상으로 한 전쟁에 참전 중이고, 사살 목표를 지정하기 위해 AI를 사용한 경험이 있는 6명의 이스라엘군 정보부서 장교들에 의하면, 이 '라벤더'는 특히 전쟁 초기 단계에서 팔레스타인을 목표로 진행된 전례를 찾아볼 수 없는 폭격의 핵심 요소로 보인다.

이 제보자들의 증언에 따르면, 라벤더가 군사 작전에 미친 영향력은 너무 커서, IDF는 AI 체계가 출력한 결과를 '마치 인간의 결정인 것처럼' 취급할 정도였다.


공식적으로, 라벤더 시스템은 하마스와 팔레스타인이슬라믹지하드(PIJ)의 전투부서에 소속된 것으로 의심되는 하위 요원을 포함한 모든 구성원을 잠재적인 공격 표적으로 구분하도록 설계됐다.

+972와 로컬콜의 제보자들은 이스라엘군이 전쟁 초기에 몇 주 동안 거의 전적으로 라벤더에 의존했고, 라벤더는 최대 3만 7000명에 달하는 팔레스타인인을 무장세력 가담자로 구분했고, 그들의 집을 공습대상으로 지목했다고 전했다.

그리고 군은 라벤더의 사살표적목록을 가감없이 채택하도록 승인했으며, 이 결정이 내려진 이후 장교들은 AI 체계가 왜 그런 결정을 내렸는지 철저하게 확인하지 않았고, 판단의 근거가 된 원시 정보 데이터를 확인하지도 않았다.

한 소식통은 인간이 AI체계가 내린 결정에 '거수기' 역할만 하는 경우가 많았다며, 폭격을 승인하기 전에 라벤더가 지시한 표적 당 20초가량의 시간을 할애해 표적이 남성인지 아닌지만을 확인했을 뿐이라고 증언하기도 했다.

이는 시스템이 평균적으로 10%가량 '오류'를 범했으며, 무장단체와 느슨한 연관관계에 있거나, 전혀 연관이 없는 인물을 지목하는 경우도 있음을 알고 있는 상태에서 벌어진 일이었다.

그리고 이스라엘군은 표적이 군사활동에 참가중일 때가 아니라, 주로 가족들과 함께 모여 있을 야간에 체계적인 공격을 가했다.

제보자들의 설명에 따르면, 이런 공격은 정보기관의 관점에서는 (은신중인 무장조직보다는) 자가로 돌아간 개인을 찾아내는 편이 훨씬 용이했기 때문이었다.

이번에는 '아빠 어딨어?'(Where's Daddy?)라는 이름의 자동 감시 체계도 처음으로 정체가 드러났는데, 이 감시체계는 주로 표적이 된 개인을 감시하다 표적이 귀가했을 때 집을 폭격하는 용도로 사용됐다.

관계자들의 증언에 의하면, 전쟁 초기의 몇 주 동안 이 AI 프로그램의 결정에 따라 진행된 이스라엘의 공습으로 사망한 수천 명의 팔레스타인인 가운데 대부분은 여성과 어린이, 혹은 전투에 관련되지 않은 사람들이었다.

(계속)

PADO 웹사이트(https://www.pado.kr)에서 해당 기사의 전문을 읽을 수 있습니다. 국제시사·문예 매거진 PADO는 통찰과 깊이가 담긴 롱리드(long read) 스토리와 문예 작품으로 우리 사회의 창조적 기풍을 자극하고, 급변하는 세상의 조망을 돕는 작은 선물이 되고자 합니다.