‘AI 킬러로봇’ 논란 중심에 선 KAIST…“살상용 연구 안 한다"(종합)

영화 '터미네이터' 한 장면

한국과학기술원(KAIST; 이하 카이스트)가 인공지능(AI) 연구 윤리 논란에 휘말렸다. 지난 2월 방산기업인 한화시스템과 함께 국방 AI(인공지능) 융합연구센터(이하 국방AI센터)를 개소한 것을 문제삼아 일부 해외 과학자들이 카이스트와의 연구 협력 중단을 선언한 것. 카이스트측은 해명자료를 통해 "인간 윤리에 위배되는 연구활동을 하지 않을 것"이라며 진화에 나섰다.

◇"인공지능 '킬러로봇'은 재앙"…카이스트 보이콧=4일(현지시간) 30개국의 저명 로봇공학자 50여명은 국방AI센터에서 추진하는 AI 무기연구를 문제 삼으며 카이스트와의 공동연구 보이콧을 선언했다. 카이스트와 한화시스템이 앞으로 개발할 신무기가 결국 킬러(살상용)로봇이 될 수 있다는 우려 때문이다.


학자들은 공동서한을 통해 “카이스트 총장이 인간의 통제가 결여된 채 자율적으로 결정하는 무기를 개발하지 않겠다는 확약을 할 때까지 카이스트 소속 교수 초청 및 공동연구에 일체 협력하지 않겠다”고 밝혔다. 이들은 또 “유엔(UN)이 군비증강 위협을 줄일 방안을 논의하는 시점에 카이스트와 같은 명망 있는 대학이 군비경쟁을 가속하는 데 관심을 기울인 점이 유감스럽다”고 강조했다.

보이콧 선언에는 AI 분야의 개척자로 불리는 영국 출신의 제프리 힌튼 교수, 딥러닝 분야의 권위자 요슈아 벤지오 캐나다 몬트리올대 교수, 스위스 달르몰 인공지능연구소(IDSIA) 소장 유르겐 슈미트후버 등 유명 학자들이 다수 참여했다.

공동서한 작업을 주도한 토비 월시 호주 뉴사우스웨일스대 교수는 "AI 무기는 이제껏 인류가 경험하지 못한 더 큰 규모의 전쟁을 일으킬 것이며 인간을 위협할 테러무기가 될 잠재성이 있다"며 카이스트에 AI 무기 연구를 즉각 중단할 것을 촉구했다.


◇ KAIST “살상용 연구 안 한다"=카이스트는 당황스럽다는 입장이다. 카이스트에 따르면 국방AI센터는 AI를 기반으로 한 지휘지원시스템, 지능형 물체추적·인식기술, 대형 잠수정 복합항법 알고리즘, 지능형 항공기 훈련시스템 등 주로 방어용 무기를 연구한다.

카이스트는 5일 국내외 언론사를 대상으로 낸 해명자료에서 "센터는 인간윤리에 위배되는 연구를 수행하지 않는다"며 "통제력이 결여된 자율무기 등 인간 존엄성에 어긋나는 연구 활동을 하지 않을 것”이라고 밝혔다.

센터 관계자도 “국방 분야 과학화를 위해 DMZ(비무장지대)에 설치할 지능형 CCTV(폐쇄회로TV)와 국방비를 절감할 수 있는 AI 기반 물류시스템 등을 개발할 뿐 인간의 생명을 위협하는 공격형 무기 개발은 하지 않는 것이 원칙”이라며 확대해석을 경계했다.

신성철 카이스트 총장은 파이낸셜 타임즈와의 인터뷰에서 킬러로봇 개발 의사가 없다는 점을 명확히 했다. 신 총장은 "KAIST는 인권과 윤리 기준을 가치 있게 여기고 있다"며 "AI 무기 등 인간 존엄성에 반하는 어떤 연구 활동도 하지 않을 것"이라고 강조했다. 카이스트 측은 4일 저녁 이런 입장을 담은 총장 명의의 메일을 보이콧에 동참한 교수들에게 발송했으며, 일부 교수로부터 '의혹이 해소됐다'는 답신을 받았다고 밝혔다.

카이스트는 센터에 대한 외부의 부정적 시각을 불식시키기 위해 신 총장이 직접 ‘AI와 인류의 공존’을 주제로 한 윤리헌장을 발표한다는 계획이다.

이날 한화시스템도 “카이스트와의 공동연구는 정부의 병력 감축 계획에 대비한 무인화 기술과 지뢰 제거 등 인간에게 치명적일 수 있는 위험한 작업을 하는 데 쓰일 인공지능 로봇을 개발하는 데 있을 뿐 살상무기를 개발하려는 것은 아니다“라고 해명했다.