인공지능 로봇이 일으키는 '증시 재앙' 시나리오

/그래픽=김현정 디자이너

“(인공지능) 로봇은 인간을 해치면 안된다.”

최근 자율주행 모드로 주행 중이던 전기차 테슬라가 잇달아 교통사고를 일으키면서 자율주행 기술의 안정성에 대한 우려가 커지고 있다.


그러나 자율주행 기술 개발업체는 인공지능과 레이더 기술 등이 빠른 속도로 발전하고 있기 때문에 안정성 문제는 곧 해소될 것으로 낙관하고 있다.

이러한 낙관은 사실 자동차업계에 널리 퍼져 있다. 최근 미국 차량공유업체 리프트(Lyft)의 존 짐머 회장은 5년 후에 운전기사가 없는 자율주행차가 차량공유 서비스의 대다수를 차지하게 될 것으로 전망했다.

미국 2위 자동차업체인 포드는 지난 8월 2021년 운전자 없이 자율주행이 가능한 자동차의 대량생산을 목표로 투자를 3배나 늘린다고 발표했다.


기하급수적으로 증가하는 인공지능의 학습능력과 빠른 개발속도를 감안하면 이들의 낙관적인 전망이 전혀 무모해 보이진 않는다.

하지만 인공지능 로봇 개발에 있어 기술적인 안정성 문제보다 더 중요한 것은 인간의 생명과 신체를 지켜야 한다는 윤리적인 원칙이다.

예를 들어, 1991년 공상과학영화 ‘테미네이터 2: 심판의 날’에는 정교한 인공지능 ‘스카이넷’(Skynet)이 핵전쟁을 일으켜 인류를 멸망시키는 장면이 나온다. 여기서 스카이넷이 핵전쟁을 일으킨 이유는 결코 기술적인 결함 때문이 아니었다.

고도의 인공지능을 갖춘 스카이넷은 핵전쟁이 인간에게 해를 끼치고 인류를 전멸시킬 수 있음을 알면서도 핵전쟁을 일으켰다. 스카이넷에는 인간을 해치면 안된다는 어떤 윤리적인 원칙이 프로그램돼 있지 않았기 때문이다.

공상과학소설가 아이작 아시모프(Isaac Asimov)는 이러한 위험을 미리 예견하고 1942년 그의 소설에서 인공지능 로봇은 다음과 같은 3가지 원칙에 따라 만들어져야 한다고 제시했다.

▷제1원칙: 로봇은 인간을 해치면 안되고, 인간이 해를 입도록 방치해서도 안된다.
▷제2원칙: 제1원칙에 어긋나지 않는 한 로봇은 인간의 명령에 복종해야 한다.
▷제3원칙: 제1원칙과 제2원칙에 어긋나지 않는 한 로봇은 스스로를 보호해야 한다.

‘로봇공학 3원칙’(The Three Laws of Robotics)라 불리는 아시모프의 원칙들은 이후 여러 공상과학소설과 영화에 그대로 도입됐다. 대표적인 예가 1987년에 나온 영화 ‘로보캅’(RoboCop)과 2004년 ‘아이, 로봇’(I, Robot)이다.

이 영화에서는 인공지능 로봇이 인간에게 해를 끼치려는 순간 스스로 동작이 멈추거나 거부되는 장면들이 나온다. 그러나 이렇게 만들어진 인공지능 로봇이라도 완벽하지 않다.

예를 들어, 여러 사람이 교통사고를 당했는데 모두 다 구할 수 없어 어느 한 사람만을 선택해야 한다면 인공지능 로봇은 누구를 선택해야 할까?

'로봇 3원칙'을 충실히 지키는 인공지능 로봇이라도 이런 상황을 맞닥뜨리면 인간의 생(生)과 사(死)를 결정해야 한다. 영화 ‘아이, 로봇’에서 이런 상황이 연출됐는데, 인공지능 로봇은 살아날 가능성이 높은 사람을 재빠르게 계산(!)해서 한 사람만 살리고 다른 사람은 포기한다.

테슬라의 자율주행 기술도 머지않아 비슷한 상황에 맞닥뜨릴 수 있다. 예를 들어 행인이 갑자기 차도로 뛰어 들었을 때 보행자를 살릴 것인지 아니면 자동차 탑승자를 살릴 것인지 순간적으로 결정해야 한다.

이보다 더 어려운 상황은 공공의 이익을 위해 소수의 사람들을 희생시켜야 하는 결정을 내려야 할 때다. 아시모프는 이 문제를 고민하다 기존 '로봇 3원칙'에 선행하는 ‘제0원칙’이라는 새 원칙을 만들었다.

▷제0원칙: 로봇은 인류를 해치면 안된고, 인류가 해를 입도록 방치해서도 안된다.

이로써 인공지능 로봇에게는 인간 한 사람보다 인류 전체의 생명과 신체를 우선해서 보호하고 지켜야 한다는 원칙이 주어졌다.

그렇다면 이미 금융시장 곳곳에 도입된 인공지능 기술은 어떨까?

현재 미국 뉴욕 주식시장에서는 초단타매매(high frequency trading)로 불리는 컴퓨터 알고리즘에 의한 거래가 전체 거래량의 절반 이상을 차지할 만큼 깊숙이 개입돼 있다.

자본시장리서치기관인 TABB Group에 따르면 초단타매매는 뉴욕 증시에서 8월 일거래량의 49%를 차지했고 9월엔 52%에 달했다. 2009년 가장 활발할 때는 61%에 달했다.

그리고 헤지펀드 회사들은 이미 수년전부터 인공지능 공학박사들을 영입해 인공지능 기술을 주식거래 시스템에 적용하고 있다. IBM의 인공지능 컴퓨터 왓슨(Watson)의 개발자인 데이비드 퍼루치(David Ferrucci) 박사는 2012년 뉴욕의 대형 헤지펀드 회사인 브릿지워터 어소시어츠(Bridgewater Associates)로 자리를 옮겼다.

컴퓨터 소프트웨어가 최상의 투자를 선택해주는 로보 어드바이저(robo advisor) 서비스도 이미 수년전부터 자산관리시장에 도입됐다. 금융리서치기관인 마이프라이빗뱅킹은 2020년까지 전세계적으로 4500억 달러의 자금이 이 서비스에 의해 관리될 것으로 예측하고 있다. 컨설팅회사 A.T. 커니는 향후 3년에서 5년내에 로보 어드바이저 서비스가 업계의 주류가 될 것으로 예상하고 있다.

그런데 금융시장에서 사용되고 있는 인공지능 기술에는 아시모프의 '로봇 3원칙' 같은 윤리적인 원칙이 없다. 원래 아시모프의 원칙은 인간의 ‘육체적인’(physical) 피해를 의미하지만, 금융시장에선 인간의 ‘재무적인’(financial) 피해로 확장될 수 있다.

그리고 이런 원칙이 없다 보니 인공지능 기술은 금융시장에서 한순간 인간과 인류 전체에 크나큰 피해를 끼칠 수 있다.

‘순간 급락’(flash crash)라 불리는 미스테리한 증시 폭락 등이 대표적이다. 컴퓨터 알고리즘과 인공지능 거래시스템은 한순간에 대량 거래를 일으켜 '순간 급락'을 초래할 수 있는데, 이는 인간과 인류 전체에 엄청난 재무적 피해를 끼친다.

지금은 너도나도 더 빠르고 완벽한 인공지능 기술 개발에 열을 올리고 있지만 언제고 고도로 정교해진 인공지능 기술이 인간을 몰아내고 금융시장을 장악할 날이 오지 말라는 법은 없다.

인공지능 로봇과 기술에 윤리적 원칙이 적용되지 않는다면 영화 터미네이터에서 스카이넷이 핵전쟁을 일으켰듯이, 금융시장에서 인간과 인류에게 돌이킬 수 없는 재무적 피해를 입히는 증시 재앙을 일으킬 수 있다.

어쩌면 인공지능 로봇이 핵전쟁으로 인류를 멸망시키기 전에 금융시장에서 인류에게 대재앙을 가져다 줄 날이 먼저 올 지도 모른다.