[맛있는 과학]기계는 자유의지를 가질 수 있는가

머니투데이

김상욱 부산대 물리교육학과 교수

AI(인공지능) 로봇을 상징한 그림

사람들은 좋은 소식보다 나쁜 소식에 더 흥미를 갖는다. 과학이 가져올 미래의 모습이 주로 디스토피아로 그려지는 이유일지도 모르겠다. SF(공상과학)영화 '터미네이터'나 '매트릭스'야말로 그 대표적인 예다. 이 두 영화는 속편이 줄줄이 나왔다는 것 말고도 기계가 인간의 적(敵)이 된다는 공통점을 갖고 있다.

기계가 이렇게 행동하기 위해서는, 적어도 인간의 지시를 거부하고 스스로 행동할 수 있는 ‘자유의지’가 필요하다. 컴퓨터 프로그램 ‘알파고’가 인간 프로바둑기사를 이긴 지금, 이것은 더 이상 SF 작가만의 관심사는 아니리라.

당신은 자신이 자유의지를 갖는다고 믿겠지만, 막상 그것을 증명하기는 어렵다. 이 세상의 모든 것은 물리법칙에 따라 작동하기 때문이다. 당신이 나무에서 뛰어내려 자유낙하 하는 동안 당신의 자유의지가 할 수 있는 일은 별로 없다. 그건 중력에 따른 뉴턴 법칙의 결과일 뿐이다. 이렇듯 법칙에 따라 움직이는 우주에서 자유의지의 존재를 증명하는 것은 쉬운 일이 아니다.

우선, 우주가 결정론적인지에 따라 결정론과 비결정론으로 나눌 수 있다. 결정론을 지지하는 경우에도 둘로 나뉜다. 모든 것이 다 결정되어 있으므로 자유의지가 없다고 생각하면 '강성 결정론', 그럼에도 자유의지가 있을 수 있다고 생각하면 '양립론'이다.

비결정론을 지지하는 경우, 결정되어 있지 않으므로 자유의지가 있다고 생각하면 ‘자유론’이 되고, 그럼에도 자유의지가 없다고 생각하면 '양립불능론'이 된다.

뇌 과학자 샘 해리스는 강성 결정론자에 가까운데, 아마 많은 과학자들이 동의할 것이다. 철학자 대니얼 데닛은 양립론을 주장하며, 자유의지는 실체로서 생존에 도움이 되는 진화의 산물이라는 입장이다. 즉, 우주가 결정론적이든 아니든 자유의지는 있을 수도 있고 없을 수도 있다는 말이다. 허탈한 결과다.

양립론은 카오스 이론이나 복잡계 이론에 기반 하는 경우가 많다. 비록 우주를 기술하는 운동법칙은 결정론적으로 주어져있지만 미래를 예측하는 것은 사실상 불가능하기 때문이다. 나비효과를 생각하면 이해하기 쉽다.

인간의 행동을 기술하는 미분방정식이 있다고 하자. 하지만 미래를 예측하기위해 감당할 수 없이 많은 양의 정보가 필요하다면 어떨까? 뉴욕의 날씨를 알기 위해 북경에 날아다니는 나비 한 마리의 날갯짓까지 고려해야한다면 '실제적으로' 예측은 불가능하다. 여기에는 미묘한 문제가 있다. 실제적으로 불가능하지만 원리적으로는 정해져있는 것 아닌가. 불가능하다는 것이 다소 주관적이라는 말이다.

'용의자 X의 헌신'으로 유명한 일본작가 히가시노 게이고의 신작 '라플라스의 마녀'가 최근 국내에 번역되었다. 만약 세상이 결정론적으로 움직일 때, 세상의 모든 정보를 알고 있는 존재가 있다면 그는 미래를 완벽하게 예측할 수 있을 것이다. 이런 가상의 존재를 물리학에서 '라플라스의 악마'라 부른다. 이 책에는 짝퉁 라플라스의 악마가 등장한다. 그는 완벽하지 않지만 남들보다 예측능력이 뛰어나다. 이 경우 그에게 예측 가능한 행동이 나에게는 자유의지의 결과로 느껴진다. 양립론의 자유의지가 갖는 문제다.

지금까지는 우주가 결정론적으로 움직이는 경우만을 생각했다. 20세기 새롭게 탄생한 양자역학이라는 물리학은 결정론적이지 않다. 양자역학에서는 물체의 위치를 정확히 아는 것이 불가능하다. 우리는 단지 물체가 특정 위치에 존재할 확률만을 알 수 있을 뿐이다. 하지만 양자역학의 비결정론이 자유의지를 보장하는 것은 아니다. 자유의지의 대상이 되는 것은 물질 가운데서도 아주 특별한 물질인 인간의 뇌다.

아직까지 양자역학의 비결정론적인 특성이 뇌가 작동하는 데에 중요한 기여를 한다는 어떤 실험적 증거도 없다. 뇌는 17세기 뉴턴이 만든 고전역학과 같은 방식으로 동작한다. 샘 해리스가 자유의지가 없다고 주장하는 이유다. 설사 양자역학이 뇌에서 중요한 역할을 하더라도 비결정론에서 얻어진 결과가 과연 자유의지인가 하는 문제가 남는다. 확률적으로 정해진 것이 자유의지일까. 주사위를 던져 결정내리는 사람은 자유의지가 있다고 할 수 있을까.

기계지능은 희망을 주기도 하고 공포를 주기도 한다. 기계가 얻게 될지 모를 자유의지가 공포의 주요한 이유다. 하지만 우리가 걱정하는 자유의지는 그 자체로 명확하지 않은 개념이다. 더구나 우리는 우리보다 뛰어난 지능이나 우리와 다른 형태의 의식에 대해 아는 바가 별로 없다. 섣부른 희망도 위험하지만, 근거 없는 공포도 무익하다는 말이다.

그래서 결국 기계가 자유의지를 가질 수 있다는 말인가 없다는 말인가. 필자의 답은 이렇다. "지금 그 질문은 당신의 자유의지로 한 것이라고 확신할 수 있는가."