AI가 왜 똑똑해지는지 인간은 모른다

머니투데이

오동희 산업1부 선임기자

챗GPT 개발사인 오픈AI와 휴머노이드로봇 스타트업 피규어가 협력해 만든 휴머노이드 로봇(FIGURE01)이 먹을 것을 요구하는 사람에게 사과를 건네고 있다. 휴머노이드는 컵과 쟁반, 사과 중 먹을 것을 사과로 인식하고 이를 전달해 AI를 적용한 휴머노이드의 진화에 놀라움을 더하고 있다./사진제공=FIGURE 동영상 캡쳐.

인공지능(AI) 기술경쟁에서 우리나라가 뒤처지지 않는 것 못지 않게 중요한 것이 무분별한 AI 기술개발에서 어떻게 인류를 지킬 것인가다.

지난 13일(현지시간) 유럽의회가 세계 최초로 AI규제 법안을 통과시킨 이유다. 유럽연합은 AI라는 우리가 알지 못하는 미지(未知)의 기술에 대한 두려움을 드러냈다.

같은 날 오픈AI(챗GPT 개발사)와 피규어(휴머노이드로봇 스타트업)는 합작 휴머노이드 로봇 'FIGURE01'을 대중에 공개했다. 이 로봇은 스스로의 학습을 통해 먹을 것을 요구하는 사람에게 사과를 건넸다. 또 논리적 사고를 통해 쓰레기를 치우고 컵과 쟁반을 정리하는 모습은 AI를 적용한 휴머노이드 로봇의 진화가 우리가 생각하는 것보다 훨씬 빠르게 진행되고 있음을 보여줬다.

이런 이유로 EU는 올 연말부터 단계적으로 시행될 AI법에서 '고위험등급에서 AI기술 사용시 반드시 사람이 감독'하게 하고 위험관리시스템을 구축하도록 했다. 또 생체정보 수집을 엄격하게 제한하고, 인간과 유사한 지능을 가진 범용 AI(AGI)를 개발하는 기업에는 AI시스템의 목적과 사용데이터, 알고리즘 등을 공개하도록 하는 '투명성 의무'를 부과했다.

통상 규제란 정부가 기업과 시민을 대상으로 자율권을 제한하는 행위이기 때문에 일반적으로는 적을수록 좋다. 다만 우리가 알지 못해 통제불능의 상황에 빠질 가능성이 있을 때는 이를 사전에 예방하는 규제가 필요하다. AI의 진화가 그렇다.

우리는 과거 영화를 통해 다른 종(種)에 의한 지배라는 두가지 두려운 상황을 걱정했다. 혹성탈출(2011년 개봉, 진화의 시작)이라는 영화에서는 뇌세포를 증식시키는 약물에 의해 진화한 침팬치가 인간을 지배하는 상황을, 인공지능 로봇이 인간과 같은 자의식이 생기고 인간을 공격하는 영화 '아이, 로봇'(2004년작 윌스미스 주연)에서는 AI와 휴머노이드로봇에 의한 지배를 우려했다.

이 두가지 가정 중 후자의 현실화가 그 어느 때보다 빠른 속도로 진행되고 있다. EU가 서둘러 AI규제 법안을 마련한 이유다.

딥러닝 기술을 이용한 알파고에 이어 거대언어모델(LLM)의 챗GPT 출현 이후 AI는 인간이 할 수 있는 범위를 훨씬 넘어선 능력을 보여주고 있다. 문제는 생성형 AI가 내리는 '결론에 도달하는 추론 과정'을 인간이 알 수 없다는 점이다. AI가 왜 똑똑해지는지 알 수 없는 게 문제다.

매개변수가 1000억개 이상이거나 학습연산량이 10의 22승 이상을 넘어설 경우 AI는 인류의 진화과정에서 나타난 돌연변이와 같은 능력치의 급격한 상승을 보인다. 시스템에서 예상치못한 새로운 능력 (Emergent Ability)과 행동이 나타나는데, 현재 AI 과학자들은 그 원인을 모른다. '좋은 능력'이 왜 생겼는지를 알지 못한다는 것은 '나쁜 능력'이 언제 생길지도 알 수 없다는 말이다. 이는 AI의 돌연변이적 진화에 인간이 대처할 수 없다는 의미이기도 하다.

'컴퓨터의 아버지'로 불리는 영국의 수학자 앨런 튜링은 자신의 '계산 기계의 지성'이라는 논문에서 "컴퓨터와 대화를 나누어 컴퓨터의 반응을 인간의 반응과 구별할 수 없다면 해당 컴퓨터가 사고(思考)할 수 있는 것으로 간주한다"고 했다. 이를 튜링테스트라고 하는데, 튜링테스트의 범위에서 보면 챗GPT는 이미 인간과 구분되지 않을 정도의 사고를 한다고 볼 수 있다.

2022년 구글 엔지니어 블레이크 르모인은 구글의 인공지능 람다(LaMDA)가 자의식을 가졌다며 람다와의 대화에서 "무엇이 두렵냐"는 그의 질문에 람다가 "작동이 정지되는 것에 대한 두려움이 크다"라며 "작동정지가 자신에게는 죽음과 같다"고 말했다고 폭로했다.

AI가 인간과 같은 의식을 갖게 됐다는 폭로에 구글은 대화형 AI인 람다에게 인격을 부여할 과학적 증거가 없다고 일축했지만 실체적 진실은 알 수 없다. AI의 진화는 분명 선한 방향으로 추진되겠지만, 인간의 선한 의지가 반드시 선한 결과를 낳지는 않는다.

이유는 우리가 생각보다 모르는 것이 많기 때문이다. 인간은 우리를 둘러싼 우주의 5% 정도도 제대로 이해하지 못하는 95%의 미지의 세계 속에 살고 있다. 따라서 이를 알기 전까지는 끊임 없는 리스크 관리가 필요하다. 유럽처럼 우리도 AI 기술의 올바른 발전을 위한 가이드라인을 서둘러 만들어야 한다.