부러웠나? 두려웠나?…전문가 1300여명 "예측불가 AI 경쟁, 멈춰"

머니투데이

정혜인 기자

/사진=미국 비영리단체 '삶의 미래 연구소'(FLI) 트위터

일론 머스크 테슬라 최고경영자(CEO) 등 정보기술(IT)업계 경영자와 인공지능(AI) 전문가 등 1300여명이 첨단 AI 시스템 개발을 일시 중단할 것을 촉구하는 공개서한에 서명했다. 생성형 AI 개발사 오픈AI의 '챗GPT' 공개로 촉발된 무분별한 첨단 AI 기술개발 경쟁이 인류에 심각한 위험을 초래할 거란 우려에서다.

29일(현지시간) 파이낸셜타임스(FT) 등 주요 외신에 따르면 미국 비영리단체 '삶의 미래 연구소'(FLI)는 전날 공개서한을 통해 AI의 위험성을 경고하며 오픈AI의 GPT-4를 능가하는 AI 시스템 개발을 6개월간 중단해야 한다고 주장했다.

서한은 "최근 몇 달 동안 AI 연구소(개발업체)는 그 누구도 심지어 개발자조차도 이해, 예측 그리고 안정적으로 제어할 수 없는 강력한 AI 기술을 개발하고 배포하기 위해 통제 불능의 경쟁에 갇혀있다"며 "인간과 경쟁할 정도의 능력이 있는 지능을 가진 AI 시스템은 인류에 심각한 위험을 초래할 수 있다"고 경고했다.

이어 "첨단 AI 시스템의 효과가 긍정적이고, 그 위험을 관리할 수 있다는 확신이 있을 때만 개발돼야 한다"며 독립적인 전문가들에 의한 공동의 안전 협약이 마련되고 시행될 때까지 첨단 AI 개발을 멈춰야 한다고 했다. 그러면서 첨단 AI 개발 중단 시기를 6개월로 제시했다. 서한은 "우리는 모든 AI 연구소가 GPT-4보다 더 강력한 AI 시스템의 학습을 최소 6개월 동안 즉시 중단할 것을 촉구한다"며 만약 AI 개발사들이 자율적으로 개발 중단을 선언하지 않으면 정부가 개입할 것을 요구했다.

/사진=미국 비영리단체 '삶의 미래 연구소'(FLI) 홈페이지

FLI의 서한 공개 몇 시간 만에 기술업계·학계 인사 1000명 이상이 서명했고, 서명자 중에는 오픈AI 관계자는 없었다고 FT는 전했다. 이를 두고 일각에서는 이번 서한에 '오픈AI 견제' 목적이 담겼다고 주장하기도 한다. 한국시간 기준 30일 오전 9시 20분 현재 서명자 수는 1333명이다.

머스크 CEO를 비롯해 애플 공동창업자 스티브 워즈니악, 세계적인 AI 권위자 스튜어트 러셀 UC버클리 교수, 딥러닝 창시자로 알려진 요슈아 벤지오 몬트리올대 교수, 2020년 미국 민주당 대통령 후보 경선에 출마했던 앤드류 양 등이 서명에 참여했다. AI 전문가이자 베스트셀러 작가인 게리 마커스도 해당 서한에 서명하며 자산의 블로그를 통해 AI가 인류에 미칠 위험성을 경고했다.

마커스는 AI가 단시간 내 인류가 통제할 수 없는 수준으로 발전할 거란 전망에 동의하지 않는다면서도 "범죄자나 테러리스트들이 (AI 기술로) 사람들을 속이거나 위험한 거짓 정보를 퍼뜨릴 수 있다"고 우려했다. 그는 현재 AI 기술에 인류가 제대로 준비하지 못한 엄청난 위험이 내포돼 있다며 "미래의 기술로 상황은 더 악화할 수 있다"고 지적했다.

한편 FLI 공개서한은 오픈AI의 생성형 AI '챗GPT' 공개 이후 마이크로소프트(MS), 구글 등 빅테크(기술 대기업)의 생성형 AI 출시 열풍이 이어지고, 세계 각국 정부의 AI 관련 정책 마련을 촉구하는 상황에서 나온 것이라고 FT는 설명했다.

FT에 따르면 영국 정부는 이날 규제당국에 AI 관련 백서를 발간하고, 실제 AI가 활용되는 방식에 맞춘 상황별 접근방식을 마련할 것을 요구했다. 유럽연합(EU)은 유럽에서 AI를 사용하는 방식을 규율하는 자체 법안을 준비 중이고, 만약 기업이 해당 법을 위반했을 시에는 3000만유로(약 424억5240만원) 또는 연간 매출액의 6% 중 더 큰 금액을 벌금으로 부과하는 방안을 논의 중이다.