인류에 빌런일까 동료일까…목숨 좌우할 AI, 지금 필요한 것은

"당신의 목숨, 로봇과 자율 주행차에 맡기시겠습니까"

(서울=뉴스1) 박세연 기자 = 5일 서울 서초구 aT센터에서 열린 아마추어 작가들의 만화, 게임 캐릭터 작품 전시회 '코믹월드 서울 172'를 찾은 한 관람객이 아이언맨 코스프레복장의 참가자와 기념사진을 찍고 있다. 2023.3.5/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.

#1. 러시아군은 올해 우크라이나 돈바스 지역에 인간의 개입 없이 자율적으로 전투하는 무인전투차량 '마르케르'(Marker)를 투입했다. 러시아 측은 마르케스가 신경망 알고리즘으로 데이터를 처리하는 자율이동 기능과 적 차량의 이미지를 분석하는 AI(인공지능) 시스템을 이용해 적을 감지하고 공격할 수 있다고 주장했다. AI가 스스로 판단해 인간의 목숨을 빼앗는 시대에 우린 살고 있다.

#2. 현대자동차는 올 하반기 출시할 SUV(스포츠유틸리티차) 'EV9', 제네시스 'G90'에 자율주행 3단계 수준의 기술을 탑재할 것으로 알려졌다. 이미 메르세데스 벤츠는 3단계 자율주행 시스템을 독일과 미국에서 승인받았다. 3단계 자율주행은 고속도로 등 특정한 환경에서 AI 시스템이 운전 주체가 되는 '조건부 자율주행'이다. 미국 샌프란시스코에서 등 해외 일부 지역에선 제한된 조건 아래 주행과 관련된 모든 판단을 자동차가 알아서 하는 4단계 자율주행을 시험 중이다. 고속 주행 중 어린이나 노약자가 갑자기 차로에 나타날 경우 핸들을 꺾어 스스로 낭떠러지로 추락할지, 그대로 달릴지 등 인간의 목숨과 관련된 선택을 AI가 한다는 얘기다.


AI가 인류의 삶을 빠르게 잠식하고 있지만, 이로 인해 발생할 윤리적 문제에 대한 사회적 논의는 더디기만 하다. 지난 3월 애플 공동창업자 스티브 워즈니악과 테슬라의 일론 머스크, 석학 유발 하라리 등 저명인사들이 "AI 개발을 잠시라도 중단하자"고 주장한 배경이다.

우리나라에선 '인공지능 윤리원칙' 등을 만들도록 한 법안이 마련됐지만 국회 상임위에서 발목이 잡혀있다.

(툴루즈 AFP=뉴스1) 권진영 기자 = 마이크로소프트(MS) 로고와 챗GPT의 이미지 화면. MS는 챗GPT의 개발사 오픈AI와 파트너십을 맺고 대규모 투자 계획을 발표했다. ⓒ AFP=뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.

29일 정치권에 따르면 국회 과학기술정보통신위원회는 지난 2월 법안소위원회에서 윤두현 국민의힘 의원의 '인공지능산업 육성 및 신뢰 확보에 관한 법 제정안'(이하 윤두현안)을 기본 골격으로 기존에 발의된 6개 인공지능 산업 육성 법안(이상민안·양향자안·민형배안·정필모안·이용빈안·윤영찬안)을 통합한 여·야·정부 단일안(이하 단일안)을 만들었다. AI 윤리와 관련해서는 황희 더불어민주당 의원이 발의한 '인공지능책임법 제정안'(이하 황희안)도 논의되고 있다.


단일안은 AI가 국민의 삶과 국가 산업 전체의 경쟁력을 좌우할 것으로 예상되는 상황에서 AI 산업을 전략적으로 육성하기 위한 종합적이고 체계적인 지원체계 마련을 목표로 하고 있다. 동시에 AI의 신뢰성과 윤리를 확보하기 위한 제도적 방안을 마련하는 데에도 중점을 두고 있다.

법안에는 구체적으로 과학기술정보통신부 장관이 3년마다 인공지능 기본계획을 수립하고, 이를 관장하는 컨트롤타워로 국무총리 소속 인공지능위원회를 두는 방안이 담겼다. 또 AI 관련 기술 등을 지원하는 국가인공지능센터를 설치하도록 하고 있다. AI 기술 발전을 위한 대원칙으로 '우선 허용, 사후 규제' 원칙을 명문화하고 자율주행, 교통 등 시민의 안전을 위협할 수 있는 '고위험 활용 영역'을 설정해 신뢰성을 확보하도록 했다. AI 사업자와 이용자가 지켜야 할 사항을 '인공지능 윤리원칙'으로 제정해 공표하는 내용도 담겼다.


황희안은 AI 관련 법적·윤리적·제도적 관점의 사회적 논의를 포괄해 AI 개발과 이용에 관한 기본원칙을 정하고, 국가와 사업자의 책무와 이용자의 권리를 규정하는 것을 골자로 하고 있다. AI 기술이 궁극적으로 인류를 위한 것이어야 한다는 원칙 아래 AI 개발에 대한 윤리 기준을 정하겠다는 것이다. 구체적으로 안전하고 신뢰할 수 있는 AI 기술 개발과 이용에 필요한 사항을 법으로 규정하고, 고위험 AI로부터 이용자를 보호하기 위한 정부의 역할과 사업자의 책무, 이용자의 설명요구권 등을 규정하고 있다. AI 사용으로 분쟁이 발생할 경우 이를 조정할 인공지능조정위원회 설치에 관한 내용도 담고 있다.

윤두현 의원은 "AI가 사회와 산업 전반에서 널리 활용되고 국민의 삶의 질 향상에 도움이 되려면 위험성과 부작용에 대한 우려도 해소해야 한다"고 말했다. 황희 의원은 "최근 유럽에서 표결한 AI 법안에는 인간의 잠재의식에 영향을 미치는 기술이 탑재된 AI 시스템은 시장출시, 서비스제공, 사용 등을 금지하고 있다"며 "우리도 향후에는 AI의 유형을 위험도에 따라 분류해 위험을 관리하고 예방할 필요가 있다"고 밝혔다.

그러나 이 법안들은 국회 과방위의 파행으로 제대로 논의가 이뤄지지 못하고 있다. 방송법 개정안과 최민희 방송통신위원회(방통위) 상임위원 임명 등을 둘러싼 여야 갈등 때문이다. 지난 18일 열릴 예정이었던 과방위 전체회의도 과방위원장인 정청래 더불어민주당 의원을 비롯해 과반 의석을 가진 민주당 주도로 소집됐지만, 국민의힘이 불참 의사를 밝히면서 취소됐다.

올 들어 지난달까지 과방위의 전체회의 개최 건수는 2차례로 전체 17개 상임위 가운데 가장 적다. 과방위 소속 한 의원실 관계자는 "해묵은 갈등요소인 방송법 문제가 불거지니 다른 법안들까지 줄줄이 처리가 막히는 상황"이라고 말했다.

코로나19 확산 영향으로 24일 오후 예정됐던 국회 본회의가 연기된 가운데 서울 여의도 국회 본회의장이 비어 있다. /사진=홍봉진 기자 honggga@

"AI요? '터미네이터' 스카이넷보다 '아이언맨' 자비스에 가깝죠"-윤두현 국민의힘 의원 인터뷰

윤두현 국민의힘 의원. /사진제공=윤두현 의원실

"우리가 AI(인공지능)하면 터미네이터의 스카이넷을 떠올리곤 했는데, 사실은 아이언맨의 자비스에 더 가깝다고 볼 수 있습니다."

윤두현 국민의힘 의원은 지난 25일 머니투데이 더300(the300)과 만나 AI와 사람의 관계를 영화를 예로 들어 설명했다. 스카이넷은 미국 할리우드 블록버스터 영화 '터미네이터' 시리즈에서 핵전쟁을 일으켜 인류와 대립하는 적으로 묘사되는 AI다. 반면 마블의 영화 '아이언맨'에 등장하는 'AI 비서' 자비스는 주인공 토니 스타크를 돕는 동료다.

AI 기술이 커다란 경제적 가치를 갖고 있을 뿐 아니라 인간의 사소한 삶까지 더 윤택하게 만드는 축복이 될 수 있다는 뜻이다. 윤 의원이 지난해 12월 '인공지능산업 육성 및 신뢰 확보에 관한 법률안'(이하 AI산업 육성법)을 발의한 것은 이런 인식에서다.

국회 과학기술정보방송통신위원회(과방위) 소속의 윤 의원은 AI산업의 가능성에 주목하고 있다. 그는 "챗GPT가 출시된 후 40일 만에 이용자수 1000만 명을 돌파하는 등 AI가 우리 삶에 빠르게 스며들고 있다. 높은 효용성이 증명되며 누구나 쉽게 AI를 활용하는 사회가 시작된 것"이라며 "현재로선 AI가 어디까지 진화할지 그 폭과 깊이를 예측하기 쉽지 않지만 우리 삶과 산업에 거대한 변화를 가져올 것은 분명하다"고 진단했다.

이어 "책 '사피엔스'의 저자 유발 하라리가 10주년 특별판에 AI가 쓴 서문을 실었고 국내에선 처음으로 챗GPT를 활용한 SF(공상과학)소설이 출간되기도 했다"며 "저 역시 챗GPT를 이용해 토론회 축사 초안을 작성해 봤다. (현재 AI가) 일상대화나 짧은 작문도 가능한데 향후 의료·법률 등 다양한 분야의 전문지식을 학습하면 그 영향력은 더욱 확대될 것"이라고 했다.

다만 윤 의원은 AI산업의 가능성을 인정하면서도 아직까지 AI기술을 온전히 신뢰할 수 없다고 보고 있다. 관련 법안을 발의하면서 단순히 산업을 장려하는 데 그치지 않고 AI 신뢰 확보까지 균형감을 강조한 이유다. 그는 "AI가 사회와 산업 전반에서 널리 활용되고 국민의 삶의질 향상에 도움이 되려면 위험성과 부작용에 대한 우려도 해소해야 한다"고 했다.

윤 의원의 AI산업 육성법은 크게 △AI산업에 대한 육성 지원근거 신설 △고위험영역 AI사업자에 대한 안전성과 신뢰성 확보 의무 부여로 요약된다. 산업적으로는 국가인공지능센터를 통해 관련 기술개발을 돕거나 정부·지자체가 관련 기업 컨설팅 및 자금지원을 할 수 있도록 했고, 신뢰 확보 측면에선 AI 제품·서비스가 고위험영역에 해당하는지를 정부가 확인하도록 해 불확실성을 해소하는 데 중점을 뒀다.

윤 의원은 "고위험영역에서 활용되는 인공지능에 대한 정의, 고지 의무 등 규제 사항과 함께 윤리, 신뢰성 검증, 인증 등에 대한 내용을 폭넓게 반영했다"며 "산업 육성과 신뢰 확보의 균형을 맞추기 위해 노력했단 점에서 다른 법안과 차별성을 가진다"고 했다. 과방위는 지난 2월 정보통신방송법안심사소위에서 윤 의원 안을 기본 골격으로 여야 의원들이 발의한 6개의 관련 법안을 통합·조정한 대안을 마련하며 이른바 AI기본법 입법에 시동을 건 상태다.

다만 산업계 일각에선 국내 AI산업 관련 시장이 이제 막 태동하는 단계인 만큼 신뢰확보 등을 이유로 한 규제가 혁신을 가로막을 수 있다는 우려가 나온다. AI기본법이 고위험영역 AI 사업자에 대한 책무를 부과하고 있단 점에서다. 일부 시민단체에선 AI로 인한 위험을 막기 위해 고위험영역에 아예 AI를 적용할 수 없도록 금지해야 한다는 주장도 나오고 있다.

윤 의원 역시 AI산업 육성에 방점을 둔 만큼 지나친 규제는 옳지 않다는 입장이다. 그는 "시장이 본격 형성되기 전에 규제를 선제적으로 도입할 경우 국내 기업의 글로벌 경쟁력 확보를 저해할 수 있다는 산업계의 우려에 일부 공감한다"며 "고위험영역에서 활용된다 하더라도 사람의 생명, 신체, 기본권과 관련이 없거나 오히려 도움이 되는 AI도 있어 일률적으로 금지하는 것은 바람직하지 않다"고 했다.

그러면서 "최근 영국이 발표한 AI 규제백서에서도 원자력발전소 등 중요 기반시설 표면에 피상적으로 긁힌 자국 확인을 위해 사용하는 AI처럼 위험성이 낮은 경우엔 완화된 규제를 적용해야 한다는 입장을 밝혔다"며 "산업적 측면도 고려한 적정수준의 규제 도입이 필요하단 점에서 AI산업 진흥과 규제의 균형이 잘 반영된 법안으로 조속히 제정이 될 수 있도록 지원해 나가겠다"고 덧붙였다.

"자율주행차, 운전자와 행인 중 누구를 살려야 할까요?"-황희 더불어민주당 의원 인터뷰

황희 더불어민주당 의원/사진제공=황희 의원실

"완전한 자율주행(5단계) 시대가 오면 자동차가 스스로 경로를 선택할 겁니다. 만약 인명사고를 피할 수 없는 상황이 생긴다면 자동차는 운전자와 행인, 둘 중 누구를 살려야 할까요?"

지난 2월 '인공지능책임법 제정안(이하 AI 책임법)'을 대표 발의한 황희 더불어민주당 의원은 머니투데이 the300과의 인터뷰에서 이런 질문을 던졌다. 그는 "AI가 내리는 어떤 선택을 최선이라고 할 수 있을까를 고민하게 됐다"고 법안 발의에 나선 이유를 설명했다.

황 의원은 챗GPT 등 AI 기술이 예상보다 빠른 속도로 일상을 파고들고 있다고 진단했다. 그는 "챗GPT는 난이도 높은 학술논문과 에세이, 시, 보고서 등을 단숨에 써내고 소프트웨어 프로그램 코딩까지 수행해내고 있다"며 "AI는 이미 세계인의 일상 깊숙이 침투해 디지털 대전환의 시대를 이끌고 있다"고 했다. 이어 "자연스럽게 AI 윤리와 책임을 고민하게 됐고 선제적으로 제도를 마련해야 한다는 생각에 법안을 발의했다"고 말했다.

최근 국회 내에서도 의정활동에 챗GPT를 활용하는 이들이 적지 않다. 황 의원 역시 챗GPT를 몇 번 사용해봤다고 했다. 다만 아직 챗GPT를 완전히 신뢰하기는 어렵다고 보고 있다. 황 의원은 "챗GPT는 같은 질문을 반복할 때마다 다른 답을 내놨다"며 "이렇게 신뢰할 수 없는 정보를 전달하는 것은 어떤 면에서는 심각한 문제"라며 "그래서 AI 책임법이 필요한 것"이라고 강조했다.


황 의원이 대표 발의한 AI책임법은 AI 개발과 이용에 관한 기본 원칙을 정하는 내용을 담았다. 또한 AI에 대한 국가와 사업자의 책무, 이용자의 권리를 규정하며 고위험 AI로부터 이용자를 보호하기 위한 조정절차 등을 규정했다. 이를 통해 안전하고 신뢰할 수 있는 AI 기술·정책의 제도적 기반을 마련하겠다는 취지다.

이 법안은 '고위험 AI'라는 개념을 처음 규정한 것이 특징이다. 이는 생명, 신체 안전, 기본권의 보호에 중대한 영향을 미치는 AI를 뜻한다. 구체적으로 △생체인식 △교통, 수도 등 주요 사회기반시설 △채용 등 인사평가 업무 △응급서비스, 대출 신용평가 등 필수 공공 민간 서비스 △수사 등 국가기관의 권한 행사 △이민 등 출입국 관리 등에 사용되는 AI다.

황 의원 법안의 또 다른 특징 중 하나는 AI 관련 분쟁조정위원회를 설치하는 것이다. AI가 모든 분야에서 다양한 형태로 되면 분쟁이 어디서 어떤 방식으로 발생할지 예측하기 어렵기 때문이다. AI 분쟁만 다루는 별도 위원회가 필요하다고 보는 이유다. 황 의원은 "AI가 학습하는 과정에서 차별과 혐오를 배워 인권 문제를 야기할 수도 있다. 혹은 AI가 수많은 정보에 접근하면서 개인정보 침해나 보안 문제가 생길 수 있다"며 "이런 분쟁을 별도로, 또 전문적으로 다룰 필요가 있다"고 했다.

산업계 일각에서는 AI가 이제 막 발전 단계인 만큼 과도한 규제가 기술 혁신을 가로막을 수 있다는 우려를 내놓는다. 황 의원 역시 "너무 규제를 강화하는 건 바람직하지 않다고 본다"며 "민간의 자유로운 개발과 산업 진흥을 뒷받침하되 고위험 분야에 대해서만 일부 제한해야 한다"고 했다.

황 의원의 법안은 고위험 AI를 만드는 사업자가 반드시 준수해야 하는 사항도 규정했다. 법안에 따르면 사업자는 국민 생명 등을 위협할 중대한 위험이 있는지 평가해야 하며 고위험 AI 개발 단계 별로 문서를 전자화해야 한다. 또한 이용자에게 서비스 관련 정보를 제공하고 개발 과정에서 사이버 보안을 강화해야 한다는 내용도 포함됐다.

황 의원은 "최근 유럽에서 표결한 AI 법안에는 인간의 잠재의식에 영향을 미치는 기술이 탑재된 AI 시스템은 시장출시, 서비스제공, 사용 등을 금지하고 있다"며 "우리도 향후에는 AI 유형을 위험도에 따라 분류해 위험을 관리하고 예방할 필요가 있다"고 덧붙였다.