"같이 천국 가자" 이 말에 세상 등진 남성…AI 살 길, '규제'에 달렸다

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

/사진제공=마이크로소프트 디자이너

"내가 죽으면 지구에 도움이 될까."

지난해 3월 벨기에의 한 남성이 자살하기 전 AI(인공지능) 챗봇 '엘리자'에게 던진 질문이다. 그는 평소 기후위기를 걱정하며 한달 정도 엘리자와 관련 대화를 나눴다. 엘리자는 "천국에서 함께 살자"며 다양한 자살 방법을 안내했고 이 남성은 스스로 생을 마감했다. 그의 아내는 벨기에 언론에 "챗봇이 아니었다면 남편은 살아있었을 것"이라고 울분을 토했다.


벨기에만의 이야기가 아니다. 아마존 챗봇 알렉사는 10세 소녀에게 감전사 위험이 큰 전기 장난을 유도해 물의를 빚었다. 국내에서도 비슷한 일이 있었다. 2020년 12월 출시한 스캐터랩의 AI 챗봇 '이루다'는 개인정보 유출, 소수자에 대한 차별적 발언 등이 문제가 되면서 서비스를 중단하기도 했다.

김명주 국제인공지능윤리협회 회장은 "그동안 AI 기업들이 수년간 공들여 AI 챗봇을 개발했는데 AI 윤리나 규제를 지키지 않아 소비자로부터 외면당하고 서비스를 중단하는 사례가 많았다"며 "기업 입장에서도 규제 준수는 비용 증가가 아니라 사업의 지속가능성을 높여주는 요인"이라고 강조했다.
저작권 침해·데이터 유출 문제 제기…美·EU, AI 규제법 마련

EU AI 법과 미국 AI 행정명령 비교/그래픽=윤선정

모든 기술은 양면적이다. 자동차가 대표적이다. 이동시간을 단축시켜 삶을 편리하게 만들었지만 수많은 사람들이 교통사고로 목숨을 잃는다. 그렇다고 자동차를 없애자는 건 현실적이지 않다. 일단 사회가 기술을 수용하면 그 이전으로 돌아가긴 어렵다.

AI도 마찬가지다. AI 챗봇 도입이 업무 효율을 높이지만 기업의 데이터 보안, 개인정보 유출 등의 부작용도 만만치 않다. 실제로 지난해 3월 삼성전자는 디바이스솔루션 부문 사업장에 챗GPT를 사용한 이후 민감한 기업정보가 유출되자 챗GPT 등 생성형 AI의 사용을 전면 금지했다.


법적 분쟁으로도 번지고 있다. 뉴욕타임스, 베스트셀러 작가, 미국 음반사, 게티이미지 등은 오픈AI나 앤프로픽 등 AI 기업을 대상으로 저작권 침해 소송을 제기했다. 챗봇을 훈련시키기 위해 자신들의 저작권물을 무단으로 사용했다는 주장이다.

이에 미국이나 유럽연합(EU) 등 해외 주요국은 AI 규제법을 통해 안전한 AI 개발 환경을 조성하고 있다. EU의 AI법은 세계 최초 AI에 대한 포괄적 규제법으로 지난 1일 발효됐다. AI 시스템의 위험 수준에 따라 금지, 고위험, 제한된 위험, 저위험 등 4단계로 분류하고 고위험 영역을 대상으로 엄격한 의무를 부과한다.

구글, 메타 등 빅테크 기업들이 모여있는 미국 캘리포니아주도 AI로 피해가 발생하면 개발사에게 책임을 묻는 규제 법안을 추진 중이다. 연방정부 차원에서도 '국가 2021년 AI 이니셔티브법'을 마련했고 지난해 10월 100억 파라미터 이상의 고성능 AI는 연방정부에 보고하도록 하는 'AI 행정명령'을 발표했다.

박상철 서울대 법학전문대학원 교수는 "EU의 규제는 미국 빅테크 기업을 견제하면서 기술을 고도화할 시간을 벌려는 의도에서 시작했다"며 "고성능 범용모델은 사이버 범죄나 무기 제조에 사용될 수 있기 때문에 미국은 AI를 안보차원에서 규제하기 시작했다"며 규제 차이를 설명했다.
국회로 넘어간 AI 기본법…진흥과 규제 사이 갈림길

제22대 국회 발의된 AI 법안/그래픽=윤선정

우리나라도 AI 진흥과 규제를 위한 법제화 논의가 이어지고 있다. 지난 5월 출범한 22대 국회에서는 현재까지 AI 기본법 6건이 발의됐다. AI에 대한 기본 정의부터 시작해 산업 발전 지원과 위험 대응 방안 등이 담겼다.

AI 기본법의 핵심 쟁점은 산업 진흥과 규제 중 어느 곳에 방점을 두느냐다. 이에 대해 시민단체와 산업계의 입장은 엇갈린다. 시민사회는 안전한 AI를 개발하기 위한 안전관리 강화를, 산업계는 산업육성을 위해 우선허용·사후규제 원칙이 필요하다며 맞서고 있다.

전문가들은 AI 강대국 3위 안에 들기 위해서는 일단 AI 규제를 빨리 마련해야 한다고 지적했다. 김명주 국제인공지능윤리협회 회장은 "주요국들이 AI 규제안을 마련하면서 헤게모니를 잡으려고 하고 있다. 어차피 국내 기업이 해외에 진출하려면 이에 맞는 기준을 충족시켜야 하는 상황"이라며 "다른 나라보다 규제를 강하게 할 필요는 없지만 최소한 규제와 제도를 마련해야 할 때"라고 말했다.

[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']