"AI '사회적 부작용' 줄이려면 법·제도 필요"…법제처 미래 대비

머니투데이

세종=조규희 기자

이완규 법제처장이 12일 서서울 중구 웨스틴조선호텔에서 열린 '인공지능(AI)와 미래법제' 세미나에서 기념사를 하고 있다. /사진제공=법제처

인공지능(AI)이 삶의 변화 뿐만 아니라 한 시대를 이끌어 갈 화두로 떠올랐다. 이미 생활의 많은 분야에서 변화가 시작되고 있다. 하지만 이를 뒷받침할 수 있는 법과 제도는 아직 부족하다. 특히나 인간과 사회를 보호할 수 있는 시스템도 부재하다. 법제처가 나선 이유다.

법제처는 12일 서울 중구 웨스틴조선호텔에서 '인공지능과 미래법제'를 주제로 '제1회 미래법제 국제포럼'을 열고 전세계 AI 관련 법 동향과 우리의 입법 방향성에 대해 논의하는 시간을 가졌다.

이완규 법제처장은 "급속도로 발달하고 있는 인공지능 기술은 기조의 어떠한 과학기술보다 더 빠른 속도와 넓은 범위에서 우리 생활에 큰 영향을 미치고 있다"며 "이제 인류는 인공지능이 우리 삶의 패러다임을 송두리째 바꿀 수 있는 격변의 시대를 맞이하고 있다"고 말했다.

이 처장은 "인공지능이 과학, 경제, 문화를 비롯한 사회 전반에 초래하는 혁신적인 변화를 보면서 우리 사회에서는 미래에 대한 기대와 우려가 교차하고 있다"며 "새롭게 등장하는 첨단 과학 기술이 사회 전반에서 부작용 없이 신속하게 활용될 수 있으려면 이를 뒷받침하는 제도적 시스템이 매우 중요하다"고 강조했다.

아네르스 라스무센 유럽의회 사무차장도 축사를 통해 "AI는 기존의 편견을 증폭시킬 수 있으며 개인정보 보호 문제를 야기하고 부정확한 결과를 초래할 수 있다"며 "AI에 대한 과도한 의존은 창의성과 비판적 사고의 저하로 이어질 수 있는 만큼 인간의 감독은 필수적"이라고 지적했다.

카이 제너 유럽의회 디지털 정책고문은 'AI 혁신과 신뢰를 위한 법제' 세션을 통해 유럽연합(EU) 인공지능법을 소개했다. 인공지능법은 2023년 12월 9일 유럽연합 의회와 이사회가 합의했으며 올해 5월 21일 최종 승인했다 .

제너 고문은 EU 인공지능법이 △최소 위험 또는 없음 △제한된 위험 △고위험 △허용 불가 위험 등의 4단계 '위험기반 접근방식'을 취한다고 설명했다. 그는 "고위험 AI는 건강, 안전 및 기본권에 높은 위험을 초래한다고 분류되며 전체 AI 시스템의 5~15%가 이에 속한다"며 "허용불가위험은 건강, 안전 및 기본권에 명백한 위험을 가하는 시스템으로 전체 AI 시스템중 1% 미만으로 추정된다"고 설명했다.

제너 고문은 △국제적 정합성 △AI 가치 사슬에 따른 부담 공유 △기술 표준을 통한 적합성 추정 △미래 대비 등을 인공지능법의 장점으로 꼽았다. 반면 단점도 지적했다. 그는 "생성형 AI 시스템은 새로운 입법체계 생태계에서 부적합하며 수평적 규제는 법적 중복 규제를 불러일으키거나 모호한 법조문은 산업계에 혼란을 일으킬 수 있다"고 꼬집었다.

카이 제너 유럽의회 디지털 정책고문이 12일 서울 중구 웨스틴조선호텔에서 열린 '인공지능(AI)와 미래법제' 세미나에서 발표를 진행하고 있다. /사진제공=법제처

조단 리처드 쇼운허 슈라이너대학교 조교수는 캐나다의 디지털환경에 대해 설명했다. 캐나다 혁신과학경제개발부는 2023년 9월 '생성형 AI 자율적 행동강령'을 공개했다.

쇼운허 조교수는 "AI 시스템에 대한 잦은 우려 중 하나인 알고리즘에 편견이 반영돼 차별적인 결정을 내릴 위험성에 대한 행동 강령은 서명자가 시스템 개발, 배포의 여러 단계에서 차별적인 영향을 평가하고 해결하도록 권장하는 내용이 포함됐다"고 설명했다.

쇼운허 교수는 '인공지능 및 데이터법안'(AIDA)을 소개하며 "AIDA는 위험 기반이 아닌 영향 기반의 관점에서 시스템을 분류하는 방식"이라며 "현재는 규범의 강제성과 세부 규정이 부족한 상태로 거버넌스를 위해서라도 지속적으로 수정·보완해나가야 하는 상황"이라고 말했다.

최경진 가천대 교수는 '한국의 AI 미래 법제'를 위해 규제도 중요하지만 과감한 혁신 지원도 필요하다고 강조했다. 최 교수는 "인공지능, 고위험AI 등 인공지능이 가져오는 부작용이나 폐해를 정확히 파악하고 규제 대상을 명확히 해야 한다"며 "이와 동시에 AI 혁신을 위한 과감한 규제 개선과 특례를 도입할 필요가 있다"고 말했다.

이어 "이를 토대로 인공지능이 실제 적용되는 분야의 특성과 구체적인 위험성을 고려한 비례적 규제 체계 정립이 필요하며 "투명성 의무, 인간의 정체성과 인격을 훼손하거나 파괴하는 AI 사용에 대해서는 심각한 범죄로 처벌하는 등 차등화된 규제 설계가 필요하다"고 덧붙였다.