과기정통부, AI 생성물에 워터마크 삽입 의무화 추진

이종호 과학기술정보통신부 장관이 지난 3월8일 경기도 성남시 분당구 카카오판교아지트에서 열린 '제3차 인공지능 최고위 전략대화'에서 인사말을 하고 있다. /사진=과학기술정보통신부

과학기술정보통신부와 IT기업들이 급속도로 발전하는 AI(인공지능)의 위험성 우려에 대응하기 위해 생성형 AI 분야별 가이드라인 마련이나 AI 생성물 워터마크 삽입 등 기술적·제도적 기반을 만들기로 했다.

이종호 과기정통부 장관은 25일 서울 강서구 LG 사이언스파크에서 인공지능 분야 민·관 최고위 관계자들과 안전한 인공지능 확산방안을 논의하기 위한 제4차 인공지능 최고위 전략대화를 열었다. 2021년 9월부터 운영된 인공지능 최고위 전략대화는 국가 AI 경쟁력 강화를 위해 민·관이 정책·투자 방향과 전략적 협력방안 등을 논의하는 협의체다.


이날 행사에는 이 장관과 함께 고학수 개인정보보호위원장·임용 서울대 교수·네이버(NAVER (176,500원 ▲1,500 +0.86%))·SK텔레콤 (56,200원 ▲1,000 +1.81%)·KT (43,450원 ▲650 +1.52%)·카카오 (38,450원 ▲1,100 +2.95%)·LG AI 연구원·이스트소프트 (12,690원 ▼330 -2.53%)·JLK·셀렉트스타·스냅태그·코난 테크놀로지 관계자가 참석했다.

이번 행사는 지난 9월 '대한민국 초거대 인공지능 도약' 행사에서 기업들이 AI 신뢰성 강화를 위해 필요한 안전조치를 자발적으로 마련하겠다고 약속한 데에 대한 후속 조치다.

과기정통부는 지금까지 간담회와 현장 방문 등에서 수렴한 의견을 토대로 마련한 '인공지능 윤리·신뢰성 확보 추진계획'을 발표했다. 인공지능 윤리·신뢰성 확보 추진계획은 △민간 자율 인공지능 윤리·신뢰성 확보 지원 △세계를 선도하는 인공지능 윤리·신뢰성 기술·제도적 기반 마련 △사회 전반에 책임 있는 인공지능 의식 확산 등이다.


정부와 기업은 추진계획을 토대로 세부 추진 과제를 정했다. 주요 세부 추진 과제는 △생성형 AI 기반 서비스 등 분야별 가이드라인 마련·확대 △민간 자율 AI 신뢰성 검·인증 추진(11월) △고위험 영역 AI 개발·실증 사업을 수행할 기업 선정 및 시범 인증 추진(12월) △편향성·불투명성 등 AI 한계 및 오작동 대응을 위한 신규 기술 '차세대생성인공지능기술' 개발 추진(2024~2027년, 총 220억원 규모) △AI 생성 결과물에 대한 워터마크 도입 제도화 검토(2024년 1분기) △고위험 인공지능에 대한 해설서 마련(2024년 1분기) 등이다.

이날 행사에 참석한 기업들은 생성형 AI의 신뢰성 향상과 책임 있는 거버넌스 구축 등을 위해 AI가 생성한 결과물에 '가시적 워터마크'를 도입할 필요가 있다는 데 공감했다. 기업들은 기술적 완성도를 고려해 자사 AI 서비스에 워터마크를 단계적으로 적용하기로 했다. 아울러 참석자들은 AI 윤리의식 확산 및 글로벌 규범을 선도하기 위해 AI 윤리교육과 전문 인력이 필요하다는 데 동의했다. 정부와 기업은 이를 위해 AI 윤리·신뢰성 표준을 제정하는 것이 중요하다는 데 뜻을 모았다.

이 장관은 "인공지능은 디지털 심화 시대의 핵심기술로서 인공지능의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다"며 "민간 자율 인공지능 신뢰성 검·인증 지원을 비롯한 인공지능 윤리 생태계 기반 조성과 적합한 규제 체계를 정립해가는 데 힘쓰고 관계부처와 함께 인공지능 윤리·신뢰성을 확보할 수 있는 정책 방안을 보완해 새로운 디지털 질서의 모범이 되기 위해 최선을 다하겠다"고 전했다.