'AI 편향성 기준' 수립·검증, AI 워터마크 단계적 제도화

이종호 과학기술정보통신부 장관(앞줄 왼쪽부터 4번째)과 고학수 개인정보보호위원회 위원장(앞줄 왼쪽부터 5번째)이 25일 오전 서울 강서구 LG사이언스파크에서 열린 '제4차 인공지능 최고위 전략대화' 에서 기념촬영 하고 있다. / 사진제공=과학기술정보통신부

AI(인공지능)의 편향성, 정확성 여부를 판별하는 기준을 만들고 이를 바탕으로 생성형 AI모델의 신뢰성을 검증·인증하는 작업이 연내 추진된다. AI 생성물에는 워터마크를 도입해 신뢰를 높이고 고위험 영역 AI에 대한 신뢰성 확보를 위한 조치도 마련한다.

과학기술정보통신부는 25일 서울 마곡동 LG사이언스파크에서 열린 '제4차 인공지능 최고위 전략대화'에서 이같은 내용이 논의됐다고 밝혔다. 이날 행사에는 이종호 과기정통부 장관, 고학수 개인정보보호위원회 위원장과 네이버(NAVER (176,800원 ▲1,800 +1.03%)), SK텔레콤 (56,200원 ▲1,000 +1.81%), KT (42,900원 ▲100 +0.23%), 카카오 (38,500원 ▲1,150 +3.08%), LG AI 연구원 등 초거대 AI기업 및 이스트소프트 (12,630원 ▼390 -3.00%), 제이엘케이 (11,970원 ▼210 -1.72%), 셀렉트스타, 스냅태그, 코난테크놀로지 (14,990원 ▼150 -0.99%) 등 AI 솔루션 기업의 대표들이 참여했다.


인공지능 최고위 전략대화는 국가 AI 경쟁력 강화를 위해 민관 합동으로 정책·투자 방향과 전략적 협력 방안을 논의하는 AI 대표급 협의체로 2021년 9월부터 이날까지 4차례 개최됐다.

과기정통부는 이날 '인공지능 윤리·신뢰성 확보 추진계획'을 발표하며 11월까지 신뢰성 벤치마크 데이터를 구축해 12월에는 이를 기준으로 생성형 AI 기업의 초거대 AI 모델에 대한 신뢰성 평가에 나서겠다고 밝혔다. 편향·차별적 내용의 콘텐츠가 생성되는지, 허위 정보를 생성하는 환각 현상이 심하지 않는지, 저작권 침해가 심각하지 않은지, 비윤리적 응답을 유도하는 행위에 대한 가이드가 제대로 제공되는지 등에 대한 기준을 만들고 기존 공개됐거나 공개될 예정인 초거대 AI 모델의 적합성 여부를 판별하겠다는 것이다.

아울러 과기정통부는 AI 생성물에 대한 워터마크 도입 제도화를 검토하기로 했다. AI 생성물에 대한 표시를 의무화할지에 대한 의견을 수렴하고 관련 국제 동향을 고려해 단계적으로 워터마크 표시를 도입할 예정이다. 또 결과물 사실 검증이나 편향적·비윤리적 표현을 필터링하는 등 생성형AI 한계를 극복하기 위한 기술개발을 내년에 본격 추진하고 고위험 AI에 대한 해설서를 내년 1분기 마련하는 등 AI 신뢰 제고 방안도 마련한다.


이날 참가한 기업들은 AI 생성물에 대한 가시적 워터마크 도입 필요성에 공감하고 기술적 완성도를 고려해 자사 서비스에 워터마크를 단계적으로 적용하는 데 동의했다. 또 AI 윤리교육 및 전문인력의 필요성, AI 윤리·신뢰성 표준 제정 중요성 등에 대해서도 의견을 나눴다.

이종호 과기정통부 장관은 "AI는 디지털 심화 시대의 핵심기술로서 AI의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다"며 "민간 자율 인공지능 신뢰성 검·인증 지원을 비롯한 인공지능 윤리 생태계 기반 조성과, 적합한 규제 체계를 정립해가는 데 힘쓰고, 관계부처와 함께 인공지능 윤리·신뢰성을 확보할 수 있는 정책방안을 보완해 새로운 디지털 질서의 모범을 보이도록 최선을 다하겠다"고 했다.

고학수 개인정보위원장도 "과기정통부, 기업들과 긴밀히 소통해 우리 여건과 국익에 부합하는 방향으로 (AI 규제 관련) 국제 논의를 주도하는 데 역량을 집중할 것"이라며 "기업들도 이용자가 신뢰할 수 있는 AI환경을 조성하는 데 적극 투자해 AI 리스크 최소화, 투명성 확보에 노력해 달라"고 당부했다.