과기정통부, AI의 사회적 신뢰 높일 정책기반 만든다

정부가 AI(인공지능) 개발·활용 윤리 및 신뢰성을 높일 사회적 기반 구축에 나선다. 생성형 AI 기술이 빠르게 발전하면서 나타나는 가짜뉴스 등 부작용을 최소화하고 지속가능한 AI(인공지능) 기술 활용을 위함이다.

과학기술정보통신부(과기정통부)는 18일 서울 서초구 엘타워에서 AI전략최고위협의회 윤리·안전분과로 활동할 '제3기 인공지능(AI) 윤리·신뢰성 포럼' 출범식을 열었다.


AI전략 최고위협의회는 이종호 과기정통부 장관과 염재호 태재대 총장을 공동위원장으로 출범한 범정부 AI 거버넌스 조직이다. 협의회에는 AI분야 최고 민간 전문가 23인과 기획재정부·산업부·중소벤처기업부·교육부·개인정보위원회·방송통신위원회 등 주요 관계부처 실장급 공무원 7인 등 총 32명으로 구성됐다. 협의회 산하에는 △AI반도체 △R&D △법·제도 △윤리안전 △인재 △AI바이오 등 6개 분과가 운영된다.

제3기 AI 윤리·신뢰성 포럼에서는 AI의 사회적 신뢰기반 조성을 위한 논의를 진행한다. 포럼은 이상욱 한양대 철학과 교수를 위원장으로 학계·산업계·법조계·공공·시민·사회·국제기구 등 분야별 전문가 20명이 참여한다. 포럼은 향후 격월로 운영되며, 참가자들은 생성형 AI의 악의적 활용을 완화·방지하기 위한 AI 윤리·신뢰성 분야 범부처 과제를 발굴하고 정책과제를 구체화할 계획이다.

이번 포럼에서는 지난해 정부 AI 윤리사업 핵심과제로 개발한 'AI 윤리기준 실천을 위한 자율점검표(채용분야)'와 AI 서비스의 윤리적 영향력 등을 공개했다. 아울러 AI의 윤리적인 개발·활용을 장려할 수 있는 AI 윤리영향평가 프레임워크, 일반인의 AI 이해와 활용 역량을 지원하기 위한 AI 윤리교육 교재 등도 소개했다.


이날 출범식에서는 국내 AI 윤리·신뢰성 확보를 위한 정책 방향 토론도 진행됐다. 최근 오픈AI의 '소라'가 등장하면서 생성형 AI 기술의 활용범위가 텍스트 생성에서 영상까지 빠르게 확대되는 가운데 뮌헨 안보회의의 '기만적 AI 사용방지를 위한 기술 합의문'이나 UN 총회 'AI 결의안 채택' 등 AI 관련 글로벌 논의도 짚어봤다.

엄열 과기정통부 인공지능정책관은 "최근 전 세계 AI 분야의 경쟁적 투자 확대로 AI 발전 속도는 더욱 가속화되고, 진화 방향은 예측하기 어려워지고 있다"며 "생성형 AI 기술로 촉발된 AI 시대로의 본격적인 전환점에서, AI 발전과 공존 가능한 AI의 전제는 윤리와 신뢰이며, 이를 위한 사회적 신뢰기반을 만들어 갈 수 있도록 AI 윤리·신뢰성 포럼이 사회적 논의의 구심점 역할을 수행해 주길 기대한다"고 말했다.