방송통신위원회(이하 방통위)가 AI(인공지능)가 사람중심의 서비스를 제공하고 차별을 금지해야 한다는 내용의 원칙을 공개했다.

방통위는 11일 정보통신정책연구원과 '이용자중심의 지능정보사회를 실현하기 위한 원칙'을 발표했다. 이번 원칙은 지난해 기초연구를 거친 뒤 올해 10월까지 구글코리아, 페이스북코리아, 넷플릭스, 카카오, 삼성전자, 통신3사 등 주요 ICT(정보통신기술)기업과 전문가 자문을 거쳐 완성됐다.

이는 AI 시대 이용자의 권리와 이익이 충분히 보호될 수 있도록 정부·기업·이용자 등 구성원들이 함께 지켜가야 할 기본적인 원칙으로 주요 기업과 분야별 전문가들이 자문에 참여했다.

이날 발표된 원칙은 AI가 일상적으로 사용되는 지능정보시대를 대비해 이용자 보호에 선제적으로 대응하기 위해 마련된 것이라고 방통위는 설명했다.

최근 맞춤형 뉴스·콘텐츠 추천시스템, AI 스피커, AI 면접 등 인간의 의사결정을 보조하거나 대체하는 혁신적인 서비스가 확산되면서 공정하고 책임있는 AI 알고리즘의 중요성이 더욱 커져가고 있다. 특히 유렵연합(EU), 경제협력개발기구(OECD) 등 국제사회에서도 신뢰가능한 AI를 위한 가이드라인·권고안 등을 잇달아 발표하고 있다.

이용자 원칙의 가장 최우선은 사람을 중심으로 기본적 자유와 권리를 보장하고 인간의 존엄성을 보호할 수 있는 방향으로 이뤄져야 한다는 점이다.

또 지능정보서비스가 이용자에게 중대한 영향을 끼칠 경우 기업의 정당한 이익을 침해하지 않는 범위에서 이용자가 이해할 수 있도록 관련 정보를 작성해야 한다.

뿐만 아니라 이용자 기본권에 피해를 유발했을 때는 예측, 추천, 결정의 기초로 사용한 주요 요인을 설명할 수 있어야 한다.

이와함께 지능정보서비스가 사회적·경제적 불공평이나 격차를 초래할 수 있다는 점을 인식하고 알고리즘 개발과 사용의 모든 단계에서 차별적 요소를 최소화할 수 있도록 노력해야 한다.

아울러 지능정보서비스의 개발, 공급, 이용 등 과정에서 개인정보 및 프라이버시를 보호해야 하고 구성원들은 기술의 향유와 프라이버시 보호 사이의 균형을 위해 지속적인 의견 교환에 참여한다는 점도 원칙에 포함됐다.

한편 이와 관련해 한상혁 방통위 위원장은 최근 기자간담회를 통해 ""AI 등 신기술은 미래 먹거리라는 얘기까지 나오지만 역기능으로 이용자 문제가 필연적으로 뒤따를 수 있다”며 “이용자 보호 원칙 마련을 위해 지능정보사회 이용자보호 정책센터를 설치해 운영할 계획”이라고 밝힌 바 있다.