속보
VIP
통합검색

차별 조장하는 인공지능이 온다?…"인권영향평가로 선제 대응"

머니투데이
  • 강주헌 기자
  • 카카오톡 공유하기
  • 카카오톡 나에게 전송하기
  • 페이스북
  • 트위터
  • 네이버
  • 카카오스토리
  • 텔레그램
  • 문자
  • 2023.02.11 09:40
  • 글자크기조절

[MT리포트-생성 AI 시대, 한국은 어디로] 1-⑥ 인권위, 인공지능 인권영향평가 도입 추진…표절·차별 등 인권·윤리 문제 유발 가능성 방지

차별 조장하는 인공지능이 온다?…"인권영향평가로 선제 대응"
# Q2-2-1. 인공지능 시스템이 도입, 활용될 경우 시민들의 인권에 미칠 수 있는 부정적인 영향 혹은 위험은 무엇입니까.
Q4-3-2. 인공지능 시스템이 의도한 대로 작동하지 않거나 인권에 미치는 부정적인 영향이 확인됐을 때 관련된 책임을 명확히 하고 인공지능 시스템을 개선하며 부정적 영향을 완화하기 위해 필요한 절차를 수립했습니까.

최근 국가인권위원회가 공개한 '인공지능(AI) 인권영향평가 도입 방안' 연구용역보고서에 담긴 AI 인권영향평가도구안의 문항이다. '챗GPT' 등 AI 기술 고도화가 가져올 인권 침해를 선제적으로 따져본다는 취지다. AI 발전과 확산으로 인한 개인정보·사생활에 관한 권리 침해, 차별 등 인권 문제에 대한 우려를 반영했다.

10일 인권위에 따르면 한동대산학협력단은 연구용역 보고서를 통해 AI 인권영향평가도구안을 개발해 인권위에 제출했다. 도구안에는 AI 기술과 관련된 영향을 체크할 수 있는 문항이 담겼다. 개인정보보호를 준수하고 있는지, 데이터셋(자료들의 집합체)이 대표성을 갖고 있는지 혹은 민감정보를 포함하고 있는지 등이다. 인권영향평가는 사업과정, 정책, 입법 등이 인권에 미치는 영향을 측정하고 평가하는 도구로 국가, 지방자치단체, 기업 등이 추진하는 사업과정이나 정책 등에서 인권에 미치는 부정적 영향을 방지·완화하는 역할을 한다.

주요 선진국과 기업도 AI의 인권영향평가를 도입하는 추세다. 유엔 인권최고대표, 유엔인권이사회는 지난해 국가나 기업에서 AI 시스템에 대한 인권 실사를 권고했다. 구글, 페이스북, 마이크로소프트 등 빅테크 기업들도 자사의 AI에 대해 인권영향평가를 수행했다.

한국에서도 인권위가 지난해 5월 ' AI 개발과 활용에 관한 인권 가이드라인'을 마련했다. 성희롱 발언, 소수자에 대한 차별·혐오 발언 논란에 휩싸인 챗봇 '이루다' 사태가 계기가 됐다. 가이드라인은 △인간의 존엄성 및 개인의 자율성과 다양성 보장 △투명성과 설명 의무 △자기결정권의 보장 △차별금지 △인공지능 인권영향평가 시행 △위험도 등급 및 관련 법·제도 마련 등이 골자다.

인권위는 국무총리와 과학기술정보통신부장관, 개인정보보호위원장, 방송통신위원장 등 각 부처 장관과 기관장 등에게 이 가이드라인에 기초해 인공지능 관련 정책을 수립·이행할 것을 권고했다. 평가 대상으로 △소방 △응급의료 △신원확인 △인사채용·평가 △범죄수사 △출입국 관리 △법률 해석 등 다양한 분야가 꼽힌다.

AI 인권영향평가 도입에 앞서 명확한 법률적 근거를 마련해야 한다는 지적도 나온다. 현재는 인권영향평가를 받아야 하는 대상이 법제화돼 있지 않다.

연구진은 보고서에서 "우리 법제에 난립돼 있는 영향평가제도 가운데 인권영향평가의 성격과 위상이 아직 불분명하고 규제영향평가 등은 AI 인권영향평가 제도를 온전히 실현하기에 여러 한계점이 있다"며 "기존 국가인권위원회법 개정이나 새로운 입법을 통해 AI 인권영향평가를 도입하는 방안을 단계적으로 검토할 필요가 있다"고 밝혔다.



머니투데이 주요뉴스

"27년만에 해냈다" 은마의 환호…8개월새 6억 올랐다
네이버 메인에서 머니투데이 구독 카카오톡에서 머니투데이 채널 추가

베스트클릭

오늘의 꿀팁

  • 뉴스 속 오늘
  • 더영상
  • 날씨는?
  • 헬스투데이

많이 본 뉴스

2023 대한민국 사회안전지수
풀민지
[연중기획] 인공지능 시대의 생존법, AI 리터러시 키우자

포토 / 영상