정부 AI안전연구소 11월 출범…정책·기술 인력 모은다

윤석열 대통령이 지난 5월21일 청와대 영빈관에서 '인공지능(AI) 서울 정상회의' 화상 정상세션을 주재하며 개회사를 하고 있다./사진제공=대통령실

윤석열 대통령이 설립을 예고한 AI(인공지능) 안전 정책·기술 연구기관 'AI안전연구소'가 오는 11월 판교에서 출범한다.

과학기술정보통신부는 18일 서울 종로구 국가과학기술자문회의 청사에서 개최한 제17차 정보통신전략위원회에서 AI안전연구소 설립·운영계획안을 의결했다.


연구소의 주요기능은 국가가 관리할 AI 위험을 찾아 완화방안을 마련하는 'AI 안전평가'다. 과기정통부는 화학무기의 개발·생산을 지원하거나 인간의 감독을 회피할 수 있는 AI 모델을 위험의 예로 들었다.

안전평가 지표·방법은 기업·대학·연구기관과 개발하고 평가도구와 데이터셋을 구축할 계획이다. 나아가 주요국의 AI 규범을 분석해 국내 안전정책을 수립하도록 지원하고 기업·기관을 위한 국제인증 컨설팅과 국내외 협력도 맡는다.

이 밖에 통제력 잃은 AI에 대응하는 '정렬(Alignment)기술'과 AI의 사회적 차별·편향을 완화하는 기술도 연구소가 연구개발(R&D)을 수행한다. 과기정통부는 연구소가 정보·인력·기술 협력 플랫폼이 될 것으로 내다봤다.


연구소 조직은 한국전자통신연구원(ETRI) 아래 30여명 규모로 신설한다. 위치는 소프트웨어(SW)·전자기술 연구소와 가까운 판교로 정했다. 연구소장 채용절차는 지난달 공고돼 교수·기업인 등이 지원했다.

연구소에 돌아오는 첫 주요일정은 오는 11월20일 미국 샌프란시스코에서 개막하는 '국제 AI안전연구소 네트워크' 행사다. 과기정통부는 연구소장 선임을 조만간 마치는 한편 AI기본법 제정으로 법적근거가 마련되면 연구소를 정식 공공기관으로 격상할 예정이다.

해외에선 미국·영국·일본 등 주요국이 AI 안전 연구조직을 확보했다. 과기정통부는 윤석열 대통령이 지난 5월 AI서울정상회의에서 "한국도 AI안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참하겠다"고 말한 데 따라 연구소 설립을 추진했다고 밝혔다.