[기고] AI 거버넌스의 3가지 핵심

머니투데이

이지은 한국IBM CTO(최고기술책임자)·전무

[보스턴(미 매사추세츠주)=AP/뉴시스]023년 12월8일 보스턴의 한 휴대폰에 챗GPT가 생성한 컴퓨터 화면 이미지에 표시된 오픈AI의 로고가 보이고 있다. 유럽연합(EU) 의원들이 13일 EU 27개국의 인공지능(AI)법을 최종 승인했다. 이 법은 올해 말 발효될 예정이다. 2024.03.13. /사진=유세진

최근 유럽연합에서 AI(인공지능) 법안이 통과됐다. 이 법안은 △AI 애플리케이션·시스템의 위험도에 따라 규제 여부를 정하고 △고위험 AI로 인한 책임은 시스템 공급자·개발자가 지며 △전문 영역에서 AI 시스템을 배포하는 법인·개인도 일부 책임을 진다는 등의 내용을 담았다. 이 법은 세계 최초의 포괄적 AI 법으로 향후 각국의 AI 규제에 큰 영향을 줄 것으로 예상된다.

한국 정부도 AI기본법 입법을 추진 중이다. 안전성 확보를 위한 최소의 규제는 두되 산업 발전을 가로막지 않도록 고심하고 있다고 알려졌다. 가장 중요한 이해당사자인 기업은 AI 위험 관련 리스크를 줄이면서 혁신 경쟁에서도 뒤쳐지지 않기 위해 AI 도입 시 AI 거버넌스를 어떻게 적용할 것인지 반드시 염두에 둬야 한다. 이 때 고려해야 할 3가지 핵심 사항을 제시해본다.

첫째, AI와 머신러닝에서 공정성을 보장하고 편향성을 줄여야 한다. 편향성을 줄이려는 노력은 조직 전체가 AI를 사용하는 방식에 광범위한 영향을 미친다. 금융·의료 등 AI모델의 편향된 추천으로 엄청난 부정적 결과를 초래할 수 있는 분야에서는 특히 중요하다. 기업은 AI의 편향성 및 결과의 편차를 판별하는 기술을 사용해 사전 예방적 모니터링을 할 수 있다. 최종 사용자 및 기업의 문화·가치를 반영하는 윤리적 AI 거버넌스 체계를 구축하는 데 다양한 이해관계자 그룹을 포함시키는 것도 필요하다.

둘째, 생성된 AI 모델이 투명하고 설명가능하며, 해당 모델이 사용하는 데이터의 출처가 파악돼야 한다. 기업·정부는 명확한 표준과 실행 방식을 제시하고, 이 표준이 자동으로 적용되는 기술을 활용해 믿을 수 있는 AI를 활용하도록 해야 한다. AI 거버넌스는 개발 및 런타임을 통해 전체 모델 수명 주기에 반영돼 AI 의사 결정이 이뤄진 이유·방법을 설명할 수 있는 감사 기록을 남겨야 한다. 생성형 AI의 핵심은 방대한 데이터이다. 기업들은 어떤 데이터가 사용됐는지, 출처는 어디인지 등을 이해해야 한다. 데이터 출처 추적용 소프트웨어를 활용하는 것도 AI 신뢰를 확보하기 위한 좋은 방법이다.

셋째, 기업 내부의 정책과 절차, 업계 표준 및 규제를 준수할 수 있도록 AI 거버넌스 체계를 구축하고 지속적으로 발전·개선시켜야 한다. 이 거버넌스 체계를 통해 기업은 전 세계적으로 변화하는 규정과 정책을 충족하도록 AI를 관리할 수 있다. 이는 외부 규제 의무와 내부 윤리 지침을 기존에 있던 규제 요건과 비교하는 기술을 적용해 해당 요건에 대한 변경 사항을 자동으로 식별하고 모델 수명 주기 전반에 걸쳐 메타데이터를 효과적으로 추적함으로써 달성할 수 있다. 세계 각국 정부들이 AI 규정을 제정하고 있으므로, 글로벌한 관점으로 접근하는 것이 필요하다.

AI의 도입이 확대될수록 기업들은 AI의 안전성에 대한 책임을 피할 수 없다. 기술, 프로세스, 인력에 선제적으로 투자해 AI를 책임감 있게 관리하고, 위험을 줄이며, 사회와 비즈니스에 도움이 될 수 있는 잠재력을 충분히 실현할 수 있도록 하는 기업만이 AI로부터 원하는 결과를 얻을 수 있다.