혐오 발언도 학습하는 AI..우리는 어떻게 대응할 수 있을까

2016년 구글의 인공지능 알파고가 바둑 천재 이세돌 9단을 상대로 승리한 사건은 우리에게 큰 충격을 안겼다. 하지만 그만큼 인공지능의 엄청난 잠재력과 발전 가능성에 대한 기대감으로 정부는 물론 기업과 대학 등 사회 전반에 걸쳐 인공지능에 대한 투자가 이뤄졌다. 이후 5년이 지난 지난해 인공지능 챗봇 '이루다' 사건으로 우리가 인공지능을 자칫 잘못 다룰 경우 얼마나 위험한 상황이 연출될 수 있는지 깨닫게 됐다.


저자인 김명주 교수는 검찰과 경찰을 대상으로 컴퓨터범죄 수사 기법을 교육해온 전문가로 정보 보호와 디지털 윤리가 갈수록 중요해지고 있다고 강조한다. 인공지능에 의한 부작용과 역기능, 위험을 법률적으로 해결하기에는 쉽지 않고, 법률이 따라가기에 인공지능의 발전 속도가 너무 빠르기 때문이다.

따라서 저자는 시작 단계부터 발전 방향을 올바르게 잡고 사회적 담론을 최대한 형성해야 한다고 주장한다. 핵심은 '인공지능 윤리'이다. 인공지능으로 인해 사회적 대전환이 시작되면 부작용과 역기능, 심지어 심각한 위험성이 드러난다고 해도 다시 원래로 되돌리는 것은 불가능하다는 설명이다.

그만큼 우리는 인공지능이 열어줄 미래에 대한 올바른 방향 제시와 더불어 구체적인 준비도 따라야 한다. 비가역적 사회 대전환으로 인해 발생 가능한 문제와 상황에 대해 소수의 전문가 중심에서 벗어나 사회 구성원 모두가 이해하며 공감할 수 있어야 한다는 것이다.

저자는 미래에 인공지능으로부터 배신당하지 않고 함께 살아가기 위한 '윤리'를 강조한다. 윤리는 가치 판단의 기준으로 사람이 갖고 있는 양심에 기반하지만 인공지능은 양심이 존재하지 않는다.


책에서는 인공지능의 특성을 기반으로 도출된 'PACT'를 강조한다. △'공공성'(Publicness) △책무성'(Accountability) △'통제성'(Controllability) △'투명성'(Transparency) 등 네 가지 기본 원칙을 출발점으로 구체적인 인공지능 실무지침과 법률 등을 만들어야 한다는 것이다. 실제로 2019년 경제협력개발기구(OECD)가 발표한 인공지능 윤리 원칙이나 2020년 우리나라의 '국가 인공지능 윤리 기준'도 이와 유사한 기준을 제시하고 있다.

마지막으로 저자는 4차 산업혁명 시대에는 모든 구성원이 인공지능 이용에서 갖춰야 할 시각과 자세를 미리 알아둬야 한다면서 독자들에게 "인공지능 시대에 나는 어떻게 생각하고 준비하며 행동해야 할까"라는 질문에 대한 밑그림을 그려보기를 제안한다.

◇AI는 양심이 없다/김명주 지음/헤이북스/1만8800원