토마토·사과가 매운 음식?…'AI의 오류' 몸소 느낀 아이들

/사진=변휘 기자

"토마토는 안매운 음식인데 빨간색이라 AI(인공지능)가 매운 음식으로 분류한 것같아요."

"AI가 이상한 정보를 주면 한 번 더 찾아볼래요."


지난 3일 찾은 충남 천안 백석초등학교 5학년 2반 학생들은 저마다 '매운 음식분류 만들기'를 소재로 AI와 대화에 여념이 없었다. 우선 고추, 오이, 배추, 김치, 양념치킨, 된장찌개, 감자튀김, 불닭볶음면 등 다양한 음식과 재료의 사진을 PC 화면에 띄워놓고 '매운 것'과 '안매운 것'으로 나눈 뒤 AI프로그램에 입력했다. 데이터를 수집·분류한 뒤 AI를 학습시키는 과정이다.

그리고 이를 학습한 AI가 또다른 음식사진에 대해 어떤 답변을 내놓는지 아이들은 흥미롭게 지켜봤다. 이때 AI가 토마토와 사과를 매운 것으로, 또 청양고추는 맵지 않은 것이라고 답하자 아이들은 꽤 놀란 표정이었다. 생성형 AI의 대표적 오류인 '할루시네이션'(hallucination·환각)을 경험한 셈이다.

선생님이 "AI도 잘못된 생각을 할 수 있다"며 "왜 틀린 답변을 한 것같냐"고 묻자 이내 아이들은 자신에게 답변 기회를 달라는 듯 손을 들었다. 그리고 한 아이가 "AI는 빨간색 음식을 맵다고 생각한 것같다"고 외쳤다. 너무나도 정확한 지적에 오히려 기자가 놀란 장면이다.

/사진제공=NIA

방송통신위원회와 한국지능정보사회진흥원(NIA)이 운영하는 AI·디지털윤리 교육현장에선 철저히 교육 수혜자의 눈높이에 맞춘 체험형 AI 교육이 이뤄지고 있었다.

이날 백석초등학교 아이들도 평소 좋아하는 음식을 소재로 AI의 학습에 필수적인 데이터 분류부터 머신러닝(기계학습)의 과정, AI 답변의 오류까지 앞으로 경험하게 될 AI 세상의 다양한 변수를 재미있게 체험했다.

교육은 여기서 끝나지 않았다. AI의 학습을 고도화하고 개선 전후 AI의 차이점을 생각해보는 시간이 이어졌다. 예컨대 5학년 2반 아이들은 딸기케이크와 방울토마토를 매운 음식으로 분류한 AI를 어떻게 하면 좀더 똑똑한 AI로 만들 수 있을지를 두고 열띤 토론을 벌였다.

특히 친구들이 삼삼오오 모여 각자 어떤 것을 매운 음식으로 분류했는지 차이점도 확인했다. 한 아이는 김치를 매운 것으로 선택해 AI에 학습시켰지만 친구는 안매운 것으로 분류했고 그 결과 각자 학습시킨 AI는 '매운 음식을 골라내'라는 명령에 다른 답변을 내놨다.

실제로 이러한 과정을 통해 아이들은 보다 신뢰할 수 있는 AI를 만들기 위해서는 어떻게 해야 할지, 또 AI가 편향된 결과를 내놓는다는 사실을 인식한 만큼 앞으로 AI를 믿고 이용할 수 있을지를 고민하게 된다. 아울러 어떤 기준을 세워야 좀더 공정한 AI를 완성할 수 있을지도 체험하게 된다.

/사진=변휘 기자.

이날 AI윤리 교육의 커리큘럼을 제공한 TMD교육그룹의 이정아 콘텐츠개발본부 부장은 "아이들이 스스로 AI윤리의 기준을 정해보고 나와 친구의 의견도 비교해 AI윤리 기준이라는 것이 이미 정해진 것이 아닌 앞으로 모두가 함께 만들어가야 한다는 것을 이해시키는 것이 교육의 목표"라고 설명했다.

학생들을 지도한 백석초등학교 홍주희 교사도 "이런 교육을 통해 학생들이 평소 쓴 앱이나 자동화한 서비스를 '이게 AI였구나', 또 '결국 사람이 AI를 만들고 조정해야 하는구나'라는 것을 인식하게 될 것같다"며 "이제 AI가 일상의 중요한 부분으로 자리잡은 만큼 AI윤리도 인성교육의 측면에서 접근할 필요가 있다"고 말했다.

방통위와 NIA가 시행 중인 디지털윤리 교육은 초등학생은 물론 중학교와 고등학교, 또 성인을 대상으로도 진행된다. 커리큘럼도 대상자에게 맞는 다양한 방식으로 진행된다. 초등학생에겐 AI에 대한 인식을 높이는 차원에서 매운 음식을 소재로 활용했다면 중학생은 '행복한 표정은 무엇일까'를 주제로 AI를 활용해 토론한다. 입을 크게 벌린 사람만 행복하다고 평가한 AI, 인종별로 행복도를 달리 평가한 AI 등의 사례를 제시하며 AI의 편견을 확인하고 개발자와 이용자가 각각 지켜야 할 AI 윤리를 학생들 스스로 설정하도록 유도한다.

이날 강단에 선 정소윤 디지털윤리 전문강사는 "강의를 듣는 이들이 AI를 보다 친근하게 느끼도록 하고 AI의 순기능과 역기능을 골고루 바라볼 수 있는 열린 시각을 제공하는 게 중요하다"며 "강의 후 설문조사를 하면 '앞으로 AI를 이용할 때 비판적으로 인식하겠다'거나, 아이들은 'AI가 준 정보가 이상하면 의심해 보겠다'는 등의 답변이 나오는데 그것만으로도 교육은 충분히 의미가 있다"고 강조했다.