"딥페이크 악용 고등학생, 징역 5년 실형"에 200여명 외마디 "헐!"

22일 용산구 서울디지텍고등학교에서 머니투데이 주최로 열린 '2024 U클린 토크콘서트'에서 학생들이 강연을 듣고 있다. /사진=김휘선

"친구, 선생님, 내 주변 사람들을 대상으로 절대 합성 영상물을 제작·배포·시청하지 않는다."

'2024년 u클린 토크콘서트'에 참가한 서울 용산구 서울디지텍고등학교 학생 200여명이 22일 이같이 외쳤다. 딥페이크로 지인능욕을 한 또래 고등학생이 징역 5년의 실형 처분을 받았다는 이야기에 "헐!"하며 놀란 학생들은 생성형 AI(인공지능) 기술 발달로 급격히 증가한 딥페이크 범죄가 얼마나 심각한지 깨닫는 시간이었다.


이날 행사는 머니투데이와 한국지능정보사회진흥원(NIA)이 주최하고 방송통신위원회(방통위)가 후원하는 '2024년 u클린 - 따뜻한 디지털 세상' 캠페인의 일환으로 진행된 문화마당 강연회다.

'u클린 캠페인'은 깨끗하고 건전한 디지털 문화 정착을 목표로 머니투데이가 2005년부터 20년째 이어온 캠페인이다. 올해 u클린은 AI와 청소년에게 집중했다. 2022년 말 챗GPT가 등장하면서 급속도로 확산하는 생성형 AI(인공지능) 기술로 디지털 환경이 급변하는 가운데, 사회적 합의나 제도 없이 딥페이크 및 가짜뉴스, 정보편향, 저작권 침해 등 생성형 AI의 부작용도 나날이 커지고 있다.

2024년 u클린 캠페인은 디지털 네이티브를 넘어 AI 네이티브로서 살아갈 '청소년'에 주목했고, 학교 현장을 직접 찾았다. 자라나는 미래 세대에게 AI의 역기능을 알리고 올바른 디지털 윤리관을 심어줘야 한다는 사회적 요구를 반영한 것. 특히 문화마당 강연회가 열리는 서울디지텍고는 1975년 설립된 이래 우리나라 게임·공간정보 및 AI 분야 인재를 길러낸 특성화고다. 우리나라 미래 IT 업계를 이끌어갈 학생들의 디지털 윤리 역량을 키운다는 점에서 더욱 의의가 있다.


올해 문화마당 강연회는 김하은 서울경찰청 청소년보호과 경장의 'AI 범죄의 현황, 청소년 보호 방안'과 김경훈 카카오 AI세이프티 리더의 '모두를 위한 AI 세이프티(AI Safety)' 강연으로 구성했다. 강연에서는 딥페이크 등 AI를 악용해 타인의 권리를 침해하는 AI 범죄 유형과 실제 사례, 대응 방안과 청소년들이 AI를 안전하게 활용하기 위해 정부·기업·학교·학생 등 AI 생태계를 구성하는 이들의 마음가짐 등이 공유됐다.

김하은 경장은 강연 후 "학생들이 딥페이크에 대해 어느 정도 인지하고 있다는 것을 알게 돼 다행이라고 생각했다"며 "딥페이크 범죄 자체가 너무 많은 피해자를 양산하기 때문에 절대 하지 말아 달라는 메시지가 잘 전달됐으면 좋겠다"고 말했다.

김경훈 리더는 AI 세이프티에 대한 강연 말미에서 "손자와 할머니 중 누가 더 휴대폰에 익숙하지 않을까요?"라는 질문을 던졌다. 학생들은 망설임 없이 "할머니"라고 외쳤지만, 답은 "알 수 없다"였다. 김 리더는 "노인이 더 디지털 기기에 익숙하지 않을 것이라는 생각은 '편향'이다"며 "AI 윤리를 지키기 위해서는 이런 부분을 경계해야 한다"고 강조했다.

강연을 들은 서울디지텍고 재학생 이선우 군은 "학내외 해커톤 등 경진대회의 아이디어 도출·개발 단계에 생성형 AI를 활용하는 경우가 늘었다"며 "생성형 AI 활용법을 배우는 중인데, 개발자가 된 뒤 필요한 윤리적 활용에 대해 고민해볼 수 있었다"고 말했다.

김성인 서울디지텍고 교감은 "학교 현장에서도 과제에 생성형 AI 활용을 허용할지 여부가 큰 화두"라며 "AI 활용윤리 교육의 방향성을 모색하는 계기였다"고 말했다.

한편, 올해 u클린은 방통위를 비롯해 △SK텔레콤 △KT △SK브로드밴드 △LG유플러스 △삼성전자 △LG전자 △넥슨 △카카오 △네이버 △NHN △엔씨소프트 △한국통신사업자연합회(KTOA) 등 13개 기업 및 기관이 후원했다. 지난 20년간 u클린은 사이버예절·온라인 저작권·사이버 윤리 및 보안·u에티켓·좋은 크리에이터(창작자) 등을 다뤘다. 올바른 디지털 문화를 위한 기획기사와 함께 청소년 문화마당이나 토크 콘서트·글짓기 및 포스터 공모전 등 시민들이 직접 참여할 수 있는 행사도 함께 진행해 왔다.