 |
| /사진=온라인 커뮤니티 갈무리 |
정보기술(IT)업계에서는 AI가 처음부터 잘못된 데이터로 학습할 때 할루시네이션이 발생한다고 봅니다. 방대한 데이터를 학습해 확률상 가장 적절한 답변을 내놓는 AI가 학습 과정에서 '진위'를 확인하지는 못하기 때문입니다. 그 결과 AI는 그럴 듯하지만 말도 안 되는 답을 내놓는 오류를 범합니다.
예컨대 AI 언어모델 '챗GPT'는 지난 2월 '세종대왕의 맥북프로 던짐 사건'에 관해 묻자 "세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건"이라고 답합니다.
더 심각한 부작용이 나타날 우려도 있습니다. 악의적 조작 정보, 특정 성별·이념·종교에 대한 편견이 더해져 오염된 데이터를 학습할 가능성이 있기 때문입니다. 글로벌 기업 아마존은 AI 채용 시스템을 도입했으나 특정 성별에 유리한 편향이 발생하자 2018년 이를 폐기했습니다.
주요 7개국(G7) 디지털·기술 장관이 지난달 '챗GPT를 사용할 때 책임을 부여해야 한다'는 공동성명을 채택한 이유입니다. 이들은 AI 기술 이용과 관련해 △법의 지배 △민주주의 △인권 존중 △적절한 절차 △기술 혁신 기회 활용 등 5가지 원칙에 합의했습니다.
![불바다 된 LA, 한국인들은 총을 들었다…흑인의 분노, 왜 한인 향했나[뉴스속오늘]](https://thumb.mt.co.kr/11/2024/04/2024042617513350505_3.jpg/dims/resize/100x/optimize/)
!["학생 10명 거품 물고 쓰러져"…비극으로 끝난 '우정 여행'[뉴스속오늘]](https://thumb.mt.co.kr/10/2023/12/2023121717255330052_1.jpg/dims/resize/100x/optimize)
!['민희진 해임' 주총 허가 심문, 30분만 종료 "내달 이사회 소집"[종합]](https://menu.mt.co.kr/upload/main/2024/2024043018342776909001_mainTop.jpg)
![광산노조 본진, 트럼프 지지하는 이유 [PADO 편집장의 '미국 대 미국']](https://i4.ytimg.com/vi/olBkk967o4E/hqdefault.jpg)
![미국 대선, 6개주만 보면 답 나온다 [PADO 편집장의 '미국 대 미국']](https://i4.ytimg.com/vi/7kc1ddGnWtE/hqdefault.jpg)
