 |
| /사진=온라인 커뮤니티 갈무리 |
'할루시네이션'(Hallucination)은 AI(인공지능)가 맥락과 관련없거나 사실이 아닌 내용을 마치 옳은 답처럼 내놓는 현상을 일컫습니다. 본래 환각을 뜻하는 정신의학 용어입니다.
정보기술(IT)업계에서는 AI가 처음부터 잘못된 데이터로 학습할 때 할루시네이션이 발생한다고 봅니다. 방대한 데이터를 학습해 확률상 가장 적절한 답변을 내놓는 AI가 학습 과정에서 '진위'를 확인하지는 못하기 때문입니다. 그 결과 AI는 그럴 듯하지만 말도 안 되는 답을 내놓는 오류를 범합니다.
예컨대 AI 언어모델 '챗GPT'는 지난 2월 '세종대왕의 맥북프로 던짐 사건'에 관해 묻자 "세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건"이라고 답합니다.
더 심각한 부작용이 나타날 우려도 있습니다. 악의적 조작 정보, 특정 성별·이념·종교에 대한 편견이 더해져 오염된 데이터를 학습할 가능성이 있기 때문입니다. 글로벌 기업 아마존은 AI 채용 시스템을 도입했으나 특정 성별에 유리한 편향이 발생하자 2018년 이를 폐기했습니다.
주요 7개국(G7) 디지털·기술 장관이 지난달 '챗GPT를 사용할 때 책임을 부여해야 한다'는 공동성명을 채택한 이유입니다. 이들은 AI 기술 이용과 관련해 △법의 지배 △민주주의 △인권 존중 △적절한 절차 △기술 혁신 기회 활용 등 5가지 원칙에 합의했습니다.
![[단독]삼성전자 美테일러 첫 제품은 엑시노스, 갤럭시S25 탑재된다](https://thumb.mt.co.kr/11/2023/09/2023092013562818350_1.jpg/dims/resize/100x/optimize/)
!["영치금 써라" 유아인, 돈다발 봉변 후 유치장行..다시 구속 기로 [스타이슈]](https://menu.mt.co.kr/upload/main/2023/2023092114391478019925_mainTop.jpg)
![[연중기획] 인공지능 시대의 생존법, AI 리터러시 키우자](https://menu.mt.co.kr/news/wingBanner/wingBannerSub_202306161659260_3685.jpg)
