속보
VIP
통합검색

[검색폭발 이슈키워드] 할루시네이션

머니투데이
  • 김미루 기자
  • 카카오톡 공유하기
  • 카카오톡 나에게 전송하기
  • 페이스북
  • 트위터
  • 네이버
  • 카카오스토리
  • 텔레그램
  • 문자
  • VIEW 5,455
  • 2023.05.17 12:40
  • 글자크기조절
/사진=온라인 커뮤니티 갈무리
/사진=온라인 커뮤니티 갈무리
'할루시네이션'(Hallucination)은 AI(인공지능)가 맥락과 관련없거나 사실이 아닌 내용을 마치 옳은 답처럼 내놓는 현상을 일컫습니다. 본래 환각을 뜻하는 정신의학 용어입니다.

정보기술(IT)업계에서는 AI가 처음부터 잘못된 데이터로 학습할 때 할루시네이션이 발생한다고 봅니다. 방대한 데이터를 학습해 확률상 가장 적절한 답변을 내놓는 AI가 학습 과정에서 '진위'를 확인하지는 못하기 때문입니다. 그 결과 AI는 그럴 듯하지만 말도 안 되는 답을 내놓는 오류를 범합니다.

예컨대 AI 언어모델 '챗GPT'는 지난 2월 '세종대왕의 맥북프로 던짐 사건'에 관해 묻자 "세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건"이라고 답합니다.

더 심각한 부작용이 나타날 우려도 있습니다. 악의적 조작 정보, 특정 성별·이념·종교에 대한 편견이 더해져 오염된 데이터를 학습할 가능성이 있기 때문입니다. 글로벌 기업 아마존은 AI 채용 시스템을 도입했으나 특정 성별에 유리한 편향이 발생하자 2018년 이를 폐기했습니다.

주요 7개국(G7) 디지털·기술 장관이 지난달 '챗GPT를 사용할 때 책임을 부여해야 한다'는 공동성명을 채택한 이유입니다. 이들은 AI 기술 이용과 관련해 △법의 지배 △민주주의 △인권 존중 △적절한 절차 △기술 혁신 기회 활용 등 5가지 원칙에 합의했습니다.



머니투데이 주요뉴스

급락 종목 우르르…"내 갈 길 간다" 상한가 찍은 기업은?
네이버 메인에서 머니투데이 구독 카카오톡에서 머니투데이 채널 추가

베스트클릭

오늘의 꿀팁

  • 뉴스 속 오늘
  • 더영상
  • 날씨는?
  • 헬스투데이

많이 본 뉴스

2023 대한민국 사회안전지수
부동산 유튜브 정보채널 부릿지
[연중기획] 인공지능 시대의 생존법, AI 리터러시 키우자

포토 / 영상