美 베테랑 변호사, 챗GPT에 당했다…'가짜 판례' 제출했다 제재 위기

챗GPT

30년 경력 미국 한 변호사가 항공 분쟁관련 법원제출 서류 준비 과정에서 생성형 AI(인공지능) 서비스 '챗GPT'에 의존했다가 법원 청문회에 회부될 위기에 놓였다. 챗GPT를 통해 수집한 판례가 실제 존재하지 않는 '거짓 판례'임이 밝혀지면서다.

29일(현지시간) 뉴욕타임스, CNN 등에 따르면 케빈 카스텔 뉴욕 맨해튼 연방법원 판사는 거짓 판례가 담긴 서류를 제출한 스티븐 슈워츠 변호사에 대한 제재 문제를 논의하기 위해 내달 8일 청문회를 연다. 카스텔 판사는 NYT에 "슈워츠 측이 근거로 든 판례 중 적어도 6건이 가짜였다"면서 "이런 일은 법원에서 전례가 없는 상황"이라고 말했다.

슈워츠 변호사가 변론을 맡은 사건은 2019년 엘살바도르에서 뉴욕행 아비앙카항공 여객기에 탔던 승객 로베르토 마타의 소송 건이었다. 마타는 탑승 중 서빙 카트에 부딪혀 무릎을 다쳤고, 이를 직원 잘못으로 돌리며 슈워츠를 선임해 항공사를 고소했다.

항공사는 일반적인 항공사건 공소시효(2년)가 지난 뒤 제기한 소송이라며 맨해튼 연방법원에 기각을 요청했다. 슈워츠 변호사는 "소송은 계속 진행돼야 한다"고 맞섰다. 유사 판례들을 담은 10쪽 분량의 의견서를 법원에 제출했다.

문제는 슈워츠가 인용한 판례 중 최소 6개가 거짓이었다는 점이다. 아비앙카항공 측의 바트 바니노 변호사는 "슈워츠 변호사의 의견서에 담긴 중국 남방항공 사건 판례는 물론 여기에 인용된 2008년 제11 연방고등법원의 대한항공 판결문을 도저히 찾을 수 없다"며 케빈 카스텔 뉴욕남부연방지법 판사에게 서한을 보냈다. 이어 "의견서에 담긴 판례들이 실제 판결이 아닐 수 있다"며 AI 챗봇이 관여됐을 수 있다는 의혹을 제기했다.

이에 슈워츠 변호사는 지난 25일 법원에 선처를 호소하면서 챗GPT의 도움을 받았다는 사실을 인정했다. 그는 "법원과 항공사를 속일 의도가 아니었다"며 "AI 챗봇을 한 번도 써본 적이 없어 그 콘텐츠가 가짜일 수도 있다는 가능성에 대해 알지 못했다"고 호소했다. 심지어 그는 "챗GPT에 판례가 사실인지 검증을 요청했더니 '맞다'고 답했다"고 지난주 법원에 전달했다.