유튜브 짜깁기 수준…공공기관 챗GPT 가이드북 '오류투성이'

/사진=APF

챗GPT 열풍속 사용법을 배우려는 이들이 많지만 공공기관이 발간한 가이드북에서조차 부정확한 오류가 다수 확인돼 주의가 요망된다.

19일 업계에 따르면 지난 3월 초 서울시 산하 서울디지털재단이 공개한 'ChatGPT 활용사례 및 활용 팁_업무활용편' 보고서 곳곳에서 오류가 발견됐다. 해당 자료는 서울디지털재단이 지난 2월27일부터 3월6일까지 재단 직원 7명으로 구성된 'GPT 활용성 연구 TFT'에서 작성한 것인데 약 8만명이 내려받았다. 지난 7일에는 일상생활·창작활동·교육분야 활용편도 공개됐다.

/사진=ChatGPT 활용사례 및 활용 팁_업무활용편

보고서는 프롬프트(명령어) 입력으로 챗GPT의 하이퍼파라미터(Hyperparameter) 변수 값을 바꿀 수 있다고 설명한다. 그러나 하이퍼파라미터는 모델 훈련 최적화를 위해 설정하는 변수로 훈련 반복 회수나 가중치 등을 결정하는 것이다. 프롬프트 입력으로 바꿀 수 있는 내용이 아니다. 예시에 등장한 최대길이(max_length)의 경우 챗GPT가 한 번에 생성할 수 있는 분량 내라면 프롬프트로 답변 길이를 조절할 수 있지만, 그 이상은 생성할 수 없다. '라이팅스타일(writing style)'의 경우 보고서·편지·기사 등 프롬프트로 다양한 형태를 요구할 수 있는데 하이퍼파라미터와 관계가 없다. IT업계 관계자는 "백엔드에서 미리 세팅된 값을 어떻게 프롬프트로 변경한다는 건지 알 수 없다"고 지적했다.

/사진=ChatGPT 활용사례 및 활용 팁_업무활용편

보고서의 전문자료 조사 방법에서도 정식 발간된 논문/보고서의 경우 '논문제목 인용구(제목, 저자 등)'를 입력하면 챗GPT가 해당 내용을 요약해 준다고 설명한다. 그러나 실상 2021년 이전에 발간된 논문이어야 하며, 온라인상에 논문 내용이 퍼져있지 않다면 정확한 내용 요약을 받을 수 없다.

한 챗GPT 사용자는 "대부분 오류가 유튜브나 온라인상에 올라온 부정확한 내용을 그대로 담은 경우가 많다"며 "오류 정정 요청을 했고 답변까지 받았으나, 지난 7일 업데이트된 일상생활·창작활동·교육분야 활용편 새 보고서에서도 해당 오류는 수정되지 않았다"고 꼬집었다.

챗GPT로 성급하게 수익화에 나선 사례도 있다. 앞서 지난달 와디즈를 통해 '챗GPT 초고수의 수익화 비법서 전자책' 펀딩이 시작됐으나, 자신들을 '실리콘밸리에서 온 개발자'라고 소개한 메이커들이 실상 실리콘밸리를 며칠간 방문한 것을 과장한 것으로 드러났다. 아울러 챗GPT를 통한 수익화 실현 사례역시 대학에서 받은 창업지원금 사례인 것으로 밝혀져 논란이 됐다. 최근에는 챗GPT를 사칭하는 앱이나 사이트도 폭증하고 있다. 일부에서는 소비자를 현혹한 유료결제나 개인정보 탈취 목적이 의심되고 있다.


IT업계 한 관계자는 "챗GPT가 유행하면서 부정확한 정보가 범람하고 있다"며 "오류에 따른 혼선이나 사기 피해를 보지 않으려면 널리 알려지고 검증된 정보 소스를 택해야한다"고 조언했다.