尹도 꽂힌 챗GPT, 그런데 정부 업무엔 못쓴다는 이유

머니투데이

배한님 기자

[서울=뉴시스] 홍효식 기자 = 윤석열 대통령이 2일 서울 용산 대통령실 청사에서 열린 국제전자제품박람회(CES) 디지털 기술혁신 기업인과의 오찬 간담회에서 발언하고 있다. (대통령실통신사진기자단) 2023.02.02.

윤석열 대통령이 지난달 말 참모 회의와 각종 부처 업무보고 등에서 AI(인공지능) 챗봇 '챗GPT'를 극찬하며 참모진에 사용법을 익히라고 지시한 것을 알려졌다. 챗GPT를 잘 활용하면 공무원들이 문서 요약 같은 단순 업무에서 벗어나 좋은 행정 업무를 발굴하는 데 집중할 수 있지 않겠냐는 취지에서다.

그러나 결론부터 말하면 챗GPT를 바로 정부 업무에 사용하기는 어렵다. 챗GPT와 같은 AI 서비스는 사용자가 입력한 데이터를 학습에 사용해서다. 학습 데이터로 활용되는데 동의하지 않으면 서비스를 이용할 수 없다.

챗GPT를 운영하는 오픈AI는 FAQ(자주 묻는 질문)에 '대화가 시스템 개선을 위해 AI 트레이너에 의해 검토될 수 있다', '기록에서 특정 프롬프트(명령어)를 삭제할 수 없으니 민감한 정보를 공유하지 말라' 등의 내용을 공지하고 있다. 대통령실 수석들과 비서관들, 일선 공무원들이 업무 내용을 챗GPT에 입력하면 오픈AI의 서버에 정부 업무 내용이 저장되거나 학습될 수 있다. 공무원들이 업무에 챗GPT와 같은 AI 서비스를 사용하고 싶다면 디지털플랫폼정부위원회 등을 통해 자체 서비스를 개발할 수밖에 없다.

/사진=AFP

IT업계 관계자는 "대통령 발언은 기술 트랜드를 익히라는 정도의 의미였겠지만, 만약 누군가 정부 부처에서 다루는 대외비 정보를 입력하면 챗GPT가 이를 어떻게 학습할지, 혹은 어떻게 유출될지 알 수 없다"고 지적했다. 해당 관계자는 "아직 왜곡된 정보를 사실처럼 말하는 '할루시네이션(환각)'이나 편향성 문제도 완전히 해결되지 않았다"고 덧붙였다.

같은 이유로 많은 기업은 타사에서 만든 AI 서비스를 업무에 사용하지 못한다. AI 기술이 아직 초기 단계여서 사용 데이터를 기반으로 한 학습 없이는 빠른 업데이트가 불가능하기 때문이다.

예컨대 네이버(NAVER)의 AI 서비스 '클로바 노트'는 대화를 주제별로 구간을 나눠 핵심 내용을 자동으로 요약해 회의록 작성을 돕는다. 그러나 클로바노트도 AI 학습에 사용자 기록을 활용한다. 300분까지는 학습 활용에 동의하지 않아도 서비스를 이용할 수 있지만, 그 이상 사용 기록은 AI 학습 활용 동의를 반드시 해야한다. AI 언어모델 학습에 사용하지 않는 사용자 기록도 노트를 삭제하거나 서비스를 탈퇴할 때까지는 서버에 계속 보관된다.

실제 대기업 직원인 30대 이 모 씨는 "거의 매일 회의가 있는 데다, 회의도 길어서 외부 AI서비스의 도움을 받고 싶지만, 업무상 기밀 유출 우려로 회사에서 클로바 노트를 못 쓰게 한다"고 토로했다. 또 다른 대기업 직원 정 모 씨도 "회사가 워낙 보안에 민감해서 외부 서비스는 쓸 엄두를 못 낸다"고 했다.