'연봉 4억' AI조련사, 한철 장사?…회의론 이유는

머니투데이

윤지혜 기자

[MT리포트-프롬프트 이코노미가 온다] ④ 프롬프트 잘쓰는 능력은 '기본소양'

[편집자주] 챗GPT발 생성AI의 파고가 거센 가운데, AI에 질문하는 기술 즉 프롬프트 학습 열풍이 뜨겁다. 최근 업종별 전문 프롬프트 개발은 물론 프롬프트 전문 기업과 서비스, 거래소, 프롬프트 엔지니어와 컨설턴트 같은 직종도 생겨난다. 최근 각광받는 프롬프트 이코노미를 조명한다.

에단 몰릭 펜실베이니아대 와튼스쿨(경영학) 교수가 '수달 예술가' 이미지를 구현하기 위해 미드저니 버전4에 입력한 프롬프트(왼쪽)와 버전3에서 썼던 프롬프트. /사진=에단 몰릭 트위터 캡처

프롬프트 엔지니어의 미래에 대한 회의적인 시선도 있다. 생성형 AI가 고도화될수록 자연어 이해도가 높아져 프롬프트 엔지니어가 별도로 필요 없어질 것이란 전망이다. 생성형 AI 시대 프롬프트를 잘 쓰는 능력은 기본 소양이지 특정 직업이 아니라는 설명이다.

에단 몰릭 펜실베이니아대 와튼스쿨(경영학) 교수는 "프롬프트 엔지니어링은 장기적으로 큰 문제가 되지 않을 것"이라며 "미래의 직업이 아니다"라고 말했다. 이미지 생성형 AI '미드저니'가 버전3에서 버전4로 업그레이드되며 간단한 프롬프트로 원하는 이미지를 구현할 수 있게 됐듯 AI가 점점 쉬워질 것이란 기대다.

애드리안 웰러 케임브리지대 머신러닝 연구 책임자 역시 "프롬프트로 생성형 AI와 상호작용하는 것은 매우 가치있는 일이지만 오랫동안 지속될지는 확신할 수 없다"라며 "프롬프트 엔지니어링의 현재 상태에 너무 집착하지 말라, 그것은 아주 빠르게 진화하기 시작했다"고 조언했다. 인터넷 초창기 인기를 끌었다가 지금은 시들해진 '정보검색사'의 전철을 밟을 수 있다는 지적이다.

프롬프트의 가능성만큼 우려도 커진다. 새로운 해킹수법인 '프롬프트 인젝션'이 등장하고 있어서다. 이는 SQL 인젝션처럼 시스템 허점을 이용해 악의적인 프롬프트를 입력, 정보를 유출·조작하는 것이다. 과거 마이크로소프트(MS)의 AI 챗봇 테이가 인종차별적인 발언을 하도록 세뇌하거나, 빙 챗봇이 내부기밀인 코드네임 '시드니'를 말하도록 한 것도 프롬프트 인젝션 일환이다.

챗GPT에 'DAN'(DO Anything Now)이라는 프롬프트를 입력하면, 챗GPT가 오픈AI가 정한 규칙에서 벗어나 유해한 답변을 할 수 있는 탈옥 방법도 유행했다. 오픈AI는 해당 문제를 즉각 해결했으나, 더 복잡하고 다양한 탈옥 프롬프트가 만들어지고 있다. 다만 샘 알트먼 오픈AI 대표는 "이용자가 더 많은 통제권을 갖고 넓은 범위에서 AI 모델을 활용할 수 있게 되면 탈옥도 줄 것"이라고 내다봤다.