(초고) 기업의 챗GPT 프롬프트 엔지니어링에 대한 오해와 진실

기업의 챗GPT 프롬프트 엔지니어링에 대한 오해와 진실

            초고: 2023-05-10

            전용준 | 리비젼컨설팅 대표. 경영학 박사.
             "디지털 마케터의 ChatGPT  활용 전략: 실전! 챗GPT 프롬프트 엔지니어링" 공저자

 

프롬프트 엔지니어링이란 무엇인가

인공지능 분야에서 프롬프트 엔지니어링(Prompt Engineering)은 프롬프트를 잘 운용하는 것을 말하며, 프롬프트는 챗GPT 와 같은 생성 AI 의 출력을 지시하는 문구를 가리킨다. 필자가 최근 저서 "디지털 마케터의 ChatGPT 활용전략: 실전! 챗GPT 프롬프트 엔지니어링(김옥기 공저. 위키북스 2023.5)"에서 설명했던 내용을 풀어서 말해본다면 단순히 '명령을 잘 내리고, 적합한 단어와 구문을 사용하는 것'이 프롬프트 엔지니어링의 전부다. 더 좋은 결과를 얻으려면 그렇게 결과를 내라고 지시해야 하지만, ‘좋은 결과를 내라’는 식으로 간단히 말한다고 해결될 일이 아니다. 챗GPT 가 알아듣지 못하기 때문이다. 그래서 알아들을 수 있도록 지시하는 프롬프트 ‘엔지니어링’이 필요하다.
프롬프트 엔지니어링은 AI를 기술적인 측면에서 자세히 아는 사람만 할 수 있다든가, 엔지니어라는 제목이 달려있으니 프로그래머라고 한다든가하는 식의 다양한 오해들이 있다. 프롬프트 엔지니어링에는 그와 오버랩 되는 다양한 작업들이 존재하기 때문이다. 최근에 연봉 수억원이라는 기사들로 혼란을 야기하고 있는 주제이기도한 프롬프트 엔지니어링을 하는 사람 즉, '프롬프트 엔지니어' 역시 그 때문에 다양할 수 있다.
여러 종류 중 하나인 도메인 전문 프롬프트 엔지니어가 특히 기업들의 챗GPT 활용에서는 핵심적으로 필요한 종류다. 그림에서와 같이 AI 프롬프트 엔지니어링은 개발자 관점과 최종사용자 관점이 구별된다. 도메인 전문가들은 특정 도메인(예: 마케팅, 법률, 금융)에 대한 전문 지식을 가지고 있으며 도메인별 프롬프트를 작성하는 것이 주요 업무다. 이들은 자신의 업계 지식과 AI 언어 모델에 대한 이해를 결합하여 해당 도메인에서 정확하고 관련성 있는 응답을 생성하는 프롬프트를 만든다. 

그림: AI 프롬프트 엔지니어링의 범위와 유형

 

다양한 종류의 일들이 프롬프트엔지니어링에 서로 겹치기는 해도 들어있을 수 밖에 없고 또 이들의 조합이거나 새로운 방향으로 진화해갈 수도 있을 것으로 보인다. 프롬프트 엔지니어링에 '엔지니어링(engineering)'이란 단어가 들어있기에 프로그램을 짜는 사람이라거나 공학 전공자라고 생각하는 식의 단편적인 이해는 수정되어야 한다. 언어모델 또는 챗봇을 작동하는 응용 모델 등의 시스템 수준에서 프롬프트를 설계, 수정하기 위한 프롬프트 엔지니어링도 필요하고 동시에 고정된 시스템을 사용하는 최종사용자(예: 전략기획자, 마케터, 품질관리자) 수준에서의 프롬프트를 다듬기 위한 프롬프트 엔지니어링도 필요한 것이다. 
기업에서 마케터들은 마케팅을 더 잘 하기 위해 프롬프트를 다듬어야 한다. 품질관리자들은 품질을 높이기 위해서 또 그렇다. 그들이 트랜스포머의 유형과 버전을 암기하고 시그모이드와 ReLU를 이해할 필요는 없을 수 있다. 수많은 전문 세부 영역별 전문가들이 프롬프트 엔지니어링을 이해하고 업무의 일부로, 일상적으로 수행해야하는 이유다.

기업의 챗GPT 활용 성과를 높이기 위한 프롬프트 엔지니어링

최근까지의 구글 검색추이를 보면 전세계적으로는 챗GPT 관심이 계속 증가하는 양상이다. 하지만 대한민국에서는 4월을 정점으로 관심이 큰 폭 감소하고 있다. 신기함에 많이들 챗GPT를 찾아도 보고 연습 삼아 사용도 해봤지만 한계와 문제점들에 봉착하면서 점차 거품이 줄어드는 것으로 해석된다. 지나치게 과장하는 메시지들이 많았기에 반사적으로 감소도 매우 강하고 크다. 대표적인 문제점으로 지적된 것은 기업이 사용하는 경우 기밀유출 가능성이었고 한국 상황이나 데이터 이해 부족도 국내의 관심을 급감 시킨 요인이다. 하지만 좀 더 근본적인 이유는 그저 챗봇으로는 여전히 신기하지만 그 것을 기업의 본격적인 업무 활용 측면에서 대하려고 하면 체계적이고 전문적인 사용법을 알기 어렵다는 점이다. 그리고 이 대목이 바로 최종사용자의 프롬프트 엔지니어링이 해결해야하는 영역이다.

 

 

 챗GPT와 프롬프트엔지니어링 관심도 증가 추이 (자료: 구글트렌드. 2023.5.11 기준 최근 1년, 가공: 비즈트렌드인터프리터 biz.beys.io)

 

필자 역시 마케팅과 데이터 과학 분야 컨설턴트라는 최종사용자 입장에서 챗GPT를 사용해오면서 전문적이고 유용한 결과(Response 응답)를 얻기 위해서는 많은 노력과 체계적인 접근방식이 필요함을 매일 느끼고 있는 중이다. 실제로 기업 입장에서 전략적 가치가 큰 결과물들을 챗GPT로부터 얻어내는 경험을 기업의 경영진 및 실무자들과 계속 확인하는 중이지만 어떤 프롬프트가 주어져야 더 가치가 큰 결과를 효율적으로 얻을 수 있는가에 대한 실용적 대책을 마련하는 것은 매우 큰 숙제로 풀어가는 중이다.

 

최종사용자 관점의 챗GPT 프롬프트 엔지니어링에 대한 오해와 진실

앞서 설명한 바와 같이 기업이 챗GPT 활용 가치를 극대화하려면 프롬프트 엔지니어링에 대한 관심과 노력은 필수다. 하지만 많은 사람들이 챗GPT 프롬프트 엔지니어링에서 최종사용자 관점과 개발자 관점을 구별하지 못하고 있고 또 최종사용자 관점에 대해서도 많은 다양한 오해들을 가지고 있다. 대표적인 그리고 매우 중요한 오해와 진실을 정리한 것이 다음의 표다. 

 

[표] 최종사용자의 챗GPT 프롬프트 엔지니어링에 대한 오해와 진실(출처: 챗GPT)

[표] 최종사용자의 챗GPT 프롬프트 엔지니어링에 대한 오해와 진실(출처: 챗GPT)

오해(Myth)	진실(Truth)
최종 사용자 수준의 프롬프트 엔지니어링은 광범위한 기술 지식이 필요하다.	일부 기술 지식이 도움이 될 수 있지만, 최종 사용자 수준 프롬프트 엔지니어링은 다양한 사용자에게 접근하기 쉽게 설계되어 있다. 이는 AI의 응답을 안내하는 명확하고 간결하며 구체적인 프롬프트를 작성하는 데 초점을 맞추고 있다. 사용자는 AI의 동작에 대한 기본적인 이해와 약간의 창의력만 있으면 프롬프트를 최적화할 수 있다.
길고 복잡한 프롬프트는 항상 더 나은 AI 응답을 가져온다.	때로는 더 많은 맥락을 제공하면 더 나은 응답을 얻을 수 있지만, 효과적인 프롬프트 엔지니어링의 핵심은 명확성과 특정성(Specificity)이다. 과도하게 복잡하거나 긴 프롬프트는 AI를 혼란스럽게 하거나 관련 없는 응답을 이끌어낼 수 있다. 충분한 맥락을 제공하면서 프롬프트를 간결하게 유지하는 것이 원하는 결과를 얻는 데 중요하다.
AI는 항상 사용자의 의도를 이해하고 최선의 답변을 제공한다.	ChatGPT와 같은 AI 시스템은 때때로 사용자의 의도를 잘못 해석하거나 만족스러운 응답을 제공하지 못할 수 있다. 최종 사용자 수준 프롬프트 엔지니어링은 프롬프트를 지속적으로 개선하여 사용자의 의도와 더 잘 부합하게 하고 AI 응답의 품질을 향상시키는 것이다. 이를 위해 여러 번의 반복과 일정 수준의 인내가 필요할 수 있다.

기업의 챗GPT 활용 성과 극대화를 위한 우선적인 과제 두 가지

기업이 이 챗봇의 활용가치를 최대한 끌어내려면 우선 사용법을 개발하고 훈련시켜야한다. 일종의 특수부대를 기업내에 창설하는 것이 필요하다는 것이다. 기밀유출 방지에 대한 이해와 훈련을 거친, 도메인 특화된 프롬프트 엔지니어링에 능숙한 몇십명의 실무자들이 기업내 전체 활용을 주도해갈 수 있을 것이다. 이 인력들이 꼭 데이터 사이언티스트일 필요는 없고 머신러닝 이해도가 매우 높아야 하는 것도 아니다. 프롬프트 엔지니어링 그 자체에 대한 전문성을 핵심 업무 역량 중 하나로 장착한 사람들이면 충분하다.
또 한가지 중요한 과제는 어떤 용도로 어떤 업무에 챗봇을 사용할 것인지를 체계적으로 계획 및 관리 해야한다는 것이다. 전략적 사안부터 일상적 업무까지 챗GPT로부터 도움받을 수 있는 일들은 무수히 많다. 인사, 재무, 마케팅, 생산 어느 분야에도 이 챗봇을 활용할 일이 있을 것이다. 그 모두들 중에서 전략적 우선순위와 기대효과가 높은 업무를 선별하는 혜안이 요구된다.
- 끝 -