[ChatGPT] 비지니스 상황에서 CoT, ToT가 실효성이 있을까?

[ChatGPT] 비지니스 상황에서 CoT, ToT가 실효성이 있을까?

 

챗GPT와 같은 언어모델기반의 생성형AI를 사용하는데 있어서 프롬프트 엔지니어링의 중요성이 매우 강조되고 있다. 잘 다듬어진 프롬프트로 어떻게 답을 얻을 것인지에 따라 결과가 완전히 다르다고 생각해서이다. 그래서 더 우수한 고급 기법을 개발하기 위한 노력과 연구도 매우 활발하다. 그러나, 문제의 종류에 따라서 그리고 어떤 상황과 환경에서 생성형AI를 사용하는가에 따라 그 가치가 상당히 큰 차이가 있지는 않을까?

 

An AI robot in a modern office, deeply contemplating in a minimalistic setting. The painting style is a fusion of classic and impressionism, with oil painting techniques on canvas. The robot, sleek and humanoid, sits at a bare desk in a simple office with clean lines and large windows. The brushstrokes are soft and abstract, characteristic of impressionism, while maintaining a minimalistic approach to the environment. The focus is on the robot's posture, with one hand resting on its chin, lost in thought. The mood is introspective and calm, with warm, diffused lighting.

 

특히 "비즈니스 프롬프트 엔지니어링" 상황과 맥락이라면, 그리고 조사(검색) 기능을 포함한 ChatGPT와 같은 챗봇 환경에서 사용하는 경우라면, 게다가 조사(검색) 기능이 있고 적극 활용되지만 결과의 완전성이 상당히 미흡하다는 현실적 조건을 전제로 한다면, 고급 프롬프트 엔지니어링 기법으로 인해 더 좋은 답을 얻을 수 있는 가능성이 작거나 극단적으로는 없거나 더 나쁜 답을 얻게 되지는 않을지 생각해본다.

 

CoT와 ToT의 특성과 한계

고급 프롬프트 엔지니어링 기법, 특히 CoT와 ToT는 다단계 검토가 필요한 복잡한 문제 해결에 적합하지만, 이 기법들의 성공은 사용되는 데이터의 질과 완전성에 의존한다. 특히 검색 결과의 완전성이 떨어지고, 문제의 여러 부분을 나눠 각각 조사해야 하는 상황에서는 고급 기법이 비효율적이거나 부정확한 결론을 초래할 가능성이 높다.

CoT (Chain of Thought) 기법

CoT는 문제를 단계적으로 분해하고 각 단계를 차례로 해결하는 방식이다. 이는 논리적으로 명확한 문제를 해결하는 데 효과적이지만, 각 단계에서 사용하는 정보가 불완전하거나 잘못되면 이후 단계의 결론도 오류를 포함할 수 있다. 이런 성질 때문에 흔히 수학적 논리 전개와 같은 예제에 적용된다.

그러나, 비즈니스 문제 상황, 예를 들어, 시장 진출 전략을 세우는 상황은 많은 최신 동향 정보에 의존하므로, 이 상황에서 각 단계마다 검색 결과가 불충분할 경우, 잘못된 정보가 쌓여 최종 결론에 치명적인 영향을 줄 수 있다. 각 단계에서 발생한 오류는 고급 분석 과정에서 더욱 증폭될 위험이 있다.

ToT (Tree of Thought) 기법

ToT는 여러 가지 경로를 동시에 탐색하는 방식으로 문제를 해결하려 한다. 이는 복잡한 비즈니스 문제에서 여러 변수를 동시에 고려할 수 있어 장점이 있다. 하지만 검색 결과가 불완전할 경우, 여러 경로 중 일부는 잘못된 데이터를 기반으로 하게 된다. 특히 비즈니스 문제는 각 경로가 상호 연결되어 있기 때문에, 하나의 잘못된 경로가 전체 분석의 품질에 부정적 영향을 미칠 수 있다.

제품 출시 전략에서 각 변수(예: 가격, 경쟁사 분석, 고객 선호도)에 대한 부분적인 조사 결과를 종합할 때, 일부 변수가 잘못되거나 누락되면 ToT 기법을 통해 여러 경로를 탐색하더라도 최적의 결론에 도달하기 어렵다.

 

단순한 방식의 장점

그렇다면 오히려 고급 프롬프트 엔지니어링 기법을 적용하는 대신 단순한 방식으로 접근하는 것이 더 나은 것은 아닐까? 단순한 방식은 문제를 복잡하게 나누지 않고 직접적이고 간결한 방식으로 해결을 시도한다. 각 문제를 개별적으로 해결하고, 복잡한 논리나 다단계 사고를 최소화함으로써 검색 결과가 불완전한 상황에서도 오히려 안정적인 결과를 도출할 수 있다.

부분 조사 결과의 단순 종합

조사 결과가 각 문제의 부분별로 제공되는 경우, 각 부분의 불완전성을 개별적으로 인식하고 이를 종합하는 단순한 방식이 더 실용적일 수 있다. 예를 들어, 경쟁사 분석을 통해 각 경쟁사의 강점과 약점을 간단히 비교하고, 해당 정보를 그대로 결론으로 사용하는 방식은 검색 결과가 부족하더라도 상대적으로 안전하다.

복잡성 관리

단순한 방식은 복잡성을 줄이는 것이 목적이므로, 각 조사 결과를 비교적 독립적으로 취급하고 그것을 직접적인 결론으로 연결하기 때문에 불완전한 데이터로부터 발생하는 위험이 적을 수 있다. 특히 비즈니스 의사결정에서 불완전한 정보는 리스크로 작용하므로, 복잡한 논리 구조에 의존하기보다 단순화된 해결책이 더 유리할 수 있다.

 

현실적 조건에서의 선택 기준 - 챗GPT를 사용하는 상황에서

"비즈니스 프롬프트 엔지니어링" 상황과 맥락이라면, 그리고 조사(검색) 기능을 포함한 ChatGPT와 같은 챗봇 환경에서 사용하는 경우라면, 게다가 조사(검색) 기능이 있고 적극 활용되지만 결과의 완전성이 상당히 미흡하다는 현실적 조건을 전제로 한다면, 이 상황에서는 단순한 방식에 더 집중하는 것이 적합할 가능성이 크다. 

정보의 불완전성에 대한 대응력

고급 프롬프트 기법(CoT, ToT)은 정보를 단계적으로 깊이 분석하거나 다양한 경로를 동시에 탐색하는 방식으로 매우 유용하지만, 이러한 기법은 정보의 질이 떨어질 때 위험성이 높아진다. 반면 단순한 방식은 조사 결과의 불완전성을 최소한의 변수를 고려하여 대응할 수 있다.

정보 결합의 직관성

각 조사 결과를 종합하는 과정에서 고급 기법은 복잡한 상관관계를 계산하고 최적의 경로를 찾으려고 한다. 하지만 정보의 불완전성이 클 경우, 과도한 분석이 오히려 잘못된 결론으로 이어질 수 있다. 단순한 방식은 각 정보의 신뢰성을 직관적으로 평가하고, 중요한 요소를 중심으로 결합하는 접근이 더 효과적일 수 있다.

속도와 신속성

비즈니스 상황에서는 빠른 의사결정이 중요하다. 고급 프롬프트 기법은 문제를 철저히 분석하는 데 유리하지만, 그 과정이 복잡하고 시간이 걸릴 수 있다. 반면, 단순한 방식은 빠르게 결론을 도출하는 데 더 적합하다. 검색 결과를 빠르게 취합해 문제 해결에 바로 적용할 수 있는 장점이 있다.[주석1 참고]

 

 

비즈니스 프롬프트 엔지니어링에서 조사(검색) 기능을 적극 활용하지만 그 결과가 불완전할 때는 단순한 방식에 집중하는 것이 더 바람직할 가능성이 높아 보인다. (물론, 특정한 문제와 특정한 상황에 따라 이 역시 어느 정도는 차이가 날 수 있을 것이다. 예를 들어 ChatGPT의 검색기능이 여전히 부족하더라도 현재 보다는 조금 더 나아진다면 그에 따라 영향 받을 것이다) 고급 프롬프트 엔지니어링 기법(CoT, ToT)은 정보를 깊이 분석하는 데 유리하나, 정보가 불충분하거나 잘못된 경우 오히려 문제를 복잡하게 만들 수 있다. 단순한 방식은 정보의 불완전성을 빠르게 인지하고 처리할 수 있으며, 빠른 의사결정과 직관적 판단을 중시하는 비즈니스 문제에서 더 실용적일 수 있다.

 

 

[주석1]

시간적 긴급성이 매우 중요한 경우(금융 트레이딩, 실시간 고객 서비스 등)에서는 1초와 10초의 차이가 실질적으로 중요해서 단순한 방식의 신속한 응답이 더 바람직하다. 그러나 전략적 분석이나 심층적인 의사결정에서는 이 정도의 차이가 실제로 큰 의미가 없을 수 있다. 정확성이나 심층적 분석이 더 중요한 경우에는 고급 기법의 적용이 더 유리할 수 있으며, 이러한 차이는 신뢰도와 결과 품질을 높이는 데 기여할 수 있다. 결국 문제의 특성과 비즈니스 환경에 따라 이 시간 차이는 중요한 역할을 할 수도 있고, 무시해도 될 정도로 작은 차이일 수도 있다.

 

 

 

 

-----------

 

#챗gpt #gpt #AI #챗gpt #AI활용
#전용준 #리비젼 #리비젼컨설팅 #promptstrategies

 

 

 

 

 

참고::

 

이 글은 "디지털 마케터의 챗GPT 활용 전략" 책의 프롬프트 엔지니어링 섹션을 보강 Update하기 위한 내용입니다. 책에 대한 소개는 다음을 참고하세요 

https://revisioncrm.tistory.com/596

[책] 디지털 마케터의 챗GPT 활용 전략: 어떻게 다른가?

 

 

 

[관련영상] 답이 마음에 안들면 반복해서 시키면 더 나은 답변을 줄까?

https://www.youtube.com/watch?v=-kadatIIZYY&t=3s

 

 

[관련영상] 답을 찾지 못할 것 같다면 못찾겠다고 미리 이야기하도록 한다면?

https://www.youtube.com/watch?v=qN7zGW4m_bc&t=405s

 

 

 

 

* by promptStrategies, 전용준. 리비젼컨설팅 https://revisioncrm.tistory.com/182 

+82-2-415-7650