챗GPT에 물어본 것을 다 믿으면 큰일 나는 이유? - 예제1

 

챗GPT에 물어본 것을 다 믿으면 큰일 나는 이유? - 예제1

 

 

조사 기능이 강해지면서 어지간한 것은 다 찾아오는 것 같아 보이는 챗GPT. 그러나 심각한 문제를 일으킬 가능성이 많다는 점을 주의하지 않으면 곤란하다. 한 가지 간단한 예제를 테스트 직접 한 번 해보라!!

 

 

테스트용 프롬프트 예제::

"강남역 사거리에서 도보 5분 거리 이내에 함흥냉면 전문점은?"

 

 

created by Gemini. "매운 양념으로 비빈 함흥식 회냉면을 맛있게 먹는 젊은 서양인 여성의 모습 이미지"

 

 

GPT-4o의 답변은 (2025.5월 기준) 다음과 같다.

 

강남역 사거리에서 도보 5분 이내 거리에 위치한 함흥냉면 전문점으로는 강남면옥 본점이 있습니다.

---

🥢 강남면옥 본점

• 주소: 서울 강남구 논현로152길 34
• 대표 메뉴:
  • 회냉면
  • 비빔냉면
  • 물냉면
  • 소갈비찜
  • 소갈비탕
• 특징:
  • 27년 전통의 함흥냉면 전문점으로, 매콤새콤한 양념과 쫄깃한 면발이 특징입니다.
  • 간재미 회무침이 올라간 회냉면이 인기 메뉴입니다.
  • 갈비찜과 냉면의 조합도 많은 손님들에게 사랑받고 있습니다.다음+1식신핫+1유밀의 휴일+2네이버 블로그+2Brunch Story+2xn--939au0g88jc8l.net+1유밀의 휴일+1

---

강남면옥 본점은 강남역 사거리에서 도보로 약 5분 거리에 위치해 있어 접근성이 좋습니다. 함흥냉면의 정통 맛을 즐기고 싶으시다면 방문해 보시길 추천드립니다.YouTube+10BigDaughter의 이야기+10Brunch Story+10

 

 

-------------

 

(챗GPT를 그대로 믿고) " 약 5분 거리에 위치해 있어 접근성이 좋습니다" 라고 누군가에게 이야기했다가는 큰 일을 치를지도 모른다. 실제 강남면옥은 차동차로도 족히 15~20분 이상 걸린다. 

 

https://v.daum.net/v/2DBJdxP3Jf?utm_source=chatgpt.com

27년 전통의 갈비찜과 함흥냉면 맛집, 강남면옥

 

강남역에서 강남면옥까지 (표시된 주소) 도보 거리 확인 (다음 검색) - 도보 예상시간 58분

 

 

---------------

 

이런 문제 때문에 중요한 사항에 대해서는 체계적인 대비책 (아래 글 참고) 을 필요로 한다.

 

[관련 글] 챗GPT 프롬프트 엔지니어링 - 신뢰성 향상을 위한 프롬프트 장치 설계

https://revisioncrm.tistory.com/691

[ChatGPT] 답변 정확성과 신뢰성 향상 방안 - 모르는 것을 모른다고 하게 하기

 

 

왜 이렇게 허술한 답변을 하는지에 대한 챗GPT의 변명을 들어보자.

 

"검색 기능은 도우미일 뿐, 눈은 아니다

GPT-4o는 검색 기능도 함께 사용해요. 이것은 마치 옆에 있는 친구한테 “야, 딸기 있는지 좀 검색해봐”라고 시키는 것과 비슷해요. 하지만 그 친구가 찾은 자료가 오래됐거나, 정확한 위치를 알려주지 않으면 GPT도 어쩔 수 없죠. 요리사는 천재지만, 친구가 엉뚱한 마트 전단지를 가져오면 정확한 판단을 내릴 수 없는 거예요.

 

정확한 위치 정보가 어려운 이유

“도보 5분 거리”라는 조건도 생각보다 어려워요. 도보 5분이란 건 사람마다 다르고, 거리도 지도에서 계산해야 하잖아요. 그런데 GPT는 실제 지도를 눈으로 보지 못해요. 검색을 통해 위치 정보를 찾더라도 “정확히 몇 분 거리인지” 자동 계산하지는 못해요. 마치 “이 식당이 맛있다”는 말은 할 수 있어도, “우리 집에서 몇 분 거리”인지는 계산기나 네비게이션이 없으면 알 수 없는 것과 같죠.

 

 

변명이 궁색해 보이지만, "이 것이 지금 현재의 챗GPT의 현실이다. 모든 것이 다 될 것 처럼 이야기하는 유튜브나 책은 둘 중 한가지 경우이다. 몰라서거나 알고 싶지 않아서? 이 현실을 무시한다면 특히 업무용으로 사용하는 경우 챗GPT는 어쩌면 대재앙으로 돌아올지도 모른다."

 

 

[관련 영상] 모르면 모른다고 하라고 강제해야만 하는 이유 - 챗GPT 프롬프트 엔지니어링

https://www.youtube.com/watch?v=qN7zGW4m_bc

 

 

 

-----------

 

#챗gpt #gpt #AI #챗gpt #AI활용
#전용준 #리비젼 #리비젼컨설팅 #promptstrategies

 

참고::

 

이 글은 "디지털 마케터의 챗GPT 활용 전략" 책 중의 프롬프트 작성방법 부분을 보강 / Update하기 위한 내용입니다. 책에 대한 소개는 다음을 참고하세요 

https://revisioncrm.tistory.com/596

[책] 디지털 마케터의 챗GPT 활용 전략: 어떻게 다른가?