ChatGPT에게 다시 생각해봐 키워드가 유용한 이유

ChatGPT에게 어떤 질문을 했을 때 틀리는 경우가 있다. 그럴 때 '다시 생각해봐.' 프롬프트를 활용해서 다시 실행하면 효과가 있다. 이전 논문 스터디에서도 이야기 되었다. GPT-4는 그것이 틀렸다는 것을 모른다: 추론 문제에 대한 반복적인 프롬프트 분석

ChatGPT와 같은 LLM은 동일한 연산으로 앞으로만 나아간다. 그렇기 때문에 한 번 생성하기 시작하면 뒤를 돌아볼 수 없다. 이것이 할루시네이션이 생기는 이유이다. ChatGPT는 자신이 틀렸다는 사실을 모른다. (반면에 인간은 사고 도중에 앞뒤로 왔다 갔다하며 틀렸는지 맞는지를 확인할 수 있다.) 그렇기 때문에 이미 결과가 나왔을 때 다시 생각해봐라는 프롬프트가 매우 유용하다. 재사고를 했을 때 맞는 답을 낼 확률이 올라간다. (물론 한계는 있다.)

그 밖에도 '단계별로 생각해봐', '이것은 내 경력에 중요해', '팁을 많이 줄게'라는 프롬프트도 유용하다고 한다 ㅋㅋ 어느 정도 상황을 인식해서 반영할 수 있는 것을 보여주는 사례라고 볼 수 있다.

틀린 답이 나왔을 때는 이 프롬프트를 써보자. 다시 생각해봐.