최적화 된 프롬프트가 무엇일지에 대해서 원리를 기반으로 잘 설명한 사무엘 님의 다시 생각해보는 프롬프트 엔지니어링(Prompt Engineering Revisited) - Part 1 글에서 언급된 것처럼, 최적화된 프롬프트를 만들기 위해서는 키워드 토큰들 간의 문맥적 연관성을 극대화하는 것이 중요합니다.

현재의 GPT 구조에서는 그저 확률적으로 높은 단어를 생성하기 때문에 복잡한 질문을 다루거나 정보를 장기간 유지하는 데 어려움을 겪습니다. 다만, 이미지 생성의 경우, 프롬프트는 주로 생성하고자 하는 주제나 스타일 요소들의 키워드들로 구성됩니다. GPT에서도 주제에 유사한 키워드들을 많이 제공하는 것이 도움이 되지만, 단순히 키워드들만 제공하는 것으로는 문맥적 이해가 부족할 수 있습니다.

그럼에도 불구하고, 키워드 제공이 유용한 대표적인 예시로는 Input이 있습니다. Input의 경우, 길게 설명하기보다는 키워드로 제공하는 것이 좋습니다. 특히 특정 자료가 제공되거나 필요할 때, 다음과 같이 키워드를 제시하는 것이 효과적입니다:

[Input]

• 고객명.txt

• 제품 이름

• 제품 가격

• 제품 생성 연도

Instruction에서의 명령과 별개로 추가로 이렇게 입력한 특정 파일명, 자료의 칼럼이나 요소들을 키워드로 언급해주면, GPT가 파일 등에서 구조를 인식하고 정보를 찾아오는 성능을 높일 수 있습니다. 그리고 Input의 데이터 내용을 가지고 결과물을 생성할 때 누락하는 것을 조금 더 방지 할 수 있습니다.

(개인적으로 실험해 본 부분으로 명확하게 논문으로 증명 된 부분은 아닙니다. 관련 비슷한 내용을 더 자세히 아신다면 알려주세요!)