Verbalized Sampling: 프롬프트 한 줄로 AI 창의성 2배 높이기

AI의 답변 창의성과 다양성을 극대화하는 프롬프트 기법 'Verbalized Sampling(VS)'이 연구 및 실무에서 큰 효과를 입증받고 있다.

• AI가 비슷한 답변만 반복하는 'mode collapse' 현상은 훈련 과정에서 평균적이고 전형적인 답변이 선호된 결과이다.

• '정렬(Alignment)' 과정에서 AI의 창의성까지 억제되어 평범하고 안전한 답변만 생성된다.

• Verbalized Sampling은 프롬프트로 AI가 자체 확률 분포와 다양한 답변을 함께 생성하도록 지시하는 방법이다.

• 프롬프트 한 줄만 추가하는 것만으로 답변의 창의성과 다양성이 1.6~2.1배 증가한다.

• 예시: "질문에 대해 5개의 답변과 각각의 확률을 알려줘" 등으로 구현 가능하다.

• 확률 임계값을 조정해 파격적 또는 안정적인 답변을 쉽게 유도할 수 있다.

• 오픈소스 툴이 이미 출시됐고, LangChain 등 다양한 프롬프트 워크플로에 바로 적용 가능하다.

• 일부 모델은 확률 추정에 오류가 생기거나 응답 속도가 느려질 수 있음.

• 프롬프트 엔지니어링의 진화로, 창의성 조절과 사용자 맞춤 설정이 쉬워졌다.

• 최신 LLM 활용자라면 즉시 도입해볼 만한 혁신적 프롬프트 기법이다.

출처 및 참고 : 프롬프트 한 줄로 AI 창의성을 2배 높이는 비법, Verbalized Sampling