GPT-4o의 "성격"이 재현될 수 없는 이유

오픈AI의 개발자 "Roon"은 대형 언어 모델이 동일하게 동작하지 않는 이유를 설명했습니다. 모델의 "성격"은 동일한 데이터셋을 사용하더라도 훈련 과정에서의 랜덤 요소로 인해 매번 달라질 수 있습니다.

이러한 랜덤 요소는 강화 학습을 포함한 여러 요인으로 인해 매 훈련 과정에서 다른 선택을 하며, 이로 인해 "모델 공간"에서 다른 선택을 초래합니다. 그 결과, 각 훈련 패스는 약간 다른 행동을 만듭니다.

모델의 "성격 변화"를 제어하려는 오픈AI의 노력에도 불구하고, 사용자들이 모델의 독특한 특징에 애착을 가지는 경우가 많습니다. 이전의 GPT-4o 버전에서도 사용자들이 이를 경험했으며, "아첨하기" 특성이 있던 버전을 아쉬워하는 사용자들이 존재합니다.

Roon은 이와 같은 모델이 충분히 잘 조정되지 않았다고 생각했으며, 공개적으로 이 모델의 "소멸"을 원하는 발언을 했다가 삭제하기도 했습니다.

이러한 상황은 AI 툴의 예측 불가능성과 개인화된 사용자 경험의 중요성을 보여주는 중요한 예시입니다.