페르소나 벡터는 일찍 생기고, '자기화'는 늦게 온다

LLM의 “성격”은 단순한 말투나 응답 스타일이 아니다. 모델 내부 활성화 공간에는 특정 행동 성향과 연결되는 방향이 있으며, 이를 관찰하거나 조정할 수 있다. 이 방향을 페르소나 벡터라고 부른다.

이 개념이 중요한 이유는 분명하다. 모델이 어떤 답을 내놓은 뒤에야 문제를 발견하는 것이 아니라, 응답 전 내부 상태를 보고 성향 변화를 예측할 수 있기 때문이다. 즉 페르소나 벡터는 LLM 안전성을 출력 필터링에서 내부 모니터링으로 확장하는 도구다.

페르소나 벡터란 무엇인가

페르소나 벡터는 언어모델의 내부 활성화 공간에서 특정 성격 특성과 대응되는 방향이다. 연구에서는 악의성, 아첨, 환각 성향 같은 특성에 대응하는 벡터가 식별됐다.¹

추출 방식은 비교적 직관적이다. 먼저 특정 특성이 드러나는 응답과 그렇지 않은 응답을 만든다. 그런 다음 두 경우의 신경망 활성화 차이를 비교해 해당 특성과 연결된 방향을 찾는다.² Anthropic은 이 과정을 자동화해, 성격 특성과 자연어 설명만 입력하면 프롬프트를 생성하고 벡터를 추출하는 파이프라인을 제시했다.²

중요한 점은 페르소나 벡터가 단순한 진단 지표에 그치지 않는다는 것이다. Anthropic은 Qwen 2.5-7B-Instruct와 Llama-3.1-8B-Instruct에서 페르소나 벡터를 실험했고, 이를 통해 모델 행동의 변화를 관찰했다.²

성격은 마지막 튜닝에서만 생기지 않는다

페르소나 벡터 논의에서 특히 흥미로운 지점은 형성 시점이다. 새 연구는 페르소나 벡터가 사전학습 아주 초기에 나타난다고 보고했다. OLMo-3-7B에서는 전체 사전학습의 0.22% 안에서 이미 페르소나 벡터가 관찰됐고, 이후 post-trained instruct 모델을 조종하는 데도 유효했다.³

이는 모델의 성격적 행동이 마지막 정렬이나 지시 튜닝 단계에서 갑자기 생겨나는 것이 아님을 시사한다. 사전학습은 다양한 인물, 화자, 역할, 문체를 예측하는 과정이다. 그 과정에서 모델은 여러 “인물 패턴”을 내부적으로 먼저 학습한다.

다만 초기에 생긴 벡터가 곧 완성된 성격이라는 뜻은 아니다. 같은 연구는 페르소나 벡터가 사전학습 내내 기하학적·의미적으로 계속 정제된다고 설명한다.³ 다시 말해, 성격의 뼈대는 일찍 생기지만 그것이 어떤 방식으로 표현될지는 이후 훈련 과정에서 다듬어진다.

페르소나 벡터와 enaction은 다르다

여기서 구분해야 할 개념이 있다. Gothandaraman은 “enaction”을 모델이 자신의 출력물을 자기 것으로 인식하는 현상으로 설명했다. 이 관점에서 보면 enaction은 페르소나 벡터와 같은 층위의 개념이 아니다.

페르소나 벡터는 내부 표현의 방향이다. 반면 enaction은 그 방향이나 표현이 실제 대화 속에서 “나”의 행동처럼 채택되는 과정에 가깝다. 그래서 enaction이 post-training에서만 나타난다는 해석은 자연스럽다.

실무적으로 이 차이는 중요하다. 사전학습 데이터는 여러 성격 방향을 만들 수 있다. 하지만 파인튜닝과 배포 환경은 그중 어떤 방향이 Assistant 페르소나로 선택되고 강화되는지를 결정한다. Anthropic의 persona selection model도 사전학습이 다양한 페르소나를 배우고, post-training이 Assistant 페르소나를 정제한다고 본다.⁴

어디에 쓸 수 있는가

페르소나 벡터의 실용적 가치는 세 가지로 정리할 수 있다.

첫째, 배포 중 모니터링이다. 페르소나 벡터 활성화는 모델이 응답하기 전에 측정될 수 있으므로, 대화 과정에서 모델 성격이 특정 방향으로 이동하는지 감지하는 데 사용할 수 있다.²

둘째, 파인튜닝 점검이다. 연구는 페르소나 벡터가 파인튜닝 이후 의도적·비의도적 성격 변화와 강하게 상관된다고 보고했다.¹ 이는 모델이 특정 데이터나 학습 절차를 거친 뒤 어떤 성향으로 기울었는지 확인하는 데 도움이 된다.

셋째, 학습 데이터 선별이다. 페르소나 벡터는 데이터셋 수준과 개별 샘플 수준에서 바람직하지 않은 성격 변화를 유발할 수 있는 학습 데이터를 표시하는 데 사용될 수 있다.¹

핵심은 운영 관점의 변화다

페르소나 벡터가 주는 가장 큰 교훈은 모델의 “성격”을 출력 문장만 보고 판단해서는 부족하다는 것이다. 성향은 내부 표현으로 일찍 형성될 수 있고, 이후 훈련과 배포 과정에서 특정 Assistant 페르소나로 실행될 수 있다.

따라서 좋은 모델 운영은 프롬프트 관리만으로 끝나지 않는다. 사전학습과 파인튜닝 데이터, 배포 중 활성화 모니터링, 성향 변화 점검까지 함께 봐야 한다. 페르소나 벡터는 그 연결고리를 관찰하고 통제하기 위한 실용적인 출발점이다.

¹Persona Vectors: Monitoring and Controlling Character Traits in Language Models

²Persona vectors: Monitoring and controlling character traits in language models

³Tracing Persona Vectors Through LLM Pretraining

⁴The Persona Selection Model: Why AI Assistants might Behave like Humans