AI 모델 경쟁은 보통 수학, 코딩, 일반 추론 점수로 설명됩니다. 하지만 고객센터에서는 평가 기준이 다릅니다. 고객 말을 빠르게 알아듣고, 중간에 말을 끊어도 대응하며, 회사 정책 안에서 답하고, 필요할 때 사람에게 넘길 수 있어야 합니다.
PolyAI의 Raven 3.5가 흥미로운 이유도 여기에 있습니다. 이 모델은 “가장 똑똑한 범용 LLM”이 아니라 “고객 응대에 맞춘 LLM”을 전면에 내세웁니다.
Raven 3.5는 무엇인가
Raven 3.5는 PolyAI가 고객서비스용으로 만든 자체 LLM입니다. PolyAI는 논문과 블로그를 통해 Raven 3.5가 자사 고객서비스 벤치마크 4종에서 GPT-5와 Claude Sonnet 4.6을 앞섰다고 밝혔습니다.1
이 벤치마크는 영어 응답 품질, 23개 언어의 다국어 품질, 응답 스타일, 날짜·시간 논리를 봅니다.1 고객센터에서는 단순히 “정답을 아는가”보다 “고객에게 맞는 말투로, 정책에 어긋나지 않게, 지연 없이 응답하는가”가 더 중요하기 때문입니다.
PolyAI 문서에 따르면 PolyAI 에이전트는 전화, 웹챗, SMS에서 고객과 실시간으로 상호작용하는 AI 기반 음성 에이전트입니다.2 따라서 Raven 3.5는 단독 챗봇 모델이라기보다 실제 상담 채널과 운영 흐름 안에서 쓰이는 고객 응대용 모델로 이해하는 편이 맞습니다.
고객센터 AI에서 중요한 운영 조건
고객센터 대화는 예측하기 어렵습니다. 고객은 말을 끊고, 날짜를 모호하게 말하고, 지원 범위를 벗어난 질문을 하며, 내부 정책과 충돌하는 요청을 합니다. 그래서 고객센터용 AI는 모델 성능뿐 아니라 운영 조건을 함께 봐야 합니다.
PolyAI는 Raven 3.5에 자동 추론, 웹챗 지원, 범위 밖 질문 감지, TTS용 감정 태그를 추가했다고 설명합니다.1 전화 상담에서는 특히 지연 시간이 중요합니다. PolyAI는 Raven이 300ms 미만 지연 시간을 유지한다고 주장합니다.1
여기서 중요한 기능 중 하나가 Barge-in입니다. Barge-in은 고객이 에이전트 발화 중 끼어들면 재생을 멈추고 즉시 사용자 입력을 처리하는 기능입니다.2 사람과 통화할 때처럼 자연스럽게 느껴지려면 이런 반응성이 필요합니다.
음성 인식도 핵심입니다. PolyAI의 ASR은 음성을 텍스트로 변환하며, 다국어·억양·산업별 어휘를 지원하도록 최적화됩니다.2 또한 ASR biasing을 통해 특정 단어나 구문을 우선 인식하도록 조정할 수 있습니다.2 고객 이름, 상품명, 지점명처럼 오인식되기 쉬운 단어가 많은 환경에서는 이런 설정이 실제 품질에 큰 영향을 줍니다.
모델보다 중요한 것은 배포 가능한 시스템
Raven 3.5의 의미는 “GPT보다 항상 낫다”가 아닙니다. 더 정확히는 특정 업무에 맞춘 모델과 운영 플랫폼이 범용 LLM보다 유리할 수 있다는 신호입니다.
PolyAI Agent Studio는 AI 에이전트를 설계, 설정, 배포하는 기본 인터페이스입니다. Build, Channels, Configure, Deployments 영역으로 구성되며, 에이전트는 지식, 플로우, 도구, 음성 설정, 배포 환경을 포함하는 독립 프로젝트로 관리됩니다.2
이 구조가 중요한 이유는 고객센터 AI가 단순 답변 생성기가 아니기 때문입니다. 실제 운영에서는 다음 요소가 함께 맞아야 합니다.
어떤 채널에서 응대할 것인가
어떤 언어와 억양을 처리할 것인가
어떤 회사 정책과 지식을 참조할 것인가
어떤 상황에서 사람 상담원에게 넘길 것인가
음성 응답의 속도와 자연스러움을 어떻게 유지할 것인가
지식 연결도 핵심입니다. PolyAI는 웹사이트, PDF, Zendesk 같은 외부 지식 소스를 에이전트에 연결할 수 있으며, RAG 매칭을 위해 연결된 지식 소스를 스크래핑하고 작은 청크로 나눈다고 설명합니다.2 결국 고객센터 AI의 품질은 모델 자체뿐 아니라 지식 관리, 채널 설정, 플로우 설계, 배포 체계에 의해 결정됩니다.
Raven 3.5가 보여주는 평가 기준
PolyAI는 Raven 3.5와 함께 ADK와 PolyPhone이라는 음성 AI 제품 출시도 밝혔다고 설명합니다.1 또한 PolyAI의 음성 에이전트는 음성, 채팅, SMS, 소셜 채널에서 45개 이상 언어를 지원한다고 소개됩니다.1 이는 Raven 3.5가 단순 모델 발표가 아니라 고객 응대 플랫폼 전략 안에 놓여 있다는 점을 보여줍니다.
결국 Raven 3.5가 던지는 질문은 명확합니다.
“어떤 모델이 가장 강한가?”보다 먼저 물어야 할 것은 “우리 고객센터의 채널, 언어, 정책, 지연 시간, 상담 흐름에 맞는가?”입니다.
고객센터 AI를 도입하거나 평가한다면 범용 벤치마크 점수만 볼 것이 아니라 실제 운영 조건을 기준으로 판단해야 합니다. Raven 3.5는 그 기준이 점점 더 업무 특화, 채널 특화, 운영 특화로 이동하고 있음을 보여주는 사례입니다.
1Raven 3.5: The post-training recipe that beats GPT-5 for customer service
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.