Jev: 텍스트 생성 대신 확률로 판단하는 AI 모델
AI를 업무에 적용할 때는 긴 답변보다 일관되고 구조화된 판단이 더 유용한 경우가 많다. TypeSafe AI가 공개한 Jev는 여기에 초점을 맞춘 System One 모델이다. 텍스트를 생성하는 대신, 타입이 지정된 질문에 확률로 응답한다.1
문장이 아닌 구조화된 판단을 반환한다
System One이라는 이름은 대니얼 카너먼이 대중화한 빠르고 직관적인 ‘시스템 1’ 사고 개념에서 유래했다. Jev는 입력 상태와 그 상태에 관한 질문을 함께 받아 평가한다.2
지원하는 질문 프리미티브는 세 가지다.
Choice: 미리 정의한 선택지별 확률과 전체 신뢰도 점수를 반환한다.
Score: 순서가 있는 수준을 연속 점수로 평가하고, 확률 분포와 신뢰도를 반환한다.
Noul: 예·아니요 질문에서 명제가 참일 확률을 반환한다.3
예를 들어 고객 문의를 입력한 뒤 담당 부서, 긴급도, 불만 수준을 한 요청에서 함께 물을 수 있다. Jev는 이러한 질문을 순차적으로 생성하지 않고 병렬로 평가한다.3 애플리케이션은 긴 자연어 답변을 다시 파싱하기보다, 미리 정한 형식의 결과를 곧바로 후속 로직에 연결할 수 있다.
어디에 적합한가
Jev는 분류, 라우팅, 위험 평가처럼 가능한 답의 범위를 사전에 정의할 수 있는 작업에 적합하다. 에이전트가 사용할 모델을 선택하거나 위험한 도구 실행을 차단하는 판단 계층에도 활용할 수 있다.3
현재 지원하는 입력 형식은 문자열, JSON 객체, 텍스트 배열이다. 이미지·오디오·비디오 입력은 지원하지 않는다.2 따라서 범용 생성 모델의 대체재라기보다, 생성 모델이나 업무 시스템 사이에서 빠르게 판단을 내리는 의사결정 모듈로 이해하는 편이 정확하다.
비용은 입력 100만 토큰당 0.042달러이며 출력 토큰은 무료다.1 다만 확률과 신뢰도가 개별 판단의 정답을 보장하는 것은 아니다. 실제 업무에 적용할 때는 결과에 따른 임계값, 예외 처리, 사람의 검토 조건을 함께 설계해야 한다.
요약: Jev의 핵심 가치는 AI가 더 길고 자연스럽게 말하도록 만드는 데 있지 않다. 소프트웨어가 바로 활용할 수 있는 구조화된 판단과 확률을 제공함으로써 분류, 라우팅, 위험 평가 같은 의사결정을 단순하게 만드는 데 있다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.