GLiNER2.5-Decide: 생성 대신 구조화된 판단을 수행하는 모델
AI가 항상 긴 답변을 생성할 필요는 없다. 고객 문의를 어느 팀으로 보낼지, 콘텐츠를 차단할지, 사람에게 검토를 넘길지 결정하는 업무에서는 설명 능력보다 빠르고 일관된 판단이 중요하다.
Fastino Labs가 공개한 GLiNER2.5-Decide는 이러한 작업에 특화된 3억 4천만 매개변수 규모의 오픈 웨이트 모델이다. 텍스트와 유형이 지정된 질문 스키마를 입력받아 정해진 선택지 안에서 답을 고르고, 각 답변의 확률 분포와 신뢰도 점수, 제약 조건 충족 가능성 메타데이터를 구조화된 형식으로 반환한다.1
핵심은 여러 판단을 규칙에 맞게 결합하는 것
질문 스키마는 모델이 무엇을 판단하고 어떤 답을 허용할지 정의한다. 각 질문의 출력 형식은 단일 답변, 복수 답변 또는 순서형 값 가운데 하나로 지정할 수 있다. 허용 답변뿐 아니라 지침, 예시, 답변 설명, 질문 간 연결 규칙도 스키마에 포함할 수 있다.1
GLiNER2.5-Decide는 입력 텍스트와 질문 스키마를 하나의 인코더에서 함께 처리한다. 인코더는 질문별로 허용된 모든 답변과 입력 텍스트의 적합도를 계산한다. 토큰을 순차적으로 생성하는 범용 LLM과 달리, 미리 정의된 후보를 직접 평가하는 방식이다.
여기서 중요한 차이는 각 질문의 답을 독립적으로 확정하지 않는다는 점이다. 제약 디코더는 다음과 같은 규칙을 만족하면서 전체 점수가 가장 높은 답변 조합을 탐색한다.1
특정 답변이 다른 답변을 요구하는 함의 규칙
두 답변을 동시에 선택할 수 없게 하는 상호 배제
복수 답변의 선택 개수 제한
순서형 값의 상한과 하한
예를 들어 특정 유해 유형을 탐지하고도 전체 판정을 ‘안전’으로 내리는 식의 모순을 스키마 규칙으로 방지할 수 있다. 즉, 이 모델의 핵심은 개별 분류 정확도뿐 아니라 여러 판단을 서로 일관되게 결합하는 데 있다.
하나의 스키마로 복합 작업 처리하기
GLiNER2.5-Decide는 분류만 수행하는 모델이 아니다. 하나의 스키마에서 엔터티, 관계, 분류, 구조화 레코드를 조합하고 한 번의 순전파로 함께 점수화할 수 있다.1
정보 추출 결과에는 원문에서 추출된 텍스트의 문자 단위 시작·종료 오프셋도 포함할 수 있다. 이를 이용하면 추출 결과를 원문 위치와 연결할 수 있다. 다만 일반 분류 답변에는 판단 근거가 된 텍스트 구간이 반환되지 않으므로, 근거 문장 표시가 필수인 업무에서는 이 차이를 고려해야 한다.1
CPU 실행과 로컬 배포가 주는 실용성
이 모델은 CPU에서 실행되며 Apache 2.0 라이선스로 제공된다. 외부 네트워크가 차단된 에어갭 환경에도 배포할 수 있어, 데이터를 외부 서비스로 보내기 어려운 조직에서도 활용할 수 있다.1
다만 CPU 실행 자체보다 중요한 것은 업무가 모델의 방식에 맞는지다. GLiNER2.5-Decide는 열린 질문에 답하거나 긴 설명을 작성하는 범용 생성 모델이 아니다. 라우팅, 우선순위 결정, 모더레이션, 도구 선택처럼 후보와 규칙을 미리 정의할 수 있는 업무에 적합하다.2
도입 전에 확인할 세 가지
적용 가능성을 판단하려면 다음 질문부터 확인해야 한다.
출력 선택지를 명확하게 정의할 수 있는가?
가능한 답변이 사전에 정해져 있어야 후보별 적합도를 평가할 수 있다.판단 사이의 관계를 규칙으로 표현할 수 있는가?
함의, 상호 배제, 선택 개수, 값의 범위로 업무 규칙을 나타낼 수 있다면 제약 디코더의 이점을 활용할 수 있다.생성형 설명이나 근거 문장이 반드시 필요한가?
구조화된 결정이 목적이라면 적합하지만, 일반 분류 결과에 대한 근거 텍스트가 필요하다면 별도의 설계가 요구된다.
요약: GLiNER2.5-Decide의 가치는 작은 모델 크기만이 아니라, 소프트웨어가 바로 사용할 수 있는 답을 정해진 형식과 규칙에 맞춰 반환하는 데 있다. 후보와 제약을 명확히 정의할 수 있고 반복적인 운영 판단을 로컬 환경에서 자동화하려는 팀이라면 검토할 만하다.
1GLiNER2.5-Decide: An Open-Weight Model for Structured Decision Making
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.