Skip to main content
공개 노트

텍스트 생성 없는 AI의 등장: Liquid AI d1이 바꿀 구조화된 의사결정의 미래

Views 9약 6분생성형 AI 활용
Summary

2026년 9월, Liquid AI는 텍스트를 한 글자씩 생성하는 대신 구조화된 판단과 분류를 전문으로 수행하는 의사결정 모델인 Liquid AI d1을 출시했습니다1. 기존 거대언어모델(LLM)이 문맥을 분석한 뒤 한 단어씩 텍스트나 JSON 규격의 문장을 생성하며 대답했던 것과 달리, Liquid AI d1은 입력된 문맥 정보(State)와 형식화된 질문 세트를 단 한 번 평가하여 고정된 결과 세트에 대한 보정된 확률(Calibrated Probabilities)을 직접 반환합니다12. 이 일련의 처리 과정에서 모델이 새로 생성하는 출력 토큰(Output Tokens)은 언제나 0개입니다123.

이 변화는 AI 기반 백엔드 시스템과 자동화 파이프라인을 설계하는 엔지니어에게 실질적인 운영상 이점을 제공합니다. 사용자 문의의 담당 부서 분류, 서비스 경로 라우팅, 유해성 검증처럼 답의 후보군이 사전에 정의된 작업에도 기존에는 LLM을 호출해 출력 토큰 비용을 지불해야 했습니다. Liquid AI d1은 텍스트 생성 과정을 생략함으로써 출력 토큰에 비례해 증가하던 지연 시간을 예측 가능한 수준으로 낮추고, 출력 토큰 생성 비용 부담을 구조적으로 제거합니다23.

텍스트 생성 없는 구조화 판단: Liquid AI d1의 작동 원리와 핵심 변화

기존 LLM을 활용해 텍스트 분류나 점수 산출 같은 구조화된 의사결정을 수행할 때는 몇 가지 한계가 존재했습니다. 개발자들은 원하는 형식을 얻기 위해 Pydantic 스키마, JSON 모드, Enum 제약 조건을 프롬프트에 포함해 LLM을 호출했습니다3. 그러나 텍스트를 토큰 단위로 순차 생성하는 LLM의 특성상, 잘못된 JSON 형식이 반환되거나 스키마 범위를 벗어난 값이 출력되는 스키마 오류(Schema Errors)의 위험을 완전히 없애기는 어려웠습니다3.

또한 LLM이 출력하는 결과는 통계적으로 검증된 확률이 아니며, 응답의 확신도(Confidence) 또한 모델의 자체 보고에 의존하므로 정밀한 임계값 설정에 활용하기에 한계가 있었습니다3. 단어 하나를 출력할 때마다 토큰 비용이 청구되고, 답변 길이가 길어질수록 응답 지연이 늘어나는 구조 역시 시스템 효율을 떨어뜨리는 요인이었습니다3.

Liquid AI d1은 입력된 문맥에 대해 질문 유형별 확률 분포를 직접 계산하는 방식으로 작동합니다2. 답변의 형식을 세 가지 질문 유형으로 명확히 규정하여 모델 응답에서 스키마 오류가 발생하지 않으며, 반환되는 값은 항상 질문 유형의 형식을 준수합니다3. 생성 토큰 수가 0개이므로 응답 속도가 일정하게 유지되고, 질문에 대한 확률 값이 직접 반환되어 조건별 분기 로직을 정밀하게 구성할 수 있습니다23.

의사결정 형태에 맞춘 세 가지 질문 프리미티브: Noul, Choice, Score

Liquid AI d1에 질문을 전달할 때는 코드에서 필요한 답변의 구조에 맞춰 세 가지 질문 유형(Primitive) 중 하나를 선택합니다2.

첫째, Noul은 예/아니오로 답할 수 있는 이진 질문 유형입니다2. Noul은 단순한 참/거짓 대신 0과 1 사이의 실수를 반환하여 연속적인 스케일 위의 부울(Boolean) 값처럼 작동합니다2. 예를 들어 메시지의 개인정보 포함 여부를 물었을 때 0.92가 반환된다면, 예(Yes)일 확률이 92%임을 의미합니다2. 만약 Noul 값이 0.5라면 이는 예와 아니오 사이의 최대 불확실성을 나타냅니다2. 개발자는 이 확률 수치에 임계값(Threshold)을 적용해 자동 승인, 자동 차단, 또는 인간 검수 단계로 분기하는 로직을 작성할 수 있습니다3.

둘째, Choice는 여러 후보 중 하나를 선택하는 다중 선택 질문 유형입니다2. 순서가 없는 범주 중 적절한 항목을 찾을 때 사용되며, 가장 높은 확률의 선택지와 함께 전체 후보 옵션에 대한 확률 분포 및 신뢰도(Confidence) 수치를 반환합니다23. 예를 들어 1위 선택지의 확률이 높지 않고 2위 후보와의 격차가 미미한 경우, 시스템은 해당 건을 인간 상담사나 고성능 LLM으로 안전하게 넘기는 예외 처리 로직을 구현할 수 있습니다3.

셋째, Score는 순서가 지정된 기준(Ordered Rubric)에 따라 단계를 평가하는 질문 유형입니다2. 버그 심각도나 고객 요청의 긴급도처럼 단계별 평가가 필요할 때 쓰입니다2. Score는 각 평가 단계별 확률 분포를 계산한 뒤, 확률 가중치가 반영된 최종 위치 점수를 계산해 반환합니다2. 단순 범주 구분을 넘어 정도나 강도를 수치화해야 하는 경우에 적합합니다2.

질문 유형평가 방식반환 데이터 형태주요 활용 예시
Noul예/아니오 이진 판정0과 1 사이의 단일 확률값스팸 여부 검증, 유해 콘텐츠 차단, 개인정보 포함 판정
Choice순서 없는 후보군 중 단일 선택전체 선택지별 확률 분포 및 신뢰도 수치고객 문의 담당 부서 지정, 요청 난이도별 모델 라우팅
Score순서가 지정된 기준에 따른 단계 평가확률 가중치가 적용된 연속형 점수버그 심각도 측정, 지원 요청의 긴급도 평가

단일 API 호출 구조와 스펙 및 실무 적용 조건

Liquid AI d1 모델은 단 한 번의 API 호출(Single Call) 내에서 바탕 데이터인 문맥(State)과 하나 이상의 질문(Questions)을 동시에 병렬 평가합니다23.

API 요청 시 전달하는 세 가지 핵심 요소는 사용할 'Model', 평가 대상인 'State'(텍스트 메시지, 이메일, 시스템 로그, JSON 객체 등), 그리고 검증하고자 하는 하나 이상의 형식화된 'Questions' 세트입니다2. 모델은 각 질문에 대한 확률 계산 결과를 모아 한 번의 응답 데이터로 반환합니다23.

Vercel AI Gateway에 등록된 사양 기준, Liquid AI d1의 주요 스펙은 다음과 같습니다4.

  • 모델 식별자: liquid/d1 (Liquid AI API에서는 d1:free 등 제공)24

  • 컨텍스트 윈도우: 32,000 토큰4

  • 최대 출력 토큰: 0개4

  • 응답 방식: TypeSafe 호환 API를 통한 구조화된 확률 데이터 반환24

입력 컨텍스트 윈도우가 32,000 토큰에 달하므로 긴 이메일 스레드나 시스템 로그 전체를 State에 전달하고 여러 질문을 동시에 평가할 수 있습니다24. 처리 속도와 비용 구조는 이용하는 인프라 플랫폼 및 제공자의 요금제에 따라 달라지므로 도입 시 공식 Pricing 사양을 확인해야 합니다4.

시스템 전환 판단 기준: LLM 유지 영역과 Liquid AI d1 이관 영역

모든 AI 작업에 Liquid AI d1이 적합한 것은 아닙니다. 구축하고자 하는 기능의 성격에 따라 기존 generative LLM을 유지할지, Liquid AI d1으로 전환할지 결정해야 합니다3.

기존 LLM을 유지해야 하는 작업:

  • 새로운 콘텐츠 생성: 이메일 작성, 문서 요약, 보고서 작성, 소스코드 생성3

  • 개방형 질의응답: 자연어로 대답해야 하는 자유 형식 질문 답변3

  • 다중 턴 대화: 대화 맥락을 계속 이어나가야 하는 챗봇 및 코파일럿3

  • 복잡한 추론 과정: 다단계 논리 연산, 수학적 계산, 에이전트의 실행 계획 수립3

Liquid AI d1으로 전환을 권장하는 작업:

  • 텍스트 분류(Classification): 사전에 카테고리가 정해진 분기 작업3

  • 요청 라우팅(Routing): 프롬프트 복잡도나 요청 유형에 따른 처리 주체 선정3

  • 이진 판정(Binary Decision): 참/거짓 또는 승인/거절 조건 검사3

  • 점수 산출(Scoring): 긴급도, 위험도, 사용자 불만도 등의 단계별 수치 평가3

  • 검색 결과 재순위화(Reranking): 검색된 문서의 연관성을 Noul이나 Score로 평가하여 필터링3

전환 여부를 판단하는 핵심 기준은 "답변이 사전에 정의된 N개의 선택지 중 하나인가, 아니면 모델이 새로 문장을 조합해야 하는가?" 입니다3. 답의 후보군이 고정되어 있다면 Liquid AI d1을 도입하여 출력 토큰 비용을 없애고, 스키마 오류 없는 안정적인 판정 파이프라인을 구축할 수 있습니다23. 도입 전 기존 프롬프트의 분류 로직이 고정된 선택지 구조로 명확히 정의될 수 있는지 먼저 검토하는 것이 좋습니다3.

참고

1Liquid AI Releases d1: A Decision Model That Returns Calibrated Probabilities With Zero Output Tokens

2Decision Models Documentation

3Decision Model Guide

4Vercel AI Gateway Model Details

이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.

틸노트는 사용자가 AI를 활용해 노트를 쉽게 작성하거나 편집할 수 있는 서비스입니다.

AI 스퀘어 단톡방에 함께해요

AI 활용과 틸노트 사용 팁을 나누는 오픈채팅방입니다. 입장 비밀번호는 tilnote입니다.

참여하기