더 큰 모델의 시대에서 더 잘 생각하는 모델의 시대로
AI 경쟁을 설명하는 가장 쉬운 문장은 오랫동안 "더 크게, 더 많이, 더 비싸게"였다. 더 많은 데이터로 학습하고, 더 많은 파라미터를 갖고, 더 큰 GPU 클러스터에서 돌리는 모델이 더 좋은 답을 냈다. 이 공식은 틀리지 않았다. 하지만 2025년을 지나 2026년에 들어서며 이 공식만으로는 AI 시장을 설명하기 어려워졌다.
이제 중요한 질문은 "가장 큰 모델이 무엇인가"가 아니라 "이 문제에 얼마만큼 생각하게 할 것인가"로 바뀌고 있다. 쉬운 질문에는 빠르고 싼 모델을 쓰고, 복잡한 문제에는 조금 더 오래 생각하는 모델을 쓰며, 정말 중요한 의사결정에는 비용을 더 내고 깊게 추론하는 모델을 쓰는 방식이다. AI가 하나의 거대한 두뇌라기보다, 여러 종류의 두뇌를 상황에 맞게 조합하는 시스템으로 바뀌고 있는 셈이다.
이 변화의 중심에 추론 모델이 있다. 추론 모델은 단순히 문장을 자연스럽게 이어 쓰는 데서 멈추지 않고, 문제를 쪼개고, 가설을 세우고, 중간 결과를 점검하고, 필요하면 다른 경로를 탐색하도록 훈련된 모델을 말한다. 수학 문제를 풀 때 답부터 찍지 않고 식을 세우는 학생, 코드를 고칠 때 오류 메시지와 주변 맥락을 함께 보는 개발자, 복잡한 계획을 만들 때 "만약 이 단계가 실패하면?"을 생각하는 기획자에 가깝다.
OpenAI가 o1 계열을 공개하며 강조한 변화도 바로 여기에 있었다. o1은 강화학습을 통해 생각의 과정을 더 생산적으로 사용하도록 훈련되었고, 더 많은 강화학습과 더 긴 추론 시간, 즉 테스트 시점의 계산량이 성능 향상으로 이어질 수 있음을 보여주었다1. 여기서 테스트 시점이란 모델이 이미 학습을 끝낸 뒤 실제 질문에 답하는 순간을 뜻한다. 과거에는 학습 단계에서 대부분의 승부가 났다면, 이제는 답변을 생성하는 순간에 얼마만큼 계산을 더 쓸 것인가도 중요한 경쟁 축이 된 것이다.
추론 모델은 무엇을 다르게 하는가
일반적인 언어 모델은 다음에 올 가능성이 높은 토큰을 예측하는 방식으로 작동한다. 토큰은 단어보다 조금 작은 텍스트 조각이라고 이해하면 된다. 이 방식만으로도 글쓰기, 요약, 번역, 질의응답 같은 작업에서는 놀라운 결과를 냈다. 하지만 수학, 코딩, 다단계 계획처럼 중간 판단이 중요한 작업에서는 약점이 드러났다.
예를 들어 고객 데이터를 분석해 "이탈 위험이 높은 고객군을 찾고, 그 이유를 설명하고, 다음 달 캠페인 계획까지 제안하라"는 요청을 생각해보자. 이 작업은 단순 요약이 아니다. 데이터를 이해하고, 변수 간 관계를 살피고, 가설을 만들고, 비즈니스 목표에 맞게 실행안을 구성해야 한다. 중간 단계 중 하나가 틀리면 최종 답변도 그럴듯하지만 잘못된 방향으로 흘러간다.
추론 모델은 이런 문제에서 답변을 곧장 내놓기보다 내부적으로 더 많은 계산을 사용한다. 사람 눈에는 최종 답변만 보이더라도, 모델 내부에서는 여러 후보 경로가 생성되고 비교되며, 오류를 줄이려는 과정이 일어난다. 이 때문에 추론 모델은 일반 모델보다 느리고 비쌀 수 있다. 하지만 난도가 높은 문제에서는 그 추가 비용이 정확도 향상으로 돌아온다.
중요한 점은 추론이 마법이 아니라 계산 방식의 변화라는 사실이다. 모델이 갑자기 인간처럼 의식을 갖게 된 것이 아니다. 대신 어려운 문제를 한 번에 맞히려 하지 않고, 더 긴 계산 경로를 사용해 답의 품질을 높이는 방향으로 설계되고 훈련된 것이다. 독자가 엑셀에서 복잡한 계산식을 한 번에 머릿속으로 풀지 않고, 중간 셀을 만들어 검산하는 것과 비슷하다.
이 방식은 특히 세 영역에서 강한 효과를 냈다. 첫째는 수학이다. 수학은 최종 답이 명확하고, 중간 논리의 일관성이 성능을 좌우한다. 둘째는 코딩이다. 코드는 실행해볼 수 있고, 테스트를 통과하는지 확인할 수 있다. 셋째는 다단계 계획이다. 계획은 각 단계가 서로 영향을 주기 때문에 단순한 문장 생성보다 구조적인 검토가 필요하다.
RLHF에서 RLVR로: 보상의 기준이 바뀐다
생성형 AI 초기의 중요한 기술 중 하나는 RLHF였다. RLHF는 Reinforcement Learning from Human Feedback의 약자로, 사람의 피드백을 활용한 강화학습을 뜻한다. 모델이 여러 답변을 만들면 사람이 더 좋은 답변을 고르고, 그 선호를 바탕으로 모델을 조정하는 방식이다. 이 방법은 모델을 더 친절하고 안전하며 사용자가 원하는 방식으로 답하게 만드는 데 큰 역할을 했다.
하지만 RLHF에는 병목이 있다. 사람의 평가가 필요하기 때문이다. 특히 수학이나 코딩처럼 정답이 분명한 영역에서 매번 사람이 "이 풀이가 맞는가"를 판단하도록 하는 것은 비효율적이다. 더구나 사람은 답변의 말투에는 민감하지만, 긴 추론 과정의 아주 작은 오류를 놓칠 수 있다. 겉보기에는 논리적인데 실제로는 틀린 풀이가 높은 평가를 받을 위험도 있다.
여기서 RLVR이 부상한다. RLVR은 Reinforcement Learning with Verifiable Rewards, 즉 검증 가능한 보상 기반 강화학습이다. 핵심은 사람이 매번 판단하지 않아도 정답 여부를 확인할 수 있는 문제를 활용한다는 데 있다. 수학 문제는 최종 숫자가 맞는지 확인할 수 있고, 코드는 테스트 케이스를 통과하는지 확인할 수 있다. 논리 퍼즐이나 형식 검증 문제도 규칙 기반으로 채점할 수 있다.
DeepSeek-R1 계열은 이 흐름을 상징적으로 보여준 사례다. DeepSeek-R1-Zero는 수학, 코딩, 논리 추론처럼 검증 가능한 과제에서 최종 답의 정확성과 형식 같은 규칙 기반 보상을 활용해 강화학습을 수행했고, 학습이 진행되면서 더 긴 사고 과정, 자기 점검, 대안 탐색 같은 행동이 나타났다2. 별도로 사람이 모든 풀이 과정을 가르치지 않아도, "맞히면 보상"이라는 환경 속에서 모델이 더 나은 풀이 전략을 찾아간 것이다.
RLVR이 중요한 이유는 AI 훈련의 병목을 바꾸기 때문이다. 과거에는 좋은 답변을 얻기 위해 사람이 예시를 만들고 평가하는 일이 핵심이었다. 이제 검증 가능한 영역에서는 자동 채점기가 훈련의 핵심 인프라가 된다. 코딩에서는 단위 테스트와 실행 결과가, 수학에서는 정답 검증기가, 데이터 분석에서는 쿼리 결과나 제약 조건 충족 여부가 보상의 원천이 된다. RLVR 연구는 최종 답의 정오만으로도 수학과 코딩에서 모델의 추론 한계를 확장할 수 있음을 보여주고 있다3.
물론 RLVR이 모든 문제를 해결하지는 않는다. "이 광고 문구가 브랜드에 맞는가", "이 전략이 우리 조직 문화에 적합한가", "이 답변이 고객에게 신뢰를 주는가" 같은 문제는 자동으로 정답을 매기기 어렵다. 그래서 미래의 학습은 RLHF와 RLVR 중 하나가 다른 하나를 완전히 대체하는 방식이 아니라, 서로 다른 역할을 맡는 방향으로 갈 가능성이 크다. 사람은 가치, 선호, 안전, 맥락을 평가하고, 검증기는 정답, 실행, 규칙 준수를 평가한다.
생각에도 요금표가 붙는다
추론 모델이 강력해질수록 기업이 마주하는 질문은 단순해진다. "얼마나 정확한가?"가 아니라 "그 정확도에 얼마를 낼 것인가?"이다. 추론은 공짜가 아니다. 모델이 더 오래 생각하면 더 많은 계산 자원을 쓰고, 더 많은 지연 시간이 발생하며, 더 많은 비용이 든다.
이제 AI 비용은 단순히 입력 토큰과 출력 토큰의 가격만으로 설명되지 않는다. 특히 추론 모델에서는 내부 사고에 사용되는 계산, 긴 출력, 반복 호출, 도구 사용, 검증 단계가 모두 비용에 영향을 준다. 사용자가 보기에는 "보고서 하나 써줘"라는 한 문장이지만, 실제 시스템 안에서는 검색, 문서 읽기, 요약, 계획 수립, 초안 작성, 검토, 수정이 여러 번 이어질 수 있다. AI 에이전트가 등장하면 이 구조는 더욱 복잡해진다.
그래서 2026년의 모델 경제학에서 중요한 단위는 "토큰당 가격"보다 "작업당 총비용"이다. 같은 1,000토큰 답변이라도 어떤 모델을 썼는지, 몇 번 호출했는지, 얼마나 긴 문맥을 넣었는지, 내부 추론을 얼마나 허용했는지에 따라 비용은 크게 달라진다. Epoch AI는 최근 몇 년 사이 특정 벤치마크 성능을 달성하는 데 필요한 LLM 추론 가격이 빠르게 하락했지만, 그 하락 속도는 과제와 성능 기준에 따라 크게 다르다고 분석했다4. 지능의 가격은 내려가고 있지만, 모든 종류의 지능이 같은 속도로 싸지는 것은 아니다.
이 때문에 기업은 AI를 도입할 때 다음과 같은 계산을 해야 한다.
이 작업은 빠른 답변이 중요한가, 아니면 정확한 답변이 중요한가
틀렸을 때 손실이 큰가, 아니면 사람이 쉽게 수정할 수 있는가
하루에 몇 번 실행되는 고빈도 작업인가, 아니면 가끔 발생하는 고가치 작업인가
긴 문서 전체가 필요한가, 아니면 관련 부분만 넣어도 되는가
최고 성능 모델이 필요한가, 아니면 작은 모델을 조정해도 충분한가
여기서 등장하는 개념이 적응형 추론이다. 적응형 추론은 모든 질문에 같은 깊이로 생각하지 않는 방식이다. 사람이 "내일 날씨 어때?"라는 질문과 "우리 회사의 3년 투자 전략을 검토해줘"라는 질문에 같은 시간을 쓰지 않는 것처럼, AI 시스템도 문제의 난도와 위험도에 따라 생각의 깊이를 조절한다.
일부 모델과 플랫폼은 thinking level, reasoning effort, extended thinking 같은 이름으로 사용자가 추론 강도를 조절할 수 있게 한다. 낮은 수준은 빠르고 싸지만 복잡한 문제에서 실수할 수 있다. 높은 수준은 느리고 비싸지만 수학, 코딩, 계획, 분석에서 더 나은 결과를 기대할 수 있다. 결국 모델 선택은 자동차의 기어를 바꾸는 일과 비슷해진다. 골목길에서는 저속 기어가 맞고, 고속도로에서는 높은 기어가 필요하다.
모델 라우팅: 좋은 AI 시스템은 한 모델만 쓰지 않는다
기업이 추론 비용을 관리하는 가장 현실적인 방법은 모델 라우팅이다. 모델 라우팅은 들어온 요청을 보고 적절한 모델로 보내는 구조다. 간단한 분류, 짧은 요약, 형식 변환은 저렴하고 빠른 모델이 처리한다. 복잡한 법률 검토, 코드 리뷰, 재무 시뮬레이션, 과학적 분석은 더 강한 추론 모델로 보낸다. 필요하면 첫 번째 모델이 "이 문제는 어렵다"고 판단해 상위 모델로 에스컬레이션한다.
이 구조는 콜센터를 떠올리면 쉽다. 모든 전화를 최고 전문가에게 연결하면 정확도는 높을지 몰라도 비용과 대기 시간이 폭증한다. 반대로 모든 전화를 초급 상담원에게 맡기면 어려운 문제에서 고객 불만이 커진다. 좋은 운영은 1차 상담, 전문 상담, 관리자 승인으로 이어지는 계층을 만든다. AI도 마찬가지다.
추론 모델의 비용을 낮추는 또 다른 방법은 문맥을 줄이는 것이다. 많은 RAG 시스템은 관련 문단 몇 개면 충분한데도 문서 전체를 모델에 밀어 넣는다. RAG는 Retrieval-Augmented Generation의 약자로, 외부 문서를 검색해 모델의 답변에 활용하는 방식이다. 검색 결과가 너무 넓으면 입력 토큰이 늘고, 비용도 늘며, 오히려 모델이 핵심을 놓칠 수 있다. 좋은 RAG는 많은 문서를 넣는 시스템이 아니라, 필요한 문맥만 정확히 넣는 시스템이다.
캐싱도 중요하다. 같은 시스템 프롬프트, 같은 정책 문서, 같은 제품 설명이 반복해서 들어간다면 매번 새로 계산할 필요가 없다. 반복되는 문맥을 캐시에 저장하면 비용과 지연 시간을 크게 줄일 수 있다. CloudZero는 모델 라우팅, 프롬프트 캐싱, 프롬프트 압축, RAG 최적화 등을 핵심적인 추론 비용 절감 전략으로 제시하며, 혼합 업무 환경에서 라우팅만으로도 상당한 비용 절감이 가능하다고 설명한다5.
정리하면, AI 비용 최적화는 "싼 모델을 쓰자"가 아니다. "비싼 모델을 비싼 이유가 있는 곳에만 쓰자"에 가깝다. 최고급 모델은 사라지지 않는다. 오히려 더 중요해질 수 있다. 다만 모든 작업에 최고급 모델을 쓰는 시대는 빠르게 끝나고 있다.
오픈웨이트 모델이 만든 구매자 시장
추론 모델의 확산과 함께 또 하나의 큰 변화는 오픈웨이트 모델의 부상이다. 오픈웨이트 모델은 모델의 가중치, 즉 학습된 파라미터를 공개해 사용자가 직접 내려받아 실행하거나 수정할 수 있는 모델을 말한다. 모든 오픈웨이트 모델이 엄밀한 의미의 오픈소스는 아니다. 학습 데이터, 코드, 라이선스 조건이 완전히 공개되지 않은 경우도 많다. 그래도 사용자가 특정 API 제공자에게만 의존하지 않고 모델을 직접 운영하거나 여러 호스팅 사업자를 통해 쓸 수 있다는 점에서 시장 구조를 바꾼다.
과거에는 폐쇄형 프런티어 모델이 성능 면에서 압도적이었다. 프런티어 모델은 당대 최고 수준의 성능을 내는 최상위 모델을 뜻한다. 기업은 비싼 줄 알면서도 OpenAI, Anthropic, Google 같은 소수 공급자의 모델을 쓸 수밖에 없었다. "성능이 필요하면 돈을 내라"는 구조였다.
하지만 오픈 모델과 소형 모델이 빠르게 따라붙으면서 상황이 달라졌다. MIT Sloan이 소개한 연구에 따르면 OpenRouter 사용 데이터에서 폐쇄형 모델은 토큰 사용량의 약 80%를 차지했지만, 오픈 모델은 출시 시점에도 폐쇄형 모델 성능의 약 90%에 도달했고 평균 추론 비용은 훨씬 낮았다. 또한 오픈 모델은 폐쇄형 모델 출시 후 성능 격차를 빠르게 좁히는 경향을 보였으며, 더 나은 모델 선택을 통해 전체 비용을 크게 줄일 여지가 있다는 분석도 제시되었다6.
이것이 구매자 시장을 만든다. 구매자 시장이란 공급자가 "우리 모델을 쓰라"고 일방적으로 가격을 정하는 시장이 아니라, 고객이 여러 대안을 비교하며 협상력을 갖는 시장이다. 기업은 이제 다음과 같은 선택지를 갖는다.
폐쇄형 최고 성능 모델을 API로 사용한다
오픈웨이트 모델을 클라우드에서 호스팅해 사용한다
소형 모델을 자체 데이터로 미세조정해 특정 업무에 특화한다
여러 모델을 라우팅해 비용과 품질을 동시에 관리한다
민감한 데이터는 내부 모델로 처리하고, 일반 작업은 외부 모델로 처리한다
이 선택지가 늘어날수록 모델 공급자는 가격을 무작정 높이기 어렵다. 실제로 Artificial Analysis와 같은 모델 비교 서비스는 지능, 속도, 가격, 지연 시간, 컨텍스트 길이 등을 함께 비교하며 모델 간 경쟁이 얼마나 촘촘해졌는지 보여준다7. 이제 기업 구매자는 "가장 유명한 모델"이 아니라 "우리 업무에서 단위 비용당 가장 좋은 결과를 내는 모델"을 찾기 시작했다.
소형 LLM의 반격
소형 LLM의 부상도 빼놓을 수 없다. 소형 LLM은 파라미터 수가 상대적으로 적고, 더 적은 메모리와 계산 자원으로 실행할 수 있는 언어 모델이다. 초기에는 소형 모델이 "가벼운 대신 똑똑하지 않은 모델"로 여겨졌다. 하지만 2026년의 소형 모델은 그 평가를 바꾸고 있다.
소형 모델이 강해진 이유는 여러 가지다. 첫째, 큰 모델의 지식을 작은 모델에 옮기는 증류 기술이 발전했다. 증류는 선생님 모델의 답변 패턴을 학생 모델이 배우도록 하는 방식이다. 둘째, 특정 업무 데이터로 미세조정하기 쉬워졌다. 범용 지식은 조금 부족해도, 회사 내부 문서 분류나 고객 문의 라우팅 같은 좁은 업무에서는 대형 모델 못지않은 성능을 낼 수 있다. 셋째, 양자화 기술이 발전했다. 양자화는 모델이 사용하는 숫자의 정밀도를 낮춰 메모리와 계산량을 줄이는 기술이다. 품질 손실을 일정 수준 이하로 관리할 수 있다면 비용 절감 효과가 크다.
소형 모델의 진짜 장점은 속도와 통제다. 고객 지원 챗봇이 매일 수십만 건의 짧은 질문을 처리한다면, 최고급 추론 모델을 매번 호출하는 것은 낭비다. 상품 카테고리 분류, 개인정보 탐지, 간단한 요약, 로그 분석, 문서 태깅은 소형 모델로 충분한 경우가 많다. 특히 지연 시간이 중요한 서비스에서는 빠른 모델이 더 나은 사용자 경험을 만든다.
더 흥미로운 점은 소형 모델이 대형 모델을 대체하는 것이 아니라 보완한다는 사실이다. 작은 모델은 문지기 역할을 한다. 요청을 분류하고, 위험도를 판단하고, 필요한 문맥을 추려내고, 쉬운 답변을 처리한다. 대형 추론 모델은 정말 어려운 문제에 집중한다. 이 조합이 전체 시스템의 경제성을 바꾼다.
벤치마크 포화 이후의 모델 선택 기준
한동안 AI 모델 경쟁은 벤치마크 점수 경쟁이었다. MMLU, HumanEval, GSM8K, AIME 같은 시험에서 몇 점을 받았는지가 모델의 위상을 결정했다. 벤치마크는 여전히 중요하다. 객관적인 비교 기준이 없으면 시장은 마케팅 문구에 휘둘리기 쉽다. 하지만 벤치마크가 포화될수록, 즉 여러 모델이 비슷한 높은 점수를 받기 시작할수록 벤치마크만으로는 실제 선택을 설명하기 어려워진다.
기업 입장에서는 "A 모델이 벤치마크에서 2점 높다"보다 "우리 보험 심사 문서에서 오류를 덜 내는가"가 중요하다. 병원에서는 의학 지식 벤치마크보다 실제 진료 기록 요약의 정확성과 안전성이 중요하다. 개발팀에서는 코딩 점수보다 우리 코드베이스의 스타일과 테스트 환경을 잘 이해하는지가 중요하다. 금융회사에서는 답변의 유창함보다 근거 추적, 감사 가능성, 규제 대응이 더 중요하다.
그래서 모델 선택 기준은 다음 단계로 이동한다. 첫째는 실제 사용자 선호다. 사용자가 더 신뢰하고, 더 자주 채택하며, 덜 수정하는 답변이 좋은 답변이다. 둘째는 도메인 성능이다. 법률, 의료, 제조, 금융, 교육처럼 각 산업의 실제 데이터에서 평가해야 한다. 셋째는 해석 가능성과 통제 가능성이다. 왜 이런 결론을 냈는지, 어떤 근거를 참조했는지, 오류가 났을 때 어떻게 추적할 수 있는지가 중요하다. 넷째는 운영비다. 같은 품질이라면 더 싸고 빠르며 안정적으로 운영되는 모델이 이긴다.
OpenAI가 GDPval처럼 경제적으로 가치 있는 실제 업무를 평가하려는 시도를 내놓은 것도 같은 흐름이다. 모델이 시험을 잘 보는지를 넘어, 사람들이 실제로 돈을 받고 수행하는 지식 업무에서 얼마나 도움이 되는지를 측정하려는 움직임이다8. 앞으로의 평가는 "AI가 문제집을 잘 푸는가"에서 "AI가 실제 조직의 일을 얼마나 줄여주는가"로 이동할 것이다.
모델 경제학의 새로운 공식
이 장의 핵심을 하나의 공식으로 정리하면 다음과 같다.
좋은 AI 시스템 = 모델 성능 × 업무 적합도 ÷ 총운영비
여기서 모델 성능만 높아서는 부족하다. 업무 적합도가 낮으면 현장에서는 쓸모가 없다. 총운영비가 너무 높으면 확장할 수 없다. 총운영비에는 API 요금뿐 아니라 지연 시간, 실패율, 재시도 비용, 보안 검토, 데이터 이동, 모니터링, 모델 교체 비용까지 포함된다.
이 공식은 기업의 AI 전략을 바꾼다. 예전에는 "가장 좋은 모델을 도입하자"가 전략처럼 보였다. 이제는 "업무별로 적절한 지능의 가격을 설계하자"가 전략이다. 채용 공고 분류에는 작은 모델, 계약서 위험 조항 검토에는 강한 추론 모델, 사내 문서 검색에는 긴 컨텍스트 모델, 민감 정보 처리에는 내부 호스팅 모델을 쓰는 식이다.
이런 세계에서 AI 리더의 역할은 모델 이름을 외우는 것이 아니다. 모델 포트폴리오를 설계하는 것이다. 어떤 업무에 어떤 모델을 쓸지, 언제 더 깊게 생각하게 할지, 언제 사람에게 넘길지, 어떤 데이터는 외부로 보내지 않을지, 비용이 어느 선을 넘으면 자동으로 경고할지 정해야 한다. AI 도입은 기술 프로젝트이면서 동시에 운영 설계와 재무 설계가 된다.
비싼 지능과 싼 지능을 구분하는 능력
추론 모델은 AI의 성능 한계를 끌어올렸다. 하지만 동시에 우리에게 불편한 진실도 알려주었다. 좋은 답은 공짜가 아니며, 생각에도 비용이 든다. 모든 질문에 깊게 생각하게 하는 것은 낭비이고, 모든 질문을 얕게 처리하는 것은 위험하다. AI 활용의 성숙도는 이 둘을 구분하는 능력에서 나온다.
앞으로 경쟁력 있는 조직은 "우리도 최신 모델을 쓴다"고 말하는 조직이 아니다. "우리는 어떤 문제에 얼마만큼의 지능을 써야 하는지 안다"고 말할 수 있는 조직이다. 이 조직은 벤치마크 1위 모델이 바뀔 때마다 흔들리지 않는다. 오픈 모델이 나오면 실험하고, 소형 모델이 충분하면 과감히 바꾸며, 중요한 업무에는 고성능 추론 모델을 아끼지 않는다. 핵심은 절약이 아니라 배분이다.
AI의 경쟁력은 더 큰 모델에서 더 싸고, 빠르고, 적절하게 생각하는 시스템으로 이동하고 있다. 추론 모델은 이 변화의 엔진이고, 오픈웨이트 모델과 소형 LLM은 가격 압력을 만드는 촉매이며, 비용 하락은 AI를 더 많은 업무 속으로 밀어 넣는 연료다.
다음 장에서 살펴볼 멀티모달 AI와 실시간 인터페이스는 이 변화에 또 다른 차원을 더한다. AI가 텍스트만 읽고 쓰는 존재를 넘어, 보고 듣고 말하며 실시간으로 반응하는 시스템이 되면 비용과 추론의 균형은 더욱 중요해진다. 지능이 싸질수록 우리는 더 많이 쓰게 되고, 더 많이 쓸수록 어떤 지능을 어디에 배치할지가 승부처가 된다.
참고
1Learning to reason with LLMs - OpenAI
2DeepSeek-R1 incentivizes reasoning in LLMs through reinforcement learning
4LLM inference prices have fallen rapidly but unequally across tasks | Epoch AI
5Inference Cost Explained: How to Reduce LLM & AI Inference Spend
6AI open models have benefits. So why aren't they more widely used?
7LLM Leaderboard - Artificial Analysis
8Measuring the performance of our models on real-world tasks
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.