핵심 요약
AI가 잘하는 일은 빠르게 상품화되고, 특히 외부에서 쉽게 평가 가능한 작업은 모델과 가격 경쟁에 흡수된다.
반대로 오래된 조직의 맥락, 사적 데이터, 신뢰, 책임, 업무 흐름처럼 쉽게 측정하거나 학습시킬 수 없는 영역에는 여전히 큰 가치가 남는다.
얇은 AI 래퍼는 오래 버티기 어렵다
AI 모델 위에 간단한 기능만 얹은 제품은 위험하다.
모델이 발전하면 검색, 라우팅, 도구 사용, 추론 방식 같은 주변 기능이 점점 모델 내부로 흡수되기 때문이다.
예를 들어 "문서를 요약해주는 앱"이 단순히 범용 모델을 호출하는 수준이라면, 더 좋은 모델이나 더 싼 오픈소스 모델이 나오면서 차별성이 사라진다.
방어 가능한 회사는 모델을 감싸는 데 그치지 않고, 고객의 실제 업무 환경 안으로 깊이 들어간다.
측정 가능한 일은 훈련 가능한 일이다
벤치마크에 올릴 수 있는 일은 AI가 빠르게 잘하게 된다.
소프트웨어 개발이 대표적이다. 코드는 컴파일러, 테스트, 에러 메시지처럼 자동 검증 장치가 많다. 그래서 AI는 코딩 벤치마크에서 빠르게 성장했다.
하지만 테스트를 통과한 코드가 실제 회사의 오래된 시스템에 안전하게 들어갈 수 있는지는 별개의 문제다.
현실의 소프트웨어에는 문서화되지 않은 이유, 오래된 배포 파이프라인, 조직 내부의 암묵지가 얽혀 있다.
진짜 어려운 것은 '정답 확인'이다
AI가 답을 내는 것보다 더 어려운 일은 그 답이 정말 좋은지 판단하는 것이다.
공개 시험 문제처럼 정답이 명확하면 모델은 빠르게 개선된다. 하지만 병원, 은행, 법무법인, 대기업 시스템 안에서는 정답이 외부에 공개되어 있지 않다.
예를 들어 의료 답변이 "안전한 답"인지, 법률 문서 검토가 "실무적으로 충분한지"는 해당 분야의 전문가와 조직 맥락 안에서만 판단할 수 있다.
이런 판단은 단순한 측정이 아니라 신뢰와 책임이 결합된 평가다.
사적 데이터가 있는 곳에 가치가 있다
범용 질문에 답하는 토큰의 가치는 낮아진다. 누구나 비슷한 모델로 답할 수 있기 때문이다.
반대로 회사 내부 데이터, 고객 기록, 계약서, 운영 로그, 업무 히스토리를 바탕으로 추론하는 AI는 훨씬 가치가 높다.
중요한 차이는 "그럴듯한 답"이 아니라 "이 회사가 실제로 쓸 수 있는 답"을 내는가에 있다.
AI의 가치는 모델 자체보다, 모델이 접근할 수 있는 맥락의 깊이에 의해 결정된다.
권한과 책임은 모델 성능보다 느리게 움직인다
아무리 똑똑한 AI라도 병원 기록, 은행 시스템, 법률 문서에 마음대로 접근할 수 없다.
보안 심사, 계약, 책임 소재, 규제, 사용자 신뢰가 필요하다.
모델은 답을 만들 수 있지만, 소송을 당하거나 면허를 걸고 판단하거나 조직 내 책임자가 될 수는 없다.
그래서 많은 산업에서 병목은 지능이 아니라 권한과 책임이다.
좋은 AI 제품은 고객의 현실을 번역한다
강한 AI 애플리케이션은 단순히 모델을 제공하지 않는다.
고객의 데이터 구조, 업무 흐름, 승인 절차, 사람들의 습관을 모델이 이해하고 실행할 수 있는 형태로 바꾼다.
이 과정은 화려하지 않지만 강력한 진입장벽이 된다.
한 번 통합했다고 끝나는 것도 아니다. 조직은 계속 바뀌고, 업무 방식도 바뀌며, AI 제품은 그 변화에 맞춰 계속 유지·개선되어야 한다.
법률 업무 예시: 단일 작업이 아니라 전체 흐름이 중요하다
대형 로펌의 M&A 업무를 생각해보자.
업무는 NDA, 텀시트, 실사, 인수계약서, 부속 문서, 클로징 체크리스트 등 여러 단계로 이어진다.
AI가 문서 하나를 잘 요약하는 것만으로는 충분하지 않다. 중요한 신호는 개별 문서가 아니라 전체 거래 흐름에 있다.
게다가 로펌은 여러 사건과 고객을 동시에 처리하고, 파트너는 품질 관리와 인재 육성까지 책임진다. 이런 복합적 운영은 간단한 벤치마크로 평가하기 어렵다.
성과 기반 가격은 평가 자체가 된다
측정하기 어려운 가치는 밖에서 증명하기 어렵다.
그래서 강한 AI 회사는 외부 벤치마크를 내세우기보다 고객 시스템 안으로 들어가 실제 성과에 따라 돈을 받는다.
예를 들어 고객 문의를 AI가 해결했을 때만 과금하고, 사람에게 넘기면 과금하지 않는 방식이 있다.
이 경우 "무엇이 해결인가"를 정의하는 권한이 중요해진다. 그 정의를 고객 현장 안에서 확보한 회사가 강해진다.
AI 인프라도 완전한 상품은 아니다
토큰 가격은 점점 내려가고 상품화된다.
하지만 실제 트래픽에서의 안정성, 희소한 컴퓨팅 자원 접근성, 장애 대응 능력은 쉽게 상품화되지 않는다.
그래서 AI 네이티브 기업들은 단순히 가장 싼 곳이 아니라, 안정적으로 서비스를 제공할 수 있는 인프라 파트너를 선택한다.
가격은 상품처럼 움직여도, 신뢰성과 접근권은 여전히 차별화 요소다.
최고의 모델이 항상 시장을 이기지는 않는다
더 똑똑한 모델이 있다고 해서 사용자를 자동으로 빼앗아오지는 못한다.
소비자 챗봇 시장에서도 모델 성능만으로 승패가 결정되지 않았다. 배포 채널, 기존 사용자 습관, 검색·모바일 생태계 같은 요소가 중요했다.
기업 시장에서는 이 현상이 더 강하다.
병원, 은행, 로펌의 내부 시스템에 들어가는 일은 모델 성능만으로 해결되지 않는다. 신뢰, 계약, 통합, 책임 구조가 함께 필요하다.
'무엇이 좋은 답인가'를 정의하는 권한이 해자다
AI 시대의 중요한 권력은 정답을 내는 능력뿐 아니라, 좋은 답의 기준을 정하는 능력이다.
법률에서는 숙련된 변호사가, 의료에서는 의사가, 고객지원에서는 실제 고객 관계를 가진 회사가 그 기준을 만든다.
이 기준들이 쌓이면 사실상 해당 분야의 벤치마크가 된다.
따라서 강한 AI 회사는 단순히 답을 생성하는 회사가 아니라, 특정 산업에서 "좋은 답이란 무엇인가"를 정의하는 회사다.
인사이트
AI가 대체하기 쉬운 일은 "외부에서 쉽게 평가 가능하고, 반복 가능하며, 공개 정답에 가까운 일"이다.
AI 시대에 방어 가능한 가치를 만들려면 고객의 사적 데이터, 업무 흐름, 신뢰 관계, 책임 구조 안으로 들어가야 한다.
실천 팁은 간단하다. 얇은 기능보다 깊은 통합을 만들고, 범용 성능보다 특정 고객의 성공 기준을 정의하며, 모델이 아니라 모델이 작동할 환경을 소유해야 한다.
Source : The Untrainable - Sarah Guo
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.