Skip to main content
공개 노트

Trajectory가 보는 AI의 다음 병목: 더 큰 모델보다 '피드백 루프'

Views 24약 3분생성형 AI 활용
Summary

Trajectory가 보는 AI의 다음 병목: 더 큰 모델보다 '피드백 루프'

AI 제품을 쓰다 보면 같은 문제가 반복되는 순간이 있습니다. 사용자는 답변을 고치고, 잘못된 처리를 되돌리고, 더 나은 결과를 얻기 위해 다시 시도합니다. 하지만 그 경험이 곧바로 제품의 성능 개선으로 이어지는 경우는 많지 않습니다.

Trajectory가 겨냥하는 지점은 바로 이 간극입니다. 더 큰 모델을 만드는 경쟁이 아니라, 실제 사용 과정에서 발생하는 오류와 수정 신호를 다시 학습 루프로 연결하는 문제입니다.

Trajectory가 말하는 지속학습

Trajectory는 Google DeepMind, Apple, OpenAI, Meta Superintelligence Labs 출신 AI 연구자들이 설립한 스타트업입니다. 기업이 실제 사용자 상호작용 데이터를 학습 과정에 활용해 AI 제품 성능을 주기적으로 개선하도록 돕는 지속학습 플랫폼을 개발하고 있습니다.1

여기서 지속학습은 모델이 한 번 학습되고 배포된 뒤에도 오류 경험을 바탕으로 계속 개선되는 능력을 뜻합니다. 문서에 따르면 현재 많은 AI 시스템은 학습이 끝난 후 정적으로 유지되어 같은 오류를 반복할 수 있습니다.1

이 문제는 기업용 AI에서 특히 중요합니다. 업무용 AI는 단순히 “그럴듯한 답변”을 내는 것보다, 실제 프로세스 안에서 반복되는 실패를 줄이는 것이 더 중요하기 때문입니다.

중요한 것은 모델 크기가 아니라 개선 루프다

지금까지 AI 경쟁은 더 큰 모델, 더 많은 데이터, 더 강한 추론 성능을 중심으로 전개됐습니다. 하지만 기업이 AI 제품을 운영할 때 마주하는 병목은 다릅니다. AI가 틀렸을 때 그 실패가 다음 개선으로 이어지지 않으면, 사용자는 같은 문제를 계속 직접 고쳐야 합니다.

예를 들어 고객지원 AI가 반품 요청을 제대로 처리하지 못해 사람에게 넘겼다면, 그 사건은 단순한 실패 로그가 아닙니다. 어떤 상황에서 모델이 막혔는지, 어떤 답변이 부적절했는지, 사람이 어떻게 수정했는지를 보여주는 학습 신호입니다. Trajectory는 이런 실패 사례를 모아 모델을 반복적으로 후학습하는 접근을 제안합니다.2

따라서 핵심 질문은 “가장 똑똑한 범용 모델을 쓰고 있는가”가 아닙니다. “우리 제품에서 반복되는 실패를 얼마나 빨리 발견하고 줄일 수 있는가”에 가깝습니다. 지속학습 플랫폼의 가치는 이 질문에 답할 수 있을 때 생깁니다.

왜 기업용 AI에서 먼저 검증될까

Trajectory는 Conviction이 주도한 시드 라운드에서 1,500만 달러를 조달했으며, 포스트머니 밸류에이션은 1억1,500만 달러로 알려졌습니다.1 공동창업자 겸 CEO는 Ronak Malde입니다. 공동창업자에는 Apple 출신 Arjun Karanam과 Google DeepMind 로보틱스 부문 출신 Michael Elabd도 포함됩니다.1

언급된 고객에는 Decagon, Clay, Harvey가 있습니다.2 이들이 눈에 띄는 이유는 AI가 실제 업무 흐름 안에서 쓰이는 회사들이기 때문입니다. 지속학습의 가치는 데모 환경보다 운영 중인 제품에서 더 분명하게 드러납니다. 사용량이 쌓일수록 오류 패턴도 쌓이고, 그 패턴을 개선 루프로 바꿀 수 있는지가 경쟁력이 됩니다.

기업이 가져가야 할 판단 기준

Trajectory 사례가 주는 실용적 메시지는 단순합니다. AI 도입의 성패는 어떤 모델을 골랐는지만으로 결정되지 않습니다. 사용자 피드백, 실패 로그, 수정 이력을 어떻게 수집하고, 선별하고, 다시 제품 성능 개선으로 연결하느냐가 중요합니다.

기업이 AI 제품을 평가할 때는 다음 질문을 던져볼 필요가 있습니다.

  • 사용자가 수정한 내용이 학습 가능한 데이터로 남는가?

  • 반복되는 실패 유형을 추적할 수 있는가?

  • 운영 중 발생한 오류가 다음 버전의 성능 개선으로 이어지는가?

  • 특정 업무 맥락에 맞게 모델이 계속 조정되는가?

앞으로 좋은 AI 제품은 출시 시점의 성능만으로 평가받지 않을 가능성이 큽니다. 실제 사용 과정에서 얼마나 빨리 배우고, 같은 실수를 얼마나 줄이며, 각 기업의 업무에 얼마나 잘 적응하는지가 더 중요한 기준이 될 것입니다.

1李飞飞 Jeff Dean 参投,前 DeepMind 团队创立 AI 持续学习公司

2Mantan Peneliti Google dan Apple Meluncurkan Startup untuk Membangun Lingkaran Umpan Balik AI yang Hilang

이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.

틸노트는 사용자가 AI를 활용해 노트를 쉽게 작성하거나 편집할 수 있는 서비스입니다.

AI 스퀘어 단톡방에 함께해요

AI 활용과 틸노트 사용 팁을 나누는 오픈채팅방입니다. 입장 비밀번호는 tilnote입니다.

참여하기