AI가 실시간으로 대답할 수 있다면, 제품은 정말 그 AI에게 즉시 말하게 해야 할까요? 속도는 매력적이지만, 사용자가 생각 중일 때 끼어드는 AI는 도움보다 방해가 될 수 있습니다.
미라 무라티가 이끄는 Thinking Machines Lab은 이런 질문을 정면으로 겨냥한 'Interaction Models' 연구 프리뷰를 공개했습니다. 핵심은 더 빠른 챗봇이 아니라, AI가 듣고, 보고, 말하고, 기다리는 방식을 모델 내부에 넣겠다는 접근입니다. 이 모델은 오디오·비디오·텍스트를 200ms 단위로 처리하며 실시간 상호작용을 목표로 합니다.1
진짜 쟁점은 지연시간이 아니라 '통제권'이다
기존 챗봇은 턴 기반입니다. 사용자가 입력을 끝내면 모델이 응답하고, 모델이 말하는 동안에는 새 정보를 거의 반영하지 못합니다. 음성 AI도 많은 경우 음성 활동 감지, 턴 경계 추정, TTS 같은 외부 부품을 엮어 실시간처럼 보이게 만듭니다.
Thinking Machines의 주장은 이 부품 조립식 구조가 한계에 왔다는 것입니다. TML-Interaction-Small은 276B 파라미터 MoE 모델이며 실제 활성 파라미터는 12B 수준으로 알려졌고, 200ms 마이크로 턴을 통해 입력과 출력을 동시에 다룹니다.2
하지만 제품 관점에서 중요한 질문은 "0.4초냐 0.6초냐"가 아닙니다. AI가 언제 말할 권리를 갖는가입니다.
회의 중 AI가 맥락을 보충하면 생산성이 오를 수 있습니다. 반대로 고객 상담에서 사용자의 감정 표현을 끊고 해결책을 밀어붙이면 신뢰가 무너집니다. 실시간 AI는 응답 속도를 개선하는 기술이 아니라, 침묵·끼어들기·확인·양보를 설계해야 하는 새로운 인터페이스입니다.
챗봇보다 나은 영역, 여전히 챗봇이 나은 영역
Interaction Models가 빛나는 곳은 사용자의 상태가 계속 변하는 작업입니다. 예를 들어 실시간 튜터링, 코딩 페어링, 통역, 접근성 보조, 로봇 제어, 라이브 고객지원, 회의 보조가 여기에 들어갑니다.
이런 작업은 사용자가 요구사항을 한 번에 완성해 던지기 어렵습니다. 중간에 멈추고, 고치고, 화면을 가리키고, "아니 그게 아니라"라고 말합니다. Interaction Model은 이 흐름을 더 자연스럽게 받아들일 수 있습니다.
반면 문서 요약, 계약서 검토, 데이터 분석 보고서처럼 정확성과 재검토가 중요한 작업은 턴 기반이 더 낫습니다. 실시간성이 비용을 올리고, 오류가 즉시 사용자 경험으로 노출되며, 보안·녹화·동의 문제도 복잡해집니다.
즉 도입 기준은 간단합니다. 사용자의 의도와 환경이 초 단위로 바뀌는가? AI가 중간에 개입해야 결과가 좋아지는가? 아니라면 더 빠른 음성 UI보다 안정적인 비동기 워크플로가 나을 수 있습니다.
새 UX 체크리스트: 듣기, 끼어들기, 확인하기, 복구하기
이 기술을 평가할 때는 모델 점수보다 상호작용 실패를 먼저 봐야 합니다. Thinking Machines는 FD-bench V1에서 평균 턴 응답 지연 0.40초를 보고했으며, Gemini 3.1 Flash Live의 0.57초, GPT-Realtime-2.0 minimal의 1.18초보다 빠르다고 밝혔습니다.3 다만 이 수치는 회사가 보고한 값이며, 실제 네트워크·동시 접속·긴 세션 조건에서 검증이 필요합니다.
제품팀은 다음 질문을 테스트해야 합니다.
사용자가 생각 중일 때 AI가 기다릴 수 있는가?
끼어들어야 할 순간과 참아야 할 순간을 구분하는가?
시각 정보나 배경음에 과잉 반응하지 않는가?
사용자가 "그만", "아니", "잠깐"이라고 했을 때 즉시 제어권을 돌려주는가?
잘못 끼어든 뒤 자연스럽게 사과하고 복구하는가?
카메라·마이크가 켜진 상태에서 사용자가 무엇을 기대하는지 명확히 알 수 있는가?
특히 실시간 멀티모달 AI는 프라이버시 기대치를 바꿉니다. 텍스트 챗에서는 사용자가 보낸 것만 입력입니다. 하지만 카메라와 마이크가 계속 열려 있으면, 사용자는 AI가 무엇을 보고 들었는지 불안해할 수 있습니다. 좋은 제품은 빠른 AI보다 예측 가능한 AI를 먼저 만들어야 합니다.
전략적으로는 '모델 도입'보다 '상호작용 안무'가 중요하다
Thinking Machines의 구조는 실시간 응답을 담당하는 interaction model과, 검색·도구 호출·장기 추론을 맡는 background model을 나눕니다.4 이는 중요한 설계 힌트입니다. 모든 일을 실시간 모델에 시키는 것이 아니라, 즉시 반응할 일과 깊게 생각할 일을 분리해야 합니다.
지금 실험해야 할 팀은 라이브 대화가 핵심 가치인 제품을 가진 곳입니다. 콜센터, 교육, 원격 협업, 개발자 도구, 접근성 제품은 빠르게 프로토타입을 만들어볼 만합니다. 반대로 규제 산업, 고위험 의사결정, 비용 민감한 SaaS는 공개 검증과 운영 사례를 기다리는 편이 안전합니다.
현재 이 모델은 일반 공개 제품이 아니라 제한적 연구 프리뷰 단계로 알려져 있습니다.5 따라서 당장 "대체 가능한 API"로 보기보다는, 앞으로 AI 인터페이스가 어디로 이동하는지 보여주는 신호로 보는 편이 맞습니다.
다음 경쟁은 누가 더 똑똑한 모델을 가졌느냐만이 아닙니다. 누가 인간과 AI 사이의 발화권, 침묵, 개입, 회복을 더 잘 설계하느냐입니다. Interaction Models가 던진 질문은 기술보다 제품팀에 더 날카롭습니다. AI가 말할 수 있을 때, 언제 말하지 않게 만들 것인가.
참고
1Interaction Models: A Scalable Approach to Human-AI Collaboration
3Thinking Machines Lab Ships First Model With 200ms Real-Time Interaction
4Thinking Machines Lab Wants to Replace OpenAI Realtime With a Model That Listens While It Speaks
5Thinking Machines wants to build an AI that actually listens while it talks
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.