AI를 쓸 때 가장 답답한 순간은 모델이 똑똑하지 않아서가 아닙니다. 내가 하던 생각을 멈추고, 그 생각을 "프롬프트"라는 깔끔한 포장지에 넣어 제출해야 할 때입니다. 말하고, 기다리고, 고치고, 다시 말하는 동안 협업의 리듬은 끊깁니다.
미라 무라티의 Thinking Machines가 내놓은 'interaction models'가 흥미로운 이유는 바로 여기에 있습니다. The Verge도 이 회사를 둘러싼 새 움직임을 다뤘고, Thinking Machines는 이번 연구 프리뷰에서 AI가 오디오·비디오·텍스트를 실시간으로 받아들이고 반응하는 모델을 공개했습니다.1 핵심은 더 빠른 챗봇이 아니라, 인간과 AI가 "차례를 기다리는 방식" 자체를 바꾸려는 시도입니다.
병목은 지능이 아니라 '차례 기다리기'다
현재 대부분의 AI 도구는 턴 기반입니다. 사용자가 입력을 끝내야 모델이 반응하고, 모델이 답변하는 동안에는 새 맥락을 거의 받아들이지 못합니다. 음성 AI도 겉으로는 자연스럽게 보이지만, 상당수는 음성 활동 감지나 대화 관리 장치를 덧붙여 "실시간처럼" 보이게 만듭니다.
Thinking Machines의 주장은 이 보조 장치가 한계라는 것입니다. 상호작용이 모델 외부의 장식이면, 모델이 똑똑해져도 협업 능력은 같은 속도로 좋아지지 않습니다. 그래서 이들은 200ms 단위의 '마이크로 턴'을 사용해 입력과 출력을 계속 교차 처리하는 구조를 제안했습니다.2
실무적으로 보면 이 차이는 큽니다. 회의 중 AI에게 "잠깐, 방금 화면의 이 부분 봐"라고 말하거나, 코딩 중 오류가 생기는 순간 AI가 끼어들거나, 튜터링에서 학생이 머뭇거릴 때 바로 힌트를 주는 식의 경험은 기존 챗 UI로는 어색합니다. 여기서 AI는 답변 생성기가 아니라 함께 상황을 보는 동료에 가까워집니다.
챗봇보다 나은 곳, 굳이 필요 없는 곳
interaction model이 모든 AI 작업을 대체하지는 않습니다. 오히려 도입 판단은 단순합니다. 사람과 AI가 얼마나 자주, 얼마나 섬세하게 주고받아야 하는가를 보면 됩니다.
효과가 클 가능성이 높은 영역은 튜터링, 디자인 리뷰, 페어 프로그래밍, 세일즈 콜 코칭, 의료 문진, 실시간 통역, 물리 작업 보조입니다. 공통점은 사용자의 표정, 침묵, 화면 변화, 말 끊김이 중요한 정보라는 점입니다. VentureBeat 보도에 따르면 Thinking Machines의 TML-Interaction-Small은 2760억 파라미터 MoE 모델이며, 활성 파라미터는 120억 개입니다. 또한 회사가 제시한 벤치마크에서 턴 전환 지연은 0.40초로, GPT-realtime-2.0 minimal의 1.18초보다 낮았습니다.3
하지만 요약, 배치 분석, 보고서 초안 생성, 로그 분류처럼 "한 번 넣고 결과를 받는" 작업에는 과한 기술일 수 있습니다. 실시간 멀티모달 모델은 비용, 프라이버시, 운영 복잡도가 올라갑니다. 단순 자동화로 충분한 업무에 항상 켜져 있는 AI를 붙이는 것은 생산성 개선이 아니라 비싼 인터페이스 실험이 될 수 있습니다.
진짜 제품 질문은 "AI가 언제 말해야 하는가"다
항상 듣고 보고 반응하는 AI는 UX 문제를 새로 만듭니다. 빠른 응답보다 어려운 것은 적절한 침묵입니다. 언제 끼어들어야 하는지, 언제 사용자의 생각을 방해하지 말아야 하는지, 회의 참가자 모두가 동의했는지, 화면과 음성이 어디까지 저장되는지 같은 문제가 제품의 핵심이 됩니다.
Thinking Machines는 실시간 상호작용 모델과 더 긴 추론을 담당하는 백그라운드 모델을 분리하는 구조도 설명했습니다. 즉, 앞단 모델은 대화를 유지하고, 뒤쪽 모델은 검색·도구 호출·긴 추론을 처리한 뒤 결과를 다시 대화에 섞습니다.2 좋은 방향이지만, 이 구조가 실제 제품에서 신뢰를 얻으려면 "무엇을 듣고 있는지", "무엇을 기억하는지", "어떤 작업을 뒤에서 실행 중인지"를 사용자에게 명확히 보여줘야 합니다.
앞으로 제품팀과 투자자가 봐야 할 지점은 데모의 자연스러움만이 아닙니다. 높은 왕복 마찰이 있는 업무인가. 턴 사이에서 맥락이 자주 손실되는가. 실시간 개입이 결과 품질을 바꾸는가. 그리고 사용자가 AI의 개입을 도움으로 느낄 만큼 통제권을 갖는가.
interaction-first AI는 챗봇의 다음 스킨이 아니라, 협업 비용의 재설계에 가깝습니다. 지금 당장 신경 써야 할 사람은 콜센터, 교육, 개발 도구, 의료·산업 현장처럼 "대화의 타이밍"이 품질을 좌우하는 제품을 만드는 팀입니다. 반대로 문서 처리나 백오피스 자동화라면, 먼저 물어야 합니다. 정말 실시간이어야 하는가?
참고
1Here's what Mira Murati's AI company is up to
2Interaction Models: A Scalable Approach to Human-AI Collaboration
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.