AI 서비스의 경쟁은 오랫동안 모델 크기와 답변 품질을 중심으로 설명돼 왔습니다. 하지만 개인용 AI 에이전트가 파일, 앱, 웹을 오가며 실제 작업을 수행하려면 또 다른 문제가 중요해집니다. 바로 사용자의 요청 중 어떤 부분을 기기 안에서 처리하고, 어떤 부분을 클라우드로 보낼지 결정하는 문제입니다.
이 판단은 단순한 기술 선택이 아닙니다. 프라이버시, 응답 속도, 비용, 모델 성능, 하드웨어 활용을 동시에 좌우합니다. 특히 AI가 개인 파일이나 민감한 기록을 다루기 시작하면 “가장 강력한 모델을 쓰는가”만큼이나 “데이터가 어디로 이동하는가”가 핵심 기준이 됩니다.
검색 엔진에서 작업 에이전트로 확장되는 Perplexity
Perplexity는 AI 기반 검색·답변 엔진으로 알려져 있습니다.1 사용자의 질문에 대해 웹 기반 정보를 찾아 답을 구성하는 서비스로 출발했지만, 최근 AI 업계의 흐름은 단순 질의응답을 넘어 작업 수행형 에이전트로 이동하고 있습니다.
이 맥락에서 Perplexity의 Personal Computer는 중요한 실험으로 볼 수 있습니다. Personal Computer는 파일, 앱, 웹 전반에서 작업할 수 있는 AI 에이전트로 설명됩니다.1 즉, 사용자가 브라우저에서 질문을 입력하고 답을 받는 수준을 넘어, 개인 컴퓨팅 환경 자체를 AI가 이해하고 도울 수 있는 방향입니다.
문제는 이런 에이전트가 다루는 정보의 성격이 매우 다르다는 점입니다. 어떤 작업은 개인 파일이나 민감한 기록을 포함할 수 있고, 어떤 작업은 더 큰 모델의 추론 능력이나 외부 정보 접근이 필요할 수 있습니다. 하나의 요청 안에서도 로컬 처리가 적합한 부분과 서버 처리가 필요한 부분이 섞일 수 있습니다.
하이브리드 추론의 핵심은 ‘자동 배분’
Perplexity가 발표한 하이브리드 AI 시스템은 로컬 AI 모델과 클라우드 모델을 결합하는 오케스트레이터를 중심에 둡니다.1 이 시스템은 작업을 더 작은 부분으로 나눈 뒤, 각 부분을 로컬 또는 클라우드로 라우팅하는 방식입니다.1
여기서 중요한 점은 사용자가 작업을 시작하기 전에 로컬 모델과 클라우드 모델 중 하나를 직접 선택할 필요가 없다는 것입니다.1 사용자는 요청을 입력하고, 시스템이 작업 성격에 따라 실행 위치를 나눠 판단하는 구조입니다.
이 접근은 AI 사용 경험을 단순화합니다. 사용자가 매번 “이건 내 기기에서 처리해야 하나, 서버로 보내도 되나”를 결정해야 한다면 에이전트의 편의성은 크게 떨어집니다. 반대로 시스템이 적절히 분기할 수 있다면, 로컬 AI와 클라우드 AI의 장점을 동시에 활용할 수 있습니다.
로컬 AI가 유리한 영역, 클라우드가 필요한 영역
로컬 소형 모델의 장점은 민감한 데이터를 기기 안에서 처리할 수 있다는 데 있습니다. 금융 기록, 건강 정보, 개인 파일 같은 데이터는 외부 서버로 전송되는 것 자체가 부담이 될 수 있습니다.1 이런 정보는 가능한 한 사용자 기기 안에서 처리하는 편이 신뢰 측면에서 유리합니다.
반면 모든 작업을 로컬에서 끝내기는 어렵습니다. 더 큰 AI 모델의 성능이 필요한 복잡한 작업은 서버로 전송될 수 있습니다.1 복잡한 추론, 더 넓은 맥락 이해, 더 높은 성능이 필요한 경우 클라우드 모델이 여전히 강점을 가질 수 있습니다.
따라서 하이브리드 구조의 본질은 로컬과 클라우드 중 하나를 선택하는 것이 아닙니다. 작업의 성격에 따라 두 환경을 조합하는 것입니다. 개인 정보가 포함된 부분은 기기 안에 남기고, 더 큰 모델의 역량이 필요한 부분만 서버에서 처리하는 식의 분리가 가능해지는지가 관건입니다.
발표된 사실보다 중요한 질문들
Perplexity는 이 하이브리드 추론 시스템을 7월부터 Personal Computer 제품에 통합할 예정입니다.1 Personal Computer는 3월에 소개된 Always-on 에이전트 제품이며, 이번 시스템은 Intel과 함께 소개됐습니다.1 또한 해당 프레임워크는 Nvidia RTX Spark 같은 다른 하드웨어에서도 실행될 수 있습니다.1
이 사실들은 AI PC와 에이전트 시장의 방향을 보여주는 신호입니다. 다만 실제 경쟁력은 발표 자체보다 운영 방식에서 드러날 가능성이 큽니다.
첫째, 시스템이 민감한 정보와 일반 작업을 얼마나 정확히 구분할 수 있는지가 중요합니다. 하이브리드 AI의 신뢰는 “무엇을 로컬에 남기는가”에서 출발합니다.
둘째, 작업 분할이 사용자 경험을 해치지 않아야 합니다. 로컬과 클라우드 사이를 오가는 과정이 느리거나 불안정하면, 자동 오케스트레이션의 장점은 줄어듭니다.
셋째, 사용자가 처리 위치를 이해할 수 있는지가 관건입니다. 자동화가 편리하더라도, 사용자가 자신의 데이터가 어디에서 처리됐는지 전혀 알 수 없다면 신뢰를 얻기 어렵습니다.
AI PC 경쟁의 초점이 바뀐다
이번 흐름은 AI PC를 단순히 “기기 안에서 AI를 돌리는 컴퓨터”로만 볼 수 없게 만듭니다. 앞으로의 핵심은 로컬 연산 능력 자체가 아니라, 로컬과 클라우드를 어떻게 조율하느냐에 가까워질 수 있습니다.
AI 에이전트가 더 많은 개인 작업을 맡게 될수록, 사용자는 성능뿐 아니라 데이터 이동, 보안, 비용, 응답 속도를 함께 평가하게 됩니다. 기업 입장에서도 모든 추론을 클라우드에서 처리하는 방식은 비용과 프라이버시 측면에서 부담이 될 수 있습니다. 반대로 모든 것을 로컬에 맡기면 복잡한 작업에서 성능 한계가 나타날 수 있습니다.
Perplexity의 하이브리드 AI 시스템은 이 절충 지점을 겨냥합니다. 다만 성공 여부는 “로컬과 클라우드를 모두 쓴다”는 선언이 아니라, 사용자가 체감할 만큼 자연스럽고 신뢰 가능한 분기 체계를 구현하느냐에 달려 있습니다.
앞으로 살펴볼 부분은 명확합니다. Personal Computer에 통합된 뒤 실제 작업에서 민감한 데이터가 어떻게 처리되는지, 복잡한 요청을 얼마나 매끄럽게 분할하는지, 그리고 사용자가 처리 위치를 확인하거나 통제할 수 있는지가 핵심 관전 포인트입니다.
1With Perplexity's Push for Hybrid AI, Your Laptop Could Function as a Data Center
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.