엣지, 클라우드, 온디바이스 아키텍처

모델만 좋아서는 제품이 되지 않는다

피지컬 AI를 실제 제품과 서비스로 배치할 때는 질문이 달라진다. "이 모델이 얼마나 똑똑한가?"만으로는 부족하다. "어디에서 실행할 것인가?", "몇 밀리초 안에 답해야 하는가?", "네트워크가 끊겨도 멈추지 않는가?", "전력과 발열을 감당할 수 있는가?"를 함께 물어야 한다.

화면 안의 AI는 답변이 1초 늦어도 불편함에 그칠 수 있다. 그러나 로봇 팔, 자율주행차, 드론, 물류 로봇은 다르다. 판단이 늦으면 이미 움직임이 진행된다. 카메라가 사람을 감지하고, AI가 위험을 판단하고, 제어기가 정지 명령을 내리는 사이에도 기계는 계속 이동한다.

그래서 피지컬 AI의 컴퓨팅 구조는 감지한다–판단한다–행동한다–피드백을 받는 순환의 속도를 기준으로 설계해야 한다. 빠르게 닫혀야 하는 순환은 로봇 가까이에 두고, 시간이 걸려도 되는 학습과 분석은 클라우드로 보낸다. 이것이 온디바이스, 엣지, 클라우드를 나누는 기본 원리다.

AI 생성 이미지

온디바이스: 로봇 안에서 바로 판단하기

온디바이스 추론은 AI 모델이 로봇, 차량, 카메라, 드론 같은 장치 내부에서 직접 실행되는 방식이다. 여기서 추론은 학습된 모델이 새 입력을 보고 결과를 계산하는 과정을 뜻한다. 예를 들어 자율주행차의 카메라가 보행자를 보고, 차량 내부 컴퓨터가 즉시 감속 여부를 판단하는 것이 온디바이스 추론이다.

온디바이스 방식의 가장 큰 장점은 빠른 반응이다. 센서 데이터가 멀리 이동하지 않아도 된다. 카메라 영상이 클라우드 서버로 올라가고, 서버가 판단한 뒤 다시 차량이나 로봇으로 명령이 돌아오는 왕복 시간을 기다리지 않는다. 로봇 내부에서 감지와 판단이 이어지고, 그 결과가 곧바로 제어기로 전달된다.

두 번째 장점은 연결 안정성이다. 공장 내부의 무선망이 일시적으로 불안정하거나, 물류 로봇이 통신 음영 구역을 지나가거나, 드론이 먼 지역에서 작업할 수 있다. 이때 핵심 판단을 클라우드에 의존하면 네트워크 장애가 곧 기능 장애가 된다. 반대로 온디바이스 추론을 쓰면 최소한의 안전 기능과 기본 작업은 계속 수행할 수 있다.

세 번째 장점은 개인정보와 보안이다. 병원 로봇, 가정용 로봇, 매장 카메라는 사람의 얼굴, 이동 경로, 생활 패턴 같은 민감한 정보를 감지할 수 있다. 모든 영상을 외부 서버로 보내지 않고 장치 안에서 필요한 정보만 추출하면 데이터 노출 위험을 줄일 수 있다. 예를 들어 원본 영상은 저장하지 않고 "사람이 2미터 앞에 있음" 같은 결과만 남기는 방식이다.

하지만 온디바이스가 모든 문제의 답은 아니다. 장치 내부 컴퓨터는 크기, 전력, 발열, 가격의 제약을 받는다. 대형 서버처럼 많은 GPU를 계속 돌릴 수 없다. 그래서 온디바이스 모델은 작고 빠르며 안정적이어야 한다. 이 지점에서 모델 경량화와 하드웨어 가속기가 중요해진다.

엣지: 현장 가까이 있는 중간 두뇌

엣지 컴퓨팅은 데이터를 만드는 현장 가까이에 컴퓨팅 자원을 두는 방식이다. 온디바이스가 장치 내부라면, 엣지는 공장 안 서버, 매장 내 게이트웨이, 물류센터의 로컬 서버처럼 여러 장치와 가까운 중간 계층이라고 볼 수 있다.

예를 들어 스마트 팩토리에 50대의 검사 카메라와 10대의 로봇 팔이 있다고 하자. 모든 카메라에 고성능 AI 칩을 넣으면 비용이 커진다. 반대로 모든 영상을 클라우드로 보내면 지연시간과 네트워크 비용이 커진다. 이때 공장 안에 엣지 서버를 두면 카메라 영상 일부를 현장에서 분석하고, 로봇 팔에는 필요한 판단만 빠르게 전달할 수 있다.

엣지는 여러 장치를 함께 조정할 때도 유용하다. 물류센터에서 이동 로봇 여러 대가 같은 통로를 지나가면, 각 로봇은 자기 앞의 장애물을 피해야 하고, 동시에 전체 흐름도 맞춰야 한다. 로봇 내부에서는 즉각적인 충돌 회피를 수행하고, 엣지 서버에서는 주변 로봇의 위치를 모아 교통정리와 작업 배분을 할 수 있다.

정리하면 온디바이스는 가장 빠른 반응을 맡고, 엣지는 현장 단위의 조정과 실시간 분석을 맡는다. 클라우드까지 가지 않아도 되는 판단은 엣지에서 처리해 지연시간을 줄이고, 네트워크 비용도 낮춘다.

클라우드: 크게 배우고 멀리서 관리하기

클라우드는 대규모 학습과 운영 관리에 강하다. 수많은 로봇이 현장에서 모은 데이터를 한곳에 모으고, 더 큰 모델을 학습시키고, 시뮬레이션과 디지털 트윈을 돌리며, 새 모델을 검증한 뒤 다시 현장으로 배포할 수 있다.

피지컬 AI에서 클라우드의 핵심 역할은 크게 네 가지다.

첫째, 대규모 학습이다. 로봇 한 대가 경험한 데이터는 제한적이다. 그러나 여러 공장, 여러 창고, 여러 차량에서 모인 데이터를 합치면 훨씬 다양한 상황을 학습할 수 있다. 맑은 날, 비 오는 날, 조명이 어두운 통로, 사람이 많은 작업대, 드문 고장 상황까지 함께 반영할 수 있다.

둘째, 원격 모니터링이다. 운영자는 클라우드 대시보드에서 로봇의 상태, 오류 빈도, 배터리 성능, 작업 성공률, 센서 이상을 확인할 수 있다. 현장에 직접 가지 않아도 문제가 반복되는 구역이나 장비를 찾을 수 있다.

셋째, 플릿 러닝이다. 플릿은 같은 목적을 가진 장치들의 집단을 뜻한다. 플릿 러닝은 여러 대의 로봇이나 차량이 현장에서 얻은 경험을 모아 전체 시스템을 개선하는 방식이다. 한 로봇이 특정 상자를 자주 놓친다면, 그 실패 데이터를 클라우드에서 분석하고 모델을 개선한 뒤 다른 로봇에도 업데이트할 수 있다. 한 대의 실패가 전체의 학습 재료가 되는 구조다.

넷째, 업데이트와 버전 관리다. 피지컬 AI는 배포 후에도 끝나지 않는다. 모델이 바뀌고, 센서가 교체되고, 작업 환경이 달라진다. 클라우드는 어떤 로봇이 어떤 모델 버전을 쓰는지 관리하고, 문제가 생기면 이전 버전으로 되돌리는 롤백도 지원한다. AWS는 피지컬 AI 구조를 설명하면서 클라우드가 학습, 시뮬레이션, 텔레메트리 수집, 플릿 관리, 모델 업데이트를 맡고, 엣지 장치는 실시간 추론과 물리적 상호작용을 맡는 구조를 제시한다.¹

지연시간은 안전거리로 바뀐다

피지컬 AI에서 지연시간은 단순한 성능 지표가 아니다. 실제 거리와 위험으로 바뀐다. 지연시간은 센서가 신호를 감지한 순간부터 판단이 내려지고 행동 명령이 실행되기까지 걸리는 시간이다.

산업용 협동 로봇이 초당 2미터로 움직인다고 하자. 판단이 100밀리초 늦으면 로봇은 그 사이 약 20센티미터를 더 움직인다. 200밀리초면 약 40센티미터다. 작업자와 로봇이 가까이 일하는 셀에서는 이 거리가 충분히 큰 차이를 만든다. 실제 산업 로봇 안전 논의에서도 카메라 데이터를 원격 서버로 보내고 결과를 다시 받는 구조는 100~200밀리초 수준의 왕복 지연을 만들 수 있으며, 빠르게 움직이는 로봇에서는 이 지연이 안전 구역 확대나 속도 저하로 이어진다는 지적이 있다.²

자율주행차도 마찬가지다. 시속 60킬로미터로 달리는 차량은 1초에 약 16.7미터를 이동한다. 50밀리초만 늦어도 약 0.8미터를 더 간다. 100밀리초면 약 1.7미터다. 보행자가 갑자기 도로로 들어오거나 앞차가 급정거하는 상황에서는 이 차이가 제동 거리와 충돌 가능성을 바꾼다.

따라서 안전과 직접 연결된 판단은 가능한 한 로컬에서 처리해야 한다. 사람 감지, 긴급 정지, 충돌 회피, 자세 안정화, 힘 제한 같은 기능은 네트워크 왕복에 의존하면 안 된다. 클라우드는 분석과 학습에는 강하지만, 즉시 멈춰야 하는 순간의 최종 판단을 맡기기에는 너무 멀 수 있다.

모델을 작게 만들고 빠르게 실행하기

온디바이스와 엣지에서 AI를 돌리려면 모델을 줄이고 실행을 빠르게 만들어야 한다. 이를 모델 경량화라고 한다. 큰 모델의 성능을 최대한 유지하면서 계산량, 메모리 사용량, 전력 소모를 낮추는 과정이다.

대표적인 방법이 양자화다. 양자화는 모델 안의 숫자를 더 작은 표현으로 바꾸는 기술이다. 예를 들어 32비트 부동소수점 숫자를 8비트 정수로 바꾸면 계산과 저장이 가벼워진다. 정밀한 저울 대신 조금 덜 세밀하지만 빠른 저울을 쓰는 것과 비슷하다. 잘 적용하면 정확도 손실은 작게 유지하면서 추론 속도와 전력 효율을 크게 높일 수 있다.

가지치기도 자주 쓰인다. 가지치기는 모델 안에서 영향이 작은 연결이나 계산을 제거하는 방법이다. 또 다른 방법은 지식 증류다. 큰 모델이 배운 판단 방식을 작은 모델에 가르치는 방식이다. 큰 교사가 작은 학생을 훈련시키는 구조라고 이해하면 쉽다.

하드웨어 가속기도 중요하다. GPU는 많은 계산을 병렬로 처리하는 데 강하다. NPU는 신경망 계산을 위해 설계된 전용 칩이다. TPU, FPGA, ASIC 같은 가속기도 특정 AI 연산을 빠르고 전력 효율적으로 수행하도록 만들어진다. 피지컬 AI 제품에서는 같은 모델이라도 어떤 칩에서 실행하느냐에 따라 배터리 사용 시간, 발열, 제품 가격이 달라진다.

다만 경량화에는 검증이 따라야 한다. 모델을 줄였더니 드문 장애물을 놓치거나, 어두운 조명에서 사람 감지 성능이 떨어질 수 있다. 피지컬 AI에서는 평균 정확도만 보면 안 된다. 안전과 관련된 상황에서 성능이 유지되는지, 지연시간이 일정한지, 장시간 작동해도 발열로 성능이 떨어지지 않는지 확인해야 한다.

어떤 계산을 어디에 둘 것인가

좋은 아키텍처는 모든 것을 한곳에 몰아넣지 않는다. 계산의 성격에 따라 위치를 나눈다.

긴급한 제어는 온디바이스에 둔다. 충돌 회피, 비상 정지, 균형 유지, 모터 제어처럼 수 밀리초에서 수십 밀리초 안에 반응해야 하는 기능이다. 네트워크가 끊겨도 반드시 작동해야 한다.

현장 단위 판단은 엣지에 둔다. 여러 로봇의 동선 조정, 생산 라인의 불량 탐지, 현장 영상의 1차 필터링, 로컬 이상 감지처럼 빠르지만 장치 한 대만으로는 처리하기 어려운 기능이다.

장기 학습과 운영 관리는 클라우드에 둔다. 대규모 데이터 저장, 모델 재학습, 디지털 트윈 시뮬레이션, 플릿 성능 분석, 원격 진단, 업데이트 배포가 여기에 해당한다. 클라우드는 즉각적인 반응보다 넓은 시야와 큰 계산 능력이 필요한 일에 적합하다.

이 구조를 감지–판단–행동–피드백 흐름으로 다시 보면 더 분명해진다. 센서는 현장에서 현실을 감지한다. 온디바이스와 엣지는 즉시 필요한 판단을 내리고 행동을 만든다. 행동 결과와 운영 데이터는 다시 모이고, 클라우드는 그 피드백을 장기 학습으로 바꾼다. 개선된 모델은 검증을 거쳐 다시 현장으로 내려온다.

피지컬 AI의 배포는 모델 파일을 장치에 넣는 일이 아니다. 현실의 시간, 전력, 네트워크, 비용, 유지보수 조건 안에서 지능이 안정적으로 작동하도록 배치하는 일이다. 결국 좋은 시스템은 가장 똑똑한 모델 하나가 아니라, 빠르게 반응하는 로컬 판단과 넓게 배우는 클라우드 학습이 균형을 이루는 구조에서 나온다.

참고

¹Physical AI: Building the Next Foundation in Autonomous Intelligence

²Closing the latency gap: Why physical AI requires edge-first architectures