공동학습이 성능을 끌어올리는 이유

Mobile ALOHA를 처음 떠올리면 많은 사람이 이렇게 생각한다. 움직이는 로봇이니, 결국 핵심은 이동 데이터일 것이라고. 하지만 실제로는 조금 다른 그림이 나온다. 집안일 같은 긴 작업에서 로봇이 어려워하는 순간은 단지 바퀴를 굴리는 때가 아니라, 목적지에 도착한 뒤 두 팔로 물체를 다루는 바로 그 순간이다. 그래서 Mobile ALOHA의 성능을 끌어올리는 데 결정적인 역할을 한 것은 모바일 데이터만의 양이 아니라, 이미 축적된 정적 ALOHA 데이터와 함께 배우는 공동학습이었다.

모바일 데이터만으로는 왜 부족한가

이동형 로봇 과제는 보기보다 데이터가 비싸다. 테이블 위 조작만 다룰 때는 작업 공간이 비교적 좁고, 카메라 구도도 안정적이며, 실패했을 때 리셋도 쉽다. 반면 Mobile ALOHA는 방 안을 움직이고, 가구 사이를 지나가고, 문과 손잡이, 서랍, 바구니, 조리도구처럼 다양한 물체와 환경을 상대해야 한다. 한 번의 시연을 모으는 데 걸리는 시간도 길고, 실패하면 처음 위치로 되돌리는 비용도 크다.

게다가 모바일 과제는 길다. 길다는 말은 곧, 학습해야 할 상태의 종류가 많다는 뜻이다. 출발 위치가 조금만 달라도 접근 경로가 달라지고, 바닥 상태가 달라도 베이스 움직임이 미묘하게 바뀐다. 같은 냄비를 넣는 과제라도 캐비닛 문이 얼마나 열렸는지, 손잡이가 어느 각도로 놓였는지에 따라 성공 여부가 갈린다. 이런 다양성을 모두 모바일 시연만으로 덮으려면 엄청난 데이터가 필요하다.

문제는 더 있다. 긴 작업에서 정말 중요한 장면은 전체 시간 중 일부에 불과하다는 점이다. 예를 들어 싱크대로 가서 팬을 헹구는 과제를 생각해 보자. 이동 구간은 길지만, 학습 난도가 높은 부분은 결국 팬을 잡고, 각도를 맞추고, 물줄기 아래에 위치시키고, 다시 내려놓는 접촉 조작이다. 즉 모바일 데이터에는 분명 값비싼 정보가 들어 있지만, 그 안에는 조작 학습에 직접 기여하지 않는 구간도 적지 않다. 데이터는 비싼데, 유효한 학습 신호는 생각보다 희박한 셈이다.

정적 ALOHA 데이터는 어디서 힘을 발휘하는가

여기서 정적 ALOHA 데이터가 빛난다. 정적 데이터는 이동은 없지만, 양손 조작의 본질은 아주 진하게 담고 있다. 물체를 집고 놓는 타이밍, 두 손의 역할 분담, 접촉 직전의 감속, 미끄러지지 않도록 힘을 조절하는 패턴, 한 손이 지지하고 다른 손이 조작하는 협응 같은 요소들이다. 이런 능력은 로봇이 테이블 앞에 있든, 방을 가로질러 온 뒤 싱크대 앞에 섰든 크게 달라지지 않는다.

중요한 것은 Mobile ALOHA의 많은 과제가 사실상 두 단계로 나뉜다는 점이다. 먼저 이동해서 올바른 위치에 선다. 그다음 양손으로 작업한다. 이때 두 번째 단계는 정적 ALOHA가 이미 잘 다루던 문제와 상당 부분 겹친다. 다시 말해 이동형 과제는 완전히 새로운 세계가 아니라, 기존의 양손 조작 문제 위에 이동이라는 앞단이 추가된 구조에 가깝다.

이 구조를 이해하면 공동학습의 이점이 선명해진다. 정적 데이터는 로봇에게 "손으로 무엇을 해야 하는가"를 가르친다. 모바일 데이터는 거기에 "언제 어디로 가서 그 행동을 시작해야 하는가"를 덧붙인다. 하나는 조작의 문법을 주고, 다른 하나는 그 문법을 현실 공간 속에서 언제 꺼내 써야 하는지를 알려주는 셈이다.

공동학습이 성공률을 크게 끌어올리는 구조적 이유

공동학습의 효과는 단순히 데이터를 더 많이 넣었기 때문만은 아니다. 더 중요한 이유는 서로 다른 데이터가 서로의 빈칸을 메워 주기 때문이다.

첫째, 정적 데이터는 양손 조작 표현을 안정시킨다. 로봇 정책은 카메라 영상과 관절 상태에서 의미 있는 특징을 뽑아내야 하는데, 모바일 데이터만 적게 주어지면 이런 표현이 쉽게 과적합된다. 특정 방 배치나 특정 접근 경로에만 익숙해지고, 정작 손끝에서 필요한 조작의 일반성을 배우지 못할 수 있다. 정적 ALOHA 데이터는 다양한 조작 장면을 반복해서 보여 주며, 정책이 물체와 손의 관계를 더 또렷하게 이해하도록 돕는다.

둘째, 모바일 과제의 상당 부분이 조작 하위 기술의 조합이라는 점이 중요하다. 냄비를 캐비닛에 넣는 일은 새로운 과제처럼 보이지만, 실제로는 손잡이를 안정적으로 잡기, 두 손으로 물체 자세 맞추기, 좁은 공간에 넣으며 충돌 피하기 같은 익숙한 기술의 연쇄다. 정적 데이터가 이런 하위 기술을 풍부하게 담고 있으면, 모바일 데이터는 그 기술들을 어떤 순서와 맥락에서 호출해야 하는지만 가르쳐도 된다. 적은 데모로도 복잡한 작업을 배우는 이유가 여기에 있다.

셋째, 공동학습은 행동 분포를 넓혀 준다. 모바일 데이터만 있으면 정책은 몇 개의 긴 시연 경로에 과하게 묶일 수 있다. 하지만 정적 데이터가 함께 들어오면 물체 자세, 손 위치, 접촉 방식의 다양한 변형을 더 많이 보게 된다. 그러면 실제 실행 중 조금 어긋난 상태를 만나도 완전히 당황하지 않는다. 한마디로 회복력이 좋아진다.

넷째, 학습 관점에서 공동학습은 일종의 규제 효과를 낸다. 모델이 특정 모바일 장면의 우연한 상관관계에 집착하지 못하게 만들고, 여러 과제에 공통인 구조를 찾도록 압박한다. 로봇에게 필요한 것은 한 번 본 장면을 외우는 능력이 아니라, 비슷하지만 완전히 같지 않은 상황에서 적절한 행동을 꺼내는 능력이다. 공동학습은 바로 그 방향으로 모델을 밀어 준다.

관련성 높은 데이터가 양보다 중요할 때

로봇 학습에서는 "데이터가 많을수록 무조건 좋다"는 말이 절반만 맞다. 정말 중요한 것은 얼마나 많은 데이터인가보다, 그 데이터가 지금 배우려는 몸과 행동에 얼마나 가깝냐는 점이다.

정적 ALOHA 데이터가 Mobile ALOHA에 잘 전이되는 이유는 관련성이 높기 때문이다.

• 두 시스템이 비슷한 양손 조작 구조를 공유한다.

• 카메라와 관측 방식이 크게 다르지 않다.

• 그리퍼와 팔의 동작 원리가 유사하다.

• 학습해야 할 핵심 기술이 접촉 기반 양손 조작이라는 점에서 겹친다.

반대로 전혀 다른 몸, 전혀 다른 시야, 전혀 다른 작업 목표를 가진 데이터는 양이 많아도 도움이 제한적일 수 있다. 예를 들어 바퀴 달린 집안일 로봇이 배워야 하는 것은 물체를 부드럽게 잡고, 두 손을 맞추고, 좁은 공간에서 자세를 조절하는 기술인데, 이런 공통점이 약한 데이터는 학습을 넓히기보다 오히려 흐리게 만들 수도 있다.

즉 공동학습의 핵심은 잡다한 데이터를 쌓는 데 있지 않다. 서로 다른 데이터 조각들 사이에 어떤 행동 공통분모가 있는지 찾아내고, 그 공통분모를 중심으로 묶는 데 있다. 이 관점은 앞으로 로봇 데이터셋을 설계할 때 아주 중요해진다.

데이터 재사용이 만든 경제성

공동학습이 반가운 또 하나의 이유는 경제성이다. 모바일 데이터를 새로 대량 수집하는 일은 시간도 많이 들고 장비 부담도 크다. 그런데 기존 정적 ALOHA 데이터가 재사용 가능하다면, 연구자는 이미 가지고 있는 자산을 바탕으로 더 어려운 과제로 올라갈 수 있다. 이는 단순한 성능 향상을 넘어, 연구 속도 자체를 바꾸는 요소다.

이 말은 곧 로봇 개발의 병목이 하드웨어 구매 비용만이 아니라, 데이터를 얼마나 재활용 가능한 형태로 모아 두었는가에도 있다는 뜻이다. 잘 정리된 데이터셋, 일관된 관측 형식, 비슷한 행동 공간은 미래의 새로운 과제를 위한 일종의 저축 계좌가 된다. 오늘 모은 시연이 내일 다른 로봇 행동의 밑천이 되는 것이다.

멀티태스크 로봇 학습으로 가는 징검다리

공동학습의 진짜 의미는 단지 Mobile ALOHA의 성공률을 올렸다는 데서 끝나지 않는다. 그것은 로봇 학습이 앞으로 어떤 방향으로 가야 하는지를 보여 주는 힌트다. 미래의 가정용 로봇은 설거지만 하고 끝나지 않는다. 물건 정리도 하고, 문도 열고, 세탁물도 다뤄야 한다. 그러려면 하나의 거대한 작업을 위한 전용 정책보다, 여러 과제에 걸쳐 재사용되는 행동 표현이 필요하다.

이때 중요한 전략은 명확하다. 서로 관련 있는 과제를 함께 묶고, 공통되는 조작 기술을 공유하도록 학습시키는 것이다. 어떤 데이터는 이동을 가르치고, 어떤 데이터는 양손 조작을 가르치고, 어떤 데이터는 도구 사용을 가르칠 수 있다. 이 조각들이 잘 연결되면 로봇은 과제별로 처음부터 새로 배우지 않아도 된다.

결국 공동학습은 로봇판 전이학습의 가장 현실적인 형태라고 볼 수 있다. 적은 모바일 데모만으로도 복잡한 일을 배우게 해 주는 이유는, 로봇이 이미 다른 과제에서 익힌 손의 언어를 가지고 있기 때문이다. Mobile ALOHA는 바로 그 사실을 보여 주었다. 로봇의 지능은 한 번에 완성되는 것이 아니라, 관련 있는 경험들이 층층이 쌓이며 자라난다.

더 많이보다 더 잘 연결하기

이 장의 핵심은 단순하다. 복잡한 이동형 집안일 로봇을 만들고 싶다면, 모바일 데이터만 죽어라 모은다고 답이 나오지 않는다. 물론 새 데이터는 필요하다. 하지만 정말 큰 도약은 기존 데이터와 새 데이터를 어떻게 연결하느냐에서 나온다.

정적 ALOHA 데이터는 양손 조작의 기초 체력을 길러 주고, Mobile ALOHA 데이터는 그 체력을 현실 공간 속 임무로 연결한다. 그래서 공동학습은 덧셈이 아니라 곱셈에 가깝다. 하나의 데이터가 다른 데이터의 가치를 키워 주기 때문이다.

로봇 AI의 경쟁력이 모델 크기 경쟁만으로 결정되지 않는 이유도 여기에 있다. 누가 더 많은 행동을 모았는가만큼이나, 누가 더 관련성 높은 데이터를 축적하고, 그것들을 더 영리하게 재사용하는가가 중요하다. Mobile ALOHA가 던진 메시지는 분명하다. 좋은 행동 데이터는 모으는 것만으로 끝나지 않는다. 서로 이어 붙일 때 비로소 더 큰 지능이 된다.