ALOHA 데이터 파이프라인

좋은 시연이 있다고 해서 로봇이 저절로 똑똑해지지는 않는다. 사람의 손놀림은 그대로 두면 그저 지나가는 움직임일 뿐이다. 그것이 학습 가능한 데이터가 되려면, 과제가 잘 정의되어 있어야 하고, 카메라와 관절 정보가 같은 시간축 위에 놓여야 하며, 나중에 다시 꺼내 보고 재생하고 비교할 수 있는 저장 형식도 필요하다. ALOHA의 진짜 힘은 양손 원격조작 하드웨어 자체에만 있지 않다. 인간 시연을 에피소드로 수집하고, 구조화하고, 검증하고, 다시 학습으로 연결하는 파이프라인에 있다.

이 장에서는 바로 그 흐름을 따라가 보자. 사람의 한 번의 시연이 어떻게 로봇 정책의 한 조각으로 바뀌는지, 현장에서 실제로 중요한 순서대로 해부해 보겠다.

시연은 파일이 아니라 에피소드다

ALOHA 계열에서 데이터 수집의 기본 단위는 한 프레임도, 한 동작도 아니라 에피소드다. 에피소드는 시작 상태에서 출발해 어떤 과제를 끝낼 때까지 이어지는 하나의 완결된 시연이다. ALOHA 문서에서도 과제 이름, 데이터 저장 경로, 에피소드 길이, 사용할 카메라 이름을 먼저 정하고, 그 설정에 맞춰 episode_0.hdf5, episode_1.hdf5 같은 식으로 시연을 쌓아 간다.¹

이 방식이 중요한 이유는 로봇 행동이 본질적으로 맥락 의존적이기 때문이다. 예를 들어 테이프를 잡아 당기는 동작만 잘라 놓으면, 그 앞에서 어느 손이 물체를 고정했는지, 뒤에서 어디에 놓아야 하는지 정보가 사라진다. 반대로 에피소드 단위로 저장하면 접근, 접촉, 조정, 마무리까지 한 줄기의 이야기처럼 남는다. ACT 같은 모방학습 모델이 배우는 것도 사실 개별 숫자보다 이런 시간적 흐름이다.

과제 설계에서 중요한 것은 거창한 이름보다 경계가 분명한 일감을 만드는 것이다. 실무에서는 보통 세 가지를 먼저 고정한다.

• 시작 상태: 물체 위치, 로봇 초기 자세, 사람의 리셋 절차가 매번 크게 흔들리지 않아야 한다.

• 종료 조건: 성공이 무엇인지, 어디서 기록을 멈출지 명확해야 한다.

• 변동 범위: 물체 위치나 각도를 어느 정도 무작위화할지 미리 정해야 일반화와 난이도를 함께 관리할 수 있다.

에피소드 길이도 은근히 중요하다. 너무 짧으면 중요한 보정 동작이 잘리고, 너무 길면 대기 시간과 잡동작이 늘어나 신호 대 잡음비가 나빠진다. 다시 말해, 좋은 데이터셋은 많이 모은 데이터셋이 아니라 같은 과제를 일관된 형식으로 반복 수집한 데이터셋이다. ALOHA 문서에 자동 반복 수집 스크립트가 따로 들어 있는 것도 이 때문이다. 사람은 쉽게 지치고, 지친 조작자는 곧 데이터 품질 저하로 이어지기 때문이다.¹

카메라는 눈이 아니라 문맥이다

ALOHA를 처음 보면 카메라가 왜 이렇게 많이 필요하냐고 묻기 쉽다. 하지만 로봇 조작에서 한 장면은 한 각도로 충분하지 않다. 원래 ALOHA는 네 개의 RGB 카메라를 사용한다. 위에서 내려다보는 고정 카메라와 작업대 전면 쪽 시야를 보는 고정 카메라, 그리고 좌우 손목 카메라 두 대다. 공개 자료에서도 480×640 해상도의 멀티뷰 RGB 관측이 정책 입력의 핵심으로 제시된다.²

여기서 손목 카메라가 특히 중요하다. 위쪽 카메라만 있으면 작업 전체 배치는 잘 보이지만, 실제 접촉 순간은 자주 가려진다. 두 손이 서로를 가리고, 그리퍼가 작은 부품을 덮고, 삽입 순간에는 깊이 감각도 애매해진다. 반면 손목 카메라는 그리퍼 바로 옆에서 물체를 보므로, 접촉 직전의 미세한 정렬 차이와 손가락 주변의 상태를 더 잘 보여 준다. 로봇이 "지금 거의 맞았는지, 아직 빗나갔는지"를 배우려면 이런 근접 시점이 꼭 필요하다.

고정 카메라와 손목 카메라는 역할이 다르다. 고정 카메라는 장면의 큰 문맥을 준다. 컵이 테이블 어디에 있는지, 왼손과 오른손이 서로 어떤 배치를 이루는지, 작업이 얼마나 진행됐는지를 보여 준다. 손목 카메라는 국소 정보에 강하다. 어느 손가락이 먼저 닿았는지, 그리퍼가 물체를 얼마나 깊게 물고 있는지, 삽입 입구가 살짝 왼쪽으로 틀어졌는지 같은 정보가 여기에 담긴다. 둘을 함께 써야 로봇은 숲과 나무를 동시에 본다.

이 멀티뷰 구성은 단지 성능을 조금 올려 주는 옵션이 아니다. 양손 조작에서는 한 손의 실패가 다른 손의 실패로 이어지기 쉽다. 그래서 정책은 한 손목 근처의 미세한 장면과 두 팔 전체의 관계를 함께 이해해야 한다. 멀티뷰 카메라는 바로 그 관계를 데이터에 새겨 넣는 장치다.

몸의 숫자를 어떻게 기록하나

카메라가 바깥세계를 본다면, 관절 상태와 행동 명령은 로봇의 몸 안쪽에서 무슨 일이 일어났는지를 기록한다. ALOHA의 기본 데이터셋 형식에는 이미지뿐 아니라 qpos, qvel, action이 함께 저장된다. 정적인 ALOHA에서는 양팔과 그리퍼를 포함한 14차원 상태와 행동이 기록되고, Mobile ALOHA에서는 여기에 모바일 베이스의 선속도와 각속도까지 더해져 팔 14차원과 베이스 2차원을 합친 16차원 행동 벡터로 다뤄진다.¹³

여기서 중요한 것은 숫자의 종류보다 시간 정렬이다. 같은 시점의 이미지와 관절 상태와 행동 명령이 정확히 맞물려야 정책이 배울 수 있다. 만약 카메라 프레임은 100밀리초 늦게 들어오고, 행동 명령은 현재 시각 기준으로 기록된다면 어떤 일이 벌어질까. 데이터셋 안에서는 "조금 전에 본 장면"에 대해 "지금 낸 행동"이 짝지어진다. 사람 눈에는 별 차이 없어 보여도, 학습 모델 입장에서는 원인과 결과가 비틀린 셈이다. 그러면 정책은 괜히 늦게 반응하거나, 접촉 직전에 머뭇거리거나, 손이 한 박자 늦게 닫히는 습관을 배운다.

양손 조작에서는 이 문제가 더 심각하다. 한 손이 물체를 잡고 다른 손이 밀어 넣는 작업을 생각해 보자. 왼손의 고정 동작과 오른손의 삽입 동작은 따로 보면 단순하지만, 실제로는 같은 리듬 안에 있어야 한다. 어느 한쪽의 타임스탬프가 어긋나면 두 손의 협응이 데이터 속에서 이미 깨져 버린다.

그래서 좋은 파이프라인은 단순히 많이 기록하는 파이프라인이 아니라, 같은 순간을 여러 센서에서 같은 순간으로 저장하는 파이프라인이다. ALOHA와 Mobile ALOHA가 강한 이유도 여기에 있다. 사람의 양손 조작과, 필요하면 모바일 베이스의 움직임까지 동시에 기록하여 하나의 행동 시퀀스로 묶어 내기 때문이다.³

저장 형식이 재현성을 만든다

수집이 끝났다고 데이터가 끝난 것은 아니다. 진짜 실무는 그다음부터 시작된다. 파일을 다시 열 수 있어야 하고, 특정 에피소드만 골라서 볼 수 있어야 하며, 정책이 왜 실패했는지 거꾸로 추적할 수도 있어야 한다. ALOHA는 이런 목적에 맞춰 에피소드를 HDF5 형식으로 저장한다. 이미지들은 카메라별 그룹 아래 구조적으로 들어가고, 관절 상태와 속도, 행동 명령은 같은 파일 안에 배열 형태로 정리된다.¹

HDF5의 장점은 단순하다. 한 에피소드의 멀티모달 데이터를 한 파일에 묶어 두기 좋고, 나중에 필요한 키만 골라 읽기 쉽다. 연구자가 episode_37을 열어 손목 카메라만 확인할 수도 있고, 같은 에피소드의 qpos와 action만 꺼내 그래프로 볼 수도 있다. 파일 이름과 내부 키 구조가 일정하면, 실험 코드와 시각화 코드와 평가 코드가 모두 같은 데이터를 공유하기도 쉽다.

여기서 재생 도구와 시각화 도구의 가치가 드러난다. ALOHA 문서에는 기록된 에피소드를 다시 실행해 보는 재생 스크립트가 있고,¹ ACT 저장소에는 HDF5 에피소드를 비디오처럼 확인하는 visualize_episodes.py가 포함돼 있다.⁴ 이런 도구는 보기 좋으라고 있는 것이 아니다. 데이터가 제대로 저장되었는지, 프레임 누락은 없는지, 카메라가 엉뚱한 방향을 보고 있지는 않은지, 정책이 망가진 이유가 원래 데이터에 있었는지 바로 확인하게 해 준다.

연구가 꼬일 때 의외로 자주 나오는 대답이 이것이다. "모델이 나쁜 게 아니라 데이터셋의 12번 카메라가 뒤집혀 있었다." 로봇 학습에서는 이런 일이 전혀 우스운 농담이 아니다. 그래서 재생 가능성은 편의 기능이 아니라 재현성의 핵심이다. 오늘 수집한 데이터를 다음 주에도 같은 방식으로 읽고 확인할 수 있어야 실험이 과학이 된다.

실패 분석은 버리는 작업이 아니라 배우는 작업이다

많은 초보자가 데이터 정제를 단순 청소로 생각한다. 흐릿한 장면, 끊긴 파일, 실패한 시연을 좀 치우는 일 정도로 여긴다. 하지만 실제로는 여기서 정책 성능이 크게 갈린다. 같은 50개 시연이라도 어떤 50개를 남기느냐에 따라 학습 결과가 완전히 달라질 수 있다.

예를 들어 이런 장면들을 떠올려 보자. 조작자가 시작 버튼을 누른 뒤 한참 동안 손을 안 움직인다. 물체를 놓쳤는데 다시 집으려고 급히 몸을 틀면서 카메라를 가린다. 왼손은 성공 궤적을 따라가는데 오른손 그리퍼는 한 번 잘못 닫혀 버린다. 이런 에피소드는 모두 "데이터는 있다"는 점에서는 똑같지만, 정책이 배워야 할 패턴으로는 질이 다르다.

실무에서는 보통 세 가지를 먼저 본다.

• 시작과 끝의 불필요한 구간이 너무 긴지 본다.

• 센서 누락, 프레임 드롭, 동기화 이상이 있는지 확인한다.

• 실패 에피소드라면 왜 실패했는지 태그를 남긴다.

여기서 중요한 것은 실패 데이터를 무조건 지우지 않는 것이다. 행동 복제 학습용 주 데이터셋에는 성공 시연 위주로 넣는 편이 일반적이지만, 실패 에피소드는 디버깅의 보물창고다. 정책이 특정 물체를 자주 놓친다면, 원격조작 시연에서도 같은 지점에서 손목 시야가 가려졌는지 확인할 수 있다. 어떤 과제에서만 성능이 유난히 낮다면, 그 과제의 에피소드 길이가 지나치게 길어 중간에 조작자가 여러 번 자세를 다시 잡았는지도 볼 수 있다.

즉, 데이터 정제는 예쁜 데이터셋 만들기가 아니다. 정책이 무엇을 배우고 무엇에서 헷갈리는지 파악하는 역공학에 가깝다. 로봇이 자꾸 컵을 비껴 잡는다면, 정답은 더 큰 모델이 아니라 손목 카메라의 시야를 약간 바꾸는 일일 수도 있다. 혹은 시작 상태의 무작위화 범위를 줄여 초반 학습을 안정화하는 일일 수도 있다. 실패 분석은 바로 이런 결정을 가능하게 한다.

파이프라인 전체가 곧 모델이다

이쯤 되면 중요한 사실이 하나 선명해진다. 로봇 학습은 모델 하나로 설명되지 않는다. 사람의 시연을 에피소드로 나누는 방식, 카메라를 어디에 다는지, 관절 상태와 행동 명령을 얼마나 정확히 동기화하는지, HDF5로 어떻게 저장하고 다시 재생하는지, 실패를 어떤 기준으로 분류하고 정제하는지까지 모두 합쳐져야 비로소 하나의 학습 시스템이 된다.

ALOHA 데이터 파이프라인의 교훈은 명확하다. 좋은 행동 데이터는 우연히 생기지 않는다. 저비용 양손 원격조작 하드웨어가 사람의 능숙한 손놀림을 받아들이고, 멀티뷰 카메라가 장면의 문맥을 붙잡고, 상태와 행동 로그가 몸의 내부 리듬을 기록하고, 저장·재생·정제 도구가 그 기록을 다시 검증한다. 그 위에서야 ACT 같은 모방학습 모델이 비로소 힘을 발휘한다.

그래서 ALOHA를 단순한 로봇 팔 조립 키트로 보면 핵심을 놓치게 된다. ALOHA는 사실상 행동 데이터를 만드는 공장이다. 그리고 그 공장의 품질은 로봇 정책의 품질과 거의 같은 뜻이다.

다음 장에서 보게 될 ALOHA 2는 바로 이 지점에서 등장한다. 더 좋은 정책을 원한다면 더 거대한 모델만이 아니라, 더 오래 조작해도 덜 피곤하고, 더 잘 잡히고, 더 안정적으로 기록되는 하드웨어가 필요하다. 결국 로봇의 지능은 코드에서만 자라지 않는다. 손끝에서 시작된 데이터가 파이프라인을 통과하며 조금씩 더 똑똑해진다.

참고

¹ALOHA Documentation: Data Collection

²Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware

³Mobile ALOHA: Learning Bimanual Mobile Manipulation with Low-Cost Whole-Body Teleoperation

⁴ACT GitHub Repository