Google Research가 연합 학습의 한계를 넘어선 방법: Federated Learning TEEs의 작동 원리와 의의
Google Research는 기존 스마트폰 엣지 기기에서 수행하던 모델 학습용 그레디언트(Gradient, 경사도) 연산을 서버 측의 인증된 신뢰 실행 환경(TEEs, Trusted Execution Environments)으로 이전하고, 이를 외부에서 검증할 수 있는 차분 개인정보 보호(Differential Privacy) 시스템과 결합한 Federated Learning TEEs 기술을 공개했습니다.12 이 시스템은 구글의 모바일 키보드 앱인 Gboard의 영어 및 일본어 차순 단어 예측 모델 학습에 이미 도입되었으며, 기존 연합 학습 방식보다 연산 속도를 대폭 개선하는 동시에 서버 운영자조차 원시 데이터에 접근할 수 없는 수준의 보안성을 확보했습니다.12
이번 기술의 핵심은 연합 학습의 고질적 문제였던 '기기 성능의 한계'와 '서버 운영자에 대한 맹목적 신뢰'를 하드웨어 기반의 보안 기술과 공개 투명성 로그로 해결했다는 점입니다. Google Research는 데이터 처리 정책을 Sigstore의 Rekor 로그에 게시하고 실행 바이너리를 재현 가능하게 빌드하여, 외부 감사자가 중앙 서버의 차분 개인정보 보호 적용 여부를 직접 확인할 수 있는 환경을 구축했습니다.12
하드웨어 보안 영역으로 연산 주도권을 옮긴 Federated Learning TEEs
연합 학습(Federated Learning)은 데이터를 중앙 서버로 수집하지 않고 각 기기 내에서 로컬로 모델을 학습시킨 뒤, 업데이트된 파라미터(가중치)만 서버로 보내 공유 모델을 개선하는 방식입니다.3 동일한 데이터 스키마를 가진 여러 기기에서 학습하는 수평적 연합 학습은 Gboard의 예측 텍스트나 스마트 기기 개인화 서비스에 널리 쓰여 왔습니다.3
그러나 기존 방식은 온디바이스(On-device) 연산에 전적으로 의존했기 때문에, 사용자 기기의 성능 차이나 배터리 상태, 그리고 기기 사용량이 적은 야간에만 학습이 활발해지는 일주기(diurnal) 변동 현상에 의해 학습 속도가 크게 제한되었습니다.2 Federated Learning TEEs는 이러한 병목 현상을 해결하기 위해 연산 과정을 서버 측 TEEs로 이동시켰습니다.2 TEEs는 단일 머신 수준에서 원격 증명(Remote Attestation), 기밀성, 무결성 속성을 제공하는 하드웨어 보안 영역입니다.2
이 시스템에서 클라이언트 기기는 훈련 예제를 로컬에서 암호화하여 업로드하며, 이 데이터는 서버 측 TEEs 내부에서만 복호화되어 처리됩니다.2 이를 통해 서버 실행 시점에 최적의 기기 참여 일정을 동적으로 계산할 수 있게 되었으며, Gboard 적용 사례에서 이전 시스템보다 실질적으로 더 빠른 연산 시간을 기록할 수 있었습니다.2
Nest Learning Thermostat. Source: Google. 원본 및 출처 · 이미지 이용 조건. Google 및 제품 상표는 Google LLC의 상표입니다. 이 글은 Google과 제휴하거나 Google의 후원을 받아 작성되지 않았습니다.
외부 검증을 통한 신뢰의 객관화: Rekor와 KMS의 결합
과거의 연합 학습 시스템은 서버 운영자가 데이터를 로그에 남기거나 무단으로 조사하지 않는다는 '신뢰'에 의존해야 했습니다. 하지만 Federated Learning TEEs 구조에서는 사용자가 데이터 업로드 전, 자신의 데이터를 처리할 수 있는 허용된 연산 집합인 '액세스 정책(Access Policy)'을 미리 승인합니다.2
이 액세스 정책은 Sigstore의 Rekor라는 공공 투명성 로그에 게시됩니다.12 시스템의 보안을 유지하는 핵심 구성 요소는 다음과 같습니다.
키 관리 시스템(KMS): RAFT 합의 프로토콜을 구현하는 TEE 클러스터로 구성된 KMS는, 실행하려는 서버 측 워크로드가 Rekor 로그에 게시된 액세스 정책과 정확히 일치할 때만 복호화 키를 발급합니다.2
재현 가능한 빌드와 투명성: 시스템에 사용되는 바이너리는 오픈 소스 코드로부터 누구나 똑같이 빌드할 수 있도록 설계되었습니다. 외부 감사자는 Rekor 로그와 재현 가능한 빌드를 대조하여 실제 실행 중인 프로그램이 약속된 데이터 보호 로직을 따르는지 확인할 수 있습니다.2
동적 사이드로딩(Dynamic Sideloading): 기업의 독자적인 모델 구조나 전처리 로직은 실행 시점에 파이썬 프로그램으로 주입(sideloading)할 수 있습니다. 개인정보 보호와 직결된 핵심 학습 로직은 하드코딩하여 검증 가능하게 유지하면서도, 기업의 기밀 로직은 유연하게 운영할 수 있는 구조입니다.2
확장된 연산 효율성과 차분 개인정보 보호의 진화
Google Research는 기존에 분산 차분 개인정보 보호(DDP)를 적용하여 스마트 텍스트 셀렉션(Smart Text Selection) 모델의 암기(memorization) 현상을 2배 이상 감소시킨 바 있습니다.4 이번 Federated Learning TEEs는 여기서 한 걸음 더 나아가, 중앙 집중형 차분 개인정보 보호(DP) 가중치와 메트릭만을 운영자에게 노출함으로써 데이터 미니멀라이제이션(최소화) 원칙을 강화했습니다.2
연산 처리량 개선을 위한 기술적 최적화도 포함되었습니다. 보안 집계(SecAgg) 프로토콜을 개선하여 기기당 연산량이 참여 클라이언트 수(N)에 대해 로그(logarithmic) 스케일로 확장되도록 설계했으며, 통계적 방법을 통해 타임아웃 윈도우를 자동 튜닝함으로써 전체 처리량을 향상시켰습니다.4 또한, 훈련 워크로드 실행 전 기기 업로드를 모두 수집하는 방식을 통해 기기 가용성의 일주기 변동이 학습 진행에 미치는 영향을 차단했습니다.2
훈련 루프가 종료될 때마다 KMS로 암호화된 복구 상태를 저장하는 '결함 허용 복구(Fault-tolerant recovery)' 기능을 지원하여, 서버 장애 시에도 추가적인 개인정보 유출 없이 학습을 이어갈 수 있도록 설계되었습니다.2
기술 도입 시 고려사항 및 한계
Federated Learning TEEs 기술은 개인정보 보호와 대규모 AI 학습 성능을 동시에 잡으려는 조직에 강력한 도구입니다. 하지만 도입 전 다음의 제약 사항을 반드시 확인해야 합니다.
하드웨어 부채널 공격(Side-channel Attacks): TEEs가 강력한 하드웨어 보호를 제공하더라도 부채널 관측을 통한 미세한 정보 유출 가능성은 연구 대상이며, 이에 대한 완화책이 필요합니다.2
구현의 복잡성: 공개 투명성 로그 연동, RAFT 기반 KMS 클러스터 구축, 재현 가능한 빌드 파이프라인 확보 등 기존 서버 운영보다 훨씬 높은 수준의 인프라 관리가 요구됩니다.2
실행 시점의 제약: 암호화된 데이터는 업로드 후 특정 기간 동안만 TEEs에서 복호화 및 처리가 가능하도록 제한되므로, 데이터 생명주기 관리에 주의해야 합니다.2
이 시스템은 의료 데이터 분석이나 금융 사기 탐지처럼 민감한 정보를 다루면서도 최신 AI 모델의 성능을 포기할 수 없는 환경에서 특히 유용합니다.[3] 조직의 도입 기준을 검토할 때는 오픈 소스 기반의 Confidential Federated Compute 저장소를 통해 재현 가능성을 먼저 확인하고, 내부 정책이 Sigstore Rekor와 같은 투명성 로그 시스템을 수용할 수 있는지 우선 점검해야 합니다.12
참고
2Toward provably private learning from federated data
3Federated learning: what it is and how it works | Google Cloud
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.