2025년 Google은 신뢰할 수 있는 실행 환경인 TEE 기법을 서버 측 오케스트레이션과 결합하여, 연산 과정 전반을 외부에서 검증할 수 있는 차세대 Federated Learning 시스템을 정식 발표했습니다.1 이는 2017년 Google이 데이터 중앙화 없이 사용자 기기 내부에서 모델을 학습시키는 기법으로 Federated Learning을 처음 도입한 이래, 프라이버시 보증과 인프라 처리 성능을 동시에 끌어올린 핵심적 기술 전환점입니다.12 기존 온디바이스 연산 중심 구조에서 발생하던 수개월 단위의 학습 지연 문제를 서버 병렬화와 하드웨어 보안으로 해결함에 따라, 프라이버시 민감 데이터를 활용하는 AI 서비스 개발의 실행 가능성이 비약적으로 향상되었습니다.13
이번 차세대 Federated Learning 패러다임은 모바일 키보드 서비스인 Gboard의 영어 및 일본어 다음 단어 예측 모델 배포 환경에 이미 실무 적용되어 성능을 입증했습니다.1 기존의 온디바이스 학습 방식에서는 단일 모델 학습에 1~2개월의 기간이 소요되는 심각한 성능 병목이 존재했으나, 서버 측 TEE 기반 처리 구조를 통해 연산 시간을 대폭 단축하는 성과를 거두었습니다.13 단순한 이론적 제안에 그치지 않고, Rekor 공공 투명성 로그와 암호화 키 관리 절차를 통해 검증 가능성을 실효적으로 구현한 점이 핵심입니다.1
엣지 연산 한계 극복: 분산 학습과 Federated Learning의 구조적 차이
일반적인 대규모 분산 학습 환경은 고속 전용 네트워크로 연결된 데이터 센터 내부에서 동일하게 분포된(i.i.d.) 데이터를 전제로 동기화 연산을 수행합니다.2 반면, Federated Learning은 각 사용자 기기에 파편화된 데이터의 비독립적이고 이질적인(non-i.i.d.) 분포 특성을 수용하며, 클라이언트의 불규칙한 접속 상태와 연산 자원 제약을 전제로 설계됩니다.2 2017년 연합 학습 개념 도입 초기에는 개별 단말기가 로컬 데이터로 직접 기울기(gradient)를 계산했으나, 단말기의 메모리 한계, 배터리 소모, 주간 가용성 변동 등으로 인해 모델 학습 주기가 1~2개월까지 지연되는 한계가 명확했습니다.123
Google이 2025년 제시한 새로운 Federated Learning 구조는 온디바이스의 연산 부담을 서버 측으로 과감히 재배치하여 이 문제를 해소합니다.3 클라이언트 기기는 로컬에서 무거운 기계 학습 연산을 직접 수행하는 대신, 로컬 암호화 데이터를 서버로 전송하는 최소한의 역할만 담당합니다.13 연산의 핵심 축이 서버로 이동함에 따라 단말기의 자원 제약이나 네트워크 이탈에 영향받지 않고 강력한 서버 병렬 컴퓨팅 자원을 즉시 활용할 수 있게 되었습니다.13
Nest Learning Thermostat. Source: Google. 원본 및 출처 · 이미지 이용 조건. Google 및 제품 상표는 Google LLC의 상표입니다. 이 글은 Google과 제휴하거나 Google의 후원을 받아 작성되지 않았습니다.
투명성 로그 Rekor와 KMS 기반의 엔드투엔드 암호화 연산 절차
서버로 집결된 데이터를 안전하게 처리하기 위해 컨피덴셜 컴퓨팅 인프라가 작동합니다. 본 시스템은 AMD SEV-SNP 및 Intel TDX 기술 기반의 하드웨어 TEE를 활용하여, 데이터가 메모리에서 처리되는 순간에도 최고 권한 관리자조차 메모리 내부 정보나 실행 코드에 접근하거나 변조할 수 없도록 물리적 수준의 접근 격리와 무결성을 보장합니다.34
데이터의 수집부터 연산 완료까지의 보안 및 검증 체계는 네 가지 핵심 요소로 구성됩니다.
첫째, 클라이언트 기기는 암호화된 학습 예제를 업로드하기에 앞서, 익명화된 결과만 외부로 해제할 수 있도록 제한된 접근 정책(access policy)을 승인합니다.1 이때 클라이언트는 해당 접근 정책이 Rekor 공공 투명성 로그(public transparency log)에 게시될 것을 필수 조건으로 요구합니다.1
둘째, 키 관리 시스템(KMS)은 RAFT 합의 프로토콜을 기반으로 구동되는 TEE 클러스터로 구축되어 있습니다.1 KMS는 서버 측 TEE 워크로드가 Rekor에 공표된 접근 정책과 정확히 일치함을 확인한 경우에만 암호화 복호화 키를 발급합니다.1
셋째, 데이터 처리 TEE 내부에서는 TensorFlow Federated에서 파생된 프레임워크 독립적 오케스트레이션 언어인 Federated Language를 활용하여 분산 로직과 학습 루프를 제어합니다.1 만약 프라이버시 관련 로직이 파이썬 프로그램에 하드코딩되어 있다면, 런타임 시 직렬화된 정보를 파이썬 프로그램에 사이드로딩(sideloading)하여 프라이버시 검증 체계를 유지하면서도 유연하게 코드를 실행시킵니다.1
넷째, 시스템의 신뢰성을 독립적으로 검증할 수 있도록 KMS 및 데이터 처리 바이너리는 Confidential Federated Compute GitHub 저장소의 오픈소스 코드를 통해 누구나 동일하게 재현 가능하게 빌드(reproducibly built)할 수 있도록 공개되어 있습니다.1
Gboard 실무 적용 성과와 기술 도입 시 유의해야 할 제한 조건
이 새로운 시스템은 Gboard의 영어 및 일본어 다음 단어 예측 모델 출시에 실제 적용되어 그 실효성을 증명했습니다.1 과거 온디바이스 연산 방식에서 1~2개월이 걸리던 전체 모델 학습 시간은 서버 TEE의 병렬 처리 기술을 통해 대폭 단축되었습니다.13 서버 실행 시점에 기기 참여 스케줄을 동적으로 조정하고 차등 프라이버시(Differential Privacy) 파라미터를 최적화함으로써, 동일하거나 더 엄격한 프라이버시 보호 범위 내에서도 모델의 예측 정확도를 한층 개선했습니다.3
다만 본 기술을 검토할 때에는 몇 가지 명확한 기술적 제약과 수치 해석상의 전제 조건을 파악해야 합니다.
하드웨어 의존성: 본 시스템이 제공하는 프라이버시 보증은 AMD SEV-SNP 및 Intel TDX와 같은 최신 프로세서의 하드웨어 원격 증명(attestation) 및 메모리 암호화 기능에 구체적으로 의존합니다.34 지원 모듈이 없는 인프라에서는 동일한 수준의 무결성을 확보할 수 없습니다.3
부채널 공격 가능성: TEE가 메모리와 코드 실행의 무결성을 보호하지만, 하드웨어 수준의 부채널(side-channel) 정보 유출이나 하드웨어 자체의 신규 취약점 가능성은 존재하므로 연속적인 원격 증명과 보안 패치가 요구됩니다.3
벤치마크 결과의 한계: Gboard 서비스에서 측정된 연산 시간 단축과 정확도 개선은 해당 입력 예측 작업과 Google의 인프라 환경에서 확인된 사실이며, 이를 모든 머신러닝 모델이나 일반적인 업무 환경의 절대적 성능 향상으로 확대 해석해서는 안 됩니다.13
기업의 Federated Learning 기술 도입 검토 가이드라인
이번 차세대 Federated Learning 기술은 민감한 개별 데이터를 외부로 누출하지 않으면서도 고성능 AI 모델을 기동해야 하는 다양한 산업군에 명확한 활용 가치를 제공합니다. 특히 환자의 의료 기록을 보호하면서 질병 진단 모델을 공동 개발하는 의료 기관, 금융 사기(AML) 패턴을 공유하는 금융권, 사용자 입력 데이터의 보안이 필수적인 모바일 서비스 분야가 주요 대상입니다.24
해당 기술 도입을 고려하는 엔지니어링 리더와 보안 책임자는 다음의 핵심 요소들을 사전에 검증해야 합니다.
첫째, 처리 대상 데이터의 법적 규제 조건을 확인해야 합니다. 데이터를 오직 클라이언트 단말기 내부에서만 연산해야 하는지, 아니면 서버 측 TEE 내부 암호화 처리 방식을 규정상 수용할 수 있는지 법률적 검토가 선행되어야 합니다.34
둘째, 보유 중인 자체 데이터 센터나 도입 예정인 클라우드 인프라가 AMD SEV-SNP 또는 Intel TDX를 지원하는 Confidential Computing 규격을 갖추고 있는지 확인해야 합니다.34
셋째, Rekor 공공 투명성 로그 연동 체계와 Confidential Federated Compute GitHub의 오픈소스 기반 재현 가능 빌드 검증 절차를 자사의 내부 보안 감사 파이프라인에 통합할 수 있는지 평가해야 합니다.1
결론적으로 TEE 기반 차세대 Federated Learning은 기존 연합 학습의 고질적인 속도 병목을 해결하고 외부 감사 가능성을 실현한 검증된 프레임워크입니다.13 도입을 검토하는 기업은 기술적 하드웨어 요건과 내부 규제 기준을 면밀히 대조한 후 투명한 암호화 검증 절차를 중심으로 적용 범위를 단계적으로 넓혀가는 접근이 권장됩니다.13
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.