Epoch AI 추정에 따르면 구글은 전 세계 AI 컴퓨트의 약 25%를 보유하고 있습니다. 보유 칩 수는 TPU 약 380만 개, GPU 약 130만 개 수준으로 제시됐고, 파이낸셜타임스는 이를 구글의 공격적인 AI 인프라 투자와 연결해 보도했습니다.12
지금 이 숫자가 중요한 이유는 단순히 "구글이 칩이 많다"는 얘기가 아니기 때문입니다. AI 경쟁의 중심이 모델 데모에서 실제 서비스 운영으로 이동하면서, 누가 더 많은 컴퓨트에 안정적으로 접근할 수 있는지가 곧 원가, 속도, 제품 품질, 그리고 고객 유치력으로 이어지고 있습니다.
구글의 우위는 GPU가 아니라 TPU에서 나온다
확인 가능한 사실부터 보겠습니다. Epoch AI는 2025년 4분기 기준 주요 컴퓨트 보유 기업을 비교했을 때 구글이 가장 큰 AI 컴퓨트 풀을 갖고 있다고 추정합니다.2 이 우위의 핵심은 엔비디아 GPU를 많이 샀기 때문이 아니라, 오랫동안 자체 설계해 온 TPU에 있습니다.3
이 점은 해석상 꽤 중요합니다. 지금 시장의 표준은 여전히 엔비디아입니다. CUDA 생태계, 개발 툴, 범용성, 공급망 영향력까지 감안하면 GPU는 가장 쉽게 사고 가장 넓게 쓸 수 있는 선택지입니다. 반면 TPU는 구글 내부 워크로드와 구글 클라우드에 더 강하게 묶입니다. 즉, 구글의 강점은 "칩 수량" 자체보다 "자체 최적화된 폐쇄형이지만 거대한 컴퓨트 체계"에 가깝습니다.
실무적으로는 이 차이가 큽니다. AI 스타트업이나 엔터프라이즈 고객 입장에서는 단순 성능보다도 다음이 중요합니다. 내가 원하는 프레임워크가 잘 도는지, 특정 모델을 쉽게 이식할 수 있는지, 공급이 안정적인지, 가격이 예측 가능한지입니다. TPU가 늘어난다고 해서 모두가 바로 GPU 대체를 선택하는 것은 아닙니다. 하지만 구글은 최소한 "엔비디아 물량을 못 구해 사업이 멈추는" 리스크를 줄일 수 있는 위치에 더 가까워졌습니다.
이 투자가 과한가? 구글은 이미 매출로 방어 논리를 만들고 있다
투자 규모가 커질수록 늘 나오는 질문은 같습니다. 이 정도 AI 인프라 지출이 정말 회수 가능한가입니다.
여기서 구글 클라우드 CEO 토마스 쿠리안의 발언이 연결됩니다. 그는 구글이 AI로 이미 수십억 달러를 벌고 있고, 클라우드 계약 잔고는 1,060억 달러이며 그중 50% 이상이 향후 2년 내 매출로 전환될 것이라고 말했습니다.14 구글 클라우드의 2025년 2분기 매출도 전년 대비 32% 증가한 136.2억 달러로 제시됐습니다.4
이 숫자가 뜻하는 바는 명확합니다. 구글은 AI 인프라를 미래 옵션이 아니라 이미 수익화가 진행 중인 사업으로 보고 있다는 것입니다. 소비형 과금, 구독형 상품, 상위 모델 업셀링이 동시에 돌아가고 있다면, 데이터센터 투자도 "선행 비용"이면서 동시에 "매출 파이프라인 확보"가 됩니다.
다만 반론도 분명합니다. 매출이 늘어도 수익성이 자동으로 따라오는 것은 아닙니다. 초거대 컴퓨트 투자는 감가상각, 전력, 네트워크, 냉각, 칩 교체 주기까지 모두 먹는 사업입니다. 더구나 구글 클라우드는 여전히 AWS와 마이크로소프트보다 작은 사업입니다. 성장률이 높다고 해서 시장 지배력이 바로 뒤집히는 것은 아닙니다.4
진짜 변화는 '모델 경쟁'에서 '인프라 경쟁'으로 축이 옮겨간 점이다
요즘 AI 시장을 읽을 때 자주 놓치는 부분이 있습니다. 눈에 띄는 것은 모델 벤치마크지만, 실제 승부는 인프라 계층에서 벌어지고 있다는 점입니다.
구글은 TPUs를 오래전부터 개발해 왔고, 이제 그 선택이 공급망 독립성과 서비스 운영 효율로 돌아오고 있습니다.5 아마존도 Trainium으로 비슷한 길을 가고 있고, 마이크로소프트와 메타 역시 자체 칩 전략을 강화하고 있습니다.5 이는 엔비디아의 지배력이 끝났다는 뜻이 아니라, hyperscaler들이 "엔비디아만으로는 안 된다"는 결론에 도달했다는 뜻에 가깝습니다.
실무적으로 독자가 봐야 할 판단 기준도 여기 있습니다.
첫째, AI 인프라를 고를 때 "최고 성능 칩"만 보지 말고 실제 확보 가능 물량과 과금 구조를 봐야 합니다.
둘째, 특정 클라우드의 자체 칩을 쓰는 순간 얻는 비용 효율과 잃는 이식성 사이의 교환관계를 따져야 합니다.
셋째, 앞으로는 모델 품질 못지않게 추론 단가와 안정적 공급이 경쟁력이 됩니다.
이번 뉴스는 구글이 앞섰다는 단편 정보로 끝낼 일이 아닙니다. 더 중요한 메시지는, AI 시장이 이제 소프트웨어 경쟁만이 아니라 전력·칩·네트워크·클라우드 계약이 얽힌 산업전으로 들어갔다는 점입니다. GPU를 빌려 쓰는 회사, 특정 클라우드에 종속되기 싫은 기업, 그리고 장기 AI 비용 구조를 설계해야 하는 팀이라면 지금부터는 모델 점수보다 컴퓨트 접근권을 더 주의 깊게 봐야 합니다.
참고
2Google controls the most AI computing power, driven by its custom TPUs | Epoch AI
3Google's TPU chips give it the world's largest AI computing power, according to research
4Google Cloud chief details how search giant is making billions monetizing its AI products
5Nvidia sales are 'off the charts,' but Google, Amazon and others now make their own custom AI chips
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.