AI 생성 이미지
Dell Technologies World 2026에서 젠슨 황과 마이클 델이 던진 메시지는 단순한 신제품 발표가 아니었습니다. 핵심 질문은 명확했습니다. 기업 AI를 어디에서, 어떤 비용 구조로, 얼마나 안정적으로 운영할 것인가입니다.
행사는 미국 라스베이거스 베네시안 컨퍼런스 센터에서 열렸습니다. 마이클 델은 AI가 더 이상 실험실의 기술이 아니라 기업 인프라의 중심 문제로 이동했다고 설명했습니다.1 젠슨 황의 발언도 같은 흐름 위에 있었습니다. AI 수요가 폭발적으로 늘어나는 이유는 모델 자체보다, 기업이 AI를 실제 업무에 투입하기 시작했기 때문입니다.
AI 수요는 왜 다시 커지고 있나
젠슨 황이 말한 “수요가 포물선처럼 치솟는다”는 표현은 에이전틱 AI와 맞닿아 있습니다. 에이전틱 AI는 단순히 질문에 답하는 AI가 아니라, 목표를 이해하고 계획을 세우며 도구를 사용하고 결과를 확인하는 방식의 AI입니다.
이 변화는 기업 입장에서 중요합니다. 챗봇은 정보 탐색을 돕지만, 에이전트는 업무 흐름 안으로 들어갑니다. 소프트웨어 개발, DevOps, 테스트처럼 반복적이면서도 판단이 필요한 작업에서 AI가 보조자가 아니라 실행 주체에 가까워질 수 있습니다. 황은 엔비디아 내부에서도 에이전트가 이런 영역에 쓰이고 있다고 말했습니다.2
문제는 그만큼 연산 수요가 커진다는 점입니다. 에이전트는 한 번 답하고 끝나는 것이 아니라, 여러 단계의 추론과 검증을 반복합니다. 결국 기업 AI의 경쟁력은 “AI를 도입했는가”가 아니라 늘어나는 토큰 생산 비용과 운영 복잡성을 감당할 수 있는가로 옮겨갑니다.
델의 답: 클라우드 하나가 아니라 하이브리드 AI
델이 제시한 방향은 하이브리드 AI입니다. AI를 퍼블릭 클라우드 한곳에 몰아넣는 대신, 클라우드·온프레미스·엣지·PC에 분산 배치하는 전략입니다.
델 자체 조사에 따르면 기업 AI 워크로드의 67%는 이미 퍼블릭 클라우드 밖에서 구동되고 있으며, 응답 기업의 88%는 최소 하나 이상의 AI 워크로드를 자사 인프라에서 운영한다고 답했습니다.1 마이클 델이 하이브리드 AI를 “타협”이 아니라 “경쟁우위”로 표현한 이유도 여기에 있습니다.
이 메시지는 클라우드를 버리자는 뜻이 아닙니다. 오히려 워크로드의 성격에 따라 배치 위치를 나누자는 주장에 가깝습니다.
민감한 데이터와 보안 요구가 큰 작업은 내부 인프라에 둔다.
지연 시간이 중요한 추론은 사용자와 가까운 곳에서 처리한다.
대규모 확장성이 필요한 학습이나 실험은 클라우드를 활용한다.
PC와 엣지는 개인화된 AI 경험과 현장 업무 처리에 활용한다.
즉, 기업 AI의 설계 기준은 “어디가 더 최신인가”가 아니라 어떤 워크로드를 어디에 두는 것이 비용, 성능, 보안 측면에서 가장 합리적인가입니다.
서버 발표의 진짜 의미는 ‘토큰 생산 비용’이다
Dell Technologies World에서 공개된 서버와 플랫폼 발표도 이 관점에서 봐야 합니다. 이름이 긴 신제품 목록보다 중요한 것은 이 장비들이 기업 AI의 연산 비용과 데이터 활용 방식을 어떻게 바꾸는가입니다.
Dell PowerEdge XE9812는 NVIDIA Vera Rubin NVL72 기반으로 구축됐습니다. Dell PowerEdge XE9880L, XE9885L, XE9882L 서버는 NVIDIA HGX Rubin NVL8 기반 Dell 시스템입니다. 또한 Dell PowerEdge M9822와 R9822 서버는 NVIDIA Vera CPU를 탑재합니다.3
이런 발표의 의미는 분명합니다. 기업이 더 많은 AI 추론과 에이전트 실행을 감당하려면, 토큰을 더 빠르고 예측 가능한 비용으로 생산할 수 있어야 합니다. 특히 AI가 업무 시스템과 연결될수록 병목은 GPU만이 아니라 데이터 처리, CPU 성능, 네트워크, 스토리지 전반으로 확장됩니다.
Starburst가 NVIDIA Vera CPU에서 대규모 SQL 분석 쿼리 처리량을 3배 높인다고 소개된 것도 같은 맥락입니다.3 AI는 모델만으로 작동하지 않습니다. 기업 데이터에 접근하고, 필요한 정보를 검색·분석하며, 이를 다시 추론 과정에 연결해야 합니다. 따라서 AI 인프라는 “모델 실행 장비”가 아니라 데이터와 추론을 함께 다루는 운영 플랫폼에 가까워지고 있습니다.
데이터가 있는 곳에서 AI를 돌리는 흐름
모두가 비슷한 모델을 쓴다면 차이는 데이터에서 납니다. 특히 기업 내부 데이터는 보안, 규제, 지연 시간, 비용 문제 때문에 무조건 외부 클라우드로 옮기기 어렵습니다. 그래서 AI 인프라 경쟁은 모델 성능만큼이나 “데이터가 있는 곳에서 AI를 안전하게 실행하는 능력”으로 이동하고 있습니다.
Google Distributed Cloud with Gemini 3.0이 Dell PowerEdge XE9780 서버에서 프리뷰로 제공되는 것도 이 흐름 안에서 이해할 수 있습니다.3 클라우드의 AI 기능을 기업이 통제 가능한 인프라 환경에 더 가깝게 가져오려는 시도입니다.
델 AI 팩토리도 같은 방향의 플랫폼 전략입니다. 델 AI 팩토리는 2024년 출범 이후 320건 이상의 업데이트를 거쳤고, 이 가운데 160건 이상은 최근 1년 사이 이뤄졌습니다.1 델은 전 세계 5,000개 이상의 고객이 델 AI 플랫폼에서 AI 워크로드를 운영한다고 밝혔습니다.2
이는 AI가 파일럿 프로젝트를 넘어 실제 운영 환경으로 들어가고 있다는 신호입니다. 이제 기업은 모델을 고르는 일만큼이나, 그 모델을 지속적으로 운영할 인프라 체계를 고민해야 합니다.
기업이 봐야 할 판단 기준
Dell Technologies World에서 읽어야 할 실무적 메시지는 간단합니다. AI 인프라 판단 기준은 “최신 GPU가 있는가”에서 끝나지 않습니다. 다음 질문에 답할 수 있어야 합니다.
내 AI 워크로드는 어디에서 실행되는 것이 가장 합리적인가?
클라우드, 온프레미스, 엣지, PC 중 워크로드별 최적 위치를 나눠야 합니다.토큰 비용을 예측하고 통제할 수 있는가?
에이전틱 AI는 호출 횟수와 추론 단계가 늘어나므로 비용 구조가 빠르게 복잡해집니다.기업 데이터를 안전하게 연결할 수 있는가?
AI의 성능은 모델뿐 아니라 내부 데이터 접근성과 거버넌스에 좌우됩니다.운영 환경에서 확장 가능한가?
파일럿에서는 작동해도, 실제 업무에 붙이면 성능, 보안, 모니터링, 업데이트 문제가 함께 따라옵니다.
젠슨 황의 수요 폭증 발언과 델의 하이브리드 AI 전략은 같은 결론으로 이어집니다. 기업 AI의 다음 단계는 더 많은 실험이 아니라, AI를 어디에 배치하고 어떻게 운영할지에 대한 인프라 설계입니다. Dell Technologies World 2026의 의미도 여기에 있습니다. AI 경쟁은 모델 선택을 넘어, 데이터와 연산을 가장 효율적으로 연결하는 운영 능력의 경쟁으로 바뀌고 있습니다.
1[DellTech2026] 마이클 델 회장이 던진 도발 "AI 워크로드 67%, 이미 클라우드 밖에 있다"
2Michael Dell, Jensen Huang: Boldest Statements From Dell Technologies World 2026
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.