AI 인프라 경쟁은 흔히 GPU 확보전으로 설명됩니다. 하지만 실제 AI 학습·추론 환경에서 비용과 지연을 만드는 병목은 연산 성능만이 아닙니다. 데이터가 CPU, GPU, 메모리 사이를 이동하는 과정에서도 대기 시간과 전력 비용이 발생합니다.
XCENA가 겨냥하는 지점은 바로 이 “데이터 이동 비용”입니다. XCENA는 한국과 미국에 사무실을 둔 CXL 메모리 반도체 스타트업으로, CXL 3.0 기반 지능형 메모리 칩과 ‘컴퓨테이셔널 메모리 풀’ 솔루션을 개발하고 있습니다.2 최근 시리즈B에서 1억3500만 달러를 조달했고, 기업가치는 5억7000만 달러로 평가됐습니다.1 누적 조달액은 1억8500만 달러입니다.1
XCENA가 풀려는 문제: 메모리를 더 똑똑하게 쓰기
CXL(Compute Express Link)은 CPU와 메모리·가속기를 더 유연하게 연결하기 위한 표준 인터페이스입니다. 쉽게 말해 서버 안팎의 메모리를 CPU가 더 효율적으로 활용할 수 있게 해주는 통로입니다.
XCENA의 주력 제품인 MX1은 단순한 메모리 확장용 칩이 아닙니다. CPU나 GPU가 맡던 일부 연산과 제어 기능을 메모리 단으로 옮기도록 설계됐습니다.2 MX1이 CPU에 CXL을 통해 연결되는 이유도 여기에 있습니다. 메모리 용량을 늘리는 데서 그치지 않고, 데이터가 있는 곳 가까이에서 일부 처리를 수행해 이동과 대기 시간을 줄이려는 접근입니다.
이 방향은 AI 워크로드에서 특히 중요합니다. AI 학습·추론에서는 메모리 부족이나 자원 불균형 때문에 연산 장치가 기다리는 시간이 생깁니다. MX1은 이런 대기 시간을 줄이는 데 초점을 둔 제품입니다.2
왜 지금 CXL 메모리인가
LLM 추론에서는 KV 캐시가 중요한 메모리 자원입니다. 이전 토큰의 문맥 정보를 저장해 두는 공간인데, 컨텍스트가 길어지고 동시 사용자가 많아질수록 필요한 메모리도 빠르게 늘어납니다.
문제는 모든 데이터를 GPU의 HBM에만 올려두기 어렵다는 점입니다. HBM은 빠르지만 비싸고 용량도 제한적입니다. 그래서 AI 인프라는 HBM, DRAM, CXL 메모리, 원격 메모리, SSD 등을 계층적으로 조합하는 방향으로 진화하고 있습니다.
이 흐름에서 XCENA의 메시지는 분명합니다. “더 많은 GPU”만이 답이 아니라, “데이터를 덜 옮기는 구조”가 필요하다는 것입니다. 회사가 공개한 Maru 프로젝트도 CXL 공유 메모리 위에서 KV 캐시를 여러 인스턴스가 직접 읽고 쓰는 구조를 제시합니다.3
투자자가 본 기회와 아직 남은 검증
XCENA의 시리즈B는 당초 1000억 원 수준을 목표로 했지만, 오버부킹으로 약 1500억 원 규모로 진행됐습니다.2 에이티넘인베스트먼트가 리드 투자자로 참여했고, IMM인베스트먼트와 LB인베스트먼트 등 기존 투자자도 후속 투자에 참여했습니다.2 국내 보도 기준으로 기업가치는 2024년 5월 시리즈A 당시 약 2500억 원에서 시리즈B 때 약 8000억 원으로 상승했습니다.2
기술적 진척도 확인되고 있습니다. XCENA는 삼성전자 4나노 공정을 활용해 MX1 시제품을 생산해 왔고, 엔비디아·마이크로소프트 등 글로벌 하이퍼스케일러를 대상으로 샘플 공급과 PoC를 진행하는 것으로 알려졌습니다.2
다만 반도체 스타트업의 진짜 검증은 투자 유치나 시제품 발표 이후에 시작됩니다. 양산 가능성, 소프트웨어 스택, 서버 생태계와의 호환성, 실제 고객 워크로드에서의 성능 개선이 모두 확인돼야 합니다. 특히 CXL은 메모리 확장 측면에서는 현실성이 커지고 있지만, 대규모 메모리 풀링과 공유가 보편화되려면 운영 도구와 서버 인프라가 더 성숙해야 합니다.
실무자가 가져갈 판단 기준
XCENA 사례가 보여주는 핵심은 AI 인프라 최적화의 질문이 바뀌고 있다는 점입니다. 이제는 “GPU를 얼마나 더 살 것인가”만 봐서는 부족합니다.
함께 봐야 할 질문은 다음과 같습니다.
데이터가 CPU, GPU, 메모리 사이를 얼마나 자주 이동하는가
GPU가 실제 연산보다 메모리 대기로 낭비하는 시간이 얼마나 되는가
KV 캐시와 같은 메모리 집약적 자원을 어떤 계층에 배치할 것인가
CXL 기반 메모리 확장이나 풀링이 현재 워크로드에 실질적 이득을 주는가
하드웨어뿐 아니라 소프트웨어와 운영 도구까지 준비돼 있는가
XCENA의 결론은 단순합니다. AI 병목은 항상 연산 장치에만 있지 않습니다. 앞으로의 인프라 경쟁력은 GPU 성능뿐 아니라, 데이터를 얼마나 가까운 곳에서 효율적으로 처리하느냐에 달려 있습니다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.