AI 추론 비용이 기하급수적으로 늘고 있다. 챗봇 하나를 운영하는 데도 수천 대의 GPU가 필요하고, 전기 요금은 데이터센터 예산을 갉아먹는다. 이 지점에서 AMD가 내린 선택은 단순한 M&A 이상이다. 2026년 8월 7일, AMD acquires Taalas를 공식 발표했다. 이 거래의 핵심은 ‘칩을 모델에 맞춰 찍어내는’ 기술이다.
범용의 대가, 그리고 정반대의 접근법
GPU는 어떤 AI 모델이든 돌릴 수 있는 만능 도구지만, 그 유연성에는 대가가 따른다. 모델이 커질수록 데이터가 메모리와 연산 장치 사이를 오가는 병목 현상이 심해지고, 추론 속도는 떨어진다.
Taalas의 접근법은 정반대다. 특정 AI 모델의 연산 구조를 칩 자체에 ‘하드와이어링’하는 것이다. 모델이 바뀌면 쓸 수 없지만, 그 모델 하나만큼은 극한의 효율로 처리한다. 실제로 Taalas의 데모 칩은 Llama 3.1-8B 모델을 실행할 때 사용자당 초당 16,000 토큰 이상을 기록했다. 기존 GPU 대비 수천 배 빠른 출력 속도를 약속하는 이유다. 1 2
비결은 두 가지다. 첫째, 구형 TSMC 공정으로 제조해 생산 단가를 낮췄다. 둘째, 칩 내부에 고속 SRAM 메모리를 직접 집적해 외부 메모리 접근으로 인한 지연을 최소화했다. 2 유연성이라는 비싼 옵션을 과감히 포기한 대신, 특정 작업에서는 압도적인 가성비를 확보한 셈이다.
범용을 버리지 않고, 맞춤형을 더하는 전략
AMD는 이 기술을 단독 제품으로 판매하지 않는다. 대신 Instinct GPU, EPYC CPU, Helios 랙스케일 솔루션, ROCm 소프트웨어로 이어지는 자사의 풀스택 AI 플랫폼에 통합할 계획이다. 1 이는 곧 고객이 범용 GPU로 거의 모든 모델을 처리하다가, 특정 모델의 추론 부하가 폭증하는 구간에서만 Taalas 기반의 맞춤형 가속기를 끼워 쓰는 하이브리드 구성이 가능해짐을 의미한다.
여기에 속도라는 강점이 더해진다. Taalas는 완전히 새로운 AI 모델을 받아 하드웨어로 구현하는 데 단 2개월이면 충분하다고 밝혔다. 2 신규 모델이 쏟아지는 지금 같은 속도전에서, 이 짧은 턴어라운드는 맞춤형 칩의 실용성을 한 단계 끌어올리는 요소다. Taalas가 2023년 설립 이후 총 2억 1,900만 달러의 벤처 자금을 유치한 것도 이러한 기술적 자신감의 방증이다. 2
추론 인프라의 진화 방향
AMD acquires Taalas 거래는 단순한 기술 인수를 넘어, AI 추론 시장이 범용 GPU 일변도에서 벗어나고 있음을 보여주는 신호탄이다. 실시간 응답이 중요한 로우 레이턴시 애플리케이션이 늘어날수록, 특정 모델에 최적화된 칩의 필요성은 더욱 커질 것이다.
물론 규제 승인 등 남은 절차가 있고, 실제 제품 통합까지는 시간이 걸린다. 하지만 방향은 분명하다. 앞으로 AI 인프라는 ‘하나의 칩으로 모든 것을’이 아니라, ‘워크로드에 따라 칩을 조합하는’ 방식으로 진화할 것이다. 데이터센터를 설계하는 엔지니어라면, 이 흐름을 지금부터 염두에 둬야 한다.
1AMD Acquires Taalas to Advance Compute Solutions for Rapidly Growing AI Inference Market
2AMD buys chip startup that hardwires AI models into its silicon
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.