메인 콘텐츠로 건너뛰기
page thumbnail

엔비디아, 오픈AI, 시에라. AI 전쟁터에서 실무자가 정말 봐야 할 것들은?

DODOSEE
DODOSEE
조회수 35
요약

클립으로 정리됨 (생성형 AI 활용)

출처 및 참고 : https://www.youtube.com/watch?v=U1sy7t_Wns8


무한 자본과 '전쟁 모드'가 의미하는 것

요즘 AI 시장을 보면 한 가지 감정만 남습니다. 안정감은 완전히 사라졌다는 점입니다. 며칠 전만 해도 오픈AI가 절대 강자라는 분위기였습니다. 그 직후에는 구글의 제미나이 3가 게임 체인저라는 평가가 쏟아졌습니다. 이제는 앤스로픽이 마이크로소프트와 엔비디아로부터 최대 150억 달러를 확보했다는 뉴스가 시장을 뒤흔듭니다. 여기에 애저 컴퓨트 선지출 약정 300억 달러까지 붙었습니다. 경쟁자 입장에서 보면 사실상 무한 탄창에 가깝습니다.

이 구도에서 더 흥미로운 지점은 마이크로소프트의 움직임입니다. 한때 오픈AI와의 사실상 독점 파트너십처럼 보이던 관계가 이제는 실질적인 다자 구도로 전환되고 있습니다. 오픈AI가 "열린 관계"를 원했다고 해석하는 시선이 있습니다. 마이크로소프트도 동일한 방식으로 대응합니다. 오픈AI와만 함께 갈 수 없으니, 앤스로픽까지 포트폴리오에 넣어 리스크를 분산합니다. 거대한 플랫폼 기업 입장에서 LLM 하나에만 올인하는 전략은 더 이상 합리적이지 않습니다.

이 과정에서 한 가지 키워드가 반복해서 등장합니다. 바로 "무한 자본"입니다. 시장 점유율도 기술 우위도 순식간에 뒤집히는 환경입니다. 이런 상황에서는 기술만으로 버티기 어렵습니다. 모델 성능이 비슷해지는 국면에서 결국 얼마나 빨리, 얼마나 크게 컴퓨트를 태울 수 있느냐가 경쟁력의 중요한 축이 됩니다. 실무자 입장에서는 자본 규모보다 중요한 것이 한 가지 더 있습니다. 이런 환경에서 팀이 어떤 속도로 움직여야 살아남을 수 있는지에 대한 감각입니다.


엔비디아와 TPU, '대체 가능성'이 만든 긴장

엔비디아의 시가총액과 실적은 이미 익숙한 숫자입니다. 흥미로운 지점은 그 성장이 가진 구조적 리스크입니다. 엔비디아의 매출은 다수의 소액 고객보다는 극소수의 거대 고객에 의존합니다. 주요 하이퍼스케일러 몇 곳이 전체 매출의 대부분을 차지합니다. 이런 구조에서는 단 한두 곳이 자체 칩으로 전환해도 충격이 큽니다.

구글의 TPU 전략이 상징적입니다. 구글은 막대한 CapEx를 쏟아붓는 입장에서 엔비디아에 매년 수십억 달러의 이익을 넘겨주는 구조를 계속 유지하기 어렵습니다. 칩 하나를 직접 설계하고 양산까지 끌고 가려면 수년과 수천억 단위의 투자가 필요합니다. 그러나 연간 이익 유출 규모가 그보다 훨씬 크다면 결국 자체 칩 개발과 최적화에 손을 댈 수밖에 없습니다. 아마존, 테슬라, 잠재적으로는 오픈AI도 같은 고민을 할 가능성이 큽니다.

그럼에도 대부분의 고객에게는 여전히 CUDA 생태계와 개발 편의성이 더 중요합니다. 코드와 도구, 인력 풀 모두가 GPU에 맞춰져 있기 때문입니다. 특정 구간에서는 구글 TPU 같은 대체재가 의미 있는 비용 절감과 성능 향상을 줄 수 있습니다. 그러나 대다수 기업에게는 전환 자체가 큰 두통입니다. 이 지점에서 중요한 통찰이 하나 나옵니다. 엔비디아의 위기는 곧바로 GPU 종말을 의미하지 않습니다. 다만 상위 몇 개 고객이 이익을 다시 가져오기 시작하는 순간, 현재 수준의 마진 구조는 유지되기 어렵습니다.

실무자 관점에서는 이 논의가 꽤 직접적으로 이어집니다. "우리도 자체 모델을 학습시켜야 하는가", "어느 클라우드를 기준으로 설계해야 하는가" 같은 질문입니다. 실제 모델 성능은 빠르게 수렴하는 중입니다. 한 세션 안에서 제미나이와 클로드를 번갈아 쓰며도 큰 위화감을 느끼지 않는 경우가 늘어납니다. 결국 중요한 것은 "어떤 칩 위에서 돌아가느냐"보다 "얼마나 안정적으로, 예측 가능한 비용 구조로 확장 가능한가"에 가까워지고 있습니다.


오픈AI의 '전쟁 모드'와 하이퍼어그레시브 조직

최근 유출된 사티아 알트만의 내부 메모에는 "구글과의 전쟁 모드"라는 표현이 등장했습니다. 전형적인 실리콘밸리식 레토릭으로 보일 수 있는 문장입니다. 전쟁이라는 비유 자체에 거부감을 느끼는 사람도 많습니다. 이미 대부분의 구성원이 충분히 바쁘다고 느끼는 상황에서 "더 전쟁처럼 하자"는 메시지가 얼마나 추가 동력을 줄 수 있을지 의문입니다.

그럼에도 이 논의는 한 가지 중요한 포인트를 짚습니다. "하이퍼어그레시브 모드가 아니면 아무것도 일어나지 않는다"는 인식입니다. AI 경쟁이 격화되는 시기에는 단순히 기존 로드맵을 잘 실행하는 정도로는 부족합니다. 버그, 기술 부채, 레거시 고객 요구만 처리해도 분기 전체를 소진할 수 있는 조직 구조라면, 속도 경쟁에서 무조건 뒤처지기 때문입니다.

경험 많은 투자자들은 "냄새를 맡는다"는 표현으로 이런 조직의 분위기를 설명합니다. 경영진 모두가 속도에 집착합니다. 제품팀은 이전 분기 대비 두 배 이상의 스토리 포인트를 처리합니다. 영업팀은 목표를 넘어서는 파이프라인을 자발적으로 설계합니다. 이때 중요한 기준이 하나 있습니다. "이 CEO는 팀을 너무 세게 밀고 있는가"라는 고민이 가끔 들 정도인지입니다. 그 긴장감이 전혀 느껴지지 않는 조직은 대개 이미 뒤처져 있습니다.

이 지점에서 하나 더 짚을 부분이 있습니다. CEO가 팀을 세게 압박한다고 해서 모두에게 독이 되는 것은 아닙니다. 진짜 뛰어난 임원은 대개 CEO 이상으로 자기 자신을 압박합니다. 이들은 일정 수준의 무리한 목표에서 오히려 동기를 얻습니다. 반대로 "이 정도 속도는 힘들다"는 반응이 반복되는 팀이라면, 지금 AI 시장의 속도와는 맞지 않을 가능성이 큽니다. 인력 이탈을 두려워해 무난한 속도에 안주하는 순간, 이미 승부가 결정되는 구조입니다.


AI 고객지원 전쟁, 시에라와 기존 SaaS의 다른 무게

최근 가장 극단적인 숫자를 보여준 기업 중 하나가 브렛 테일러의 시에라입니다. 설립 후 2년 만에 연간 매출 1억 달러 수준에 도달했다는 소식이 나왔습니다. 직전 라운드 기준 기업가치는 100억 달러였습니다. 약 100배 매출 배수입니다. 카테고리는 AI 기반 고객지원 자동화입니다. 누구나 떠올리는 LLM의 대표 적용 분야입니다.

이 모델이 성립하려면 몇 가지 전제를 깔아야 합니다. 먼저, AI가 고객 문의의 절반 이상을 실제로 처리할 수 있어야 합니다. 기존 규칙 기반·FAQ 챗봇이 20~30% 수준에서 머물렀다면, LLM 기반 시스템은 60% 이상을 해결해야 의미 있는 인건비 절감이 발생합니다. 일부 레퍼런스에서는 이미 이런 수치가 언급됩니다. 이런 수준이라면 콜센터 인력 비용을 직접 건드리는 구조가 됩니다. 이때 TAM은 기존 소프트웨어 예산의 몇 배로 팽창합니다.

하지만 엔터프라이즈 레벨에서는 속도가 제한 요소로 등장합니다. 연간 10만 달러짜리 API 계약을 수천 개 파는 것과, 1천만 달러짜리 딜을 수십 개 성사시키는 것은 완전히 다른 일입니다. 후자는 매번 방대한 통합 작업과 조직 변화 관리가 필요합니다. 실제로 많은 기업이 차세대 고객지원 솔루션을 도입했지만, 파일럿 단계에서 멈춰 있거나, 일부 플로우에서만 제한적으로 돌리는 경우가 많습니다. 영업은 빠르게 진행되지만, 롤아웃과 정착은 물리적으로 시간이 걸립니다.

여기서 기존 SaaS 기업과의 대비가 또렷해집니다. 인터콤이나 젠데스크 같은 기업은 이미 방대한 고객 기반과 데이터 구조, 에이전트 워크플로를 보유합니다. 일종의 "AI를 더하기 좋은 토양"입니다. 동시에 막대한 기술 부채와 기능 부채도 짊어집니다. 기존 고객은 여전히 전통 기능을 요구합니다. 이 요구만 처리해도 엔지니어링 리소스의 상당 부분이 소진됩니다. 새로운 AI 기능에 올인하는 신생 기업과 달리, 기존 고객을 버릴 수 없습니다. 이 구조가 곧 속도의 족쇄가 됩니다.

반대로, 잘 전환에 성공한 일부 기업은 이 부담을 오히려 자산으로 바꿉니다. 기존 티켓 데이터, 대화 로그, 도메인별 케이스를 학습에 활용할 수 있습니다. 초기부터 "AI 전용 고객"을 찾아 헤매는 스타트업보다 실제 고객 이슈에 더 가까운 학습 데이터를 갖습니다. 결국 이 경쟁은 "기존 자산을 지닌 쪽이 더 빨라질 것인가, 짐이 없는 쪽이 더 빨라질 것인가"의 싸움으로 수렴합니다. 같은 AI 고객지원이라는 카테고리 안에서도 전혀 다른 물리 법칙이 적용됩니다.


현실적으로 따져봐야 할 부분들

AI 전쟁의 표면에는 화려한 숫자가 놓여 있습니다. 앤스로픽의 수십억 달러 조달, 시에라의 100배 밸류에이션, 엔비디아의 코스트코보다 낮은 PER 같은 이야기입니다. 그러나 실무자는 이 숫자를 그대로 따라가면 안 됩니다. 몇 가지 냉정한 질문이 필요합니다.

첫째, 우리 조직의 속도와 압박 강도입니다. 지금 하는 일의 2배 속도로 움직일 준비가 되어 있는지 스스로 점검해야 합니다. 모델 선택, 클라우드 선택보다 중요한 질문입니다. CEO나 리더가 "하이퍼어그레시브 모드"를 선언한다고 해서 자동으로 전환되는 것이 아닙니다. 구조적으로 속도를 방해하는 요소가 무엇인지, 어디까지 뜯어고칠 수 있는지부터 봐야 합니다.

둘째, 엔비디아와 TPU 논쟁의 실질적 영향 범위입니다. 자체 칩을 설계할 여력이 있는 기업은 극소수입니다. 대부분의 기업에게 중요한 것은 단일 벤더 락인 리스크와 비용 예측 가능성입니다. 인프라 선택은 기술 뉴스가 아니라, 실제 청구서와 팀 역량에 기반해 내려야 합니다.

셋째, AI 고객지원 도입의 현실적인 난이도입니다. 데모에서 본 자동 응답률과 실제 운영 환경은 많이 다를 가능성이 큽니다. 기존 프로세스와 통합 비용, 에이전트 재교육, 내부 저항까지 고려하면, 단순 라이선스 비용 이상으로 시간이 들어갑니다. 초기 몇 개 분기에 성과가 안 나온다고 해서 기술이 쓸모없다고 결론 내리기보다는, 도입 범위와 목표 설정이 과했는지 점검하는 편이 낫습니다.

마지막으로, 기존 자산과 속도 사이의 트레이드오프입니다. 이미 큰 고객 기반을 가진 조직은 AI 전환의 포텐셜도 크지만, 발목을 잡는 요인도 많습니다. 반대로 신생 AI 네이티브 조직은 속도는 빠르지만, 실제 고객 문제를 깊이 이해하는 데 시간이 걸립니다. 두 극단 모두 장단점이 분명합니다. 어느 쪽을 선택하든, "우리에게 없는 것"이 무엇인지 인식하고 보완 전략을 세워야 합니다.

결국 이 시장은 한두 회사의 승패로 정리되지 않습니다. 자본, 칩, 모델, 애플리케이션, 조직 속도까지 모든 축에서 동시에 판이 벌어지는 중입니다. 실무자가 가져갈 수 있는 가장 현실적인 전략은 화제의 이름을 좇기보다, 속도와 실행력을 기준으로 자체 체크리스트를 만드는 것에 가깝습니다. 그 기준이 명확해지는 순간, 어떤 AI 파트너와 어떤 속도로 움직여야 할지가 비로소 보이기 시작합니다.

출처 및 참고 :

이 노트는 요약·비평·학습 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.