AI 인프라, 오픈소스, 중국·미국 경쟁: 앤드루 응이 보는 진짜 쟁점은?

AI가 새로운 전기라는 말은 이제 너무 많이 들려서 식상할 수 있습니다. 그런데 그 비유를 처음 했던 사람이 직접 현재 상황을 다시 정리해 주면 이야기가 꽤 달라집니다.

AI Fund의 GP이자, 스탠퍼드·구글·코세라로 이어지는 커리어를 가진 앤드루 응(Andrew Ng)이 최근 인터뷰에서 AI 인프라, 중국과 미국의 AI 경쟁, 오픈소스 모델, AI 코딩 도구, 일자리, 버블 논쟁까지 꽤 넓은 스펙트럼을 짚었습니다.

아래에서는 그의 주요 발언을 기반으로,

• 지금 AI의 진짜 병목이 무엇인지

• 오픈/클로즈드 모델 경쟁이 왜 지정학 문제가 되는지

• 코딩과 일자리는 어떻게 재편되고 있는지

• AI 투자에서 마진과 버블을 어떻게 봐야 하는지 를 차분하게 재구성해 보겠습니다.

각 섹션은 독립적으로 읽어도 이해될 수 있도록 구성했습니다.

AI의 진짜 병목: 데이터가 아니라 전기와 반도체

AI의 병목을 떠올리면 보통 데이터·컴퓨트·알고리즘을 떠올립니다. 그러나 앤드루 응이 꼽는 현재 가장 큰 제약은 조금 다릅니다. 바로 전력과 반도체입니다.

그는 "AI를 하는 사람 중 컴퓨트가 충분했다는 사람을 본 적이 없다"고 말할 정도로, 컴퓨트 부족은 지난 20년 내내 이어진 문제라고 봅니다. 하지만 최근 생성형 AI가 폭발하면서 상황이 더 심각해졌다고 진단합니다.

• 데이터센터를 더 짓고 싶어도, 전력 공급과 인허가 문제로 막히는 경우가 많습니다.

• 특히 미국과 일부 서방 국가에서 전기 공급 부족과 허가 지연이 AI 인프라 확충의 큰 걸림돌이 되고 있습니다.

• 반면 중국은 원자력 포함 발전소를 공격적으로 건설하며, 전력 인프라를 국가 차원에서 밀어붙이고 있습니다.

여기에 반도체 공급망이 두 번째 큰 병목으로 따라옵니다. GPU가 있어도 데이터센터 전력이 부족하고, 전력이 있어도 GPU 수급이 안 되는 식입니다.

흥미로운 점은, 토큰 단가 자체는 빠르게 내려가고 있음에도, 수요가 그보다 훨씬 빠르게 늘고 있다는 점입니다. AI 코딩 보조, 텍스트 생성, 에이전트 워크플로 등 새로운 활용처가 계속 생기며 "계속 부족한" 상태가 구조화되고 있습니다.

전통적인 "데이터 부족" 서사는 여전히 중요하지만, 단기·중기 관점의 가장 현실적인 제약은 전력 인프라와 반도체 공급망 쪽에 더 가깝다는 점이 핵심입니다.

오픈소스 LLM과 지정학: 왜 '소프트 파워' 무기가 되는가

앤드루 응은 오픈 웨이트(다운로드 가능한 가중치)를 가진 모델을 단순한 기술 자산이 아니라 지정학적 영향력의 수단으로 봅니다.

그는 특히 중국의 전략을 주목합니다. 예상과 달리, 중국발 오픈 웨이트 모델들이 매우 빠르게 늘어나고 있고 품질도 높아지는 중입니다. 미국의 최전선 모델은 대개 클로즈드로 유지되고, 한 단계 아래 모델들이 오픈으로 풀리는 구조와 대조적입니다.

여기서 중요한 포인트는 두 가지입니다.

1. 지식 순환 속도

• 모델을 오픈하면 전 세계가 쓸 수 있지만,

• 실제로는 같은 언어·같은 생태계 안에서 근거리 지식 공유 효과가 훨씬 더 큽니다.

• 중국 팀이 모델을 공개하면, 중국 내 연구자·스타트업 사이에서 전화 한 통, 메시지 한 줄로 "이 부분 어떻게 구현했냐" 수준의 빠른 노하우 전파가 이뤄집니다.

• 반면 미국은 고액 연봉으로 인재를 빼오고, 모델을 닫아두는 구조가 많아 내부 지식 순환이 더딜 수 있는 구조가 형성됩니다.

2. 서사와 가치관의 수출 앤드루 응은 "민감한 정치 이슈나 국경 문제를 묻는 개발도상국 아이가 어떤 모델을 쓰느냐"를 예로 듭니다.

• 어느 나라에서 만든 모델이 답을 하느냐에 따라,

• 역사 서술, 국경 인식, 가치관이 은근하게 특정 방향으로 기울어질 수 있습니다.

과거 미국의 할리우드, 한국의 K-POP이 문화·서사 기반 소프트 파워라면, 앞으로는 LLM 응답이 새로운 소프트 파워 채널이 된다는 관점입니다. 이 때문에 그는 오픈 웨이트 모델을 "AI 공급망의 핵심 요소"로 보고, 여기에 중국이 대량으로 무료·저가 모델을 공급하는 전략을 매우 의미 있게 해석합니다.

중국·미국·유럽: AI 경쟁력과 정책 선택의 갈림길

앤드루 응의 시각에서 보면, 중국의 AI 드라이브는 과소평가되기 쉽지만 무시하기 어려운 수준입니다.

그가 강조하는 중국의 강점은 다음과 같습니다.

• 전력·반도체·교육·기업 도입까지 이어지는 전 산업·전 국가 차원의 일관된 드라이브

• 희토류 등의 공급망 통제

• 높은 업무 속도와 강한 실행력

미국의 경우, 인재 유입과 고등 교육·연구 투자가 큰 경쟁력이었다고 봅니다. 하지만 이민·유학생·고급 인력 유치에 소극적인 방향으로 흐를 경우, 이는 미국 스스로 만드는 손해라고 지적합니다. 반도체 공급망을 대만(TSMC)에 크게 의존하는 구조 역시 리스크로 봅니다.

칩 수출 통제에 대해서는 상당히 비판적입니다. 그는 수출 규제가 오히려 중국의 반도체 산업을 가속화했다고 분석합니다.

• 원래는 중국 내 반도체 개발 속도가 아주 빠르지 않았지만,

• 미국이 화웨이 제재와 GPU 수출 규제에 나서자,

• 중국 정부·기업이 반도체 투자를 강하게 밀어붙이면서 기술 격차를 빠르게 줄이고 있다는 해석입니다.

한편 유럽에 대해서는 평가가 꽤 냉정합니다. 그는 "AI 규제를 선도하는 것이 경쟁력"이라는 일부 유럽 규제자들의 태도를 비판하며, 과도한 규제 대신 투자와 개발에 집중해야 한다는 메시지를 반복합니다.

요약하면,

• 미국: 인재·연구 투자와 개방성이 핵심 변수

• 중국: 국가 주도의 풀스택 드라이브와 오픈 웨이트 전략

• 유럽: 규제 드라이브를 줄이고 실제 빌드에 나설 필요 이 세 가지 축이 앞으로 지정학적 균형에 큰 영향을 미친다는 관점입니다.

AI 코딩 보조, '바닥 5% 대체'가 아니라 상위 엔지니어를 재정의

앤드루 응은 현재 가장 실질적인 AI 활용 사례로 AI 코딩 어시스턴트를 반복해서 언급합니다.

그의 묘사는 꽤 직접적입니다.

• 예전에는 6명이 반년 걸리던 프로젝트를,

• 지금은 숙련된 엔지니어 1명이 주말 동안 끝낼 수 있는 수준까지 왔다고 봅니다.

• 본인도 이제는 "AI 없이 코딩으로 돌아가고 싶지 않다"고 표현합니다.

재미있는 부분은 "AI가 하위 5% 개발자를 대체하는가, 아니면 10배 성과를 만드는가" 논쟁에 대한 답변입니다. 그는 속도와 생산성의 급격한 상승에 더 무게를 둡니다.

또 하나 중요한 지점은 엔지니어 계층 구조의 재편입니다. 그는 현장에서 이런 계층 구도를 보고 있다고 설명합니다.

1. 최상위:

   • 10~20년 개발 경험이 있고

   • 최신 AI 코딩 도구를 적극적으로 활용하는 엔지니어 → 기존 어느 시기보다 빠른 속도로 움직이는 그룹

2. 그 다음:

   • 이제 막 졸업했지만

   • AI 도구 사용에 능숙한 신입 개발자

3. 위험 구간 1:

   • 10년 경력을 가지고 있지만

   • 여전히 2022년 이전 방식으로만 코딩하는 개발자 → 그는 이런 인력은 더 이상 채용하지 않는다고 말합니다.

4. 위험 구간 2:

   • AI 도구를 제대로 배우지 못한 채 졸업하는 컴공 졸업생

   • 여전히 많은 대학 커리큘럼이 클라우드 API 호출, LLM 활용을 거의 가르치지 않는다고 지적합니다.

핵심은 "코딩을 배울 필요가 없다"는 조언은 최악의 경력 조언이라는 점입니다.

그의 관점에서,

• 손으로 코드를 일일이 작성하는 행위는 점점 의미가 줄어들지만

• 컴퓨터에게 정확히 무엇을 시킬지 언어(코드)로 명세하는 능력은 더 중요해지고 있습니다.

• 마케터·리쿠루터·애널리스트 등 비개발 직군도 간단한 앱이나 스크립트를 만들 수 있느냐에 따라 생산성 격차가 벌어지는 사례를 이미 관찰하고 있습니다.

일자리, 비용 절감보다 '더 빨리, 더 많이'가 핵심

AI가 일자리를 없앨 것인가,라는 질문에 대해 그는 부분적 위협은 있지만 전면적인 대체는 과장이라고 정리합니다.

그의 프레이밍은 다음과 같습니다.

• AI가 어떤 직무의 30%까지 자동화한다고 가정해도

• 나머지 70%는 여전히 사람이 해야 할 일입니다.

• 중요한 것은 AI를 쓰는 사람과 쓰지 않는 사람의 생산성 격차가 크게 벌어진다는 점입니다.

특히 화이트칼라 인력 구조에 대한 우려, 예를 들어 "주니어 인력을 줄이면 10년 뒤 시니어가 사라진다"는 논점에 대해서는,

• 문제는 존재하지만 생각만큼 단순하지 않다고 봅니다.

• 오히려 AI를 잘 쓰는 신입 또는 경험과 AI 활용이 결합된 시니어의 수요는 매우 높고,

• 반대로 AI를 배우지 않은 중견·초급 인력이 위험 구간이라고 봅니다.

기업 관점에서 그는 AI를 비용 절감 도구로만 보면 얻을 수 있는 이득이 제한적이라고 강조합니다. 예시로 5단계 워크플로를 듭니다.

• 각 단계가 업무의 20% 비중을 가진다고 할 때

• 한 단계만 자동화하면 최대 20% 인건비 절감에 그칩니다.

이보다는 워크플로 전체를 다시 설계하는 방향이 더 큰 가치를 만듭니다.

그가 관찰한 두 가지 패턴은 다음과 같습니다.

1. 더 빠르게

   • 예: 대출 심사에서 몇 주 걸리던 의사결정을 10분 단위로 단축

   • 같은 업무지만 "서비스의 성격"이 완전히 달라지면서 성장 동력이 됩니다.

2. 더 많이

   • 예: 고가 고객에만 제공되던 고품질 상담·자문을

   • AI를 활용해 훨씬 넓은 고객층에게 제공

   • 단순히 비용을 줄이는 것이 아니라 제공 가능한 서비스의 모수 자체를 늘리는 방식입니다.

이 관점에서 보면, 인건비 → 소프트웨어 비용으로의 전환은 일부 영역에서 일어나겠지만, 그보다 더 중요한 것은 AI를 활용해 새로운 매출과 서비스를 만들어내는 기업과 그렇지 못한 기업의 격차가 커지는 방향에 가깝습니다.

AI 애플리케이션, 마진, 버블 논쟁: 무엇을 보고 판단해야 할까

현재 AI 애플리케이션 레이어의 마진이 형편없다는 지적은 많이 나오고 있습니다.

• 토큰 비용 비중이 지나치게 높고

• 실제로 일부 서비스는 매출의 80%가 LLM API 비용으로 나가는 구조에 가깝습니다.

앤드루 응은 이 상황을 초기 푸드 딜리버리 시장에 비유합니다.

• 한때는 "VC가 보조해주는 음식 배달" 같은 시기가 있었고,

• 지금은 "VC가 보조해주는 AI 사용료" 시기에 가까운 면이 있습니다.

그럼에도 그는 지속 가능하지 않은 보조금 구조는 언젠가는 정리될 수밖에 없다는 점을 인정하면서도,

• 토큰 비용이 연 80% 수준으로 떨어지는 등 가격 하락 속도

• 프롬프트 엔지니어링, 캐싱, 모델 혼합, 자체 경량 모델 도입 등으로 내부에서 비용 곡선을 더 가파르게 내리는 기술적 여지를 중요한 변수로 봅니다.

실제로 그가 참여한 프로젝트들에서도,

• 처음에는 비용을 신경 쓰지 않고 제품·사용자 가치를 최우선으로 만들다가,

• API 청구서가 급격히 늘어났을 때 구조 최적화로 비용을 급격히 낮추는 패턴을 반복해서 경험했다고 설명합니다.

버블 논쟁에 대해서는,

• 데이터센터·전력·GPU 투자가 과도해질 위험이 있는 것은 인정하지만,

• 동시에 "전기·데이터센터·반도체가 더 필요하다는 사실 자체는 매우 분명하다"고 봅니다.

• 문제는 "얼마나 투자해야 하는가"이지, "투자를 해야 하느냐 말아야 하느냐"가 아니라는 입장입니다.

애플리케이션 측면에서는,

• 상대적으로 적은 자본으로도 의미 있는 매출(수백만~수천만 달러)을 올리는 사례들이 이미 나타나고 있고,

• 여기에서의 ROI는 인프라 레이어보다 훨씬 명확하다고 봅니다.

• 오히려 너무 적은 비용으로 실험이 가능해져 대규모 자본을 어디에 투입해야 할지 VC들이 고민하는 구조가 생겼다고 해석합니다.

방어력(모트)에 대해서는 "AI 그 자체가 모트를 만들어주지는 않는다"는 입장입니다.

• 예전에는 복잡한 소프트웨어를 10년간 개발해 놓은 것이 큰 진입장벽이었지만,

• LLM 도입 이후 비슷한 기능을 훨씬 빠르게 따라잡을 수 있게 되었습니다.

• 대신 산업 구조에 따라 브랜드, 네트워크 효과, 양면 시장, 레거시 도입 장벽 등 전통적인 산업별 모트가 더 중요해졌다는 분석입니다.

앤드루 응 발언에 대한 비판적 해석과 현실적 제약

마지막으로, 그의 시각을 한 단계 떨어져서 볼 필요도 있습니다. 몇 가지 지점을 짚어보면 다음과 같습니다.

1. 전력·반도체 중심 병목 인식

• 실제로 전기와 GPU는 눈앞의 가장 큰 제약 중 하나입니다.

• 다만 이 프레임에 집중할수록, 데이터 거버넌스·개인정보·정치적 리스크·사회적 수용성 같은 비기술적 병목이 상대적으로 과소평가될 수 있습니다.

• 이미 일부 국가·지역에서는 주민 반발과 환경 이슈 때문에 데이터센터 건설이 지연되고 있다는 점에서, 인프라 논의는 에너지 정책·지역 사회와의 조정 없이는 진행되기 어렵습니다.

2. 오픈 웨이트와 중국의 소프트 파워

• 중국의 오픈 전략이 지정학적 영향력 확보에 유리할 것이라는 관점은 설득력이 있습니다.

• 다만 실제로 어떤 국가·기업이 어느 나라 모델을 채택할지는 규제, 제재, 정치적 동맹 관계에 의해 크게 좌우될 가능성이 높습니다.

• 즉, 기술적 개방성과 별개로 정책·외교 변수가 모델 채택에 강하게 작용할 것이고, 이는 단순히 "좋은 모델을 많이 풀면 영향력이 생긴다"는 서사보다 복잡한 결과를 낳을 수 있습니다.

3. 코딩 교육과 "모두에게 코드"

• "코드가 가능한 비개발자가 유리하다"는 점은 실제 현장에서 이미 감지되고 있습니다.

• 그러나 모든 직무에 동일한 수준의 코딩 스킬을 요구하는 것은 현실적인 학습 부담과 교육 격차를 더 벌릴 위험이 있습니다.

• LLM 기반 자연어 인터페이스가 점점 나아지는 상황에서, 어디까지를 코드로, 어디까지를 자연어로 맡길지에 대한 분할선은 기술 발전에 따라 계속 이동할 가능성이 큽니다.

4. 버블과 인프라 투자

• 인프라가 많이 필요하다는 말과, 현재 투자 규모가 적절하다는 말은 동일하지 않습니다.

• 특히 복잡한 금융 구조(장기 오프테이크 계약, 전력 매입 계약, 공동 투자 구조 등)가 늘어날수록, 지정학·금리·정책 변화에 대한 시스템 리스크는 커질 수밖에 없습니다.

• ROI가 분명한 애플리케이션과 달리, 인프라 투자 회수는 수년~수십 년에 걸쳐 진행되므로, 수요 예측 실패가 누적될 경우 대규모 설비 과잉이 발생할 가능성도 배제하기 어렵습니다.

5. 일자리 전환 속도와 교육 시스템

• 그는 "AGI는 수십 년 이상 멀었다"고 보고, 그 사이 교육과 업스킬링으로 대응 가능하다고 봅니다.

• 그러나 실제 교육 커리큘럼이 변하는 속도와 기업의 구조조정 속도 사이에는 종종 시간 차가 존재합니다.

• 이 간극 동안 특정 세대·계층이 전환 비용을 더 크게 떠안는 상황이 발생할 수 있고, 이는 기술 수용에 대한 사회적 반발로 이어질 가능성이 있습니다.

정리하면, 앤드루 응의 시각은 기술 낙관주의와 현실 인식 사이에 균형을 두려는 접근에 가깝습니다. 인프라 부족, 인재 교육, 규제 완화, 오픈 소스 생태계 확대를 통해 AI의 잠재력을 키우자는 방향성은 분명합니다.

다만 실제 구현 단계에서는

• 에너지 정책

• 지역 사회 수용성

• 노동 시장 전환

• 지정학적 긴장 같은 현실적 제약이 예상됩니다.

이 제약들을 어떻게 다루느냐가, 전기·반도체를 얼마나 빨리 늘리느냐만큼이나 AI의 미래 궤적을 좌우할 가능성이 큽니다.

마무리하자면, 앤드루 응의 발언에서 가장 인상적인 지점은 "AI는 아직 초기이고, 10년 뒤에도 여전히 새로운 적용처를 찾고 있을 것"이라는 긴 호흡의 관점입니다.

• 초단기 AGI 환상이나

• 단순한 디스토피아 공포보다,

• 인프라·교육·정책·비즈니스 모델을 어떻게 설계할 것인가에 초점을 맞출 때, AI는 전기라는 비유에 걸맞게 긴 시간에 걸쳐 사회 구조를 조금씩 바꾸는 기술이 될 가능성이 큽니다.

출처 및 참고 :