95%의 기업, 생성형 AI에 300억 달러 투자했지만 성과는 ‘제로’? MIT 보고서의 진실

기업들이 생성형 인공지능에 엄청난 금액을 퍼붓고 있지만, 정작 기대한만큼의 실질적인 성과는 거의 없다는 놀라운 소식이 전해졌습니다. 최근 MIT 보고서에 따르면, 지난 3년간 전 세계적으로 300~400억 달러가 생성형 AI 프로젝트에 투자됐지만 대다수 기업은 전혀 수익을 얻지 못했다고 합니다. 왜 이런 일이 벌어지는지, 그리고 앞으로 AI가 우리 비즈니스에 어떤 영향을 줄지 핵심 포인트를 재밌게 짚어보겠습니다.

생성형 AI, 엄청난 투자에도 ‘빈손’인 기업이 95%

최근 MIT 연구에 따르면 대기업의 95%가 실제로 생성형 AI 툴을 도입했지만, 매출이나 이익 등 ‘측정 가능한 이익’을 거둔 곳은 거의 없다고 합니다. 오히려 단 5%의 기업만이 “수백만 달러 가치 창출”에 성공한 사례를 보였습니다. 즉, 대부분 기업들은 ‘혁신의 소문’만 들었지, 실제 변화는 체감하지 못한 셈이죠.

다수 기업, 생성형 AI를 생산성 보조로만 사용

생성형 AI 도입이 대세처럼 보이지만, 실제 활용은 주로 ‘개인의 생산성 향상’에만 집중되어 있습니다. 조사 결과, 80% 이상의 대기업이 ChatGPT, Copilot 등 대형 언어모델을 체험하거나 도입했고, 40% 가까운 기업이 업무에 적용하고 있습니다. 하지만 주로 고객 대응, 마케팅, 문서 작성 등 반복적이고 단순한 작업에 AI를 활용하고, 조직 전체 매출 증대에는 별다른 기여를 못 하고 있죠.

AI의 한계: ‘진짜 일’과 맞지 않는 워크플로

왜 AI가 큰 효과를 내지 못했을까요? 보고서는 ‘업무의 맥락’과 ‘프로세스 적응’에 실패했다고 지적합니다. 대부분의 생성형 AI는 과거 피드백을 기억하거나 장기적으로 점진적 학습을 하지 못합니다. 즉, 사람처럼 매번 상황에 맞춰 진화하는 게 아니라, 정해진 규칙만 반복하기 때문에 실질적으로 업무에 녹아들지 못하는 것입니다.

기대와 현실의 괴리: 보드룸의 과도한 AI 환상

기업 경영진들은 AI가 곧 ‘혁신의 핵심’이 될 것이라 믿으며 높은 기대를 품고 프로젝트에 뛰어들었지만, 막상 결과는 미미했습니다. 조직의 중요한 전략 결정이나 비용 절감, 전사적 혁신 같은 핵심 목표엔 아직 AI가 큰 힘을 발휘하지 못하고 있죠. 일부 AI 활용 분야(예: 고객 응대, 마케팅 등)에서는 업무시간 절감 등 소소한 이점에 그치고 있습니다.

생성형 AI, 단기적으로 대규모 구조조정 위협은 낮다

소문과 달리, 이번 보고서는 생성형 AI가 단기간 내 대량의 일자리를 대체할 가능성은 낮다고 분석했습니다. 오히려 기업은 외부 용역이나 단순 위탁업무 비용을 줄이는 등 ‘외부 비용 최적화’에 AI를 활용할 것으로 보입니다. 내부 직원 조직의 급격한 변화보다는, 의미 있는 곳에서 제한적으로 효과가 나타나는 셈이죠.

AI의 진짜 과제: 맥락 적응과 자율적 진화

생성형 AI가 기업 혁신의 진정한 도구가 되려면, 사람처럼 맥락을 이해하고 기억을 기반으로 계속 발전하는 능력이 필요합니다. 아직 “피드백 유지, 상황 적응, 점진적 개선”이라는 인간적 요소가 미흡하다는 점이 명확히 드러났습니다. 기술이 좀 더 스마트해질 때, 비로소 수익창출의 진짜 엔진이 될 수 있습니다.

성공하는 AI 활용 사례는 극소수, ‘선택과 집중’이 해답

보고서는 기업들이 AI에 대한 기대를 줄이고, 당장 성과가 있는 분야에 선택적으로 투자할 것을 조언합니다. 예를 들어 고객지원 자동화, 코드 생성 보조, 문서 작업에 한정하면 눈에 띄는 비용 절감이 일어날 수 있지만, 전사적으로 급격한 변화를 시도하는 건 너무 이르다는 거죠. 실질적인 가치 창출은 ‘좁고 깊게’ 시작해야 합니다.

AI도 전략이 아닌 ‘도구’로 인식해야 실망을 줄일 수 있다

한 연구진의 “AI는 전략이 아니라 과업에 특화된 도구”라는 말처럼, AI에 모든 의사결정이나 창의적 전략을 맡기려는 시도는 대체로 실패로 끝나고 있습니다. 회사마다 필요한 업무별로 적절히 AI를 점진적으로 활용해야만 실질적인 생산성 향상을 기대할 수 있습니다.

투자는 계속되지만, 기대는 조절해야 할 때

투자자나 경영진의 AI에 대한 열기는 여전히 뜨겁습니다. 그러나 이번 MIT 보고서의 핵심 메시지는 분명합니다. 아직 기술이 ‘사람 같은 적응력’을 갖추기 전까지는, 사업 성과에 대한 기대를 내려놓고 현실적인 단기 실익에 집중해야 한다는 것이죠.

생성형 AI가 세상의 판을 뒤집을 것이라는 장밋빛 전망, 이번 MIT 보고서로 잠시 걸음을 멈추게 됐습니다. 수백억 달러 투자에도 기다렸던 드라마틱한 변화는 5%의 기업에서만 나타난 게 사실이죠. 결국 AI는 아직 ‘만능’이 아니며, 기업들도 극적인 혁신보다는 일상적인 생산성 향상의 도구로 AI를 활용하는 게 현명해 보입니다. 앞으로 AI와 함께 일할 때, 구체적이고 현실적인 목표에 맞춰 선택적으로 도입해보세요. 열풍을 쫓기보다 ‘나만의 작은 혁신’을 만들어가는 것이 장기적으로 더 큰 결실로 이어질 것입니다.

출처 : 95% of Companies See ‘Zero Return’ on $30 Billion Generative AI Spend, MIT Report Finds