MIT 보고서가 18일(현지시간) 공개되며 글로벌 금융시장을 흔들었다. 보고서는 기업들의 인공지능(AI) 투자 성과가 극도로 양극화되어 있다는 점을 드러냈다.

MIT 산하 연구진이 발표한 2025년 기업 내 AI 현황 보고서(State of AI in Business 2025)에 따르면, 지난 몇 년간 기업들이 투입한 300억~400억달러 규모의 생성형 AI 투자 가운데 “95%는 아무런 수익을 내지 못하고 있다”는 분석이 나왔다.

반대로 단 5%의 기업만이 AI 파일럿 프로젝트를 실제 운영으로 확장해 “수백만달러 규모의 가치를 창출하고 있다”고 지적했다.

보고서는 현재 변혁의 장벽을 ‘생성형 인공지능 캐즘(GenAI chasm)’이라 명명했다. 기업 대부분은 챗GPT 같은 범용 도구를 개인 생산성 향상 용도로 활용하고 있으나, 정작 조직 전체의 손익에 영향을 미치는 변혁적 성과는 드물다는 것이다.

실제로 조사에 따르면 80% 이상의 기업이 AI 도구를 시범 도입했지만, 최종적으로 전사적 업무에 안착한 비율은 5%에 불과했다.

특히 보고서는 실패 요인으로 ‘학습 격차(learning gap)’를 꼽았다. 현재의 AI 시스템은 맥락을 기억하거나 피드백을 반영해 개선되는 능력이 부족해 기존 업무 흐름에 통합되기 어렵다는 것이다.

한 투자최고책임자(CIO)는 인터뷰에서 “올해만 수십 개의 데모를 봤지만, 진짜 유용한 건 한두 개뿐”이라며 현장의 냉담한 반응을 전했다.

반면 소수의 성공 사례는 공통점을 보였다. 보고서는 “캐즘을 성공적으로 넘은 조직들은 직접 개발하기보다 구매하고, 중앙 연구실이 아닌 현장 관리자에게 권한을 주며, 시간이 지남에 따라 적응·통합되는 도구를 선택한다”고 강조했다.

또한 선도적인 조직들은 이미 “정해진 범위 내에서 학습하고 기억하며 독립적으로 행동할 수 있는 에이전틱 시스템(agentic systems)”을 실험하고 있는 것으로 나타났다.

이 같은 냉정한 분석은 곧바로 증시에 반영됐다. 파이낸셜타임스(FT)에 따르면, 19일 엔비디아는 3.5%, 팔란티어는 9.4%, 암(Arm)은 5% 하락했고, 나스닥지수는 1.4% 떨어지며 8월 1일 이후 최대 일일 낙폭을 기록했다.

한 미국 기술 펀드 관계자는 MIT 보고서를 언급하며 “이 이야기가 투자자들을 겁먹게 하고 있다”고 전했다.

이후에도 약세는 이어졌다. 20일 나스닥지수는 1.1% 추가 하락해 4거래일 연속 내림세를 보이며 봄철 트럼프 대통령의 관세 여파 이후 최악의 한 주를 예고하고 있다. 같은 날 엔비디아는 1.5%, 팔란티어 2.5%, 암은 2.8% 떨어졌다.

투자자들 사이에선 “AI 랠리가 지나치게 앞서간 것 아니냐”는 의문이 커지고 있으며, 자금은 소비재·에너지·헬스케어 등 방어적 업종으로 이동하는 모습이다.

FT는 샘 올트먼 오픈AI CEO의 발언도 전했다. 그는 최근 “투자자들이 과도하게 흥분했는가? 내 생각에는 그렇다”고 말하며 AI 과열에 대한 경고를 내놨다.

그는 이어 “일부 투자자들은 아마도 많은 돈을 잃게 될 것이다. 이를 과소평가하고 싶지 않다. 그것은 끔찍하다. 하지만 전체적으로 사회에 가져올 가치는 거대할 것”이라고 덧붙였다.

결국 이번 MIT 보고서는 AI가 인력을 대체할 것이라는 단기적 우려보다는, 아직 대다수 기업이 ‘채택(adoption)’ 단계에 머물러 있고 진정한 ‘변혁(transformation)’은 드물다는 현실을 확인시켰다. 투자 열풍 속에서도 AI 활용 성패는 5% 소수 기업에 집중되고 있으며, 나머지 95%는 여전히 답을 찾지 못하고 있다는 것이다.

양현승 기자 hsyang@naeil.com