인공지능(AI) 사용량에 따라 비용을 매기는 종량제 요금제가 확산하면서 기업의 AI 지출이 예상보다 빠르게 늘고 있다. 토큰 가격은 떨어지고 있지만 업무 한 건에 필요한 토큰과 작업 단계가 늘어 총비용은 오히려 상승하는 모습이다. 기업들은 모든 업무에 고가 모델을 쓰는 대신 단순 업무에는 저렴한 오픈소스·중국산 모델을 배치하고, 코딩 등 복잡한 작업에만 프리미엄 모델을 쓰기 시작했다.

로이터통신은 29일(현지시간) 최근까지 기업들이 AI 사용 확대를 생산성 향상의 지표로 보고 토큰 사용을 극대화하는 ‘토큰맥싱’을 장려했지만, 요금 부담이 커지면서 전략을 재검토하고 있다고 보도했다.

AI 업체들이 월 정액제에서 사용량 기반 요금제로 전환한 데다 작업이 복잡해지면서 입력 데이터와 처리 단계가 늘어난 탓이다. 개별 업무에 필요한 토큰을 미리 가늠하기도 어려워져 기업 예산의 불확실성도 커졌다.

기업용 AI 시스템 운영을 지원하는 블루록의 해럴드 변 최고경영자(CEO)는 “라이선스 모델 변경 직후 고객사들로부터 예산이 20~30% 초과될 수 있다는 보고가 들어왔다”고 말했다.

시장조사업체 가트너는 AI 코딩 비용이 2028년 평균 개발자 연봉을 넘어설 것으로 전망했다. 가트너 조사에서는 임원의 4분의 3이 올해 기술 예산 증가를 예상했고, 이 가운데 절반가량은 두 자릿수 증가를 내다봤다.

씨티그룹에 따르면 AI 중개 플랫폼에서 처리된 전체 토큰 가운데 개방형 AI 모델의 비중은 1월 34%에서 6월 65%로 두 배 가까이 늘었다.

기업들은 이에 따라 허깅페이스와 깃허브 등에서 다양한 AI 모델을 비교하고, AI 모델 중개 플랫폼을 활용해 업무별로 가장 비용 효율적인 모델을 선택하고 있다. 이 흐름은 딥시크 등 중국의 개방형 AI모델 업체에 기회가 될 전망이다.

AI 중개 플랫폼에서 가장 많이 쓰이는 상위 4개 모델은 딥시크 V4 플래시와 텐센트의 하이3 프리뷰, 미니맥스 M3, 샤오미 미모 V2.5 등 모두 중국산이다. 중국 모델은 미국 최상위 모델과 성능 격차를 좁히면서도 100만토큰당 최저 0.18달러만 받는다. 최상위 모델 평균인 4달러의 5%에도 못 미치는 가격이다.

변 CEO는 개방형 AI 모델이 과거 선도 모델보다 1년 이상 뒤처졌지만 현재 격차는 약 4개월로 줄었다고 평가했다. 다만 사이버보안 등 민감한 산업에서는 중국산 모델의 보안 우려가 대기업 도입을 제한할 가능성이 있다.

니케시 아로라 팔로알토네트웍스 CEO는 AI 업체들이 앞으로 토큰 가격을 선제적으로 낮춰야 기업 고객을 잡을 수 있다고 주장했다.

월스트리트저널은 6월 10일 오픈AI가 앤스로픽과의 기업 고객 유치 경쟁에 대비해 토큰 요금을 포함한 AI 서비스 가격을 대폭 낮추는 방안을 검토하고 있다고 보도했다. 하지만 저가 경쟁은 양사의 매출 성장과 기업공개(IPO) 가치에 부담을 줄 수 있다. 시노버스증권의 크리스토퍼 브라운 재무고문은 “오픈AI와 앤스로픽이 먼저 상장하기 위해 맞붙으면서 가격 전쟁이 벌어질 것”이라고 말했다.

지난주 기술주는 막대한 AI 투자에 비해 수익이 충분하지 않다는 우려와 스페이스X의 상장 후 부진, 오픈AI의 상장 연기 가능성이 겹치며 약세를 보였다.

기업들은 향후 클라우드처럼 여러 AI 공급자를 함께 쓰며 업무별 성능과 가격을 비교할 것으로 보인다. 웨카의 발 베르코비치 최고AI책임자는 “개방형 AI 모델은 최고급 모델 가격의 10%로도 성능의 90%를 낼 수 있다”며 “모든 업무에 값비싼 최고사양 토큰을 쓸 필요는 없다”고 말했다.

이주영 기자 123@naeil.com