4년 차에 접어든 인공지능 시대, 반도체 시장에 지각변동이 시작됐다. 그동안 클라우드 거대 기업들이 엔비디아 범용 그래픽 칩(GPU)에만 의존해 연산 성능을 끌어올리던 시대가 저물고 있다. 이제는 각자의 필요에 딱 맞춘 맞춤형 AI 칩(ASIC, Application-Specific Integrated Circuit) 개발로 무게중심이 옮겨가고 있다.

AI 열풍 초기 마이크로소프트와 구글 등은 경쟁에서 밀리지 않으려고 데이터센터 설비투자를 폭증시켰다. 하지만 최근 이런 투자 기조에 미묘한 변화가 감지되고 있다. 시장조사업체 델오로 그룹에 따르면 세계 11대 클라우드 기업들의 설비투자 증가율은 2024년 55%에서 2025년 56%, 2026년 26%로 급격히 둔화할 전망이다. 칩 공급 부족이 해소되고 AI 칩 성능이 향상되면서 같은 비용으로도 더 큰 연산 능력을 확보할 수 있게 된 덕분이다. 동시에 초기 투자 대부분이 엔비디아 범용 칩에 몰렸지만, 이제는 맞춤형 AI 칩 도입 비중이 눈에 띄게 늘고 있다.

AI 칩 시장 판도변화 일으키는 브로드컴

AI 칩 시장에서 새로운 판도 변화가 일어나고 있다. 엔비디아 GPU 독주 체제에 균열을 내는 건 AMD나 인텔 같은 기존 반도체 강자들이 아니다. 대신 브로드컴과 마벨 같은 주문형 AI 칩 업체들이 ‘가성비’라는 무기로 승부수를 던지고 있다. 이들의 전략은 단순하지만 효과적이다. 고객이 실제로 필요한 기능만 골라 담아 칩을 맞춤 제작하는 것이다. 특히 브로드컴은 여기에 네트워킹 기술까지 더했다. 개별 칩의 성능이 조금 떨어져도 수만 개의 칩을 초고속으로 연결해 전체 시스템의 효율을 높이는 방식이다. 결국 기업들이 가장 중시하는 ‘총소유비용(TCO)’에서 엔비디아를 위협하는 새로운 대안으로 떠오르고 있다.

실제 성과도 눈에 띈다. 아마존은 자체 개발한 AI 칩 트레이니움2를 도입한 결과, 같은 작업을 GPU로 처리할 때보다 30~40% 적은 비용으로 운영할 수 있다고 밝혔다. 맞춤형 칩을 쓰면 전기료와 장비 부담이 크게 줄어든다는 설명이다. 구글 역시 2014년부터 브로드컴과 AI 가속 칩 TPU를 공동 개발해 왔다. 올해 4월 공개된 7세대 칩 TPU(Ironwood)는 전작 대비 성능 10배 향상, 전력 효율 2배 개선으로 엔비디아 차세대 GPU(B200)와 맞먹는 수준의 최대 성능을 낸다고 알려졌다. 메타는 브로드컴과 4년간 공동 개발한 MTIA 2세대 칩을 올해부터 생산해 자사 AI 모델에 적용하기 시작했다.

거대 기술기업들이 자체 칩 개발에 뛰어드는 이유는 간단하다. 돈과 전력을 아끼기 위해서다. 브로드컴 반도체솔루션 부문 대표 찰리 카와스는 “수십억 명이 쓰는 서비스에 범용 칩을 쓰면 전력과 비용이 너무 많이 든다”라며 “각 기업의 핵심 업무에 딱 맞춘 칩을 만들면 훨씬 효율적”이라고 설명한다. 결국 필요한 기능만 넣고 불필요한 부분은 빼서 만든 맞춤형 칩이 범용 하드웨어보다 성능도 좋고 비용도 적게 든다는 얘기다.

두 갈래로 갈라지는 AI 인프라

시장 변곡점을 알린 결정적 사건은 지난 2024년 4분기 브로드컴의 발표였다. 브로드컴은 2024회계연도 4분기 실적 발표에서 2027년 주문형 AI 칩 및 네트워킹 서비스 가능 시장 규모(SAM)를 600억~900억달러(약 83조~125조원)로 발표했다. 이는 현재 칩 개발 계약을 맺고 있는 구글, 메타, 틱톡의 모회사 바이트댄스 등 일부 고객 기반으로 산출한 수치다. 여기서 그치지 않고 브로드컴은 “이미 계약한 다른 4곳까지 포함하면 시장은 더 커진다”라며, 그중 하나인 오픈AI와 100억달러 규모 양산 계약을 체결했다고 밝혀 파장을 키웠다.

오픈AI 계약분을 합산하면 2027년 시장규모는 700억~1000억달러로 뛰며, 아직 양산 일정이 확정되지 않은 기업들까지 고려하면 전망치는 더 올라간다는 게 브로드컴의 계산이다. 브로드컴이 2024년 주문형 AI 칩+네트워킹 전체 시장을 150억~200억달러로 추산했는데, 불과 3년 만에 최소 3배 이상 커지는 셈이다.

이러한 성장의 과실은 선두 주자, 브로드컴이 대부분 차지할 것으로 보인다. 브로드컴은 올해 맞춤형 AI 칩 및 네트워킹 부문 매출이 122억달러(약 17조원)로, 시장 점유율 최소 60% 이상을 확보했다고 자신한다. 구글, 메타 등 주요 고객들과 여러 세대에 걸친 공동 개발로 쌓은 신뢰, 그리고 1위 기업으로서 오랜 기간 축적한 ASIC 설계 특허와 기술력을 고려하면 당분간 이 지위가 흔들릴 가능성은 낮다는 평가다. 주요 고객사들이 AI 기반 투자를 공격적으로 늘리는 한, 브로드컴은 맞춤형 칩 설계와 고성능 이더넷 네트워킹 강점을 앞세워 시장 성장의 직접적인 수혜를 입을 것이라는 전망이 지배적이다.

엔비디아도 가만히 있지는 않았다. 맞춤형 ASIC 칩 시장의 약진에 대응해 올해 초 ASIC 전담 부서를 신설하고 대만 미디어텍 등 전문 기업 출신 인재를 대거 영입했다. 젠슨 황 엔비디아 CEO는 향후 5년 내 대만에 연구개발센터를 세우고 1,000명을 신규 채용할 계획도 밝혔다.

칩 설계 구조(아키텍처) 업그레이드 주기도 단축했다. 범용 칩 성능을 더 빨리 끌어올려 브로드컴·마벨의 가성비 전략을 견제하려는 의도다. 차세대 GPU 설계 구조 전환주기를 종전보다 6개월 이상 앞당기겠다고 예고했다. 네트워킹 전략 역시 크게 선회했다. 엔비디아는 지난 5월 컴퓨텍스 행사에서 자사 고속 인터커넥트 기술 NVLink를 개방형으로 확장한 ‘NVLink 퓨전’을 전격 공개했다.

NVLink 퓨전은 다른 회사가 설계한 주문형 CPU나 AI 칩도 엔비디아의 NVLink 네트워크에 연결할 수 있게 해주는 기술로 미디어텍, 마벨, 알칩, 아스테라랩스, 시놉시스, 케이던스 등 여러 파트너들이 참여하고 있다. 그동안 NVLink를 자사 GPU끼리만 묶도록 제한해 온 엔비디아가 사실상 외부에 문을 연 것으로 자체 생태계를 넓혀 주문형 칩 시장 변화에 대응하려는 포석으로 해석된다.

아울러 엔비디아는 데이터센터 이더넷 스위치 사업도 강화하고 있다. (이더넷, Ethernet: 전 세계 데이터센터와 통신망에서 가장 널리 쓰이는 범용 네트워크 기술. 호환성과 확장성이 강점이다) 구글, 메타처럼 맞춤형 AI 칩을 늘리는 기업들이 초고속 전용망인 인피니밴드 대신 이더넷을 선호하는 움직임에 맞춰, 엔비디아는 자사 이더넷 플랫폼(Spectrum-X) 판매를 확대해 왔다. 그 결과 2026년 1분기 실적에서 해당 분야 매출이 전분기·전년 대비 모두 증가해 연 환산 100억 달러를 넘겼다고 발표했다.

특히 구글과 메타를 신규 고객으로 확보해, 그간 이들에게 이더넷 스위치를 공급해 온 아리스타 네트웍스에 위협을 주는 모습이다. 실제 엔비디아의 이더넷 확대 소식이 전해지자, 아리스타 주가는 하락하고 브로드컴 주가는 상승하는 등 시장에서는 ASIC+이더넷 조합의 부상을 기정사실로 받아들이는 분위기였다.

범용 칩 절대강자 엔비디아조차 ASIC 중심의 새 흐름에 발맞춰 조직 개편부터 기술 개방까지 분주하게 움직이고 있다. 다만 이미 구글·메타 등과 차세대 칩 개발까지 협의 중인 브로드컴의 맞춤형 반도체 우위는 당분간 굳건할 전망이다.

엔비디아 독주 체제를 흔드는 분수령

마벨도 무시할 수 없는 주문형 반도체 주자다. 브로드컴이 구글·메타와 손잡았다면, 마벨은 아마존·마이크로소프트를 파트너로 선택했다. 아마존 AWS의 핵심 칩인 그래비톤과 트레이니움 뒤에는 마벨의 기술이 숨어있다.

하지만 아직 브로드컴을 따라잡기엔 역부족이다. 고객사 아마존의 투자 증가 속도가 다른 빅테크보다 느리고, 마이크로소프트의 자체 칩 개발도 지연되고 있기 때문이다. 엔비디아의 NVLink 퓨전 파트너로 이름을 올린 데서 보이듯 마벨 또한 향후 맞춤형 AI 칩 대세에 발맞춰 기술력을 끌어올리며 적극 대응할 채비를 하고 있다.

외신들도 비슷한 진단을 내놓고 있다. 파이낸셜타임스와 로이터 등은 브로드컴이 오픈AI와 체결한 대규모 계약을 두고 “엔비디아 독주 체제를 흔드는 분수령”이라고 평가했다. 시장조사업체와 분석가들 역시 브로드컴이 맞춤형 AI 칩과 네트워킹 분야에서 이미 과반 이상 점유율을 확보한 만큼 향후 몇 년간 성장세가 이어질 것으로 내다봤다.

다만 엔비디아의 CUDA(AI 개발자들이 가장 널리 쓰는 GPU 소프트웨어) 생태계와 범용 GPU 위상이 여전히 공고한 만큼 전체 시장은 GPU 중심의 구조 속에서 맞춤형 칩이 병행되는 구도로 재편될 것이라는 전망이 우세하다.

이주영 기자 123@naeil.com