"우리가 도태되는 데엔 30일이면 충분하다." 미국 반도체기업 엔비디아 CEO 젠슨 황이 늘 주문처럼 외는 말이다. 엄살처럼 들린다. 게임과 인공지능에 쓰이는 고성능 반도체를 제조하는 엔비디아의 시가총액은 5년 전 310억달러에서 현재 5050억달러로 크게 올랐다. 그리고 전세계 가장 강력한 반도체 제조사였던 인텔을 능가했다.

하지만 황 CEO의 말엔 이유가 있다. 엔비디아는 거물 경쟁기업들에 둘러싸였다. 인텔 공동창업자 앤디 그로브의 책 제목처럼 빠르게 변화하는 반도체 시장에선 오직 편집광만이 살아남는다.

끊임없는 경계심으로 무장한 엔비디아는 2016~2021년 매출신장률 233%를 기록했다. 운영이익은 같은 기간 두배 이상 상승한 45억달러다. 올해 3~5월 매출은 전년 동기 대비 84% 상승했다. 매출총이익률은 64%에 달했다.

칩을 설계하고 제조하는 인텔의 매출이 엔비디아보다 4배 많지만, 투자자들은 엔비디아의 칩설계 사업에 보다 높은 가치를 부여한다. 엔비디아의 시가총액은 인텔보다 2배 가량 많다. 아마존과 구글, 마이크로소프트(MS), 중국 알리바바와 같은 기업들의 데이터센터는 모두 엔비디아 제품을 사용한다. 또 거대 정보통신 기업들은 물론 신약개발에서 기후변화 모델링에 이르는 수많은 연구개발팀들도 엔비디아 제품을 사용한다. 이코노미스트지 최신호는 "엔비디아는 깊고 넓은 해자를 구축한 것과 같은 경쟁력을 갖고 있다"고 전했다.

황 CEO는 더 깊고 넓은 경쟁력 해자를 원한다. 엔비디아는 지난해 9월 영국 반도체 기업 'Arm'을 400억달러에 인수했다. Arm은 에너지효율이 높은 고속의 스마트폰 칩을 만든다. 엔비디아는 Arm의 칩 설계 강점을 활용해 데이터센터와 인공지능(AI)을 위한 중앙처리장치(CPU)를 설계할 계획이다. 그래픽처리장치(GPU)에서 독보적인 엔비디아는 CPU라는 날개까지 장착할 생각이다.

미국과 영국 중국 EU 등의 반독점당국은 엔비디아의 Arm 인수 과정을 심사하고 있다. 이들 국가가 인수를 승인한다면, 컴퓨팅 부문에서 엔비디아의 입지는 거의 난공불락이 될 것으로 전망된다.

가속 컴퓨팅으로 월가 뒤흔들어

대만계 미국인인 황 CEO는 1993년 엔비디아를 창업했다. 초기 20년 동안엔 GPU 개발에 매달렸다. 엔비디아가 개발한 GPU 덕분에 실사처럼 보이는 고성능 게임이 가능해졌다. 이후 10년은 GPU의 재발견이었다. GPU의 주요 기능은 여전히 최신 인기 게임의 그래픽과 점점 생생해지는 비주얼이긴 하지만, 점차 범용 병렬 프로세서로도 발전해 다양한 응용 프로그램을 처리할 수 있게 됐다. 황 CEO는 4년 전 '가속 컴퓨팅'(accelerated computing)으로 월가를 뒤흔들었다. 프로세스의 일부를 GPU 등 하위 시스템에 할당해 애플리케이션 처리 속도를 높이는 방식이다.

엔비디아의 한해 매출 170억달러의 약 절반은 여전히 게임용 칩에서 나온다. 이 칩들은 암호화폐 이더리움을 뒷받침하는 수학적 난제를 푸는 데도 탁월했다. 때문에 암호화폐의 변동성이 엔비디아의 GPU 매출로 이어져 2018년 주가가 거의 반토막나기도 했다.

하지만 엔비디아의 AI 사업은 빠르게 성장하고 있다. 여기엔 프로그래머들이 미세조정할 수 있는 특수칩과 소프트웨어가 포함된다. 이는 황 CEO의 초기 베팅으로 가능했다. 2004년 엔비디아는 고효율 병렬 프로세서 '쿠다'(CUDA, Compute Unified Device Architecture)에 투자하기 시작했다. 미세조정을 가능케 하는 기반 소프트웨어 레이어로 엔비디아의 모든 칩에 탑재됐다. 당시 상당수 투자자들이 '값비싼 외도'라고 비판했다.

이같은 많은 시스템은 최종적으로 서버에 탑재된다. 데이터센터의 프로세싱 능력을 떠받치는 강력한 컴퓨터다. 데이터센터 매출은 2019년 엔비디아 총매출의 25%였지만 현재는 36%에 달한다. 게임용 GPU 매출과 맞먹는다.

오늘날 엔비디아의 AI 하드웨어-소프트웨어 콤보는 구글의 '텐서플로', 페이스북의 '파이토치'와 같은 기계학습 알고리즘에서 매끄럽게 작동하도록 설계된다. 자체적으로 AI 프로젝트를 가진 거대 기업 고객의 IT 시스템에 엔비디아의 하드웨어와 소프트웨어가 연계되면서 AI 개발자들의 일이 상상 이상으로 쉬워졌다. 엔비디아는 또 그동안 CPU의 전유물이었던 '추론' 영역에도 접근하고 있다. 엔비디아 가속 컴퓨팅 사업 대표인 이안 벅은 "음성인식이나 콘텐츠 추천과 같은 실시간 AI 모델의 성능 향상을 위해 점차 엔비디아의 전문 GPU가 필요해지고 있다"고 말했다.

Arm 인수 성공해 날개 달까

GPU는 특화된 연산을 빠른 속도로 수행하기 위해 비교적 단순한 다수의 산술논리장치(ALU)에 집중하는 구조로 만들어졌다. 하지만 GPU 단독으로는 어떤 작업도 처리할 수 없다. GPU를 제어하는 건 여전히 CPU의 역할이다. 이 지점에서 엔비디아는 Arm이 필요하다. CPU 퍼포먼스 능력을 갖춰야 하기 때문이다.

엔비디아는 지난 4월 자체적인 첫번째 데이터센터 CPU인 '그레이스' 개발계획을 공개했다. Arm 설계에 기반한 최첨단 칩이다. Arm의 에너지 고효율 칩들은 '에지컴퓨팅'에 맞는 AI 장비에 탑재될 수 있다. 에지컴퓨팅은 자율주행차, 공장 로봇 등 데이터센터와 멀리 떨어진 곳, 즉 전력을 대량소비하는 GPU가 쓰이기에 부적절한 곳에서 데이터를 처리한다.

마이크로프로세서 내의 트랜지스터들은 이미 원자 몇개를 모아놓은 초소형 크기다. 따라서 줄어들 여지가 크지 않다. 컴퓨팅 능력을 클라우드에 아웃소싱하거나 소프트웨어를 사용해 물리적 컴퓨터를 여러개의 가상머신에 분할하는 것과 같은 트릭으로는 문제를 해결하기 어렵다. 따라서 더 많은 CPU에 막대한 돈을 쏟아붓지 않고서도 프로세싱 파워를 얻는 또 다른 방법이 필요하다. 기업들이 가속 컴퓨팅에 관심을 돌릴 만한 이유다.

시장조사기업 '번스타인'의 스테이시 라스곤은 "향후 5~10년 AI가 보다 일반화되면, 매년 서버 증설에 투자되는 800억~900억달러의 최대 절반 정도가 엔비디아의 가속 컴퓨팅 모델로 전환될 수 있다"고 내다봤다. 엔비디아는 데이터센터와 에지컴퓨팅을 포함한 가속 컴퓨팅 글로벌 시장 규모가 연간 1000억달러를 넘을 것으로 예상한다.

늘어나는 경쟁기업들

하지만 이 시장이 엔비디아가 잡아놓은 집토끼는 아니다. 기회를 엿보는 경쟁자들이 늘고 있다. 스타트업들에서 굴지의 반도체 제조사들, 거대 기술기업들까지 눈독을 들이고 있다. 텐스토렌트와 언테더AI, 세레브라스, 그로크 등 AI 스타트업들은 엔비디아의 GPU보다 더 뛰어난 AI 칩 개발에 나섰다. 엔비디아의 GPU는 장점이 많지만 전력 사용이 많고 프로그래밍이 까다로울 수 있다. 영국 스타트업 그래프코어는 AI에 특화된 처리장치(IPU, intelligence-processing unit)를 홍보하고 있다.

인텔은 2019년 이스라엘 AI 반도체 스타트업인 '하바나랩스'를 인수했다. 아마존웹서비스(AWS)는 조만간 하바나의 가우디 가속기를 고객사에게 제공할 계획이다. AWS는 "가우디 칩이 엔비디아 GPU보다는 느리지만, 성능 대비 가격이 40% 저렴하다"고 주장한다. 게임용 반도체 시장에서 엔비디아의 경쟁기업이자 CPU 제조에선 인텔의 경쟁기업인 AMD는 350억달러 규모의 자일링스 인수작업을 마무리중이다. 자일링스는 'FPGA'(field programmable gate arrays)로 불리는 또 다른 가속칩을 만드는 기업이다.

엔비디아를 더 크게 위협하는 존재는 대형 고객사들일 수 있다. 거대 클라우드 기업들은 모두 자체 맞춤형 반도체를 설계하고 있다. 구글이 가장 먼저 나섰다. 자체 설계한 텐서처리장치(TPU)를 개발했다. 이어 MS의 애저 클라우드는 자일링스의 FPGA를 선택했다. 중국 검색엔진기업 바이두는 AI 용도로 쿤룬 가속기를, 알리바바는 한광800을 갖고 있다. AWS는 이미 AI 추론을 위해 자체 설계한 칩 '인퍼런시아'를 갖고 있다. 글로벌 투자은행 '제퍼리스'의 마크 리파시스는 "2020년 중반 이후 AWS는 점점 더 많은 고객사에게 인퍼런시아를 제공하고 있다. 잠재적으로 엔비디아의 비중을 빼앗을 것"이라고 말했다.

Arm 인수건은 아직 완결된 게 아니다. Arm 고객들은 반도체 제조사들뿐 아니라 AWS, 애플 등 기술기업을 포함한다. 애플은 Arm 칩을 아이폰에 사용한다. 일부 고객사들은 '엔비디아가 Arm 칩 설계 청사진 등에 대한 타 기업의 접근을 제한할 것'이라고 우려한다. AWS의 맞춤형 서버칩인 '그래비톤2'는 Arm 설계에 기반한다. 이에 대해 엔비디아는 "Arm의 기존 사업모델을 바꿀 계획이 없다"고 말한다.

서구의 반독점 당국들은 아직 거래를 승인할지 결정하지 않았다. 영국 당국은 7월 30일 심사를 종료했다. 조만간 승인 여부를 밝힐 첫번째 국가가 될 전망이다. 중국은 자국 기술기업들의 중요한 공급기업인 Arm이 미국기업에 인수되는 것을 못마땅해 할 수 있다. Arm은 현재 일본 기술그룹인 소프트뱅크가 소유하고 있다.

하지만 이코노미스트지는 "반독점 당국 중 한 곳이 거래를 좌절시킨다 해도, 엔비디아의 전망은 어둡지 않아 보인다"고 예상했다.

인텔은 지난 수년 동안 가속 컴퓨팅을 포함한 많은 것들을 약속했지만 대개 실현하지 못했다. 또 벤처자본가들은 엔비디아에 대항하는 스타트업들과 그 소프트웨어에 자금을 대는 일에 별 다른 관심이 없어 보인다. 가속 컴퓨팅에 투자하는 거대 기술기업들도 가속 컴퓨팅에 그다지 강한 열망이 느껴지지 않는다. 미국 데이터센터 운영기업인 '에퀴닉스'의 폴 테이치는 "AWS 등 빅테크 기업들의 접시엔 이미 다른 음식들이 많이 담겼다. 엔비디아처럼 가속 컴퓨팅에 대한 확고한 집중력이 없다"고 말했다.

황 CEO는 "중요한 건 AI 애플리케이션을 훈련시키고 구동하는 비용이다. 하드웨어 부품의 가격이 아니다"라며 "우리는 가격 대비 성능에서 타의 추종을 불허한다. 엔비디아의 경쟁기업 중 그 어느 곳도 자체적인 소프트웨어 생태계를 구축한 곳은 없다"고 강조했다.

제퍼리스의 리파시스는 "엔비디아는 가속 컴퓨팅에 확고한 입지를 구축했다. 또 경쟁기업들이 타성에 젖은 상황에서 엔비디아는 혜택을 보고 있다"고 말했다.