“이 칩은 업계에서 가장 진보한 AI 가속기입니다.”

지난해 12월 ‘MI300 칩’을 출시하면서 ‘어드밴스트 마이크로 디바이시스(AMD)’ CEO 리사 수는 이렇게 장담했다. 수 대표는 일련의 기술사양을 읊었다. 1530억개의 트랜지스터, 192기가바이트 메모리, 초당 5.3테라바이트의 메모리대역폭…. 이는 엔비디아가 만든 최고급 인공지능(AI)칩인 ‘H100’보다 각각 약 2배, 2.4배, 1.6배 높은 성능이다.

엔비디아는 AI 반도체 분야에서 두각을 나타내면서 시가총액 1조5000억달러의 거대기업으로 성장했다. 미국에서 다섯번째로 가치가 높은 기업이다.

하지만 대부분의 전문가들은 AMD의 MI300이 실제로 엔비디아의 H100을 능가한다는 사실에 동의한다. 투자자들 역시 호평을 아끼지 않았다. 신제품 발표 다음날 AMD 주가는 10% 상승했다.

지난달 30일(현지시각) 분기 실적발표에서 AMD는 올해 35억달러 상당의 MI300을 판매할 것으로 전망한다고 발표했다. 또 2023년 매출이 230억달러에 달할 것으로 예상했다.

이는 수 대표가 CEO로 취임한 2014년 이래 4배 성장한 수치다. 시장가치는 2700억달러로 100배 늘어났다. 지난해에는 한때 미국 반도체 산업을 지배했던 인텔을 제치고 미국에서 두번째로 가치가 큰 반도체기업으로 부상했다. 영국 이코노미스트지 최신호는 “AMD는 이제 가장 큰 기업을 목표로 하고 있다”며 “10년 전만 해도 그같은 야망은 공상처럼 보였다”고 전했다.

AMD 최고기술책임자인 마크 페이퍼마스터는 이코노미스트에 “당시 AMD가 실존적 위기에 직면해 있었다”고 회상했다. 2008년 프로세서 설계에 집중하기 위해 칩 제조 사업을 분사하고 대만 TSMC 등의 위탁사에 제조를 아웃소싱했다. 따라잡을 수 없는 제조능력은 포기하고, 설계도면 경쟁에서 우위를 점하기 위해서였다.

하지만 성공하지 못했다. AMD의 여러 칩이 실패했다. 주로 개인용컴퓨터(PC) 중앙처리장치(CPU) 판매량이 급감했다. 2013년에는 현금을 마련하기 위해 텍사스주 오스틴시에 있는 부지를 매각한 뒤 다시 임대해 사용했다.

1년 뒤인 2014년 리사 수가 AMD 수장으로 취임했다. 이코노미스트는 “당시 AMD는 10억달러 넘는 부채, 연간 4억달러 손실, 200억달러(2006년)에서 30억달러 밑으로 떨어진 시장가치를 가진 위기의 기업이었다”고 전했다.

AMD가 재도약할 수 있는 유일한 방법은 침체된 PC 시장에서 벗어나 데이터센터 서버용 CPU와 게임콘솔용 그래픽처리장치(GPU) 등 더 유망한 분야에 집중하는 것뿐이었다. 수 대표와 페이퍼마스터 CTO는 가격뿐 아니라 성능에서도 인텔을 이길 수 있도록 설계된 새로운 CPU 아키텍처에 도박을 걸었다.

새로운 CPU 아키텍처에 명운 걸어

도박의 핵심 아이디어는 칩 제작에 레고와 같은 접근방식을 적용하는 것이었다. AMD는 칩을 더 작은 부품으로 쪼개 블록을 조합하는 방식으로 다양한 유형의 칩을 저렴한 비용으로 조립할 수 있었다. 2017년 인텔의 경쟁제품보다 더 빠르고 저렴한 합성 칩을 출시할 수 있었다.

당시 인텔은 대만 TSMC, 한국 삼성전자와 더 작은 트랜지스터를 추구하는 나노경쟁을 벌이며 주의를 분산시킬 때였다. 그 덕분에 AMD는 지난 10년 동안 수익성 높은 서버 CPU 시장점유율을 0%에서 30%로 늘릴 수 있었다. 마침내 인텔의 독점을 깨뜨린 것이다.

인텔이라는 한 거인의 독점을 무너뜨린 AMD는 이제 또 다른 거인과 맞서고 있다. 엔비디아와의 경쟁은 양상이 다소 다르다. 우선 리사 수와 대만 출신 엔비디아 수장 젠슨 황은 먼 친척관계다. 인텔과 달리 엔비디아는 AMD처럼 칩 설계기업이다. 때문에 엔비디아가 관심을 분산시키는 나노경쟁을 벌이며 실수할 가능성이 적다.

더 중요한 건 판돈이 더 크다는 점이다. 엔비디아 시장가치 1조5000억달러는 AI 모델을 훈련하는 데 가장 적합한 칩을 생산하며 GPU 시장을 장악하고 있다는 데 근거한다. 수 대표는 지난해 400억달러였던 글로벌 AI 칩 시장이 2027년 4000억달러에 달할 것으로 예상한다.

엔비디아는 강력한 라이벌이다. 매출과 영업마진 모두 AMD의 3배에 육박한다. 투자은행 제퍼리스에 따르면 엔비디아는 전세계에서 판매되는 AI 가속기 칩의 86%를 차지한다. MI300을 출시하기 전까지 AMD의 존재감은 거의 없었다.

또 엔비디아는 칩 클러스터를 연결하는 네트워크장비와 AI 워크로드(업무량)를 관리하는 소프트웨어 ‘쿠다(CUDA)’를 제공한다. 리서치기업 ‘페브리케이티드 날리지’의 더그 오러플린은 “엔비디아는 최고의 칩, 최고의 네트워킹 키트, 최고의 소프트웨어를 제공하기 때문에 AI 칩 시장을 지배할 수 있었다”고 말했다.

MI300라는 AMD의 새로운 프로세서는 반도체 하드웨어에서 엔비디아와 경쟁할 수 있음을 보여준다. 페이퍼마스터 CTO는 “이는 10년에 걸친 투자의 결과”라고 말했다. AMD는 연구개발(R&D)에 매년 거의 60억달러를 지출한다. 엔비디아와 비슷한 금액이며, 매출 대비로는 2배에 달한다. 이를 통해 레고 접근방식을 GPU에 적용하고 있다. 10여개의 블록, 즉 칩렛(chiplets)을 하나의 칩에 결합하는 방식으로 AMD는 프로세서와 메모리를 서로 가깝게 배치해 처리속도를 높일 수 있다.

지난 12월에 챗GPT 개발사인 오픈AI는 일부 AI 훈련에 MI300을 사용할 것이라고 밝혔다.

네트워킹·소프트웨어 분야에서 엔비디아를 능가하기 위해 AMD는 다른 기업들과 협력하고 있다. 지난 12월 양대 네트워킹 장비 제조기업인 브로드컴, 시스코 등과 파트너십을 발표했다. 또 칩 간 통신연결방식인 엔비디아의 ‘인피니밴드’와 맞서기 위해 오픈소스 방식의 ‘울트라 이더넷 컨소시엄’을 지원하고 있다.

하지만 소프트웨어 분야에서 선두 엔비디아를 따라잡기는 더 어려울 것이라는 분석이다. 엔비디아는 현재의 AI 열풍이 불기 훨씬 전인 2000년대 중반부터 쿠다에 투자했다. AI 개발자와 연구자들은 엔비디아 프로세서의 성능을 미세조정할 수 있는 쿠다 플랫폼을 선호한다. AMD는 자사의 소프트웨어 플랫폼인 ‘ROCm’을 오픈소스로 공개하고, CUDA 프로그램을 ROCm 프로그램으로 원활하게 변환할 수 있는 도구를 제공하면서 고객들을 유인할 계획이다.

엔비디아 독점 우려하는 기술기업들

AMD가 자신의 힘으로 엔비디아를 이기는 건 쉽지 않을 전망이다. 엔비디아는 최근 2년에 1번씩이 아닌 매년 새로운 칩을 출시하겠다고 장담했다. 알파벳과 아마존, 메타, 마이크로소프트(MS) 등 AI에 대한 야망이 큰 거대 기술기업들도 자체 가속기 칩을 설계하느라 바쁘게 움직이고 있다. AMD의 견조한 매출에도 불구하고 투자자들은 MI300의 올해 출하량 전망에 실망했다. 지난달 말 최신 실적을 발표한 다음 날 AMD 주가는 3% 하락했다.

하지만 AMD가 비빌 언덕이 없지는 않다는 분석이다. 엔비디아는 우월적 지위를 바탕으로 비싼 가격을 책정하는가 하면, 수요가 공급을 앞지르는 상황에 구매자에게 칩을 배급하고 있는 형편이다. 따라서 유수의 AI 기업들은 엔비디아를 대체할 대안을 절실히 원하고 있다.

뱅크오브아메리카(BoA)의 애널리스트 비벡 아리아는 “대형 기술기업들이 자체 하드웨어를 설계하려고 노력하고 있지만, 당분간은 반도체기업들에 의존할 수밖에 없을 것”이라며 “AMD가 이들에게 선택지를 제공하고 있다”고 말했다.

이미 MS와 메타는 데이터센터에 AMD의 GPU를 사용할 계획이라고 밝혔다. 이코노미스트지는 “그리고 만약 엔비디아가 실수하면 AMD는 레고 조각을 집어들 것”이라며 “(CPU 독점시장을 상실한) 인텔에 물어보라”고 전했다.

김은광 기자 powerttp@naeil.com