오픈AI가 엔비디아의 최신 인공지능(AI) 칩 일부 성능에 불만을 품고 대안을 모색해 온 것으로 전해졌다. 로이터는 3일(현지시각) 사안을 아는 소식통 8명을 인용해 챗GPT 개발사 오픈AI가 지난해부터 엔비디아 칩을 대체할 수 있는 선택지를 찾고 있다고 보도했다. 이는 AI 붐의 상징으로 꼽히는 두 회사의 관계에도 변수가 될 수 있다는 관측이 나온다.

로이터에 따르면 오픈AI의 전략 변화는 추론(inference)용 칩에 대한 비중이 커진 것과 맞물려 있다. 추론은 챗GPT 같은 AI 모델이 이용자의 질문과 요청에 답을 내놓는 단계를 말한다.

엔비디아는 대형 AI 모델 학습(training)용 칩에서 여전히 우위를 지키고 있지만, 추론이 새 경쟁 전선으로 부상하면서 시장 구도가 흔들릴 가능성이 있다는 평가가 나온다.

오픈AI를 비롯한 업체들이 추론 칩 시장에서 대안을 찾기 시작한 것은 엔비디아의 AI 지배력에 대한 중요한 시험대가 될 것이라고 로이터는 전했다. 특히 두 회사가 투자 협상을 진행 중인 상황에서 이런 흐름은 협상에도 영향을 줄 수 있다는 분석이 제기된다.

엔비디아는 지난해 9월 오픈AI에 최대 1000억달러 투자 의향을 밝혔지만, 수주 내 타결 예상과 달리 협상이 수개월째 이어지고 있다고 로이터는 전했다. 관련해 월스트리트저널은 젠슨 황 CEO가 주변에 이 구상은 구속력 없는(non-binding) 수준으로 최종 합의가 아니라고 강조해 왔다도고 전했다.

그 사이 오픈AI는 AMD 등과도 거래를 맺으며 엔비디아 대안을 찾기 시작했다. 로드맵 변화로 필요한 연산 자원 성격이 달라진 점이 엔비디아와의 협상을 지연시키는 요인으로 거론됐다.

젠슨 황 엔비디아 최고경영자(CEO)는 1일(현지시각) 긴장설을 근거 없는 얘기라고 일축하며 대규모 투자 계획을 거듭 밝혔다. 오픈AI도 추론용 인프라 대부분을 엔비디아에 의존하고, 추론에서 달러 대비 성능이 가장 낫다고 했다. 샘 올트먼 오픈AI CEO 역시 엑스(X)에 엔비디아가 세계 최고 AI 칩을 만든다며 장기간 ‘거대한 고객’으로 남고 싶다고 적었다.

다만 소식통들은 소프트웨어 개발 등 일부 작업에서 엔비디아 하드웨어의 응답 속도에 오픈AI가 만족하지 못하고 있다고 전했다. 로이터는 오픈AI가 장차 추론 컴퓨팅 수요의 약 10%를 새 하드웨어로 대체하는 방안을 염두에 두고, 세레브라스·그록 등과 추론용 칩 협력을 논의했다고 보도했다.

오픈AI의 대안 탐색은 SRAM(정적 램)처럼 메모리를 칩 내부에 대량 집적하는 설계를 내세운 업체들에 집중됐다. 추론은 학습보다 메모리 의존도가 크고, 데이터 호출 시간이 길어지며 병목이 생기기 쉬운데, 엔비디아·AMD의 GPU는 외부 메모리에 의존해 지연이 늘어날 수 있다는 것이다. 이 문제는 오픈AI의 코드 생성 제품 코덱스(Codex)에서 특히 두드러졌다는 소식통 주장도 전해졌다.

그러나 로이터에 따르면 엔비디아가 그록과 200억달러 규모의 라이선싱 계약을 체결하면서 오픈AI와 그록의 협의가 중단됐다는 말도 나왔다. 엔비디아는 그록의 지식재산(IP)이 자사 로드맵과 상호보완적이라고 밝혔다.

엔비디아는 SRAM 중심 기술 기업들에 인수 가능성을 타진했지만 세레브라스는 이를 거절하고 오픈AI와 사용 계약을 맺었다. 로이터는 그록이 기업가치 약 140억달러 수준에서 투자자 관심을 받았고, 엔비디아가 12월 그록 기술을 비독점 방식으로 라이선스하는 현금 거래를 추진했으며, 그 과정에서 그록의 칩 설계 인력이 엔비디아로 옮겨갔다고도 보도했다.

이주영 기자 123@naeil.com