삼성SDS는 국내 최초로 삼성클라우트플랫폼(SCP)을 통해 엔비디아의 최신 그래픽처리장치(GPU)인 ‘블랙웰 울트라’(B300) 기반 GPU구독서비스(GPUaaS)를 출시했다고 23일 밝혔다.

회사측은 “이번 B300 GPU구독서비스 출시는 최근 기업들이 AI 모델 개발을 넘어 실제 서비스에 적용하는 ‘AI 추론’ 단계로 진입함에 따라 급증하는 고성능 컴퓨팅 수요에 대응하기 위한 전략”이라고 설명했다.

B300 GPU는 12단 고대역폭메모리(HBM3E)를 탑재해 GPU당 288기가바이트(GB)의 메모리 용량과 초당 8테라바이트(TB)의 대역폭을 제공한다. 복잡한 연산이 필요한 AI 추론 영역에서 H100 대비 용량은 3.6배, 대역폭은 2.4배로 메모리 성능이 향상됐다.

이에 따라 대규모 언어 모델(LLM) 실행 시 GPU의 빠른 연산 처리 속도 대비 느린 메모리의 데이터 전송 속도로 인해 전반적인 성능이 저하되는 데이터 병목 현상이 획기적으로 개선됐다.

삼성SDS는 2021년 A100, 2023년 H100 기반 GPU구독서비스를 선제적으로 제공한 바 있다.

삼성SDS에 따르면 SCP B300 GPUaaS를 도입하는 고객은 고용량 메모리를 통해 거대 AI 모델을 효율적으로 처리할 수 있어 고성능이 필요한 AI서비스의 지연 시간을 최소화할 수 있다. 또 필요한 만큼 쓰고 지불하는 구독형 모델을 이용하면 초기 투자 리스크를 낮추고 비용을 효율화할 수 있다.

삼성SDS는 AI 모델을 적용할 때 별도의 인프라 사용료없이 사용한 토큰양 만큼만 비용을 지불하는 ‘서버리스 추론 서비스’와 개발자가 코드와 데이터를 입력하면 자동으로 즉시 AI를 분산학습시키는 ‘AI 학습 서비스’ 등을 올 3분기에 출시할 계획이다.

고성수 기자 ssgo@naeil.com