삼성전자, AI 탑재 메모리 확대한다
새 제품 학회서 공개
삼성전자는 24일 온라인으로 개최된 핫칩스(Hot Chips) 학회에서 지난 2월 업계 최초로 개발한 HBM-PIM 뿐만 아니라 PIM 기술을 적용한 다양한 제품군과 응용사례를 소개했다. 핫칩스 학회는 업계에서 가장 주목하는 차세대 반도체기술이 공개되는 학회로 주요 반도체 업체 중심으로 1989년부터 매년 개최되고 있다.
삼성전자는 이날 학회에서 D램 모듈에 AI엔진을 탑재한 'AXDIMM', 모바일 D램과 지능형반도체(PIM)를 결합한 'LPDDR5-PIM' 기술, 고대역폭메모리(HBM)-PIM의 실제 시스템 적용 사례를 각각 소개했다.
AXDIMM은 PIM 기술을 칩단위에서 모듈단위로 확장한 것으로 D램 모듈에 인공지능 엔진을 장착한 제품이다. D램 모듈의 동작 단위인 각 랭크(Rank)에 AI엔진을 탑재하고 병렬 처리를 극대화해 성능을 높이고, AI엔진을 통해 D램 모듈내부에서 연산이 가능해져 CPU와 D램 모듈간의 데이터 이동이 줄어들어 AI를 실행하기 위한 전용 하드웨어인 AI가속기 에너지 효율을 높일 수 있다.
삼성전자는 주요 고객사들 서버환경에서 AXDIMM 성능평가를 진행하고 있다. 이 평가에서 성능은 약 2배 향상, 시스템 에너지는 40% 이상 감소를 확인했다.
삼성전자는 모바일 분야까지 PIM을 확대 적용한 'LPDDR5-PIM' 기술도 공개했다.
PIM 기술이 모바일 D램과 결합할 경우 데이터센터와 연결 없이 휴대폰 독자적으로 AI 기능을 수행할 수 있다. 이를 통해 AI 성능과 에너지 문제를 효과적으로 해결할 수 있을 것으로 예상된다. 시험 결과 음성인식 번역 챗봇 등에서 2배 이상의 성능 향상과 60% 이상의 에너지 감소가 확인됐다.
삼성전자는 이번 학회에서 지난 2월 공개한 HBM-PIM을 실제 시스템에 탑재한 검증 결과도 발표했다.
미국 자일링스(Xilinx) AI 가속기 시스템에 HBM-PIM을 탑재했을 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2.5배 높아지고, 시스템 에너지는 60% 이상 감소되는 것을 확인했다.