“인공지능(AI) 데이터센터 경쟁이 그래픽처리장치(GPU) 확보에서 효율적 메모리 사용으로 경쟁이 옮겨가고 있다.”25일 서울 소노펠리체 컨벤션에서 한국벤처캐피탈협회 기술세미나가 열렸다. 김진영 엑시나 대표는 “인공지능 시대의 핵심문제는 연산장치 성능만이 아니라 데이터를 저장하고, 옮기고, 처리하는 메모리 구조”라며 메모리 중심 기반시설의 필요성을 강조했다.

김 대표는 ‘인공지능 기반시설에서 메모리의 다음 단계’라는 주제 강연에서 “대규모 언어모델의 학습과 답변생성이 늘면서 데이터센터가 부담을 안게 됐다”고 설명했다.

데이터가 연산장치와 메모리 사이를 반복해서 옮겨지는 과정에 많은 메모리와 전력이 소비된다. 또한 서버마다 남는 메모리를 다른 서버가 활용하기 어려워 전체 자원활용률도 떨어진다는 것이다.

현재는 그래픽처리장치와 고대역폭메모리를 늘려 인공지능 성능을 높이는 방식이 주로 쓰인다. 그러나 인공지능 서비스가 커질수록 장비가격 상승과 전력사용량 증가가 발생한다.

그는 “연산장치만 늘리는 방식으로는 비용문제를 해결하기 어렵다”며 “메모리를 더 많이 넣는 것보다 메모리를 서로 연결하고 필요한 곳에 나눠 쓰는 구조가 중요하다”고 설명했다.

엑시나가 제시한 해법은 ‘컴퓨트 익스프레스 링크(CXL)’를 활용해 여러 서버의 메모리를 연결하고 공유하는 방식이다. 쉽게 말하면 서버마다 따로 갖고 있던 메모리를 하나의 큰 저장공간처럼 묶어 서버가 필요한 만큼 가져다 쓰도록 하는 기술이다.

이와 함께 메모리 가까이에 간단한 연산기능을 배치해 중앙처리장치나 그래픽처리장치까지 옮기지 않고도 일부 작업을 처리하는 구조도 설명했다.

기존 서버는 중앙처리장치나 그래픽처리장치가 메모리에서 데이터를 가져와 계산한 뒤 다시 저장한다. 데이터 양이 많아질수록 이 왕복과정이 길어지고 전력소모도 커진다.

엑시나는 데이터가 있는 메모리 근처에서 일부 계산을 처리해 데이터 이동을 줄이겠다는 전략이다. ‘데이터를 처리장치로 계속 옮기는 방식’에서 ‘처리기능을 데이터 가까이 보내는 방식’으로 바꾸겠다는 의미다.

대표 제품인 ‘MX1’은 이런 구조를 구현한 메모리 반도체다. 자체 설계한 연산코어를 넣어 인공지능 답변생성, 대규모 데이터검색, 데이터 분석작업을 메모리 가까이에서 수행하도록 설계됐다.

최신 규격의 디디알5(DRAM)와 저장장치(SSD)를 연결해 메모리 용량을 늘리고 그래픽처리장치와 고대역폭메모리에 몰리던 데이터 처리부담을 나누는 것이 목표다.

엑시나는 최근 약 2000억원 규모의 시리즈비(B) 투자를 유치하며 제품검증과 양산준비에 들어갔다. 회사는 확보한 자금을 MX1 고객사 검증, 양산체계 구축, 해외 인공지능 기반시설 시장진출에 활용할 계획이다.