비용 부담 때문에 갖추기 어려운 인공지능(AI) 인프라를 맞춤형으로 빌려쓸 수 있는 서비스가 나왔다.

KT는 연구나 상용서비스를 위한 AI 인프라와 운영 컨설팅을 지원하는 'KT 하이퍼스케일 AI 서비스'를 출시했다고 9일 밝혔다.

이 서비스는 AI 컴퓨터, 개발자용 프로그램(툴킷), 전문가그룹 컨설팅, 데이터센터 등으로 구성된다. 특히 AI 모델 학습과 추론에 최적화된 지능형처리장치(IPU)를 기반으로 빠르고 안전한 수요자 맞춤형 인프라를 제공하는 것이 특징이다.

IPU는 영국 반도체 스타트업이 개발한 AI반도체로 병렬처리에 최적화돼 기존 AI컴퓨팅에 주로 쓰이는 그래픽처리장치(GPU)의 단점을 극복한 것으로 평가받는다.

미국 퍼듀대 연구에 따르면 GPU에 비해 IPU는 계산 효율성, 메모리 확장성이 2~16배 높다. 여기에 GPU 기반의 AI컴퓨터에 비해 60% 이상 비용이 저렴하고 에너지 효율도 40~80% 정도 높다.

KT 하이퍼스케일 AI 서비스는 현재 사용 중인 표준 머신러닝 개발용 소프트웨어(SW)구조(프레임워크)를 모두 지원하고, 관련 SW프로그램(라이브러리)을 무상 제공한다. 여기에 국내 1위 컴퓨터시스템 전문업체 메가존클라우드와 함께 AI 모델 개선을 위한 컨설팅서비스도 제공한다.

KT는 메가존클라우드와 함께 자사의 인터넷데이터센터(IDC)에 하이퍼스케일 AI존을 구축했다. KT IDC는 산업표준 인증과 함께 암호화, 엄격한 접근제어로 데이터를 안전하게 보호해주는 역할을 한다.

한편 하이퍼스케일 AI서비스는 KT의 IDC 역량이 바탕이 됐다. KT는 현재 전국에 14개 IDC를 운영 중인 국내 최대 사업자다. 20년 넘게 쌓은 운영경험과 전문인력을 국내 최고 수준이라는 평가를 받고 있다.

이미희 KT 상무는 "KT 하이퍼스케일 AI서비스가 AI에 관심이 많지만 고비용의 인프라 때문에 망설였던 기업과 기관들이 AI에 뛰어드는 계기가 됐으면 한다"고 말했다.