LGCNS는 글로벌 인공지능(AI) 유니콘 기업 ‘코히어’와 손잡고 1110억개 매개변수(파라미터)를 갖춘 추론형 거대언어모델(LLM)을 공동 개발했다고 10일 밝혔다.

추론형 LLM은 AI가 복잡한 문제에 대해 여러 변수를 고려한 논리적인 해답을 도출하는 모델이다. AI가 스스로 판단하고 작업을 수행하는 ‘에이전틱 AI’ 서비스 구현에 필수적인 기술로 손꼽힌다.

이번 LLM은 한국어 영어 등 23개 언어를 지원하며 추론 등 핵심 성능에서 글로벌 상위 모델을 뛰어넘는 결과를 보였다. LGCNS는 지난 5월 코히어와 70억개의 파라미터로 구성된 한국어 특화 경량 모델을 출시한 지 두 달 만에 초대형 모델을 연이어 발표하며 생성형 AI 역량을 다시 한 번 입증했다.

LGCNS는 LLM을 클라우드 방식이 아닌 자체 구축하는 온프레미스 방식으로 제공해 고객사들이 민감한 데이터의 외부 유출 없이도 자체 인프라 내에서 안전하게 처리할 수 있도록 할 계획이다.

이번에 선보인 LLM은 모델 압축 기술을 통해 2장의 그래픽처리장치(GPU)만으로 구동이 가능하다는 장점도 갖췄다. 통상 파라미터 1000억개 이상의 LLM에는 최소 4장의 그래픽처리장치(GPU)가 필요한 것으로 알려졌다.

이를 통해 고객사들은 회사의 비즈니스 환경에 최적화된 LLM을 효율적인 비용으로 확보하면서도 데이터와 인프라 주권을 확보하는 ‘소버린 AI’를 실현할 수 있다. 소버린 AI는 국가나 기업이 자체 인프라를 기반으로 자국의 언어, 법, 문화 등을 반영한 독립적인 AI를 만들어 운영하는 것을 말한다.

고성수 기자 ssgo@naeil.com