KAIST, 초개인화 인공지능 반도체 개발

2026-03-22 10:23:06 게재

온디바이스 ‘소울메이트’ 세계 최초 구현

응답속도 82% 단축·초저전력 구현

KAIST(총장 이광형)는 인공지능반도체대학원 유회준 교수 연구팀이 사용자 말투와 감정까지 학습하는 초개인화 인공지능 반도체 ‘소울메이트(SoulMate)’를 세계 최초로 개발했다고 20일 밝혔다.

이번 기술은 사용자의 대화 스타일과 선호도를 학습해 맞춤형 반응을 제공하는 개인형 거대언어모델(LLM) 가속기로, ‘나만을 위한 인공지능’ 구현을 목표로 한다.

연구팀은 클라우드를 거치지 않고 기기 내부에서 데이터를 처리하는 온디바이스 인공지능 구조를 적용했다. 검색증강생성(RAG)과 로우랭크 미세조정(LoRA) 기술을 반도체에 직접 구현해 실시간 학습과 응답을 동시에 수행할 수 있도록 했다.

‘소울메이트’는 약 0.2초(216.4ms) 수준의 응답 속도를 구현했으며, 기존 대비 응답 지연을 82.5% 줄이고 에너지 효율을 76.2% 개선했다. 또 9.8밀리와트(mW)의 초저전력으로 구동돼 모바일 기기에서도 장시간 활용이 가능하다.

특히 모든 데이터를 기기 내부에서 처리하는 구조를 적용해 개인정보 유출 우려를 최소화했다. 연구팀은 이 기술이 스마트폰과 웨어러블 기기 등 개인형 인공지능 서비스 확산에 기여할 것으로 보고 있다.

이번 연구는 국제고체회로설계학회(ISSCC)에서 하이라이트 논문으로 선정됐다. 홍성연 박사과정 연구원이 제1저자로 참여했으며, 현장에서 실제 칩 시연을 통해 기술력을 입증했다.

연구팀은 교원 창업기업을 통해 2027년 상용화를 추진할 계획이다. 이번 연구는 과학기술정보통신부와 정보통신기획평가원의 지원을 받아 수행됐다.

장세풍 기자 spjang@naeil.com
장세풍 기자 기사 더보기