개인이나 기업이 자체 데이터를 학습시킨 ‘맞춤형 인공지능(AI)’의 성능은 유지하면서 안전성까지 높일 수 있는 핵심 기술이 국내 연구진에 의해 개발됐다.

KAIST는 전기및전자공학부 김창익 교수 연구팀이 대형언어모델(LLM)을 개인이나 기업의 데이터에 맞게 추가 학습하는 과정에서 안전성이 약화되는 문제를 해결하는 ‘버퍼 앤드 리인포스(Buffer-and-Reinforce)’ 학습 프레임워크를 개발했다고 16일 밝혔다.

생성형 인공지능을 맞춤형으로 학습시키면 새로운 업무 수행 능력은 높아지지만 기존의 안전장치가 약화될 수 있다는 점이 인공지능 개인화 서비스의 한계로 지적돼 왔다.

연구팀은 맞춤형 학습 과정에서 인공지능을 보호하는 임시 완충 장치를 적용한 뒤 학습이 끝난 후 안전성을 다시 강화하는 방식을 제안했다. 이를 통해 사용자가 학습시킨 새로운 기능은 유지하면서도 안전성을 함께 높일 수 있다고 설명했다.

실험 결과 위험한 데이터로 학습한 환경에서도 인공지능이 위험한 답변을 생성하는 비율은 약 8%로, 기존 모델의 약 18%보다 낮게 나타났다. 연구팀은 별도의 안전성 재학습이나 추가 계산 비용 없이 맞춤형 성능과 높은 수준의 안전성을 동시에 확보했다고 밝혔다.

김창익 교수는 “이번 연구는 누구나 자신의 데이터로 맞춤형 인공지능을 구축하면서도 안전하게 활용할 수 있도록 하는 기반 기술”이라며 “인공지능 개인화와 에이전트 시대에 신뢰할 수 있는 인공지능 서비스 구현에 기여할 것으로 기대한다”고 말했다.

이번 연구는 함석일 KAIST 박사과정이 제1저자로 참여했다. 연구 결과는 인공지능 분야 국제학술대회인 국제머신러닝학회(ICML) 2026에서 전체 논문 가운데 상위 약 2.2%에만 주어지는 스포트라이트(Spotlight) 논문으로 선정됐다.