숭실대학교 소프트웨어학부 박찬준 교수 연구팀이 인공지능(AI) 안전성 확보를 위한 국가 연구과제를 맡는다.

숭실대는 박 교수가 개인정보보호위원회가 소관하고 한국인터넷진흥원이 주관하는 ‘파운데이션 모델 운용 과정에서 민감정보 추론 방지 및 리스크 평가 기술 개발’ 과제의 연구책임자로 선정됐다고 밝혔다.

이번 과제는 3년간 수행되며, 2026년 기준 정부지원 연구개발비는 6억7200만원이다. 생성형 AI의 핵심인 파운데이션 모델 운영 과정에서 발생할 수 있는 개인정보 유출과 민감정보 추론 위험을 줄이는 기술 개발이 목표다.

연구는 숭실대가 주관하고 에이아이엠인텔리전스가 공동 참여한다. 업스테이지, NC AI, 트릴리온랩스는 수요기업으로, 플리토는 데이터 협력기업으로 참여한다. 연구팀에는 박찬준 교수를 비롯해 조해현 교수, 정진홍 교수가 참여한다.

연구진은 파운데이션 모델이 학습 과정에서 민감정보를 암기하거나 이를 추론하는 메커니즘을 분석하고, 이를 차단하는 가드레일 기술과 정량적 리스크 평가 체계를 구축할 계획이다. 특히 기업의 AI 도입 과정에서 핵심 이슈로 떠오른 데이터 보안과 규제 준수 문제 해결에 초점을 맞춘다.

박찬준 교수는 “국내외 연구진과 협력해 파운데이션 모델의 안전성 기준을 마련하겠다”며 “AI 기업이 개인정보 유출 우려 없이 서비스를 개발할 수 있는 기술 기반을 구축하겠다”고 말했다.