서울시립대학교는 전자전기컴퓨터공학부 엄대호 교수 연구팀 논문이 국제머신러닝학회(ICML 2026)에 채택됐다고 10일 밝혔다.

ICML은 신경정보처리시스템학회(NeurIPS), 국제학습표현학회(ICLR)와 함께 세계 3대 머신러닝 학회로 꼽힌다. ICML 2026은 7월 6일부터 11일까지 서울 코엑스에서 열린다.

채택된 논문 제목은 ‘안정성과 적합성 기반 테스트 시점 프롬프트 튜닝을 통한 적대적 공격 대응 비전-언어 모델’이다.

연구팀은 대규모 비전-언어 모델(CLIP)이 사진 조작 공격에 취약하다는 한계를 보완하는 방어 기법을 제안했다.

연구에서는 입력 이미지에 다양한 변형을 적용해 여러 시각 정보를 생성하고 안정성과 적합성 지표를 측정했다. 이를 기반으로 신뢰할 수 있는 시각 정보에 집중해 추론하는 방식을 개발했다.

서울시립대 관계자는 “이번 기술이 대규모 비전-언어 모델의 내부 파라미터를 변경하지 않고도 높은 수준의 적대적 공격 대응 성능과 신뢰성 향상 효과를 보였다”고 설명했다.

이번 연구는 단국대 김선오 교수와 서울시립대 엄대호 교수의 공동연구로 진행됐다. 김 교수가 제1저자, 엄 교수가 교신저자로 참여했다.

엄 교수는 “비전-언어 모델의 적대적 공격 대응 성능을 높일 수 있는 새로운 방향을 제시한 연구”라며 “실생활 속 인공지능(AI) 신뢰성 향상 연구를 지속해 나가겠다”고 말했다.