금융보안원(원장 박상원)은 인공지능(AI) 기술 활용을 위해 혁신금융서비스 지정을 받은 금융회사의 보안대책 평가를 본격 실시하기로 했다. 또 모의 공격 기반의 AI 모델 보안성 검증을 수행하는 등 금융권의 AI 기술 활용이 안착되도록 지원하기로 했다.

20일 금융보안원은 “생성형 AI 활용을 위해 혁신금융서비스 지정을 받은 금융회사는 2월 기준 32곳(49개 서비스)으로 이들에 대한 보안대책을 평가하고 망분리 예외가 적용된 구간에서도 안전하게 AI가 활용될 수 있도록 지원하겠다”고 밝혔다.

또 AI 신기술인 연합학습을 활용해 금융사기 거래를 효과적으로 탐지하도록 금융권 공동의 AI 모델 개발도 추진할 예정이다.

최근 미국 금융안정감독위원회(FSOC)는 연례보고서를 통해 생성형 AI의 금융분야 활용 과정에서 사이버공격 발생 가능성, 데이터 편향으로 인한 의사결정 왜곡 등의 위험성이 있다고 지적했다.

금융보안원은 금융회사가 사용하는 AI 모델을 대상으로 모의 공격(조작된 질의로 AI를 속여 잘못된 답변이나 행동을 유도 등)을 수행해 취약점을 찾아내는 AI 모델 보안성 검증을 진행하기로 했다.

박상원 금융보안원장은 “AI기술의 성공적인 도입과 활용이 향후 금융권의 디지털 경쟁력 수준을 좌우할 것”이라며 “진정한 혁신과 경쟁력 확보는 튼튼한 보안 위에서만 가능하다”고 말했다.