정부가 선거를 겨냥한 딥페이크 영상·음성 조작 범죄에 대응하기 위해 인공지능(AI) 기반 탐지 기술을 선거 현장에 적용한다.

행정안전부는 국립과학수사연구원과 함께 개발한 ‘AI 딥페이크 탐지 모델’을 오는 6월 치러지는 제9회 전국동시지방선거에 활용할 계획이라고 10일 밝혔다.

최근 특정 인물의 얼굴이나 음성을 정교하게 합성하는 딥페이크 기술이 확산하면서 선거 과정에서 후보자의 발언이나 행동을 조작한 허위 정보가 유권자의 판단을 왜곡할 수 있다는 우려가 커지고 있다.

행안부는 이에 대응하기 위해 딥페이크 콘텐츠를 신속하게 판별할 수 있는 AI 탐지 기술을 선거 현장에 적용하기로 했다.

이번 탐지 모델은 지난해 12월 열린 ‘딥페이크 범죄 대응 AI 탐지 모델 경진대회’ 성과를 바탕으로 개발됐다. 당시 대회에는 268개 팀 1077명이 참여했으며 최종 선정된 5개 우수 모델이 중앙선거관리위원회에 제공된다.

선거 기간에는 의심되는 영상이나 음성 콘텐츠가 발견될 경우 중앙선관위가 분석을 의뢰하면 국과수가 신속하게 감정하는 지원 체계가 운영된다.

탐지 모델은 영상의 전체 흐름을 분석하는 ‘전역 분석’과 얼굴 등 특정 부위의 조작 흔적을 판별하는 ‘국소 분석’을 동시에 수행하는 방식이다. 생성형 AI 기반 콘텐츠에도 대응할 수 있도록 설계됐다.

실제 검증 결과 약 92% 수준의 탐지 정확도를 기록했다.

행안부와 국과수는 앞으로 딥페이크 탐지 기술 활용 범위를 단계적으로 확대할 계획이다. 여성가족부와 방송통신위원회, 경찰청 등 관계 부처와 협력해 디지털 범죄 대응 체계도 강화할 방침이다.

윤호중 행안부 장관은 “AI 딥페이크를 활용한 가짜뉴스가 선거 민주주의를 심각하게 위협하고 있다”며 “허위·조작 정보 대응 역량을 계속 높여 국민이 신뢰할 수 있는 선거 환경을 만들겠다”고 말했다.