경찰청(청장 직무대행 이호영)은 26일 경찰청 어울림마당에서 ‘허위조작 콘텐츠 진위여부 판별 시스템 개발’ 착수보고회를 개최했다고 밝혔다.

이번 연구는 한·독 과학치안 국제공동연구의 첫 사례다. 경찰청 미래치안정책국은 지난 2023년 독일 노르트라인베스트팔렌주(NRW주) 내무부 범죄수사국 간 공동의향합의서를 체결했다. 또 2024년에는 한-독 과학치안 협력센터를 개소하고 경찰관을 파견하는 등 과학치안 분야 협력을 강화했다.

‘허위조작 콘텐츠 진위여부 판별 시스템 개발’은 생성형인공지능(AI)의 활용이 대중화됨에 따라 폭발적으로 증가하고 있는 ‘조작된 가짜 콘텐츠’를 탐지하기 위한 데이터셋 구축과 통합시스템 개발을 목표로 2025년부터 2027년까지 3년간 진행된다.

올해 초 공모·평가절차를 거쳐 숭실대(주관연구기관), 성균관대, 연세대, 한컴위드가 참여하는 연합체를 국내 연구기관으로 선정했다. 또 독일 노르트라인베스트팔렌주 범죄수사청(LKA)의 추천을 받아 현장실사와 선정평가를 거쳐 부퍼탈대학을 공동연구기관으로 선정했다.

연구 첫해인 올해에는 인공지능 조작 영상(딥페이크), 딥보이스, 가짜뉴스 탐지용 데이터셋 구축과 탐지모델 고도화를 추진한다. 또 내년부터는 머신러닝 모델의 개발부터 배포·운영까지 과정을 자동화하여 관리하는 시스템 기반의 통합 탐지시스템의 성능 고도화 및 실증 테스트를 진행할 예정이다.

최주원 경찰청 미래치안정책국장은 “국가 간 연구개발의 단순한 협력을 넘어 미래치안 위협에 양국의 과학치안 역량을 결집한 공동대응을 시작하고 향후 다른 국가로 확대하기 위한 첫발을 내디딘 것에 큰 의미가 있다”며 “이번 연구가 다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시해주길 바란다”고 말했다.

장세풍 기자 spjang@naeil.com