성평등가족부는 디지털성범죄 피해자 보호를 위해 △삭제요청 자동화 △인공지능 기반 아동·청소년 온라인 성착취 선제 대응 △인공지능 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입한다고 1일 밝혔다.

피해영상물 삭제요청 자동화를 통해 사이트 약 2만개에 대한 삭제요청부터 처리 이력 관리까지 전 과정을 자동화했다. 건당 처리 시간도 1분 이내로 단축했다.

아동·청소년 온라인 성착취 선제적 대응 시스템의 경우 인공지능 기술을 활용해 △SNS △랜덤채팅앱 등에서 아동·청소년 성착취물 및 유인정보를 24시간 자동 수집·분석하고 자동 신고 및 삭제요청을 한다. 특히 국내 최초로 ‘랜덤채팅앱’에 대한 데이터 자동 수집 기술을 탑재했다. 기존 중앙 디성센터의 삭제지원시스템과 연계해 성인사이트에 대한 유포 현황 탐지와 자동 삭제요청도 가능하다. 시스템에 적용된 인공지능 모델은 △키워드 탐지 △이미지 내 텍스트 추출 △신체 노출도 판단 △아동·청소년 여부 추정 △유사 이미지 대조 등 다단계 분석을 거쳐 아동·청소년 성착취물 여부를 판단한다.

원민경 성평등가족부 장관은 “기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점”이라며 “인공지능 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장설 것”이라고 밝혔다.