딥페이크 기술을 활용한 불법 영상물 등 디지털 성범죄 관련 온라인 게시글을 시정하라는 요구 건수가 최근 4년 새 3배 이상 증가했다.

국회 과학기술정보방송통신위원회 신성범 의원(국민의힘)이 26일 방송통신심의위원회로부터 제출받은 ‘온라인 불법 유해정보 시정요구 현황’에 따르면 최근 5년간 방심위가 시정 요구를 내린 온라인상 불법 유해 정보는 115만8196만여건으로 집계됐다.

이를 연도별로 나눠보면 2021년 14만2807건, 2022년 23만4263건, 2023년 25만4818건, 2024년 34만6686건으로 증가세를 이어오고 있다. 올해 들어서도 8월까지 17만9621건에 대해 시정요구가 이뤄졌다.

2021년부터 올 8월까지 시정이 요구된 게시글을 유형별로 보면 디지털 성범죄 관련이 29만354건으로 가장 많았다. 이어 도박(28만9532건), 성매매(24만9221건), 불법 식·의약품(17만1448건) 순으로 나타났다.

디지털 성범죄 관련 게시글의 경우 시정요구 건수가 2021년 2만5879건이었으나 지난해에는 9만4186건으로 3.6배 증가했다. 이는 인공지능(AI)을 활용한 딥페이크 불법 영상물이 크게 증가했기 때문으로 분석된다.

신 의원은 “방심위는 AI를 활용한 모니터링 기술 개발, 국내외 포털·SNS 사업자 자율규제·심의 강화 등 기존과 다른 방식의 대응이 필요하다”고 말했다.

장세풍 기자 spjang@naeil.com