인공지능(AI) 기반 딥페이크 영상을 이용한 선거운동에 대해 과태료 결정이 내려졌다. 지난 2023년 말 선거법 개정 후 인공지능 악용 사례에 따른 첫번째 과태료 결정으로 내년 6월 지방선거를 앞두고 입후보 예정자들의 각별한 주의가 필요하다.

23일 중앙선관위에 따르면 경북 안동시선관위는 최근 AI를 이용해 자치단체장을 찬양하는 노래를 제작해 선거구민에게 공개 유포한 혐의(사전선거운동)로 A씨를 경찰에 고발했다. 선관위는 또 A씨가 만든 노래를 단체대화방에 유포한 B씨에게는 표시사항 (딥페이크영상 등을 이용한 선거운동) 위반 혐의로 각각 과태료 500만원을 부과했다.

중앙선관위 공보과 관계자는 “사전선거운동 혐의와 함께 딥페이크영상 등에 대한 표시사항을 노래에 표시하지 않았기 때문에 과태료 부과를 결정했다”면서 “해당 규정이 신설된 후 최초로 과태료를 부과한 사례”라고 밝혔다.

지난 2023년 12월 28일 개정된 공직선거법(제82조의 8)에서는 선거일 전 90일 전 선거운동을 위해 인공지능 기술을 이용해 만든 음향, 이미지, 영상 등에는 AI로 만든 가상의 정보라는 사실을 분명하게 명시하도록 규정했다. 영상·이미지의 경우 화면에, 노래의 경우에는 시작과 끝에 AI로 만들었다는 내용을 반드시 포함해야 한다. 위반할 경우 1000만원 이하의 과태료를 부과하도록 규정하고 있다.

SNS 등을 이용해 입후보 예정자를 알리는 영상·노래 등을 AI로 제작해 유포하는 행위 상당수가 단속 대상에 오를 수 있다. 선관위는 지난 5일부터 특별대응팀을 운영해 SNS·유튜브·포털 등과 협력해 상시 모니터링을 진행하고 위법 게시물에 대한 삭제요청 등을 병행하고 있다.

중앙선관위 관계자는 “선거운동을 목적으로 한 경우에 대한 판단이 1차적”이라며 “선거일 전 90일부터는 규정을 따른 AI 영상·노래·이미지도 유포나 상영 행위가 금지된다”고 강조했다.

이명환 기자 mhan@naeil.com