2024년 총선과 2025년 대선에 이어 지방선거에서는 올해 처음으로 인공지능을 활용한 모든 선거 활동이 금지됐다. 전국 단위 선거에서 한 번씩 ‘선거 기간 중 인공지능을 활용한 홍보 금지’가 실행된 셈이다. 딥페이크 등 허위 정보가 선거의 공정성을 크게 해칠 수 있다는 우려에 따른 조치다. 하지만 인공지능이 빠르게 발전하면서 일반인들의 삶에 깊숙이 들어와 있는 상황에서 ‘전면적 금지’가 적절한지를 두고 논란이 일고 있다. 현실과 너무 동떨어진 데다 실제와 가상을 구분하기 어려워 선관위의 적발에도 한계가 있다는 지적도 나오고 있다.

6일 국회 의안정보시스템에 따르면 선거 기간(선거일 전 90일부터 선거일까지) 중 인공지능을 통해 만든 가상의 음향, 이미지, 영상을 활용한 선거운동을 전면 금지하는 현재의 공직선거법 조항을 개정하려는 법안이 2개나 올라와 있다.

더불어민주당의 인공지능 전문가인 차지호 의원(미래전략 사무부총장)은 “현행법은 선거일 전 90일부터 인공지능 생성물을 이용한 선거운동을 전면적으로 금지하고 있지만 이는 헌법상 표현의 자유를 과도하게 제한할 우려가 있고 기술 발전 속도에 비추어 규제의 실효성에도 한계가 있다”며 “인공지능 생성물에 대한 규제 방식을 ‘전면 금지’에서 ‘투명성 확보 및 유통 관리’ 중심으로 전환해 인공지능 생성물임을 명확히 표시하도록 의무화하고 자동화된 수단(알고리즘)을 이용한 인위적 정보 증폭 행위를 엄격히 규제해야 한다”고 했다.

장철민 민주당 의원은 “최근 인공지능 기술의 보편화로 생활 전반에 인공지능이 활용되고 있어 현행법이 선거운동의 자유를 지나치게 제약한다는 지적이 있다”며 “선관위가 영상물 등 제작의 모든 단계에 인공지능이 사용돼 인공지능 이용 영상물 등을 일반 영상물 등과 분류하기가 현실적으로 곤란하다”고 지적했다. 그는 “유권자를 속이려는 악의적 딥페이크와 단순 편의나 홍보를 위한 AI 활용을 뭉뚱그려 규제하고 있다”며 “이러한 포괄적 규제는 자본과 조직력이 부족한 청년이나 정치 신인들에게 특히 가혹하며 결국 막대한 자금을 동원할 수 있는 기성 정치인에게만 유리한 기울어진 운동장을 만든다”고 설명했다. 이어 “비싼 돈을 주고 전문 업체에 홍보물을 맡겨도 결국 그 내부에서는 AI를 쓸 텐데, 규제 탓에 굳이 외주비만 더 지출하게 되어 불필요한 선거 비용 낭비만 초래할 뿐”이라며 “더불어 평범한 유권자들마저 의도치 않은 범법자로 내몰 우려도 크다”고 했다. 이번 지방선거에서 대전시장 후보로 나선 장 의원이 현실에서 부딪힌 문제들을 지적한 것으로 해석된다.

그러면서 장 의원은 대안으로 “가상의 내용을 실제와 혼동시킬 목적의 허위 영상은 상시 금지하되 통상적인 선거 홍보물 제작 과정에서의 일반적인 AI 활용은 허용해야 한다”고 제안했다. 이 두 법안에는 민주당 의원 21명이 공동발의자로 참여했다. 정치개혁특위에서 논의될지 주목된다.

하지만 여전히 딥페이크 등의 부정적인 영향력에 대한 우려가 큰 상황이다. 딥페이크 정보란 인공지능 기술을 활용해 실제 인물이나 정보의 화상, 음성, 영상 등을 정밀하게 변조한 가상 정보다. 최근에는 일반인이 가상과 실제를 구별하기 어려울 정도로 기술이 정교해졌다는 평가가 나온다.

이에 따라 지난 2023년 12월 국회는 공직선거법을 고쳐 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 행위와 관련해 평시엔 ‘가상의 정보라는 사실을 명확하게 인식할 수 있도록 표시하는 것’을 의무화하고 선거일 전 90일부터는 전면 금지하기로 했다. 박정하 국민의힘 의원의 “굉장히 보수적으로 만들자”는 의견이 수용된 것이다.

국회 입법조사처는 “정보통신기술을 활용한 선거운동의 자유를 보장하는 것 못지않게 객관적인 선거 정보를 유권자에게 제공해 선거의 공정성을 확보하는 것이 민주주의 발전에 매우 중요한 함의를 가진다”며 “국내와 같이 진영 간 정치적 양극화와 편향적인 정치 정보의 소비가 심화된 정치사회적 환경에서는 딥페이크를 통한 기만적인 정치 정보가 확대 재생산돼 선거에 악용될 여지가 매우 크다”고 지적했다.

한편 지난 2025년 대선에서 ‘딥페이크 영상 등을 이용한 선거운동’으로 1만 510건이 삭제됐고 3건의 고발도 이뤄졌다. 지난 2024년 총선에서는 같은 이유로 388건의 삭제 요청과 1건의 경고가 조치됐다. 중앙선관위는 ‘딥페이크 등 허위사실공표·비방 특별대응팀’을 운영하고 있다.

박준규 기자 jkpark@naeil.com