“11월 본 선거를 위해 이번 예비선거에는 표를 아껴두자.” 지난 1월 23일 뉴햄프셔 예비선거 전날, 해당 주의 일부 유권자들은 조 바이든 대통령을 사칭한 전화를 받았다. 사전에 녹음해두었던 기존의 투표 독려 내용과는 달리 이 전화는 전혀 다른 요청사항을 담고 있었다. 투표장에 나오지 말라는 메시지가 바이든 대통령과 똑같은 음성으로 안내된 것이다.

전 뉴햄프셔 민주당 의장이 발신자로 표시되었던 이 전화는 결국 인공지능(AI)이 생성한 것으로 드러났다. 물론 당시 모두가 예상했던 대로 바이든이 해당 선거에서 압승하며 선거 결과에 실질적인 영향을 미치지는 않았지만 인공지능이 선거에 영향을 미칠 수 있는 여러가지 방향 중 하나를 생생하게 보여준 일례다.

이에 앞선 1년여 전 공화당 전국위원회는 AI 이미지만으로 제작되었다고 주장하는 동영상을 공개한 적이 있다. 바이든 대통령의 재임 기간을 미국의 암흑기로 표현한 광고 내용은 특별히 새롭지 않았지만, 광고 제작에 사용된 기술을 의도적으로 강조한 것이 눈에 띄었다. AI를 이용해 정치광고를 만드는 것은 생각보다 이른 시기부터 시작된 셈이다.

딥페이크 기술도, 이에 대한 우려도 문제

2024년 미국 대통령 선거 캠페인에서는 AI가 생성한 개인 맞춤형 모금 이메일, 투표를 촉구하는 챗봇의 문자 메시지, 심지어는 딥페이크 된 캠페인 아바타가 등장할 수도 있다. 후보자들은 자신의 견해와 성격이 포함된 데이터로 훈련된 챗봇을 사용해 미 유권자들과 직접 소통하는 듯한 효과를 낼 수도 있다.

당시의 최첨단 기술들이 이전 선거들에서 여러 방식으로 접목되었던 것처럼 인공지능도 마찬가지일 것이다. 실제 개인의 아바타가 등장하는 AI 챗봇의 시대는 이미 시작되었다.

하지만 앞선 뉴햄프셔의 소동은 인공지능이 후보자의 메시지를 더 쉽게 전달할 수 있도록 도와주는 도구로 활용될 수도 있지만 누구나 유권자를 속일 수 있는 이미지와 동영상을 만들 수 있다는 점도 시사한다. 즉, 이번 미국 대통령 선거에서는 챗GPT 등의 생성형 인공지능을 통해 비전문가도 실제와 거의 같은 가짜 텍스트, 동영상, 오디오를 만들 수 있는 정치조작이 가능하게 되었다.

사실 그동안 인공지능이 선거에 미칠 강력한 수단으로 지목된 것은 ‘딥페이크’ 기술이었다. 보이는 것조차 거짓일 수 있다는 위협은 이제 가상의 이야기가 아니라 무서운 현실이 된 것이다.

물론 이러한 위협이 과장되었다고 보는 회의적인 입장도 있다. 뉴욕대학교(NYU)의 조슈아 터커 교수는 이러한 우려가 언론의 과장적 보도 경향에 지나지 않는다고 주장한다.

그의 연구에 따르면 미국인들이 접하는 뉴스의 평균적인 총량에서 허위정보가 차지하는 비율은 상대적으로 적으며, 이조차 소수에게 집중되어 있을 뿐이다. 그는 이미 정치적으로 양극화된 미국의 상황을 고려할 때 딥페이크 기술로는 미국 유권자들의 마음을 바꾸기 쉽지 않을 것이라고 본다.

하지만 딥페이크에 대한 과도한 우려는 그 자체로 문제가 될 수 있다. 유권자들이 허위정보에 속는 것이 일차적 문제라면, 딥페이크에 대한 두려움으로 유권자들이 모든 정보를 불신하게 되는 것이 또 다른 문제다. 이러한 효과를 ‘거짓말쟁이의 배당금(liar’s dividend)’이라고 부른다.

정치인들은 이러한 심리를 이용해 본인에게 불리한 영상들을 AI가 만들어낸 것으로 몰아붙이려고 하고 있다. 예를 들어 트럼프는 그의 실수들을 모아 만들어진 정치광고를 자신을 모함하기 위해 AI로 만들어진 것이라며 거짓 해명하기도 했다. 딥페이크는 이번 선거에서 ‘가짜’ 뉴스를 양산해낼 수도 있지만, 진실을 왜곡하는 수단으로 채택되는 ‘진짜’ 현상이 될 수도 있다.

또한 이러한 위협은 상황에 따라 크게 악화될 수 있다. 소규모 선거구에서 치러지는 지방선거의 경우 자원이 없는 사람들이 이전에 사용할 수 없었던 유형의 콘텐츠를 대규모로 제작하기가 매우 쉬워졌다. 올 1월에는 뉴욕의 민주당 정치인이 다른 민주당 정치인을 비판하는 AI 생성 가짜 오디오가 등장해 며칠 동안 진위를 두고 논란이 있었다. 미국에서 가장 탄탄한 지역뉴스 기반을 갖추고 있는 뉴욕시조차도 이러한 문제가 발생했기에, 언론의 감시와 정부 차원에서 지원되는 사실 확인 자원이 부족한 지역에서는 이와 비슷한 가짜 오디오가 더 큰 혼란을 일으킬 수도 있다.

빅테크 기업들도 AI 오용방지 노력 동참

한편 대부분의 미국인에게 폭넓은 신뢰를 받는 선거 관련 공무원을 가장할 수 있다면, AI로 잘 만들어진 가짜뉴스는 매우 위험하면서도 더욱 대응하기 어려워질 수 있다. 선거 관리자를 가장한 AI의 위협 중 하나는 다른 선거 관리자들을 혼란스럽게 할 수 있다는 점이다.

예를 들어 가짜 선관위 직원이 선거 당일의 혼란 속에서 막판에 잘못된 변경사항을 발표해 지역선거 관리자나 투표소 직원들을 혼란스럽게 하고 투표를 방해할 수 있다. 또는 AI를 사용해 동료인 척하고 주요 시스템에 무단으로 접근할 수도 있다.

이에 따라 AI를 연구하는 많은 회사가 자사 제품의 의도적인 오용을 방지하거나 완화하기 위해 다양한 노력을 기울이고 있다. 마이크로소프트는 선거 관련 잘못된 정보를 줄이기 위해 후보자 및 정당과 협력할 것이라고 밝혔다. 또한 주요 선거에서 AI 영향력에 대한 정기적인 보고서를 발표하기 시작했으며, 작년 11월에 처음으로 이러한 위협 분석 보고서를 발표했다.구글은 딥마인드의 신디아이디를 사용해 자사 제품으로 만든 이미지에 디지털 워터마킹을 할 것이라고 밝혔다.

오픈AI와 마이크로소프트는 모두 디지털 자격 증명을 사용해 AI가 생성한 이미지를 ‘콘텐츠 자격증명(CR)’ 기호로 표시할 것이라고 발표했다. 하지만 각 회사는 이러한 접근방식으로도 충분하지 않다는 사실을 인정하고 있다. 마이크로소프트는 정치 후보자가 딥페이크 신고를 할 수 있는 웹사이트를 통해 허점을 보완할 계획이다.

사실 선거 캠페인에서 AI를 사용하는 것에 대한 보다 강력한 법적 규제가 필요하지만, 7개월이 채 남지 않은 2024년 대선을 앞두고 사전에 이를 완전히 보완할 수 있는 법안들이 채택될 가능성은 희박해 보인다. 다만 미국 행정부처에서도 인공지능으로 발생할 수 있는 참사를 막기 위해 최대한 노력하고 있다. 올 초 전미 국무장관협회에서 주관하는 동계 회의에 모인 각 주의 국무장관들은 AI로 인한 허위정보의 잠재적 위험성을 유권자들에게 적극적으로 홍보할 것이라고 한목소리를 냈다.

이미 미국 각지에서는 공무원들을 대상으로 AI가 만들 수 있는 다양한 선거 캠페인이 적용된 모의훈련과 교육을 시작했다. 특히 더 많은 양의, 더 설득력 있는 악의적 허위 콘텐츠를 더 쉽게 생성할 수 있는 환경이 조성된 만큼 선거 관리자들은 잘못된 정보를 신속하게 대응하고자 노력하고 있다.

사이버 보안과 선거 시스템을 포함한 중요 인프라의 보호를 담당하는 연방기관 사이버 보안 및 인프라 보안국(CISA)도 AI 시나리오를 선거훈련에 통합하기 위한 작업을 시작했다. CISA의 수석 고문 케이트 콘리(Cait Conley)는 성명에서 선거 관리자들과의 대화를 통해 “생성형AI의 잠재적 위험과 특정 후보를 표적으로 삼을 수 있는 능력”을 직접 확인했다고 발표했다.

본격적인 인공지능 선거 시대 도래

인공지능이 정치에 어떤 방식으로 영향을 미칠지는 아직 추측에 불과하지만 머지않아 그 해답을 얻을 수 있을 것으로 보인다. 2024년에는 미국뿐만 아니라 한국 유럽연합 인도 멕시코 등 약 50여 개국, 그 어느 해보다 많은 나라에서 다양한 선거가 벌어질 예정이기 때문이다. 인공지능 선거의 시대가 도래했다.

김찬송 위스콘신대