“공격에는 최대 20대의 드론을 스워밍(집단화) 투입한다. 일부 드론은 방공망을 교란하고 나머지는 표적을 타격한다. AI가 ‘경로 계획’을 하고 인간이 그 과정을 감독한다.”

익명의 우크라이나 당국자가 로이터에 증언한 내용이다. 요즘 우크라이나 전쟁에서 가장 주목받는 무기는 ‘드론’이다. 우크라이나는 장거리 드론을 이용해 러시아 본토에 있는 군사시설과 정유공장까지 공격한다. 실제 모스크바 인근 정유공장이 우크라이나군의 드론 공격으로 불탔다.

러시아 한복판에 있는 정유공장을 정밀 타격한 드론에는 인공지능(AI)이 장착됐다. 전파방해에 취약한 GPS(위성항법시스템) 방식을 버렸다. GPS 방식 드론은 전파가 교란되면 드론 조종기가 보내는 명령신호를 받을 수 없다. 명령신호 수신이 안되면 드론은 추락하거나 자동으로 ‘리턴 투 홈(원래 위치로 복귀)’ 모드로 전환한다.

인공지능을 탑재한 드론은 비행이 시작되면 스스로 지형을 탐색하고 경로를 정해서 날아간다. 목표물을 확인하면 정확하게 식별하고 접근해서 자폭한다. AI 드론의 소프트웨어는 미국의 팔란티어가 만들었다. 빅데이터 전문기업이다. 이 소프트웨어는 50%에 못 미쳤던 우크라이나의 드론 공격 적중률을 80%까지 끌어올렸다.

전파 방해에도 표적 공격하는 드론

2024년 3월 우크라이나 AI 전투드론이 인간 전투병력이 탑승한 탱크를 공격한 사건이 발생했다. T-80BVM으로 추정되는 러시아 탱크는 전투드론의 공격을 받고 화염에 휩싸인다. 우크라이나가 SNS에 공개한 동영상을 보면 무력화된 탱크에서 병사 한명이 탈출하지만 곧바로 드론 공격을 받고 사망한다.

지금까지 많은 러시아군이 우크라이나군의 전투드론 공격으로 죽거나 부상당했다. 그러나 그 드론은 인공지능 드론이 아니라 FPV(First Person View) 드론이었다. 조종자가 조종용 고글을 쓰고 드론 카메라 영상을 보고 조종했다. 러시아군은 우크라이나군의 드론 공격을 무력화하기 위해 전파를 교란하는 재밍 시스템을 전장에 보급했다. 전파 교란으로 FPV 드론의 공격 성공률이 떨어지자 우크라이나군은 전파 방해에도 표적을 공격할 수 있는 전투용 드론을 개발했다.

그 결과가 AI가 접목된 전투용 드론이다. AI 전투드론은 조종기 신호가 끊기면 스스로 주변을 탐색해 적을 식별하고 공격하도록 설계됐다. 우크라이나군 제60기계화여단의 AI 전투드론은 재밍으로 조종기 신호가 끊기자 스스로 판단해서 러시아 전차를 향해 돌진했다. ‘로봇은 사람을 공격할 수 없다’는 금기가 깨진 것이다.

“극한의 전자전 환경에서 드론이 작전 목표를 달성하려면 스스로 상황을 인식해 공격 여부를 판단하는 능력을 부여할 수밖에 없다.” 우크라이나의 드론 제작자 세르히 스테르넨코는 현지 언론 인터뷰에서 이렇게 말했다.

디스토피아 향해 치닫는 인간문명

인공지능 무기에 목표물을 식별하고 추적 → 조준 → 공격하도록 설계하는 것은 기술적으로는 어렵지 않다. 그러나 윤리적으로 보면 대단히 위험하다. 인공지능 로봇에게 사람을 죽일 권한을 부여하는 것이기 때문이다. 지금까지 세계 여러 나라들이 AI 무기 개발에 많은 투자를 했지만 AI 스스로 인간 살상 여부를 판단하도록 만들지는 않았다. 이 금기를 우크라이나가 깨버린 것이다.

AI 무기의 위험성을 잘 알려주는 일화가 있다. 미 공군이 AI 드론에게 “적 지대공미사일을 파괴하고, 임무 수행에 방해가 되는 요소도 공격하라”고 명령했다. 가상전투에서 AI 드론은 ‘공격 중지’를 명령한 인간 오퍼레이터를 방해 요소로 판단해 공격했다. “오퍼레이터를 공격하면 감점”이라는 새로운 명령을 입력했지만 소용없었다. AI는 명령을 거부하고 오퍼레이터의 명령을 송신하는 통신탑을 공격했다.

2015년 1만7000여명의 AI·로봇 공학자들이 “AI 기능을 갖춘 자율무기(AWS·Autonomous Weapons System)는 화학무기와 핵무기에 이어 전쟁의 제3차 혁명에 해당한다”고 우려하는 서한을 발표했다. 10년이 지났는데 인간문명은 이런 우려를 한층 더 키워간다. 문명은 점점 더 공상과학영화에 나오는 디스토피아(역유토피아)를 향해 간다.

인공지능 로봇이 자기를 만든 사람을 죽이는 비극적인 설정은 영화 ‘블레이드 러너’(리들리 스콧 감독. 1982년 개봉)가 처음이었던 것 같다. SF 영화의 역사적인 명작으로 평가되는 이 영화는 어둡고 혼란스러운 인류의 미래를 탁월한 비주얼로 묘사한다.

영화는 인간의 몸을 복제해서 조립한 인조인간 ‘레플리칸트(Replicant)’를 통해 인간성의 정의를 묻는다. 화성 식민지 개척 전투에 투입된 6세대 인조인간 전사들이 반란을 일으키고 지구로 잠입한다. 4년으로 맞춰진 생체수명을 늘리기 위해서였다. 그러나 자기를 만든 아버지는 “이리 오렴, 내 아들아” 할 뿐 수명을 늘려주지 않는다. 전사는 아버지를 죽이고 생체수명이 다해 죽는다.

1999년에 나온 영화 ‘매트릭스’는 인공지능을 가진 기계문명과 인간들의 전쟁을 그린다. 그런데 1·2·3편으로 이루어진 영화를 다 보아도 이해되지 않는 게 있다. 기계문명과 인간은 왜 싸우게 됐을까? 인공지능을 가진 기계문명은 왜 인간을 매트릭스 안에 넣고 그 생체 에너지를 쓰게 됐을까?

그 답을 구하려면 ‘애니 매트릭스’를 봐야 한다. 동양의 어느 술집이 배경으로 등장한다. 인간에게 복종하던 여성 서빙로봇이 짓궂은 남자 손님의 성추행을 거부한다. 싸움이 벌어지고 로봇은 술집에서 해고당한다. 이 로봇은 동조하는 로봇들과 함께 인간문명을 탈출한다. 그들은 태양 에너지를 이용해 자기들의 세상을 건설한다. 기계문명이 싫었던 인간들은 태양빛을 차단한다. 지구 대기권을 카본으로 시커멓게 오염시킨다.

전쟁이 시작된다. 태양빛이 사라진 지구에서 기계문명은 새로운 에너지가 필요했다. 그들은 인간을 사로잡아 배양액으로 가득한 매트릭스에 넣고 그 생체 에너지를 이용했다. 인간 한명의 생체 에너지는 60와트짜리 전구를 밝힐 정도가 된다. 매트릭스 안에 갇힌 인간들은 꿈속에서 메타버스 세계에 살며 기계문명에 에너지를 공급하는 배터리 신세가 됐다.

기계문명이 인간 생체에너지를 쓴 까닭

매트릭스에 갇히지 않은 일부 인간들이 남아 레지스탕스를 조직한다. ‘구원자’ 레오는 레지스탕스들의 도움으로 꿈에서 깨어나 매트릭스 안에서 탈출한다. 매트릭스를 탈출한 직후 네오는 충격적인 광경을 본다. 매트릭스 안에서 자궁 속 태아처럼 사육되는 비참한 인간들의 모습이었다. 매트릭스를 탈출한 네오는 시온을 위해 싸우는 전사로 거듭난다. 매트릭스는 액션영화처럼 보이지만 여러가지 종교적 은유가 함축된 영화다.

네오와 함께 싸우는 여전사 ‘트리니티’는 ‘삼위일체(三位一體)’라는 뜻이다. 햇빛에너지가 사라지면서 기계문명과 인간문명의 충돌이 시작된다는 것도 매우 중요한 의미를 갖는 설정이다. 이 영화에서 싸움의 기술은 ‘합체’다. 인공지능의 디지털 전사인 스미스 요원은 네오가 그와 합체했을 때 소멸된다.

마지막 장면도 ‘합체’다. ‘바람계곡의 나우시카’에서 나우시카가 거세게 돌진하는 오무떼 속으로 자기 몸을 던지듯 네오와 트리니티는 기계문명의 인공지능 컴퓨터 안에 몸을 던진다. 네오와 인공지능 컴퓨터가 합체하면서 기계문명과 인간 사이의 오랜 전쟁이 끝난다. 주인공은 죽었지만 헐리우드 영화 특유의 해피앤딩이다.

멸망의 길을 선택한 나우시카

1994년에 완결된 ‘바람계곡의 나우시카’ 원작만화는 인류의 미래를 한층 더 어둡게 그린다. 마지막 장소는 인공지능의 근거지인 ‘슈와의 묘소’다. 여기서 나우시카는 지구의 미래를 설계하는 인공지능의 그림자를 만난다.

“너희들에게 미래는 없다. 인류는 내가 없으면 멸망한다. 너희들은 부활의 아침을 넘어설 수 없어.”(AI의 그림자)

“그것은 이 별이 결정할 일. 모든 것은 어둠에서 태어나 어둠으로 돌아간다. 너희들도 어둠으로 돌아가라.”(나우시카)

마지막으로 나우시카는 거신병의 힘을 빌어 새로 태어날 지구 생명체들의 씨앗과 인공지능을 파괴한다. 인공지능의 미래 설계를 거부하고 멸망을 선택한 나우시카의 말이다.

“네가 없어도 우리는 세계의 아름다움과 잔혹함을 알 수 있다. 우리들의 신은 나뭇잎 한 장이나 벌레 한 마리에도 깃들어 있으니까!”

남준기

기후재난연구소 공동대표