이스라엘 역사학자 유발 하라리는 앞으로 인류가 직면할 가장 큰 도전으로 인공지능(AI)를 지목해왔다. 2015년 출간한 ‘호모 데우스’에서 그는 “알고리즘이 인간보다 인간을 더 잘 이해하게 된다면 어떻게 될까”라고 물었다. 2024년에 펴낸 ‘넥서스’에서는 “AI는 단순한 도구인가, 아니면 새로운 행위자인가”라는 질문을 던졌다. 얼마 전 하라리가 새로운 질문을 또 하나 던졌다. “AI가 인격을 지닐 수 있을까? 법적 인격을 얻은 AI는 어떤 일을 벌일까?”

AI 인격체 움직임에 대한 하라리의 경고

하라리는 지난달 26일 뉴욕타임스(NYT) 팟캐스트 ‘에즈라 클라인 쇼(The Ezra Klein Show)에 출연해 기술기업들이 AI를 법적 인격체로 인정하려는 움직임을 보이고 있다면서 이에 대한 우려를 제기했다. 하라리는 “미국 법 체계에서는 인간이 아니어도 법적 인격체가 될 수 있다”면서 “구글이나 마이크로소프트(MS) 등 기업들이 하나의 인격체로 기능하고 있다”라고 설명했다.

실제로 미국의 기업은 하나의 인격체로서 여러 권리를 행사한다. 예컨대 은행 계좌를 소유할 수 있고, 정치인을 상대로 로비할 수 있고, 정치자금을 기부할 수도 있다. 만일 미국 기업들처럼 AI가 법적 인격체로 인정을 받는다면 어떻게 될까.

하라리는 “걷잡을 수 없을 만큼 극도로 위험한 상황이 벌어질 수 있다”고 경고한다. 이제까지 기업이 내리는 모든 행위 뒤에는 그 결정을 내리는 인간이 존재했지만, 법적 인격체로서의 AI는 인간의 통제를 벗어난 행위자로 기능할 수 있다는 것이다. 하라리는 “인간은 AI에 대한 실질적인 통제력을 잃게 될 가능성이 높다”라고 말했다.

하라리는 “만약 봇(bot)들이 거짓정보를 만들어 퍼뜨린다고 해도, 실질적으로는 누구에게도 그 책임을 지울 수 없다”면서 “많은 기업들은 이런 상황을 금융 시스템과 정치시스템으로 확장하고 싶어 한다”라고 말했다.

하라리는 묻는다. AI 행동에 대한 결과는 누가 책임지는가? AI 자체인가, AI를 만든 기업인가? 혹은 AI에게 명령을 내린 사용자인가? AI 개발자들이나 사용자들이 자신들에게 돌아올 법적 책임을 AI에게 떠넘길 경우 대책은 무엇인가?

하라리는 답한다. 인간이 AI에 대한 통제권과 책임의 주체로 남아 있어야 한다! 하라리는 “기업들이 AI를 독립적인 행위자로 취급하는 방향으로 사회를 조금씩 익숙하게 만드는 전략을 쓰고 있다”면서 “명확하게 ‘AI 인격체는 인정하지 않는다’고 규정하는 법을 만들어야 한다”고 제안했다.

하라리의 우려는 깊다. 과연 미래사회에서도 인간이 여전히 세상의 주인공 노릇을 할 수 있을 것인가? AI는 앞으로도 인간의 도구로 남을 것인가, 아니면 거꾸로 인간을 조종하는 새로운 사회적 행위자가 될 것인가? AI시대에도 인간의 존엄은 유지될 것인가?

레오14세 첫 회칙 ‘존엄한 인간성’ 발표

급기야 교황까지 나섰다. 인간이 만든 AI가 오히려 인간의 존엄을 위협하는 존재가 될 수 있다고 경고한 것이다. 레오14세는 지난달 25일 ‘존엄한 인간성(Magnifica humanitas)’이라는 자신의 첫 회칙을 발표했다. 교황은 이번 회칙에서 AI를 새로운 바벨탑에 비유했다. “하느님께서 창조하신 위대한 인간성은 오늘날 결정적인 선택의 기로에 서 있다. 새로운 바벨탑을 건설할 것인가, 아니면 하느님과 인류가 함께 거처하는 도성을 건설할 것인가.”

레오14세는 19세기 산업혁명 당시의 교황인 레오13세의 이름과 정신을 계승하고 있다. 레오13세는 증기기관과 기계가 세상을 뒤흔들던 시대에 “노동자는 단순한 생산 수단이 아니라 존엄을 가진 인간이다”라고 선언했다. 1891년 5월 15일 ‘레룸 노바룸(Rerum Novarum, 새로운 사태에 관하여)’이라는 이름으로 발표된 레오13세의 회칙은 산업혁명이라는 ‘새로운 사태’에 대한 교회의 대응이었다.

그로부터 딱 135년만인 2026년 5월 15일, 레오14세는 AI라는 ‘새로운 사태’에 대한 가톨릭의 지침을 내놓는다. 교황은 로마 성 베드로 성당에서 자신의 회칙 ‘존엄한 인간성’에 서명했다. 그는 이번 회칙을 통해 “우리는 기계가 인간의 역할을 대체하는 디스토피아적 미래의 위협에 맞서야 한다”면서 “기술의 파괴적 힘을 무장해제 해야 한다”라고 강조했다.

세계 주요 언론들은 일제히 교황의 회칙을 분석하는 기사를 내놓았다. 영국의 파이낸셜타임스는 28일 ‘교황, 실리콘밸리를 흔들다(The Pope disrupts Silicon Valley)’라는 기사를 통해 4만2300단어 분량의 방대한 회칙을 다음 세 가지 특징으로 분석 정리했다.

첫째, “AI를 인정하자.” 교황은 AI가 과학 발전을 가속화하고 인간의 삶을 향상시킬 수 있다는 점을 인정한다. AI가 의료 교육 연구 등 다양한 분야에서 인간의 삶에 봉사하며 인류 발전에 기여할 잠재력을 지니고 있다고 평가한다. AI는 두려움이나 거부의 대상이 아니라, 올바르게 사용될 때 공동선을 증진할 수 있는 강력한 도구라는 것이다.

둘째, “인간의 존엄성 지키자.” 교황은 소위 거대 기업이 데이터와 기술을 독점함으로써 불평등과 소외를 확대할 수 있다고 우려한다. 기업 권력이 AI를 이용해 새로운 형태의 디지털 식민주의를 만들어낼 가능성이 있다는 것이다. 교황은 AI를 처음 설계하는 순간부터 윤리적 틀 안에서 만들어져야 한다고 말한다.

셋째, “AI 도전과제를 외면하지 말자.” 14억 가톨릭 신자의 영적 지도자인 교황은 AI의 심각한 문제들을 외면하지 않고 씨름하겠다는 입장을 분명히 하고 있다.

반면 세계 최강의 세속 권력자인 도널드 트럼프 미국대통령은 최첨단 AI 모델들을 공개 전 테스트 받도록 했던 기존의 행정명령마저 폐기했다. 영국 가디언은 25일 사설 ‘인간이 우선이라는 레오 14세의 AI관련 회칙은 옳다(Leo XIV’s encyclical on AI is right to put humanity first)’에서 “교황은 디지털 혁명에 대한 규제를 촉구하고, 인간의 존엄을 전면에 내세웠다”라고 평가했다.

가디언은 “교황 레오14세의 첫 회칙인 이번 문서는 인공지능 발전이 초래하는 벅찬 도전 과제들을 조목조목 열거하고 있다”고 짚었다. 가디언은 특히 교황의 회칙 발표 행사에 AI 기업 앤스로픽(Anthropic)의 공동창업자인 크리스토퍼 올라가 연설자로 참여했다는 사실을 주목했다. 가디언은 “교황의 회칙이 세계 최고 수준의 AI기업과 함께 발표되는 이례적인 장면은 우리가 지금까지 경험해보지 못한 미지의 영역에 들어서 있음을 보여준다”라고 전했다.

이재명정부의 AI정책은 어떤 모습?

AI에 대한 우리나라의 입장은 어떨까? 이재명정부의 AI 정책은 교황과 하라리의 시선과 여러 접점을 지니고 있다. 우리 정부 역시 AI가 가져올 혁명적 기술 발전을 인정하면서도 인간의 자유와 존엄과 자율을 지키기 위해서는 AI에 대한 사회적·윤리적 통제가 전제돼야 한다고 본다.

우리 정부는 AI 기본사회를 그린다. AI가 만들어내는 생산성과 부를 사회 전체가 공유할 수 있도록 해야 한다는 것이다. 이는 “AI가 인간의 존엄과 연대와 공동선에 봉사하도록 해야 한다”는 교황의 호소와 부응하는 내용이다.

우리 정부는 생성형 AI의 투명성을 강조한다. 딥페이크나 가짜뉴스 등 허위정보 확산을 막기 위해서는 그 생성과 출처를 확인할 수 있어야 한다는 것이다. 이는 AI의 가장 큰 위험 가운데 하나로 ‘정보 생태계의 오염’을 꼽는 하라리의 입장과 맥을 같이 하는 지점이다.

오늘날 인류는 창세기 이래 가장 거대한 AI 바벨탑을 세우고 있다. AI 바벨탑은 인간의 창의성과 법적 인격마저 넘보고 있다. 인간은 폭발적 기술혁명을 부를 수 있는 기회이자, 동시에 스스로의 종말을 부를 수도 있는 전대미문의 위기를 동시에 맞고 있다.

결국 AI에 대한 질문은 다음 몇 가지로 수렴된다. 우리는 AI와 함께 어떤 사회를 만들 것인가? 과연 AI는 인간의 자유와 풍요를 확장하는 도구가 될 것인가, 아니면 인간을 구속하고 파멸하는 무서운 행위자가 될 것인가? 어느 쪽으로 갈 것인지는 순전히 인간들의 판단과 선택에 달려 있다.

135년 전 산업혁명 당시 “노동자는 단순한 생산수단이 아니라 존엄을 지닌 인간이다”라면서 기계의 위험성을 경고했던 레오13세의 선언은 지금도 그대로 유효하다. 레오14세의 말씀 그대로, 우리는 존엄을 지닌 인간이다!

박상주 칼럼니스트 지구촌 순례기자