인공지능(AI) 시대 국가안보와 기술혁신, 민주적 통제를 어떻게 함께 설계할 것인가. 그 답은 ‘AI 거버넌스를 어떻게 짜느냐’에 달려 있다. 자국의 데이터·모델·인프라·언어 역량이 AI 주권의 전략적·물리적 토대라면 그 위에서 국가·시장·시민사회 사이의 권한과 규범을 어떻게 배분할지가 거버넌스의 문제다.

표준을 먼저 만든 나라가 규범 권력을 얻고 언어모델에 담긴 가치체계가 판단 기준을 좌우하는 시대다. 국제 무대에서는 표준경쟁이, 국내에서는 정부·기업·시민사회의 권한배분 논쟁이 벌어지고 있다. AI 선진국들은 각기 다른 방식으로 거버넌스를 시험하고 한국 역시 더는 관망할 수 없는 단계에 들어섰다.

미국은 이 문제를 가장 거칠게 드러낸다. 미 국방부는 2025년 앤트로픽과 대규모 계약을 맺어 군·정보 분야 생성형 AI 활용을 확대하려 했지만 기업안전 원칙과 충돌했다. 앤트로픽은 미국인 감시와 완전 자율무기 사용에 선을 그었고 국방부는 폭넓은 활용을 원했다. 결국 계약은 파기되고 미 정부는 2026년 3월 앤트로픽을 ‘공급망 위험’ 기업으로 지정했다. 민간 AI 기업에 적용된 이례적 조치다.

이는 단순한 계약분쟁이 아니다. 기업윤리 원칙이 법적·제도적 힘으로 이어질지, 정부가 안보를 이유로 어디까지 민간 기업을 압박할 수 있는지가 동시에 시험대에 올랐다. 캘리포니아 북부 연방지방법원은 지난 3월 가처분 신청을 받아들여 정부 조치에 제동을 걸었고 사건은 지난 5월 항소법원 구두변론을 거쳐 법리 공방을 이어가고 있다.

앤트로픽과 연대하는 구글·오픈AI 연구자들의 ‘우리는 분열되지 않을 것이다(We Will Not Be Divided)’라는 공개서한은 행정부·사법부·기업·연구자가 서로 다른 방향으로 움직이는 균열을 드러냈다. 분산된 미국형 권력구조 안에서 사후적 소송과 사법심사가 거버넌스를 대신하는 방식이다.

세계는 지금 다양한 AI 거버넌스 모색 중

다른 나라들은 사전 설계로 해법을 모색 중이다. 프랑스는 조달계약을 거버넌스 수단으로 삼아 주권을 실현한다. 프랑스 국방부는 지난 1월 미스트랄과 계약해 공공기관이 자국 인프라 위에서 운용하도록 명시했다. 기술확보와 규범통제를 처음부터 국내에 묶어두는 방식이다.

영국은 노동 거버넌스라는 제3의 경로를 열었다. 지난 5월 구글 딥마인드 영국 직원들이 무기·감시 비사용 원칙 복원과 독립적 윤리감독기구 설치를 요구하며 노조를 결성했다. 기업의 자발적 선언을 노동권의 언어로 제도화하려는 시도다.

일본은 경제산업성과 총무성이 2024년 4월 공표한 ‘AI 사업자 가이드라인’ 1.0으로 원칙 기반 자율준수를 앞세운다. 행정지도와 자율규범을 다층적으로 배치해 혁신과 통제를 병행한다. 사법적 사후통제, 주권형 조달 계약, 노동교섭, 행정지도형 자율규범. 방식은 달라도 결국 같은 질문에 대한 서로 다른 거버넌스 시험이다.

한국은 이제 실행단계다. AI 기본법은 올해 1월 시행됐고 국가인공지능전략위원회도 법정기구로 전환됐다. 정부와 기업은 지난달 ‘대한민국 대도약 3대 메가프로젝트’로 반도체·피지컬AI·데이터센터에 4700조원 규모의 물적 토대를 구축한다는 계획을 밝혔다.

기술역량이 축적되는 속도에 걸맞은 규범설계가 뒤따라야 주권이 실질적 효력을 갖는다. 기본법은 산업진흥과 신뢰기반을 함께 담았지만 시민사회는 시민보호장치가 미흡하다고 본다. 국방·안보 영역의 적용 배제는 자율무기와 감시기술 같은 민감 분야에서 규범 공백을 낳는다. 법이 세부를 비워 둘수록 가장 강한 행위자가 규칙을 사실상 정한다.

거버넌스는 법률로 끝나지 않는다. 국방에서는 AI 활용 기준을 ‘유의미한 인간통제(meaningful human control)’ 수준까지 구체화해야 한다. 산업에서는 민간 AI기업의 사용정책과 안전 가드레일을 방위·조달 제도와 연결하고, 시민 영역에서는 윤리적 우려를 제기한 연구자와 직원의 보호장치를 마련해야 한다. 시행령·지침 층위의 구체화가 실질적 규범을 결정한다. 사후 징계보다 사전 통제가 훨씬 효과적이다.

거버넌스가 기술역량 용도와 가치기준 규정

AI 거버넌스는 어느 한 나라가 정답을 먼저 확정할 영역이 아니다. 미국은 충돌과 소송으로, 프랑스는 주권형 계약으로, 영국은 노동 거버넌스로, 일본은 원칙 기반 자율규범으로 시험하고 있다. 정책은 사후대응에서 사전설계로, 단일 규제에서 다층적 조합으로 옮겨갈 것이다.

지금 한국이 설계하는 거버넌스가 기술 역량의 쓰임새와 가치기준을 함께 규정한다. 그것이 곧 다음 세대에 물려줄 AI 주권의 실질적 내용이다. 남은 질문은 그 설계를 언제, 누구의 손으로 그릴 것인가다.

홍상진 광운대 특임교수 전 워싱턴 정무공사