아인슈타인의 특수상대성이론과 E=mc⁲은 질량과 에너지가 상호전환될 수 있다는 통찰을 제시하며 과학기술의 위상을 근본적으로 바꿔놓았다. 이 이론은 핵분열 과정에서 방출되는 막대한 에너지를 예견했고 이를 대량살상무기로 구현한 것이 맨해튼 프로젝트였다. 과학기술의 성과는 기술 그 자체보다 이를 선택하고 활용하는 국가의 판단에 따라 문명의 방향을 바꿀 수 있음을 보여준 사례다. 원자폭탄은 전쟁을 종결시켰지만, 동시에 인류 생존을 위협하는 가능성을 남겼다.

그러나 인류는 이후 통제 시스템을 통해 핵분열을 관리하며, 파괴의 기술을 원자력이라는 에너지원으로 전환하는 법을 배웠다. 이 경험은 오늘날 인공지능(AI)을 둘러싼 논의에도 그대로 적용된다.

통제가능한 기술일지, 특이점 넘을지 선택의 갈림길

최근 미국에서 추진되고 있는 제네시스 미션은 AI를 국가 과학기술체계 전반을 뒷받침하는 핵심 인프라로 재정의하려는 시도다. 연방정부가 축적해온 방대한 데이터와 초고성능 컴퓨팅 자원을 연계해 연구설계 실험 시뮬레이션 등 과학기술 전 주기의 효율과 속도를 AI로 끌어올리겠다는 구상이다. 이는 단순한 기술 투자 확대를 넘어, 과학기술 혁신이 이뤄지는 방식 자체를 전환하려는 정책적 변화로 볼 수 있다.

중국의 대응 역시 분명하다. 중국은 국가 주도의 장기전략과 대규모 투자를 통해 AI를 반도체 국방 도시운영 등 국가운영 전반과 긴밀히 결합하고 있다. 방대한 데이터 축적과 정책 집행의 일관성을 바탕으로 AI를 경제성장과 사회관리의 핵심수단으로 활용한다. 미국이 개방형 협력과 민관 연계를 통해 혁신의 속도와 확산을 중시한다면, 중국은 통제된 환경에서 규모와 지속성을 앞세운다. 접근방식은 다르지만 AI를 전략자산으로 인식하고 기술패권을 선점하려는 목표는 같다.

AI 경쟁을 한층 복잡하게 만드는 요인은 범용인공지능, 즉 AGI(Artificial General Intelligence)다. AGI는 특정 과제에 특화된 AI를 넘어 인간과 유사한 수준의 일반적 추론과 문제해결 능력을 갖춘 지능을 의미한다. 일부 전문가들은 AGI가 등장할 경우 AI가 스스로를 개선하는 지능폭발(intelligence explosion)이 일어나고, 기술발전이 인간의 예측과 통제를 벗어나는 기술적 특이점(technological singularity)에 이를 수 있다고 경고한다. 생산성과 과학적 혁신에 대한 기대가 커지는 만큼, 통제 상실과 책임 공백에 대한 우려도 함께 커지고 있다.

이 지점에서 관건은 기술발전의 속도 자체가 아니라 그 발전단계를 어떻게 설계하고 통제하느냐다. 핵분열이 원자폭탄과 원자력이라는 상반된 방향으로 귀결된 것은 동일한 물리 현상이 관리 방식에 따라 전혀 다른 결과로 이어졌기 때문이다. 원자폭탄은 고농축 연료로 핵분열을 통제 불가능한 상태로 밀어붙였고, 원자력은 연료 농도와 감속재를 통해 연쇄반응을 지속가능하게 조정했다. 같은 과학적 원리라도 설계 단계에서 통제구조를 어떻게 내재화했는지가 활용의 방향과 역사적 가치를 갈랐다.

AI 역시 선택의 갈림길에 서 있다. AI의 성능과 영향력을 좌우하는 핵심은 데이터이며 데이터의 질과 활용 목적은 일종의 연료 농축도에 해당한다. 검증되지 않은 데이터와 왜곡된 목표로 학습된 AI는 예측하기 어려운 방향으로 작동할 수 있다. 여기에 윤리기준과 법·제도, 안전검증체계라는 통제 시스템이 결합될 때 AI는 사회적으로 관리가능한 기술이 된다. 이는 혁신을 억누르는 규제가 아니라 지속가능한 발전을 위한 조건이다.

맨해튼에서 제네시스로 이어지는 과학기술사의 교훈은

맨해튼 프로젝트 이후 국제사회는 핵확산금지조약(NPT)과 국제기구(IAEA)를 통해 핵을 관리해 왔다. AI 역시 무한경쟁의 대상이 아니라 국제적 규범과 협력의 틀 속에서 다뤄져야 한다. AI 3강을 선언한 한국의 전략적 공간도 여기에 있다. 기술개발과 산업 경쟁력은 기본전제지만 데이터 거버넌스와 AI 안전, 윤리규범을 둘러싼 국제논의에 능동적으로 참여해야 한다. 이러한 기준을 스스로 설정할 수 있어야 기술 확보와 함께 귀결을 책임질 수 있다.

AI 시대의 역량은 기술력 자체에만 있지 않다. 효율과 경쟁이 가속화될수록 그 결과를 감당할 책임과 선택에 대한 성찰은 더욱 중요해진다. 맨해튼에서 제네시스로 이어지는 과학기술사의 교훈은 분명하다. 과학기술의 가치는 속도가 아니라 방향이며, 인류와 사회가 어떤 미래를 선택하느냐에 따라 비로소 완성된다.

김성수 연세대 특임교수 전 과학기술인공제회 이사장