한정훈 칼럼

가시화되고 있는 양자와 인공지능의 만남

2025-03-11 13:00:01 게재

미국 콜로라도 아스펜이라는 자그마한 도시는 자작나무와 비슷한 아스펜나무가 정말 많다. 부자들의 별장이 즐비하고 겨울이면 스키 여행객들로 붐비는 이 동네 언저리에 아스펜물리학센터가 자리잡고 있다. 유럽이 물리학의 본고장이던 시절 변방인 미국까지 오고 싶어하지 않는 유럽 물리학자들을 아름다운 경치와 스키로 유인하기 위한 방책이었고 성공했다.

덕분에 매년 겨울 아스펜에서는 물리학의 첨단 쟁점들을 다루는 일주일짜리 학회가 몇개 열린다. 올해 가장 관심을 모은 주제는 ‘양자와 인공지능의 만남’이다. 작년 말 구글이 발표한 양자칩 윌로우와 ‘양자컴퓨터는 20년 뒤에나 가능하다’는 젠슨 황 예측의 모순 때문에 양자와 인공지능의 경쟁관계에 대한 관심이 커진 상황이라 시의적절한 모임이었고 성황을 이루었다.

양자컴퓨터를 만드는 방법은 크게 초전도체 소자, 원자, 원자에서 전자를 하나 벗겨낸 이온을 이용한 것 세가지가 있다. 이번 학회에서는 각 분야를 주도하는 기업의 발표가 학계의 발표와 병행해 더욱 흥미를 끌었다. 레이저를 이용한 광자 기반 양자컴퓨터는 아직 구체적인 시제품을 만들지 못한 상태라 그런지 참여가 눈에 띄지 않았다.

아스펜 학회에서 공개된 양자컴퓨터들

초전도체 소자 기반 컴퓨터의 선두주자는 구글과 IBM인데 이번 학회에서는 주로 구글 연구진이 발표를 했다. 지금 양자컴퓨터는 1000번 연산을 하면 1번씩 오류가 나는 매우 불안정한 상태다. 구글 연구진은 이 오류를 줄이거나, 발견 즉시 수정하는 오류보정이론을 개발하는 데 총력을 기울이고 있었다. 오류정정을 잘하기 위해 인공지능(AI) 이론이 대거 동원되고 있다는 점은 논문을 통해 이미 알고 있었지만, 논문에 참여한 연구자들의 발표를 듣다 보니 AI 기반 오류정정 방법론이 어느덧 첨단학문이 되어 있다는 게 피부로 다가왔다.

지금은 100개 정도의 큐빗(양자연산을 하는 기본소자)을 제어할 때 발생하는 오류를 수정하는 알고리즘을 개발한 수준이지만 앞으로 수천 수만개의 큐빗이 동시에 작동하면서 발생하는 오류까지 원활하게 제어할 인공지능 알고리즘을 개발하는 게 향후 해결해야 할 과제로 보였다.

원자를 기반으로 양자컴퓨터를 만드는 프랑스의 파스칼이란 기업에서 온 연구자는 지구 주변을 도는 수많은 인공위성을 어떻게 배치해야 각 위성의 효율을 최적화할 수 있을까 하는 문제를 양자컴퓨터로 풀려고 했던 시도에 대해 설명했다. 일단 인공위성의 위치를 최적화하는 문제를 양자컴퓨터가 이해할 수 있는 알고리즘으로 만든 뒤 이를 파스칼이 보유한 최첨단 양자컴퓨터에 넣어 해답을 찾게 하는 시도다. 아직은 만족할 만한 결과를 얻지 못했는데 큐빗 역할을 하는 원자의 개수가 충분하지 않고 연산 과정에서 발생하는 오류의 제어 또한 불충분한 것이 원인인 듯싶다.

파스칼은 분자들 사이의 화학반응을 양자컴퓨터로 풀어내는 시도도 하는 중이고, 이 시도가 성공하면 신약개발에도 한 몫을 담당할 수 있을 것이란 희망이 있다고 하지만 막상 파스칼의 발표자는 이런 시도가 단기간에 성공할 것으로 믿지는 않았다.

마이크로소프트는 인공지능 기업으로서의 면모가 훨씬 잘 알려져 있긴 하지만 중성원자를 기반으로 한 소규모 양자컴퓨터 기업 ‘아톰 컴퓨팅’과 양자컴퓨터의 설계 및 작동에 필요한 소프트웨어를 개발하는 방식으로 협업하고 있었다.

발표자 마티아스 트로이어 박사는 궁극의 연산기계가 아마도 양자컴퓨터와 AI, 그리고 고성능 슈퍼컴퓨터가 유기적으로 연결된 체계가 될 것이란 확신을 갖고 있는 듯했다. 마이크로소프트 자체적으로도 초전도체, 원자, 이온 기반과 전혀 다른 반도체를 기반으로 한 위상 양자컴퓨터란 걸 개발하는 중이라고 했다.

그의 발표가 있은 지 불과 일주일 뒤 마이크로소프트는 ‘마요라나1’이란 이름의 위상 양자칩을 공개했다. 마요라나는 페르미와 동시대 천재 물리학자로 32살에 세상에서 자기가 할 일을 다 마쳤다는 듯 홀연히 사라져버렸는데 이렇게 거의 한세기 만에 양자컴퓨터 이름으로 되살아났다. 한편 아스펜학회 발표 당시 트로이어 박사가 입고 있던 옷과 마요라나1 언론보도에 나온 그의 옷이 똑같았다. 물리학의 천재들은 단벌로 자신의 정체성을 드러내기도 한다.

원자 대신 이온을 기반으로 컴퓨터를 만드는 ‘퀀티니엄’이란 회사가 있다. 영국 옥스포드대학 인재들이 창업했다가 요즘은 미국 다국적 기업 허니웰의 전폭적인 투자를 받는 중이다. 퀀티니엄에서 온 연구자는 올해안에 100큐빗짜리 퀀티니엄 제품이 출시될 것이라고 자신했다. 게다가 퀀티니엄의 제품은 초전도체 기반의 양자컴퓨터에 비해 오류가 적다고 한다. 비교 하자면 초전도체 기반 컴퓨터는 소음 많은 트랙터, 자신의 회사 제품은 소음 없는 전기차 쯤이라고 하는 데 그 말대로라면 머잖아 출시될 퀀티니엄의 100큐빗짜리 제품에 상당한 기대를 걸어볼 수 있을 것 같다.

행동뿐 아니라 꿈, 계획뿐 아니라 믿음

마티아스 트로이어 박사는 노벨 문학상 수상자 아나톨 프랑스의 격언을 인용하면서 발표를 마무리했다. “위대한 일을 이루려면 행동할 뿐만 아니라 꿈도 꾸어야 하고, 계획할 뿐만 아니라 믿어야 합니다.”

양자컴퓨터 연구개발은 많은 자본을 밑바탕으로 최고의 인재들이 모여 이 격언을 충실히 따라 한발한발 전진하는 모습이었다.

한정훈 성균관대학교 교수 물리학과