오피니언 칼럼

문송천 칼럼

양자컴퓨터가 할 수 있는 일과 한계

2025-11-18 13:00:02 게재

기계는 복사하는 일과 요약 정리하는 일은 잘하지만 창작처럼 어려운 일은 못한다. 창작 능력이 없으면 비평 능력도 가질 수 없는 것은 당연하다. 창의성과 비평에서는 자연지능의 인간을 인공지능(AI)의 기계가 결코 능가할 수 없다. AI가 그럴듯하게 조작된 문장을 쏟아내는 일, 어떤 질문에 단정짓지 못하고 우유부단하게 이런 저런 검색 자료를 늘어놓는 것 또한 그래서다.

작동 원리로 말하면 AI는 무엇이든지 확률에 근거해 처리하게 돼 있다. 때문에 일종의 일기예보 같은 수준에 머무를 수밖에 없다.기계 대 인간 게임을 잘 알기 위해서는 컴퓨터라는 기계가 어떤 구조하에 어떻게 작동하는지 알아야 한다.

최근에는 양자컴퓨터에 대한 이야기가 많다. 작년에는 노벨 물리학상을 AI 학자들이 받았으나 올해는 양자 과학자들이 받았다. 언론에서는 이렇게 소개한다. ‘미래산업 만능 열쇠 양자컴퓨터, 산업계 난제 한방에 풀릴 것’ 등이다.

양자컴퓨터란 정보 저장 능력을 증가시키기 위해 기존 컴퓨터와는 다른 방법을 쓴다. 기존엔 정보를 표현하는 비트 한 자리에 0이나 1 둘 중의 하나만 들어가지만 양자컴퓨터에서는 그 한자리 큐비트에 0과 1을 동시에 갖는 것을 허용한다. 기존컴퓨터에서는 0과 1을 동시에 갖는 일은 불가능하다.

양자컴, 빛과 파동 두가지 원리로 작동

비트 두 자리를 놓고 기존컴퓨터와 양자컴퓨터를 비교해보면 이렇다. 기존에는 두 비트가 있을 때 어느 한 특정 순간에 가질 수 있는 값은 00, 01, 10, 11 중 단 하나만이다. 즉 00과 01을 동시에 나타낼 수는 없다는 뜻이다. 또한 두 비트에서 이 4개의 값을 같은 한순간에 동시에 갖는 일이 불가능하다. 그런데 양자컴퓨터에서는 한 순간에 00, 01, 10, 11이라는 4개의 값을 동시에 갖는 일이 충분히 가능하다.

그래서 표현능력이 배가되고 계산 속도도 배가될 수 있다. 몇배속이 되느냐는 경우에 따라 다르다. 백배가 되기도 하고 몇천배가 될 수도 있다. 일반적으로 기존 비트에는 2의 n (n은 비트 수)승의 경우의 수 중에서 오로지 한가지 수를 값으로 가지지만 큐비트에서는 2의 n승의 경우의 수 전체를 한꺼번에 모두 갖는 게 가능하다는 뜻이다. 양자컴퓨터의 표현능력은 기존컴퓨터에 비해 커지는데 n이 증가할수록 표현능력은 기하급수적으로 늘어나게 된다.

그렇다면 왜 이렇게 현저히 다른 표현이 나오는 것일까. 이를 이해하려면 자석과 빛의 성질 차이를 생각해보면 된다. 강자성을 띈 자석은 한번 자화가 일어나면 외부 자기장이 사라져도 잔류 자화가 남는 물질이다. 이런 식으로 N극 혹은 S극 중 한쪽 방향으로 자화시킨 게 바로 한 비트의 0과 1에 해당한다. 바로 기존 컴퓨터의 작동 원리다. 반면 양자란 것 자체가 빛과 파동이라는 두가지 원리로 작동한다. 유리같은 물체에 빛이 비치면 외부에서 보는 각도 차이에 따라 각양각색의 다른 무지개 색깔 모양으로 눈에 보이게 된다.

빛이 갖는 입자의 성질을 이용한 현상으로 금속판에 일정한 진동수 이상의 빛을 비추면 물체 표면에서 전자가 튀어나오게 되는데 이때 튀어나오는 전자 패턴이 각양각색으로 달라질 수 있다는 뜻이다. 미로찾기게임을 예로 들면 기존 비트로는 한번에 하나의 미로 경로를 시도한다면 큐비트로는 동시에 여러 경로를 시도하는 게 가능하다는 의미다.

‘미국은 양자컴퓨터 상용화에 근접, 일본 맹추격, 그러나 한국은 세계시장 점유율 고작 1.8%뿐’이라는 소개도 있다. AI는 운영체계(OS) 위에서 돌아간다. 자체 OS 없이 추격을 해본들 남 좋은 일로 끝난다는 말이다. 아마존이나 페이스북도 AI 대전에 참전하는 배경은 OS를 자체적으로 이미 보유하고 있기 때문이라는 사실을 알아야 한다. 남의 OS를 채택해 AI 대전에 참전한다면 누가 승자가 될지 뻔하다. 기존 OS에 의존 하지 않는 자신만의 OS를 만들지 않으면 사상누각이 된다.

우리나라가 특히 약한 부분이 바로 여기다. 이래서는 AI 3대 강국은 쉽지않다. 그러나 딥시크의 중국은 차원이 다르다. 자체 OS를 이미 개발해 놓았기 때문이다.

큐비트의 한계는 계산의 오류

‘신약 우주 군사무기 패권 결정할 게임체인저’라는 소개도 나온다. 자연현상 분석, 신약 개발, 통신 암호 분석 등의 분야에서는 그럴 수 있겠지만 재무회계 수치의 정확성이 요구되는 기업 부문에서는 양자컴퓨터가 설 땅이 별로 없다.

큐비트의 한계는 계산의 오류다. 현재 기술 수준으로 1000번 계산 중 1회쯤 발생하는 오류는 큐비트가 지닌 문제다. 따라서 양자컴퓨터는 이런 오류 보정작업도 따로 해야 한다. 기존 비트로는 수경번을 계산해도 오류가 한번도 나지 않는다.

빠르다고 무조건 좋은 건 아니다. 1억번에 걸쳐 해야 할 실험을 단 한 방에 깨끗이 해결한다는 말은 특수영역에서는 의미가 있을 일이지만 데이터의 정확성에 대해 타협의 여지를 허용하지 않는 영역에서는 도움이 되지 않기 때문이다.