빅데이터와 인공지능(AI) 시대 핵심 난제로 꼽히는 ‘조합 최적화 문제’를 기존 실리콘 반도체 공정만으로 해결할 수 있는 차세대 연산 하드웨어가 국내 연구진에 의해 개발됐다. 물류와 금융, 반도체 설계처럼 방대한 경우의 수를 동시에 계산해야 하는 산업 분야에서 연산 속도와 효율을 크게 높일 수 있을 것으로 기대된다.

KAIST는 전기및전자공학부 최양규 교수와 김상현 교수 공동 연구팀이 표준 CMOS(상보형 금속산화물 반도체) 공정만을 활용해 차세대 최적화 전용 하드웨어인 ‘오실레이터 기반 아이징 머신(Oscillatory Ising Machine)’을 구현했다고 10일 밝혔다.

조합 최적화 문제는 가능한 경우의 수 가운데 가장 효율적인 답을 찾는 문제다. 문제 규모가 커질수록 계산량이 기하급수적으로 증가해 기존 컴퓨터 구조로는 처리에 긴 시간이 필요하다.

연구팀은 최근 빅데이터와 인공지능 기술 확산으로 물류·금융·통신처럼 대규모 경우의 수를 동시에 계산해야 하는 산업이 늘고 있지만, 기존 컴퓨터는 데이터 이동 과정에서 전력 소모와 연산 지연이 크다는 한계를 안고 있다고 설명했다.

연구팀은 물리 시스템의 자연스러운 동기화 현상에 주목했다. 일정한 주기로 신호를 반복하는 오실레이터들이 서로 신호를 주고받으며 가장 안정적인 상태로 수렴하는 과정에서 최적 해를 찾는 방식이다.

기존 아이징 머신은 오실레이터 간 미세한 주파수 편차를 정밀하게 제어하기 어렵고 연결 구조에도 한계가 있어 대규모 연산에 제약이 있었다.

연구팀은 오실레이터와 커플러를 모두 단일 실리콘 트랜지스터로 구현하는 새로운 구조를 개발했다. 이를 통해 오실레이터 간 주파수 편차를 줄여 안정적인 동기화를 구현하고, 연결 강도를 여러 단계로 조절하는 ‘다중 비트 커플링’ 기술도 적용했다.

특히 연구팀은 단일 트랜지스터의 부유 바디 특성을 활용해 스스로 발진하는 오실레이터를 구현했으며, 게이트 전압 제어를 통해 위상과 주파수를 정밀하게 보정할 수 있도록 설계했다고 밝혔다.

또 기존 아이징 머신이 극저온 환경이나 대형 광학 장비 중심으로 개발된 것과 달리, 이번 기술은 상온에서 동작하면서도 고집적 구현이 가능한 CMOS 표준 공정을 그대로 활용했다는 점에서 차별성이 있다고 설명했다.

연구팀은 이를 활용해 대표적인 조합 최적화 문제인 ‘최대 절단(Max-Cut)’ 문제 해결에도 성공했다. 최대 절단 문제는 네트워크를 두 그룹으로 나눌 때 연결 효율을 극대화하는 방식으로 물류 배송 경로와 금융 포트폴리오, 반도체 회로 배치, 통신 네트워크 최적화 등에 활용된다.

KAIST측은 이번 기술이 별도 설비 투자 없이 기존 반도체 생산라인에서 대량 생산이 가능하다는 점도 강점이라고 설명했다.

실용화될 경우 데이터센터와 인공지능 서버용 저전력 특화 연산 칩은 물론 자율주행과 스마트 물류, 통신 시스템 등 실시간 의사결정이 필요한 분야에도 적용 가능성이 크다고 연구팀은 전망했다. 기존 디지털 컴퓨팅 방식으로 막대한 시간과 전력이 필요했던 문제들을 훨씬 빠르고 효율적으로 해결할 수 있다는 설명이다.

최양규 KAIST 교수는 “트랜지스터의 새로운 기능인 ‘진동기(오실레이터)’를 활용해 구현한 아이징 머신”이라며 “반도체 설계 자동화와 자원 분배, 통신 네트워크 최적화 등 대규모 조합 최적화가 필요한 산업 분야에 폭넓게 활용될 수 있을 것”이라고 말했다.

다만 연구팀은 실제 산업 적용을 위해서는 더 큰 규모 문제를 안정적으로 처리할 수 있는 고집적 기술과 시스템 수준 검증, 기존 디지털 컴퓨팅과의 연동, 소프트웨어 생태계 구축 등이 추가 과제로 남아 있다고 설명했다.

이번 연구는 KAIST 윤성윤 박사과정과 김준표 박사가 공동 제1저자로 참여했다. 연구 결과는 국제학술지 ‘사이언스 어드밴시스(Science Advances)’에 게재됐다.