고려대학교(총장 김동원) KU-KIST융합대학원 겸 융합에너지공학과 왕건욱 교수 연구팀이 광주과학기술원(GIST) 이병근 교수 연구팀과 함께, 모놀리식 3D 방식으로 멤리스터를 집적해 고밀도·고성능 인메모리 컴퓨팅을 위한 새로운 기술 플랫폼을 제시했다.

18일 고려대에 따르면 인공지능 기술이 발전하면서 데이터 처리량이 급격히 늘고 있지만, 기존 방식의 컴퓨터 구조로는 속도와 에너지 효율 저하 문제가 발생한다. 이에 따라 메모리 내에서 연산을 수행하는 ‘인메모리 컴퓨팅(in-memory computing)’이 주목 받았다.

특히, 메모리 기능과 연산 기능을 동시에 수행할 수 있는 멤리스터를 크로스바 어레이로 배열하면 병렬 연산이 가능하여 인공지능 신경망 연산에 적합한 기술로 기대를 모았다. 그러나 멤리스터를 대규모로 배열하면, 선택하지 않은 셀로 전류가 흘러 들어가는 오류가 발생한다.

크로스바 어레이는 수직 방향의 전극과 수평 방향의 전극이 교차하는 지점마다 멤리스터를 배치해, 고밀도로 메모리나 연산 기능을 구현하는 배열 구조다.

연구팀은 이 문제를 해결하기 위해, 180 나노미터(nm) CMOS 공정으로 제작한 트랜지스터 기반 셀렉터(Transistor-based selector, 1TS) 위에 정보를 저장할 수 있는 산화티타늄(TiOx) 멤리스터(1M)를 수직으로 쌓는 ‘모놀리식 3D 집적 방식’을 적용했다. 이를 통해 1킬로비트(kbit) 용량의 구조를 구현했으며, 이 구조가 최대 1.14테라비트(Tbit) 수준의 초대형 인공지능 연산 시스템으로 확장 가능함을 확인했다.

멤리스터는 메모리와 저항기의 합성어로 전류가 지나간 이력을 기억해 저항 상태를 유지할 수 있는 차세대 메모리 소자다. 모놀리식 3D 집적 방식은 서로 다른 회로 소자를 수직으로 쌓는 방식이다. 또 CMOS는 트랜지스터를 구성하는 반도체 공정 기술로, 스마트폰 등에서 쓰인다.

또한, 이 구조(1TS-1M)는 기존 산화물 기반 멤리스터 구조보다 전력 소모가 획기적으로 낮은 것으로 나타났다. 특히, 인공 신경망의 핵심 연산인 벡터-행렬 곱셈(VMM) 수행 중 발생하는 불필요한 전력을 기존 약 0.5 마이크로와트(μW) 수준에서 70 펨토와트(fW) 수준으로 줄이며, 약 1000만배(10⁷배)의 전력 효율을 개선했다.

연구팀은 개발한 구조를 이미지 분류 인공지능 모델에 적용해 성능을 검증했다. CIFAR-10과 UTK face 데이터에 적용한 결과, 합성곱 신경망(CNN) 구조에서 높은 인식 정확도를 기록하며 우수한 학습 및 분류 성능을 입증했다.

공동 연구팀은 “이번 연구는 멤리스터 기반 인공 신경망 기술이 고밀도·고성능 AI 연산 시스템으로 실현될 수 있는 가능성을 보여준 것”이라며 “이는 에너지 효율이 높고 확장성이 뛰어나, 차세대 AI 반도체 플랫폼 개발로 이어질 수 있을 것”이라고 밝혔다.

이번 연구는 과학기술정보통신부가 추진하는 한국연구재단 기초연구사업(기초연구실, 중견연구, 도전형), 나노·소재기술개발사업, 반도체디스플레이 국제공동연구, 신개념 PIM 기초기술 개발사업, 한국과학기술연구원(KIST) 융복합개방형연구의 지원을 받아 수행됐다.

연구 결과는 나노·에너지 분야에서 영향력 있는 국제 학술지 ‘Nano Energy’ 온라인에 지난 4월 10일 게재됐다.