인공지능이 바둑을 두고 그림을 그리며 인간과 대화하는 수준에 이르렀지만, 작동에 필요한 전력은 여전히 인간의 뇌보다 훨씬 크다. 뇌가 적은 에너지로도 효율적으로 학습하는 원리를 구현하는 것은 차세대 인공지능의 핵심 과제로 꼽힌다. KAIST 연구진이 뇌의 학습 메커니즘을 모방한 새로운 딥러닝 방식으로 이 문제에 접근했다.

KAIST는 뇌인지과학과 이상완 석좌교수 연구팀이 인간 뇌의 학습 원리인 ‘예측 부호화’를 딥러닝에 구현해 깊은 신경망에서도 안정적으로 학습하는 새로운 인공지능 기술을 개발했다고 1일 밝혔다.

예측 부호화는 뇌가 외부 정보를 수동적으로 처리하는 대신, 다음 상황을 먼저 예측하고 실제 결과와의 차이를 줄이는 방향으로 학습하는 방식이다. 기존에도 이 원리를 인공지능에 적용하려는 시도가 있었지만, 신경망이 깊어질수록 오차가 특정 층에 집중되거나 사라지는 문제가 발생해 성능이 저하되는 한계가 있었다.

연구팀은 이러한 문제의 수학적 원인을 규명하고, 예측 결과뿐 아니라 ‘예측 오차의 변화’까지 다시 예측하는 ‘메타 예측’ 구조를 제안했다. 이 방식은 AI가 한 번 틀린 결과를 그대로 보정하는 데 그치지 않고, 오차가 앞으로 어떻게 변할지를 추가로 추정해 학습 안정성을 높이는 것이 특징이다.

실험에서는 총 30개 과제 중 29개에서 기존 표준 학습법인 역전파보다 높은 정확도를 기록했다. 역전파 방식이 전체 네트워크를 동시에 계산·수정해야 하는 중앙집중형 구조라면, 이번 모델은 층별로 분산 학습이 가능해 뇌와 유사한 처리 구조를 구현했다.

연구팀은 이러한 구조가 계산량과 전력 소모를 줄일 수 있어 뉴로모픽 컴퓨팅, 엣지 AI, 로봇 자율학습 등 전력 효율이 중요한 분야에 활용될 수 있을 것으로 보고 있다. 특히 기기 내부에서 작동하는 온디바이스 AI 구현에 유리할 것으로 전망했다.

이상완 석좌교수는 “뇌의 형태를 모방한 수준을 넘어 학습 원리 자체를 인공지능에 적용했다는 점이 핵심”이라며 “적은 에너지로도 효율적으로 학습하는 뇌모방 AI의 가능성을 제시했다”고 밝혔다.

이번 연구는 하명훈 박사가 제1저자로 참여했으며, 인공지능 국제학회 ICLR 2026에 채택돼 1월 26일 공개됐다. 연구는 과학기술정보통신부 디지털분야글로벌연구지원사업, 삼성전자 SAIT NPRC 사업, SW스타랩 사업 등의 지원을 받아 수행됐다.

장세풍 기자 spjang@naeil.com