인공지능(AI) 에이전트가 기존 생성형 인공지능보다 질문 한 건을 처리하는 데 최대 136배 많은 전력을 소비한다는 연구 결과가 나왔다. 국내 연구진이 인공지능 에이전트(에이전트)의 계산 비용과 응답 시간, 에너지 소비, 데이터센터 전력 수요를 세계 최초로 정량 분석해 지속가능한 AI 인프라 구축의 필요성을 제시했다.

KAIST는 전기및전자공학부 유민수 석좌교수 연구팀이 실제 서비스 환경에서 에이전트의 계산 자원과 에너지 소비를 체계적으로 분석한 결과를 발표했다고 5일 밝혔다.

에이전트는 단순히 질문에 답하는 생성형 인공지능과 달리 스스로 계획을 세우고 인터넷 검색, 계산, 코드 실행 등 다양한 외부 도구를 활용해 문제를 해결하는 차세대 인공지능이다. 하지만 실제 운영에 필요한 전력과 비용은 그동안 거의 알려지지 않았다.

연구팀은 에이전트를 데이터센터의 서버와 그래픽처리장치(GPU)가 처리하는 새로운 형태의 작업으로 보고 계산량과 에너지 소비를 분석했다. 그 결과 에이전트는 대형언어모델을 반복 호출하면서 질문 한 건당 평균 348.41Wh의 전력을 소비했다. 이는 기존 생성형 AI의 단순 질의응답보다 최대 136.5배 많은 수준이다.

응답 시간도 최대 153.7배 늘었으며, 외부 도구가 작업하는 동안 GPU는 전체 실행 시간의 최대 54.5%를 대기 상태로 보내는 것으로 나타났다. 연구팀은 복잡한 작업일수록 고성능 반도체 활용 효율이 떨어지는 새로운 병목현상이 발생한다고 설명했다.

또 하루 137억건의 에이전트 요청이 발생하는 환경에서는 데이터센터 전력 수요가 198.9GW에 이를 것으로 추산됐다. 이는 현재 추진 중인 초대형 인공지능 데이터센터 규모를 크게 웃도는 수준이며, 미국 평균 전력 소비량의 약 절반에 해당한다.

연구팀은 인공지능 시대에는 모델 성능뿐 아니라 반도체와 데이터센터, 전력 인프라를 함께 최적화하는 공동 설계(Co-design) 전략이 필수적이라고 강조했다.

유민수 교수는 “에이전트를 구현하고 운영하는 데 필요한 전력과 비용을 정량적으로 제시한 첫 연구”라며 “앞으로는 인공지능 모델과 반도체, 데이터센터, 전력 인프라를 함께 최적화하는 접근이 더욱 중요해질 것”이라고 말했다.

이번 연구는 KAIST 김지인 박사과정 학생이 제1저자로 참여했으며, 컴퓨터 시스템 설계 분야 국제학술대회 IEEE HPCA 2026에서 발표됐다.