피지컬(Physical) 인공지능시대가 본격화되면서 인공지능이 컴퓨터 안에서만 추론하는 단계를 넘어 실제 로봇과 실험장비를 제어하는 ‘자율실험실(SDL·Self-Driving Laboratory)’이 차세대 신약개발 핵심 플랫폼으로 주목받고 있다. 기존 인공지능이 후보물질을 예측하는 수준에 머물렀다면 자율실험실은 인공지능이 실험을 설계하고 로봇이 실험을 수행하며 그 결과를 다시 인공지능이 학습해 다음 실험을 스스로 결정하는 연구체계를 구현한다. 이는 생성형 인공지능과 로봇공학, 자동화 기술이 결합된 대표적인 피지컬 인공지능 응용 사례로 평가된다. 최근 한국보건산업진흥원이 발간한 ‘피지컬 AI 시대의 자율실험실(SDL): 신약개발 R&D 생산성 혁신 전략’ 보고서는 “AI 시대 신약개발 경쟁력은 더 이상 AI 알고리즘 자체보다 AI와 실제 실험을 얼마나 효과적으로 연결하느냐에 달려 있다”고 분석했다. 보고서는 한국보산진 제약바이오산업단 제약바이오산업지원팀 박성호 팀장, 김민석 책임연구원, 조선영인턴연구원, 조효제 충북대 생화학과 교수, 황재성 크리스탈파이 아태사업개발 지사장, 캐나다 온타리오주정부 서울대표부 등이 집필했다.

7일 한국보산진 제약바이오산업지원팀 등에 따르면 인공지능 신약개발의 핵심 병목은 알고리즘 성능 자체에만 있는 것이 아니다. 인공지능이 예측한 결과를 신속하게 실험으로 검증하고 그 실측 데이터를 다시 인공지능 모델에 반영하는 실험 선순환체계가 충분히 갖춰져 있지 않다는 점이다.

관련해서 자율실험실은 후보물질 탐색과 조건 최적화를 빠르게 반복할 수 있어 신약개발 초기 단계의 비효율성을 개선하고 연구개발 생산성을 제고할 수 있는 대안으로 평가된다.

◆신약개발의 한계가 SDL 등장 배경 = 신약개발은 대표적인 고위험·고비용 산업이다. 후보물질을 발굴한 뒤 비임상과 임상시험을 거쳐 허가를 받기까지 10년 이상이 걸리고 수조원의 비용이 투입된다. 특히 후보물질 탐색 단계는 전체 실패율을 좌우하는 핵심 과정이지만 여전히 연구원이 반복적인 실험을 수행하는 전통적인 ‘습식실험’ 중심으로 운영되고 있다.

최근 인공지능 기반 약물설계 기술이 급속히 발전하면서 컴퓨터 기반 분석은 크게 향상됐다. 하지만 인공지능 예측 결과를 실제 실험으로 검증하는 과정은 여전히 병목현상을 보이고 있다.

보고서 집필자들은 이러한 문제를 해결하기 위해서는 “인공지능 예측과 실제 실험을 실시간으로 연결하는 새로운 연구 패러다임이 필요하며, 그 해답이 자율실험실”이라고 설명한다.

◆자동화와 자율화는 다르다 = 집필자들은 자동화(Automation)와 자율화(Autonomy)를 명확히 구분한다. 기존 자동화는 사람이 미리 정해 놓은 프로토콜을 반복 수행하는 수준이다. 반면 자율실험실은 실험 데이터를 스스로 분석하고 결과를 학습해 다음 실험 조건을 인공지능이 직접 정한다.

즉 인공지능이 가설을 세우고 로봇이 실험을 수행하며 결과를 자동 분석하고 인공지능이 다시 학습한 뒤 다음 실험을 스스로 설계한다. 이 과정이 반복되면서 실험 효율과 정확도가 지속적으로 향상된다.

보고서 질핍자들은 이를 자율주행자동차와 비교한다. 자율주행차가 주변 환경을 인식해 주행경로를 스스로 수정하듯 자율실험실도 실험 결과를 분석해 최적 조건을 지속적으로 찾아가는 방식이다. 다만 신약개발은 안전성과 규제, 연구자의 전문적 판단이 중요하기 때문에 완전 무인 시스템보다는 연구자와 인공지능이 협력하는 ‘휴먼 인 더 루프(Human-in-the-loop)’ 구조가 적합하다고 설명한다.

자율실험실의 가장 큰 특징은 실험 전 과정을 하나의 순환구조로 연결하는 폐루프 시스템이다. 보고서는 자율실험실의 핵심 구조를 △오케스트레이션(실험 전체 관리) △실험 수행(로봇·자동화 장비) △데이터 분석 및 다음 실험 계획 △안전 모니터링 △장비 간 상호운용성 5개 계층으로 설명한다.특히 최근에는 생성형 인공지능을 넘어 에이전틱 AI(Agentic AI)가 적용되면서 사람의 개입 없이 목표를 설정하고 도구를 활용하며 결과를 학습하는 수준까지 발전하고 있다.

자율실험실에서는 기계학습이 연구 효율을 결정한다. 대표적으로 활용되는 기술은 △능동학습(Active Learning) △베이지안 최적화 △대체모델(Surrogate Model) 이다. 실험을 모두 수행하지 않고도 AI가 가장 가능성이 높은 조건을 예측해 우선 실험하도록 설계한다. 이를 통해 실험 횟수를 크게 줄이면서도 최적 조건을 빠르게 찾을 수 있다. 보고서 집필자들은 이러한 구조가 후보물질 탐색뿐 아니라 공정개발과 제조공정 최적화에도 활용될 것으로 전망했다.

◆해외는 국가 단위 SDL 구축 경쟁 = 세계 주요국은 이미 자율실험실을 국가 연구 인프라로 구축하고 있다. 가장 대표적인 사례는 캐나다 토론토대학교 중심의 엑셀러레이션 컨소시엄(AC)이다. AC는 AI와 로봇을 활용해 신약, 소재, 에너지 분야 연구를 동시에 수행하는 세계 최대 규모의 자율실험 연구 네트워크를 운영하고 있다.

연구시설뿐 아니라 전 세계 연구기관이 참여하는 글로벌 협업 체계를 구축해 새로운 분자를 탐색하는 연구를 수행하고 있으며, AI 기반으로 기존보다 20배 이상 빠르게 신소재를 개발한 사례도 보고됐다.

호주 연방과학산업연구기구(CSIRO)는 신속 자동화 재료 및 처리센터(RAMP Centre)를 구축해 소재 개발 기간을 수년에서 수개월 수준으로 단축하고 있으며, 연구와 산업화를 동시에 지원하고 있다.

중국의 크리스탈파이는 AI와 300여 대 이상의 로봇 실험 시스템을 결합해 제약기업과 공동으로 대규모 신약개발 플랫폼을 운영하고 있다. 글로벌 제약사와 협력해 실험 자동화를 산업 규모까지 확장한 대표 사례로 꼽힌다.

◆국내도 SDL 생태계 구축 시작 = 국내에서도 자율실험실 구축이 본격화되고 있다. 소프트웨어 분야에서는 한국과학기술연구원(KIST)이 개발한 ‘옥포퍼스 운영체계’가 대표적이다. 이 시스템은 실험 장비를 통합 제어하고 여러 실험을 동시에 수행할 수 있도록 작업 병렬화와 최적 스케줄링 기능을 제공한다. 이를 통해 장비 활용률과 연구 생산성을 높이고 있다.

실험 인프라 측면에서는 한국제약바이오협회의 유기합성 SDL 연세대학교 K-NIBRT 바이오의약품 SDL 등이 구축되고 있다. 특히 K-NIBRT는 AI 기반 공정 최적화와 디지털 실험 플랫폼을 구축해 바이오의약품 생산공정을 자율화하는 것을 목표로 하고 있다.

다만 현재 국내는 개별 연구실 중심의 초기 단계에 머물러 있으며 해외처럼 국가 차원의 통합 자율실험실 플랫폼은 아직 부족한 상황이다.

◆장비보다 운영체계가 경쟁력 = 보고서 집필자들은 자율실험실 경쟁력은 로봇 장비가 아니라 운영체계에 있다고 강조한다.

앞으로는 개별 장비를 많이 도입하는 것이 아니라 △실험 설계 △데이터 수집 △AI 분석 △장비 제어 △결과 학습 등이 하나의 시스템으로 연결되는 연구 플랫폼 구축이 중요하다는 것이다.

또한 연구기관마다 흩어진 데이터를 표준화하고, AI가 활용 가능한 품질의 데이터베이스를 구축해야 하며, 정부와 대학·병원·기업이 공동으로 활용할 수 있는 개방형 SDL 인프라 조성이 필요하다고 제안했다.

집필자들은 특히 후보물질 검증과 생물학적 평가는 앞으로도 연구자의 전문성이 중요한 만큼, 완전한 무인 시스템보다 연구자와 AI가 협업하는 ‘휴먼 인 더 루프’ 체계를 유지해야 신뢰성과 규제 수용성을 확보할 수 있다고 강조했다.

또한 △AI 개발자 △로봇 엔지니어 △실험 연구자 △데이터 과학자가 함께 참여하는 융합 생태계 구축과 국제 표준 및 데이터 공유 체계 마련이 글로벌 경쟁력 확보의 핵심 과제로 제시됐다.

김규철 기자 gckim1026@naeil.com