미국 정부가 중국 인공지능(AI) 기업들이 미국의 첨단 AI 모델을 활용해 자사 모델을 훈련하는 것을 막기 위한 규제 방안을 검토하고 있다. 미국 기업들은 중국 업체들이 정당한 기술 개발이 아니라 미국 모델의 답변을 대량으로 수집해 성능을 빠르게 끌어올리고 있다고 주장한다.

블룸버그통신 13일(현지시간) 보도에 따르면 미국 정부와 의회가 주목하는 기술은 ‘증류(distillation)’다. 증류는 성능이 뛰어난 AI에 수많은 질문을 던진 뒤 답변을 저장하고, 이를 학습 자료로 삼아 새로운 AI를 만드는 방식이다. 막대한 비용을 들여 처음부터 모델을 개발하지 않아도 특정 분야에서는 기존 모델과 비슷한 성능을 낼 수 있다.

증류 자체가 불법이거나 새로운 기술은 아니다. 대학 연구자와 소규모 개발업체도 큰 모델을 작고 가볍게 만들기 위해 활용한다. 일론 머스크의 AI 기업 xAI도 챗GPT 모델을 자사 AI 훈련에 일부 이용했다고 밝힌 바 있다.

문제는 경쟁사의 모델을 몰래 복제하는 데 증류가 사용될 때다. 미국 AI 기업 오픈AI와 앤스로픽은 중국의 딥시크와 미니맥스, 문샷AI 등이 이용 약관을 어기고 자사 모델의 답변을 대량 수집했다고 주장했다. 앤스로픽은 중국 전자상거래·클라우드 기업 알리바바가 지금까지 가장 큰 규모의 증류 작업을 벌였다며 이를 “산업 규모의 공격”이라고 표현했다.

앤스로픽은 문샷AI가 수백개의 가짜 계정을 만들고 자사 챗봇 클로드에서 340만건이 넘는 문답을 수집한 것으로 파악했다. 구글도 비정상적인 대량 정보추출 요청이 늘었다며 이를 지식재산권 침해로 보고 있다. 미국 당국은 무단 증류로 미국 AI 기업들이 한 해 최대 60억달러의 매출을 잃을 수 있다고 추산한다.

트럼프 행정부는 우선 AI 기업들과 의심스러운 접속 정보를 공유하기 시작했다. 미 의회에서는 대규모 증류에 관여한 중국 기업과 관계자를 제재할 수 있도록 하는 법안도 추진되고 있다.

다만 미국 내에서도 규제가 대형 AI 기업의 경쟁자 차단 수단으로 변질될 수 있다는 반론이 나온다. 독립 AI 컨설턴트 해럴드 맨스필드는 앤스로픽이 정부와의 관계를 이용해 경쟁사를 밀어내려 한다고 지적했다. 중국 주미대사관도 미국 기업들의 주장을 “근거 없는 의혹이자 중국 AI 산업 발전에 대한 의도적인 공격”이라고 반박했다.

콜린 셰아블라이마이어 조지타운대 신흥기술안보센터 연구원은 중국 AI의 발전을 모두 증류 덕분으로 돌려서는 안 된다고 말했다. 그는 증류가 어느 정도 영향을 줬을 수는 있지만 실제 위협의 규모에 대해서는 “현재로서는 사실상 추측하고 있다”고 밝혔다.

양현승 기자 hsyang@naeil.com