우리 정부가 세계 인공지능(AI) 업계 선두기업인 엔트로픽과 손잡고 AI 안전성 확보와 사이버보안 강화에 나선다. 과학기술정보통신부는 앤트로픽과 AI 안전성 확보와 사이버보안 분야 협력을 위한 업무협약(MoU)을 체결했다고 18일 밝혔다.

과기정통부는 이번 업무협약을 통해 AI가 사이버 공격과 방어에 미치는 영향을 심층 분석하고, 한국어 맥락에서의 AI 모델 안전성과 오남용 위험 평가, 자율형 AI 에이전트에 대한 레드팀 평가 등 첨단 AI의 안전성 확보를 위한 앤트로픽과의 협력체계를 더욱 공고히 할 예정이다.

협약 체결 이후 이도규 과기정통부 정보통신정책실장은 앤트로픽의 글로벌 총괄인 크리스 차우리와 AI 안전과 사이버보안 분야 협력 방향에 대해 논의했다.이 자리에서 양측은 우리나라의 AI안전연구소(AISI)와 앤트로픽 간 AI 모델 및 자율형 AI 에이전트 안전성 평가 등 AI 안전성 확보를 위한 협력을 적극적으로 추진하기로 했다.

또 금융 분야 등을 포함한 AI 취약점 발굴과 사이버 위협에 대한 전문 지식과 관련 정보 등의 신속한 공유를 추진하기로 했다.

한편 이번 협약에 따라 우리 정부는 엔비디아 오픈AI 구글딥마인드 앤트로픽 등 세계 AI분야 주요 빅테크들과 AI 협력 네트워크를 완성했다.

고성수 기자 ssgo@naeil.com