과학기술정보통신부는 최첨단 인공지능(A)의 안전성 확보를 위해 인공지능안전연구소와 오픈AI 간 고위험 분야 AI 안전협력강화를 위한 업무협약(MoU)을 체결했다고 17일 밝혔다.

오픈AI가 각국의 AI안전연구소와 업무협약을 체결한 것은 미국 영국 일본에 이어 이번이 네번째다.

이번 MOU는 지난해 10월 과기정통부와 오픈AI 간 업무협약 체결을 통해 구축한 AI 협력기반을 AI 안전 분야까지 확대하기 위한 것이다.

과기정통부 관계자는 “이번 협약을 계기로 우리나라는 최첨단 AI의 위험 검증과 평가 기준 마련을 위한 국제 협력 네트워크에서의 역할을 한층 강화할 수 있게 됐다”고 설명했다.

AI안전연구소와 오픈AI는 업무협약을 통해 고위험 분야별 안전 평가 방법론과 벤치마크에 관한 지식과 모범사례를 공유할 예정이다. 또 한국어와 한국의 사회·맥락을 반영한 평가 체계 개발을 위한 기술 정보를 교환하고 국제적으로 적용가능한 AI 안전평가체계 마련을 위해 협력하기로 했다.

이진수 과기정통부 인공지능정책기획관은 “최첨단 AI 모델의 안전성 확보를 위해 글로벌 선도기업과의 협력을 강화하고 AI 안전성 평가 체계를 고도화해 나갈 시점”이라면서 “이번 협약을 계기로 양 기관이 최첨단 AI의 안전 확보에 적극 협력하길 기대한다”고 말했다.

김명주 AI안전연구소 소장은 “AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 엄밀한 안전 평가는 선택이 아닌 필수”라며 “이번 협약을 통해 AI안전연구소는 오픈AI와 함께 최첨단 AI의 위험을 과학적으로 검증하고 국제적으로 통용되는 평가 체계를 만들어 갈 것”이라고 밝혔다.

고성수 기자 ssgo@naeil.com