세계적으로 인공지능(AI) 기술이 급격히 발전하는 가운데 안전과 윤리 문제가 더욱 부각되고 있다. 각국 정부와 국제표준화기구들은 AI 관련 검인증 기준을 제정하고 평가제도를 도입해 기업이 윤리적 AI 원칙을 제품에 내재시키도록 유도하고 있다.

이런 흐름에 맞춰 국제인공지능윤리협회는 국내 민간기관 최초로 ‘AI안전윤리 인증제도’(AI Safety & Ethics Certification)를 시행한다고 16일 밝혔다.

협회는 첫 시범인증 대상으로 ChatGPT의 GPTs 기반의 ‘고도원의 아침편지 AI챗봇’을 선정해 인증 심사를 실시하고 1호 인증서를 발급했다.

‘고도원의 아침편지 AI챗봇’은 2001년 8월 1일부터 시작된 국내 최초의 희망나눔 뉴스레터인 ‘고도원의 아침편지’를 기반으로 개발됐다. 이 챗봇은 23년간 축적된 아침편지 콘텐츠를 활용해 일상과 삶에 관한 상담, 조언, 편안한 대화를 나눌 수 있는 AI 서비스다. 챗봇은 ChatGPT의 GPTs 기술을 기반으로 구현됐다.

AI안전윤리 인증은 인공지능 제품과 서비스를 대상으로 개발 과정과 사용에서 준수해야 할 안전과 윤리에 대한 원칙과 기준을 토대로 평가하는 제도다. 이를 통해 AI의 안전성, 윤리성, 신뢰성을 검증하고 보증한다.

심사는 협회 산하기관인 ‘AI안전윤리인증센터’가 담당한다. 센터에 소속된 전문 심사원들은 모두 AI안전윤리에 관한 ISO 국제규격인 ‘ISO/IEC 42001:2023’ 선임심사원(Lead Auditor) 자격을 갖추고 있으며, 협회의 ‘IAAE AI안전윤리인증‘ 전문심사원 자격을 함께 보유한 전문가들이다.

이들은 심사 과정에서 AI 시스템의 설계부터 개발, 운영, 모니터링 전 과정에 걸쳐 윤리적 가이드라인 준수 여부를 체계적으로 평가한다. 특히 개인정보 보호, 편향성 방지, 투명성, 안전성 등 주요 윤리 항목에 대한 철저한 검증이 이뤄진다.

고도원 아침편지문화재단 이사장은 “인공지능 시대에 윤리와 안전은 그 어느 때보다 중요한 가치”라며 “아침편지 AI챗봇이 첫 인증을 받게 되어 큰 영광이자 책임감을 느낀다”고 말했다. 이어 “아침편지가 23년간 전해온 희망과 따뜻한 위로의 메시지를 AI 기술을 통해 더 많은 이들에게 전달하고자 챗봇을 개발했다”며 “이번 인증을 통해 사용자들에게 더 신뢰받는 서비스를 제공하고 한국형 챗GPT의 중요한 콘텐츠로 제공할 계획”이라고 덧붙였다.

전창배 국제인공지능윤리협회 이사장은 “협회의 AI안전윤리 인증제도는 AI 기술의 개발과 사용이 사회적으로 수용 가능한 방식으로 이루어질 수 있도록 보장하는 것이 가장 큰 목적”이라며 “소비자와 사용자들이 인공지능을 안심하고 믿고 사용할 수 있도록 하려는 것”이라고 설명했다. 그러면서 “기업과 공공기관에게도 AI의 안전한 개발과 적용을 지원함으로써 AI 사업에 있어 윤리적, 법적 리스크를 해결하는 데 기여하고자 하는 목적도 있다”고 덧붙였다.

협회는 올해 10곳 이상의 기업과 공공기관을 대상으로 시범인증을 진행한 후, 연말부터 본격적인 AI안전윤리 본인증을 실시할 계획이다. 또 국내 AI 기업과 산업 환경에 맞춰 자체 개발한 ’AI안전윤리인증 표준‘을 공개하여 기업과 공공기관들이 AI 안전과 윤리에 관해 미리 이해하고 대비할 수 있도록 지원할 예정이다.