기업들이 인공지능(AI)을 업무에 활용하는 추세가 확대되면서 AI시스템에 대한 감사 필요성이 커지고 있다는 지적이 나온다.

한국공인회계사회가 지난달 30일 발간한 ‘회계·세무와 감사연구’에 실린 ‘인공지능 감사 도입 방안 연구’ 에 따르면 미국과 EU(유럽연합)에서는 AI 제공 기업 및 이용 기업의 AI 거버넌스 및 관리의 적절성 파악을 위한 감사의 필요성이 점차 증대되고 있다

지난해 6월 발표된 EU의 AI법은 채용 분야 AI 기술 사용을 규제하고, 고용·채용에 사용되는 AI 시스템을 고위험으로 간주해 지원자나 직원에게 부정적 영향이 없도록 엄격한 요구 사항을 적용하고 있다. 특히 채용 절차 전반과 업무 관련 계약 관계자의 평가, 승진 또는 유지에 있어 여성, 특정 연령대, 장애인, 특정 인종·민족적 기원 또는 성적 지향을 가진 사람에 대한 차별을 금지하고 있다.

미국은 2023년 7월 AI 위험관리를 위한 지침을 공표하고, 유럽평의회는 인공지능위원회를 통해 AI 조약 기초 협상을 추진 중이다.

서정화 협성대 교수와 이창규 중앙대 교수는 이번 연구에서 “현재 AI에 특화된 법정 감사는 존재하지 않지만 피감사 기업이 AI를 활용해 재무제표를 작성하거나 AI의 판단 결과에 따라 내부통제를 수행하는 경우, 재무제표 감사나 내부통제 감사시 AI 관련 내부통제 정비 및 운용 상황 등을 검증해야 한다”며 “따라서 감사의 필요성, 대상, 시기, 주체를 준비하고 실행하는 것은 AI 거버넌스에 기반한 AI 감사의 실현이라고 할 수 있다”고 밝혔다.

또 “AI 시스템 도입은 업무 효율성과 생산성 향상에 기여할 수 있지만, 시스템 신뢰성 확보를 위한 AI 시스템 감사는 필수적”이라고 말했다.

AI 감사는 AI 시스템이 예상대로 작동하는지, 그리고 윤리적·법적 기준에 부합하는지를 평가하는 과정을 말한다. 기업 등이 AI 기술을 다양한 시스템에 응용하면서 안전한 이용을 위해 시스템을 점검하는 행위로 볼 수 있다.

IT 감사가 정보 시스템 전반의 안정성, 효율성, 보안성을 평가한다면 AI 감사는 AI 시스템의 신뢰성, 공정성, 안전성, 책임성과 같은 윤리적 측면을 강조해 평가한다는 점에서 차이가 있다.

서 교수 등은 “ AI 감사는 기존 IT 감사와 달리 복잡한 로직과 데이터 편향 등 새로운 문제에 직면하며, 감사 기준 부재, 대상 범위 모호성, 높은 비용 등 다양한 어려움을 겪고 있다”며 “이러한 문제를 해결하기 위해 AI 감사제도 설계 방향을 설정하고 합리적인 감사 방안을 마련해야 한다”고 말했다.

또 “AI 감사 수행에는 광범위한 전문성이 요구되므로, 감사 이론, 업계 지식, IT 지식, AI 기술, 윤리, 법규 등 다양한 분야에 대한 이해를 갖춘 인재 육성이 필수적”이라며 “생성형 AI 감사시에는 입력 지시 기록, 제어 로직, 결과물 표시 등 특화된 감사 절차를 적용해야 하며, 기술 발전에 따라 감사 논점과 방식에 대한 지속적인 논의가 필요하다”고 강조했다.

이경기 기자 cellin@naeil.com