인공지능(AI) 활용이 늘어나면서 가짜 법령·판례가 법원에 제출되거나 딥페이크와 보이스피싱 관련 범죄가 늘면서 법원과 법무부가 잇따라 대응에 나섰다.

법원행정처는 ‘허위 인용’을 판결문에 남기거나 변론에서 진술을 제한하는 등 대응 방안을 마련하는가 하면, 법무부는 생성형 AI 기술 악용 범죄에 대응하기 위해 교정기관 출소예정자를 대상으로 ‘디지털 범죄 예방 교육’을 실시한다.

1일 법조계에 따르면 대법원 법원행정처는 지난해 11월부터 활동한 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’(팀장 장지용 국제교류추진단장)의 지난 5개월간 활동 결과를 지난달 31일 공개하고 대응 방안을 내놨다.

AI 환각(할루시네이션·잘못된 정보를 그럴듯하게 제시하는 것) 현상으로 허위 법령·판례를 인용하는 사례가 각급 법원에서 다수 보고되면서 법원행정처 차원에서 대응책 마련에 나선 것이다. 기술이 고도화하면서 AI는 특히 ‘나홀로 소송’ 등을 비롯해 당사자들의 사건 대응에 도움을 주고 있고 법률가들도 널리 활용하고 있다. 하지만, 자칫 잘못된 정보가 파생될 수 있어 윤리적 논란과 함께 큰 혼란도 야기할 수 있어 본격적인 논의가 필요한 상황이다.

TF는 각급 법원 의견 수렴과 해외 실무 동향 조사를 거쳐 현시점에서 재판부가 취할 수 있는 대응책을 제시했다. 재판부는 우선 당사자나 대리인이 AI 활용 허위 법령을 인용해 불필요한 소송 비용을 발생시켰거나 소송을 지연시킨 경우, 그로 인해 발생한 소송 비용의 전부나 일부를 부담하게 할 수 있다. 또 허위 법령·판례 등이 인용된 서면에 대해선 변론에서 그 진술을 제한할 수 있고, 판결서에 관련 내용이 허위임을 적시할 수 있다. ‘원고가 제시한 판결은 존재하지 않는 사건번호’와 같은 식이다.

나아가 변호사가 AI 생성 허위 법령·판례 등을 제대로 검증하지 않고 제출한 경우 재판부가 대한변호사협회(변협)에 징계를 의뢰할 수 있다. 다만, 이런 조치들을 시행할지는 개별 재판부 재량에 달려있다.

TF는 당사자가 허위 법령 등을 인용한 경우 과태료를 부과할 수 있도록 하는 소송법 개정도 제안했다.

AI를 활용한 당사자가 그 활용 사실을 재판 상대방과 법원에 고지하고, 주요 내용이 정확한지 여부를 확인하도록 하는 내용의 민사소송규칙 개정도 함께 제안했다.

TF는 재판 당사자가 해당 판결의 실제 존재 여부를 확인할 수 있는 서비스 제공도 제안해 지난달 20일부터 사법정보공개포털에서 ‘허위 사건번호 확인’ 기능이 추가됐다. 누구든지 사건번호를 입력해 해당 판결서의 존재 여부를 쉽게 확인할 수 있다.

법원행정처 관계자는 “현재 시점에서 검토할 수 있는 대응 방안을 정리하고 향후 AI 기술과 실무환경 변화에 능동적으로 대응하기 위한 기초를 다졌다”며 “AI 기술의 발전 추이와 재판에 미치는 영향 등을 면밀히 살펴 적시에 추가 방안을 마련하고 급변하는 환경 속에서도 사법부 본연의 재판 기능을 충실히 수행하겠다”고 밝혔다.

이와 별개로 법무부는 오는 6월부터 AI 활용 범죄에 쉽게 노출될 수 있는 교정기관 출소예정자를 대상으로 ‘디지털 범죄 예방 교육’을 시행하기로 했다. 이에 앞서 4월부터 서울동부구치소와 대전·부산·광주교도소 등 4개 기관에서 시범 운영에 들어간다.

매년 약 1만 명의 출소예정자가 올바른 디지털 윤리관을 함양해 범죄의 유혹을 원천 차단하는 데 주력할 방침이다.

아울러 법무부는 오는 7월 여주교도소와 청주여자교도소에서 한국방송통신대학 교육과정 수형자를 대상으로 ‘AI 기반 자립교육’을 시범 도입한다. 교육과정은 △디지털 범죄 예방 △디지털 문해력 향상 △취·창업 역량 강화로 이어지는 단계별 커리큘럼으로 짜임새 있게 구성, 특히 법무부의 엄격한 보안지침을 철저히 준수해 사전에 허가된 안전한 경로로만 접속이 가능한 실습 환경을 조성해 수형자들이 교육에만 전념할 수 있도록 했다.

정성호 법무부 장관은 “이번 교육은 출소예정자들이 디지털 범죄의 유혹에서 벗어나 급변하는 디지털 환경에 적응하도록 돕는 계기가 될 것”이라며 “민·관 협력을 통해 출소 전 단계부터 철저한 예방 교육과 자립지원을 병행하여 우리 사회의 안전망을 더욱 공고히 하겠다”고 강조했다.

김선일 기자 sikim@naeil.com