생성형 인공지능(AI)이 만든 ‘가짜 판례’ 등 허위 법령·판례 인용에 최대 500만원의 과태료를 부과하는 입법이 추진된다. 허위 법률 주장에 대한 절차법상 첫 직접 제재다.

6일 국회 의안정보시스템에 따르면 이성윤 더불어민주당 의원은 지난 3일 법원행정처 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’ 권고를 반영한 형사소송·민사소송법 개정안을 대표발의했다.

개정안은 형사사건의 피고·변호인과 민사사건의 당사자·소송대리인이 존재하지 않는 법령이나 재판례를 고의 또는 과실로 인용하거나 그 내용을 허위로 인용하면 법원이 500만원 이하의 과태료를 부과할 수 있도록 했다. AI가 생성했는지 여부와 관계없이 허위 법령·판례 인용 자체를 제재 대상으로 삼았다.

이 의원은 “허위 물적 증거를 제출하는 행위는 증거인멸죄, 무고죄 등으로 처벌할 수 있지만 허위 법령이나 판례를 인용한 허위 법률주장에 대해서는 제재 방안이 불명확했다”며 “사법자원 소모를 방지하고 공정하고 신속한 재판을 받을 권리를 실질적으로 보장하려는 것”이라고 제안 이유를 밝혔다.

이번 입법은 생성형 AI의 환각으로 허위 사건번호와 판례 인용이 늘어난 데 따른 것이다. ‘나홀로 소송’뿐 아니라 일부 변호사 서면에서도 허위 판례가 발견되면서 법원의 검증 부담이 커졌다는 지적이 이어졌다.

실제로 서울고등법원 민사33부는 올해 4월 보증금 반환 사건 판결문에서 당사자가 인용한 사건번호가 모두 존재하지 않는다고 각주로 적시했다. 법원행정처는 지난 2월 사법정보공개포털에 ‘허위 사건번호 확인’ 서비스를 도입해 사건번호 입력만으로 판결 존재 여부를 확인할 수 있도록 했다.

강민구 법무법인 도울 대표변호사는 “이번 입법은 AI 사용을 금지하려는 것이 아니라 AI 활용에 따른 책임을 명문화한 데 의미가 있다”며 “생성형 AI가 법률가의 유용한 보조수단이 될 수는 있지만 법령과 판례의 진위를 최종 확인할 책임은 결국 변호사에게 있다”고 말했다.

양윤섭 대한변협 국선변호사회장은 "이번 법안의 핵심 쟁점은 '고의 또는 과실' 판단"이라며 "변호사는 AI가 제시한 판례의 존재 여부를 다시 확인했는지가 중요하고, 당사자의 경우에도 AI 답변을 그대로 제출하기보다 전문가의 검증을 거치는 것이 바람직하다"고 말했다.

서원호 기자 os@naeil.com