아이디와 비밀번호를 입력하는 순간, 판례를 고르는 주체가 바뀐다. 재판지원 인공지능(AI) 도입으로 재판의 출발점이 달라지면서 개입 범위를 둘러싼 공정성·책임 논쟁이 본격화되고 있다.

28일 법조계에 따르면 대법원 법원행정처는 오는 6월 생성형 AI 기반 재판지원 시스템 1단계 사업을 마무리한다.

지난해 7월 시작된 이 시스템은 ‘법률정보 지능형 검색 및 리서치’로, 판사가 질문을 입력하면 관련 판례와 법리를 함께 제시하는 방식이다. 이는 기존 단어 위주의 ‘검색→정리→판단’에서 문장 중심의 ‘질문→답변→검증’으로 재판 준비 흐름이 바뀌고 있음을 보여준다.

법원행정처는 이 기능을 재판 준비를 돕는 보조 영역으로 한정하고 있다. 법원 관계자는 “재판지원 AI는 참고 도구일 뿐, 유·무죄 판단이나 결론 도출에는 관여하지 않는다”며 “최종 판단과 책임은 어디까지나 법관에게 있다”고 설명했다. 또 “AI가 제시한 결과는 원문 판례와 함께 제공돼 판사가 직접 확인하는 전제를 두고 설계됐다”고 덧붙였다.

현재 재판지원 AI는 전국 법원에서 활용되고 있다. 법원별 이용은 서울중앙지방법원을 중심으로 부산지방법원·수원지방법원·인천지방법원·서울고등법원 순으로 나타났다. 사건 규모가 크고 업무량이 많은 법원일수록 활용도가 높은 구조다.

재판지원 AI는 ‘검증’을 전제로 한다. AI 답변과 함께 참고 판례와 법령이 동시에 제시되고, 판사는 원문을 직접 확인해 적정성을 판단하도록 구성돼 있다. 이용 과정에서는 답변 결과에 대한 별점 평가와 오류 표시로 검증·보완하도록 했다. 특히 환각(허위 정보 생성) 가능성을 전제로 한 안내 문구를 표시해 이용자가 결과를 그대로 받아들이지 않도록 했다.

이강호 법원행정처 사법인공지능심의관(판사)은 “오류 가능성을 전제로 판사가 참고 판례를 직접 확인하도록 하고 있으며, 이용자 평가를 통해 지속적으로 검증·보완하고 있다”고 설명했다.

반면 변호사계에서는 보다 직접적인 문제를 제기한다. 양윤섭 대한변협 국공선변호사회장(법률사무소 형설)은 “AI가 제시한 판례가 재판의 출발점이 되는 순간, 이후 판단 방향이 그 범위 안에서 형성될 수 있다”며 “판례 선택이 사실상 판단의 전제를 설정하는 구조라면 단순 참고 도구로만 보기는 어렵다”고 말했다. 이어 “AI가 사건 기록을 요약하거나 주요 쟁점을 정리해 준다면 변호사의 변론 준비에 도움이 될 것”이라면서도 "판례 선별 과정이 투명하게 통제되지 않으면 재판의 공정성 논란으로 이어질 수 있다”고 우려했다.

안슬아 변호사(법무법인 대진)는 “재판지원 AI가 제시하는 요약과 쟁점 정리는 판사의 초기 판단 틀을 형성하는 데 영향을 줄 수밖에 없다”며 “결과적으로 AI가 판단에 직접 개입하지 않더라도 판단 환경에는 실질적으로 영향을 미치는 구조”라고 밝혔다. 김단영 국선변호사는 “법원이 내부망 기반 AI를 활용하는 구조는 변호인과의 정보 접근 격차를 만들 수 있다”며 “별도의 제도적 보완이 필요하다”고 지적했다.

AI 환각과 허위 판례 문제는 재판 과정 안팎에서 이미 나타나고 있다. 법원은 재판지원 AI에 환각 안내 문구를 표시하고 있고, 실제 소송에서는 변호인이 생성형 AI로 만든 허위 판례를 제출하는 사례도 발생하고 있다. 법원행정처는 생성형 AI 확산에 따른 허위 판례·법령 인용 등 ‘환각’ 문제에 대응하기 위해 지난해 11월부터 올해 3월까지 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’를 운영한 바 있다.

재판지원 AI가 판사의 판단 지원 도구라면, TF는 당사자와 변호인의 AI 활용 과정에서 발생하는 오류를 통제하기 위한 조치로, 재판 과정 전반에서 AI 영향을 관리하려는 대응으로 볼 수 있다.

“AI가 제시한 판례가 재판의 출발점이 되는 순간, 그 영향력은 무시하기 어렵다.” 한 국선변호사는 “보조 도구라고 하지만 판단 방향에 영향을 줄 수 있다”고 말했다.

AI는 개입하지 않는다고 한다. 그러나 재판의 시작은 이미 바뀌고 있다.

서원호 기자 os@naeil.com