인공지능(AI) 기술이 금융·의료 등 전문 영역까지 들어오면서 그에 따른 부작용과 법적 공백에 대한 우려가 커지고 있다. 국회에서는 AI의 ‘환각 현상’으로 인한 정보 왜곡 등 기술적 허점을 보완하고 이용자를 보호하기 위한 입법 논의가 진행 중이다.

최근 AI 활용과 관련해 뜨거운 감자로 떠오른 이슈는 이른바 ‘딸깍 출판’이다. 인간의 창의적인 개입 없이 AI만으로 생성한 도서가 대량 출판되는 가운데 이에 대한 국립도서관의 납본 보상금 지급이 문제가 된 것.

현행 도서관법에 따르면 도서관 자료를 발행·제작한 자는 이를 국립중앙도서관에 납본해야 하고, 국립중앙도서관은 이에 대해 정당한 보상을 하도록 규정하고 있다. 하지만 최근 AI를 이용해 대량으로 찍어낸 ‘딸깍 출판’ 도서를 납본해 보상금을 받으려는 시도가 나타나면서 제도적 보완이 필요하다는 지적이 제기됐다.

지난 4일 국회 문화체육관광위원회 전체회의에서도 한 AI 출판사가 2025년 7월부터 9월까지 두달 만에 395건의 납본 신청을 한 사례가 거론되며 이 문제가 도마에 올랐다. 국립중앙도서관 전자책 납본 보상금 규모는 전자책 납본을 받기 시작한 2016년 1213만원에서 2025년 2억6295만원까지 급증한 상태다.

이와 관련해 전용기 더불어민주당 의원은 AI 생성 자료를 납본 의무 대상에서 제외하고 이를 속여 납본할 경우 처벌 근거를 마련하는 내용의 ‘도서관법 및 국회도서관법 개정안’을 지난 13일 발의했다. 특히 AI 생성 사실을 숨긴 채 납본할 경우에는 해당 자료 정가의 최대 30배에 달하는 과태료를 부과하도록 해 법 실행 실효성을 높였다.

로보어드바이저와 챗봇 상담 등 금융 서비스가 보편화됨에 따라 서비스의 투명성을 확보하려는 입법도 시작됐다. 금융소비자가 상대방이 인공지능인지 모른 채 계약을 체결하거나, AI의 불투명한 추천 알고리즘에 노출될 위험이 있다는 지적에서 출발한 것이다.

김승원 더불어민주당 의원이 지난 9일 낸 ‘금융소비자 보호에 관한 법률’ 개정안은 금융상품 판매 과정에서 AI를 활용할 경우 소비자에게 이 사실을 사전에 알리도록 의무화하는 내용을 담고 있다. 소비자가 요청할 경우 AI가 아닌 상담원 등 인적 서비스를 통해 상담받을 수 있도록 하는 내용도 포함됐다.

개정안이 시행되면 AI의 알고리즘에 따른 불완전 판매 위험을 낮추고, 금융 취약계층이 기계와의 소통에서 겪는 혼란을 줄일 수 있을 것으로 예상된다.

챗GPT 등 해외 AI 서비스 이용이 늘어나는 가운데 생성형 AI의 ‘환각 현상’에 따른 정보 왜곡 피해를 예방하기 위한 제도 마련 움직임도 나타나고 있다. 서비스 이용 중 피해가 발생하더라도 해외 사업자에게 직접 책임을 묻기가 어려운 구조적 한계가 있는 상황이다. 특히 현행법상 해외 사업자의 국내 대리인 업무 범위가 단순 자료 제출 수준에 머물러 있다는 점이 실질적인 구제의 걸림돌로 지적된다.

박성훈 국민의힘 의원은 국내 대리인의 업무에 ‘불만 처리 및 피해 구제를 위한 접수·결과 통보’를 포함한 ‘정보통신망법 개정안’을 지난 10일 발의했다. AI 생성 콘텐츠에 대한 고지를 의무화하고, 의료·법률·금융 등 전문 분야 결과물에는 ‘전문가의 판단을 대체할 수 없다’는 안내도 명시하도록 했다. 안내를 고지하지 않을 경우 최대 1000만원의 과태료를 부과해 실효성을 높였다.

박 의원은 “해외 빅테크 기업들이 한국 시장에서 혜택만 누리고 책임은 회피하는 관행을 근절하고, 국민들이 안전하고 신뢰할 수 있는 AI 이용 환경을 조성하겠다”고 밝혔다.

박소원 기자 hopepark@naeil.com