한국도로교통공단, 생성형 AI 업무서비스 도입
내부망 기반 LLM·RAG 구축해 보안 강화
문서 요약·질의응답·보도자료 작성 지원
한국도로교통공단은 지난달 30일부터 전 직원을 대상으로 ‘생성형 인공지능(AI) 기반 업무활용 서비스’를 도입했다고 밝혔다. 인공지능 전환(AX)을 가속화하고 스마트 근무 환경을 구축하기 위한 조치다.
공단은 그래픽처리장치(GPU)와 자체 인공지능 플랫폼을 도입해 관련 인프라를 구축했다. 거대언어모델(LLM, Large Language Model)을 기관 내부 시스템에 직접 구축해 인터넷과 분리된 환경에서 운영함으로써 업무자료 외부 유출을 차단하고 보안성을 확보했다.
또 검색증강생성(RAG, Retrieval-Augmented Generation) 기술을 적용해 기존 LLM의 한계로 지적되던 환각 현상을 줄이고 답변 정확도를 높였다.
이번 서비스는 △질의응답 △감사문서 요약 및 법령 추천 △보도자료 초안 작성 등 세 가지 기능으로 구성된다.
질의응답 서비스는 직원이 일상적인 언어로 업무 관련 질문을 하면 인공지능이 즉각 답변하는 방식이다. 이를 통해 다양한 업무 지식에 빠르게 접근할 수 있도록 지원한다.
감사문서 요약 및 법령 추천 기능은 감사 대상 문서를 요약하고 관련 규정과 법령을 제시해 분석 시간을 줄이는 데 초점을 맞췄다.
보도자료 초안 작성 기능은 간단한 정보 입력만으로 기관 맞춤형 보도자료 초안을 생성해 홍보업무 부담을 낮추고 기획 업무에 집중할 수 있도록 돕는다.
공단은 서비스 도입에 앞서 사용자 교육과 사전 테스트를 진행했다. 만족도 조사에서는 응답자의 82.2%가 업무 효율성 향상에 긍정적으로 평가했고, 평균 29.6분의 업무시간 단축 효과가 있는 것으로 나타났다.
김희중 이사장은 “생성형 AI 기반 서비스는 직원의 일상 업무를 지원해 업무 효율성을 높이고 보안성과 신뢰성을 동시에 확보한 것이 특징”이라며 “공공기관의 AI 기반 업무 혁신을 지속적으로 추진하겠다”고 말했다.