인공지능 기술 발전과 변화가 놀라울 정도로 빨라지고 있는 가운데 새정부 들어 최근 국가인공지능전략위원회가 출범하고 각 부처에서 인공지능에 기반한 다양한 사업을 모색하고 있다. 인공지능 기술이 가장 많이 활용되는 공공 영역 가운데 하나가 사회보장이다. 국내에서도 위기 가구 발굴이나 일자리 소개와 관련해 인공지능 기술이 이미 활용되고 있다. 이러한 가운데 보건복지부 2026년 예산에는 AI 기반 복지·돌봄 분야 혁신을 위한 투자가 대폭 강화되었다. AI 복지상담 및 위기감지, 돌봄 수요자의 집 또는 사회복지시설에 AI를 접목하는 등의 시범사업 예산 59억원, 복지·돌봄 분야의 AI 응용제품의 신속한 상용화를 지원하는 사업 예산 300억원 등이 신규로 들어갔다. 복지부는 2026년 확보한 예산을 마중물로 삼아 복지·돌봄 분야에서 국민이 체감할 수 있는 성과를 조기에 도출할 계획이다. 또한 내년 상반기 AI 복지·돌봄 혁신 로드맵 을 마련하여 발표할 예정이다. 사회보장 영역에서 국내외 인공지능 기술 적용되는 현황을 살펴보고 인공지능이 가진 순기능과 위험성을 가려 안정적으로 활용될 수 있도록 사회적 논의와 연구가 활성화되어야 한다는 지적이 나온다.

우리나라 공공영역의 디지털기술, 인공지능기술 도입은 빠르다. 반면 관련 개인정보 등 법적 쟁점에 대한 사회적 논의와 규제 형성 과정은 더디다는 게 대체적인 평가다. 인공지능의 안정적인 이용과 산업적 확산을 위해 제대로 된 규제가 필요하다는 지적이 따른다.

23일 김기태 한국보건사회연구원 사회보장정책연구실 연구위원에 따르면 인공지능 기술의 순기능으로는 △행정 효율성 제고 △급여의 적시성과 정확성 향상 △사각지대 해소 △개인 맞춤형 서비스 제공 △정책 평가 기반 마련 등이 있다. 반면 △개인정보 침해 △데이터 편향 △알고리즘 결정의 불투명성 △영리적 정보 활용 가능성 △설명 불가능성 등은 중요한 위험 요소로 지적된다.

김 연구위원은 “사회보장 행정에서 인공지능 기술을 적용할 때의 거버넌스는 ‘인간 중심적 활용’이라는 원칙 아래 민주적 통제, 시민참여, 프라이버시 보장을 전제로 삼아야 한다”고 밝혔다. 이어 “적극적 사회권 보호라는 원칙 아래 ‘사각지대 해소’ ‘행정 효율성 제고’ ‘급여 지급의 정확성과 적시성 보장’ 등을 추구해야 한다”고 강조했다.

◆국내외 사회보장 영역서 이미 활용 중 = 국내외 인공지능 활용 양태를 살펴보면 사회보장 영역에서 인공지능이 다양하게 활용되고 있는 것을 볼 수 있다.

우선 본인인증 부분이다. 본인 인증은 급여 신청, 자격심사, 지급 과정에 반드시 필요하다. 우리나라는 지문 얼굴 정보가 포함된 주민등록 데이터 기반으로 매우 수준 높은 본인인증체계를 갖추고 있어 굳이 인공지능 기술까지 필요하지 않을 수 있다.

자격심사 영역에서 활용된다. 캐나다 온타리오주에서는 2014년부터 사회부조 운영시스템을 통해 급여 자격을 심사하고 있다. 빅데이터와 인공지능을 통해 급여 자격 심사를 빠르고 정확하게 처리할 여지가 생긴다.

복지급여액 산정과 지급 영역이 있다. 다수 국가에 점점 더 많은 복지급여액이 사람의 개입 없이 자동적으로 산정되고 지급되고 있다. 영국은 실시간 소득정보시스템을 활용해 복지급여를 지급하고 있다. 부정·오류 수급 예방 및 탐색 영역이다. 많은 복지국가에서 디지털 자료를 활용하는 이유 중 하나가 부정 오류 예방 및 탐색에 있다.

위험의 점수화 및 범주화 부분이 있다. 데이터 자료의 수집과 빅데이터 분석 결과를 바탕으로 개인에게 일정한 점수를 부여하거나 일정한 범주를 부여하는 과정을 가리킨다. 여기서 고위험 대상자도 걸러낸다. 우리나라 사각지대 발굴 관리 시스템이 여기에 해당된다.

개인맞춤형 정보 서비스 영역이다. 남미 지역에서 활성화한 챗봇이 대표 사례다. 우리나라 인공지능 활용 초기상담시스템도 여기에 해당된다. 오스트리아 사회보험연합은 청구 자동 처리를 지원하고 의사와 매칭하는 인공지능 기반 시스템을 구현했다.

온라인을 활용한 소통을 넘어 실제 돌봄 영역에서도 활용되고 있다. 국내에서는 노인을 위한 인공지능과 사물인터넷을 활용한 건강 서비스, 생체 건강 셀프체크 서비스, 안전감지 센서를 활용한 안전 확인 서비스, 실종 방지를 위한 위치 기반 모니터링 서비스 등이다. 여가 활용에 도움되는 정보 제공도 이뤄진다.

사회보장 행정기관 내부적인 용도로 업무 담당자의 효율적 업무 처리를 돕고 내부 교육 등 용도로도 활용될 수 있다. 나아가 사회정책의 효율성과 효과성을 평가하는데 활용될 수 있다.

◆행정사무 단순화, 24시간 상담 가능 = 사회보장 영역에서 폭넓게 활용되는 인공지능 기술 적용이 불러올 효과는 양면적으로 평가된다. 먼저 인공지능이 공공의 민주적 통제 아래 작동할 경우를 전제로 할 때 기대되는 순기능에서는 먼저 효율성이 있다. 본인 인증, 자격심사, 복지급여액 산정 및 지급 등 일선 서류 행정이 더욱 자동화하게 된다. 적은 인력으로 더 많은 행정 업무가 가능해진다. 일선 공무원은 민원인에게 대면서비스나 사례관리에 집중 할 수 있다.

적시성이 있다. 빅데이터를 활용해 관리되는 인공지능 기술은 급여 신청과 심사, 지급에 이르는 과정을 단순화 할 수 있다. 영국의 경우 통합급여를 도입하는 과정에서 실시간 소득파악 시스템을 활용해 급여 지급 절차를 간소화했다.

정확성이 있다. 빅데이터에 근거한 인공지능의 판단, 범주화, 에측은 인간의 오류와 편견이 개입할 가능성을 줄일 수 있다. 영국의 경우 연금을 제외한 복지급여액 가운데 오류 또는 부정으로 인해 초과 지급된 액수가 2021~2022년 회계연도 기준 약 12조7000억원으로 추정됐다.

개인 맞춤형 급여 및 서비스 제공이 있다. 우리나라 인공지능 기반 일자리 매칭 서비스가 대표적이다. 구직자의 이력서 정보와 구인기업의 구인 정보를 활용해 인공지능 알고리즘에 기반한 추천 서비스를 제공하고 기업과 구직자 간 일자리 미스매치를 해소한다.

범용성이다. 챗봇을 통한 상담은 국민입장에선 시공간의 제약을 뛰어넘어 제도에 접근할 수 있는 기반을 제시한다. 주민센터 직접 방문 없어도 급여 상담과 자격을 확인 할 수 있다. 정책평가가 쉽다. 평가를 위한 데이터 구축이 쉬워지면서 근거 기반 정책 평가, 평가 및 집행의 토대가 마련된다. 사각지대를 해소할 수 있다. 고질적인 사각지대 문제를 빠르게 해소할 수 있는 수단이 될 수 있다. 물론 발굴된 위기 가구를 지원할 급여가 없거나 부족한 점도 함께 고려해야 한다.

◆인공지능 판단, 개인 지원 결정 딜레마 = 빅데이터 활용을 기반으로 한 인공지능기술의 사회보장 영역에서 일어난 위험성도 크다. 우선 프라이버시 문제다. 복지급여 수급자들의 소득 재산 가족 정보뿐 아니라 일부 사례관리 정보까지 이미 방대하게 집적돼 있다. 공공기관을 넘나드는 개인정보의 유출 및 남용 가능성도 완전히 배제할 수는 없다. 또 국가 권력에 의한 데이터 남용 가능성도 고려해야 한다.

부정확성 문제가 있다. 사망 및 출생 신고가 반영되지 않거나 과거 소득이 현재 소득과 합산돼 제시되는 등 문제가 계속 발생하고 있다. 사회보장 행정에서 관리하는 데이터와 알고리즘의 질 관리가 필요하다.

데이터 소유권 문제가 있다. 국가는 정보 제공자의 의도와는 상관없이 이들이 제공한 정보를 보유할 뿐만 아니라 향후 해당 정보의 활용, 분배, 처분에 관한 권한을 얻게 되는 상황으로 프라이버시와 함께 중요 문제로 부상될 수 있다.

개인정보의 영리 목적 활용 문제가 있다. 건강보험 개인정보에 대한 접근권을 민간기업은 계속 요구하고 있다.

알고리즘 결정에 근거한 개입 문제다. 덴마크는 취약아동 포착을 위해 실업 및 의료 등 데이터를 결합해 200개 이상의 위험지표를 분석하는 머신러닝 모델을 갖췄다. 모델이 위험 신호를 보내는 가구에 대해 부모 동의 없이 개입이 가능하도록 했다. 이후 모델의 신뢰성에 의문이 제기되면서 2018년 12월 중단됐다.

우리나라도 2023년부터 44종 위기정보에 근거해 위기가구에 대해 경찰 소방협력을 통해 해당 가구의 문을 열 수 있는 지침을 마련했다. 인공지능의 판단에 따라 국가가 어디까지 개인의 삶에 개입할 수 있는가라는 문제가 생긴다.

인공지능의 ‘설명 불가능성’ 문제가 있다. 인공지능이 어떤 기준과 원칙에 따라 작동하는지 사람들이 이해할 수 있어야 한다. 인공지능이 고도화할수록 설명 가능성은 떨어진다. 사회보장 행정에서는 특히 아동 노인 장애인 빈곤층 등 취약계층에 대한 차별적 결정이 이뤄질 가능성도 염두에 둬야 한다.

◆기본권 보호와 산업 증진 균형 잡아야 = 이러한 인공지능이 사회보장 영역에 미치는 순기능과 위험성을 고려해 리스크 가능성을 규제하고 편의를 증진할 필요가 있다.

국제사회에서 인공지능에 대한 대표적인 규제 사례에 해당하는 유럽연합과 미국 행정명령14110도 인공지능에 대한 규제와 지원 사이에서 일정한 균형을 갖췄다.

지나친 규제에 편중됐다고 지적받는 유럽연합 인공지능법에도 “이 규정은 공종행정이 준수되고 안전한 인공지능 시스템의 광범위한 사용을 통해 이익을 얻을 수 있도록 혁신적인 접근 방식의 개발과 사용을 저해해서는 안된다”고 밝혔다. 산업발전에 치우친 미국 행정명령도 “보건복지부는 급여 및 서비스를 시행할 때 자동화 또는 알고리즘 시스템의 사용을 촉진하는 계획을 행정명령 시점 기준으로 180일 이내 발표해야 한다”고 규정했다.

하지만 우리나라 인공지능기본법에서는 사회보장 영역에서의 인공지능 기술적용을 촉진하거나 규제하는 내용이 반영되지 않았다. 김 연구위원은 빅데이터와 인공지능의 사회보장 영역 적용을 촉진하고 부작용을 선제적으로 예방하기 위해 정책이 필요하다고 강조했다.

사회보장 정보에 활용되는 데이터 품질을 개선하기 위한 노력이 필요하다. 쓰레기 데이터가 쓰레기 출력값을 산출하는 문제를 해소해야 한다. 이를 위한 공적 데이터를 관리하는 기관의 인적, 행정적 인프라 개선 및 확충이 필요하다.

이어 사회보장 영역에서 데이터 통합, 연계, 관리를 위한 노력이 필요하다. 우리나라는 데이터 연계과정에서 주민등록번호를 결합키 생성에 사용하지 못하도록 법적으로 막고 있다. 북유럽 미국 영국 캐나다에서 행정 자료 구축과 공개, 연계에 적극적인 점을 참고할 필요가 있다. 이어 데이터 구축, 연계, 활용 과정에서 데이터 보안 및 안전에 대한 엄격한 기준 설정이 반드시 필요하다. 소득 재산 건강 가족 등 개인정보가 결합될수록 데이터 유출에 따른 충격은 커질 수 밖에 없다.

다양한 기관이 집적한 정보들의 표준화와 단순화가 필요하다. 사회보장정보시스템의 많은 데이터가 제대로 활용되고 않고 있다.

나아가 정부 부처에서 특히 사회보장 영역에서는 보건복지부에 인공지능 관련 조직과 인력을 신설 배치하는 것을 검토할 필요가 있다.

김 연구위원은 “데이터를 활용한 복지행정에서의 오류 혹은 사고는 한번만 발생해도 충격이 크다”며 “인공지능 진흥과 규제 사이에서 균형을 잘 잡아야 한다”고 강조했다.

양승업 한국노동연구원 사회정책연구본부 부연구위원은 “개인정보 보호적 측면과 복지 사각지대의 수급자 발굴이라는 공익적 측면의 조화가 이뤄지도록 인공지능기본법의 시행령과 지침에 규범적 근거를 마련해야 한다”고 밝혔다.

김규철 기자 gckim1026@naeil.com