우리나라를 포함해 전세계가 인공지능의 실사용이 크게 늘어나면서 기존 생활행태에 급격한 변화와 파장을 일으키고 있다. 인공지능의 발전 수준이 개별 인간의 지적 기능을 넘어서면서 인간의 통제 범위 안에서 인간을 이롭게 하는 도구만으로 활용될 것인지, 인공지능의 미래발전 모습에 대한 의문과 불안감은 커지가고 있다. 관련해서 아산사회복지재단이 5월 28일 개최한 ‘AI 시대의 사회복지 혁신’ 심포지엄에서는 인공지능(AI)이 사회복지의 효율성을 높이는 새로운 도구가 될 수 있다는 기대와 함께 인간 중심 복지체계를 약화시킬 수 있다는 우려가 동시에 제기됐다. 특히 이번 심포지엄에서는 황광선 가천대 교수, 김현정 동아대 교수, 오영삼 국립부경대 교수가 각각 윤리·복지행정·노동 대체 가능성 측면에서 AI 복지의 현황과 과제를 발표했다. 김형용 동국대 교수, 김수영 서울대 교수, 진효진 경상국립대 교수, 오선정 전남대 교수 등도 토론자로 참여해 보완 의견을 제시했다. 정몽준 아산재단 이사장은 인사말을 통해 "사회복지 분야에서 AI 의 활용이 확대될수록 사람사이의 공감과 관계 형성, 윤리적 판단은 더욱 중요해 진다"며 "고도화 된 AI를 활용하는 과정에서도 인간 존엄이라는 방향을 잃지 말아야 한다"고 말했다.

이날 ‘AI 시대의 사회복지 혁신’ 심포지엄에 참석한 발표자와 토론자들은 AI가 사회복지 현장의 접근성과 행정 효율을 높일 가능성을 인정하면서도 “복지의 본질은 인간관계와 책임”이라는 점을 잊어서는 안된다고 강조했다.

◆AI가 결정권 자체를 장악해서는 안돼 = 황광선 교수는 “AI는 더 이상 미래 기술이 아니라 사회복지의 운영 인프라”라고 규정했다. 그는 미국의 아동학대 예측 시스템(AFST), 정신건강 챗봇, 네덜란드의 복지감시 시스템(SyRI), 호주의 로보데트(Robodebt) 사례를 통해 AI가 복지 영역에서 이미 광범위하게 사용되고 있다고 설명했다.

그러나 황 교수는 AI가 잘못 설계될 경우 자동화 복지(Automated Welfare)로 변질될 수 있다고 경고했다. 그는 AI가 인간의 판단을 보조하는 증강지능(Augmented Intelligence)으로 작동해야지, 결정권 자체를 장악해서는 안된다고 강조했다. 특히 알고리즘이 복지 대상자를 위험군으로 분류하고, 공무원이나 사회복지사가 단순히 이를 추인하는 구조가 형성될 경우, 사회복지의 윤리와 전문성이 훼손될 수 있다고 지적했다.

황 교수는 AI 복지의 핵심 위험으로 △의심을 기본값으로 삼는 행정 △감시의 확장 △사회복지사의 탈숙련화 △인간 돌봄의 상업적 대체 △정책의 불투명성 등 5가지를 제시했다. 특히 호주의 Robodebt 사례에 대해 “단기적으로는 비용 절감처럼 보였지만 결국 자살과 외상, 국가 신뢰 붕괴라는 사회적 비용으로 귀결됐다”고 평가했다.

한국 사례에 대해서도 비판은 이어졌다. 황 교수는 정부의 ‘복지 사각지대 발굴 시스템’이 44종 이상의 데이터를 결합해 위기가구를 선별하고 있지만, 실제 사망사고의 상당수가 이미 시스템에 포착됐던 가구에서 발생했다는 점을 지적했다. 그는 “AI로 찾아내도 현장 인력과 제도가 부족하면 문제는 해결되지 않는다”며 “찾기(find)가 만나기(meet)를 대체할 수는 없다”고 말했다.

토론에 나선 김형용 교수는 이번 심포지엄의 핵심 쟁점을 “AI 기술 자체가 아니라 그것이 실제 사회문제 해결에 어떤 방식으로 기여하느냐”에 둬야 한다고 지적한다.

황 교수가 제시한 ‘증강지능’과 ‘자동화 복지’의 구분은 의미 있는 문제의식이지만 실제 정책 현장에서는 효율성과 비용 절감 논리가 더 강하게 작동할 가능성이 크다는 점을 우려한다. 특히 호주의 Robodebt, 네덜란드 SyRI 사례처럼 복지행정이 ‘의심을 기본값’으로 삼기 시작할 경우, AI는 취약계층을 지원하는 도구가 아니라 감시와 배제의 장치로 전환될 수 있다는 것이다.

김형용 교수는 한국의 ‘복지 사각지대 발굴 시스템’ 역시 동일한 위험 구조를 갖고 있다고 본다. 발표자료에서 제시된 것처럼 44종 이상의 데이터를 결합해 위기가구를 탐지하고 있다. 하지만 실제 사망사고의 상당수가 이미 시스템에 포착됐던 가구에서 발생했다는 점은 AI 탐지 자체가 문제 해결을 보장하지 못함을 보여준다.

이는 결국 사회복지 인력과 지역 돌봄 체계가 충분히 뒷받침되지 않는 상태에서 AI만 확대될 경우, ‘발굴 후 방치’라는 새로운 형태의 행정 실패가 반복될 수 있음을 의미한다. 따라서 그는 “AI의 성패 기준은 처리 속도나 행정 효율이 아니라, 실제 삶의 회복과 사회적 신뢰 증진이어야 한다”고 강조한다.

특히 황 교수가 언급한 정신건강 챗봇 사례에 대해 김수영 서울대 교수는 “공감의 언어와 공감의 행위는 다르다”는 점을 더욱 강조한다. AI 챗봇은 이용자 접근성을 높일 수 있지만 그것이 실제 인간적 돌봄의 확충 없이 운영될 경우 사회복지 서비스의 ‘저비용 대체재’로 활용될 위험이 크다는 것이다. 결국 AI 기술이 확대될수록 오히려 인간 사회복지사의 역할과 책임은 더욱 중요해질 가능성이 있으며 사회복지 정책 역시 인간 관계 기반의 돌봄 체계를 유지하는 방향으로 설계되어야 한다고 주장한다.

진효진 경상국립대 교수는 기술적 측면에서 발표자들의 논의가 다소 ‘AI의 가능성’ 또는 ‘윤리적 위험’에 집중돼 있다. 하지만 실제는 데이터 품질과 시스템 설계 구조가 결과를 결정한다는 점을 강조한다.

그는 황 교수가 지적한 알고리즘 편향 문제에 대해 단순히 기술의 오류라기보다 데이터 자체에 기존 사회구조의 차별과 불평등이 내재돼 있기 때문이라고 설명한다. 예컨대 미국 AFST 사례에서 빈곤층과 소수인종이 더 자주 위험군으로 분류된 것은 알고리즘의 악의 때문이 아니라 기존 행정 데이터가 이미 특정 계층을 더 많이 가시화하고 있었기 때문이다.

◆기술도입보다 사회적 합의와 책임이 중요 = 김현정 교수는 AI와 데이터 통합이 복지행정의 효율성을 높일 수 있다는 점에 주목했다. 그는 에스토니아와 영국 사례를 비교하면서 디지털 기반 복지행정이 국민 편의성과 행정 속도를 크게 개선했다고 설명했다.

김현정 교수에 따르면 에스토니아는 '정부 디지털네트워크' X-Road와 '한번만 정의되는 것은 반복해서는 안된다'라는 Once-Only 원칙을 기반으로 99%의 공공서비스를 온라인으로 처리하고 있으며 출생·실업·질병·은퇴 등 생애주기별 복지 서비스를 AI와 데이터 기반으로 자동 연계하고 있다. 국민이 한 번 제출한 정보는 국가가 반복 요구하지 않으며 정부가 필요한 서비스를 선제적으로 제안하는 ‘사전 예방’ 체계를 구축했다.

그는 특히 “디지털 행정의 다음 단계는 AI가 행정 대리인으로 작동하는 ‘Agentic State(자율적 의사결정과 행동하는 AI시스템)”라고 소개했다. 이는 단순 자동화를 넘어 AI가 국민 상황을 분석하고 적절한 서비스를 연결하는 단계라는 설명이다.

하지만 김현정 교수 역시 영국 사례에서는 신중론을 제기했다. 영국은 ‘어려움 겪는 가족 지원(TFP)’를 통해 복지·교육·보건·치안 데이터를 통합해 고위험 가구를 조기 지원했지만 낙인효과와 개인정보 침해 논란이 발생했다. 이후 영국은 다기관 데이터 공유협약과 성과기반 구조를 통해 통제와 책임성을 강화했다고 설명했다.

김현정 교수는 한국형 모델로 △법적 상호운용성 확보 △데이터 성숙도 및 거버넌스 체계 구축 △인간 중심 AI(Human-in-the-loop) 설계 등을 제안했다. 그는 “기술 중심 도입보다 중요한 것은 사회적 합의와 책임 체계”라고 강조했다.

진 교수는 김현정 교수가 소개한 에스토니아의 ‘Agentic State’ 모델에 대해서도 기술적 낙관론만으로 접근해서는 안된다고 지적한다. AI 기반 행정은 데이터 통합과 자동화 수준이 높아질수록 개인정보 침해, 설명 가능성 부족, 책임 소재 불분명이라는 문제를 동시에 키울 수 있기 때문이다.

특히 복지 분야는 의료·소득·가족·정신건강 정보처럼 민감한 데이터가 집중되는 영역인 만큼, 단순한 행정 효율성보다 ‘설명 가능한 AI’와 독립적 감시 체계가 우선 구축돼야 한다고 본다. 그는 “AI의 정확도만 높인다고 공정성이 확보되는 것은 아니다”라고 강조한다.

오선정 전남대 교수는 이번 발표들이 공통적으로 AI 활용 가능성과 위험을 동시에 제시하고 있지만 궁극적으로 중요한 것은 인간 사회의 책임 의식과 윤리적 통제라고 지적한다. 그는 AI 기술이 발전할수록 오히려 사회복지 현장에서는 인간의 윤리적 판단과 공공성에 대한 요구가 더욱 커질 것이라고 본다.

특히 김현정 교수가 제시한 데이터 통합 기반 복지행정 모델은 행정 효율성 측면에서는 매우 매력적이지만 국가가 개인의 삶을 지나치게 세밀하게 추적·관리하는 체계로 발전할 가능성 역시 존재한다고 우려한다. 영국 TFP 사례에서 나타난 낙인효과와 개인정보 논란은 단순한 시행착오가 아니라, 데이터 기반 복지국가가 구조적으로 안고 있는 위험이라는 것이다.

◆인간의 존엄, 사회적 연대 강화가 관건 = 오영삼 교수는 보다 근본적인 질문을 던졌다. 'AI는 사회복지를 어디까지 대체할 수 있는가'라는 주제 아래 그는 사회복지사의 업무를 과업 단위로 분석했다.

오영삼 교수는 반복적·규칙 기반 업무는 AI 대체 가능성이 높지만 창의성·판단·관계 형성이 필요한 비반복 업무는 자동화가 어렵다고 설명했다. 특히 사회복지사는 △공감과 상담 △현장 판단△복합적 사례 조정 능력이 핵심이기 때문에 완전 대체는 어렵다고 분석했다.

그는 “AI는 직무 전체를 대체하기보다 과업 일부를 침식하는 방식으로 영향을 미칠 가능성이 높다”고 설명했다. △행정 문서 작성 △사례 분류 △정보 탐색 등은 AI가 빠르게 수행할 수 있다. 하지만 위기 개입과 관계 형성은 여전히 인간의 몫이라는 것이다.

실제 사회복지사들을 대상으로 한 조사에서도 AI의 업무 지원 가능성은 인정하면서도 인간 중심 실천의 중요성을 유지해야 한다는 의견이 우세했던 것으로 나타났다.

김수영 서울대 교수는 오영삼 교수가 제기한 ‘AI의 사회복지 대체 가능성’ 논의가 지나치게 기능주의적으로 접근될 위험이 있다고 지적한다. 반복적 업무와 규칙 기반 행정은 AI가 대체할 수 있다는 분석 자체에는 동의하지만 사회복지의 본질은 단순 업무의 수행이 아니라 인간 관계 속에서 형성되는 공감·신뢰·책임에 있다는 것이다. 그는 AI가 문서 작성이나 사례 분류를 대신할 수는 있어도, 위기 상황에서의 감정적 지지와 관계 형성, 현장 맥락에 대한 직관적 판단까지 대체할 수는 없다고 본다.

오선정 교수는 또한 오영삼 교수의 발표와 관련해 “AI가 사회복지를 어디까지 대체할 수 있는가”라는 것보다 “인간은 어떤 사회복지를 끝까지 책임져야 하는가”라는 질문이 더 중요하다고 강조한다.

기술은 어디까지나 도구이며 인간의 돌봄 책임 자체를 외부화하거나 축소시키는 방향으로 사용돼서는 안 된다는 것이다. AI시대 사회복지의 핵심 과제는 기술 활용 여부가 아니라 인간 존엄과 사회적 연대를 어떻게 유지할 것인가에 있다는 점을 재확인해야 한다고 주장했다.

김규철 기자 gckim1026@naeil.com