금융의 디지털 전환이 빨라지면서 인공지능(AI) 편향과 오류 등 새로운 유형의 금융소비자 피해 위험이 커지고 있다. 금융당국은 소비자보호 담당 임원(CCO)의 역할 강화를 위해 주요 금융회사 CCO들을 소집했다.

21일 금융감독원은 이종오 디지털·IT부문 부원장보 주재로 은행·증권·보험 등 업권별 10개 금융회사 CCO들과 ‘디지털금융 이용자 보호를 위한 간담회’를 개최했다.

이 부원장보는 “디지털환경에서 빈발하는 IT사고 등에 따른 위험요인을 점검하고 사후적인 피해구제는 물론, 사전예방을 위해 서비스개발단계부터 이용자보호에 문제가 없도록 능동적으로 노력해달라”고 말했다.

금감원은 최근 디지털금융 위험 요인으로 △AI 편향·오류위험 △선택권제약등유도 △디지털디바이드·금융소외 △IT사고책임불명확·구제지연 등을 제시했다.

AI 편향·오류위험은 AI산출결과에 대한 낮은설명가능성, 데이터 편향으로 인한 공정성 저하 및 오류 발생에 따른 신뢰성 훼손위험이 있다고 지적했다. 예를 들어 카드 한도를 산출하는 AI모델 개발시, 학습 데이터에 성별·직업 등에 따른 편향으로 금융서비스 운영 과정에서 차별적 결과가 발생할 위험이 있다.

외국 항공사에서는 챗봇 서비스가 고객에게 사실과 다른 환불 정책을 안내해 고객이 소송을 제기했으며 법원은 항공사에게 책임이 있다고 판결한 사례가 있다.

또 알고리즘 기반 상품추천, 서비스 동의, 챗봇 상담 등의 과정에서 이해상충, 인지상 한계 등으로 이용자 선택권을 제한하거나 착오를 유도할 수 있다는 점을 경고했다. 온라인 대출상품 판매중개업자가 대출상품 비교·추천 과정에서 이용자 금리보다 자사 수수료 수입에 유리한 상품을 우선 추천하도록 설계할 수 있다는 것이다.

금감원은 금융서비스 생애주기별로 AI알고리즘 도입시 이용자에게 미칠 영향(위험)을 사전 평가해 위험요인을 점검하고, AI로 인한 피해 발생 등에 대한 취소·보상 근거를 마련하는 등의 이용자보호방안을 밝혔다. IT사고 발생시 기술적 복구 외에도 이용자 통지 절차·대체 수단 마련, 집단민원및서비스적시 대응, 합리적인 피해보상 기준·절차 수립 등 이용자 중심의 사고대응 체계를 마련하고 관련 사항을 전면 재점검할 것을 주문했다.

이 부원장보는 “디지털·AI 혁신을 통해 금융의 생산성과 편익이 제고된 것은 사실이나, 이전에는 없던 새로운 이용자 불편 요인이 ‘성장통’으로 등장한 것도 부인할 수 없는 현실”이라며 “소비자보호 담당 임원이 회사 내에서 적극적인 조정자 역할을 담당해달라”고 당부했다.

금감원은 추가적인 이용자 권익 침해 요인을 발굴해 각 금융업권에 대해 적극적인 대응을 요청하기로 했다.

이경기 기자 cellin@naeil.com