최근 경기도에서 1700만원 상당의 컴퓨터그래픽처리장치(GPU) 도난 사건이 벌어졌다. 대부분의 사람들은 절도품목이 귀금속이 아닌 컴퓨터 부품이라는 점에 주목했다. 정작 눈여겨봐야 할 대목은 그 범죄의 배후에 도사린 인공지능(AI)의 존재다.

놀랍게도 이 절도범의 주된 목적은 단순한 금전 탈취가 아니었다. 자신이 당한 ‘리딩방’ 사기 수사가 지지부진하자 어떻게 해야 경찰수사에 속도가 붙을지를 생성형 AI인 챗GPT에게 물었고 챗GPT는 “절도범행으로 얻은 돈을 사기계좌에 입금하면 경찰의 리딩방 피해 수사도 속도를 낼 것”이라고 조언했다. 절도범은 그 조언에 따라 범죄를 실행한 것이다.

생성형AI의 기발한 답변에 여기저기 감탄이 쏟아져 나왔지만 이 사건은 기술의 진보가 가져온 편리함이 범죄의 효율성을 높이는 도구로 전락할 수 있음을 단적으로 보여준 사례라는 점에서 적지 않은 충격을 던졌다.

일반적인 금융 및 제조기업은 더 나은 상품을 만들려고 매진하지만 보험업계는 상품개발 외에 가입, 보상 등 여러 절차를 고민해야 한다. 보험은 ‘정보의 비대칭성’을 기반으로 성립되는 산업이기에 가입부터 보상에 이르기까지 철저한 검증이 필수적이다.

AI시대가 본격화되면서 보험업계도 광범위하게 이를 활용하기 시작했다. 고객 상담 업무부터 자격을 갖추지 못한 가입자와의 계약을 가려내야 하는 가입 심사, 고객이 맡긴 보험료(자산)를 불려야 하는 자산운용, 고객이 요구하는 보험금 청구에 대한 심사 등등. 특히 보험사기나 보험금 부당청구 등 언더라이팅(심사) 역량 강화를 통해 보험금 누수를 막는 데 AI가 ‘천군만마’가 되어줄 것이라 기대했다.

일부 보험사 경영진은 보험금 청구가 접수되면 AI에게 보험사기인지 여부를 물어보면 답이 ‘척’하고 나올 것으로 생각했다. 하지만 이는 위험한 착각일 뿐이다. 많은 보험사들이 자기들만 AI를 활용할 것이라고 생각하지만 보험사기범 역시 AI를 활용할 가능성이 크기 때문이다.

보험금 청구에 앞서 가입자들은 ‘더 많은 보험금을 받기 위해 어떻게 해야 하지?’라고 AI에게 물을 테고, AI는 기상천외한 답을 내놓을 것이다. 실제로 생성형 AI는 기존의 보험금 지급 데이터와 약관을 학습해 심사의 허점을 찾아내거나, 심지어는 존재하지 않는 사고의 현장 사진과 진단서를 정교하게 위조하는 데 악용될 소지가 다분하다.

가입자가 AI의 조언을 받아 시나리오를 짜고 모럴헤저드(도덕적 해이)를 범할 때, 과연 현재 보험사의 AI 심사가 이를 완벽히 잡아낼 수 있을까. 기술의 속도전에서 사기범들이 한 발 앞서 나가는 순간 대다수 선량한 가입자가 낸 소중한 보험료는 눈 먼 돈으로 전락하고 만다.

오승완 재정금융팀 기자