LG유플러스가 인공지능(AI)을 기반으로 위변조된 목소리를 자동으로 차단할 수 있는 서비스를 선보였다.

LG유플러스는‘안티딥보이스’ 기술을 AI 통화 에이전트 서비스 ‘익시오’에 탑재해 상용화한다고 26일 밝혔다. 이 기술을 외부 서버가 아닌 스마트폰 자체에서 처리하는 온디바이스 형태로 상용화하는 것은 LG유플러스가 세계 최초다.

안티딥보이스는 AI가 위변조한 목소리를 판별하는 기술이다. 이 기술은 최근 위조한 목소리로 지인을 사칭하거나 인질극을 가장하는 등 AI를 활용한 보이스피싱 범죄가 늘고 있다는 점에서 큰 주목을 받고 있다.

LG유플러스는 안티딥보이스 기술을 개발하기 위해 AI 엔진에 약 3000시간 분량의 통화 데이터를 학습시켰다. 3000시간은 통화 건수로 약 200만건에 해당하는 양이다. 완성된 안티딥보이스는 위조된 목소리의 부자연스러운 발음을 찾아내거나 음성 주파수의 비정상적인 패턴을 탐지하는 등 과정을 통해 진위를 판별한다.

기술 개발에 이어 LG유플러스는 안티딥보이스를 ‘경량화’하는 작업에 집중했다. 익시오가 고객의 정보를 통신사 서버에 저장하지 않고 자신의 스마트폰에만 저장하는 ‘온디바이스 AI’ 방식으로 구현되기 때문에 경량화는 안티딥보이스 상용화에 핵심적인 역할을 한다. 익시오에 탑재된 안티딥보이스를 통해 고객은 개인정보 유출 우려 없이 AI 서비스를 이용할 수 있다.

안티딥보이스 기술은 익시오를 통해 통화중인 상대방의 목소리가 위변조됐다는 사실을 즉각적으로 판별한다. 목소리 위변조 여부를 판단하는데 필요한 통화 데이터는 약 5초 남짓이다. 통화 상대방의 목소리가 위변조 된 경우 익시오는 팝업 알림을 통해 고객에게 위험을 전달한다.

LG유플러스는 AI가 합성한 얼굴을 활용한 범죄 피해를 예방하기 위한 ‘안티딥페이크’ 기술도 개발했다. 이 기술은 영상이나 이미지를 분석해 합성된 영상에 남아있는 비자연적인 흔적을 탐지해 합성 여부를 판별한다.

앞으로 LG유플러스는 안티딥페이크 기술을 활용해 영상을 이용한 피싱 범죄를 차단하고 위변조된 유해 콘텐츠를 신속히 식별하는 등 고객의 안전을 보호할 계획이다.

LG유플러스는 익시오를 통해 통화 전•중•후 모든 과정에서 발생할 수 있는 보이스피싱 위험을 차단하기 위해 다양한 기술을 추가로 확보할 방침이다. 또 익시오를 ‘AI 안심 에이전트’로 발전시켜 나갈 예정이다.

우선 ‘통화 전 AI 보이스피싱 탐지 시스템’ 도입을 준비하고 있다. 이 기술은 보이스피싱으로 신고된 전화번호의 통화 패턴 등을 AI가 학습한 뒤 통화 시작 전에 보이스피싱 가능성이 높은 번호를 자동으로 탐지한다. 고객은 전화를 받기 전에 위험 여부를 실시간으로 확인할 수 있어 피해를 사전에 예방할 수 있다.

고성수 기자 ssgo@naeil.com