AI 기술 안전성, 신뢰·윤리 확보 추진

2024-05-21 13:00:17 게재

‘새로운 디지털 질서 정립 추진계획’ … AI 생성물 워터마크 표시 의무화

정부가 인공지능(AI) 등 디지털 기술이 가져오고 있는 변화에 대응하기 위해 ‘새로운 디지털 질서’ 정립을 추진한다.

과학기술정보통신부는 21일 제22회 국무회의에서 관계부처 합동으로 마련한 ‘새로운 디지털 질서 정립 추진계획’을 보고했다.

과기정통부에 따르면 이번 추진계획은 정부가 지난해 9월 수립한 ‘디지털 권리장전’을 구체적인 정책으로 구현하기 위한 범부처 계획이다. 디지털 심화시대의 새로운 질서를 정립하고 디지털 심화 쟁점을 신속히 해결하기 위해 마련했다

과기정통부 관계자는 “인류는 인공지능 등 디지털 기술이 우리의 삶은 물론이고 경제 사회 문화 등 전 영역에 있어서 구조적 변화를 만들어내는 디지털 심화시대를 마주하고 있다”며 “디지털 심화시대에는 딥페이크 가짜뉴스, AI 관련 저작권 제도 정비 등 다양한 쟁점이 발생하며 기존 질서와의 충돌이 발생한다”고 지적했다. 이에 따라 “디지털 심화시대에 맞는 디지털 규범으로 ‘새로운 디지털 질서’를 정립할 필요가 있다”는 설명이디.

정부는 이번 추진계획에 디지털 권리장전의 철학과 5대 원칙(자유 공정 안전 혁신 연대)을 토대로 52개의 쟁점을 해소하기 위한 20대 정책과제를 담았다. 특히 20대 정책과제 중 국민 관심사가 크거나 파급성·시급성이 높은 정책과제 8개는 핵심과제로 지정해 가시적 성과 창출을 위해 집중관리 할 계획이다.

8대 핵심과제로는 전문가 자문과 관계부처 협의를 거쳐 △AI 기술의 안전성 및 신뢰·윤리 확보 △딥페이크를 활용한 가짜뉴스 대응 △AI 개발·활용 관련 저작권 제도 정비 △디지털 재난 및 사이버 위협·범죄 대응 △디지털 접근성 제고·대체 수단 확보 △비대면 진료의 안정적 시행 △연결되지 않을 권리 보호 △잊힐 권리 보장을 지정했다.

8대 핵심과제 추진계획을 구체적으로 살펴보면 AI 기술 안전성 및 신뢰·윤리 확보 방안으로는 우선 AI 혁신과 안전·신뢰(이용자 보호 등)의 균형을 위한 법제 제정을 연내 마무리한다는 계획이다. 또 AI 안전성을 검증·연구하는 전담조직도 설치해 아태지역의 AI 안전허브로 육성할 예정이다.

딥페이크를 활용한 가짜뉴스 대응을 위한 방안으로는 관련 법령 제·개정을 통해 AI 생성물의 워터마크 표시를 의무화하고 딥페이크 탐지·식별 기술 개발 등을 통해 딥페이크 가짜뉴스 생성·유통·확산 전주기 대응체계를 구축해나갈 계획이다.

AI 개발·활용 관련 저작권 제도 정비를 위해 ‘AI 학습 이용 저작물에 대한 적정이용 대가 산정방안’ 등 연구결과를 종합해 올해말까지 ‘저작권법’ 등 저작권 제도 정비방안을 마련한다.

고도화·지능화되는 디지털 위협에 대비하기 위한 국가 대응체계 확충도 추진한다. 올해부터 ‘디지털서비스 안전법’ 제정을 추진하고 피싱·디지털성범죄 등 민생 사이버 범죄 대응체계를 정비한다.

디지털 접근성을 높이기 위한 방안으로는 소외계층을 대상으로 맞춤형 디지털 포용서비스 제공을 강화할 계획이다. 또 디지털 기기와 서비스에 익숙하지 않은 국민들을 위해 행정·금융 등 필수영역에서 디지털 대체 수단을 확대할 예정이다.

구체적인 방안으로는 △공무원이 주민을 찾아가 모바일로 보조금을 확인·신청하는 ‘찾아가는 보조금 24’ 활성화 △우체국 창구에서 은행업무 이용할 수 있는 은행 확대 등을 추진한다.

이 외에 정부는 아직 사회적 논의가 성숙되지 않았더라도 디지털 심화시대에 더욱 중요해질 수 있는 연결되지 않을 권리, 잊힐 권리와 같은 개인의 디지털 권리 향상을 위한 노력도 본격 추진해 나갈 계획이다.

고성수 기자 ssgo@naeil.com

고성수 기자 기사 더보기