생성형 인공지능(AI)이나 고영향 AI에 대해서는 이용자에 대한 사전고지와 AI를 활용한 결과물임을 워터마크 등으로 표시하는 것이 의무화된다. 다만 사업자 내부 업무용이나 생성형·고영향AI 기반이 명백한 경우 표시 의무가 면제된다.

과학기술정보통신부는 8일 이 같은 내용이 포함된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법) 시행령 초안을 공개했다. AI기본법은 우리나라가 유럽연합(EU)에 이어 세계 두번째로 제정한 AI관련 법안이다. 내년 1월 시행을 앞두고 있다.

정부는 AI 결과물 고지와 관련해 약관 사용자환경(UI) 등을 통한 사전 고지와 함께 사람 눈에 보이지 않지만 기계가 AI 생성물임을 자동으로 알아차리는 비가시적 워터마크도 표식으로 인정하기로 했다.

딥페이크 결과물에 대해선 연령이나 장애 여부 등 이용자의 신체적 조건을 고려해 딥페이크임을 표시하도록 했다. 시행령은 안정성 확보 대상인 고성능 AI 모델을 아직 국내외에 존재하지 않는 거대 규모인 10의 26제곱 플롭스 이상(누적 연산량 기준)으로 사람의 생명, 신체의 안전, 기본권에 광범위하고 중대한 영향을 미칠 수 있는 AI 시스템으로 규정했다.

시행령은 AI 제품이나 서비스를 제공할 경우 기본권에 미치는 영향 평가를 사업자가 자율적으로 할 수 있도록 했다.

AI 사전 고지를 이행하지 않거나 일정 기준 이상인 해외사업자가 국내 대리인을 지정하지 않았을 경우, 또는 AI 기본법 위반에 따른 시정 명령을 따르지 않았을 때 3000만원 이하의 과태료가 부과된다.

정부는 AI 산업 육성을 목표로 R&D, 데이터 구축, AI 도입·활용 등에서 정부 지원의 근거 규정을 AI 기본법에 마련했다.

고성수 기자 ssgo@naeil.com