국힘 김승수 국회의원(대구 북구을,사진)이 딥페이크 영상, 음향 등 인공지능(AI) 기술을 이용해 만든 거짓 정보에 대해 온라인 게재 시 워터마크(식별표시)를 의무화하는 내용의 '정보통신망 이용촉진 및 정보보호 등에 관한 법률'(이하 정보통신망법) 일부개정법률안을 대표발의 했다.

개정안 주요내용으로는 ▲정보통신망을 통해 공개되는 딥페이크 영상(음향·화상 포함)의 워터마크 표시를 의무화하고 ▲이를 지키지 않을 시 1000만 원 이하의 과태료를 부과하도록 하는 한편 ▲해당 영상을 삭제할 수 있도록 하는 조항이 담겼다.

이번 개정안은 최근 인공지능 기술의 급격한 발전과 활발한 활용에 따라 온라인 상에서 AI기술을 이용한 거짓의 음향·화상 또는 영상 등의 정보가 빈번하게 유통되며 어떠한 정보가 딥페이크로 인한 거짓의 정보인지 혼란을 초래하고 있을 뿐 아니라 당사자도 모른 채 자신의 얼굴과 음성이 성적 허위영상물, 금융사기와 같은 범죄에 악용되고 있는 것에 대한 조치로 마련됐다.

'성폭력처벌법' 제14조의2(허위영상물 등의 반포등)에 따라 딥페이크 성적 허위영상물에 대한 차단·삭제 조치 등을 시행하고 있는 방송통신심의위원회 처리 건수는 해당 법이 시행된 2020년 473건에서 2021년 1913건, 2022년 3574건, 2023년 5996건으로 매년 급격히 증가하고 있다.

김승수 의원은 “인공지능 기술의 발전과 함께 이를 악용하는 범죄와 피해사례가 지속적으로 증가하고 하고 있다”며, “인공지능 기술을 활용한 거짓 영상에 대한 식별표시를 의무화할 경우, 건전한 인공지능 기술 활용 문화의 정착과 피해 감소에 큰 도움될 것으로 기대한다”고 말했다.