중앙선거관리위원회. 연합뉴스

중앙선거관리위원회는 9일 인공지능(AI)으로 제작한 허위 영상물(딥페이크 영상)을 SNS에 올린 입후보예정자 A씨를 공직선거법 위반 혐의로 울산 남구선관위가 경찰에 고발했다고 밝혔다.

선관위에 따르면 A씨는 ‘외국의 유명 시사 주간지에서 ○○의 발전을 이끌 인물로 A를 선정했다’ 등 허위의 딥페이크 영상을 제작한 후 AI로 제작한 사실을 영상에 표시하지 않고 개인 SNS에 게시·유포한 의혹을 받는다.

이번 고발 건은 딥페이크 영상 등을 이용해 허위사실을 공표하는 행위를 가중 처벌하는 규정이 2023년 12월 28일 신설된 후 최초로 고발한 사례다.

공직선거법에 따르면 딥페이크 영상임을 표시하지 않은 채 당선 목적으로 후보자나 예비후보자에게 유리한 허위사실을 공표하면 5년 이하의 징역 또는 5000만 원 이하의 벌금을 받을 수 있다.

또한 공직선거법상 누구든지 선거일 90일 전(3월 4일)까지 선거운동을 위해 실제와 구분하기 어려운 가상의 음향·이미지·영상을 활용하는 경우 AI로 만든 가상의 정보라는 사실을 표시해야 한다. 이에 따라 선관위는 고발 조치와 별도로 해당 영상에 AI 생성물임을 표시하지 않은 행위에 대해 A씨에게 500만원의 과태료를 부과했다.

선관위는 “지방선거를 앞두고 위법한 딥페이크 영상 등의 확산을 차단하기 위해 ‘딥페이크 등 허위사실공표·비방 특별대응팀’을 운영하고 있다”며 “앞으로도 유권자의 올바른 판단을 저해하고 선거의 공정성을 훼손하는 딥페이크 영상 등 유포자에 대해 강력히 대응할 방침”이라고 밝혔다.