주어진 텍스트만으로 영상을 만들어주는 등 생성형 인공지능(AI)이 비약적인 기술 발전을 이룬 가운데, 정치권에선 인공지능 기술로 인해 골치를 앓고 있다.
 |
| 벙송통신심의위원회 현판. 연합뉴스
|
최근 온라인 동영상 플랫폼에선 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 기술로 만든 윤석열 대통령 ‘사과 영상’이 화제다.
영상엔 ‘영상으로 꾸며본 윤대통 양심고백 연설’이라는 자막과 함께 윤석열 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙 부정부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 모두 딥페이크 기술로 만든 위조된 목소리와 영상이다.
경찰은 방통위에 영상 차단을 요청했고, 이에 방송통신심의위원회는 지난 23일 긴급 통신심의소위원회를 열고 해당 영상에 대한 차단 조치를 만장일치로 의결했다. 현재 영상은 찾아볼 수 없다.
해당 영상에서 딥페이크 기술로 만든 가짜 영상이라고 설명하고 있지만, 방심위는 “일반인들이 실제로 대통령이 관련 발언을 한 것으로 오인하게 할 우려가 더 큰 것으로 봤다”며 “신고 접수 하루 만에 긴급 차단 조치에 나서게 됐다”고 설명했다.
이어 조지호 서울경찰청장은 지난 26일 “영상을 올린 아이디로 개인을 특정하는 압수수색을 할 것”이라며 “영상을 올린 것으로 보이는 아이디를 확보했고, 당사자가 어떤 의도로 어떤 구체적 행위를 했는지 수사할 것”이라고 밝혔다.
미국에서도 바이든 대통령의 목소리를 위조한 전화가 무분별하게 퍼지기도 했다.
지난 22일 미국 뉴햄프셔주에서 예비경선을 하루 앞두고 민주당 당원들에게 투표를 독려하는 바이든 미국 대통령의 음성 메시지가 기승을 부렸다고 NBC가 보도했다.
전화에선 바이든 대통령과 똑같은 목소리로 “11월 대선을 위해 여러분의 투표를 아껴두라”며 “화요일에 투표하는 것은 도널드 트럼프 당선이라는 공화당의 목표를 돕는 일”이라고 강조한다.
바이든 대통령이 연설에서 자주 쓰는 “말도 안 되는 소리(a bunch of malarkey)”까지 써 진짜 바이든 대통령인 것처럼 전화가 이어진다. 현지 조사결과 해당 전화는 인공지능 기술로 만든 가짜 음성인 것으로 결론이 났다.
지난해 3월엔 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 경찰에 체포돼 연행되는 모습의 AI 사진이 퍼지기도 했으며, 같은 해 10월 일본에선 기시다 총리가 성적 발언을 하는 모습이 생중계 되는 것처럼 편집된 영상이 SNS 등에 퍼지기도 했다.
 |
| AI로 만든 트럼프대통령 체포 사진과 딥페이크 기술로 합성된 기시다 총리 성적 발언 생중계 영상 갈무리. 연합뉴스
|
한편 중앙선거관리위원회에 따르면 지난달 29일부터 지난 16일까지 19일동안 국내에서 딥페이크 기술을 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.
현재 선관위에선 3단계에 걸친 딥페이크 선별 작업을 벌이는 등 자체적으로 선거법 위반 여부를 조사하고 있지만, 딥페이크 영상 제작 방법이 날이 갈수록 빠르고 정교해져 그 속도를 따라잡기 어려운 상황이다.
인공지능 기술로 만든 가짜 음성과 영상이 무분별하게 퍼지는 가운데 정치권에선 공정한 선거를 위해 확실한 대응책이 필요하다는 목소리가 나온다.
)
)
