뉴스레터 ‘뭐라노’의 마스코트 라노입니다. 라노는 이번 주 ‘이거 아나’에서 소개할 시사상식 용어를 ‘딥페이크’로 정했어요. 내가 찍은 적도 없는 사진과 영상이 이름 모를 누군가에 의해 제작돼 SNS에 돌아다니면 정말 무섭고 불쾌하겠죠. 요즘엔 인공지능(AI)을 활용해 누구나 쉽게 사진과 영상을 만들어낼 수 있게 됐는데요. 그 기술을 악의적으로 사용하는 사람이 곳곳에서 나타나고 있어요. AI 기술의 비약적 발전이 드리운 그늘이라고 할까요.

지난 25일 미국을 발칵 뒤집어놓은 일이 발생했습니다. 누군가 엑스(X·옛 트위터)를 통해 세계적인 팝가수 테일러 스위프트의 얼굴을 가짜 나체와 합성한 음란물을 퍼트린 것입니다. ‘딥페이크’가 악용된 겁니다. 딥페이크란 AI가 기존 데이터를 학습해 특정 인물의 이미지와 음성 등을 진짜인 것처럼 만들어내는 기술을 가리킵니다.

이 게시물은 업로드 후 17시간 동안 계속해서 공유됐는데, 조회수가 약 7200만 회까지 오르기도 했습니다. 세계적인 스타가 딥페이크의 피해자가 되자 미국 정치권과 기업들은 깜짝 놀라며 대응책을 쏟아냈습니다.

카린 장 피에르 미 백악관 대변인은 지난 26일 브리핑에서 “미 행정부가 이 문제를 매우 심각하게 받아들이고 있다. 의회도 입법 조처에 나서야 한다”고 말했습니다. 딥페이크를 전파·공유하는 데 쓰인 엑스는 ‘테일러 스위프트’라는 단어를 검색어에서 차단했고, 딥페이크를 만드는 데 사용됐다고 추정되는 제작 툴의 제조업체인 마이크로소프트도 즉각 조사에 나섰습니다.

딥페이크 음란물 피해가 이번이 처음도 아닙니다. 지난해에는 유명 배우 엠마 왓슨과 스칼릿 조핸슨 등이 딥페이크 음란물 피해를 겪은 바 있습니다. 미국에는 딥페이크를 범죄로 규정한 주가 9곳 있지만, 미국 연방정부 차원에서 딥페이크 기술을 규제하는 법은 없습니다.

챗 GPT의 등장 이후 사람들이 쉽게 생성형 AI를 이용해 가짜 이미지와 영상을 만들어내기 시작하면서 여러 문제가 포착되고 있습니다. 연예인 같은 유명 인사가 아니더라도 딥페이크에 피해를 당한 여러 층의 사람들이 생겨난 겁니다. 선거에 영향을 줄 법한 딥페이크도 만들어지고 있습니다. 올해는 전 세계에서 76개의 선거가 예정된 만큼 피해가 늘어날 것이라는 경고도 나오고 있죠.

이미 미국에서는 조 바이든 미국 대통령의 목소리를 가짜로 만들어 유권자들에게 투표하지 말라는 전화를 하는 사건까지 일어났습니다. 튀르키예에서는 테러집단이 야당 후보를 지지한다는 가짜 영상을 만들어 퍼트리는 일이 있었고, 슬로바키아에서는 선거를 며칠 앞두고 자유주의 진영 후보가 맥주 가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 오디오 녹음이 사실인 양 퍼졌죠. 딥페이크가 시민이 공적 정보를 믿지 못하게 만들어서 민주주의에 해를 끼치는 수준까지 이르게 된 것입니다.

이를 제어할 안전장치는 미흡합니다. 관련 규제가 마련되지 않았죠. 미국 중국 유럽연합 등 28개 나라와 세계 빅테크 기업이 모여 AI 피해를 예방하기 위해 서로 협력하기로 했지만 어떻게 협력할지에 대해서는 아직 이야기를 나누지 않은 상태입니다. 아직 어떤 규칙이나 법안도 확정된 것이 없습니다.

우리나라에서는 지인이나 연예인, 모르는 사람의 얼굴을 음란물과 합성하는 성범죄도 처벌하도록 한 ‘딥페이크 처벌법’이 2020년 6월부터 시행됐습니다. 하지만 여전히 범죄는 증가 중이고, 온라인에서 불법 이미지를 삭제하는 건 피해자 몫이라 사전 예방이 더 강화돼야 한다는 지적이 나오고 있습니다.