- 누구나 손쉽게 만들 수 있지만
- 대부분 SNS로 폐쇄적 공유
- 최초유포자 색출·처벌 어려워

지난 19일 아이돌 출신 연예인의 합성 사진과 영상이 SNS에 무차별 공유되면서 논란을 빚었다. 이른바 ‘딥페이크’ 기술로 만들어진 영상을 두고 일반인까지 피해받을 수 있다는 염려를 낳고 있다.

‘딥페이크’란 미국의 유명 커뮤니티인 레딧에 유명인의 얼굴을 합성한 영상을 올린 누리꾼의 아이디에서 따온 것으로 인공지능을 활용해 영상 속 얼굴을 다른 사람 얼굴로 합성하는 기술을 뜻한다.

과거 합성 사진과 영상은 포토샵 등 프로그램으로 오려낸 얼굴을 그대로 가져다 붙이는 수준이었다. 그러나 딥페이크 기술은 영상을 프레임 단위로 쪼갠 뒤 비슷한 구도의 눈 코 입 등을 합성하는 방식이다.

이미 레딧에서는 여자 영화배우들의 얼굴을 성인물에 합성한 영상이 올라왔다가 삭제된 바 있다. 최근 외국 사이트 또는 국내 성인 사이트에서도 국내 여성 가수의 얼굴을 합성한 영상이 발견되기에 이르렀다. 딥페이크 기술은 공개된 오픈소스 프로그램으로 누구나 손쉽게 사용할 수 있어 더욱 문제다. 프로그램 사용법을 11분짜리 튜토리얼 영상으로 익히면 가짜 영상물을 제작할 수 있을 정도다. 연예인과 정치인처럼 다양한 각도와 표정의 자료가 많으면 더욱 정교한 영상을 만들 수 있다. 일반인들도 페이스북 인스타그램 카카오톡 등 SNS로 사진과 영상을 자주 노출하면 합성의 표적이 될 수 있다.문제는 현재 이러한 딥페이크의 공격을 막을 마땅한 방법이 준비되지 않았다는 점이다. 앞서 인터넷에 화제가 된 여성 연예인의 소속사에서도 거짓 합성콘텐츠의 공유 및 배포에 대해 법적으로 대응하겠다고 밝혔다. 그러나 카카오톡 등으로 지인 사이에서 폐쇄적으로 공유될 가능성도 커 이를 막아내기 어렵다.

연예인뿐만 아니라 일반인들의 사진을 딥페이크 방식으로 제작하면 악의적으로 지인들의 명예를 훼손하고 모욕을 주는 ‘지인 능욕’의 방법으로 쓰일 위험도 크다. 모욕적인 영상을 만드는 최초 제작자도 문제지만, 무분별한 공유가 디지털 성범죄인지조차 인식하지 못하는 ‘남성 단체 카톡방’도 문제를 키우는 공범으로 지목된다.

과학기술정보통신부는 오는 7월까지 인공지능 기술로 생성된 얼굴과 합성된 인물사진을 찾아내는 기술을 개발하기 위해 우수 연구팀을 선발하는 대회를 열 계획이다. 합성사진을 자동 판별해 악의적인 유포를 효과적으로 차단하기 위해서다. 국내 기업과 대학은 물론 일반인과 대학원생 모두 자유롭게 참여할 수 있다.

김봉기 기자 superche@kookje.co.kr