얼마 전 유명 관광지 정보를 찾다가 황당한 글을 읽게 됐다. 그곳을 직접 방문한 사람들의 후기를 접하고 싶었는데 해당 블로그 글은 문장은 그럴싸했지만 문맥은 어색했다. 댓글로 문맥을 얘기했다. 그랬더니 블로그 주인은 비밀 댓글로 AI(인공지능)로 감쪽같이 글을 썼다고 자랑했다. 요즘 온라인 세계는 홍보성 글 못지않게 AI가 쓴 글이 넘쳐난다.
유튜브 등의 숏폼에도 부쩍 AI가 만든 영상이 많이 올라온다. 가령 얼마 전 끝난 역사 드라마의 뒷이야기를 소개하면서 AI 음성에 AI가 만들어낸 이미지를 사용하는 방식이다. AI가 만든 이미지가 그럴싸해서 거부감은 크지 않았다. 하지만 사람들이 직접 들려주는 당시 상황을 알아보려고 유튜브에 들어왔는데 AI로 만든 음성과 이미지를 만나 당황스러웠다.
요즘 AI 서비스 붐이 일고 있다. 2022년 생성형 AI인 챗GPT가 나온 이래 기술의 발전은 상상을 초월할 정도다. 서점가조차도 AI가 들어가야만 책이 잘 팔린다고 한다. AI의 진화로 인해 생활은 한층 편리해졌다. 하지만 그만큼 부작용도 커지고 있다. 지금도 온라인 공간에는 예전에는 찾아볼 수 없던 정보들을 AI가 마구 쏟아내고 있다. 총선을 앞둔 정치 시즌을 맞아 정가에선 가짜뉴스 문제를 제기하고 있다. 하지만 이미 일상생활 속으로 파고든 AI 콘텐츠들의 문제점에 관해서는 짚고 있지 않다.
한때 광고성 글이 넘쳐나던 블로그도 이제는 AI가 쓴 글이 넘쳐나고 있다. 한 마케팅 회사에서는 음식점을 방문하지 않아도, 의학지식이 없어도 AI를 활용해 글을 쓸 수 있다고 한다. 이 글들은 검색엔진 상단에 노출돼 수익을 낼 수 있다고 홍보한다. 이들은 누군가 이미 쓴 글을 AI를 활용해 유사한 글을 대량으로 생산한다. AI를 통해 조금씩 다른 내용의 글을 업로드까지 자동으로 한다.
요즘 온라인 세계는 AI가 다른 사람의 글을 복사하고 이를 토대로 새로운 것을 만들어 내도 제어할 방법은 없다. AI에게는 도덕성이 아예 없기 때문이다. AI를 활용하는 사람도 AI가 어떤 글을 어디서 어떻게 가져왔는지도 알 길이 없다. 그럴싸하게 변형을 했기 때문에 남의 글이 아니라고 생각하기 쉽다. 사실상 AI가 만들어내고 쓰는 글들은 무방비 상태다. AI 기술의 진화는 장려해야 하지만 ‘짝퉁 글’을 만드는 기술은 곤란하지 않을까.
구글도 이런 문제점을 인식한 듯하다. 최근 구글은 검색 유입을 노리고 만든 AI 저질 콘텐츠 급증을 제어할 일종의 대책을 발표했다. 대규모 콘텐츠 남용 제한이라는 알고리즘 개편이다. 구글은 콘텐츠 남용 사례를 식별해 검색 결과 상단에 뜨지 않도록 노출 순위를 떨어뜨리거나 노출 자체를 막도록 하겠다고 한다. 구글이 말하는 ‘대규모 콘텐츠 남용’은 사람이나 생성형 AI를 통해 하루에 수천 건의 저질 콘텐츠를 만들어내는 것을 말한다.
구글이 서둘러 알고리즘 개편을 단행한 것을 보면 그 폐해가 심각하기는 한 모양이다. 인기 키워드를 조합하고 검색 결과 상단에 뜨는 것을 노려 광고 수익을 내는 AI 콘텐츠 문제를 방치해서는 안 되겠다고 여긴 듯하다. 비록 인기 키워드가 포함됐지만 별다른 의미가 없는 글을 대량 생산해 내면서 검색의 질이 떨어진다고 본 것이다.
국내엔 아직 AI가 만들어낸 글을 필터링 해낼 기술이나 움직임이 보이지 않는다. 이렇게 AI가 생산한 글에 대책을 못 세우는 사이 AI가 쓴 글들이 무수히 온라인 세계에 돌아다닌다. AI가 재조합하고 복사에 복사를 거듭하다 보면 어떤 글이 원래 글이고 누가 짜깁기를 했는지 알 수가 없는 ‘짝퉁 시대’가 올 수도 있다. 현재도 오히려 공들여 쓴 글이 검색에서 후순위로 밀리고 그 글을 가져가 재가공한 AI 글이 상위에 노출되는 웃지 못할 해프닝이 벌어지고 있다.
아이작 아시모프는 로봇의 위험성을 감안하여 로봇이 지켜야 할 3대 원칙을 제시했다. 첫째, 로봇은 인간에게 해를 끼쳐서는 안 되며, 위험에 처해 있는 인간을 방관해서도 안 된다. 둘째, 제1원칙에 위배되지 않는 경우 로봇은 인간의 명령에 반드시 복종해야만 한다. 셋째, 제1원칙과 제2원칙에 위배되지 않는 경우 로봇은 자기 자신을 보호해야만 한다는 것이다. 오늘날 AI에게는 이런 원칙이 있는가?
글을 쓰는 사람은 영감을 얻기 위해 많은 시간을 투자한다. 자신이 쓴 글이 마음에 들지 않아 원고지를 찢고 또 찢기도 한다. 수정과 퇴고라는 각고의 노력 끝에 간신히 글 한편이 완성된다. 하지만, 이렇게 생산된 글이 단 몇 초 만에 AI가 가져가 재생성한다. 그 글은 또 다른 AI가 퍼나른다. 힘들게 글을 생산한 사람의 공은 오간데 없다. 서글픈 시대다. 지금 쓰고 있는 이 글도 온라인 세계에 올라가는 순간 AI에 의해 다른 누군가의 글로 포장되어 돌아다닐지 누가 알겠는가.
장세훈 편집국 디지털부문장
)
