2
부산메디클럽

[국제칼럼] AI시대 유토피아? 디스토피아?

남이 쓴 글도 가져가는 AI…AI가 만든 글 넘쳐나는데 사회적 논의는 아직 요원

서둘러 ‘AI 원칙’ 만들자

  • 장세훈 기자 garisani@kookje.co.kr
  •  |   입력 : 2024-03-24 18:44:21
  •  |   본지 23면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
얼마 전 유명 관광지 정보를 찾다가 황당한 글을 읽게 됐다. 그곳을 직접 방문한 사람들의 후기를 접하고 싶었는데 해당 블로그 글은 문장은 그럴싸했지만 문맥은 어색했다. 댓글로 문맥을 얘기했다. 그랬더니 블로그 주인은 비밀 댓글로 AI(인공지능)로 감쪽같이 글을 썼다고 자랑했다. 요즘 온라인 세계는 홍보성 글 못지않게 AI가 쓴 글이 넘쳐난다.

유튜브 등의 숏폼에도 부쩍 AI가 만든 영상이 많이 올라온다. 가령 얼마 전 끝난 역사 드라마의 뒷이야기를 소개하면서 AI 음성에 AI가 만들어낸 이미지를 사용하는 방식이다. AI가 만든 이미지가 그럴싸해서 거부감은 크지 않았다. 하지만 사람들이 직접 들려주는 당시 상황을 알아보려고 유튜브에 들어왔는데 AI로 만든 음성과 이미지를 만나 당황스러웠다.

요즘 AI 서비스 붐이 일고 있다. 2022년 생성형 AI인 챗GPT가 나온 이래 기술의 발전은 상상을 초월할 정도다. 서점가조차도 AI가 들어가야만 책이 잘 팔린다고 한다. AI의 진화로 인해 생활은 한층 편리해졌다. 하지만 그만큼 부작용도 커지고 있다. 지금도 온라인 공간에는 예전에는 찾아볼 수 없던 정보들을 AI가 마구 쏟아내고 있다. 총선을 앞둔 정치 시즌을 맞아 정가에선 가짜뉴스 문제를 제기하고 있다. 하지만 이미 일상생활 속으로 파고든 AI 콘텐츠들의 문제점에 관해서는 짚고 있지 않다.

한때 광고성 글이 넘쳐나던 블로그도 이제는 AI가 쓴 글이 넘쳐나고 있다. 한 마케팅 회사에서는 음식점을 방문하지 않아도, 의학지식이 없어도 AI를 활용해 글을 쓸 수 있다고 한다. 이 글들은 검색엔진 상단에 노출돼 수익을 낼 수 있다고 홍보한다. 이들은 누군가 이미 쓴 글을 AI를 활용해 유사한 글을 대량으로 생산한다. AI를 통해 조금씩 다른 내용의 글을 업로드까지 자동으로 한다.

요즘 온라인 세계는 AI가 다른 사람의 글을 복사하고 이를 토대로 새로운 것을 만들어 내도 제어할 방법은 없다. AI에게는 도덕성이 아예 없기 때문이다. AI를 활용하는 사람도 AI가 어떤 글을 어디서 어떻게 가져왔는지도 알 길이 없다. 그럴싸하게 변형을 했기 때문에 남의 글이 아니라고 생각하기 쉽다. 사실상 AI가 만들어내고 쓰는 글들은 무방비 상태다. AI 기술의 진화는 장려해야 하지만 ‘짝퉁 글’을 만드는 기술은 곤란하지 않을까.

구글도 이런 문제점을 인식한 듯하다. 최근 구글은 검색 유입을 노리고 만든 AI 저질 콘텐츠 급증을 제어할 일종의 대책을 발표했다. 대규모 콘텐츠 남용 제한이라는 알고리즘 개편이다. 구글은 콘텐츠 남용 사례를 식별해 검색 결과 상단에 뜨지 않도록 노출 순위를 떨어뜨리거나 노출 자체를 막도록 하겠다고 한다. 구글이 말하는 ‘대규모 콘텐츠 남용’은 사람이나 생성형 AI를 통해 하루에 수천 건의 저질 콘텐츠를 만들어내는 것을 말한다.

구글이 서둘러 알고리즘 개편을 단행한 것을 보면 그 폐해가 심각하기는 한 모양이다. 인기 키워드를 조합하고 검색 결과 상단에 뜨는 것을 노려 광고 수익을 내는 AI 콘텐츠 문제를 방치해서는 안 되겠다고 여긴 듯하다. 비록 인기 키워드가 포함됐지만 별다른 의미가 없는 글을 대량 생산해 내면서 검색의 질이 떨어진다고 본 것이다.

국내엔 아직 AI가 만들어낸 글을 필터링 해낼 기술이나 움직임이 보이지 않는다. 이렇게 AI가 생산한 글에 대책을 못 세우는 사이 AI가 쓴 글들이 무수히 온라인 세계에 돌아다닌다. AI가 재조합하고 복사에 복사를 거듭하다 보면 어떤 글이 원래 글이고 누가 짜깁기를 했는지 알 수가 없는 ‘짝퉁 시대’가 올 수도 있다. 현재도 오히려 공들여 쓴 글이 검색에서 후순위로 밀리고 그 글을 가져가 재가공한 AI 글이 상위에 노출되는 웃지 못할 해프닝이 벌어지고 있다.

아이작 아시모프는 로봇의 위험성을 감안하여 로봇이 지켜야 할 3대 원칙을 제시했다. 첫째, 로봇은 인간에게 해를 끼쳐서는 안 되며, 위험에 처해 있는 인간을 방관해서도 안 된다. 둘째, 제1원칙에 위배되지 않는 경우 로봇은 인간의 명령에 반드시 복종해야만 한다. 셋째, 제1원칙과 제2원칙에 위배되지 않는 경우 로봇은 자기 자신을 보호해야만 한다는 것이다. 오늘날 AI에게는 이런 원칙이 있는가?

글을 쓰는 사람은 영감을 얻기 위해 많은 시간을 투자한다. 자신이 쓴 글이 마음에 들지 않아 원고지를 찢고 또 찢기도 한다. 수정과 퇴고라는 각고의 노력 끝에 간신히 글 한편이 완성된다. 하지만, 이렇게 생산된 글이 단 몇 초 만에 AI가 가져가 재생성한다. 그 글은 또 다른 AI가 퍼나른다. 힘들게 글을 생산한 사람의 공은 오간데 없다. 서글픈 시대다. 지금 쓰고 있는 이 글도 온라인 세계에 올라가는 순간 AI에 의해 다른 누군가의 글로 포장되어 돌아다닐지 누가 알겠는가.

장세훈 편집국 디지털부문장
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1“나 조폭인데…” 2명이 집단 폭행…경찰은 귀가조치(종합)
  2. 2“55보급창 신선대 이전, 주민 동의 받아야” 부산 남구·의회 반발
  3. 3부산 총선후보 1인당 선거비용 1억6578만 원…野최형욱 2억5240만 원 최고액
  4. 4상승세 탄 롯데, 어수선한 한화 상대 중위권 도약 3연전
  5. 5명지·정관 늘봄스쿨 96억…23개교 교통안전에 20억 편성
  6. 6“항만 넘어 해양과학기술 투자 절실”
  7. 7부산시 ‘바이오필릭시티’ 우뚝…생태친화적 낙동강 가꾼다
  8. 8[서상균 그림창] 핫한 메뉴
  9. 9구청 직원의 웹소설 연재 방치…감사원, 강서·수영구 13건 적발
  10. 10기장 신소재산단에 에너지 저장시스템…분산에너지 허브로
  1. 1부산 총선후보 1인당 선거비용 1억6578만 원…野최형욱 2억5240만 원 최고액
  2. 2野 특검·연금개혁 압박 총공세…벼랑끝 與 막판 결속 독려
  3. 3교역·투자 활성화…실무협의체 추진
  4. 43국 협력체제 복원 공감대…안보 현안은 韓日 vs 中 온도차
  5. 5부산 총선 당선인 1호 법안 ‘재건축 완화’ 최다
  6. 6법조인 출신 곽규택 해사법원, 기장 정동만 고준위법 재발의
  7. 7고준위·산은·글로벌허브법 다시 가시밭길
  8. 8국민의힘 전당대회 선관위원장에 부산 5선 서병수 임명
  9. 9부산 당선인들, 의원회관 ‘기피층’ 6층 피했다
  10. 10총선 이후 부산 첫 방문한 이재명 “지선후보 선발 당원 참여 높일 것”
  1. 1“항만 넘어 해양과학기술 투자 절실”
  2. 2기장 신소재산단에 에너지 저장시스템…분산에너지 허브로
  3. 3“영도 중심 해양신산업…R&D·창업·수출 원스톱체제 가능”
  4. 4“어촌 부족한 소득원 해양관광객으로 보완을”
  5. 5“100년 이상 이어질 K-음식점 브랜드가 목표”
  6. 6주금공, 민간 장기모기지 활성화 추진
  7. 7집구경하고, 노래도 듣고…행복을 주는 모델하우스 음악회
  8. 8주가지수- 2024년 5월 27일
  9. 9삼익비치, 부산 특별건축구역 지정 ‘도전장’
  10. 10부산연고 ‘BNK 피어엑스’ 탄생…e스포츠에도 부산 바람
  1. 1“나 조폭인데…” 2명이 집단 폭행…경찰은 귀가조치(종합)
  2. 2“55보급창 신선대 이전, 주민 동의 받아야” 부산 남구·의회 반발
  3. 3명지·정관 늘봄스쿨 96억…23개교 교통안전에 20억 편성
  4. 4부산시 ‘바이오필릭시티’ 우뚝…생태친화적 낙동강 가꾼다
  5. 5구청 직원의 웹소설 연재 방치…감사원, 강서·수영구 13건 적발
  6. 6사상구 공개공지 금연구역 지정 길 열어(종합)
  7. 7수능 난도 가늠하는 첫 리허설…졸업생 접수자 14년 만에 최다
  8. 8해외여행서 대마 한번? 귀국하면 처벌 받아요
  9. 9[기고] 대학은 私的인가 公的인가?
  10. 10부산교육청, 흡연·마약류 예방 캠페인
  1. 1상승세 탄 롯데, 어수선한 한화 상대 중위권 도약 3연전
  2. 2한화 성적 부진에 ‘리빌딩’ 다시 원점으로
  3. 3축구대표팀 배준호·최준 등 7명 새얼굴
  4. 4임성재 시즌 3번째 톱10…올림픽 출전권 경쟁 불 붙였다
  5. 5전웅태·성승민 근대5종 혼성계주 동메달
  6. 6살아있는 전설 최상호, KPGA 선수권 출전
  7. 73명 부상 악조건에도…거인, 삼성에 위닝시리즈
  8. 8부산고 황금사자기 2연패 불발
  9. 9통산 상금 57억9778만 원…박민지, KLPGA 1위 등극
  10. 10PSG, 프랑스컵도 들었다…이강인 이적 첫 시즌 3관왕
우리은행
후보가 후보에게 묻는다
부산 서동
4·10 총선 지역 핫이슈
원도심 숙원 고도제한
강동묵의 디톡스 [전체보기]
노동자 건강을 위한 국제사회의 경향
소규모사업장 중처법, 투약 중단이 필요한가?
강동진의 도시이야기 [전체보기]
더 많이 두들겨 보아야 할 산복도로라는 돌다리
옛 부산세관 복원, 진정한 새로운 전통이 되길
과학에세이 [전체보기]
과학기술 R&D 투자가 나아가야 할 길
축복의 계절
국제칼럼 [전체보기]
‘3요’와 칸 레드카펫을 빛낸 조연들
AI시대 유토피아? 디스토피아?
기고 [전체보기]
대학은 私的인가 公的인가?
지역 창업기획자가 부산의 미래다
기자수첩 [전체보기]
영화의전당 대표 연임…소통 외치는 현장에 귀 기울여야
김갑수의 생각 [전체보기]
이재명 대표께
김석환의 이미 도착한 미래 [전체보기]
아직 명당 덕을 덜 본 것일까?
노무현이 옳았다
김용석의 시사탐방 [전체보기]
신문은 살아 있고, 칼럼은 말을 건다
김지윤의 우리음악 이야기 [전체보기]
디아스포라의 노래 영천아리랑
우리 융복합 음악의 시초 고구려악
뉴스와 현장 [전체보기]
소통을 이기는 무기는 없다
선한 영향력
데스크시각 [전체보기]
가덕신공항과 박형준의 정치적 미래
도청도설 [전체보기]
비혼 축의금
꾀끼깡꼴끈
메디칼럼 [전체보기]
일하는 사람의 1차 의료, 근로자 건강진단
100세시대의 건강관리법
박상현의 끼니 [전체보기]
대만과 밀크피시
조식전쟁
박지욱의 뇌력이 매력 [전체보기]
뇌력(腦力)을 키우는 다섯 가지 비결
뇌, 팩트 체크!
사설 [전체보기]
출범 20주년 한국거래소 향후 과제도 만만찮다
한일중 공동선언 한반도 균형외교 밑거름되길
세상읽기 [전체보기]
지옥에서 국가명승으로
우리의 가까운 미래를 위하여
이상이 칼럼 [전체보기]
의대 입학정원 갈등의 올바른 해법
우리 시대의 올바른 복지 원칙
이제명의 오션 드림 [전체보기]
기회의 바다, 우리네 함장은 어디로 키를 잡을까
부산항, 글로벌 물류 허브 플러스 알파
이해인 수녀 '기도의 창가에서' [전체보기]
12월의 기도편지
이홍의 세상현미경 [전체보기]
경제문제가 풀려야 인구문제가 풀린다
중국의 한국시장 시장교란
인문학 칼럼 [전체보기]
호모 사피엔스의 바다
세상을 뒤흔든 춤
전호환의 두잉세상 [전체보기]
한국교육의 새 지평을 여는 IB교육학회 창립
‘자신과의 경쟁’이 ‘경쟁 교육’ 대안이다
차재원의 정치평설 [전체보기]
비례대표 제도는 죄가 없다
‘자객공천’ 유감
최태호의 와인 한 잔 [전체보기]
오페라 와인
와인이란
특별기고 [전체보기]
부산의 위대한 도전은 계속 된다
하순봉의 음악이야기 [전체보기]
낭만오페라의 종언! 푸치니
정명훈과 도쿄필하모닉 오케스트라
황정수의 그림산책 [전체보기]
처음 보는 ‘무릉도원’
무호 이한복의 ‘운룡도’
CEO 칼럼 [전체보기]
우리는 역사적 사명을 띠고 태어났다
드론으로 변화할 부산의 미래
  • 국제크루즈아카데미
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내
스토리 박스