2
부산메디클럽

[국제칼럼] AI시대 유토피아? 디스토피아?

남이 쓴 글도 가져가는 AI…AI가 만든 글 넘쳐나는데 사회적 논의는 아직 요원

서둘러 ‘AI 원칙’ 만들자

  • 장세훈 기자 garisani@kookje.co.kr
  •  |   입력 : 2024-03-24 18:44:21
  •  |   본지 23면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
얼마 전 유명 관광지 정보를 찾다가 황당한 글을 읽게 됐다. 그곳을 직접 방문한 사람들의 후기를 접하고 싶었는데 해당 블로그 글은 문장은 그럴싸했지만 문맥은 어색했다. 댓글로 문맥을 얘기했다. 그랬더니 블로그 주인은 비밀 댓글로 AI(인공지능)로 감쪽같이 글을 썼다고 자랑했다. 요즘 온라인 세계는 홍보성 글 못지않게 AI가 쓴 글이 넘쳐난다.

유튜브 등의 숏폼에도 부쩍 AI가 만든 영상이 많이 올라온다. 가령 얼마 전 끝난 역사 드라마의 뒷이야기를 소개하면서 AI 음성에 AI가 만들어낸 이미지를 사용하는 방식이다. AI가 만든 이미지가 그럴싸해서 거부감은 크지 않았다. 하지만 사람들이 직접 들려주는 당시 상황을 알아보려고 유튜브에 들어왔는데 AI로 만든 음성과 이미지를 만나 당황스러웠다.

요즘 AI 서비스 붐이 일고 있다. 2022년 생성형 AI인 챗GPT가 나온 이래 기술의 발전은 상상을 초월할 정도다. 서점가조차도 AI가 들어가야만 책이 잘 팔린다고 한다. AI의 진화로 인해 생활은 한층 편리해졌다. 하지만 그만큼 부작용도 커지고 있다. 지금도 온라인 공간에는 예전에는 찾아볼 수 없던 정보들을 AI가 마구 쏟아내고 있다. 총선을 앞둔 정치 시즌을 맞아 정가에선 가짜뉴스 문제를 제기하고 있다. 하지만 이미 일상생활 속으로 파고든 AI 콘텐츠들의 문제점에 관해서는 짚고 있지 않다.

한때 광고성 글이 넘쳐나던 블로그도 이제는 AI가 쓴 글이 넘쳐나고 있다. 한 마케팅 회사에서는 음식점을 방문하지 않아도, 의학지식이 없어도 AI를 활용해 글을 쓸 수 있다고 한다. 이 글들은 검색엔진 상단에 노출돼 수익을 낼 수 있다고 홍보한다. 이들은 누군가 이미 쓴 글을 AI를 활용해 유사한 글을 대량으로 생산한다. AI를 통해 조금씩 다른 내용의 글을 업로드까지 자동으로 한다.

요즘 온라인 세계는 AI가 다른 사람의 글을 복사하고 이를 토대로 새로운 것을 만들어 내도 제어할 방법은 없다. AI에게는 도덕성이 아예 없기 때문이다. AI를 활용하는 사람도 AI가 어떤 글을 어디서 어떻게 가져왔는지도 알 길이 없다. 그럴싸하게 변형을 했기 때문에 남의 글이 아니라고 생각하기 쉽다. 사실상 AI가 만들어내고 쓰는 글들은 무방비 상태다. AI 기술의 진화는 장려해야 하지만 ‘짝퉁 글’을 만드는 기술은 곤란하지 않을까.

구글도 이런 문제점을 인식한 듯하다. 최근 구글은 검색 유입을 노리고 만든 AI 저질 콘텐츠 급증을 제어할 일종의 대책을 발표했다. 대규모 콘텐츠 남용 제한이라는 알고리즘 개편이다. 구글은 콘텐츠 남용 사례를 식별해 검색 결과 상단에 뜨지 않도록 노출 순위를 떨어뜨리거나 노출 자체를 막도록 하겠다고 한다. 구글이 말하는 ‘대규모 콘텐츠 남용’은 사람이나 생성형 AI를 통해 하루에 수천 건의 저질 콘텐츠를 만들어내는 것을 말한다.

구글이 서둘러 알고리즘 개편을 단행한 것을 보면 그 폐해가 심각하기는 한 모양이다. 인기 키워드를 조합하고 검색 결과 상단에 뜨는 것을 노려 광고 수익을 내는 AI 콘텐츠 문제를 방치해서는 안 되겠다고 여긴 듯하다. 비록 인기 키워드가 포함됐지만 별다른 의미가 없는 글을 대량 생산해 내면서 검색의 질이 떨어진다고 본 것이다.

국내엔 아직 AI가 만들어낸 글을 필터링 해낼 기술이나 움직임이 보이지 않는다. 이렇게 AI가 생산한 글에 대책을 못 세우는 사이 AI가 쓴 글들이 무수히 온라인 세계에 돌아다닌다. AI가 재조합하고 복사에 복사를 거듭하다 보면 어떤 글이 원래 글이고 누가 짜깁기를 했는지 알 수가 없는 ‘짝퉁 시대’가 올 수도 있다. 현재도 오히려 공들여 쓴 글이 검색에서 후순위로 밀리고 그 글을 가져가 재가공한 AI 글이 상위에 노출되는 웃지 못할 해프닝이 벌어지고 있다.

아이작 아시모프는 로봇의 위험성을 감안하여 로봇이 지켜야 할 3대 원칙을 제시했다. 첫째, 로봇은 인간에게 해를 끼쳐서는 안 되며, 위험에 처해 있는 인간을 방관해서도 안 된다. 둘째, 제1원칙에 위배되지 않는 경우 로봇은 인간의 명령에 반드시 복종해야만 한다. 셋째, 제1원칙과 제2원칙에 위배되지 않는 경우 로봇은 자기 자신을 보호해야만 한다는 것이다. 오늘날 AI에게는 이런 원칙이 있는가?

글을 쓰는 사람은 영감을 얻기 위해 많은 시간을 투자한다. 자신이 쓴 글이 마음에 들지 않아 원고지를 찢고 또 찢기도 한다. 수정과 퇴고라는 각고의 노력 끝에 간신히 글 한편이 완성된다. 하지만, 이렇게 생산된 글이 단 몇 초 만에 AI가 가져가 재생성한다. 그 글은 또 다른 AI가 퍼나른다. 힘들게 글을 생산한 사람의 공은 오간데 없다. 서글픈 시대다. 지금 쓰고 있는 이 글도 온라인 세계에 올라가는 순간 AI에 의해 다른 누군가의 글로 포장되어 돌아다닐지 누가 알겠는가.

장세훈 편집국 디지털부문장
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1땅주인 허락 없이 덱 깔았다가…5500만 원 날린 부산 서구
  2. 2충장대로 여전히 교통지옥…지하차도 완공 지연 ‘부글부글’
  3. 3가덕신공항 10조대 공사 수주 물밑작전
  4. 4암세포 얼려 죽이는 ‘냉동제거술’…91세 어르신도 간암 치료 성공
  5. 5부산시 ‘고도제한 완화’ 방침에 원도심 지자체 들썩
  6. 64성급도 몰려온다…올여름 해운대 ‘호텔대전’
  7. 7부산시 부금고 경쟁…시중은행 막강 자금력에 농협 백기?
  8. 8손흥민 마지막 경기서 통산 3번째 ‘10골 10도움’ 금자탑
  9. 9與 차기 부산시당위원장 후보군, 정동만·이성권으로 압축
  10. 10매일 배아프다는 아이, 꾀병·배탈 속단 말고 정밀진단을
  1. 1與 차기 부산시당위원장 후보군, 정동만·이성권으로 압축
  2. 2제주도로…울릉도·독도로…부산시의회는 ‘국내 연수중’
  3. 3국힘 황우여 비대위원장, 김진표·이재명 잇단 예방 “여야가 형제처럼 만나자”
  4. 4한 총리 채상병 특검법에 "의결 과정, 내용에 많은 문제점"
  5. 5“부산현안 골든타임…정교한 입법전략을”
  6. 6“지방 살릴 부산허브법·산업은행법…여야 합심 처리 기대”
  7. 7“지방시대 정책속도 기대 못 미쳐…조세권 과감한 이양을”
  8. 8“기회발전·교육 특구 성공하려면…강남 중심 사고 틀 깨야”
  9. 9“당정, 가덕 거점항공사 신속한 결정을”
  10. 10尹 채상병 특검 거부 움직임에…野 7당 단일대오 압박
  1. 1가덕신공항 10조대 공사 수주 물밑작전
  2. 24성급도 몰려온다…올여름 해운대 ‘호텔대전’
  3. 3부산시 부금고 경쟁…시중은행 막강 자금력에 농협 백기?
  4. 4바이오의약품 연구 IDC사옥 9월 개소
  5. 5부산시민단체 성명서 “내년 출범 대체거래소 거래 품목 확대 반대”
  6. 6지역社 20곳·300억 이상씩 허용…‘하도급 낙수효과’ 과제
  7. 7숙박세일 페스타 예약 할인…부산 오면 최대 5만 원 혜택
  8. 8부산시, 부산에 선박 전자기 인증센터 200억 투입 2028년 완공
  9. 9주식공매도 재개하나, 안 하나…금감원·대통령실 엇박자
  10. 105월 1~20일 수출 1.5% 증가…무역수지 3억 달러 적자(종합)
  1. 1땅주인 허락 없이 덱 깔았다가…5500만 원 날린 부산 서구
  2. 2충장대로 여전히 교통지옥…지하차도 완공 지연 ‘부글부글’
  3. 3부산시 ‘고도제한 완화’ 방침에 원도심 지자체 들썩
  4. 4전국 태권도대회 출전했던 부산 여고생 선수 의식불명
  5. 5양산서 대학생 몰던 오토바이 사고…운전자 숨져
  6. 6노동부, 조선소 대상 긴급 안전교육
  7. 7카톡 또 오류
  8. 8“유흥 즐기며 활보”…거제 데이트 폭력 男 구속
  9. 9[눈높이 사설] 개발·보전 두 바퀴로 가야 할 낙동강협의회 구상
  10. 10[신통이의 신문 읽기] 라면·치킨에 삼계탕까지…K-푸드의 영토 확장
  1. 1손흥민 마지막 경기서 통산 3번째 ‘10골 10도움’ 금자탑
  2. 2축구대표 감독 이번에도 임시…김도훈 전 울산감독 선임
  3. 3맨시티 프리미어리그 사상 첫 4연속 우승
  4. 4내년 부산 전국체전 10월 17일 개막 7일간 열전
  5. 5코르다 LPGA 독식, 벌써 시즌 6승
  6. 6414일 만에 1군 복귀 롯데 이민석, 4회 교체 아쉬움
  7. 7이마나가, ML 마운드 새 역사…9경기 무패 평균자책점 0.84
  8. 8레버쿠젠, 무패 우승 ‘트레블’ 신화 도전
  9. 9올림픽 출전 앞둔 태권도 김유진, 亞선수권 3년 만에 ‘금빛 발차기’
  10. 10‘감동 드라마’ 파리 패럴림픽 D-100…韓, 보치아·사격 등 5개 종목 정조준
우리은행
후보가 후보에게 묻는다
부산 서동
4·10 총선 지역 핫이슈
원도심 숙원 고도제한
강동묵의 디톡스 [전체보기]
노동자 건강을 위한 국제사회의 경향
소규모사업장 중처법, 투약 중단이 필요한가?
강동진의 도시이야기 [전체보기]
옛 부산세관 복원, 진정한 새로운 전통이 되길
부산 영도, 낭트의 낭트 섬을 보자
과학에세이 [전체보기]
축복의 계절
과학계의 스승과 제자
국제칼럼 [전체보기]
‘3요’와 칸 레드카펫을 빛낸 조연들
AI시대 유토피아? 디스토피아?
기고 [전체보기]
해외직구식품, 현명한 선택과 소비가 필요하다
‘질병x’ 대유행 예방과 대응, 대만과 함께
기자수첩 [전체보기]
영화의전당 대표 연임…소통 외치는 현장에 귀 기울여야
김갑수의 생각 [전체보기]
이재명 대표께
김석환의 이미 도착한 미래 [전체보기]
아직 명당 덕을 덜 본 것일까?
노무현이 옳았다
김용석의 시사탐방 [전체보기]
신문은 살아 있고, 칼럼은 말을 건다
김지윤의 우리음악 이야기 [전체보기]
디아스포라의 노래 영천아리랑
우리 융복합 음악의 시초 고구려악
뉴스와 현장 [전체보기]
소통을 이기는 무기는 없다
선한 영향력
데스크시각 [전체보기]
가덕신공항과 박형준의 정치적 미래
도청도설 [전체보기]
언디스퓨티드 챔피언
직구 금지 논란
메디칼럼 [전체보기]
일하는 사람의 1차 의료, 근로자 건강진단
100세시대의 건강관리법
박상현의 끼니 [전체보기]
조식전쟁
미쉐린 가이드와 ‘부산의맛’
박지욱의 뇌력이 매력 [전체보기]
뇌력(腦力)을 키우는 다섯 가지 비결
뇌, 팩트 체크!
사설 [전체보기]
‘완벽 시공’ 업체 선정은 안전한 가덕신공항 첫걸음
정부도 전공의도 환자 위해 의정갈등 파국 막아라
세상읽기 [전체보기]
우리의 가까운 미래를 위하여
사라지는 중간, 중산층을 위한 도시
이상이 칼럼 [전체보기]
의대 입학정원 갈등의 올바른 해법
우리 시대의 올바른 복지 원칙
이제명의 오션 드림 [전체보기]
기회의 바다, 우리네 함장은 어디로 키를 잡을까
부산항, 글로벌 물류 허브 플러스 알파
이해인 수녀 '기도의 창가에서' [전체보기]
12월의 기도편지
이홍의 세상현미경 [전체보기]
경제문제가 풀려야 인구문제가 풀린다
중국의 한국시장 시장교란
인문학 칼럼 [전체보기]
호모 사피엔스의 바다
세상을 뒤흔든 춤
전호환의 두잉세상 [전체보기]
한국교육의 새 지평을 여는 IB교육학회 창립
‘자신과의 경쟁’이 ‘경쟁 교육’ 대안이다
차재원의 정치평설 [전체보기]
비례대표 제도는 죄가 없다
‘자객공천’ 유감
최태호의 와인 한 잔 [전체보기]
오페라 와인
와인이란
특별기고 [전체보기]
부산의 위대한 도전은 계속 된다
하순봉의 음악이야기 [전체보기]
낭만오페라의 종언! 푸치니
정명훈과 도쿄필하모닉 오케스트라
황정수의 그림산책 [전체보기]
처음 보는 ‘무릉도원’
무호 이한복의 ‘운룡도’
CEO 칼럼 [전체보기]
드론으로 변화할 부산의 미래
특별한 장점과 잠재력 지닌 사람들
  • 국제크루즈아카데미
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내
스토리 박스