2
부산메디클럽

못믿을 AI, 가짜로 만들어낸 참고문헌 탓에 국내외 논문철회 줄이어

  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
AI 생성 문제로 철회된 연구 논문. 연합 AI 플랫폼 생성 이미지
인공지능(AI)이 만들어낸 가짜 참고문헌이나 잘못된 인용이 학술 논문에 활용되면서 국내외 대학과 연구기관의 논문 철회가 줄줄이 나오고 있다.

국내 대학과 정부출연연구기관을 포함해 해외 유명 학술지와 국내 한국학술지인용색인(KCI) 등재 학술지에서도 허위 인용 사례가 확인됐다. 최근 해외 연구에서는 허위 참고문헌이 포함된 논문의 비율이 크게 높아진 것으로 나타나면서 AI의 ‘환각’ 현상이 과학 연구의 신뢰성을 위협하고 있다. AI 환각은 AI가 허위로 만들어낸 것을 말한다.

17일 과학기술계에 따르면 강원대와 세종대 연구진이 지난해 12월 국제학술지 ‘사이언티픽 리포트’에 게재한 가짜뉴스 탐지 관련 논문이 올해 철회됐다. 학술지는 철회 사유로 논문 전반에 비표준적 어휘가 사용됐고, 관련성이 떨어지거나 잘못 인용된 참고 문헌이 다수 발견됐다고 지적했다.

어휘가 부정확하다거나 인용 논문이 부정확한 것은 AI로 작성한 논문의 대표적 특징 중 하나다. 저자들은 학술지에서 철회 관련해 보낸 서신에 명확한 입장을 밝히지 않았다.

한양대 에리카캠퍼스와 극지연구소 등 공동연구진이 국제학술지 ‘헬리온’에 낸 금강과 섬진강 내 유기 탄소 관련 논문도 논문 내용과 관련 없는 참고문헌들이 드러나 지난해 11월 철회됐다.

한국과학기술정보연구원(KISTI) 연구진도 최근 국제학술지 ‘기술 예측과 사회 변화’에 생명공학 전문가 페르소나를 가진 AI 생성형 에이전트 관련 논문을 발표했다가 11개 인용 논문이 환각으로 생성된 것을 확인하고 자진 철회했다.

AI 석학 조경현 뉴욕대 교수도 지난해 말 세계 최고 권위 AI 학회인 뉴립스(NeurIPS)에 채택된 공저 논문이 AI가 생성한 가짜 참고문헌을 인용한 것으로 확인돼 공개 사과하기도 했다.

논문철회 감시 사이트 리트랙션워치의 데이터베이스에 따르면 2023년 이후 AI 생성 콘텐츠 사유로 철회된 국내 기관 소속 저자 논문은 205건, 참고문헌이나 출처 문제로 철회된 논문은 316건에 달한다.

AI가 생성한 부정확한 문장이나 정보가 논문에 포함되는 문제는 전 세계적으로 빠르게 확산하고 있다.

미국 컬럼비아대 연구진이 올해 5월 국제학술지 ‘랜싯’에 발표한 연구에 따르면 올해 첫 7주간 의학·생명과학 분야 논문 데이터베이스 ‘펍메드’(Pubmed)에 발표된 논문에서 277편당 1편꼴로 허위 참고문헌이 발견됐다. 2023년 2828편당 1편꼴이었던 것과 비교하면 허위 참고문헌이 포함된 논문의 비율이 크게 올라갔다.

또 미국 컬럼비아대 연구진이 11월 3일 국제학술지 ‘미국국립과학원회보’(PNAS)에 발표한 과학·공학·컴퓨터 분야 논문 50만편의 참고문헌 2160만건을 분석한 결과, 허위 참고문헌 포함 비율이 2023년 1600편당 1편에서 2026년 1분기 435편당 1편으로 높아진 사실이 확인됐다.

한국과학학술지편집인협의회도 최근 3년간 진행한 AI 관련 교육과 학술대회에서 생성형 AI의 환각으로 인한 허위 정보와 부정확한 데이터 생성이 주요 문제로 최근 발표되고 있다고 지적했다.
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1마산~가덕~울산 급행열차(TRX) 2035년 달린다
  2. 2건설경기 한파 속 서부산 알짜 정비사업 탄력
  3. 3시유지인데…홈플러스 아시아드점, 고객 외 주차 시민에 으름장
  4. 4BTS공연 때처럼 예약 일방 취소, 앞으론 숙박료 2배 배상
  5. 5市 “북항 돔 결정 전까지 사직 재건축 유보”
  6. 6수능장 모든 스마트기기 반납…공공 와이파이 차단 검토(종합)
  7. 719일 수능…부산 승용차요일제 해제
  8. 8파업 진통 끝 리노공업 노사 첫 단협 가결
  9. 9친명, 최민희 징계 총공세…친청 “신천지 진상규명” 역공
  10. 10국제신문 회생 지지 서명 1만 돌파…학보사도 힘보탰다
  1. 1市 “북항 돔 결정 전까지 사직 재건축 유보”
  2. 2친명, 최민희 징계 총공세…친청 “신천지 진상규명” 역공
  3. 3조정식 국회의장, 여야 원로 앞세워 개헌 시동…국힘 “대국민 사기”(종합)
  4. 4조작기소특검법 17일 의결 전망…국힘 “韓총리 탈옥죄 수괴 될 것”
  5. 5李, 아세안에 AI·문화산업 동맹 제안…“교역 3000억弗 추진”
  6. 615분도시 내실 부족 꼬집고, 동백전 쿠폰 사용 저조 질타
  7. 7최민희 윤리심판원 이첩…친명 vs 친청 점입가경
  8. 8한동훈 ‘징계조작’ 추가폭로 예고…찻잔 속 태풍?
  9. 9개혁신당 “수능 연기하는 방안 검토해야”
  10. 10이 대통령 지지율 36.4%…민주 34.6%·국힘 43%
  1. 1건설경기 한파 속 서부산 알짜 정비사업 탄력
  2. 2BTS공연 때처럼 예약 일방 취소, 앞으론 숙박료 2배 배상
  3. 3파업 진통 끝 리노공업 노사 첫 단협 가결
  4. 4“BIFF 개·폐막 연출 아홉 번…냉정한 시험의 연속”
  5. 5부산 첫 CR리츠 전세 공급…‘가야역 롯데캐슬 스카이엘’ 주목
  6. 6부산銀 ‘르노 우대적금’ 특판
  7. 7“부산 북극항로 해양서비스 거점 육성을”
  8. 8인도양 해산·해저융기부 4곳, 조선 지리학자들 이름 붙였다
  9. 9주가지수- 2026년 11월 16일
  10. 10BNK금융, 경남銀·투자증권 CEO후보군 확정
  1. 1마산~가덕~울산 급행열차(TRX) 2035년 달린다
  2. 2시유지인데…홈플러스 아시아드점, 고객 외 주차 시민에 으름장
  3. 3수능장 모든 스마트기기 반납…공공 와이파이 차단 검토(종합)
  4. 419일 수능…부산 승용차요일제 해제
  5. 5국제신문 회생 지지 서명 1만 돌파…학보사도 힘보탰다
  6. 6‘벚꽃 맛집’ 창원 가로수 2만 그루 실태조사키로
  7. 716개월 아이 발로 찬 보육교사…아동학대 혐의 송치
  8. 8김해 명물 ‘나무뜨개옷’ 철거 기로
  9. 9부산시 세계디자인수도 지위 인수(종합)
  10. 10[한 손 뉴스] 수능에 원스트라이크아웃…부정행위 방지책으로 제기
  1. 1‘FA 잔혹사’ 거인, 3년 만에 화끈하게 지갑 열까
  2. 2색깔 찾지 못한 모레노…깜깜하기만 한 韓 축구
  3. 3아쉽다 최혜진…준우승만 10회
  4. 4알록달록 복장 뽐내고, 외국인도 러닝에 빠지고…모두 하나 된 축제
  5. 5다대포 모인 1만 마라토너…빗속에서도 신나게 달렸다
  6. 684세 어르신도, 꼬맹이도…궂은 날씨 뚫고 열정이 달렸다
  7. 7하프 코스 여자 1위 정순연 씨 “3년 연속 우승…꾸준한 훈련 빛나”
  8. 8하프 코스 남자 1위 박지웅 씨 “개인 기록 경신…내년엔 풀코스 도전”
  9. 910㎞ 코스 남자 1위 감진규 씨 “맞바람 페이스 조절로 2연승 일궈”
  10. 1010㎞ 코스 여자 1위 전수진 씨 “감각 믿고 달려…세 번 도전 끝 결실”
우리은행
한 아이의 내일을 바꾸는 '부산의 힘'
“희귀질환 엄마 건강해진다면 학원 못 가도 괜찮아요”
민선9기 지역일꾼 만나다
“지역 애정 가진 ‘구민인수위’…정책제안 땐 구정 적극 반영”
  • 맘편한 부산
  • 부산국제마라톤
  • BNK생명나눔챌린지
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내