2
부산메디클럽

[과학에세이] 인공지능안전센터에서 인공지능 IAEA로

장종욱 동의대 컴퓨터공학과 교수·스마트IT연구소장

  • 장종욱 동의대 컴퓨터공학과 교수·스마트IT연구소장
  •  |   입력 : 2023-07-31 19:14:53
  •  |   본지 22면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
로봇이 인간을 대체할 날이 얼마나 가까워졌길래 많은 전문가들이 인공지능의 위험성을 경고하는 걸까. 작년 말에 출시된 ‘챗GPT’를 포함하는 생성형 인공지능은 엄청난 인기를 모은 동시에 인공지능의 영향에 대해 격론을 일으켰다.

딥러닝의 아버지로 불리는 제프리 힌턴, 오픈AI 샘 알트먼 대표, 구글 딥마인드 CEO 데미스 허사비스를 포함하는 수십 명의 전문가들이 비영리기구 ‘인공지능안전센터’(Center for AI Safety) 웹사이트에 게시된 성명에 지지를 표했다. 성명에 따르면, “AI로 인한 멸종 위험을 완화하는 것이 전염병이나 핵전쟁과 같은 사회적 규모의 다른 위협처럼 전 세계적 우선순위가 되어야 한다”는 것이다. 특히 알트먼 대표는 미국 의회 청문회에 출석해 AI 기술에 대한 정부 규제와 개입을 요구했다.

전 세계적인 생성형 AI 열풍을 불러온 장본인이 AI 규제 필요성을 강조하는 어색한 상황인 셈인데 그가 우려하는 부분은 악용 가능성이다. 인공지능이 만들어 낸 거짓 정보는 정치·경제 영역에 심각한 혼란을 일으킬 수 있고, 사이버범죄에 활용될 가능성도 많다.

이런 우려가 과장됐다고 말하는 이들도 있다. 빌 게이츠는 인공지능안전센터(CAIS)가 발표한 성명서에 서명한 수십 명의 전문가 중 한 명이지만 지난 7월 개인 블로그 ‘게이츠노트(GatesNotes)’에 적힌 그의 견해는 ‘장기적’ 위험과 ‘즉각적’ 위험을 비교하는 논쟁 구도를 잡고, ‘이미 존재하거나 곧 존재할 위험’에 초점을 맞추고 있다. 게이츠의 블로그에는 공포감을 조성하는 내용이 없다. 사실 실존적 위험은 전혀 찾아볼 수 없다. 반면에 메타 AI의 얀 르쿤, 조엘 피노는 실존적 위험에 대한 논의가 ‘터무니없고’ ‘혼란스럽다’고 생각하며, 시그널(Signal)의 메러디스 휘터커는 힌턴과 다른 사람들이 제기하는 우려는 ‘괴담’이라 생각한다는 견해이다.

다양한 견해 속에 우리는 어떠한 조치를 취해야 하나? 지난 월드코인 밋업 서울행사에 참여했던 알트먼 오픈AI 대표는 “사회가 AGI 시스템을 어떻게 받아들이고, 사람과 머신의 역할을 어떻게 구분할 것인가가 중요한데, 여기에 대한 답은 없다. 다만 사회가 그 답을 찾아야 하고 사회에서 만들어진 시스템이 우리 삶에 통합되면 인류에게 유용하게 작용할 것으로 생각한다”고 말했다.

우리 사회도 답을 찾아야 할 시점이다. 다행히도 각 국가가 답을 찾기 시작한 것 같다. 지난 6월 유럽의회에서 ‘유럽연합 AI법(EU AI Act)’이 통과됐다. 이 법은 현재 전 세계에서 가장 앞선 형태의 AI 규제안이기 때문에 중요한 이정표라 할 수 있다. 왜냐하면 AI 기술 자체는 미국이나 중국이 더 앞서 있지만, 그 기술의 이용을 제한하는 규제는 유럽이 주도하고 있기 때문이다.

어떤 내용이길래 가장 앞선 형태의 규제라고 하는 걸까. 핵심은 이 법안이 AI 시스템을 위험 정도에 근거해 세 가지 카테고리로 분류하고 그에 따른 대응책을 명시하고 있다는 점이다.

첫째, ‘수용 불가능한 위험’ 군에는 공공장소에서 안면인식 AI 기술을 이용해 실시간으로 생체 정보를 수집해 신원을 확인하거나, 정부나 공공기관이 개인의 데이터를 바탕으로 사회 신용점수를 부여해 보험이나 대출 등에 이용하는 것이 포함된다. 이 카테고리에 속하는 AI 기술은 금지 대상이다. 둘째, 고위험군에는 AI 알고리즘을 이용해 구직자의 이력서를 분류하고 고용 여부를 결정짓는 일 등이 포함된다. 과거 백인 남성이 주로 고용되었다는 데이터를 바탕으로 미래의 구직자 중에도 백인 남성을 더 우수하다고 평가하는 건 실제 미국 아마존 채용 시 벌어졌던 일이다. 셋째, 저위험군에 속하는 기술은 규제 대상이 아니다.

한국도 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’이 국회에 계류 중이다. 필자는 전 세계적으로 인공지능의 위험성을 통제할 수 있는 국제원자력기구 IAEA와 같은 인공지능 통제 국제기구도 필요한 시점이라고 말하고 싶다.
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 13일, 부산, 울산, 경남 건조특보 발효...산불 등 화재 예방 유의
  2. 2심리지배가 부른 '거제 옥포항 변사사고', 가스라이팅 범죄 인정될까
  3. 3어머니 이름 도용해 빌린 돈 도박에 탕진한 아들… 징역 1년 선고
  4. 4中 지분 25% 넘는 기업, 美 전기차 보조금서 제외…K-배터리 촉각
  5. 5국내 휘발유·경유 8주 연속 하락…OPEC+ 감산 영향 촉각
  6. 6양산시 물금읍 아파트 1층 화재…2명 화상, 20명 대피
  7. 7일본·독일 출자 스타트업, 2025년부터 차세대 반고체 배터리 공급
  8. 8부산, 울산, 경남 동쪽 대기 매우 건조… 아침 기온 영하권
  9. 9文 이성윤 검사 신간 추천에 與 "선거공작 사죄부터"
  10. 10尹, 자승스님 분향소 찾아 조문 "큰 스님 오래 기억하겠다"
  1. 1文 이성윤 검사 신간 추천에 與 "선거공작 사죄부터"
  2. 2尹, 자승스님 분향소 찾아 조문 "큰 스님 오래 기억하겠다"
  3. 3엑스포 유치전 뛴 부산인사들 향후 거취는…
  4. 4인요한 최후통첩 “저를 공관위원장으로”…김기현 즉각 거절
  5. 5尹 노란봉투법 방송3법 거부권 행사…임기 중 세 번째
  6. 6당정 부산민심 달래기 “현안사업 차질없게 추진”(종합)
  7. 7野 주도 ‘손준성 이정섭 검사 탄핵안’ 국회 통과…헌정사상 두 번째
  8. 8이동관 방통위원장 탄핵안 처리 직전 전격 사의 표명
  9. 9노란봉투법, 방송3법 국무회의서 재의요구안 의결
  10. 10부산시선관위, 내년 4월 총선 선거비용제한액 발표
  1. 1中 지분 25% 넘는 기업, 美 전기차 보조금서 제외…K-배터리 촉각
  2. 2국내 휘발유·경유 8주 연속 하락…OPEC+ 감산 영향 촉각
  3. 3정부, 美 IRA 우려기업 발표에 긴급회의…"영향 면밀 분석"
  4. 4서면 NC백화점 9년 만에 문 닫는다…그 자리 46층 높이 4개 동 주상복합 추진
  5. 5소주 가격 낮춘다…정부, 국산 주류에 '기준판매비율' 도입
  6. 6다리 길~어 보이는 숏패딩, 올 겨울엔 ‘푸퍼 스타일’
  7. 7정부 "주요 김장재료 가격, 지난해보다 평균 10% 하락"
  8. 8식지 않는 글로벌 K-푸드 열풍…라면·김 수출 사상 최고 찍었다
  9. 9목발 투혼 최태원 “좋은 소식 못 전해 죄송”
  10. 10한국인 기대수명 52년 만에 첫 감소…83.6년→82.7년
  1. 13일, 부산, 울산, 경남 건조특보 발효...산불 등 화재 예방 유의
  2. 2심리지배가 부른 '거제 옥포항 변사사고', 가스라이팅 범죄 인정될까
  3. 3어머니 이름 도용해 빌린 돈 도박에 탕진한 아들… 징역 1년 선고
  4. 4양산시 물금읍 아파트 1층 화재…2명 화상, 20명 대피
  5. 5부산, 울산, 경남 동쪽 대기 매우 건조… 아침 기온 영하권
  6. 6해경 부산항공대 대형헬기, 방공식별구역 밖 응급환자 병원 이송
  7. 7엑스포 날개 꺾여도…가덕신공항 속도 낸다
  8. 8“사랑하는 엄마 아빠, 슬퍼말아요” 그림으로 되살린 故황예서 양
  9. 9근속수당 1만 원 인상 요구에 직장폐쇄…의료기기 공장 노사 마찰
  10. 10[카드뉴스]똑똑한 사람은 다 챙기는 2024년 혜택
  1. 1부산 아이파크 승강 PO 상대 2일 수원서 결정
  2. 2“건강수명 근육량이 결정…운동해 면역력 키워야”
  3. 3BNK도 극적 연패 탈출…서로를 응원하는 부산 농구남매
  4. 42030년·2034년 동계 올림픽 개최지, 프랑스 알프스·미국 솔트레이크 확정
  5. 5박효준 빅리거의 꿈 포기 않는다
  6. 6우즈 7개월 만에 공식경기…캐디 누가 맡나
  7. 7정용환 장학회 올해도 축구 꿈나무 14명 후원
  8. 8류현진 연봉 103억원에 캔자스행 유력
  9. 9울산, '파크골프장계 8학군' 변신 시도
  10. 10허재 두 아들 형제매치 & 신·구 연고구단 부산매치
우리은행
강동진의 도시이야기 [전체보기]
세계유산에 대한 오해 풀기
‘싱가포르다움’을 위한 그들의 선택
과학에세이 [전체보기]
아무도 모르는 카르텔에 갇힌 韓 R&D 투자 철학
주연보다 빛나는 조연
국제칼럼 [전체보기]
‘지식 콘텐츠 챌린지’에 도전하기
기고 [전체보기]
차세대 해양정책리더 과정 통한 인재 발굴과 육성
최계락의 시동요 ‘꼬까신’
기자수첩 [전체보기]
김해외국인노동자센터 예산삭감 재고를
교권회복 시킨다더니…교육부, 교사 집단연가에 으름장
김갑수의 생각 [전체보기]
꼰대세상
파격적 세대교체를 소망한다
김석환의 이미 도착한 미래 [전체보기]
농부는 굶어 죽어도, 씨앗은 안고 죽는다
‘달’ 대신 ‘손가락’만 보세요
김용석의 시사탐방 [전체보기]
연례행사 노벨상에 유감 있다면
양말 뒤집어 신기
김지윤의 우리음악 이야기 [전체보기]
전통음악 교육 활성화를 기대하며
예술과 공간이 만난 신개념 방중악
뉴스와 현장 [전체보기]
노인을 위한 공연장은 없다
부산 스포츠 ‘마 함 해보입시더’
도청도설 [전체보기]
무인도는 죄가 없다
서울의 봄
박상현의 끼니 [전체보기]
참새구이와 어묵
일본의 계단식 논과 덴피보시
사설 [전체보기]
성장 잠재력 큰 부산 강서구, 인프라 확충 시급하다
내년 전망치 줄줄이 하향…한국 경제 탈출구 찾아라
세상읽기 [전체보기]
웃음은 의외로 강력하다
노인빈곤, 국민연금 개혁과 정년연장이 답
이상이 칼럼 [전체보기]
복지국가 정치가 절실한 이유
실손의료보험 청구간소화와 의료민영화
이해인 수녀 '기도의 창가에서' [전체보기]
저무는 11월에 - 턴 투워드 부산
환대에 대한 생각들
이홍의 세상현미경 [전체보기]
독일을 보면서 곱씹어보는 교훈
골짜기 세대
인문학 칼럼 [전체보기]
사라진 낙동강 뱃길
을숙도 갈숲이 전하는 말
장병윤의 대안 모색 [전체보기]
오! 홍범도
야만의 과학
전호환의 두잉세상 [전체보기]
펫팸족과 신성장동력 펫코노미
베로나 아레나 오페라 페스티벌
차재원의 정치평설 [전체보기]
진짜 ‘영남 스타’가 되려면
잼버리 파행을 부산엑스포 전화위복으로!
최태호의 와인 한 잔 [전체보기]
처음이란 무엇인가? 조지아 와인
사랑의 묘약, 와인
특별기고 [전체보기]
부산의 위대한 도전은 계속 된다
수산업 몰락 재촉하는 후쿠시마 방사능 선동
하순봉의 음악이야기 [전체보기]
미니멀 음악
12음기법
황정수의 그림산책 [전체보기]
윤재 이규옥의 ‘고진감래’
화가 장욱진이 온다
CEO 칼럼 [전체보기]
호모 프롬프트 시대와 부산 MICE 산업
스타트업정신으로 무장한 창업가들
  • 제25회 부산마라톤대회
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내
스토리 박스