2
부산메디클럽

[과학에세이] AI 윤리교육은 왜 필요한가?

남승훈 ㈔출연(연)과학기술인협의회 총연합회 명예회장

  • 남승훈 ㈔출연(연)과학기술인협의회 총연합회 명예회장
  •  |   입력 : 2023-06-05 19:34:00
  •  |   본지 18면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
과학기술의 발달 속도에 맞춰 사회 변화가 빠르게 일어나는 경우, 기존 법과 질서, 윤리가 그 속도를 쫓아가지 못하는 현상은 인류사에서 흔하게 관측되는 풍경이다. 최근 인공지능(AI)이 빠르게 발전하면서 인공지능 분야에도 이 같은 현상이 나타나고 있다.

출시 두 달 만에 1억 명 사용자를 돌파한 인공지능 챗봇 ‘챗GPT’에게 윤리적 논란을 빚을 수 있는 답변을 유도하는 질문법이 온라인상에서 공유되면서 인공지능 윤리 문제가 불거졌다.

인공지능의 윤리 문제는 앞선 AI 모델들도 피해 가지 못했다. 2015년 구글 포토가 흑인 커플 사진을 ‘고릴라’로 분류해 큰 물의를 일으켜 알고리즘을 수정하는 사건이 있었고, 2016년 마이크로소프트(MS)의 채팅봇 ‘테이’는 악성 사용자들과의 대화로부터 학습한 백인 우월주의 및 여성 혐오를 바탕으로 비윤리적인 대화를 수행해 출시 16시간 만에 운영 중단됐다. 2020년에는 국내 인공지능 스타트업 회사 ‘스캐터랩’이 개발한 AI 챗봇 ‘이루다’는 인공지능과 대화를 하는 혁신적 기술로 주목받았지만 인공지능을 향한 사용자들의 윤리 문제가 있었고, 이를 학습한 ‘이루다’가 약자 혐오 등의 발언을 하는 AI 윤리 문제까지 일어나 출시 20일 만에 서비스를 중단해야 했다.

이처럼 인간과 인공지능 사이의 상호적 윤리문제가 지속적으로 발생함에 따라 인공지능의 윤리적인 개발과 활용 방법을 연구하는 ‘인공지능 윤리’가 나란히 발전해 왔다. 인공지능 윤리는 인공지능의 개발자 제공자 사용자 등 모든 이해관계자가 준수해야 하는 도덕적 규범이자 자율규범으로, 인공지능 사용으로 각종 비윤리적인 행동이나 결과가 발생하지 않도록 사후적으로 방지하는 내용을 말한다.

구글, 마이크로소프트 등 IT 기업을 비롯해 유럽연합, 미국 등에서 평등한, 착한 AI를 위한 윤리 규범 및 가이드라인을 정립해 왔다. 우리나라 역시 2020년 12월 과학기술정보통신부를 필두로 사람이 중심이 되는 ‘인공지능(AI) 윤리기준’을 마련했다.

인공지능은 윤리 규정에 맞게 설계되었기에 윤리적 중립을 지켜 차별적이거나 혐오 표현, 정치적 민감도가 높은 질문에는 기본적으로 답할 수 없다. 그러나 이러한 답변 제한을 교묘하게 우회해서 차별적이거나 폭력적인 답변을 유도하는 ‘탈옥(Jailbreak)’ 혹은 ‘우회(Bypass)’ 방법을 적용하면 이러한 규정이 힘을 쓸 수 없게 된다. 또한 이제까지 출시된 AI 중 가장 지능화된 ‘챗GPT’의 파급력은 표절, 저작권 침해, 범죄 이용 등 악용사례 속출로도 이어져 AI의 윤리적 활용에 대해서도 사회적 논의가 필요하다.

실제 지난달 국내 한 국제학교에서 챗GPT를 활용해 영문 에세이를 제출한 학생들이 0점 처리되는 일이 발생한 것으로 알려졌다. 보고서 과제가 많은 대학가에도 챗GPT를 활용했다는 경험담이 속속 나오고 있다. 이 같은 표절 문제가 교육 현장에 빠르게 확산되는 건 시간문제라는 우려가 나오고 있다. 필연적으로 AI와 공존할 미래 세대에게 AI 윤리 교육이 필요하다는 여론이 강해지고 있는 이유이다. AI의 윤리적 문제들은 AI가 학습할 데이터를 제공하는 사용자의 윤리 의식에서 기인하기 때문이다. 편향적인 윤리의식은 나쁜 AI를 만들고 AI의 악용은 과학기술 발달을 저해한다.

사티아 나델라 마이크로소프트 CEO는 “인공지능이 우리가 일하는 방식을 근본적으로 바꾸고, 생산성 증대의 새로운 물결을 일으킬 것”이라고 강조했다. 이를 증명하듯 많은 기업이 전화 상담 대신 AI 상담을 진행하고 있으며, 현재 가장 인기 있는 인공지능 챗GPT는 학습에서 마케팅까지 전방위적으로 쓰이고 있다.

인공지능과 함께하는 시대적 흐름은 거스를 수 없다. 과학기술 발달을 저해하지 않고 윤리문제를 해결하기 위해서는 사용자들이 스스로 인공지능을 책임감 있게 사용할 수 있도록 윤리적 역량을 키워줘야 한다. 단순히 교과서적 윤리 지침을 읊으라는 교육이 아닌 과학의 발달과 상생할 수 있는 윤리 교육이 필요한 때이다.
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1[정가 백브리핑] 장제원 앞에서 尹에 ‘불쑥’ 송숙희 추천…사상구 미묘한 파장
  2. 2서금사 6·광안A구역, 망미주공…부산 재개발·재건축 ‘대어’ 시동
  3. 3독감·코로나에 폐렴까지…교실은 결석 속출, 병원은 북새통
  4. 4무주공산 ‘부산 중영도’…여야 후보군 자천타천 넘쳐나
  5. 5‘민주당 아성’ 김해, 변화바람 불까
  6. 6센텀 신세계百의 실험, MZ에 통했다
  7. 7거제 고층 아파트에서 화재…주민 19명 이송
  8. 8‘원자력안전교부세’ 9부 능선 넘었다
  9. 9강도형 해수부 장관 후보자, 음주·폭력 전과 드러나
  10. 1040대 노동자, 공장 지붕서 추락해 숨져
  1. 1[정가 백브리핑] 장제원 앞에서 尹에 ‘불쑥’ 송숙희 추천…사상구 미묘한 파장
  2. 2무주공산 ‘부산 중영도’…여야 후보군 자천타천 넘쳐나
  3. 3‘민주당 아성’ 김해, 변화바람 불까
  4. 4‘원자력안전교부세’ 9부 능선 넘었다
  5. 5‘尹대통령 거부권’ 노란봉투법 방송법 본회의서 폐기
  6. 6“서해 공무원 피살 文정부 방치·은폐”
  7. 7尹, 11일 네덜란드 국빈 방문…반도체동맹 구축 등 논의키로(종합)
  8. 8'조선업 하청노동자 밀집' 거제에 주민이 만든 지원 조례 생긴다
  9. 9부산 북구 금곡·화명신도시 등 노후 신도시 재건축·재개발 탄력
  10. 10초접전지 ‘낙동강 벨트’…여야, 선거구 조정안 유불리 촉각
  1. 1서금사 6·광안A구역, 망미주공…부산 재개발·재건축 ‘대어’ 시동
  2. 2센텀 신세계百의 실험, MZ에 통했다
  3. 3강도형 해수부 장관 후보자, 음주·폭력 전과 드러나
  4. 4고리1호기 내년 해체…尹정부 처음으로 '시점' 제시
  5. 5샌드위치·라테에 푹…딸기에 빠진 유통가
  6. 6중견기업 정책금융 보증 확대…최대 500억 원까지 늘린다
  7. 7중국, 이번엔 화학비료 '인산암모늄' 수출 통제…관련주 급등
  8. 8국제유가 69달러까지 하락…부산 휘발유 5개월來 1500원대
  9. 9공동어시장 ‘선어 선별기’ 이달 시범운영
  10. 10‘영화 호캉스’ 오붓하게 즐겨볼까
  1. 1독감·코로나에 폐렴까지…교실은 결석 속출, 병원은 북새통
  2. 2거제 고층 아파트에서 화재…주민 19명 이송
  3. 340대 노동자, 공장 지붕서 추락해 숨져
  4. 412월의 봄?…부산울산경남 20도까지 올라
  5. 5조민 측, '부산대 의전원 입시비리' 첫 재판서 "혐의 인정하나 기소 무효돼야"
  6. 6'충무공 밟는다' 논란에 부산 용두산공원 바닥 타일 교체
  7. 7부산 북항 변전실서 화재…7부두 등 운영 중단 뒤 복구(종합)
  8. 8여학생 등 16명 60차례 몰카…檢, 전 부산시의원 징역 3년 구형
  9. 9부산 북항 변전실서 화재…제7부두 등 단전에 운영 중단
  10. 10창원상의 차기 회장 최재호 무학 회장 유력(종합)
  1. 1비기기만 해도 1부 승격…아이파크 한걸음 남았다
  2. 2물 오른 손흥민·황희찬, 불 붙은 EPL 득점왕 경쟁
  3. 3김하성 “공갈 협박당했다” 국내 야구후배 고소 파장
  4. 4이정후·김하성, 빅리그 한솥밥 가능성
  5. 5이소미, LPGA Q시리즈 공동 2위
  6. 6오현규 시즌 두 번째 멀티골…셀틱 16경기 무패행진 견인
  7. 7거침없는 코리아 황소…결승골 터트리며 8호골 질주
  8. 8페디 결국 NC 떠나네…시카고 화이트삭스 간다
  9. 9오타니, 다저스·토론토 어디로 가나
  10. 10동의대 전국대학 미식축구 준우승
우리은행
강동진의 도시이야기 [전체보기]
세계유산에 대한 오해 풀기
‘싱가포르다움’을 위한 그들의 선택
과학에세이 [전체보기]
수학의 점과 물리의 점
아무도 모르는 카르텔에 갇힌 韓 R&D 투자 철학
국제칼럼 [전체보기]
‘지식 콘텐츠 챌린지’에 도전하기
기고 [전체보기]
대전환의 시대, 북극 협력 새로운 길 모색하다
잊고 지냈던 나림 선생과의 재회…깊고 넓은 숲의 울림이 찾아왔다
기자수첩 [전체보기]
김해외국인노동자센터 예산삭감 재고를
교권회복 시킨다더니…교육부, 교사 집단연가에 으름장
김갑수의 생각 [전체보기]
이재명 대표께
꼰대세상
김석환의 이미 도착한 미래 [전체보기]
농부는 굶어 죽어도, 씨앗은 안고 죽는다
‘달’ 대신 ‘손가락’만 보세요
김용석의 시사탐방 [전체보기]
연례행사 노벨상에 유감 있다면
양말 뒤집어 신기
김지윤의 우리음악 이야기 [전체보기]
전통음악 교육 활성화를 기대하며
예술과 공간이 만난 신개념 방중악
뉴스와 현장 [전체보기]
2035 재도전 합리적 검토를
노인을 위한 공연장은 없다
도청도설 [전체보기]
무자녀 세금
정보경찰 축소
박상현의 끼니 [전체보기]
밤과 몽블랑
참새구이와 어묵
사설 [전체보기]
소득 저축 바닥권 부산, 양질 일자리가 해법이다
울산 대규모 정전…한전 전력관리 점검 서둘러야
세상읽기 [전체보기]
부산 해사법원 설치 더는 미룰 수 없다
웃음은 의외로 강력하다
이상이 칼럼 [전체보기]
복지국가 정치가 절실한 이유
실손의료보험 청구간소화와 의료민영화
이해인 수녀 '기도의 창가에서' [전체보기]
저무는 11월에 - 턴 투워드 부산
환대에 대한 생각들
이홍의 세상현미경 [전체보기]
독일을 보면서 곱씹어보는 교훈
골짜기 세대
인문학 칼럼 [전체보기]
중세 고려의 소와 소고기
사라진 낙동강 뱃길
장병윤의 대안 모색 [전체보기]
오! 홍범도
야만의 과학
전호환의 두잉세상 [전체보기]
펫팸족과 신성장동력 펫코노미
베로나 아레나 오페라 페스티벌
차재원의 정치평설 [전체보기]
진짜 ‘영남 스타’가 되려면
잼버리 파행을 부산엑스포 전화위복으로!
최태호의 와인 한 잔 [전체보기]
처음이란 무엇인가? 조지아 와인
사랑의 묘약, 와인
특별기고 [전체보기]
부산의 위대한 도전은 계속 된다
수산업 몰락 재촉하는 후쿠시마 방사능 선동
하순봉의 음악이야기 [전체보기]
미니멀 음악
12음기법
황정수의 그림산책 [전체보기]
윤재 이규옥의 ‘고진감래’
화가 장욱진이 온다
CEO 칼럼 [전체보기]
호모 프롬프트 시대와 부산 MICE 산업
스타트업정신으로 무장한 창업가들
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내
스토리 박스