‘자비스’냐, ‘스카이넷’이냐. 인공지능(AI) 시대를 향한 시선은 두 가지로 엇갈린다. 기준은 AI가 사람을 위해 복무하는지 여부. 전자는 미국 영화 ‘아이언맨’에 나오는 AI 비서로, 사람이 원하는 지식은 무엇이든 묻는 즉시 알려준다. ‘AI 유토피아’의 이상적인 모델이다. 반면, 영화 ‘터미네이터’에 등장하는 후자는 ‘AI 디스토피아’를 상징한다. 스스로 진화해 의식을 획득한 뒤 핵전쟁을 일으켜 인류를 절멸 위기로 몰고 가기 때문이다.
최근 두 캐릭터가 스크린 밖으로 불려나왔다. ‘페이스북’의 최고경영자(CEO) 마크 저크버그와 ‘테슬라’의 CEO 일론 머스크가 벌인 ‘AI 논쟁’을 통해서다. 저크버그의 시선은 자비스, 머스크는 스카이넷에 각각 닿아 있다. “기술은 중립적이다. 인간이 쓰기 나름이다.”(저크버그) “AI는 인간 문명을 위협하는 존재다. 지금부터 규제해야 한다.”(머스크) 비현실적인 공상과학 얘기로 들릴 수도 있겠지만, AI가 넘볼 수 없는 금단의 영역이라고 여겼던 인간 최고의 지적 생산물인 바둑까지 익혀 고수들을 모두 제압한 ‘알파고’를 목격하지 않았던가. 국내 한 병원이 도입한 종양학 AI ‘왓슨’의 암 진단을 받은 환자들이 의사보다 왓슨을 더 신뢰한다는 설문조사 결과까지 나온 마당이다.
AI 도움으로 각종 난제를 풀어 삶의 질을 개선하길 바라면서 AI는 인류 문명의 필수 도구로 자리잡아 가고 있다. 해결이 어렵고 간절할수록 AI에 기대고 싶은 욕구는 커진다. 당면 세계 최대 현안으로 불거진 북핵 문제 해결 방안을 AI에게 물어보면 어떨까. 미국은 선제타격과 대화 카드를 번갈아 꺼내들고 북한을 압박하거나 달래지만, 북한은 이에 아랑곳없이 핵·미사일 능력을 고도화하고 있다. 이러다 보니 국내에선 야당에 이어 여당 일각에서도 전술핵을 배치하자는 극단적인 주장이 나와 한반도를 신냉전 상황으로 내몰고 있어서다.
이런 생각을 하는 건 북핵 문제 해결의 절박함도 있지만, 그만큼 AI가 우리 생활 가까이 다가와 있는 까닭이다. AI 사회에 드리운 밝거나 어두운 그림자도 차츰 현실성을 띠며 가시화하고 있다. 얼마 전 페이스북이 AI 챗봇(채팅로봇)끼리 사람의 대화로 협상하도록 훈련시켰더니, 사람이 이해할 수 없는 언어를 사용해 작동을 중단했다는 소식도 전해졌다. AI가 의식을 가질 수 있는 가능성을 보는 듯해 소름이 돋는다.
과연 그럴 수 있을까. 전문가들은 그 가능성을 일축하지는 않지만, 대체로 부정적인 전망에 더 힘을 싣는다. “기계는 사람의 프로그래밍에 따라 움직이니 프로그램이 제대로라면 의식을 가질 수 없다”는 것이다. 페이스북 챗봇의 이상 행태도 “챗봇이 인간의 언어를 이해하지 못해 빚어진 현상”이라고 해석한다. 그렇다면 AI 논쟁을 인식하는 근본시각을 새롭게 가다듬어야 할 필요가 있지 않을까. AI 문제를 프로그래밍하는 ‘사람의 문제’로 환원하자는 거다. 기계는 중립적이지만, 사람은 중립적이지 않아서다. 같은 사안이라도 처지에 따라 얼마든지 자신에게 유리한 비객관적인 가치를 부여할 수 있다는 뜻이다.
핵 문제에 대한 미국의 입장에서 이런 면모가 잘 드러난다. 미국은 자국의 핵무기가 세계 평화를 지키는 수단이라고 주장한다. 그러면서 다른 나라는 핵무기를 가져서는 안 된다고 못 박는다. 핵은 인류 공멸을 부르는 악일 뿐인데도 미국에는 좋고, 타국에는 나쁘다는 모순된 잣대를 들이대는 것이다. 미국은 이런 납득할 수 없는 논리를 앞세워 이란(1946년) 한반도(1950년) 이집트(1956년) 이라크(1958년) 베트남(1969년) 중동(1973년) 등지에서 핵 위협을 했다. 그 결과 미국 혼자였던 핵보유국이 러시아 영국 프랑스 중국 인도 파키스탄 등으로 늘어났고, 급기야 북한의 핵보유국 대열 합류가 임박한 상태다. 미국 주도의 ‘핵 평화’가 핵 위기의 확산을 부른 셈이다. “미국의 핵보유는 세계 불안정의 근원”이라는 비판이 제기되는 이유다.
중국의 최근 행태도 AI 논쟁의 핵심이 사람의 문제임을 웅변한다. 자국의 챗봇 ‘QQ샤오빙’ ‘베이비Q’가 누리꾼들의 질문에 “중국 공산당의 정치는 부패무능하다”는 등의 대답을 하자 중국 정부가 곧장 교정에 나섰다. 그 후 같은 질문에 “대화 주제를 바꾸자”는 등 표변한 답변을 내놓는다. 외신들은 ‘사상교육’을 받은 것으로 보인다고 한다. 이처럼 사람이 자신의 이해관계에 치우쳐 AI 프로그램을 조정한다면 결코 객관적인 문제 해결책을 얻을 수 없다는 건 자명하다. 되레 타인을 지배하는 나쁜 지식을 앞다퉈 생산함으로써 ‘AI 디스토피아’를 초래할 공산이 크다.
그래서 AI 논쟁은 결국 도덕 문제로 귀결된다. 특정인이나 집단이 아닌 모두에게 이로운 지식이 활짝 피어날 수 있는 ‘AI 윤리’가 먼저 확립되어야 한다는 얘기다. 이는 ‘AI 유토피아’를 여는 열쇠이기도 하다.
논설위원 yisg@kookje.co.kr
)
