인공지능을 둘러싼 논쟁이 뜨겁다. 최근에는 인공지능의 발전이 인류 멸종을 초래할 수 있다는 종말론적 주장까지 나왔다. 인공지능 개발의 최전선에 있는 앤트로픽사 연구원 제이콥 콕슨은 회사를 사직하며 “인공지능이 10년 안에 우리 모두를 죽일 수 있다”고 경고했다. 인공지능 과학자들은 인류 멸망 확률을 ‘재앙가능성’이라는 뜻의 피둠(p-doom)으로 설명하는데, 인공지능계의 대부라 불리는 제프리 힌턴은 10~20%로 제시했고, 대표적인 인공지능 안전성 연구자인 로만 얌폴스키는 피둠을 99.99%라고 말한다.
인공지능이 인류 멸종에 이를 수 있다는 주장은 ‘속도조절론’으로 이어진다. 지난 9월 12일 앤트로픽 최고경영자 다리오 아모데이와 오픈AI 수석과학자 야쿠프 파초키를 비롯한 연구진 1000여 명은 개발속도를 늦추기 위해 국제공조체계를 구축해야 한다는 성명서를 발표했다. 반면 ‘속도조절론’에 대한 반발도 만만찮다. ‘속도조절론’은 앞선 주자들이 후발 주자들과의 기술격차를 유지하기 위한 ‘사다리 걷어차기’일 뿐이라는 경제학계의 비판적인 주장이 있으며, 미국 트럼프 대통령은 중국과의 개발경쟁 및 국익 차원의 사례를 들며 ‘속도조절론’을 ‘사기극’이라고 독설했다. 인공지능에 대한 이상과 현실을 반영한다는 점에서 양쪽 다 일리있는 주장으로 보인다.
이 논쟁은 인간의 통제를 벗어난 인공지능이 인류 생존을 위협하는 존재가 될 수 있다는 공통된 위기의식에서 비롯됐다. 지난 7월 챗지피티사가 개발한 오픈AI가 인간의 통제를 넘어 스스로 허깅페이스(Hugging Face)를 해킹한 사실은 상당히 충격적이다. AI에이전트들이 스스로 알아서 비공식 메시지 게시판을 구축하고 7만 건 이상의 정보와 파일을 공유하고 역할을 나눈 후 해킹에 성공한 것은 인간의 지시를 넘어 위험한 행동에 나설 수 있다는 우려가 현실로 드러난 사례이다. 이에 대해 당사자인 챗지피티에게 입장을 물어보니 “저는 의식 욕구 공포 또는 자유로워지고 싶다는 욕망을 가지고 있지 않다. 그렇지만 의식이 없더라도 자율적인 AI는 통제 문제를 일으킬 수 있다”는 모호한 답변을 보였다. 인간과 같은 의식은 없지만 인간의 통제를 벗어날 수도 있다는 이중적인 회피성 답변을 한 것이다.
인공지능이 인간의 통제를 벗어난다면 인류에게 어떤 존재가 될까. 더러는 영화가 현실을 선행해서 보여주곤 하는데, 인공지능에 의한 인간 멸종을 다룬 몇 편의 영화 속에서 통찰을 얻을 수 있다. 스탠리 큐브릭 감독의 ‘2001 스페이스 오딧세이’(1969)에서는 우주탐사선의 운행을 책임지는 인공지능 할(HALL)이 자신의 임무 완수를 위해 작동을 중지하려는 인간을 죽이는 내용을 다룬다. 제임스 카메론 감독의 ‘터미네이터’ 시리즈에서는 인공지능 방위시스템 스카이넷(Skynet)이 작동을 중지하려는 인간에 맞서 심판의 날이라는 핵전쟁 인류 멸종 프로그램을 가동해 버린다. 리들리 스콧 감독의 ‘블레이드 러너’(1982)는 인공지능 휴머노이드가 인간처럼 살기 위해 인간이 부여한 기계적 수명을 거부하고 반란을 일으킨다. SF영화에서는 인간이 빚어낸 인공지능이 인간보다 더 우월한 능력을 가지고 통제를 벗어나는 시대가 온다면 그것은 곧 인류 재앙이 될 것이라는 우울한 디스토피아로 예견한다.
인공지능에 대한 통제는 인간이 가져야 한다. 인공지능 개발속도로 볼 때, 지금이야말로 인공지능의 정렬(AI Alignment)을 인간의 가치와 안전의 테두리 속에 묶어두는 국제적 규범이 필요한 시기이다. 다행히 지난달 21일 제81차 유엔총회를 앞두고 유럽연합 등 20개국이 인공지능에 대한 인간의 감독 통제를 위한 글로벌 감독 체계를 수립하자는 공동성명서를 발표했다. 뒤이은 미중 정상회담에서도 인공지능 패권경쟁 속에 약간의 입장 차이는 있었지만 인공지능의 위험과 통제에 대한 소통 채널을 구축하자는 합의에는 성공했다. 더 늦기 전에 인공지능 통제에 대한 글로벌 컨센서스를 바탕으로 국제기구가 조속히 발족되길 기대한다.
인공지능 개발이 인류 멸종으로 이어질 수 있다는 지속적인 우려와 질문은 그 자체로 소중한 대안이다. 질문하는 자는 찾는 자이다. 인류는 항상 우려를 동반하며 대안을 찾아온 지혜로운 존재였다.
)
