- 美 인지과학자 80년대 ‘新고전’
- 수학자 괴델의 ‘불완전성 정리’
- 판화가 에셔 작품 속 무한 순환
- 작곡가 바흐 돌림노래 ‘카논’ 등
- 출발점 되돌아오는 패턴 발견
- 유기물질 뇌 속 의식과정 설명

- 컴퓨터 막 산업 접목되던 시대
- 인공지능 인간 두뇌 재현 타진
- 역저로 평가… 퓰리처상 받기도

이 책을 읽기 전에 두 가지를 알아 두자. 진짜 주인공은 괴델 에셔 바흐가 아니라 인공지능 씨라는 점. 40여 년 전 출간된 ‘신고전’인데 당시 각국 독서계를 ‘찢었다’는 사실.

호프스태터는 괴델 ‘불완전성 정리’에서 인공지능 개념을 영감받았고, 이 영감은 여러 에셔 판화 작품 중 ‘화랑’(1956년)에서 가장 번뜩였다고 설명했다.

책 주제는? 마음·생각·기억·정신·감정·의식·자아다. 늘 우리와 함께해도 정체를 알려주지 않는 그들. 그냥 자연스럽게 받아들여왔다. 한가지 확실히 아는 건 이들이 손톱이나 이빨이 아닌 뇌에서 생긴다는 사실이다. 유기물질 덩어리인 뇌에서! 뇌 궁금증이 제법 풀렸다. 기억이 저장되는 곳은? 뇌 신경세포체(뉴런) 간 접속 부위(시냅스). 어떻게? 시냅스가 활성을 띠면 기억은 부호로 그곳에 간직되고, 기억하라는 명령을 받으면 뉴런에서 나온 특수 단백질로 기억 구조물이 허물어졌다가 다시 조립된다.

기억이 가물가물한 건? 앞서 말한 조립이 시원찮게 돼 그렇다고 본다. 잘못 조립되면 착각하거나, 재생이 안 되기도 한다. 기억은 믿을 수 없다는 말이다.

뇌에서 발생하는 일을 이렇게 언어로 설명하는 건 어렵잖다. 그렇다면 의식이 나오는 과정을 화학 생물학 분자식으로 표시하는 게 가능할까. 저자는 일단 그런 반응식을 쓰는 게 가능하다는 쪽에 손을 들어준다. 문제는 너무 복잡해 현재 인류 기술론 감당할 수 없다는 거다. 그게 성공하면 빅뱅이다. 치매 같은 난치병도 정복될 게 분명하다. 나쁜 기억과 달갑지 않은 욕망을 지우는 게 가능해진다.

현대 문명 총아인 컴퓨터는 뇌 연구에 새로운 길을 내놓았다. 기계두뇌, 즉 인공지능(AI)을 불러들였다. 40여 년 전 AI가 산업에 접목한 시절, 호리호리한 30대 인지과학 전문가가 책 한 권을 내놓았다. AI가 어느 수준까지 인간 두뇌를 재현하는 게 가능한지를 타진한 ‘괴델 에셔 바흐’(1979년). ‘Godel’ ‘Escher’ ‘Bach’ 머리글자를 따 ‘GEB’로도 불린다. 부제가 화려하다. ‘An Eternal Golden Braid(영원한 황금 노끈)’.

저자는 수학자 괴델-판화가 에셔-음악가 바흐에게 감탄한다. 그들 3명이 각각 빚어낸 언어로 된 수학 정리, 눈으로 보는 평면인 판화, 귀로 듣는 돌림노래인 카논에서 자신 주장을 밝히는 빛을 찾아냈다. 인간 지성이 낳은 위대한 창작물이랬다.

저자는 현재 미국 인디애나대 교수인 더글러스 호프스태터(77). 이 GEB는 전문성·대중성이 뛰어난 역저로 인정받아 퓰리처상과 전미도서 대상을 탔다. 그는 10대 때부터 “유기물질로 이루어진 ‘물렁물렁한’ 뇌에서 이성이 나오는 과정”이 무척 알고 싶었다. 저자 결론은 이렇다. “뇌 속엔 무의미한 기호인 무생물 분자와 유의미한 패턴이 다층 구조로 떠다닌다.” 이 층들은 회전하고 뒤틀리는 ‘이상한 고리’로 이어지고, ‘뒤엉킨 계층 질서’를 보인다.

저자는 오스트리아 수리 수학자 쿠르트 괴델(1906~1978)이 제창한 ‘불완전성 정리’에서 첫 영감을 얻었다. 이 영감에 네덜란드 그래픽 예술가이자 판화가 마우리츠 코르넬리스 에셔(1898~1972)가 불을 댕겼다.

여기에 기름을 부은 예술가가 독일 작곡가이자 오르가니스트인 요한 제바스티안 바흐(1685~1750). 번지가 아주 달라 보이는 수학 정리-판화-악보(카논)에서 공통점, ‘이상한 고리’를 찾아냈다. G-E-B가 세 변인 ‘영원한 황금 펜로즈 삼각형’(책 표지 그림)을 떠올린 채 저자는 꼬박 6년간 이 책을 썼다.

바흐 카논 ‘음악의 헌정’도 저자에게 같은 영감을 줬다. ‘6성 리체르카레’ 중 마지막 악보.

■ 융합-통섭이 뭔지 보여주다

저자를 매료시킨 세 예술가는 세상에 무엇을 내놓았나. 괴델은 25세 때인 1931년 ‘불완전성 정리’를 발표해 ‘수학개벽’을 일으켰다. 수학자가 쓰는 어떤 체계에도 증명할 수 없는 명제가 반드시 존재한다는 주장이었다. 원자물리학에서 베르너 하이젠베르크(1901~1976)가 ‘불확정성 원리’로 한계에 부딪힌 인간 이성을 보여주었는데 괴델은 이 정리로 같은 일을 해냈다.

에셔는 실제라면 가능하지 않은, 왜곡되면서 무한 순환하는 평면 공간을 판화에 담았다. 판화 ‘폭포’나 ‘손을 그리는 손’은 영구히 출발점으로 돌아간다. ‘무한 자기 재귀성’이라 한다. 저자는 “뇌:유기 분자 덩어리(무생명체)에서 의식이 생기는 과정을 에셔는 판화로 보여준다”며 흥분한다. 덩어리 도형들이 점차 나비로 변해 날아가는 장면이 담긴 판화 ‘나비’를 보면 공감이 간다. 동형성 원리다.

바흐가 지은 카논 ‘음악의 헌정’은 무한히 상승하는 화성을 선보인다고 했다. 카논은 서양 고전 음악 형식으로 ‘다 같이 돌자 동네 한 바퀴’ 같은 돌림노래다. 이 카논 음부는 꼬리를 물고 순환한다. C단조→D단조→E단조→F#→A#→G#→A#→C단조. 셰퍼드 음계로 폐쇄된 고리가 생긴다. 저자는 “‘음악의 헌정’은 종지부에 도달해 끝나는가 했는데 어느새 새롭게 시작하는 도입부에 닿는, 즉 원래 문자 그대로인 리체르카레”라고 설명을 보탰다. 이 기악곡은 에셔 판화와 괴델 정리에서처럼 뒤엉킨 계층 질서를 갖췄다.

저자는 융합-통섭이 뭔지 보여준다. 수학 미술 음악 문학 언어 생물화학 선불교, 자연·인문과학을 넘나든다. 어려운 수학 개념과 주제가 많다. pq-체계, 두문자어 대위법, 자기 증식, 역설, 정수론, 대응, 덩이 짓기, 내포, 적격, 평행선 공준, 문자열, 동형성, 재귀, 칸토어 집합론, 혼계 질서…. 르네 마그리트 그림도 가끔 나온다. 어쨌든 읽어내면 머릿속이 배부르다. 이등변삼각형 두 밑각이 같다는 걸 기발하게 증명하는 ‘폰스 아시노룸 정리’(서기 300년) 같은, 간단하지만 평소 접하기 어려운 지식도 풍부하다.

■ 수정·보완이 어려운 이유?

서양식 사고, 구성주의 성향을 보여 미안하단다. 선불교 무(無) 화두도 수식으로 표시하려 애쓴다. (1장 ‘MU-수수께끼’) 이 장을 읽으면 일상을 인공지능 식으로 재구성하는 게 가능해진다. 가령, 직장인 A 씨가 신상품 판로 확대 방안을 짜다가 머리를 식힐 겸 인터넷 뉴스를 살피다 원래 일로 돌아간 상황이라 하자. 인공지능 언어로 설명해 보면 이렇다. ‘이 직장인은 두 가지 ‘층위’가 다른 작업을 벌였다. 판로 확대안 작성이라는 ‘높은 단계’ 과제를 ‘일시 중단’하고 ‘더 낮은 단계’ 과제인 뉴스 보기로 ‘푸시’한 후 ‘팝’해 ‘귀환 주소(원래 일)’로 돌아갔다. 그런 복귀(재귀)가 가능한 건 이 직장인 두뇌 속 ‘스택(임시기억장치)’이 작동(하던 일을 잠시 중단했기에 일을 재개해야 한다는 현실을 앎)한 결과다.’(5장 ‘재귀적 구조와 과정’)

이 책이 42년 전 나왔으니 보충할 게 많겠다. 2부 첫 번째 대화 ‘전주곡…’에 ‘페르마의 마지막 정리’가 나온다. 저자는 “페르마는 ‘n>2인 경우에는 해가 없다’고 했지만 이에 대한 증명이 아직 최근까지 이뤄지지 않았다”고 썼다. 하지만 옥스퍼드대 앤드루 와일즈(69) 교수가 1993년 300년 넘게 난공불락이던 이 난제를 풀었다. 아직 저자는 증보판 출간에 대해 고개를 설레설레. “GEB를 수정하려고 손대면 아예 새 책을 써야 하겠죠.”

10장부터 컴퓨터 얘기다. 이 책을 지은 목적을 드러냈다. “정신이라는 소프트웨어를 두뇌라는 하드웨어와 조화하는 방법을 제시하기 위해서.”

여성 과학자 에이다 러블레이스는 컴퓨터는 명령받은 것만 할 수 있다고 봤다. ‘컴퓨터는 생각할 수 없다’는 거다. 저자는 반대로, 인간 두뇌에 가까운 인공지능을 만드는 희망을 버리지 않는다. 그는 기계가 너무 복잡해지면 그것을 만든 인간이 제어하지 못하는 상황이 올 우려가 크다고 내다봤다. 빈발하는 전산망 사고를 보면 선견지명. 알파고 같은 슈퍼컴퓨터는 일부 능력에서 인간을 넘어섰다.

완벽한 인공지능은 탄생할까. 인간·기계가 공존하는 시대는 축복인가 악몽인가 하는 질문이 잇따른다. 아울러 40여 년 전, 아킬레스와 거북 제논을 등장시켜 쏟아낸 뜨거운 저자의 창의는 지금도 책장을 넘기는 손을 거쳐 가슴으로 밀려든다.