바이러스로 인해 고통스런 한 해지만 계절은 어김없이 순환한다. 규칙적으로 반복되는 변화 덕분에 인류는 과학이 없었던 오래전부터 때에 맞춰 씨를 뿌리고 거둬 저장하는 일을 체득할 수 있었다. 과학은 이러한 질서 체계를 설명하는 원리를 발명함으로써 많은 현상을 예측 가능하도록 만들었다. 이따금씩 출현해 두려움이나 행운의 징조로 여겨졌던 혜성도 주기적으로 태양을 도는 천체일 뿐이었다.

그리스의 수학자이자 자연철학자인 피타고라스는 자연의 질서와 조화가 수(number) 안에서 구현된다고 생각했다. 그는 자연수의 비로 주어지는 유리수를 통해 화음의 단계인 옥타브 체계를 만들었다. 옥타브를 구성하는 도레미파솔라시는 모두 그 주파수의 비가 유리수가 되는 음들이다.

최초로 운동의 수학적 원리를 만든 뉴턴역학도 자연에 내재한 심오한 질서를 드러내기 위한 여정을 걸었고 매우 성공적이었다. 20세기에 뉴턴 물리학을 뛰어넘은 양자역학은 확률을 도입함으로써 우연의 요소를 발견했지만 여전히 확률의 범위 안에서 예측 가능한 세계에 대한 탐구였다. 질서란 기본적으로 단순함을 전제로 하는데 그것은 매우 적은 구성요소들이 ‘선형적’인 상호관계를 맺고 있을 때 가능하다. 선형적이란 자극과 반응이 비례함을 뜻한다. 그런 점에서 뉴턴역학이나 양자역학 모두 단순한 시스템을 그 대상으로 하고 있다.

그런데 잘 알려져 있듯이 피타고라스 학파의 문도 히파수스는 자연수의 비로 주어질 수 없으며 전혀 규칙성이 없는 무한 소수로만 표현되는 무리수가 존재한다는 사실을 알아냈다. 무리수는 피타고라스의 믿음에 근본적으로 반하는 수였기 때문에 학파는 히파수스를 살려두지 않았다. 이후로 2000여 년이 지난 19세기 말 수학자 칸토어에 의해 실수(real number)는 빈틈없이 채워진 무리수의 바다 위에 유리수가 질서의 섬처럼 존재하는 세계임이 드러났다.

실제 세계는 어떠할까? 행성의 운동이나 흔들리는 진자와 같은 규칙적인 질서의 바탕에 불규칙한 복잡함이 바다처럼 채우고 있다고 여겨진다. 즉 우리가 속한 세계는 많은 구성요소들이 서로 비선형적 관계를 맺으며 불안정하고 예측이 어려운 현상들로 충만해 있다. 그런데 ‘혼돈의 가장자리’라 불리는 이 상황은 매우 역동적이어서 질서를 새로 만드는 창조의 영역이기도 하고 기존 질서를 무너뜨리기도 하는 파국의 영역이기도 하다. 단순함으로 인해 변함없이 유지되는 안정된 질서와는 근본적으로 다른 ‘복잡한 질서’다.

생명체, 생태계의 진화, 지구의 기후, 나아가서 경제 시스템, 인간 사회, 역사의 과정 모두가 여기에 속한다. 다윈이 쓴 ‘종의 기원’의 마지막 문장을 보면 그가 이 사실을 정확히 인식했음을 알 수 있다.

“처음에 숨결이 불어넣어진 생명이 불변의 중력 법칙에 따라 행성이 회전하는 동안 여러 가지 힘을 통해 그토록 단순한 시작에서 가장 아름답고 경이로우며 한계가 없는 형태로 전개되어 왔고 지금도 전개되고 있다는, 생명에 대한 시각에는 장엄함이 깃들어 있다.”

20세기 말에 이르러 일부 과학자들은 애초부터 있었던 안정된 질서에 대한 탐구에서 벗어나 복잡하고 불규칙함에서 나오는 역동적인 세계, 혼돈의 가장자리를 탐구하기 시작했다. 이 분야를 ‘복잡계 과학’이라 부르고 있고 물리학자뿐만 아니라 생태학자, 경제학자, 사회학자 등이 참여하고 있다. 모두 복잡한 질서가 탄생하고 사라지는 모습을 탐구하는 연구자들이다. 따라서 복잡계 과학은 인류의 삶의 여정에서 겪는 경이롭고 기쁘고 슬픈 일들의 기원을 알 수 있도록 할 것이다.

‘장자(莊子)’에도 “다스림을 주장하며 어지러움을 무시하면 천지의 이치와 만물의 정에 밝지 못한 사람이다(師治而無亂乎 是未明天地之理 萬物之情者也)”는 말이 나온다. 자연은 본질적으로 단순함과 복잡함이 어우러진 조화의 시공간이다. 거대한 전환의 시기를 맞아 우리의 지적 탐구도 창조와 파국이 벌어지는 혼돈의 가장자리로 더 다가가야 할 때이다.

지순협대안학교 교수·‘시민의 물리학’ 저자