스마트폰이 필수인 시대에 스마트폰에 연결된 이어폰의 줄이 꼬여 고생한 적이 있을 것이다. 그런데 이런 꼬임이 수학을 이해하는데 도움이 될 수 있다. 바로 매듭을 분류하고 이들의 변형을 연구하는 '매듭론' 덕분이다. 매듭론은 위상수학의 한 분야로, 순수 수학치고는 꽤나 구체적인 현실을 다룬다. 매듭론에서 다루는 매듭은 처음과 끝을 이어놓은 실, 즉 완전한 폐곡선(closed curve) 형태를 말한다.

매듭론이 폐곡선 형태의 구체적인 대상을 다루는 이유는 그 기원이 물리학의 소용돌이를 설명하는 과정에서 탄생했기 때문이다. 여기서 소용돌이는 흔히 생각하듯 물이나 공기가 뱅뱅 돌며 휘몰아치는 그 소용돌이다. 과학적으로 엄밀하게 정의하자면, 소용돌이는 유체의 일부가 원운동을 하는 부분을 이르는 말로, 별다른 방해가 없는 이상적인 상황에서는 폐곡선을 따라 영원히 회전한다.

이를 더욱 미시적으로 살펴보면 한 방향으로 흘러가는 듯 보이는 유체(fluid, 액체와 기체를 합쳐 부르는 용어)들도 미세한 소용돌이의 연쇄로 이뤄진다는 사실을 알 수 있다. 이를 체계화한 이론이 바로 유체에서의 소용돌이 이론, 흔히 보텍스(vortex)라고 말하는 이론이다. 보텍스 이론은 미세한 소용돌이가 최소 단위를 이루고 이들이 모여 커다란 유체의 움직임을 구성한다고 본다. 따라서 단위 소용돌이의 성질과 변화를 분석하면 전체 유체의 흐름도 예측할 수 있을 것이다.

매듭은 그것을 이루는 실이 서로 교차돼 꼬인 부분이 몇 개인지에 따라 구분한다. 가장 기본적인 형태의 매듭은 교차된 부분이 없는 원형이다. 원형 매듭은 중간을 끊지 않은 채 이리저리 복잡하게 꼬아 놓아도 꼬인 부분을 신중하게 풀어나가면 끈을 자르지 않고도 원래의 원형으로 되돌릴 수 있다. 실뜨기 놀이를 할 때 고리로 묶어 놓은 실의 모양이 다양하게 변화하지만, 손에서 빼는 것만으로 간단하게 원래의 원형 고리로 되돌릴 수 있다는 점을 생각해 보면 된다.

그렇다면 복잡하게 얽힌 두 매듭이 같은지 다른지 어떻게 알 수 있을까? 이를 설명한 사람이 독일의 수학자 쿠르트 라이데마이스터(Kurt Reidemeister)다. 라이데마이스터는 하나의 매듭이 같은 종류의 다른 매듭으로 변할 때 세 가지 변형을 거친다는 사실을 알아냈다. 막상 그림으로 보면 맥 빠지게 간단하고 자명해 보이는 개념이지만, 이를 통해 하나의 매듭이 어떤 매듭으로부터 변형된 것인지 증명할 수 있다. 바꾸어 말하면 라이데마이스터 변형으로는 결코 변하지 않고 보존되는 수학적인 양이 있어, 이 양에 따라 매듭을 구분할 수 있다는 뜻이다.

20세기 들어서는 대수구조를 이용하여 매듭을 함수 형태로 분석하기 시작하면서 본격적으로 체계화됐으며, 이 과정에서 땋임(braid)과 통합된다. 땋임이란 머리카락을 땋듯 몇 가닥의 실을 꼬아 놓은 모양을 일컫는다. 매듭과 달리 양쪽이 연결되지 않은 실 여러 가닥이 얽힌 모양이다. 땋임을 연결한 형태는 특정한 대수적 구조인 군(群)으로 정의할 수 있으며 이를 땋임군이라고 한다. 땋임군의 구조를 매듭에 적용하면, 서로 땋인 실의 아래쪽과 위쪽을 서로 연결할 때 매듭이 만들어진다는 사실을 확인할 수 있다.

복잡한 3차원 구조를 수학적으로 분석함으로써 어떻게 변형이 가능한지 예측할 수 있게 해준다. 대표적으로 활용되는 분야가 바로 분자생물학이다. 분자생물학에서 가장 중요한 연구 대상 중 하나가 DNA다. 유전 정보를 담은 DNA는 평소에는 차지하는 공간을 줄이기 위해 빽빽하게 꼬인 상태로 존재한다. 그러다 유전정보를 복제하거나 단백질을 만들어내야 할 때 잔뜩 꼬인 '나선 구조'를 풀어야 하는데, 효소가 가장 효율적으로 꼬임을 풀 수 있도록 DNA의 적당한 부분을 끊는다. 매듭이론은 이 과정을 분석하는 데 매우 요긴하다.

생물학 외에도 매듭론은 암호이론, 양자장 이론 등 여러 분야에 응용된다. 활용 범위가 넓은 만큼 매듭이론은 현대 수학에서 중요한 위치를 차지하고 있다. 단순한 고리에서 시작된 연구가 세상의 근본 원리를 탐구하는 열쇠가 된 것이다.

김택원 과학칼럼니스트

*본 콘텐츠의 저작권은 한국과학기술정보연구원(KISTI)에 있습니다