소수(素數)는 소수(小數)보다 소수(少數)다. 2 3 5 7 11 13 17…로 이어지는 소수는 무한하겠지만 드러난 소수는 유한하다. 가장 큰 소수로 발견된 50번째 메르센 소수는 2를 77,232,917번 거듭제곱한 다음에 1을 뺀 수다. 물론 51번째 이후 소수도 찾겠지만 아직 알려진 소수는 유한하다. 하지만 0과 1 사이에는 무한한 소수들이 있다. 그래서 소수(prime number)는 0.1과 같은 소수보다 적은 소수다.

이 글의 주제는 소수다. 원소(元素) 소(素)를 쓰는 소수(素數)다. 원소수, 즉 수의 원소인 소수는 간단치 않다. 7대 수학 난제들 중 소수와 관련된 리만 가설은 가장 난해하기로 악명높다. 악마적 속성을 가졌지만 천재 악마에게도 난공불락이란다. 증명불가한 치명적 독배란다. 세상에서 백만 달러를 버는 가장 어려운 일이 이 가설을 풀어 백만 달러 상금을 받는 것이라니… 얼마나 어렵기에? 굳이 어려운 걸 알 필요는 없다. 다만 소수가 무슨 의미인지 알 필요는 있다.

에우클레이데스(BC 330~275)는 소수의 개수가 무한함을 최초로 증명했다. 에라토스테네스(BC 273~192)는 2 3 5 7의 배수를 지워가며 소수를 찾았다. 메르센(Marine Mersenne 1588~1648)은 2의 n승-1의 값들 중에 소수가 나타난다고 밝혔다. 오일러(Leonhard Euler 1707~1783)는 소수가 원주율 π와 관계됨을 밝혔다. 가우스(Carl Gauss 1777~1855)는 소수가 자연상수 e와 관련됨을 밝혔다. 소수가 대표적 두 초월수인 π, e와 얽혀 있다니? 드디어 가우스의 제자였던 리만(Friedrich Riemann 1826~1866)은 1859년 8쪽짜리 논문을 발표했다. 그가 예상하는 가설이 증명되면 주어진 숫자보다 작은 소수의 개수를 분명히 알 수 있다고 했다. 리만 가설! 처음엔 만만하게 보였다. 그러나 증명하려다 뛰어난 수학자들이 좌절했다. 튜링(Alan Turing 1912~1954)은 리만 가설을 부정하려다 그만 의욕을 잃었다. 내시(John Nash 1928~2012)는 리만 가설을 증명하려다 그만 정신분열증을 앓았다. 아티야(Michael Atiyah 1929~2019)는 리만 가설을 증명했다며 설치다 말년에 그만 조롱거리가 되었다.

리만 가설을 집요하게 파고드는 수학자들이 있다. 증명에 성공한다면 상금 100만 달러는 하찮다. 엄청난 영예가 따른다. 소수는 단지 암호에 이용되는 부분적 도구로 그치지 않기 때문이다. 우주기원이나 원자속성을 궁극적으로 밝힐 수 있는 근원이기 때문이다. 삼라만상의 토대이론을 만들 수도 있다. 리만 가설에 관한 연구는 미시세계를 다루는 양자물리학과도 만났다. 리만 가설의 제타함수 값이 1/2축 일직선 상에서 하찮지않은(non-trivial) 영(0)점이 되어 연속하는 소수 배열의 간격은 원자핵 에너지 레벨의 간격과 일치한단다. 무척 어렵지만 신기신박신비신통하다. 인류는 해석적 수학, 대수적 수학, 비가환 기하학, 대통일 수학 등 고등수학 분야가 총동원되어 리만 가설을 풀어 소수의 비밀을 풀게 될까? 푼다면 창조주의 지적 설계도를 알 수도 있다. 인간이 무지해서 불규칙하며 무질서하게 보일 수 있는 소수의 규칙적 질서를 끝내 찾을 수 있을까? 그리 되면 우주가 열린 태초의 세계까지 이해될는지 모른다. 무지막지하게 작았던 그 때를…. 경성대 광고홍보학과 교수