흔히 수학은 문제를 푸는 분야로 취급된다. 하지만 수학 전공자들은 증명과 이론의 논리 구조 이해에 더 많은 시간을 보낸다. 실용적 계산은 오히려 공대생들이 더 잘할 수 있다. 연습용 문제 풀이가 개념형성에 도움을 줄 수 있지만, 그것이 수학의 본질은 아니다.

수학자의 문제는 입시 때 경험한 문제들과는 다른 느낌이다. 그들은 문제를 통해 의미를 찾아간다. 마치 하나의 화두에서 파생되는 여러 가지 질문들을 따라가다 갇혀있던 생각의 경계를 깨닫게 되는 구도자의 여정처럼 수학 문제는 경이로운 신세계를 향한 작은 문이다.

가령, 허수 i는 단순히 제곱하면 -1이 된다는 사실로 끝나지 않는다. 실재적 실수와 비실재적 허수를 넘나드는 연산은 순환 대칭 닫힘에 대한 새로운 관점으로 확장되며 요소가 되는 수들 사이의 연산적 관계에 대한 고차원적 안목은 개별 명제 사이의 논리 관계로 구축된 언어 세계와 입자 사이의 상호작용으로 유지되는 물질세계의 구조에 대한 통찰까지 제공한다. 측정 전의 가능성을 묘사하는 미시세계의 양자 파동함수 역시 실수와 허수가 혼재된 복소수로 표현된다. 실마리를 찾아가는 무의식적 과정에는 세상에 대한 가치관과 원형적 감성까지 소환될 수 있다. 그러므로 수학자는 철학자나 예술가와 다르지 않고 수식은 시에 가깝다. 인간적 관점에서 보자면 수학은 사상이고 창작이다. 하지만 입시 위주의 교육 현실에서 이런 견해에 공감하기는 쉽지 않다. 그저 제한 시간 안에 문제를 풀어야 하고, 자신이 적은 답안지는 모범답안과 비교될 뿐이다. 정답을 비껴간 생각을 타인에게 설명할 기회는 허락되지 않는다.

반면, 수학과 물리학에 오랜 전통을 지닌 나라의 교육방식은 조금 다르다. ○나 X로 가득한 시험 점수를 확인하는 것보다 대화와 토론이 주를 이룬다. 틀려도 자신이 시도한 방법의 이유와 근거를 설명해야 하며 스승은 정답을 설명하기보다 오답을 만들어낸 학생의 의도를 파악하는 데 많은 시간을 보낸다. 동료들도 틀린 길을 간 친구의 말을 끝까지 경청한다. 단순히 답을 찾기 위한 요령이 아닌 자신만의 눈높이에서 펼쳐낸 길고 긴 서사를 통해 씨앗이 된 생각에 대한 촘촘한 언어화가 이뤄지는 셈이다. 모양새만 보면 인문학 수업 같지 않은가.

이런 교육풍토는 정돈된 수학 이론에 대한 이해 방식에서도 차이를 드러낸다. 입시교육이 짧은 시간 안에 가장 효율적으로 문제를 풀 수 있는 전략적 기법에 집중하게 만드는 반면 서사적 수학 교육은 학생들이 자신만의 고유한 이미지를 지니게 만든다. 설령 그 모습이 기존 설명 방식과 달라도 개의치 않는다. 충분히 논리적이라면 스승과 동료들은 각자가 지닌 이미지를 존중한다. 이런 개성은 기회가 주어진다면 언젠가 난제를 해결할 독창적 발상으로 진화할 수 있다.

어릴 적부터 선행학습의 유행에 끌려오지만 최근 대학 신입생들의 수학 기초개념은 오히려 퇴보하고 있다. 사교육을 통해 배운 기법들은 당장은 수능점수를 올려줄 수 있겠지만 수학에 대한 자신만의 이야기를 만들어주지는 못한다. 초등학생 때 중학교 수학 문제를 풀고, 중학생 때 고등학교 수학 문제를 풀 수 있다는 사실보다 중요한 것은 내면화된 자신만의 수학적 서사다. 4차 방정식 풀이에 고무된 수학자들 대다수가 5차 방정식 해법에 집중했던 200여 년 전, 세상이 외면한 한 10대 소년은 수와 연산 사이의 관계와 대칭적 구조에 대한 독특한 관점으로 5차 이상의 방정식에는 대수적 해법이 존재할 수 없음을 알아냈다. 하지만 무명 시인의 유작 시처럼 스무 살에 생을 마감한 그의 수학적 서사가 세상에 드러나기까지는 오랜 시간이 필요했다.

올해 드디어 한국 출신의 수학자에게 필즈 메달이 수여되었다. 고등학교를 자퇴하기 전 그는 시인을 꿈꾸었단다. 수학 시간에도 학생들에게 자신만의 수학 이야기를 할 기회를 주면 어떨까. 이를테면 미술관 그림이나 시를 감상하듯 느리고 긴 마주하기를 통해 내면화된 각자의 수학적 서사와 다채로운 상상을 함께할 수 있는 문학적 수학 시간.

이제 우리도 점수와 시간에 대한 강박과 조급함을 내려놓고 수학을 문화로 즐길 수 있는 품격이 필요하다.

김광석 부산대 광메카트로닉스공학과 교수