■ 수학의 모험: 철학자 이진경이 만난 천년의 수학 | 이진경 저 | 생각을말하다 | 364쪽
이 책은 17세기부터 19세기에 이르기까지 근대 과학혁명의 기초를 세운 수학자들의 위대한 발견과 도전을 다룬다. 운동에서 법칙을 발견하고 수학의 계산가능성을 확장한 미적분으로부터 수학의 개념을 파생ㆍ변환하면서 확립된 해석학, 기하학, 집합론에 이르기까지 수학사를 바꾼 발견들이 파노라마처럼 펼쳐진다. 수학자들의 극한의 상상력이 어디까지 나아가는지도 볼 수 있다.
수학적 사고는 계산을 확인하는 협소한 체계가 아니다. 수학은 전제나 공리를 의심하는 근원적 사유의 공간이다. 이런 점에서 비판적 사유를 제공하는 철학이라 해도 좋을 만큼 본질적이다. 수학은 자명해 보이는 것에 대해서도 이유를 따져 묻고 적절한가의 여부를 증명한다. 그래서 집합론의 창시자 칸토어는 “수학의 본질은 자유다”라는 유명한 말을 남겼다. 지배적인 사고에 얽매여서는 수학적 사유를 창안할 수 없기 때문이다.
이런 의미에서 수학은 하나의 ‘사고방식’이며 ‘삶의 방식’이다. 이는 근대 초기의 중요한 수학자들이 과학자인 동시에 철학자였다는 사실에서 알 수 있다. 역으로 대부분의 철학자들이 수학을 통해 자신의 새로운 사유를 발전시켰다는 것 역시 수학이 철학적 사유의 지반임을 말해준다. 그런 의미에서 수학은 이미 하나의 철학이다. 그것은 당연시된 모든 것에 의문의 화살을 쏘고 종종 그 기반을 뒤집어버리는 전복적이고 혁명적인 사유의 양상들을 담고 있다. 집합론을 창시한 칸토어는 당대 수학자들로부터 미치광이 취급을 받았지만 그의 시도는 새로운 사유를 촉발하고 자극함으로써 수학의 지반을 광대하게 넓혔다. 그래서 수학 공식과 정리에는 수학자들의 갈등과 고통, 꿈틀대는 사유의 궤적이 스며 있다.
수학자들은 자연을 수학화하려는 야심가들이었다. 근대 과학의 아버지라 불리는 갈릴레오는 물체의 자유낙하를 수학 공식으로 바꾸었고, 케플러도 태양계 행성의 운동 법칙을 눈이 멀도록 계산했다. 라이프니츠와 뉴턴은 지구상의 모든 운동을 미적분 공식으로 간단히 계산하려고 했다. 미적분의 발견은 자연을 계산가능성의 세계로 포섭하려는 보편수학의 가능성을 열어젖혔다. 하지만 0은 아니지만 0에 가까운 '무한소'의 역설이 수학자들을 끊임없이 괴롭혔다. 풀리지 않은 역설은 수학의 지반을 아슬아슬하게 흔들었다. 불완전한 무한소 개념 위에서 정립된 해석학, 2천 년간 불변의 진리로 여겨졌던 평행선 공리를 뒤엎은 비유클리드기하학, 모든 집합들의 집합은 존재하지 않는다는 칸토어의 역설 등 모순과 역설 앞에서 수학은 기초가 취약한 지식 체계임이 드러났다.
그럼에도 안정적이고 불변적인 수학의 기초를 확립하려는 수학자들의 고투는 계속되었다. 기하학은 불변성을 확보하고자 노력했고, 칸토어는 수의 기초를 확고히 하고자 집합의 개념을 창안했지만 역설에 부딪혀 좌절하고 만다. 역설은 논리학과 수학 전반의 문제였다. 힐베르트는 수학의 형식 체계를 구축하기 위해 공리계의 모든 명제가 증명 가능하고(완전성), 서로 모순된 결과를 끌어내지 않는다는 것(무모순성)을 증명하려는 야심한 기획을 내놓지만, 어떤 공리계도 자신의 완전성과 무모순성을 증명할 수 없다는 것을 증명한 괴델의 정리로 수학자들의 진리 게임은 무산된다. 괴델의 불완전성의 정리는 수학자들이 좋아하는 진리란 수학에는 존재하지 않는다는 일종의 선언이었다.
저자는 단순히 수학 천재들이 발견한 공식의 원리나 수학사의 흐름을 기술하는 데서 멈추지 않는다. 새로운 상상력으로 그 뿌리까지 흔들어버리는 사유의 방식, 익숙한 관념에 갇힌 낡은 사고를 깨우는 수학적 발상법을 들려준다. 수학을 그저 끔찍한 과정으로 이해하는 많은 사람들에게 수학은 약동하는 시대정신이며 삶의 문제임을 이야기한다.
