수학적 세계

The Mathematical World

 

수학이 불가사의한 다른 영역에 존재한다고 생각하는 철학자들이 있다. 그들은 틀렸다. 주위를 살펴보면 그것을 알 수 있다. 

 

―― 제임스 프랭클린(James Franklin)

 

수학은 무엇에 관한 것인가? 우리는 생물학이 무엇에 관한 것인지 알고 있는데, 그것은 살아있는 것들에 관한 것이다. 또는 더 정확히 말하자면, 살아있는 것들의 살아있는 양상에 관한 것인데, 창문 밖으로 내던져진 고양이의 운동은 물리학의 문제이지만, 그것의 생리는 생물학의 주제이다. 해양학은 해양에 관한 것이고, 사회학은 대규모의 장기적인 인간 행동에 관한 것이다. 기타 등등. 모든 과학과 그것들의 주제들이 제시되면, 수학이 관련된 실재의 어떤 양상이 남게 되는가? 그것이 수학의 철학에 있어서 기본적인 의문이다.

 

사람들은, 예컨대, 회계의 철학에 관심을 갖지 않는 식으로 수학의 철학에 관심을 갖는다. 그 이유는 수학의 확실성과 객관성, 그것의 단연코 굳건한 진리들의 확립이 다양한 일반적인 철학적 입장들에게 난제라는 점일 것이다. 그것과 관련하여 문제가 있는 것은 탈근대주의 같은 극단적인 회의적 견해들만이 아니다. 실재와 그것에 대한 우리의 지식에 관한 전적으로 '과학적인' 설명을 희망하는 모든 경험주의적 및 자연주의적 견해들도 그렇다. 문제는 수학이 참이라는 것이 아니라, 수학의 진리들이 절대적으로 필연적이며, 인간 정신은 그런 필연적인 것들을 확립할 수 있고 그것들이 왜 그래야 하는지 이해할 수 있다는 것이다. 물리적 뇌가 어떻게 그런 일을 할 수 있는지 설명하기 매우 어렵다.

 

수학적 필연성이 불편한 것이라고 인식하는 한 유명한 철학자는 피터 싱어(Peter Singer)이다. 윤리학에 관한 자신의 베스트셀러들 가운데 한 저작에서 그는, 수학에서 직관에 대한 가장 설득력 있는 사례가 옳지 않기 때문에 우리는 윤리적 진실을 직관하는 것에 의존할 수 없다고 주장한다. '수학의 기본적 진리들에 대한 자기 증거는... 수학을... 사용되는 술어들의 의미들 덕분에 참인... 동어반복의 체계로 간주함으로써... 설명될 수 없다'고 그는 말한다. 논리주의(logicism)라고 불리는 수학에 관한 이런 철학은 '보편적으로 수용되지는 않을지라도 널리 퍼져" 있다고 주장하는 점에 있어서 싱어는 틀렸다. 100년 동안 어떤 진지한 수학의 철학자도 그것을 수용하지 않았다. 그런데 싱어처럼 인간 직관의 기묘한 역능을 설명하고 싶은 사람이라면 누구나 수학에 관한 축소적 철학이 참이기를 바랄 것이라는 점은 명료하다.

 

'수학은 무언가에 관한 것인가?'라는 의문에 대해서는 두 가지 답, 즉 '그렇다'와 '그렇지 않다'가 있다. 둘 다 대단히 만족스럽지 않다.

 

'그렇지 않다'라는 대답을 견지하는, 유명론자들로 알려진 사람들은 수학은 하나의 언어일 뿐이라고 말한다. 이 견해에 따르면, 수학은 다른 것들에 관해 말하는 방식일 뿐이거나, 또는 (싱어가 주장하듯이) 논리적으로 사소한 것들의 집합체일 뿐이거나, 또는 규칙들에 따른 기호들의 형식적 조작일 뿐이다. 그것을 아무리 자르더라도 그것은 정말 무언가에 관한 것이 아니다. 학교에서 이루어진 수학과의 만남이 행복하지 않았던 사람들은('음 곱하기 음은 양이다/이것에 대한 이유는 논의할 필요가 없다') 유명론적 그림에 어떤 공감을 느낄 것이다. 게다가 그것은 실재에 관한 진지한 명제들을 자신의 과업으로 간주하는 물리학자와 공학자들에 호소력이 있는 견해이다. 그들은 라플라스 변환들과 '이론적 주스 추출기' 같은 다른 수학적 장치들의 도표들을 참조하는데, 그것들은 내용이 충실한 물리적 명제들로부터 여분의 의미를 얻는 데 유용하지만, 그것들 자체는 내용이 없다.

 

유명론(nominalism)은 어떤 실제적인 호소력을 지니고 있을 것이지만, 추가적인 성찰은 그것이 옳을 수 없다고 시사한다. 기호들의 조작이 기법으로서 유용할지라도, 우리는 수학이 어떤 의미에서 '저쪽에' 있는 영역과 관련하여 객관적인 발견을 해낸다는 강한 감각도 있다. 소수 분포의 미묘한 점들을 고려하자. 어떤 수들은 소수이고 어떤 수들은 그렇지 않다. 계란 한 다스는 6 × 2 또는 3 × 4 상자들로 배열될 수 있지만, 11 또는 13개의 계란을 한 계란 상자로 조직하는 매끈한 방식이 없기 때문에 계란은 11 또는 13의 배수로 판매되지 않는데, 12와 달리 11과 13은 소수이고 소수는 두 개의 더 작은 수을 곱함으로써 구성될 수 없다. 이 생각은 매우 파악하기 쉽다. 그런데 이것이 그런 상황과 관련하여 발견할 것이 아무것도 없다는 것을 의미하지는 않는다.

 

숫자들 사이에 소수들이 분포되는  방식은 유형과 불규칙성의 복잡한 상호 작용을 포함하는 것으로 판명된다. 작은 규모에서는 불규칙성이 가장 또렷하다. 도대체 어떤 소수도 나타나지 않은 채 길게 나열되는데, 사실상 무한정 길게 나열된다. 동시에, 무한히 많은 '소수 쌍', 즉 41과 43처럼 2만큼 차이가 나는 두 소수의 쌍들이 있는 것으로 널리 믿어진다.

 

대규모의 경우를 살펴보면, 무질서의 인상이 사라지고 결국 어떤 유형이 나타나기 시작한다. 수를 셈에 따라 소수들은 점점 더 희소해지는데, 큰 수 근처의 소수 밀도는 크기의 정도에 반비례한다. 예를 들면, 일조(10^{12}) 근처의 소수 밀도는 백만(10^6) 근처 소수 밀도의 절반이다. 소수 분포의 복잡한 것들에 관한 더 정확한 정보는 현재 수학에서 증명되지 않은 가장 유명한 추측인 리만 가설(Riemann Hypothesis)에 담겨 있다.

 

이것은, 자리수들의 합이 9로 나누어지는 수들은 9로 나눌 수 있다는 것과 같은 단순한 사실들에서 추상 대수의 더 고등한 영역들에 이르기까지, 순수 수학의 전형적인 결과이다. 순수 수학은 우리의 탐구와 심지어 우리 언어에 선재하는 진리들을 갖는 영역의 지형학을 드러낸다는 결론을 내릴 수밖에 없다.

 

그런 사유에 의해 고무된 플라톤주의(Platonism)는 유명론에 대립되는 수학의 철학을 제시한다. 플라톤주의는, 수학은 수와 집합 같은 비물리적 객체들, 즉 시간과 공간 너머에 있는 불가사의한 형상들의 세계에 존재하는 추상물들의 영역에 관한 것이라고 말한다. 그것이 당치 않은 듯 들린다면, 순수 수학자들은 자신들의 주제에 관해 그런 식으로 확실히 말하고 흔히 생각한다는 점을 인식하자. 또한 플라톤주의는 수학적 증명의 명백한 성공과 잘 들어맞는데, 그것은 어떤 특수한 세계에서 자연의 법칙들이 어떠하든 간에 모든 가능한 세계들에서 상황이 어떠해야 하는지 예증하는 듯 보인다. 2의 제곱근은 무리수라는 증명은 관측을 통해 확립된 어떤 법칙에도 의존하지 않는다. 그것은 상황이 어떠해야 하는지 보여주는데, 2의 제곱근은 시간과 공간의 변화 가능한 우리 세계 너머에 있는 존재자라는 것을 시사한다.

 

그런데, 자체의 분명한 노선들과 긴 역사에도 불구하고, 플라톤주의는 결코 옳을 수가 없다. 플라톤 자신의 시대 이래로 유명론자들은 매우 설득력 있는 반대 주장들을 역설했다. 한 주장은 이렇다. 추상물들이 시간과 공간의 우리 우주 밖 어딘가에서 부유하고 있다면, 우리가 그것들을 어떻게 볼 수 있는지 또는 그것들과 다른 지각적 접촉을 할 수 있는지 상상하기 어렵다. 그래서 우리는 그것들이 존재하는지 어떻게 아는가? 현대의 일부 플라톤주의자들은, 화학 실험들의 결과를 설명하기 위해 원자들의 존재를 추론하는 것과 거의 마찬가지로 우리는 그것들을 추론한다고 주장한다. 그러나 그것은 우리가 수에 관해 알게 되는 방식이 아닌 듯 보인다. 셈을 하게 되는 다섯 살 아이들은 추상물에 관한 정교한 추론을 수행하지 않는다. 그들이 실재의 숫자적 양상을 접하게 되는 것은 아무튼 더 지각적이고 직접적이다. 동물도 어느 정도는 셀 수 있다.

 

어쨌든, 플라톤주의와 관련된 문제는 지식에 관한 것이라기보다는 수학적 존재자들에 대한 견해에 관한 것이다. 확실히 날씨를 수학적으로 모형화하거나, 또는 측정하거나, 또는 계산할 때 우리는 이 세계 속에 실재하는 것들의 수학적 특성들―수량 같은―을 다루고 있는 것이다. 그런 특성들은 추상물이 아닌데, 색깔과 마찬가지로 그것들은 우리로 하여금 그것들을 보게 만드는 인과적 역능을 갖고 있다. 시각 체계는 여러분의 키와 내 키의 비율 같은 특성들을 쉽게 감지한다(우리가 나란히 서 있다면). 다른 세계에 추상물들이 존재하더라도 그것들이 이야기에 끼어들 여지가 없다.

 

유명론자와 플라톤주의자들은 교착 상태에 이를 때까지 서로 싸웠는데, 각 진영은 상대편의 견해에서 치명적인 결함들을 설득력 있게 드러냈고, 각 진영은 자기 입장을 확립할 수 없었다. 다시 시작하자.

 

수학을 생각하고 공식들을 적는 인간들이 존재하기 이전의 지구를 상상하자. 크고 작은 공룡, 나무, 화산, 흐르는 강과 바람들이 있었다... 그런 세계에서는 수학적 본성을 갖춘 어떤 특성들이 존재했는가(가능한 한 애매하게 말해서)? 즉, 그런 세계 속에 실재하는 것들의 특성들 가운데 수학적이라고 인식해야 할 것이 존재했는가?

 

그런 특성들이 많이 존재했다. 우선 대칭(symmetry)이 있다. 대부분의 동물과 마찬가지로 공룡도 근사적인 좌우 대칭을 나타내었다. 나무와 화산들은 무작위적인 요소들을 갖춘 근사적인 원형 대칭을 나타내었는데, 위에서 바라보면, 그것들은 어떤 축을 중심으로 회전하면 거의 동일한 듯 보인다. 계란의 경우에도 마찬가지이다. 그런데 정확하든 근사적이든 간에 대칭은 정확히 물리적이지는 않는 특성이다. 비물리적인 것들도 대칭을 나타낼 수 있는데, 예를 들면, 어떤 논증의 후반부가 정반대의 순서로 전반부를 반복하면 그 논증은 대칭을 나타낸다. 대칭은 논란의 여지가 없는 수학적 특성이고, 그래서 순수 수학의 주요한 분야―군론(group theory)―가 대칭의 종류들을 분류하는 데 전념한다. 물리적인 것들에서 대칭이 나타날 때, 그것은 흔히 명백히 지각된다. 얼굴이 비대칭적이라면 정치에 입문하지 말아야 하는데, 비대칭적 얼굴은 TV 화면에서 즉각적인 나쁜 인상을 주기 때문이다. 다른 수학적 특성들과 마찬가지로 대칭도 인과적 역능을 가질 수 있는데, 이것은 플라톤주의자들이 생각하는 추상물들과 다르다.

 

대칭과 마찬가지로 다양한 종류의 물리적 사물들에서 나타날 수 있는 또 하나의 수학적 특성은 비율(ratio)이다. 큰 공룡의 키는 작은 공룡의 키에 대해 어떤 비율을 나타낸다. 그것들의 부피 비율은 다른데, 사실상 그것들의 부피 비율은 키 비율보다 훨씬 더 크고, 그래서 큰 공룡은 보기 흉하게 되며 작은 공룡은 활발하게 된다. 어떤 주어진 비율은 두 개의 키, 또는 두 개의 부피, 또는 두 개의 시간 간격 사이의 관계일 수 있는 것이다. 어떤 비율은 바로 상이한 종류들의 물리적 존재자들 사이의 관계들이 공유하는 것이고, 그래서 물리적 길이, 부피 등의 양보다 더 수학적인 특성이다. 비율은 어떤 길이(또는 부피, 또는 시간 등)가 임의로 선택된 단위에 어떻게 관련되는지 결정할 때 측정하는 것이다. 그것은 수의 기본적인 종류들 가운데 하나이다. 아이작 뉴턴(Issac Newton)이 특유의 위엄 있는 언어로 서술했듯이, "수는 다중의 단일체들이라기보다 무엇이든 어떤 양을 우리가 단일체로 간주하는 동일한 종류의 다른 한 양에 대해 추상된 비율을 의미한다."

 

응용 수학을 살펴보면―수와 논리의 친숙한 기반을 선호하는 수학의 철학자들은 거의 수행하지 않는다―주의 깊은 관찰자의 경우에, 자체적으로는 물리적이지 않지만 물리적 세계(그리고 존재할지도 모르는 다른 세계들)에서 구현될 수 있는 다양한 다른 수량적 특성과 구조적 특성들―흐름, 순서 관계, 연속성과 이산성, 교대, 선형성, 되먹임, 연결망 배치 그리고 다른 많은 것들―이 나타날 것이다.

 

수학적 특성들이 현실 세계에서 나타나는 방식을 강조하는 수학의 철학을 가리키는 이름이 있다. 그것은 아리스토텔레스적 실재론(Aristotelian realism)이라고 불린다. 그것은 사물의 특성들은 실재적이며 추상물들의 다른 세계가 아니라 사물 자체에 내재한다는 아리스토텔레스의 견해―스승 플라톤의 견해에 대립되는―에 기반을 두고 있다. 수학은 '양의 과학'이라고 주장하는 아리스토텔레스적 실재론의 한 판본이 사실상 뉴턴의 시대까지 선도적인 수학의 철학이었지만, 그 이후로 그런 생각은 대체로 의제에서 빠져버렸다.

 

아리스토텔레스적 실재론은 수학적 특성들의 세계 속 구현 가능성을 역설하기 때문에 기본적인 수학적 사실들을 어떻게 알게 되는지에 대한 직접적인 설명을 제공할 수 있는데, 다른 단순한 사실들과 꼭 마찬가지로 지각을 통해서 이루어진다. 키 비율은 가시적이다(물론 근사적으로). 유아와 동물들은 유형을 인식하고 수, 모양 그리고 대칭을 추산할 수 있는 능력을 갖추고 있다.

 

인간의 발달된 지성적 능력들은 그런 단순 한 지각들에 두 가지를 덧붙인다. 첫 번째 것은 시각화인데, 그것을 통해 우리는 수학적 사실들 사이의 필연적 관계들을 이해할 수 있게 된다. 이 쉬운 정신적 활동을 시도하자. 각각 세 개의 십자가로 이루어져 있으며 한 열이 다른 한 열 바로 위에 배치된 두 열로 배열된 여섯 개의 십자가를 상상하자. 마찬가지로 나는 여섯 개의 십자가를 각각 두 개의 십자가로 이루어진 세 열로 상상할 수 있다. 그러므로 2 × 3 = 3 × 2이다. 나는 2 × 3이 실제로 3 × 2와 같다고 인식할 뿐 아니라, 2 × 3이 3 × 2와 같아야 한다고 이해한다. 그래서 수학적 필연들을 파악할 수 있는 능력에 주목한 점에 있어서는 플라톤주의자들이 옳았지만, 그들은 그런 필연들이 흔히 이 세계에서 구현된다는 것을 결코 인식하지 못했다. 인간 정신이 지각의 결과를 확장시킬 수 있게 하는 두 번째 지성적 능력은 증명이다. 수학적 증명은 일련의 통찰들―각각 '2 × 3 = 3 × 2'와 비슷한―을 연쇄적으로 엮어서, 큰 수에 대해서 소수 밀도가 차차 감소하는 방식 같은, 일견 이해할 수 없는 필연들을 예증한다.

 

아리스토텔레스적 실재론은, 세계와 인간 지식 모두를 물리학, 생물학 그리고 신경과학으로 설명할 수 있다는 것을 증명하고자 하는 기획인 [과학적] 자연주의와 어려운 관계에 처해 있다. 수학적 특성들이 물리적 세계에서 구현되고 지각될 수 있다면, 수학은 자연주의적 견지에서 확실히 설명될 수 있는 색 지각보다 더 설명 불가능한 듯 보일 수가 없다. 다른 한편으로, 아리스토텔레스주의자들은 필연들에 대한 수학적 파악은 불가사의한 것이라는 플라톤주의자들의 의견에 동의한다. 필연적인 것은 모든 가능한 세계에서 참이지만, 지각은 다른 가능한 세계들을 어떻게 들여다 볼 수 있는가? 스콜라철학자들, 즉 중세 시대의 아리스토텔레스적 가톨릭 철학자들은 필연적 진리에 대한 정신의 파악에 대단히 깊은 인상을 받게 되어서 지성은 비물질적이고 불멸적인 것이라는 결론을 내렸다. 오늘날의 자연주의자들이 그런 결론에 동의하기를 바라지 않는다면, 그들에게 하나의 난제가 존재한다. '말하지 말고 보여 주시오.' 진정한 수학적 통찰을 흉내내는 인공 지능 체계를 제작하라. 칠판 위에는 어떤 유망한 계획도 없는 듯 보인다.

 

수학의 철학에서 표준적인 대안들은 수학이 우리가 살고 있는 세계에 관해 말해주는 방식과 관련된 가장 단순한 사실들을 설명하지 못했다. 유명론은 수학을 사소한 것들로 환원시키고, 플라톤주의는 수학을 세계, 즉 수학적 진리들이 필수적인 얼개를 구성하는 실제 세계와 분리시킴으로서 그랬다. 아리스토텔레스적 실재론은 새로운 시작이다. 그것은 수학의 철학을 항상 비옥한 수학의 성장 기반이었던 응용들과 다시 연결시킨다. 그것은 철학과 수학 및 수학의 교육 모두에 대한 메시지를 갖고 있다. 기호들을 뒤섞는 것에 현혹되지 마라. 추상물들의 영역 속으로 사라지지 마라. 바로 실제 세계의 수학적 구조에 계속 집중하라.