괴델의 불완전성정리
수학을 몇 가지의 다양한 분야로 분류할 때 각 분야에는 각기 고유한 개념과 용어가 쓰인다. 우리가 잘 알고 있는 기하학을 보면, 공리란 그 분야에서 쓰이는 원시개념에 관한 기본되는 성질임을 알 수 있다. 현대 수학의 모든 분야가 집합론으로부터 구성할 수 있다는 사실은 이미 우리의 상식이다. 이는 집합론이 수학에 있 어 가장 기초가 되는 이론이라는 뜻으로도 이해할 수 있다. 여기서 다시 다음 문제를 잠시 생각해 보기로 하자.
수학에서 쓰이는 공리들은 오늘날까지 알려진 것 외에 더 있을 수 없는가? 즉, 아직도 발견하지 못한 수학의 원리가 남아 있어서 장차 새로이 발견될 여지가 남아있을 것인가? 이러한 물음에 대해 생각해 보기로 하자. 집합론이 수학의 기본 이론이기 때문에 앞의 물음은 "집합론의 공리는 지금까지 알려진 것 외에 또 더 없을까?"로 할 수 있다. 이를 다시 집합론과 논리학으로 나누면 다음과 같이 정리할 수 있다.
첫째로, 논리학의 기본 원리 즉, 논리학의 기본 법칙은 현재까지 알려진 것 외에 더 없을까? 둘째로, 집합론의 기본 원리 즉 공리는 지금까지 알려진 것 외에 더 없을까? 즉, 현재의 집합론은 완전(complete)한가? 이 두 물음 모두에 대해 괴델은 그 답을 우리에게 제시해 주고 있다. 첫번째 물음에 대해 괴델은 24세 때 빈 대학교에 제출한 학위 논문에서 술어논리의 완전성(completeness)정리를 통해 긍정적으로 답하였다. 즉, 그의 완전성 정리에 따르면 "술어논리는 완전하다. 그러므로 술어논리 체계에는 지금 우리가 알고 있는 원리외에는 장차 더 새로이 발견될 것이 없다." 바꿔 말하면, 앞으로 기본 원리인 술어 논리학에서의 공리는 영원히 새로이 발견될 것이 없다는 뜻이 된다. 여기서 어떤 이론체계가 완전(complete)하다는 뜻은 그 체계에서 참인 명제는 반드시 공리로부터 연역(증명)된다(즉, 정의가 된다)는 뜻이다. 반대로, 어떤 이론체계가 불완전하다(incomplete)는 뜻은 그 체계에 있어 참인 명제가 그 체계의 공리로부터 연역되지 않은 경우가 있다는 뜻이다. 괴델은 산술을 포함하는 무모순인 어떠한 체계도 완전하지 않다는 결과를 얻었다. 이를 괴델의 불완전성정리(Incompleteness Theorem)이라 한다.
다음 두번째 물음에 대해서는 괴델이 부정적인 답을 얻었다. 그 내용은 "현재의 산술체계가 무모순하면 그 체계는 불완전하다"로 정리할 수 있다. 즉, "그 체계의 어떠한 명제가 참이지만, 그 명제와 그것의 부정명제 모두가 증명되지 않은 명제가 존재한다."는 뜻이다. 사실은 이 정리를 제1불완전성정리라고 한다. 여기서 어떤 이론체계가 무모순하다는 것은 그 체계에 속하는 어떤 명제에 대해서도 그 명제와 그것의 부정명제 모두가 증명되는 경우가 없다는 뜻이다. 이와 반대일 경우, 즉 한 체계에서 어떤 명제와 그것의 부정명제 모두가 증명이 가능하면, 그 체계는 모순된다고 한다. 한 이론 체계를 이루는 데 있어 그 체계의 무모순성은 가장 기본 되는 요청의 하나다. 산술체계는 집합론으로부터 오직 논리에 의해서만 체계화시킨 것이며 몇 개의 공리로부터 모든 정리를 도출하는 연역체계라고 할 수 있다.
집합론으로부터 현대 수학의 모든 체계가 구성되기 때문에, 제1불완전성정리에서 "…어떠한 명제가 참이지만… 존재한다" 라고 주장하는 바로 그 <어떠한 명제>란 도대체 어떤 명제일까에 대해 설명해 보기로 한다. 가령 그 같은 명제를 P라고 하자. 그러면 명제 P의 실질적인 내용을 "P는 증명되지 않는다"라고 하자. 그러면 P는 그 자신에 대해 언급하는 매우 특이한 속성을 갖는 명제다. 그러면 여기서 이 명제 P가 증명가능하지 않음을 증명할 수 있다. (지면 관계로 증명과정은 생략한다.) 그런데 일반적으로 눈(雪)이 흴 때 명제 "눈은 희다"가 참이라 할 수 있다는 대응설적 진리론에 따라, 실제로 명제 P가 증명되지 않음으로 "P는 증명되지 않는다" 라는 내용의 명제 P는 참이라고 할 수 있다. 즉, 앞에서 어떤 명제라고 지칭한 그 명제 P는 "참이지만 증명되지 않은 명제"가 된다는 사실을 알 수 있다.
이 결과는 참으로 충격적이었다. 수학에서 이 정리를 얻기 이전까지는 참인 모든 명제는 당연히 증명된다는 인식이 지배적이었기 때문이다. 우리가 당연시 해온 이같은 인식을 바꿔놓은 괴델의 제1불완전성정리의 결과로, 수학에서의 참이란 무엇이며 그것을 무엇이라고 이해하여야 하는가 라는 의문을 다시 묻게 한다.
괴델의 제2불완전성정리 또한 우리의 통념과 기대를 벗어나게 하였기 때문에 이것에 의한 충격도 적지 않았다. 일반적으로 우리들 모두는, 수학이라는 학문이 절대적인 진리의 규명만을 추구한다고 인식하고 있으며, 거기서는 "대체로 옳다"와 같은 개연적 판단이 배제되고 절대적인 판단만을 요구한다고 인식하고 있다. 따라서 당연히 수학에서는 모순이 일어나지 않을 것으로 볼 뿐만 아니라, 수학의 무모순성의 증명이 가능할 것으로 기대하게 된다. 그러나 괴델은 그의 제2불완전성정리에서 이같은 기대에 상반되는 결과를 얻었다. 그의 제2불완전성정리에 따르면 "자연수론을 포함하는 공리론적 이론체계(수학의 대부분의 이론체계가 이에 해당됨)가 무모순하면, 그 체계의 무모순성을 그 체계 안에서는 증명할 수 없다." 이 정리를 좀 더 알기 쉽게 통속적인 표현으로 바꾼다면 "자기 자신이 정신적 이상이 없다는 사실을 자기 자신으로서는 그것을 증명해 보일수가 없다."와 같다고나 하겠다.
불완전성정리에 연관되는 제1불완전성정리와 무모순성에 연관되는 제2불완전성정리의 모두가 수학적 인식의 본질과 매우 깊은 관련성이 있음은 명백하다. 때문에 그것의 의의는 실로 크다 할 수 있다.
----
우리가 우리 자신이 믿는 지식 체계와 믿음 체계를 옳다고 증명할 수 없다.
색즉시공 공즉시색
그렇지만 자신감은 잃지 말자!