Math Logic Intro

수리논리의 세계 로 돌아가기

논리의 세계로 들어가기

사람은 생각한다. 감각으로 얻은 지식을 뛰어넘는 것은 생각을 하기 때문이다. 코난 도일(Arthur Conan Doyle ; 1859 – 1930))이 탄생시킨 유명한 탐정 셜록 홈즈나, 아가사 크리스티(Agatha Christie;1890-1976)의 허클 프와로(Hercule Poirot)는 범행 현장에서 발견된 증거들과 용의자들의 행동으로부터 사건의 전말을 유추해낸다. 꼭 유명한 탐정들만 눈에 보이는 것들에서 출발하여 논리적인 사고과정을 통해 눈에 보이지 않은 것들을 그려내는 것은 아니다. 저마다 나름대로 생각하고 유추한다. 생각에는 나름의 질서가 있기 마련이다. 생각이 질서 정연하다는 것은 생각의 논리가 탄탄하다는 것을 말해준다.

어떤 사람은 논리가 없다고 생각하거나 어떤 사람은 그리 논리적이지 않다라고 말하는 경우에도 그 사람은 나름의 논리를 가진다. 문제는 그 논리가 하나가 아니기 때문에서 일상생활에서는 포착해내기가 힘들다. 수많은 논리들이 하나의 사건에 쏟아져 들어오고 그것들이 마구 뒤섞이면서 논리를 파악하기 힘들어지는 것이다. 여러 논리가 섞이면서 비논리적이라고 항상 문제가 되는 것은 아니다. 그렇지만, 논리를 잘못 적용하면 잘못된 결론을 이끌어 내기도 한다. 만약 내가

" 비가 오니 마음마저 젖는 듯합니다. 마음이 젖어드니 그리운 것들을 그리워하게 됩니다."

라고 했는데 어떤 사람이

" 아니, 비가 안오면 그리움도 없단 말인가?"

라고 묻는다고 해보자. 위의 말의 내용과 상관없이 그런 ' 생각의 틀'은 일상에서 종종 일어난다. 그 질문을 하는 사람이 농담으로 그랬다면 모를까, 심각하게 그런 생각을 했다면, 그는 논리적으로 실수를 한 것이 분명하다. 왜냐하면 '비가 오니 마음이 젖고 마음이 젖으니 그리움이 일어난다' 라는 말이 참이라고 꼭 '비가 안오면 그리움이 일지 않는다'라고 이끌어 낼 수 있는 근거가 취약하기 때문이다.

물론 논리가 사고 과정의 전부는 아니다. 사람은 직관적으로 이해하기도 하고, 말이 안되는 듯한 역설의 논리를 펴기도 한다. 예를들어

도는 도가 아니요, 도가 아닌 것도 아니다.

하지만, 어쨌든 논리는 올바로 유추하기 위해 매우 중요한 사고과정이다. 따라서 인류는 오래 전부터 사람들의 사고과정으로서의 '논리'를 분석해서, 올바른 유추의 방법에 대해서 생각을 깊이 해왔다. 주로 철학의 영역에서 발전시킨 논리학은 근대에 접어들면서 엄격하게 논리적인 학문인 수학과 만나면서 수리논리를 탄생시킨다. 이제 그 문제들과 조우할 때가 왔다. 이에 대해 깊고 폭넓게 보는 것은 무리다. 여기서는 일상적인 문제로부터 시작해서 현대 수학의 중요한 분야 중 하나인 수리논리가 만들어낸 풍경을 둘러보는 것으로 대신한다.

우리 생활 곳곳에 숨어있는 논리

눈으로보고 귀로 듣고 코로 냄새 맡고 손으로 만져보면서 사람은 새로운 지식을 쌓아간다. 그런 일차적이고 즉자적인 지식을 넘어 사람은 유추한다. 유추하면서 경험이 낳은 지식을 일반화하고 추상화한다. 대부분의 사람들은 경험으로 지식을 얻어가지만, 새로운 지식을 얻어가는 데 있어서 유추의 과정은 필수적이다. 요리사는 자연에서 난 원재료들을 가지고 음식을 만들고, 화가는 물감과 붓으로 그림을 그려내고 음악가는 음에 대한 감각에서 어떤 형식을 갖는 음악을 만들어낸다. 그렇게 전문적이지는 않더라도 사람은 주어진 경험적 사실들로부터 새로운 사실을 이끌어낸다.

고추는 맵다. 밤은 어둡다. 비가 온다. 바람이 분다. 물이 차다. 1 + 1 은 2 다. 배가 고프다. 서울에서 부산까지 버스로 네시간 걸린다. 마른 장작은 거세게 타오른다. 길이 미끄럽거나 어두우면 행동이 불편해진다. 물에 젖으면 도로가 미끄럽고 사고가 더 잘난다. 물은 흐르고 꽃은 핀다.

와 같은 문장들은 모두 어떤 사실들이다. 위의 문장들에는 경험으로부터 바로 알 수 있는 것들이 있고 경험들을 모아서 일반화한 사실도 있다. 위에서처럼 단순한 문장들은 얼마든지 있을 수 있다. 알려진 사실들로부터 최소한 다음과 같은 새로운 사실을 유추해볼 수 있다.

'비가 온다. 비가 오면 도로가 물에 젖는다. 도로가 물에 젖으면 미끄럽다. 길이 미끄러우면 사고가 더 잘난다.' 로 부터 그래서, 차를 조심조심 운전해야한다. 라는 결론을 유추할 수 있다. 생활하면서 우리도 알게모르게 이렇게 논리를 적용하는 경우는 매우 자주 일어난다.

사진기 설명서 속의 논리

카메라 사용법이 써있는 설명서를 아무데다 펴서 그 중 일부를 옮겨 보겠다.

• 초점이 맞으면
  • '삐삐'하는 전자음이 울립니다. (피사체가 움직이고 있을 때 등 울리지 않는 경우도 있습니다.)
  • 파인더 하단부의 초점표시 $\bullet$ 가 켜집니다.
  • 파인더 내에서 초점이 맞은 초점 영역 전부가 약 1 초동안 강조 표시됩니다.
• 셔터 버튼을 반누름하고 있는 동안 초점은 고정됩니다.
• 초점표시 $\bullet$ 가 켜지면 피사체에 초점이 맞았습니다. 꺼지면 자동초점으로 맞출 수 없습니다.
• 자동초점으로 맞출 수 없는 때는 수동 모드를 선택하십시오.

설명서를 대부분 그대로 옮긴 것이다. 말은 많이 써있지만, 내용의 핵심만 빼내보자. 오른쪽에는 내용은 변수$p_{i}$ 로 표시하고, 기호로 정리했다.

• 초점이 맞으면 전자음이 울리고, 초점표시가 켜지고 강조표시가 1초가 나타난다. $p_{1}\rightarrow (p_{2}\And p_{3}\And p_{4})$
• 초점 표시가 켜지면 자동 초점으로 찍을 수 있고 켜지지 않으면 수동초점으로 찍어야 한다. $(p_{2}\rightarrow p_{5})\And (\neg p_{2}\rightarrow \neg p_{5})$
• 초점은 반누름하고 있는 동안 고정된다. : $p_{6}\rightarrow p_{7}$

라는 세가지 사실이다. 옆에는 그 문장의 '논리'인 부분을 기호를 써서 나타낸 것이다. (기호에 대해서는 앞으로 더 다룰 것이다.) 이 경우는 논리가 아주 분명하게 드러나 있다. 이 사실로부터 우리는 자동초점으로 찍을 수 있는 경우와 수동초점으로 찍을 경우 어떻게 해야하는지 실제로 카메라를 쓰면서 익힐 수 있다. 말 속에 감추어진 논리적 구조를 빨리 그리고 분명하게 파악할수록 카메라를 익숙하게 다룰 수 있다. 물론 그것이 사진을 잘 찍는다는 것을 보장하지는 않지만...

다른 예들

흔하게 드는 예도 있다. 사람들의 사고과정인 논리와 올바른 논리적 유추에 대해 논리정연하게 연구한 아리스토텔레스 식의 삼단 논법이다.

모든 사람은 죽는다. 소크라테스는 사람이다. 그래서 소크라테스는 죽는다.

비가 오면 여행을 떠나지 않을거야.

시험은 이번 주에 보겠다. 만약 여러분이 시험 날짜를 맞추면 모두에게 반드시 만점을 주겠다. (학생들은 만점을 받을 수 있을까?)

x - 1 = 0 이 참이 되는 실수 x 는 1 이다.

시 속의 논리

위의 예처럼 꼭 딱딱한 경우에만 논리가 있는 것은 아니다. 유명한 우리나라 시 두 편을 보자. 김수영 시인의 마지막 시 '풀'과 김소월 시인의 '진달래'다. (질문, 어느 쪽이 '풀'이고 어느 쪽이 '진달래' 일까?)

풀이 눕는다. 비를 몰아오는 동풍에 나부껴 풀은 눕고 드디어 울었다. 날이 흐려져 더 울다가 다시 누웠다. 풀이 눕는다. 바람보다도 더 빨리 눕는다. 바람보다도 더 빨리 울고 바람보다도 먼저 일어난다. 날이 흐리고 풀이 눕는다. 발목까지 발밑까지 눕는다. 바람보다 늦게 누워도 바람보다 먼저 일어나고 바람보다 늦게 울어도 바람보다 먼저 웃는다. 날이 흐리고 풀뿌리가 눕는다.

나 보기가 역겨워 가실 때에는 말없이 고이 보내 드리오리다. 영변(寧邊)에 약산(藥山) 진달래꽃, 아름 따다 가실 길에 뿌리오리다. 가시는 걸음 걸음 놓인 그 꽃을 사뿐히 즈려 밟고 가시옵소서. 나 보기가 역겨워 가실 때에는 죽어도 아니 눈물 흘리오리다

시를 논리적 구조로만 파악하는 것은 어리석은 짓이다. 하지만, 시에서 논리적 구조를 파악하지 않아야 한다는 것은 더 어리석은 짓이다. 논리란 말의 치장 속에 가려진 본질을 뽑아보는 도구이기도 하니까. 물론 여기서 시분석을 이야기하기 위해 시를 예로 든 것은 아니다. 언어 습관 중 가장 비논리적라고 생각할 수 있는 시 안에도 논리적 틀의 흔적이 있을 수 있다는 것을 보기 위해 억지스럽지만 예로 들어 본 것이다. 그렇지만 사실 시와 수학은 비슷한 점이 많다. 시는 시적 상상력을, 수학은 수학적 상상력을 끌어올리는 것이고, 모두 세상에 드러나지 않은 것 속의 아름다움을 탐한다. 대신 시는 시적 운율을, 수학은 엄격한 논리적 규칙을 핵심으로 한다.

우선 왼쪽 시부터 보자. 왼쪽 시에서 다음과 같은 시인의 마음 속에 있는 사실을 뽑아 볼 수 있다. 시는 이렇게 시작한다.

비를 몰고 오는 동풍에 나부껴 풀이 눕고 울었다. 날이 흐려져 더 울었다.

여기서 시적인 상상력과 운율을 빼고 나면 다음과 같은 골격이 남는다.

바람이 나부끼면 풀이 눕는다. 그리고 풀은 울었다. ($p_{1}\rightarrow (p_{2}\And p_{3})$ 구조.) 날이 흐려지니 풀은 더 울었다. ($p_{4}\rightarrow p_{3}$ 구조 )

건조하게 틀을 뽑아내면 괄호안의 기호로 대체될 수 있다. 여기서 B 나 C 가 일어날 조건으로 바람이 불고 날이 흐려지는 것처럼 보인다. 그런데 두번째 연에서 그런 인과 관계가 범상치 않다는 것이 드러난다. 풀이 눕거나 우는 건 꼭 바람에 기계적으로 반응하는 것이 아닌 것이다 : 바람보다 더 빨리 눕고 운다. 그리고 바람보다 먼저 일어난다. 그리고 마지막 연에서는 상황은 또 변한다. 처음의 "날이 흐려져($\rightarrow$ ) 풀이 눕고 울었던 것이 이제는 날이 흐리고($\And$) 풀이 눕는 관계로 변한다. 그러면서 풀은 바람보다 늦게 누워도 먼저 일어나고, 늦게 울어도 먼저 웃게 된다. 풀은 바람과 비에 따라 흔들리고 우는 존재에서 바람에 앞서기도 하고, 혹시 바람보다 늦게 누워도 먼저 일어나는 것이다.

잠시 삼천포로 빠졌다. 시의 내용 분석은 우리의 주제가 아니었다. 내용은 두고 형식적으로 두 문장만 뽑아 보자.

날이 흐리면 풀이 눕는다. 그리고 바람이 불면 풀이 눕는다.

이 두 문장으로부터 " 날이 흐리고 바람이 불면 풀이 눕는다" 와 "날이 흐리거나 바람이 불면 풀이 눕는다"가 더 합리적인 유추일까?

오른쪽 시에서는

나 보기가 역겨워 가실 때에는 고이보내드리고, 꽃을 뿌리고, 죽어도 눈물 흘리지 않는다. ($p_{1}\rightarrow (p_{2}\And p_{3}\And p_{4})$ 의 구조.)

라고 하였다. 님이 '나보기가 역겨워 갔다'면 어떤 일이 일어날까 ?

논리 파악이 어려운 경우

이와같이 논리는 우리의 생활 곳곳에 배어있다. 그것이 전면에 드러나지 않기 때문에, 또는 여러가지 논리가 마구 뒤섞여서 논리적이지 않는 듯 보일 뿐이다. 논리적 구조를 알면 글을 쓰거나 말을 하는 사람의 의중을 더 분명하게 파악할 수 있다. 이것을 위해서는 어떤 문장에서 '더이상 나뉠 수 없는 가장 작은 단위의 문장'이 무엇인지, 그리고 '그리고', '또는', '... 이면, ... 이다'와 같이, 이어주는 부분으로 구분해서 보면 분명해진다. 물론 접속사들은 다른 단어를 쓸 수 있다. "A 그리고 B" 대신 "A 이고 B" , "A 이면서 B" 와 같이 쓸수 있다. 또 "A 이면 B 다" 의 경우도 "A 일 때는 B", "B 가 된다, 왜냐하면 A 니까." 라고 하기도 하고, "A 이다. 그래서 B 가 된다." 라는 식으로 나타나기도 한다. 다른 말을 썼을 뿐, 미묘한 뉴앙스 말고는 어쨌든 논리적 구조는 모두 같은 경우다. 그러나 이것이 항상 분명하게 드러나지 않을 수도 있다.

논리적 접속사가 분명하게 드러나는 경우 문장의 논리적 구조를 분명하게 파악할 가능성은 커지는데, 모든 문장이 그런 것은 아니다. 특히 한자문화권에서는 '논리적 접속사'를 분명하지 않게 쓰는 경우가 잦다. 예를 몇가지 보자.

수신제가치국평천하

수신제가치국평천하(修身齊家治國平天下 ; 대학(大學))를 보자. 이 문장을 '제 몸을 닦고 나서야 집안을 다스리고, 그 후에야 치국을 하고 평천하' 로 볼 수 있다. ($A\rightarrow (B\rightarrow (C\rightarrow D))$ 구조) 로 볼 수도 있고, 수신제가하고 나서야 치국평천하 할 수 있다 ($(A\And B)\rightarrow (C\And D))$ 구조) 로 해석할 수도 있고, 수신-제가-치국-평천하를 서로 다르지 않은 동급으로 놓고 볼 수 도있다. ( $A\rightarrow B\And C\And D)$ 구조) 어떤 논리적 접속사를 붙이느냐에 따라 그 말의 해석이 많이 차이가 나게 된다. 이와 마찬가지의 예는 수도 없이 많다. 한문에서는 접속사 뿐만 아니라 무엇을 주어로 하고 무엇을 술어로 할 것인지도 불분명하여 해석자들이 다른 해석을 내리는 경우가 흔하다.

온고지신

온고이지신 가이위사의(溫故而知新 可以爲師矣 ; 논어, 위정편 11.) : $(A\And B)\rightarrow C$ 로 읽을 수 있고, $C\rightarrow (A\And B)$ 로 읽을 수도 있다.

위의 '온고지신'의 뜻풀이를 하는 어떤 글에 다음과 같은 문구가 있었다.

 온고이지신(溫故而知新) (...) 이 말이 사용된 맥락과 진정한 뜻을 제대로 이해하고 있는 사람이 많지 않다. 
일반적으로 이 문장은 '옛것을 익히고 새것을 알면 스승이 될 만하다'로 풀이되고 있다. 
'이렇게 이해한다면 스승이 되기 위해서는 반드시 온고지신이 있어야 한다. 또는 '온고지신이 안되면 스승이 될 수 없다'는 말이 된다.'''  

말은 길지만, 핵심만 뽑아내면, 이 안에 논리적으로 잘못된 부분이 있다는 것을 금방 알 수 있다. 논리적으로 등가가 아닌 말을 등가인 것처럼 오해하고 글을 전개해나가고 있다. 이 글을 쓴 사람은 $(A\And B)\rightarrow C$ 와 $\neg (A\And B)\rightarrow \neg C$ 로 보고 있다. 다음에 보겠지만 이 두 문장은 논리적으로 등가일수도 어떤 문장이 다른 것의 조건일 수도 없다. 이렇듯 일상에서 근거가 약한데도 그것으로부터 유추를 전재해나가는 경우는 빈번하다.

법고창신

법고창신(法古創新 : 연암 박지원의 문예론의 핵심) : $A\rightarrow B$ 냐,$B\rightarrow A$ 냐, $A\And B$ 냐 $A\lor B$ 냐로 보느냐에 따라 해석은 달라진다. 물론 각각의 단문 A, B 에 대해 정확한 해석이 무엇이냐도 문제는 문제다.

올바른 추론이란?

일상에서 쓰는 말대신 논리적 기호로 바꾸어 생각하면 항상 좋을까? 그렇지않다. 일단 모든 문장을 논리적 기호로 바꿀 수 있을까 ? 과연 그럴 필요가 있을까? 문학 작품을 보면 알 수 있듯이 논리적으로 비슷한 문장이라도 단어를 달리하고 표현법을 다르게 쓰고, 문장의 어순을 바꾸고 강조점을 어디다 두느냐에 따라 맛이 달라진다. 논리로 단순화시키면 이런 맛을 다 잃게 될 것이다. 그런데도 왜 논리를 필요한가?

논리적 추론을 하는 훈련이 되어 있으면, 앞에서 보았듯이 문장의 뼈대만 뽑아냄으로써 그 문장의 본질적 구조를 명확히 할 수 있다. 그리고 논리적인 오류를 덜 일으킬 수 있다. 앞에서 $A\rightarrow B$ 라고 해서 $\neg A\rightarrow \neg B$ 같은 착각은 덜하게 된다. 그리고 푸앙카레가 일찍이 지적했듯이 논리는 사고 과정을 절약한다. 겨울의 나무와 산이 잎사귀를 모두 떨구고 그 구조를 극명하게 드러내듯이 논리는 문장의 꾸밈을 덜어내고 본질을 확실히 드러낸다. 추론이 올바른지 그렇지 않은지 더 쉽게 드러날 뿐 더러, 올바로 추론하기 위해 잡다한 생각들 덜하게 만든다. 게다가 서양 음보에 익숙한 모든 사람들에게 음표를 써서 나타내는 방식이 번역의 과정이 불필요하듯이 논리적 기호가 잘쓰이면 번역도 덜 필요해진다.

그렇다면 추론을 제대로 한다는 것은 무엇일까? 추론을 하는 과정에서 착각이나 실수가 없는 것을 뜻할텐데 과연 그것은 가능할까? 생각하는 과정에서 논리적 실수를 적게 한다는 것은 무엇을 뜻할까? 그것을 정의하는 것은 쉽지 않은 일이지만, 최소한 다음 조건은 만족해야 할 것이다.

• 단순한 문장이 분명하고 정확하게 표현되어야 한다.
• 단순한 문장에서 복잡한 문장으로 엮어가는 규칙이 분명해야 한다.
• 새로운 문장을 유도하는 추론 과정에서 누구나 받아들일만한 규칙을 적용해야 한다.

단순한 문장이라 하면, 보통 '하나의 주어 + 하나의 술어' 관계로 엮어지는 문장을 말한다. 예를들어 '비가 온다', '오늘은 수요일이다.' '1 + 1 =3' '2 는 가장 작은 소수다' 같은 경우다. 그렇다면 단순한 문장이 옳게 표현된다는 것은 무엇일까? 이것은 단순하지 않다. 경험적 사실일 경우 그래도 낫지만, 단순한 문장이 경험적 사실이 아니라 철학적 판단이나, 과학적 지식이 필요하다면 이때는 입장에 따라 그것이 좋은 문장인지 아닌지 말하는 것은 쉽지 않다. 예를들어 우리에게 익숙한 산술 체계에서 1 + 1 = 2 는 옳은 문장이지만, 1 + 1 = 7 은 올바른 문장이 아니다. 모듈 산술에서는 1+1 $\equiv$ 7 (mod 5) 참이 되는 좋은 문장이다. 어떤 일들은 '기계는 생각한다.' 를 옳은 문장으로 볼 수도 있지만 다른 사람들은 '기계는 생각할 수 없다.'라는 입장을 분명하고 정확하다고 생각한다. 단순한 문장이 옳은 표현인지 아닌지 가리는 것은 그 문장이 관여하는 분야에 따라 다르다. 따라서 그것은 우리의 관심이 아니다. 그 입장이 무엇이건 '분명하고 정확한 어떤 단순한 문장' 이 우리에게 주어진 것으로 보고, 그것들 사이의 논리적 관계를 보는 것에 관심을 집중할 것이다.

다음, 복잡한 문장으로 엮어가는 규칙이란 무엇을 말할까? 어떤 단순한 문장들이 A 와 B 로 주어졌다면 이것들을 엮을 수 있는 방법은 얼마나 많을까? 일상 생활에서 문장과 문장을 엮는 방법은 무척 많다. 그렇지만 우리가 대표적으로 보는 논리적 접속사는

A 그리고 (and) B , A 또는(or) B, A 이면 B 다(if A, then B), A 가 아니다.(not A )

와 같은 것들이다. 앞에서 이미 나왔듯 실제로 어떤 단어를 쓰건 위의 내용이 들어간 내용을 핵심으로 본다. 물론, 논리적 접속사는 더 많이 있을 수 있다. 더 많은 논리적 접속사들은 위의 기본적인 것들로 충분히 표현할 수 있다는 것을 앞으로 보게 될 것이다.

새로운 문장을 유도하는 규칙이 바람직하다는 것은 무엇일까?

비오는 수요일에는 빨간 장미를 선물하겠어

라고 말한 사람이 진실한 사람일 경우, 수요일날 비가 왔다면 우리는 '빨간 장미를 선물했겠군' 이라고 믿게 된다. 또는 앞에서 든 예처럼

바람이 불면 풀이 눕는다. 그리고 비가 오면 풀이 눕는다.

가 모두 참이면 그로부터 '바람이 불거나 비가 오면 풀이 눕는다.' 라는 문장을 유도해낼 수 있다. 이런 논리적 법칙들은 누구나 받아들일만한 것들이어야 한다. 의심의 여지가 없다면 가장 좋고, 있더라도 그것이 최소한 이면 좋다.

논리와 수리 논리

논리에 대한 연구는 고대 그리스로 거슬러 올라간다. 특히 아리스토텔레스나 제논같은 스토아 학파의 철학자들은 엄격한 논리적 구성과 올바른 추론이란 무엇일까에 대해 연구하고 논쟁했다. 논리적으로 문제가 있는 말에 대해 그 논리적 허점을 파고들어 모순이나 역설을 찾아내어 이상한 문장을 만들어내었다. 지금까지 논리학은 철학의 중요한 분야 중 하나다. 논리 연구의 흐름을 바꾸게 되는 사고가 등장하는데 그중 빼놓을 수 없는 사람이 철학자이자 수학자였던 라이프니쯔다. 그는 모든 수학적 문장을 형식적 기호로 바꾸어 쓰고 그것을 기계적인 과정으로 바꿔 쓸 수 있을 것이라는 생각을 했다. 세상의 비밀이 수에 담겨 있다는 입장을 가졌던 피타고라스처럼 그도 세상의 모든 문제를 수학으로 풀 수 있을 것이라는 생각 했던 터라, 그의 '계획'은 단순히 수학적 문장을 기호로 바꿔쓰는 것 이상의 뜻이 담겨 있다. 사람들은 수학적 내용을 직관적으로 이해하고 나름대로 논리적인 전개를 하지만, 그로부터 수많은 잘못들을 해온 것도 사실이다. 그러니 라이프니쯔처럼 믿어 의심치 않을 단순한 문장으로부터 새로운 정리들을 기계적 과정을 통해 만들어가고 검토해간다면 수많은 오류들이 일어나지 않도록 예방할 수도 있고 한발 더 나아가 새로운 정리들을 찾아내고 증명하는 기계를 만들수도 있다.

그의 계획은 바로 실현되지는 않았다. 가장 논리적인 학문인 수학마저도 그 당시만 하더라도 기호들이 충분히 발달하지 않았고 수학의 기초도 아직 마련이 안되었다. 그러다가 이런 식의 사고가 비약적으로 발전하는 시기는 19세기 중반 이후다. 이때 수학에서는 집합론 이 등장하여 수, 기하, 식 같은 것을 모두 집합의 용어로 포괄할 수 있는 듯 했다. 드디어 수학의 기초가 마련되어가는 시기였다. 그리고 비유클리드 기하학의 탄생과 더불어 기하학을 공리와 규칙 으로 새로 정립하는 경향이 생겼다. 누구나 참이라고 받아들일 수 있는 공리로부터 의심할 수 없는 규칙에 따라 새로운 정리들을 엄격하게 증명해가는 방식이다. 게다가 부울 대수가 등장했다. 어떤 문장에 대해 참과 거짓 줄수 있는 함수가 있다고 하면 문장의 참 거짓을 0 과 1 의 값으로 연산할 수 있는 중요한 도구가 생긴 것이다. 그 뿐만 아니다. 산술의 기초를 엄격하게 공리적으로 본 Peano 의 산술, 수학의 철학적-논리적 기초를 탐구한 Frege 가 있었고, 영국에서는 러셀과 화이트헤드가 수학의 논리화에 대해 탐구했다. 한쪽에서는 수학의 논리화를 다른 쪽에서는 논리의 수학화가 진행되어 갔던 것이다.

수학의 기초를 탄탄히 다질 것이라고 보았던 집합의 언어에 모순되는 말들이 등장하면서 이런 흐름에 위기가 찾아들었다. 집합론의 창시자 Cantor 자신도 이미 알아차렸던 모순들을 추방하기 위해 수많은 시도들이 나왔다. 무한 같은 개념처럼, 논리적 기초가 약한 개념에 대해서는 그것으로부터 모순을 보여 그것의 논리적 기초가 약하다는 것을 보이는 것은 고대에도 이미 있었다. 그리고 그 모순에 대해 깊이 생각하고 논쟁하면서 논리적으로 보다 흠이 없는 개념을 만들어가는 것이다. 수학에서는 함수의 개념이나, 무한, 연속 같은 개념들이 그랬다.

집합론의 모순도 마찬가지였다. 집합론의 모순이 도대체 무엇때문에 발생했는가 하는 진단에 따라 다른 처방이 나왔다. 러셀, 화이트헤드, 푸앙카레 같은 이들은 어떤 개념의 정의나 사고의 과정에 빙빙 도는 부분이 있는 것이 모순의 원인이라고 진단했다. 예를들어 A 를 정의하기 위해 B 가 필요하고 B 를 정의하기 위해 A 가 필요하다면 이런 것이 빙빙 도는 부분이다. 따라서 이런 것들을 추방하는 것이 모순을 없애는 지름길이라고 보았다.

그런가하면 Zermelo 와 Frankel 은 공리론적 방법을 집합론에도 도입하여 집합의 정의와 성격을 공리로 분명하게 하였다. 집합이라는 정의에서 모호한 부분들을 거세하는 방식이다. 실제로 지금까지 백여년이 흘렀지만 공리론적 집합론에서는 아직까지 모순이 발견되지 않았다. 기하학을 공리적 방법으로 새롭게 정립한 힐버트는 이런 식으로 수학 전체를 다시 구축하여야 한다고 계획하였다. 이를 보통 형식주의라고 부르기도 한다. 수학에서 분명하고 실제하는 것으로부터 모호하고 의심갈만한 것들을 덜어내고 형식적으로 엄격하게 수학을 다시 쌓아올리자는 철학적 입장이었다.

그에 비해 네델란드의 브라우어 학파에서는 집합론이나 수학 어디서건 모순이 등장하는 것은 수학적 직관에 대한 관점이 문제라고 생각했다. 자연수니 실수니 하는 것들도 사실은 우리의 직관이 허용하여 받아들이는 것이다. 따라서 매우 조심스럽게 그것을 다루어야 하고 그래서 수학은 매우 엄격한 학문이기도 하다. 우리가 직관적으로 옳다고 생각하는 것들에 대해 논리적으로 엄격하게 다시 되돌아보면 모순이 일어나지 않을 것이라고 보았다. 예를들어 무한을 보자. 칸토르의 집합론도 그렇고 사람들은 무한을 다룰 때, 그것이 직관적으로 분명하게 우리 앞에 있는 '머리와 꼬리가 다 보이는 그 무엇'으로 생각하는 경향이 있다. 실제로 무한은 계속 되는 어떤 것인데도 사람들은 그것을 이미 한 덩어리로 실재하는 것으로 받아들이는 경향이 있다. 무한한 대상 가정한 문장 P(n)의 경우의 증명은 유한한 문장을 다룰 때와 다를 수 밖에 없다. 무한한 모든 n 에 대해서 P(n) 이 될 수 밖에 없다는 것을 보이기 위해서는 그렇게 될 수밖에 없는, 직관적으로 분명한, 논리적 과정을 반드시 보여주어야만 한다. (철학에서 직관주의와 많이 다르기 때문에 적당하지 않지만, 보통 브라우어의 수리철학적 입장을 '직관주의'라 한다. )

단순 문장이나 개념에 대해서만 직관을 조심스럽게 다루어야 하는 것은 아니다. 논리적 접속사에 대해서도 더 주의가 필요하다. 예를들어, 아리스토텔레스 이후 소위 '배중률'이라고 부르는 'A 또는 not A' 라는 문장은 항상 참이라고 받아들이는 데 그것도 브라우어가 보기에는 근거가 약하다. 그것이 항상 참이라는 것을 보이기 위해서는 A 가 참인지, not A 가 참인지 보여야 하는데 그렇지 않은 채 무조건 그것이 참이라고 말하기 힘든 것이다. 뿐만아니라, 어떤 성격을 갖는 수학적 대상이 존재하느냐의 여부를 보이는 것도 다시 기본부터 다시 보아야 한다. 예를들어,

$a^{b}$ 가 유리수가 되는 무리수 a , b 는 있을까?

라는 질문에 다음과 같이 답을 했다고 하자.

${\sqrt {2}}^{\sqrt {2}}$ 를 보자. 그 수는 '유리수 아니면 무리수 일 것이다.' 만약 유리수면 a, b 를 찾은 것이다. 만약 무리수라면 그 수를 a 로 하고 b 를 ${\sqrt {2}}$ 로 하자. 그러면 $a^{b}=2$ 다. 따라서 a , b 는 존재한다.

라고 증명했다면 브라우어가 보기에는 이 증명은 올바른 것이 아니다. 구체적으로 무엇인지 드러내 주어야 하는데 앞의 논증은 '있을 것이다'라는 것을 말할 뿐, 진짜 무엇이 어떻게 거기 있는지에 대해서는 아무것도 말하지 않고 있다. 브라우어 학파는 이런 식으로 수학의 기초를 다시 논리적으로 엄격하게 쌓아올려야 한다는 가장 엄격한 입장을 견지했다.

이런 입장은 수천년간의 수학을 기초부터 재건축해야한다는 주장이다. 힐버트를 비롯한 형식주의의 입장은 그 형식적 틀을 엄격하게 할 것을 주장하였지만, 브라우어는 거기서 한발 더 나아간 것이다. 힐버트 학파와 브라우어 학파는 논쟁할 수 밖에 없었다. 힐버트는 "배중율을 받아들이지 않는 것은 천문학자에게 망원경을 못쓰게 하고 권투선수에게 주먹을 쓰지 말라고 하는 것과 같다"라고 반박했다. 수학의 기초를 다시 보자는 것이 칸트로가 다져놓은 집합론의 모순을 없앨 수 있는 논리적 엄격성을 가지면 되는 것이다. 힐버트는 " 어느 누구도 칸트르가 마련한 천국으로부터 수학자들을 추방할 수는 없다." 고 못박았다.

수학적 모순에 대한 '논리주의'와 '형식주의' 그리고 '직관주의' 는 각자 발전해가면서 수많은 분파들이 나왔고 수학의 기초를 다지는데 저마다의 역할을 했다. 역사와 근본적인 문제들 그리고 발전하게 된 배경을 아는 것은 다음 기회로 미루기로 하자. 어쨌든, 수학의 기초를 탄탄하게 하고자 하였던 일련의 흐름들은 수많은 논쟁을 낳으면서 지금까지 발전하고 있다. 현대 수학이 탄생하면서 드러났던 모순들의 진단과 처방이 달랐기 때문이었다. 그러면서 '수학에서 정의는 무엇인가?' '수학적 정리는 무엇이고 증명이란 무엇인가?'의 문제에서 '계산이란 무엇인가?'와 같은 문제들로 발전해갔다. 수리논리는 수학의 기초에 담긴 논리를 탐구하면서 정립해가는 현대 수학의 한 분야다. 아울러 철학에서 형식논리학과도 맞닿아있고 70 년대이후 컴퓨터 사이언스에 실제적으로 응용되기 시작했다. 아쉽지만, 우리는 논리학과 수리논리의 기초만 보기로 한다.

Note

Math : Math글쓰기 | Math번역 | MathBoard | Math&Culture | MathMoim
OnLineMathCenter | MathCamp | SoftMathJournal | MathBook | CyberAcademia | Academia