Set Def

집합 이야기의 틀 로 돌아가기

집합이란 무엇인가?

1,2,3,4,5, ... 로 나타내는 자연수들이나, 2, 3, 5, 7, 11, ... 과 같은 소수들..., -3, -2, -1, 0, 1, 2, 3, ... 과 같은 정수, 그리고 ${\frac {1}{7}},{\frac {23}{27}},{\frac {2}{2007}},\dots$ 로 표현되는 유리수들은 어려서 부터 지금까지 우리에게 익숙한 '수'들이 다. 그런데 이런 수만 있는 것이 아니라 더 '이상해보이는 수'

${\sqrt {31}},\ {\sqrt[{3}]{22}},\ {\frac {\sqrt {{\sqrt[{7}]{10^{-10}}}-{\sqrt[{3}]{3}}}}{\sqrt[{5}]{{\sqrt {31}}+{\sqrt[{3}]{22}}}}},\ e,\ \pi ,\ e^{\pi },\ {\sqrt {\pi }},\ {\sqrt {2}}^{{\sqrt {2}}^{\sqrt {2}}}$

들은 모두 '어떤 수학적 대상'들이다.

그런 수들은 수학의 세계를 이루는 구성요소라 할 수 있다. 그렇다고 수학의 세계에 수만 있는 것이 아니다. 예를들면 삼각형, 사각형 들이 있고, 원, 타원, 포물선과 같은 기하학적인 대상도 수학의 세계를 구성한다. 방정식들도 끝없이 많이 있고, 수열도 있고, 함수도 있다. 학교에서 흔히 보는 그런 것들만 수학의 세계를 이루는 요소들인 것은 아니다. +, - 와 같은 연산들도 있고, =, < 과 같은 논리적 관계들도 있다. 언뜻 보면 어떤 식으로 딱딱하게 정해진 그것들만 있는 것처럼 보이지만, 그보다 훨씬 많고 흥미로운 것들도 많다. 사실 수학이 탐구하는 세계는 끝없이 확장하고 있다. 세상의 모든 것을 다 수학의 언어와 규칙으로 해명할 수 있다고 믿었던 지성인들이 있었다. (그리고 지금도 어딘가에 있을 것이다) 우리들이 수학 세계를 여행하다보면 그 '꿈'이 마냥 허황된 것이 아니라는 생각마저 든다. 세상의 비밀을 여는 열쇠가 수학이든 아니든 수학의 대상들은 그렇게 많고도 많고, 더 많아지고 있다. 그 수학적 대상들은 어떤 성질이 비슷한 것들끼리 묶여서 따로 보기도 한다. 1,2,3, ... 은 자연수들 ; y = x + 1 , y = 3x -2 ... 은 일차 함수들; 직각 삼각형, 예각 삼각형 ... 은 삼각형들 이라고 어떤 공통된 성질을 기준으로 묶어 생각한다. 그것들은 완화된 어떤 성질로 다시 더 큰 묶음 안으로 모인다. 자연수, 정수, 실수, ... 같은 수들은 수 ; 삼각형, 사각형, 오각형 ... 은 다각형 ; 일차 함수, 분수 함수, 근호 함수 같은 경우는 함수로. (계속 확장하면서 수학책에서 만나는 모든 수학적 대상을 하나로 묶을 기준을 얼마든지 생각해보라)

수학의 세계만 그렇 것이 아니다. 국립중앙도서관에 있는 책들, 국립중앙박물관에 있는 문화재들, 어떤 미술관의 그림들이 있고 어떤 학교에는 그 학교 학생들이 있고 교사들이 있다. 유명한 사람을 흠모하는 팬클럽도 있고 우리가 자주가는 사이트에 회원으로도 등록이 된다. 내가 좋아하는 시를 옮겨 적은 공책에는 '내가 좋아하는 시'들 목록이 있고, 2000년 한 해 동안 상영했던 영화도 있다. 지구의 모든 바다에 사는 어류들도 있고, 하늘에는 별들도 있다. 이 모든 '대상'들의 성질을 알고 싶은 호기심이 학문을 발전시켰다.

이 모든 것을 포괄해서 말할 수 있는 개념이 있으니, 우리는 이제 '집합'(Set)이라는 것에 대해 말을 주고 받고자 한다. 집합이 무엇일까? 수학 공부하다보면 새로 만나면 먼저 '정의'를 하고 다음 '성질'을 보는데, 우리도 먼저 이 새로운 녀석 '집합'을 정의해야하지 않을까? 그러나, 그것은 쉽지 않다. 앞으로 보겠지만, '집합'을 정의하다 보면 어디선가 김새는 소리가 나곤한다. 보통

어떤 원소들의 모임

이라고 하지만, 그런 식의 정의는 사실 아무것도 아닌 것과 같다는 것을 알게 될 것이다. 그렇기 때문에 탄생하던 19세기 중반 집합론이 수학의 한 분야로 인정받기 위해서는 댓가를 톡톡히 치러야 했다. 그렇다고 '집합'이라는 개념을 이끌어와서 그 성질을 밝혀보는 것을 쓸 데 없는 일이라고 치부하는 것은 잘못이다. 그 반대다. 19세기 중반 '집합'이라는 개념을 도입하고 그것으로부터 '매우 흥미롭고 놀라운' 성질을 밝혀온 칸토르 이후 지금까지 이 세계에 탐구는 계속되고 있다. 집합론은 기학학에서 흔히 직관적으로 받아들이던 1차원, 2차원, 3차원과 같은 공간의 차원 문제를 주의깊게 다시 보도록 하는 결과를 낳기도 했다. 또 그 내부에서 이상한 문제들에 부닥쳐 더 정교하게 발전하거나 수리논리학(mathematical logic)와 같이 새로운 수학세계를 탄생시키는 씨앗이 되기도 했다. 함수의 정의 처럼, 지금은 수학의 전분야에서 집합 개념을 받아들여 어떤 개념을 설명하기도 한다. 한국어든, 영어든 모든 언어에는 가장 많이 등장하는 단어가 있기 마련인데, 어쩌면 20세기 이후 수학의 언어에서 가장 많이 등장하는 용어는 '집합'이라는 단어일지도 모른다.

집합들과 그 안의 관계, 연산이 어떤 성질을 가지는지 밝히는 수학의 분야를 집합론이라고 부른다. 우리는 이제 집합론의 세계로 탐험길을 떠난다. 가슴이 두근거리지는 않는지 ?

집합이란 무엇인가?

집합이라는 단어는 그 자체로 정의를 할 수 없다. 자연수처럼 그냥 받아들이는 개념이다. 어떤 대상을 정의한다는 것은 다른 말로 그것을 정의해야하고, 거기 쓰인 용어는 또 다른 말로 정의되어야 하고,... 결국 더이상 정의할 수 없는 어떤 개념들이 나올 수 밖에 없으니까. 수학에도 이런 개념들이 여럿있다. 집합이니 원소니 하는 것도 그렇고, 함수를 정의할 때 '대응' 이라는 용어도 그렇다. 특별하게 논리적인 문제를 발생하기 전까지 직관적으로 분명하여 받아들일 수 있으면 충분하다. 학교에서 보통 '집합의 정의'라고 하면서

집합은 원소들의 모임

이라고 하지만, 이것은 잘못이다. '모임' 이라는 말은 그래도 받아들인다해도, '원소'라는 말을 정의하지 않으면 아무것도 '정의' 안 한 것과 다를 바 없다. 정의가 아니라 받아들이기로 일단 약속하는 것이다. 이렇게 받아들이자.

집합은 대상들이 모여서 된 전체로서의 하나이다.

집합은 대상들이 모여서 된 것이니, 잠시, 아래의 것들은 모두 집합이라고 할 수 있을 것이다.

• 자연수들의 모임
• 실수들의 모임
• 국립중앙박물관에 있는 도자기의 모임
• Gil사이트에 Login한 사람들의 모임
• W.A 모짜르트의 작품들의 모임
• 2019년 1월 1일 현재 현재 태양계에 존재하는 행성의 모임
• 하늘을 나는 핑크빛 코끼리들의 모임
• 백두산 천지에 사는 용의 모임
• 나의 친구들의 모임
• 키가 큰 사람들의 모임
• 얼굴이 예쁜 사람들의 모임

이 모든 것은 집합의 예다. 어떤 것이든 상관없다. 아직은 그렇다. 그러나 나중에는 함부로 아무거나 집합이어서는 안된다는 것을 알게 될 것이다. 성격이 너무 모호한 것은 그만큼 신세계와 같다. 보물들이 쏟아져 나올 수도 있고, 곤경에 처할 수도 있다.

한발 더 들어가보자. 원소로, 다음의 '것'들이 있다고 하자.

7, ㄱ, 낫

이것을 전체로서의 하나로 나타내기 위해 기호로 특별한 괄호 { , } 에 담는다. 보통

A := { 7, ㄱ, 낫 }

라고 쓴다. '7' 이나, 'ㄱ' , '낫' 을 원소로 갖는 집합이 있고 그것에 이름을 A라고 준 것이다. 여기서 '7' 이나, 'ㄱ' , '낫'이 아니라 우리의 주요 관심은 그 전체인 '집합 A' 다. 약속을 하나 하기로 하자. 같은 원소가 두 번 있는 것은 특별히 말하지 않는다면, 한번만 있는 것과 다를 바 없다고 보자. 그리고 오해를 일으키지 않을만 하면 계속 이어지는 집합들은 ' ... ' 으로 표시하기로 하자. 다시 말해

(약속) : { 7, ㄱ, 낫 } 과 { 7, 7, 7, ㄱ , 낫 } 은 다른 집합이 아니다. 같은 원소는 한번 만 쓰기로 하자.

(약속) : 1부터 100까지 수의 집합은 {1, 2, 3, ... , 99, 100} 으로 정수 집합은 { -3, -2, -1, 0, 1, 2, 3, .... } 로 줄여 쓰기로 한다.

여기서

' 7 이 집합 A 에 들어있다.'

를 뜻하는 기호 표현으로는

7 $\in$ A

라고 한다. 제 아무리 9가 여러번 들어있는 크고도 큰 수가 있다고 해도, 예를들어 999999$\cdots$999 처럼 끝이 난다면, 그 수는 자연수이므로

999999$\cdots$999 $\in$ 자연수 집합

이다. 그런데 $\pi$ 라는 수는 자연수가 아니므로

$\pi \notin$ 자연수

라는 '들어 있지 않음'을 기호로 나타내기로 한다.

더 일반적으로

'원소 $\in$ 집합'

이라는 것은 그 원소가 그 집합에 들어있다는 것을 말한다.

이것은 집합에 처음으로 등장하는 '관계'다. 집합을 이야기하면서 '전체로서의 하나'를 굳이 강조하는 이유는, 원소들 자체 보다는 '모인 한 덩어리' , 또는 '하나의 총체적인 무엇'을 뜻하기 때문이다. 때문에 집합은 그 자신이 '하나의 원소'가 될 수 있다는 것을 암시하고 있다. 예를들어 집합이

B := { { 1, ㄴ, 호미 } , {7, ㄱ, 낫} }

라면 다음과 같이 쓴다.

$A\in B$

지금까지 '집합' 자체를 정의하지 말고 받아들이기로 했다. 그러나 어떤 특정한 집합은 정의할 수 있다. 이는 원소를 나열해서 직접 드러내거나, 아니면 그 원소들의 성격이나 조건을 써서 간접적으로 드러내어, '그 원소들로 결정된 집합'을 정의한다.

'어떤 집합'을 결정(정의)하기

집합은 원소들의 모임이라고 했으니, 우선 원소를 분명하게 드러내어서 집합을 정의할 수 있다.

원소를 나열해서 집합 나타내기

집합의 정의에서 이미 집합을 나타내는 것을 말한 셈이다. 그것으로 충분할까 ? 위에서 나타내는 방법이 뭐 이상할 것 있느냐고 반문할 수도 있다. 앞에서 나타낸 방식은 어떤 원소들 $a_{0},a_{1},a_{3},\dots ,a_{n}$ 이 들어 있다면 이는

$\{a_{0},a_{1},a_{3},\dots a_{n}\}$

로 나타낸다는 것을 말한 것이다. 집합은 그 원소들이 결정하기 때문에 원소들이 정해지면 그것들을 모은 '모임'이 집합이니까 문제될 것이 사실 없지 않느냐...고. 그러나 문제는 그리 간단하지 않다.

우선, 원소가 아주 많을 때를 생각해보라. 원소를 일일이 다 써 줄 수 없다. 어떤 학교 학생들의 집합을 나타낸다고하자. 큰 도시의 학교라면 이를 다 나열하는 것은 끔직한 일이다. 집합 하나를 정의하기 위해 원소를 나열해서 쓰는데 몇 년씩 걸린다면 그런 일을 할 필요가 있겠는가? 그냥

{ A 학교 학생들 }

이라고 하면 된다. 은하계의 별을 모두 나열해서 쓴다면 은하계의 모든 별의 이름을 어떤 식으로든 알고 있거나 정해주어야 하고 그 다음 그것을 나열해야 한다. 이런 일은 별에 관심이 있는 사람들이 할 일이지 '집합' 세계로 가는 사람들의 일은 아니다. 이것은 그냥

{ 은하계의 별 }

이라고 하면 된다. 우리의 주요 관심은 집합 안의 원소가 아니라, '하나로서의 총체' 인 집합 자체라는 것을 다시한번 상기하자. 예를 얼마든지 들어볼 수 있다.

{ 과녁에 꽃힌 화살들 }, { 김유정이 쓴 단편소설 }

게다가 원소에 이름을 붙이기 어려운 것도 있기 마련이다.

{ 오일러가 남긴 편지 }, { 해운대의 모래알 }

물론 편지를 날짜별, 받는 사람별로 하면 이름을 줄 수 있겠다. 모래알에도 하나하나 이름을 줄 수도 있긴 하겠지만.

그것뿐만 아니다. 원소를 나열해서 언젠가 끝이 난다면 다행이지만 끝이 안나는 경우는? 자연수 집합은 어떻게 나열할까? 1, 2, 3, 4, 5, 6, ... 언제까지 원소를 쓸 수 있을 것인가 ? 자연수는 그래도 다행. 10진법 체계를 따른다고 하고 유리수를 한번 나열해보라. 1 은 유리수다. 좋다. 그렇다면 그 다음 수는 ? 어떤 유리수를 다음 수라고 제안하건, 나는 1과 그 수의 사이값을 말할 수 있다. 그래서 자연수나 유리수는 보통 다음과 같이 쓴다. 10진법으로 쓰는 것을 가정한다.

자연수 집합 := { 1, 2, 3, 4, ... }

유리수 집합 := { n 과 m 이 정수이고 m 은 0이 아닐 때, ${\frac {n}{m}}$ 인 모든 수 }

원소를 나열해서 집합을 나타내는 것은 원소가 적고 분명할 때가 아니면 만족스러운 방법이 아니라는 것은 이미 말했다. 그렇게 원소를 직접 내는 것이 불가능할 때도 있다. 원소가 끝없이 많은 경우도 그렇지만, 다른 경우도 있다. 이에 대해서 차차 보기로 하자. 여기까지, 우리는 집합이 정의하기도 쉽지않고 (따라서) 나타내는 방법도 그리 간단하지 않다는 것을 알았다. 나열하는 것 말고 다른 방법도 있어야 한다는 것을 짐작할 수 있을 것이다.

조건 P(x) 를 밝혀서 집합을 나타내기

앞의 경우와 마찬가지인 그런 유형의 집합 의 예를 더 보면

{ 삼각형들 }, { 함수들 } , { 수직선에서 0 부터 1 사이의 점들 }

과 같은 것을 들 수 있다. 물론 이때 '삼각형', '함수' '점' 에 대해서 미리 알고 있다고 전제한다. 앞에서 유리수를 어떻게 나타내었는지 다시 보기 바란다.

그런 표시 방법들을 묶어 공통점을 뽑아보면 이렇게도 집합을 표시할 수 있겠구나, 하고 고개를 끄덕일 수 있을 것이다.

C := { x | x 는 무엇무엇이다. 또는 어떠어떠한 성격을 갖는다. }

집합 C 는 x 를 원소로 갖는데, 그 x의 성격 또는 조건은 이러이러하다고 드러내어 써주는 경우다. 이는 원소가 집합을 결정하는 것이 아니라 집합이 원소를 결정한다고 볼 수 도 있다. 그게 어떻든, 성격을 전면에 나타내서, 집합을 결정할 수도 있다.(조건제시법 이라고 부르기도 한다)위에서 'x 는 무엇무엇이다. 또는 어떠어떠한 성격을 갖는다.' 부분을 P 가 어떤 문장이라면, 기호로 간단히

C := { x | P(x) }

라고 쓰면 된다. 예를 보자.

$\{x|\ x$는 하나 초등학교 이학년 삼반 학생 $\}$

$\{x|\ x-1=0$ 이고 $x$는 실수 $\}$

$\{x|\ x\cdot x=0\}$

과 같은 식이다.

타원

하나의 집합을 정의하기 위해 조건 P(x) 이 하나만 있어야 할 이유는 없다. 겉으로는 달라보이는 다른 문장 Q(x) 가 한꺼풀 벗기고 나면 그 밑바닥에서는 P(x) 와 같은 것일 수도 있다. 자연수에서 짝수들 같은 경우도, 2의 배수, 2로 나누어 떨어지는 수, 2부터 2씩 더해가는 수 처럼 여러가지로 정의할 수 있다. '타원' 도 마찬가지다. 아래 정의들은 모두 타원집합을 얻는다.

$\{$ 주어진 두 점에서 거리의 합이 일정한 모든 점들 $\}$

$\{x|$ 원추를 비스듬히 평면으로 절단해서 평면과 원추가 만나는 점$\}$

$\{\ (x,y)\ |\ {\frac {x^{2}}{a^{2}}}+{\frac {y^{2}}{b^{2}}}=1\ \}$

$\{\ (x,y)\ |\ x=a\cos t\ ,\ y=b\sin t\ ,\ t\in [-\pi ,+\pi ]\ \}$

집합을 나타내는 것은 여전히 쉽지 않아 : 도대체 무엇이 집합인가?

어떤 특정한 집합을 정의할 수 있는 방법, 또는 집합을 나타내는 방법에 대하여 위에서 보았다. 원소를 나열해서 집합을 표시하면 되는데, 그것이 어려우니 조건을 분명히 밝혀 나타내도록 해서 문제를 보완했다. 모든게 잘 흘러왔다. 또 그렇게 흘러갈 것처럼 보인다. 무슨 문제가 있단 말인가? 그러나,

• { x | x 는 백두산 천지에 사는 괴물 }
• { x | x 는 지구를 방문한 외계인 }
• { x | x 는 하늘을 나는 코끼리 }
• { x | x 는 산타클로스 }

라고 어떤 집합을 정의해보자. 백두산 천지에서 괴물을 봤다는 사람은 꾸준하게 나오지만 아직까지 밝혀지지 않았고, UFO 가 나타났고 외계인이 있다고 주장하는 사람들도 나름대로 근거를 대지만 아직 확증적이지 않다. 하늘을 나는 코끼리는 동화 속에 있는 것이 분명하지만, 아이들에게 물어보라 "너는 하늘을 나는 코끼리가 있다고 생각하니? 없다고 생각하니? " 그리고 해마다 캐롤 송이 거리마다 울려퍼지고 거대한 전기 조명이 들어서고 선물 가게 마다 사람들이 북적거릴 때, 물어보라, 아이들에게, " 산타클로스는 있을까 없을까? "

자, 그렇다면 위의 집합들은 도대체 '어떤 집합을 정의한 것인가?' 어떻게 생각하는지 ?

의의 문제들은 x 의 성격을 나타내는 문장 P(x) 가 '분명한' 대상인지 아닌지에 따라 모호하긴 하지만, 나름대로 P(x)의 문장에 쓰인 용어들을 정의하기에 따라 문제가 되는 장막을 겉어버릴 수 있다. 그런데 다음 예를 한번 보자.

• A := { x | x 는 거짓말만 하는 사람 }
• B := { x | x 는 자기 스스로 밥을 떠먹지 않은 사람을 밥 떠 먹여주는 사람 }

어떤가? 위의 문장은 앞의 것과 다르게 문제가 될 소지가 없어보인다. 뭐가 도대체 문제라는 것인가? '말하다, 밥을 떠먹다 스스로' 와 같은 용어들이 쓰이긴 했지만, 상식으로 받아들인다고 할 때 위의 문장이 도대체 무엇이 문제인가? 스스로 밥을 떠먹지 않는 사람에게 밥을 떠 먹여주는 것은 선한 행동 아니겠는가?그러나 앞의 유형들과는 다르게 치명적이 문제가 있다.

거짓말만 하는 사람들이 모여 사는 괴상한 마을이 있다고 상상해보자. 이 마을은 먹을 것도 풍족하고 놀 곳도 많고 집도 모두 으리으리 하다. 그 마을에 말쑥하게 차려입고 멋진 차를 타고 온 사람이 내렸다. 그는 이 마을에서 사는 게 꿈이었다. 그래서 평생 애써서 돈을 모아 멋지게 보이도록 꾸미고 왔다. 지도에도 나와있지 않은 이 마을을 찾아 오랜 시간을 보내고 드디어 '비밀의 지도'를 찾아 마침내 이 마을에 이르른 것이다. 이 마을은 아무나 들어올 수 없다. 마을 대표들이 나왔다. 그 중 한사람이 심사를 맡기로 했다. 새로온 사람은 마을 대표들에게 이렇게 말했다. 그 사람을 No.1 이라는 사람이라고 하자. No.1 은 집합 A 에 들어 있을까?

No.1 "나는 거짓말만 합니다."

- 심사관 " 당신은 지금 거짓말을 하고 있습니까?"

No.1 " 예 물론이죠. 전 지금 거짓말을 하고 있습니다."

- 심사관 " 그렇다면 당신이 '나는 거짓말만 한다'라는 것은 참입니다. 지금 참말을 하고 있는거지요. 그래서 이 마을에 들어올 자격이 없습니다.

No. 1 (놀라고 당황스러워 하며) " 아닙니다. 나는 거짓말을 하지 않습니다."

- 심사관 " 당신은 거짓말을 하고 있지 않다구요? 그렇다면 당신은 이 마을에 들어올 자격이 없습니다. "

다시 말해 이런 구조다. 내가 지금 "나는 지금 거짓말을 하고 있습니다" 라고 했다면, 그 말 자체가 거짓말이면 참말인 것이 되고, 그 말자체가 거짓말이면 참말이다.

집합 B 의 경우를 보자. 어떤 마을에 '자기 스스로 밥을 떠먹지 않은 사람에게 밥을 떠먹여 주는' 사람 No.2 가 있었다. 만약

No.2 $\in$ B

이면, 이것은 No.2 가 스스로 밥을 떠 먹지 않은 사람의 밥을 떠 먹여주는 사람이다. 그렇다면 No.2 는 자기 스스로 밥을 떠 먹을까? 아니면 자기스스로 밥을 떠먹지 않을까?

• 자기 스스로 밥을 떠 먹지 않는다면, 그렇기 때문에 스스로 밥을 떠 먹여주어야 한다.
• 스스로 밥을 떠 먹는다면 자신(No.2)에게 밥을 떠 먹여주면 안된다. 그래서 그는 밥을 떠 먹지 않은 사람이어야 한다.

이런 경우를 Paradox (역설) 라고 한다. 이런 유형은 얼마든지 있는데 이것을 수학적으로 표현하면 다음과 같은 식이다. 노벨문학상 지명자이자 철학자, 수학자였던 영국의 러셀(B.Russell)이 제시한 "러셀 패러독스"다. 집합 M 을 정의하자. 그 자신을 원소로 갖지 않는 집합을 원소로 갖는 집합니다. (그 자신을 원소로 갖는 집합은 있을까? 없을까?) 기호로 쓰면,

$M=\{A\mid A\not \in A\}$

그렇다면 집합 M 자체는 어떻게 될까?

• $M\in M\ \rightarrow \ M\notin M$
• $M\notin M\rightarrow \ M\in M$

앞의 두 집합 A, B 의 논의도 이런 유형이다.

앞의 경우처럼, 어떤 집합을 잘 정의했다고 생각할 수 있지만, 사실 모호한 논리적 상태에 빠져버릴 수 있는 예는 얼마든지 있다. 그렇게 패러독스에 대해서만 해도 따로 책이 있을 정도니 여기서는 더 깊이 들어가지 않겠다. 또 패러독스의 유형도 단지 집합의 정의에서 나타나는 것도 아니다. 앞의 경우와 같이 그 조건이 모호한 것들을 빼내고, 수학적으로 제법 잘 쌓아 올린 집합론에서도 패러독스가 생긴다는 것을 보게 될 것이다. 패러독스가 집합론에서만 발생하는 것은 물론 아니다. 기회 있을 때, 패러독스에 대해서는 따로 보자.

Paradox 참조.

현대에 들어서 수학은 집합론으로 그 기초를 단단히 다졌다. 그런데 여전히 수학의 기초는 불안한 지평위에 있다는 것을 암시하는 것이었다. 이는 '집합' 자체가 정의하기 힘든 어떤 것이고 지나치게 일반적인 '그 무엇'을 수학 안에 끌어들임으로써 필연적으로 발생한 것이 아니겠는가. 그것은 어쩌면 '자유의 대가' 였는지 모른다. 러셀 형식의 패러독스에 수많은 수학자와 철학자들이 나름의 해석과 대처 방안을 내놓았다. 우선 집합론 안에서 반응은 이렇다.

• 그런 이상한 집합은 없다고 가정하고 우리에게 형식으로는 엄격하지 않지만 '잘 정의된 집합'들만 있다고 가정한 집합론 : 보통 Naive Set Theory 라고 부른다.
• '집합'의 정의를 '공리'를 통해 엄격하게 한 것이다. 어떤 공리로 집합을 정의했는가에 따라 쩨르멜로-프랑켈 시스템이 있고, 괴델-베르나이스 시스템 이 있다. 이에 대해서는 공리 체계 와 공리론적 집합론 을 참고하라.

따라서 우리가 여기서 보는 집합론의 성질에 대한 논의는 Navie Set Theory 라 할 수 있다.

집합을 분명하게 정의해도 그 원소가 무엇인지 아는 것은 쉽지 않다

우리가 정의한 집합에는 역설이나 모순이 없다고 하자. 다시 말해 앞에서 예로 든 집합들 P(x) 가 '뭐라 딱히 말할 수 없는 대상'을 가리키거나, 패러독스를 낳을 수 밖에 없는 경우는 없다고 하자. 예를들어 수학적으로 모순이 없는 문장 P(x) 만 쓰기로 하자. 이미 예를 든 것처럼.

$\{x|\ x-1=0$이고 $x$는 실수 $\}$

$\{x\mid x\cdot x=0\}$

위의 두 집합을 비교해보자. 첫번째 집합은 분명히 그 원소가 드러난다. 원소가 1 하나인 집합 { 1 } 이다. 그렇다면 두번째 집합은 ? 아무 생각없이 원소가 0인 집합 { 0 } 이라고 하기 쉽다. 하지만, 그 원소가 어떤 성격을 갖는가에 따라 참일 수도 있고 거짓일 수도 있다. 우리가 아는 수의 세계에서는 참이지만, 만약 x 가 행렬 이라면 ? 그 중에 2,2 행렬

${\begin{vmatrix}a&b\\c&d\end{vmatrix}}$

이라면 이때 적당한 a, b, c, d 를 골라내면 a,b,c,d 가 0이 아닌데도, 다시 말해 x가 0인 행렬이 아닌데도 그 둘을 곱하면 0인 행렬이 나올 수 있다. 다음을 풀어보라.

• 앞의 예에서 적당한 a, b, c, d 를 찾아보라.
• 그렇게 되는 예는 몇개나 있을까? 3,3 이나 4,4 행렬에 대해서도 답을 찾아보라.

조건을 드러내어 집합을 정의할 때, 그 조건을 정확히 밝혀주어야 한다. 어떤 조건이 씌여 있을 때 그것이 문맥의 앞뒤를 따져서 오해할만 하지 않다면 모를까, 항상 따져보는 습관을 갖고 정확히 이해하고 정확히 표현해야 한다. 이는 우리가 '놀고 있는 공간'이 어디인지 확인하는 습관과 같다. 수의 공간인지 아닌지, 수의 공간이라도 실수 공간인지, 그 보다 확장된 어떤 공간인지...

그런데 이것을 분명하게 해도 그 원소를 아는 것은 사실 그리 쉬운 일이 아니다. 여기서 (x,y) 라고 하는 것은 어떤 수들의 쌍을, $\mathbb {R}$ 는 실수집합을, $\mathbb {Z}$ 는 정수 집합을 뜻한다.

$\{x\mid 3x^{4}-2x^{3}+1000x-1=0\quad ;\quad x\in \mathbb {R} \}$

$\{(x,y)\mid x^{2}+y^{2}=4020025\quad ;\quad x,\ y\in \mathbb {N} \}$

이런 집합들에 원소가 있는지 없는지, 있다면 구체적으로 어떤 원소인지 드러내 나열하는 것은 상당한 계산시간이 필요하다. 여기가 끝이 아니다.

$\{(x,y,z)\mid x^{n}+y^{n}=z^{n}\quad ;\quad x,y,z\in \mathbb {N} ;2<n\}$

유명한, 이른바, 페르마의 위대한 정리 (또는 '페르마 마지막 정리') 로, 그 집합에는 어떤 원소도 없다는 것을 페르마가 말한 것은 1637년. 정말 그런지 확실하게 밝힌 것은 20세기 말. 무려 350년이 넘게 걸렸다. 이런 비슷한 경우가 수학의 역사에는 적지않았고 지금도 그렇고 앞으로도 그럴 것이다. (어쩌면 점점 더 많아질 것이다. 아는 게 많아질수록 모르는 것도 늘어간다고 보면... ) 페르마 대정리처럼 풀어내는데 걸린 시간이 350년이면 그나마 짧은 시간.

$\{x\ |\ x$ 는 초월수 $\}$

라는 집합에 $\pi$ 가 들어 있는지 아닌지 밝히는 것도 쉬운 일이 아니었으며, 이 문제를 해결한 것은, 수천년을 끌어온 기하학의 문제의 최종적인 해답을 제시했다.

풀렸다면 그래도 다행이다. 아래 집합들은 아직 원소가 있는지, 있다면 몇 개나 갖는지 아직 풀리지 않았다고 한다. (여러분 중 누군가가 푼다면, 그 이름은 당분간 떠들썩하게 회자될 것이다.)

$\{(x,y,z)\mid x^{3}+y^{3}+z^{3}=30\quad ;\quad x,y,z\in \mathbb {Z} \}$

다음은 현재까지 1093, 3511이라는 두 수만 발견되었는데, 더 있는 지 없는지는 아직 밝혀지지 않은 예다.

{ x | x 는 소수이면서 $x^{2}$ 이 $2^{x-1}-1$ 를 나눈다. }

하지만 우리의 목표는 '원소'를 파악하는데 있지 않다. 누군가 아래와 같이 말할 수 있다.

그렇지만, 사실 이는 집합론이 갖는 문제라기 보다는 그 집합이 표현하는 수학의 문제 아닌가요? 아가사 크리스티나 코난 도일의 추리 소설에서 벌어진 어떤 사건의 범인을 찾는 문제도 그렇죠. 'A 사건의 범인'의 집합이라고 나타내는 것은 별 문제가 안되고 그 범인을 찾는 것은 범행 정황에 따라 아주 '실제적인' 문제죠. 어려울 수도 있고 쉬울 수도 있죠. 그것이 집합의 문제는 아니잖아요.

타당하다. 동의한다. 그런 것은 수학의 다른 분야를 공부할 때 열심히 하면 된다. 앞에서 말했듯이 우리의 관심은 '집합 자체'다. 집합의 정의나 원소들에 연관된 문제는 이정도로 하자. 모든게 잘(?) 되어 있다고 가정하고 집합들 자체로 들어가보자. 집합은 잘 정의되어 있기로 했으니, 집합들 사이의 논리적 관계와 함수적 관계를 볼 차례다.

집합 이야기의 틀 로 돌아가기

Note

Math : Math글쓰기 | Math번역 | MathBoard | Math&Culture | MathMoim
OnLineMathCenter | MathCamp | SoftMathJournal | MathBook | CyberAcademia | Academia