Infinite Set

집합 이야기의 틀 로 돌아가기

무한의 직관적 정의, 무한개의 방이 있는 숙소에서 벌어진 일

집합의 원소의 개수를 '세가다 보면' 그 과정이 끝이 날수도 있고, 끝이 없을 수도 있다. 세어서 끝이 있으면 그런 집합을 '유한(有限) 집합'이라고 부르고 그렇지 않으면 '무한(無限) 집합'이라고 부르자. 이것은 아직 완성된 정의가 아니다. '세어서' '끝' 이런 말이 모호하다. 임시적 정의 이지만, 직관적으로 분명해보이므로 일단 쓰도록 하자.

임시적인 정의 (무한집합) 어떤 집합이 일정한 개수의 원소만 갖는 경우 '유한집합'이라고 부른다. 그렇지 않은 집합을 '무한집합'이라고 부른다.

예를들어, oo 학교, 1학년 1반 학생의 집합, oo 책방의 책 집합, 내 컴퓨터의 파일 집합들은 모두 유한이다. 제아무리 많이 있고 세기 어렵다고 해도 그것이 끝이 있으면 유한집합이 된다. 세계에서 제일 큰 나무의 잎사귀들의 집합, 지구 전체의 모래알 집합, 태평양의 물 분자의 집합 같은 것들이 그렇다. 유한 집합만 있을까? 물론 그렇지 않다. 예를들어 자연수의 집합, 어떤 평면의 모든 삼각형의 집합과 같은 것들은 '분명히' 무한 집합이다.

우리가 수학 공부를 할 때 어떤 새로운 집합이 발견되면 먼저 그 집합이 유한인지 무한인지 따져보곤 했다. 예를들어 소수라는 특수한 수들을 발견하고 먼저 확인해본 것이 과연 그 집합의 원소의 개수가 몇개였는가 하는 것이었다. 또 피타고라스 세쌍수는 몇 개일까? 완전수는 몇개일까? 자와 컴퍼스로 작도 가능한 정다각형의 갯수는 몇개일까? 어떤 것들을 쉽게 풀리고 어떤 것들은 그렇지 않다.

세상의 모든 유한 집합들을 원소로 갖는 집합을 생각해보자. 그 집합은 유한집합일까 무한집합일까?

집합이라는 말자체가 수학의 영역으로 들어온 것은 수학의 긴 역사에 견줘보면 사실, 최근의 일이라 할 수 있다. 지금의 '수학' 개념이 자리잡은 시기로보는, 2500여년 전인 고대 그리스 시대만 하더라도 그냥 '무한'이라는 말을 썼을 뿐이다. 그런데 그나마 '제논의 역설(Zeno's paradoxes)' 이후 '무한'이라는 단어조차 아주 조심스럽게 쓰게 된다. '제논의 역설'에 대한 수많은 철학적, 물리적, 수학적 해명들이 있지만, 오늘날까지 이 문제는 여전히 논쟁 중이다. 우리는 제논의 역설에 대해 자세히 다루지 않는다. 대신 그렇게 전하는 역설 중 운동(motion)에 대한 것을 인용하면 이렇다. ^[1]

어떤 목표 지점에 도달하기 위해서는 그 반이 되는 지점을 지나야만 때문에 어떤 움직임도 있을 수 없다. ^[2]
어떤 달리기 왕도 먼저 출발한 거북이를 따라잡을 수 없다. 왜냐하면 아킬레스가 거북이가 출발한 지점에 가면 그 거북이는 이미 그 지점을 지나 다른 지점에 가 있고, 아킬레스가 그 다른 지점에 도달하면 거북이는 이미 그 다른 지점을 지나 '또 다른 다른 지점'에 가 있고 이는 계속될 수 밖에 없다. ^[3]
시간이 순간들의 모음이라면, 날으는 화살은 멈추어 있다. 어떤 공간을 차지하고 있는 동안 어떤 것도 멈추어 있다. 어떤 순간에 모든 것은 일정한 공간을 차지하므로 멈추어 있다. 어떤 '시간 동안'은 순간의 모음이라고 가정했으므로 움직임은 있을 수 없다. ^[4]

어쨌든 무한의 세계에서 상식적으로 만만하게 생각했다가는 큰코다치게 된다. 우리는 비교적 '단순한' 예를 보면서 무한의 세계가 어떤 세계인지 잠시 느껴보도록 하자.

무한의 세계

'무한'은 수학의 세계에서 가장 본질적인 개념들 중 하나라 할 수 있다.^[5] 16,7세기 미적분의 개념과 더불어 해석학(mathematical analysis)이 수학 세계에 자리를 잡아가면서 '수학적으로' 이것이 도대체 무엇인지 밝히는 것은 아주 중요한 주제였다.

자연수는 무한개

실제로 보지 않았고 만져보지 않았다고 해서 느끼지도 못하는 것은 아니다. 3 이라고 할 때, 무엇이 연상되는가? 무엇이 3인가? 우리가 3이라는 수를 생각할 때 이것은 사과 세 개, 자전거 셋, 구름 셋과 같이 어떤 구체적인 물질에 대해 이야기하는 것이 아니다. 구체적인 물체의 성격은 다를 수 있지만 그것들이 갖는 공통된 특성 중 ‘셋’으로 셀 수 있다는 성질만을 뽑아내서 그것에 대해 우리는 ‘셋’이라는 개념을 가질 수 있고 그 기호로 3’이라고 쓸 수 있는 것이다. 무한이라는 개념도 마찬가지다.

하나, 둘, 셋, 넷... 이렇게 세어가보자. 10 진법을 따른다면 1, 2, 3, ... 과 같이 쓸 수 있을 것이다. 그런 과정을 통해 만날 수 있는 모든 수들을 자연수라고 부른다. 자연수와 자연수들은 덧셈을 할 수 있는데, 예를들어 9와 9를 더한다면,

9 + 9

라고 쓰고 이는 하나, 둘, 셋, ... , 열여섯, 열일곱, 그리고 마침내, 열여덟에 이르는 수와 같다 ! 자 그렇다면

9 + 9 + 9

는 어떤 수일까? 이는 하나, 하나, 하나를 스물일곱번 해야하는 수, 십진법으로 쓰면, 27 로 써지는 수다. 그러니까, 9+9 를 하고난 결과에 다시 9를 더한 수다. 그렇다면

9 + 9 + 9 + 9 + 9 + 9 + 9 + 9 + 9

은 ‘아홉’을 아홉 번 더한 것이다. 벌써 81 까지 왔다. 이것을

9\cdot 9

라고 간단히 쓴다. 이제

9\cdot 9\cdot 9\cdot 9\cdot 9\cdot 9\cdot 9\cdot 9\cdot 9

라고 하면 어떻게 될까? 수가 '커지는' 속도가 엄청나게 빨라진다. 이것도 간단히 쓸 수 있는데 다름아닌

9^{9}\

이다. 그렇다면

9^{9^{9}}

는 어떤 수일까? 한번 상상해보라. 어느 정도 큰 수일까? ^[6] 이 엄청나게 큰 수보다 큰 자연수는 얼마든지 있다. 위의 '표시'를

(9(9(9)))

라고 한다면.

\overbrace {(9(9(\cdots )))))))))} ^{9}

어떤가? 상상을 초월할만큼 큰 수다. 그런데 이것은 '충분히 큰 자연수'인가?

우리가 보았듯, 자연수는 얼마든지 크게 할 수 있고, 그 끝을 정할 수 없다는 것에서 자연수는 '무한개’다. 다시 말해 아무리 큰 수를 정해도 그것보다 더 큰 것이 있다는 것은 확실(!)하다. 자연수 집합이 무한집합이라는 것을 보이는 것은 쉽다. 다음을 보여보라.

무한개의 별에 무한개의 방을 가진 호텔이야기

자 수학의 세계에서 잠시 물러서서 상상의 세계 속으로 들어가보자. ('무한'이라는 개념 자체가 '상상'과 뗄 수 없다.) 이 상상의 예를 통해 보면 무한의 세계가 유한세계와 아주 다르다는 느낌을 가지게 될 것이다. '무한'을 이야기할 때 흔히 드는 예다. ‘무한개의 별이 있는 우주를, 그리고 별마다 여관이 하나씩 있는데 그 여관들은 방이 무한개 있다고 상상해보라. 모든 별은 1, 2, 3, ... 과 같이 번호로 부르고 여관의 방에는 1, 2, 3, ... 과 같이 번호가 붙어 있다.

제1회 전우주 수학대표자회의

(9(9(9)))번 별에서 올해 처음으로 전우주 수학대표자 학술대회를 열기로 결정했다. 이 대회에는 모든 별에서 한명씩 수학자들을 보낼 것이다. 여관 지배인은 걱정을 하지 않아도 된다. 방이 무한개 있으니 1번 별 대표는 1번 방으로, 2번 별 대표는 2번 방으로 보내면 된다. 그렇게 하면 모든 방이 꽉 할 것이다. 걱정도 않고 있었는데 뜻밖에 #1234569 별에서 한 명이 온게 아니라 두 명이 온 것이다. 각 방은 한사람만 잘 수 있기 때문에 방을 하나 더 마련해야했다. 이미 꽉 찼는데 방을 하나 더 어떻게 마련할까 ?

인원이 두배가 되었다

1234569 별에서 두 명이 갔고 그래도 잠자는 데도 회의하는 데도 문제가 없다는 말을 듣고 이번 수학대표자회의 만큼 중요한 행사가 또 언제 있을지 모르니 한명씩 더 보내자는 속셈으로 #1234569 별을 빼고 모든 별에서 한 명씩 더 보내게 해달라고 요구한 것이다. 조직위원회에서는 이렇게 할 수도 저렇게 할 수 없어서 오랫동안 토론을 한 끝에 별마다 한 명까지는 더 받기로 했다. 이 소식을 들은 숙소 지배인은 어떻게 자리를 마련할까?

모든 별에서 사람들이 몰려들었다

수학대표자회의는 성공적이었다. 며칠이 지났는데도 모두들 신바람이 나있었다. 예정했던 사람들보다 두 배가 왔지만 모두 자기 방을 갖고 잠자리도 편안했다. 별마다 음식문화가 달라서 음식에 대해서는 불평이 없는 것은 아니었지만, 워낙 재미있는 수학문제가 많이 만들어지고 함께 생각할 수 있는 기회가 많아서 문제 풀고 토론하면서 즐거운 나날들을 보냈다. 앞으로 남은 날이 며칠 없어서 모두들 서운해 했을 정도다. 준비로 고생했던 조직위원회도 뿌듯했다. 숙소 지배인도 물론이다. 대회가 시작하기 전 돈과 일손이 많이 들었지만 대수리를 해두기를 잘했다고 생각하고 있었다. 그런데 어느 날 날벼락이 떨어졌다. 이 학술회의가 앞으로 며칠 남았는데 앞으로 이틀 뒤에 이 호텔을 빼고 우주의 모든 별에 무한개의 방을 가진 무한 개의 호텔들이 모두 사흘 동안 문을 닫고 수리에 들어간다는 것이다. 게다가 그 호텔들마다 손님들이 꽉 차있었다 !

이 별로 모두 옮겨온다고 하니, 방을 마련해야 한다. 어떻게 해야 할까? 호텔 지배인은 이 문제를 어떻게 풀어야 할지 도저히 알 수 없어서 '수학자'들에게 이 문제를 해결하는데 도움을 청했다. 조직위원회를 찾아가 사정을 말했고 조직위원회는 이 문제를 즉시 모든 수학자들에게 공표했다.

“사람들이 꽉 차있는, 이 호텔로 무한개의 별에서 별마다 무한명의 사람들이 온다. 오는 사람마다 방 하나씩 줄 수 있는 방법은 무엇인가? ”

문제가 나가자 마자 바로 답이 나왔다.

x 번째 별의 y 번째 방에서 온 사람들에게

2^{x-1}3^{y-1}

방번호를 주면 됩니다.

과연 방 하나에 사람 한사람씩 들어가면서 오는 모든 손님을 다 받을 수 있겠는가? 우연히 어떤 방에 두 사람에 들어가는 일이 생기지나 않을까?

이렇게 방을 배정한다고 생각하니 한시름 놓았다. 그런데 여관 관리인은 갑자기 기분이 별로 좋지 않았다. 우선 5번, 7번, 10번 방만 해도 그렇고 생각해보니, 너무 많은 방이 비게 되는 것이다. 당신은 이 별에 온 후로 편지 붙이는 거며 의료실 신세도 졌고 그 밖에 여러가지로 관리인에게 신세를 졌다. 당신은 이 참에 관리인에게 마음의 빚을 갚고 싶었다. 마침 관리인도 이 고민을 말하면서 애처럽게 당신의 얼굴을 보고 있다. 관리인의 시름을 덜어주기 위해 어떤 방법을 추천하겠는가?

그러던 어느날

상황이 모두 진정되었다. 사람들은 꾸역꾸역 왔지만 오는 대로, 그 사람이 온 별의 번호와 그 사람이 그 별의 숙소에서 묶던 방의 번호만 불러주면 차례차례 바로 방을 줄 수 있었다. 게다가 놀리는 방도 없어서 숙소 지배인도 안심하고 쉴 수 있었다. 그러던 어느날 전보담당을 하던 직원이 조직위원회에 찾아왔다. 이 직원은 나이는 제일 어린데 아주 똑똑하다고들 주위에서 말을 많이 하던 직원이었다.

"저.. 제가 생각하는 문제가 있는데, 잘 안풀려서 그렇습니다. 수학자들이시니까, 제 이 갑갑증을 좀 풀어주실 수 있는지 해서요. 저희 숙소에선 무한 길이를 갖는 전보를 칠 수 있지 않습니까? 모든 별에 하나씩 서로 다른 전보를 칠 수 있겠죠? 그래서 말인데요, 무한 길이를 갖는 전보를 전부 모아보면 이 전보들을 우리 호텔의 방마다 하나씩 넣으면 남는 전보는 없을까요, 있을까요? 어떻게 생각하면 될 것도 같은데 또 어떻게 생각하면 남는 전보들이 꼭 있을 것도 같습니다. 혹시 이 문제를 다른 분들도 재미있어 하실까 궁금하기도 해서... 어떨까요? "

그 질문을 들은 수학자들의 눈이 반짝였다. 우연히 자리에 있던 지배인은 기가 막혔다. 왜 그런 복잡한 생각을 하는 걸까? 도대체 아무것도 아닌 문제를 생각하는 저 아이나, 그걸 듣고 재미있어하는 저 사람들 도대체 왜 그럴까?

지배인이야 어떻게 생각하든, 이 문제는 대회마지막날 헤어지기 얼마 전인데도 공표가 되었다. 짐을 싸던 수학자들은 멈추고 이 문제를 생각했다. 역시 이 문제도 오래 걸리지 않아 풀렸다. 여관 관리인은 '역시 수학자들은 다르구나' 하고 생각하게 되었다. 이 문제는 어떻게 풀렸을까?

우주 기차가 떠난다.

학술 행사가 모두 끝이 났다. 마지막날 저녁 숙소 마당. 아쉬움을 달래고 학술 모임을 기념하기 위해 향연이 열렸다. (그 마당은 얼마나 컸을까? ) 향연이 열리고 모두 맛있는 음식을 먹고 못다한 이야기를 나누고 서로 연락처를 주고 받기도 했다. 모두 돌아갈 우주기차가 떠나려면 이제 남은 시간은 한시간. 사람들은 짐을 챙기러 방에 들어간다. 그때 이런 방송이 나왔다.

한사람이 방에 들어가고 그 다음 두 사람이 들어가는데 그때 먼저 들어간 사람이 나오십시오. 그리고 나서 네 분이 들어가고 그때 두 분이 나오십시오. 이런 식으로 계속해가시면 됩니다. 다음엔 여덟 분이 들어가고 네분이 나오는 식으로 계속하시면 됩니다. 혼잡을 막기 위해 1번 방 손님부터 차례로 해주십시오.

자, 이런 상황을 생각해보자. 첫 손님은 아주 게으르고 자기만 생각하는 사람이어서 무려 30분을 썼다. 30분 후 그 사람이 나오고 2번 3번 방 사람이 들어갔다. 이 사람들도 짐을 제대로 챙기지 않아 15분 뒤에야 나왔다. 그때 4,5,6, 7 번 방 사람들이 서둘러 들어갔고, 7분 30초 만에 짐을 챙겨나왔다. 시간이 갈수록 촉박해서 사람들은 안절부절 못했다. 사람들은 더 급하게 되었다. 점점 왔다갔다 하는 시간은 짧아져 그 다음 사람은 3분 45초...

이런 식으로 앞 사람이 한 것보다 두 배의 사람이 들어가고 들어간 사람들이 광속인간처럼 짐을 챙기는 시간을 앞사람보다 반으로 줄이면서 계속 '무한히' 빨라진다.(역시 수학자들은 달랐다!) 기차가 떠난다. 기차에는 몇 번 방 사람들이 탔을까? 짐을 챙겨 나온 사람은 나오자 마자 순식간에 기차에 탔다고 하자.

무한의 세계를 탐험하다 보면 우리들이 놀랄 일이 하나둘이 아니다. 수의 세계도 기하의 세계도 무한과 연결되면 우리가 지금까지 가지고 있던 많은 생각을 바꾸거나 더 치밀하게 생각해야 한다는 것을 알게 된다. 무한을 대충 이해하다간 함정에 빠지기 일쑤다.

상황이 그렇다보니, '무한'이 도대체 어떤 것인지 탐구를 해보지 않을 수 없다. '무한'은 수학의 세계에서 가장 특징적이고 중요하게 다루어지기 때문에 수학자들이 거기에 대한 나름의 답을 내놓지 않았을리 없다.

제논의 역설 이후 : 원자론

고대 그리스에서 제논의 역설 이후 '무한'이란 조심스럽게 써야하는 개념이 되었다. 그에 대처하기 위한 일련의 철학적 입장이 있었다. 데모크리토스를 위시한 '원자론'자들 이었다. 원자론자들은, 세상은 쪼갤 수 없는 원소인 원자들로 구성되어 있다고 주장했다. 이 입장에 따르면 제논의 역설은 더 이상 역설이 아니다. 왜냐하면 '무한히 쪼갤 수 있다면'을 가정하였을 때 발생하는 논리적인 문제들에 대해 제논이 지적을 했는데, 이제 그런 가정 자체가 사라지기 때문이다.

이 입장을 따르면 직선도, 원도, 모든 기하학적 도형도 더 이상 쪼갤 수 없는 유한개의 원소들로 구성되어 있다. 지금까지도 많은 사람들이 자신도 모르게 '원자론적' 입장에서 서 말하는 경우가 흔하다. 점들을 찍고, 찍고, 찍다 보면 선이 되고, 선을 긋고, 긋고, 긋다 보면 면이 된다는 생각들이 바로 그런 예다. 제논의 심각한 역설도 피해가고 언뜻 보면 그럴 듯해보이기도 한 이 주장은 치명적인 '논리적' 단점을 갖게 된다. 선분도 원도 각도 항상 반으로 쪼갤 수 있다고 할 수 없게 된다. 선분이 있다고 해보자. 이 선분을 이루는 점들이 홀수개 있다고 해보자. 반으로 쪼갠다고 하면 어떻게 되겠는가? 한 쪽이 더 길 수 밖에 없다.

원으로 둘러싸인 원판을 생각해보자. 이것을 반으로 정확히 쪼갤 수 있을까 ?

기하학을 하기가 무척 까다로와 진다. 각의 이등분선이니, 수직 이등분선이니, 이등분 점이니 하는 모든 논의는 할 수 없다. 수학의 세계를 질식시키는 전제를 한 입장이라 할 만한다. 수학에서만 그런 원자론적 입장을 거부하는 게 아니다. 현대 물리학에서도, 세상의 근본에 대해 생각하는 종교들에서도 원자론적 입장을 받아들이는 경우는 드물다. 그런데도 우리가 살아가는 동안 은연 중에 원자론적 입장을 갖고 생각하는 경향이 잦다.

우리의 '감각 기관이 만나는' 세계는 어짜피 제한적이고 유한이라 그런 생각을 하는 것이 자연스러워 보이는지 모른다. 중세의 위대한 학자였던 갈릴레오도 생의 말년에 쓴 중요한 저작 "수학적 증명과 대담" 이라는 책에서 '무한'에 대하여 말한 부분을 보면, 다음과 같은 논리를 전개하였다.

우리의 감각은 제한적이고 우리가 보는 세계도 유한한데, 이로부터 추정하여 무한의 성질을 말하곤 한다. 그런데 이는 잘못된 것인데 왜냐하면 유한의 세계에서는 크고 작고 같음의 성질이 있지만, 무한의 세계에서는 그것이 불가능하기 때문이다. 예를들어 자연수 n 과

n^{2}

사이에는 분명히 n 이

n^{2}

보다 많은 것 같지만, 사실 이것들은 무엇이 무엇보다 더 많다고 말할 수 없다. 왜냐하면 n 에 대해 $n^{2}$ 이 하나 결정되고, $n^{2}$ 에 대해 n 이 하나 결정되기 때문이다. 유한한 세계에 적용되는 성질을 무한의 세계에도 적용하는 것은 잘못이다. 모든 무한은 크기가 같을 수 밖에 없다.

이와 같은 생각은 오늘날의 관점에서보면 받아들일 수 없다. 그러나 갈릴레이의 생각에는 매우 중요한 '씨앗'을 담고 있다. 어떤 두 무한 집합을 '비교'하는데 있어 '1:1 대응관계가 있느냐'로 바라보는 관점이 바로 그것이다. 이에 대해서 이어서 생각하면서 무한 집합의 성질에 대한 탐구를 이어가도록 하자.

체코의 볼짜노(Bolzano)도 이와 비슷한 연구를 했다. 하지만, 무한 집합은 그것의 부분 집합과 일대일 대응할 수 있다는 묘한 결론에 도달하고는 물러섰다. 갈릴레이도 주목했듯이 모든 자연수의 집합과 그것의 부분인 무한집합 사이에 일대일 대응 관계가 있는 것이다. 이런 현상을 어떻게 받아들여야 할까? 갈릴레이가 성급하게 내린 결론처럼, 과연 모든 무한 집합들 끼리는 일대일 관계가 이루어질까? 아니면 무한집합들 사이에서도 '크다' '작다' 또는 '같다'와 같이 비교 가능한 '어떤 관계'를 있고 그것들 사이에 '순서'를 정할 수 있지 않을까까? 이에 대한 해명은 19세기 중반 독일의 수학자 칸토르의 연구가 있을 때까지 기다려야 했다.