Mid 3 Set

1부. 머리말

3이나 5, 137, 직각 삼각형, 이차함수... 여러분이 수학공부를 하면서 만나는 수학용어들이 있는데요, 그것들은 우리가 가지고 놀 장남감 같기도 하고, 머리를 쥐어 짜야하는 고통을 주는 것들입니다. 어떤 것이 되었든 그것들은 수학세계에 '존재'하는 대상들입니다. 수학을 탐험하고 수학의 세계에서 흥미를 느끼는 사람들은 손에 잡히지도 않는 그것들을 가지고 놀기 좋아하고 그것 때문에 골머리를 썩이는 일에서 힘들어하기도 하지만 어디서도 느낄 수 없는 큰 즐거움을 느끼곤 합니다.

위에서 든 것들은 수학의 여러 분야에서 주인공이 되기도 조연이 되어 등장합니다. 수든, 함수든, 대수든, 도형이든 그것이 무엇이 되었건 그 뜻이 무엇이고(정의), 어떤 성질을 띠는지(정리)를 알아보게 됩니다.

수론, 대수학, 기하학, 해석학과 같은 분야들이 큰 분류이지만 그것보다 훨씬 다양합니다. 수학이란 나무의 가지치기와 같다고 할 수 있습니다.
수학분야에서 주제가 어떤 분야에 확실한 것도 있지만 여러 분류에 걸쳐 있는 것이 현대 수학의 경향이고 한 분야에서 문제를 해결하기 위해 다른 분야의 중요한 정리를 가져오기도 합니다.
분류 방식은 이름단 수학 저널들이나 수학협회 같은 곳들에서 지정해두었습니다.
우리 초중고 교과서는 이런 구분을 하지 않고 있습니다. 하지만 우리는 분류에 크게 얽매이지 않지만 그렇다고 분류를 버리지는 않겠습니다. 큰 분류 방식 몇으로 나누어 다루게 될 것입니다. 어떤 것이든 그것은 나름의 장점과 단점이 있습니다.
여기서는 수학 세계는, 또는 수학이라는 아름드리 나무는, 하나의 무미건조한 형태를 가지고 있지 않다는 점을 잊지 않도록 분류 자체를 무시하지는 않겠습니다.

그러는 동안 여러분이 흔히 만나는 용어는 다음과 같은 것이었을 겁니다. “평면위의 모든 삼각형에 대해...”, “모든 이차함수의... ”, "모든 자연수 a, b에 대해", “모든 소수의... ‘. 그것은 평면에 삼각형들을 하나의 모임 덩어리(총체)로 보고 그것의 성질이 무엇인지 알아보기, 모든 이차함수를 하나의 모임 덩어리로 보고 그 성질을 알아보기 그리고 모든 자연수 중 두 개가 들어가는 어떤 성질을 보기, 모든 소수에 대하여 어떤 성질 알아 보기... 를 말하고자 할 때 처음에 붙게 됩니다. 그때 그 '모든'이란 우리가 관심을 가지고 있는 하나의 모임 덩어리(집합) 전체를 말하는 것입니다.

구체적으로 어떤 모임덩어리 인지 하는 것보다 바로 그 '모임덩어리 자체'에 호기심을 집중하는 것, 집합마다 그 '안'에 어떤 성질이 있는가 하는 것보다 그 모임들 '자체'가 성질을 알아보고자 하는 것이 바로 ‘집합론(Set Theory)’입니다.

무한의 세계

이것은 수학의 세계에서 가장 본질적인 개념들 중 하나입니다. 수학이 현대에 오면서 발달할수록 '수학적으로' 이것이 도대체 무엇인지 밝히는 것이 중요해져갔습니다.

고대 그리스에서도 이 문제는 중요한 문제였습니다. 특히 미적분이 발전할 수 밖에 없었던 시대에 들어서면서 무한히 잘게 쪼갠다 라는 직관적 개념에 만족할 수 없었습니다. 뿐만 아닙니다.
무한 이라는 개념이 그렇게 중요하다 보니 무한만을 다루는 책도 있습니다.
우선 아쉬운대로 아래 사이트들을 보기 바랍니다.
- 무한에 대한 간단한 설명과 기호의 기원(영어)
- Flash에 감추어진 무한 (한글)

실제로 보지 않았고 만져보지 않았다고 해서 느끼지도 못하는 것은 아닌 것이 많듯 무한이라는 개념도 마찬가지입니다. 우리가 3이라는 수를 생각할 때 이것은 사과 세 개, 자전거 셋, 구름 셋과 같이 어떤 구체적인 물질에 대해 이야기하는 것이 아닙니다. 구체적인 물체의 성격은 다를 수 있지만 그것들이 갖는 공통된 특성 중 ‘셋’으로 셀 수 있다는 성질만을 뽑아내서 그것에 대해 우리는 ‘셋’이라는 개념을 가질 수 있고 그 기호로 지금은 ‘3’이라는 기호를 쓸수 있습니다. 즉, ‘하나’ 씩 세어가다 세 개까지 센 상태. 그것을 3이라고 합니다. 지금은 대부분의 문명세계에서 통일된 기호로 쓰고 있고 같은 것이라고 이해를 하지만 민족이나 인종에 따라, 시간과 문화에 따라 이 머릿속에만 있는 개념인 3 이라는 것을 표현하는 방법은 모두 달랐습니다.

3만 그렇게 하는 것이 아닙니다. 하나, 둘, 셋, 넷... 이렇게 세어갈 수 있습니다. 우리가 손가락이 10개니까 자연스럽게 열까지는 세어볼 수 있겠지요. 세어본다는 것, 그리고 그것을 기호로 표시해보는 방법에 따라 10진법이라고 부르는 수 표현 체계가 있고 2진법, 5진법, 12진법, 60진법이라고 부르는 체계가 있을 수 있겠지요. 그것은 우리가 ‘하나, 둘, 셋, 넷,… , 열’로 세어가는 추상화된 개념을 어떻게 나타내는가 하는 문제랑 관련이 있습니다. 10진법은 0,1,2, … , 9 이렇게 열 개의 기호를 써서 나타내고 있는 수 표현 체계를 우리는 지금 쓰고 있습니다. (물론 다르게 해도 됩니다.) 그것에 대해서는 학교에서 하기도 하니까 여기서 구체적으로 다루지는 않겠습니다. 잠깐, 여기서 세어본다는 것은 무엇일까요 ? 하나씩 늘려가는 생각을 계속 반복해서 한다는 뜻이겠지요. 어디까지 셀 수 있을까요 ?

5 + 5

라는 수는 어떤 수일까요 ? 이것은 ‘더하기’라는 개념을 ‘+’라는 기호를 써서 나타내본 것입니다. 새로운 개념과 그에 따라 새 기호가 나오면 여러분은 항상 그것의 성질이 무엇인지 호기심을 일으켜보기 바랍니다. 성질을 모르면 함부로 그 ‘도구’를 쓸 수 없기 때문입니다. 위에서 성질을 이용해 덧셈을 반복해서 해 볼까요 ?

9 + 9 + 9 + 9 + 9 + 9 + 9 + 9 + 9

‘아홉’을 아홉 번 더한 것입니다. 수가 많이 올라가죠 ? (또는 커지죠 ? 또는 오른쪽으로 더 가죠 ? ) 그것을 간단하게 쓰면

9\cdot 9

입니다. 위에서 한 질문을 이번엔 곱셈에 대해 나름대로 답을 해보세요. 이것도 반복해 세어보기로 하겠습니다.

9\cdot 9\cdot 9\cdot 9\cdot 9\cdot 9\cdot 9\cdot 9\cdot 9

수가 많이 올라가는 (또는 커지는, 또는 오른쪽으로 가는) 속도가 엄청나게 빨라지죠 ? 이것을 간단하게 쓰면

9^{9}

이 됩니다. 여기까지 덧셈, 곱셈, ‘지수셈’과 그 역이 되는 연산, 빼기, 나누기, ‘근호셈’에 ‘지수찾기 셈’(log라고 쓰는 것)까지 해서 7대 기본 연산이라고 하기도 합니다. $9^{9}$ 를 다시 9번 지수셈을 하면 어떻게 될까요 ? 아마도 여러분이 평생을 들여도 이 수가 어떤 수인지 셈을 다 할 수 없을 것입니다. 이런 수는 우리가 살아가는 동안 만져보지도 않고 만날 기회조차 없을 것입니다. 그런데도 우리는 그 수가 어떤 자연수이고 그것이 가장 큰 자연수가 아니라는 것을 알 수 있습니다.

자, 여러분이 보았듯이 자연수는 얼마든지 크게 할 수 있고, 그 끝을 정할 수 없다는 것에서 자연수를 한 모임 덩어리로 생각하는, 즉 자연수 집합은 원소가 ‘무한개’ 있습니다. 다시 말해 우리가 유한한 아무리 큰 수를 정해도 그것보다 더 큰 것이 있다는 것을 확실히(!) 압니다.

Q. 자연수 집합 부분으로 있는 짝수의 집합도 홀수라는 집합도 모두 무한개의 원소를 갖습니다. 이것을 보이세요.

Q. 소수가 무엇인지 알 것입니다. 1이 아니면서 약수로 쪼개보면 1과 그 자신만 나오는 수입니다. 먼저, 약수가 서로 다른 두 개로 된 모든 수는 소수이고 모든 소수는 서로 다른 두 개의 수로 인수분해 된다‘ 라고 하는 문장은 참일까요? 다음 ‘소수집합은 무한이다’라는 문장은 참일까요?

무한개의 별에 무한개의 방을 가진 호텔이야기

이제 ‘무한’에 대해 조금 더 자세히 보겠습니다. 여러분은 이것을 통해 무한의 세계가 유한세계와 아주 다르다는 느낌을 가지게 될 것입니다.

무한을 이야기할 때 자주 드는 예입니다.

‘무한개의 별에, 무한개의 방이 있는 무한개의 호텔 이야기’ --- 상황발생 !!

상황1) 먼저, 무한개 방을 갖는 호텔이 있다고 상상 해보세요. 5월 9일 토요일 무한개 별이 있는 우리의 우주 모든 별에서 수학영재모임이 있어서 한 별에 한명씩 이 호텔로 왔다고 해봅니다. 방이 꽉 찼겠지요. 그런데 갑자기 #1234569 별에서 한 명이 더 와서 “내가 진짜 #1234569의 대표다.”라고 주장하였다고 해봅니다. 이 대회 조직위원회에서 회의를 열어 지금 누굴 돌내는 것은 두 아이 모두를 위해 좋지 않기 때문에 그냥 새 아이를 더해서 받아주기로 했습니다. 방을 어떻게 마련할까요 ?

상황2) 자, 문제가 복잡해졌습니다. 그 말을 들은 모든 별에서 이번 수학영재모임만큼 중요한 행사가 또 언제 있을지 모르니 한명씩 더 보내자는 속셈으로 #1234569 별을 빼고 모든 별에서 한 명씩 더 오게 된 것입니다. 조직위원회에서는 이렇게 할 수도 저렇게 할 수 없어서 오랫동안 토론을 한 끝에 그 아이들까지 다 받아주고 대신 더 이상 누가와도 받아줄 수 없다고 각 별에 통보하였습니다. 여러분이 이 어마어마한 호텔의 주인이라면 방을 어떻게 마련할까요?

상황3) 수학영재모임은 성공적으로 열려서 며칠이 지났는데도 모두들 신바람이 나있었습니다. 예정했던 사람들보다 두 배가 왔지만 모두 잠자리도 편안했습니다. 별마다 맛이 달라서 음식에 대해서는 불평이 있기도 했지만, 워낙 재미있는 수학문제가 많이 만들어지고 함께 생각할 수 있는 기회가 많아서 모두들 힘들게 문제를 풀면서 토론하면서도 즐거운 나날들이었습니다. 앞으로 남은 날이 며칠 없어서 모두들 서운해 했습니다. 이것을 지켜보던 조직위원회도 흐뭇했습니다. 대회가 시작하기 전 1돈과 일손이 많이 들었지만 대수리를 해두기를 잘했다고 생각하고 있었습니다. 그런데 어느 날 날벼락이 떨어졌습니다. 수학영재모임이 끝나려면 앞으로 열흘이 남았는데 앞으로 삼일 뒤에 이 호텔을 빼고 우주의 모든 별에 무한개의 방을 가진 무한개의 호텔들이 모두 사흘 동안 문을 닫고 수리에 들어간다는 것입니다. 그래서 이 별의 이 호텔에 모두 방을 마련해야 했습니다. 더 놀라운 것은 그 모든 호텔들에 사람들이 꽉 차있었다는 것입니다. 어떻게 해야 할까요 ? 조직위원회는 이 문제는 위의 문제처럼 간단하지 않다. 과연 그것이 가능한 것인지, 가능하다면 어떻게 해야 하는지 알고 싶어서 오늘 수학영재모임에 이 문제를 던져보기로 했습니다. 문제는 이렇습니다.

“사람들이 꽉 차있는, 무한개의 방이 있는 무한개의 호텔에서 사람들이 이 호텔로 온다. 이 호텔에 놀리는 방 없이 오는 모든 사람에게 방을 할당할 방법이 있는가?”

이 문제가 나가자마자 여러 가지 답이 나오기 시작했습니다. 만약 여러분이 그 모임에 갔다면 어떤 답을 냈을까요?

상황4) 상황이 모두 진정되어 어수선하던 호텔도 차분하게 되었습니다. 그런데 위의 논리적인 문제에 골머리를 썩던 호텔 사장도 쉴 수 있었습니다. 그런데 어느 날 이 호텔에서 전보를 치던 '수악'이라는 아이가 찾아왔습니다. “저 사장님, 저... 저희 호텔은 무한개의 전보를 칠 수 있지 않습니까? 모든 별에 하나씩 서로 다른 전보를 칠 수 있을까? 하는 생각을 제가 해보았는데요. 그게 가능할까요? 전 왜 자꾸 이런 생각이 드는지 몰라요, 그냥 조용히 살면 되는데 말이죠. 그리구요, 사장님. 저... 한 가지 더 있는데 요 문제는 좀 쉽지 않은 것 같아요. 뭐냐면, 말해도 될까요? 다름 아니라 우리가 칠 수 있는 서로 다른 전보의 수하고 이 우주의 모든 별의 수하고 어떤 게 더 많을까요?” 이 말을 들은 우리의 사장님 어쩌면 이 문제가 나중에 중요할 수도 있겠다는 생각에 이르러 호텔의 모든 사람들을 모아서 이 문제를 수악이가 다시 말하도록 했습니다. 말이 끝나자 웅성거리고 한숨소리들이 여기저기서 들렸는데 유독 정원사 소학이는 조용히 손을 들면서 말했습니다. “그게 말이죠..” 자, 여러분이 평소 수악이와 가장 친하던 소학이였다면 어떤 말을 하고 싶은지?

무한의 세계를 탐험하다 보면 우리들이 놀랄 일이 한 두 개가 아닙니다. 수의 세계도 기하의 세계도 무한과 연결되면 우리가 지금까지 가지고 있던 많은 생각을 바꾸거나 더 치밀하게 생각해야 한다는 것을 알게 됩니다. 이것들을 우리가 함께 탐구할 기회가 있다면 좋겠지만, 애석하게도 지금은 다음 주제로 넘어가야겠습니다.

자연수, 정수, 유리수 집합의 무한, 그리고 실수집합의 무한

우리가 이미 그렇게 했듯 우리는 10진법을 사용하기로 하고 0,1,2,3.... 과 같은 기호를 써서 나타내기로 합니다. 이제 그것을 묶어 한 덩어리로 보아서 울타리를 쳐주면 { 0,1,2,3....} 로 쓰고 여기에 ‘자연수 집합’이라는 이름을 붙이겠습니다. 앞으로는 자연수 집합을 간단히 $\mathbb {N}$ 이라는 기호로 대신해서 쓰겠습니다. 곧

\mathbb {N} :=\{0,1,2,3,\dots \}

예를 들어 ‘1이 $\mathbb {N}$ 에 들어있다’ 라는 문장을 써야할 필요가 있을 텐데 그럴 때는 그런 수학적 ‘문장’을 기호로 ' $1\in \mathbb {N}$ ' 라고 쓰기로 합니다. 보다 일반화시켜 나타내서, ‘어떤 원소 x 가 $\mathbb {N}$ 에 들어 있다’라는 문장은

$x\in \mathbb {N}$

라고 쓴다. x가 구체적으로 주어지면 우리는 이 문장이 참과 거짓인지 알 수 있습니다. 따라서 x가 '하늘을 나는 핑크빛 송아지' 일 경우,

하늘을 나는 핑크빛 송아지 $\in \mathbb {N}$

는 참이 아닙니다.

그리고 두 개의 집합 A와 B가 주어졌을 때, 집합 A에 들어있는 모든 원소가 집합 B에도 들어있다면 어떻게 될까요? 그림으로 표현하면 여러분에게 익숙한 벤다이어그램을 생각해볼 수 있겠죠? 이를 ‘A가 B에 포함된다.’ 나 ‘B가 A를 포함한다.’ 라고 부르고 기호로는

$A\subset B$

집합에는 특별한 집합들이 있습니다. 그 중 수에는 0과 비교할 수 있는 집합이 있는데 그것은 원소를 갖지 않은 집합입니다. 보통 ‘공집합’이라고 부릅니다.

공집합은 모든 집합의 부분집합이라고 합니다. 왜 그럴까요?
공집합은 공집합의 부분집합일까요?

집합의 크기

여러분, 자연수 집합의 원소의 개수가 더 많을까요, 정수 집합의 원소의 개수가 더 많을까요? 바보스럽기까지 한 질문처럼 보입니다. 하지만 이런 단순해 보이는 문제일수록 수학적으로 중대한 영향을 끼친 경우가 많았다는 사실을 잊지 마세요. 물론 자연수 집합의 원소의 개수가 정수의 집합보다 많을 수는 없습니다. 정수 집합이 자연수를 포함하기 때문입니다. 하지만 그렇다고 정수 집합이 더 크다고 말하기는 아직 이릅니다. 왜냐하면 두 집합 모두 무한 집합이기 때문에.

여러분은 보통 두 집합의 크기를 어떻게 비교하나요? 보통 한 쪽을 세어보고 다른 쪽을 세어 견주어 보는 방법을 쓰지요. 그런데 그런 방법을 쓴다면 집합에 원소의 수가 많으면 많을수록 어려워질 것입니다. 월드컵 축구 경기장에 대형 콘서트가 있어서 수 천 수 만 명의 남자와 여자가 있는데 그 수를 비교해야 한다면 굳이 세어볼 필요가 없습니다. 어느 쪽이 더 많이 왔는지에 대한 정보만 얻으면 된다면, 일일이 세워보기 보다는 두 집합 한사람씩, 곧 남녀 한사람씩 짝을 지어 보면 될 것입니다. 무한개의 원소를 갖는 집합에 대해서도 그런 방법을 쓰면 됩니다.

'그건 당연한 것 아니냐.’고 오히려 의심을 할지 모르지만 여기에는 아주 깊은 ‘사고의 전환’이 있었음에 주목해야 합니다. 두 집합의 세기를 견주어 보면서 ‘세어보기’라는 틀을 깨고 ‘짝짓기’라는 틀을 도입한 것입니다. ‘무한’연구에 상당히 깊이 들어갔던 볼짜노가 도입했으나 부분집합과 그 자신의 집합의 수가 같다는 결론을 보고 놀라서 덮어버린 것으로 알려진 방법입니다. 칸토르는 달랐습니다. 여기가 칸토르의 천재성이 시작되는 지점, 칸토르가 수학의 역사에 이름을 남긴 결정적 갈림길이 여기였다고 저는 생각합니다. 생활이나 사고의 틀을 깨기 위해서는 생각이 자유롭지 않으면 불가능하다는 것을 여러분도 알 것입니다.

'칸토르 왈 “수학의 본질은 자유이다”

다음과 같이 정리해서 집합의 크기를 정의해볼 수 있습니다.

“주어진 집합 X와 Y의 원소들을 하나씩 짝짓기 하는 규칙을 찾을 수 있으면 X와 Y는 세기(크기)가 같다.”

이를 바탕으로 칸토르는 놀라운 발견을 하게 됩니다. 기호 하나를 더 만들어 써보겠습니다. 어떤 집합 X에 대해 |X|는 그 집합의 세기이다. 다시 말해, 어떤 집합 X에서 Y로 1:1 대응을 만들 수 있으면 |X| = |Y| 가 되겠죠. 자연스럽게 |X| < |Y|도 여러분이 미루어 알 수 있을 것입니다. 칸토르는 다음과 같은 사실을 발견하였습니다.

\mid \mathbb {N} \mid =\mid \mathbb {Z} \mid =\mid \mathbb {Q} \mid <\mid \mathbb {R} \mid

(1)

여기서 $\mathbb {N} ,\mathbb {Z} ,\mathbb {Q} ,\mathbb {R}$ 는 차례대로 자연수 집합, 정수 집합, 유리수 집합, 실수 집합을 뜻합니다.

칸토르는 여기서 머무르지 않고 한발 더 나아가 대수적 수의 집합도 자연수집합과 세기가 같다는 것을 발견합니다. 대수적 수의 정의는 아래와 같습니다. 대수적 수를 기호로 $\mathbb {A}$ 로 쓰겠습니다.

\mathbb{A} := $\{x\mid a_{n}x^{n}+a_{n-1}x^{n-1}+\cdots +a_{1}x^{1}+a_{0}=0\}$

여기서 어떤 집합에 대해 $\{x\mid P(x)\}$ 라는 식의 기호 표현은 이렇게 이해하면 됩니다 : x가 들어가는 문장이 참이 되도록 하는 x들의 집합
$a_{i}$ 꼴은 모두 정수를 말합니다. (물론 유리수 이라고 해도 아무 차이가 없겠죠, (Why?)

곧 앞에서 말한 집합은 그 안의 대수식의 근이 되는 수들의 모임입니다. 이 안에 유리수가 모두 들어있다는 것은 분명합니다. (why?) 게다가 제아무리 복잡하더라도 근호셈을 한 결과의 수들도 모두 들어있습니다. 괴물 같은 수들까지 다 들어있는 것이죠. 그럴 때 칸토르는 다음과 같은 정리를 냈습니다.

\mid \mathbb {N} \mid =\mid \mathbb {Z} \mid =\mid \mathbb {Q} =\mid \mathbb {A} \mid <\mid \mathbb {R} \mid

(2)

위의 정리 (2) 로부터 우리는 무엇을 해석해 볼 수 있나 ?
위의 정리 (2) 은 우리에게 어떤 새로운 생각을 하게 만드나? 새롭게 던져볼 수 있는 질문은 ?

그렇다면 결국 초월수가 구체적으로 무언지는 몰라도 실수는 위에서 처럼 대수식 방정식의 근만으로 이루어진 것이 아니라는 뜻이 되고 초월수가 있다, 그것도 ‘훨씬 많이 있다.’는 사실을 미루어 알 수 있습니다.

무한집합도 모두 한 가지가 아니라는 것(not trivial)이라는 사실을 우리는 알 수 있었습니다. 그렇다면 무한 집합 중 가장 작은 무한 집합은 무엇일까요 ? 자연수와 세기가 같은 집합을 ‘셀 수 있는 무한집합’이라고 부르는데 셀 수 있는 무한 집합보다 더 작은 무한 집합이 있을 수 있을까요 ?
혹시 실수 집합이 무한 집합 중에서 가장 큰 무한집합일까요 ?
두 번째 문제에 대한 답이 ‘아니오, 그렇지 않습니다’ 라면 무한 집합 중에서 가장 큰 무한 집합은 무엇일까요? 그것에 대해 답하기 전에 (항상 먼저 생각해야 하는 것입니다.) 과연 그런 것이 있을까요 ?

자 이제 우리는 새로운 개념을 정하고 그로부터 대단히 흥미로운 사실을 발견하였습니다. 그로부터 무한의 세계는 유한의 세계에서 우리가 생각했던 것과는 너무나 다른 어떤 성격을 가질지도 모른다는 막연한 느낌을 가질 수 있을 것입니다. 어떤 것들이 구체적으로 있는지에 대해서도 다음 기회를 약속해야 하겠구요, 다음 주제로 넘어가기 전에 아주 유명한 문제로 여러분의 ‘수학적 교양’을 위해서 하나만 더 이야기를 하고 이번 단원은 맺기로 하겠습니다. ‘연속체가설’이라고 하는 것이데요 영어로는 Continuum Hypothesis입니다. 간단히 식으로 나타내보면 다음과 같습니다.

\exists B(\mid \mathbb {N} <\mid B\mid <\mid \mathbb {R} \mid )

?

위의 질문에 대한 답으로 가능한 것은 무엇일까요 ?

집합론이 발달해가면서 수리논리라는 분과가 다시 발전해가고 이는 예상치 않게 현대 컴퓨터이론의 아주 중요한 기초가 되고 있습니다. 단지 그런 실용적인 유용성 말고도 수리논리 영역에는 (다른 수학의 영역과 마찬가지로) 셀 수 없이 많은 아주 아름답고 흥미로운 문제들이 많이 있습니다. 유명한 시사주간지 Times에서 20세기 마지막에 가장 위대했던 수학의 발견들을 정리할 때 수리논리 영역이 다른 영역보다 중요하게 다루어진 것도 다 이유가 있습니다.

집합을 나타내기

우리는 앞서 집합론이라는 새로운 수학의 신대륙이 발견된 배경과 그에 대해 수박 겉핥듯이 보았습니다. 그것은 그다지 어렵지 않지만 당시 수학나라를 떠들썩하게 했던 일이고 지금 보아도 흥미로운 결과입니다. 집합의 뜻과 ‘들어있다.’, ‘포함한다.’에 대해서도 나름대로 정의해 보았습니다. 하지만 그 정의는 올바른 것이었을까요 ? 그 정의가 너무 자유롭다고, 곧 수학적으로 엄격하지 못하였다는 이유로 칸토르는 집합론을 창시하면서도 수많은 다른 수학의 대가들에게서 비난의 화살을 받아야 했습니다. 우리는 그의 개인적인 역사까지는 파고들어가지 말고 떨어져서 학문적인 부분만 살펴보겠습니다. 집합을 정의했으니 집합을 나타내는 문제에 대해 조금 한 발 깊이 생각해보기로 하겠습니다.

집합을 나타내는 기호는 이미 앞에서 썼듯이

{ 어떤 성격을 갖는 원소들 } 이나 { x | P(x) }

로 씁니다. 원소가 많지 않다면 이 안에 원소를 일일이 써볼 수도 있습니다. 하지만 원소를 일일이 그 안에 쓰는 것이 여러 가지 이유로 좋지 않을 수 있습니다. 앞에서 이야기하였듯 집합은 원소들에 의해서 성격이 정해지기도 하지만 집합의 특성 또는 규칙으로 원소가 결정되기도 하기 때문입니다. 우리에게 성질만 알려졌지 구체적으로 어떤 원소들이 그 집합안에 들어있는지 미리 알을 때는 더욱 그렇습니다. 집합이란 어떤 공통된 성격을 가진 원소들의 모임이라고 했으므로 그것을 정하는 규칙을 주면 되므로 그 조건, 또는 규칙으로 나타내도 됩니다. (교과서에서는 ‘조건제시법’이라는 어려운 이름을 붙여 씁니다.) 다음을 예를 보겠습니다. 그 안에 어떤 원소를 쓸지 여러분 스스로 한번 해보세요.

{ x | x 는 자연수 }
{x | x 는 부산광역시의 영재와 교사}
{ x | x - 1 = 0 이고 x는 실수 }
$\{x\mid x\cdot x=0\}$

아주 간단해 보이지만, 자칫 함정에 빠질 수도 있으니 조심해야 합니다. 수학은 매우 창의적이면서도 다른 어떤 학문보다 엄격한 학문이라는 사실을 잊지 마세요.

다음.

$\{x\mid 3x^{4}-2x^{3}+1000x-1=0\quad ;\quad x\in \mathbb {R} \}$
$\{x\mid x^{n}+y^{n}=z^{n}\quad ;\quad x,y,z\in \mathbb {N} ;2<n\}$
$\{(x,y)\mid x^{2}+y^{2}=4020025\quad ;\quad x\in \mathbb {R} \}$
$\{(x,y,z)\mid x^{3}+y^{3}+z^{3}=30\quad ;\quad x,y,z\in \mathbb {Z} \}$

어떤가요 ? 위의 것과 아래것들은 무엇이 다른가요 ?

{ x | x 는 백두산 천지에 사는 노란 청룡 }

다시 다음.

{ x | x 는 “나는 항상 거짓말을 한다.”라고 말하는 사람 }
{ x | x 는 자기 스스로 밥을 떠먹지 않은 사람을 밥 떠 먹여주는 사람}

마지막 두 집합은 같은 유형의 집합입니다. 역설(Paradox)이라고 하는 것과 관계 있습니다.

여러분 스스로 새로운 재미있는 역설을 찾아보세요.

집합의 연산(operation)과 비교(relation)

이제 여러분이 학교에서 하는 집합 과정에서 하는 것을 돌아볼 시간이 되었습니다. 어떤 길을 택하면서 집합론을 발전해가든 우리에게는 집합이라는 수학적 대상이 있다는 것, 그것이 우리의 장남감이라는 사실을 잊지 마세요 . 마치 자연수라는 수학적 대상, 항과 식이라는 수학적 대상, 기하라는 수학적 대상, 함수, 수열, 행렬 등 저마다의 특수한 성질을 갖는 수학적 대상이 있듯 집합이라는 수학적 대상이 우리 앞에 있다는 말입니다.

우리가 수의 세계에서도 그렇고 함수의 세계에서도 그렇고 기하학의 세계에서도 그렇게 해오듯 집합과 집합을 엮어서 새로운 집합을 만들어 낼 기능(function)을 할 셈(operation)을 생각하고 정의해주어야 합니다. 그리고 집합과 집합을 비교하는 규칙이 있어야 합니다. 우선 수에서처럼 두 개의 입력 변수를 받아서 셈을 하는 것을 정의해보겠습니다. 보통 학교에서는 $\cup ,\cap$ 라는 기호를 쓰기도 하고 수의 세계에서 했듯 ∙, + 기호를 쓰기도 합니다. 어떤 것을 쓰든 여기서는 $\cap$ 은 ∙ 기호로 쓰고 $\cup$ 은 +로 쓰겠습니다.

어떤 집합 A, B에 대하여,

A\cdot B:=\{x\mid x\in A\quad \wedge \quad x\in B\}

A+B:=\{x\mid x\in A\quad \vee \quad x\in B\}

여기서 $\wedge ,\vee$ 는 차례대로, 이고 (and), 거나 (or)를 뜻합니다. 위의 것을 집합 세계의 기본 연산이라 할만 합니다.

다음과 같은 집합의 셈도 정의해 줄 수 있습니다. 얼마든지 정할 수 있습니다. (집합에서도 수의 세계에서처럼 '기본 셈'을 정할 수 있습니다. 예를 들어 아래 -, ◇과 같은 연산은 ∙, +과 아래 c 로 나타낼 수 있습니다.

A\times B:=\{(x,y)\mid x\in A\quad \wedge \quad y\in B\}

A-B:=\{x\mid x\in A\quad \wedge \quad x\notin B\}

A\Diamond B:=\{x\mid x

는 A와 B 둘 중 하나에만 들어있는 원소

\}

우리가 수에서 주어진 a, b에 대해 +로부터 a-b 를 정의했듯이 여기서도 주어진 A, B에 대해 +로부터 -를 정의할 수 있을까요?

또는 하나의 입력 변수만 받는 셈도 있습니다.

A^{c}:=\{x\mid x\notin A\}

지금까지 우리는 주어진 집합 A, B에 대해 새로운 집합을 만들어내는 셈의 예를 들어보았습니다. 마찬가지로, 수의 세계에서 했듯, 두 집합을 비교하는 것을 정해주어야 어떤 명제가 참인지 거짓인지를 말할 수 있습니다. 집합에서 두 집합을 비교하는 관계를 나타내는 가장 간단한 것은 =입니다. 또는 앞에서 부분집합을 이야기 했듯 ⊂ 과 같은 것이 있습니다. 이것들은 수에서 = 이나 <와 비슷한 것입니다.

셈과 관계가 정해지면 가장 먼저 할 일이 그 성질 들 입니다. 우선 문제를 풀어보기 바랍니다.

A:=\{x\mid x^{2}-2x+1=0\quad ;\quad x\in \mathbb {R} \}

B:=\{x\mid x^{2}+2x-3=0\quad ;\quad x\in \mathbb {R} \}

라고 주어졌을 때, $A\cdot B,A+B,A\times B,A-B,A^{c},B^{c}$ 를 찾아보시오.

또

A:=\{x\mid 2x-1=0\quad ;\quad x\in \mathbb {R} \}

B:=\{x\mid 5x+1=0\quad ;\quad x\in \mathbb {R} \}

C:=\{x\mid (2x-1)^{2}+(5x+1)^{2}=0\quad ;\quad x\in \mathbb {R} \}

D:=\{x\mid (2x-1)\cdot (5x+1)=0\quad ;\quad x\in \mathbb {R} \}

라면, A와 B를 어떻게 연산하면 C나 D와 같아질까 ?

Q. 평면에 서로 만나지 않은 8자들을 늘어놓았다고 해보자. 그것들이 이루는 집합과 자연수 집합은 세기가 같을까 ?
Q. 0과 1 두 숫자로 만드는 끝없이 가는 열이 있다고 해보자. 그 열들을 모두 모아 놓은 집합과 자연수 집합은 세기가 같을까?
Q. 다음을 증명해 보세요. (수학적 귀납법의 방법을 적용하는 방법과 아닌 방법으로)

\mid A+B\mid =\mid A\mid +\mid B\mid -\mid A\cdot B\mid

\mid A+B+C\mid =\mid A\mid +\mid B\mid +\mid C\mid -\mid A\cdot B\mid -\mid B\cdot C\mid -\mid A\cdot C\mid +\mid A\cdot B\cdot C\mid

위의 문제들을 일반화 해 보겠습니다.

\mid A_{1}+\cdots A_{n}\mid =\sum _{i=1}\mid A_{i}\mid -\sum _{i<j}\mid A_{i}\cdot A_{j}\mid +\sum _{i<j<k}\mid A_{i}\cdot A_{j}\cdot A_{k}\mid -\cdots

Q. $(A+B)^{2}=A^{2}+2A\cdot B+B^{2}$ 은 참일까요 ?

(여기서 $X^{2}$ 은 $X\cdot X$ 이고 2X는 X+X를 뜻합니다. )

맺음말

우리가 오늘 함께 본 것은 집합론이라는 거대한 바다에 손바닥으로 한모금 만큼만 퍼본 정도일　뿐입니다. 하지만 이를 통해 여러분이 벤다이어그램을 그리고 거기서 더하기 빼기하는 문제 정도로 받아들였던 집합의 문제들이 사실은 그렇지 않구나 하는 느낌이 있었으면 합니다. 그리고 무엇보다 여러분들이 ‘수학이란 무엇인가?’, ‘수학을 수학답게 공부한다는 것이 무엇인가’를 조금이나마 더 고민해보고 그 재미를 느껴보았기를 바랍니다.

이제 결론에 대신해서 여러분이 더 공부하고 싶다면 어떤 분야를 더 탐구해 볼 수 있는지, 우리가 다시 만날 기회가 있다면 무엇을 더 해볼 수 있는지 생각나는 대로 열거해보기로 하겠습니다. 아무쪼록 여러분들은 수학을 문제집에 있는 문제들을 푸는 것으로 생각하지 말고 새롭고 흥미로운 문제를 던지고 그 문제의 밑바닥에 무엇이 있는지 탐구해 가는 탐험가, 모험가의 자질을 길러갔으면 합니다. 수학은 어렵고도 아름다운 학문입니다. 아주 논리적으로 엄격하고도 아름다운 학문이며 수학을 수학답게 공부해나가는 사이 여러분은 단지 수학적 사실을 익혀가는 것 뿐 아니라 여러분이 앞으로 무엇을 하고 싶든 많은 도움을 받을 수 있으리라 믿습니다. 다음 만날 때 까지 그럼. 안녕히 !

놀라운 무한의 세계에 대하여 더
집합 세계의 기본 성질들 더
수의 세계의 확장 : ordinal number의 연산, Induction의 확장
공리론과 공리론적 집합론의 공리들
집합론은 왜 수학의 기초라고 부를까 ? - 중고등학교 수학 과정을 중심으로.
수학적 파라독스, 집합론의 파라독스
그리고 위에서 어쩔 수 없이 나중으로 미루어야 했던 것들
위에서 열거하지 못하였거나 아직 모르거나 아직 알려지지 않은 무수히 많은 재미있는 집합 세계의 문제들과 이야기들

Note