0 이나, 음수를 '정상적'인 수학적 대상으로 받아들이는 데만 해도 오랜 세월이 걸렸다. 게다가 '무리수'는 첫 발견 이후로 '정상'으로 받아들이기 까지 수천년동안 동굴에서 갇혀 지내야 했다. 수학 세계에 있는 봉우리를 등정하는 길에 만날 수 있는 신비로운 수들은 그뿐만 아니다. 우리가 오늘 만날 수는 같은 수를 곱했는데 음수가 나오는 수다. 다시 말해
일 수 있는 어떤 수... 지금까지 우리의 '수학 언어 규범'으로는 있을 수가 없는 일이다. 상식(常識)을 벗어나서 말이 안되는 것처럼 보인다. 하지만, 위의 방정식문제를 좀더 기초적으로 써보면 이렇게 된다.
다시 말해, 우리가 이 문장을 만나는 공간이 '실수' 공간이라면, 같은 수를 곱해서 음수가 나오는 수가 있다는 문장은 거짓이다. 다른데 이유가 있는 것이 아니다. 정수, 유리수, 무리수까지 그렇게 되도록 확장해왔기 때문이다. '해가 없다'고 말하기도 한다. 사실 이런 현상은 수를 확장할 때 마다 나왔다.
위의 모든 문장은 거짓이거나 '해가 없다'. 흔히 만나게 되는 그런 방정식에 대해 '해가 없음'에 머무르기 보다, 사람들은 주어진 공간을 넓히면서 문제를 더 긍정적으로 해결해왔다. 자연수에서 정수로, 정수에서 유리수로 유리수에서 무리수로. 수의 공간을 넓혀 올 때마다 기초연산인 곱셈과 덧셈에 대하여 그 앞단계의 성질과 어긋나지 않도록 '정의'를 하였다. 여기에는 그때마다 어떤 수학적인 필요에 따라 그렇게 한 것이다. 수학의 세계는 그렇게 은근히 자기를 드러내었다. 여기서도 상황은 다르지 않다.
사실, 같은 수를 곱해서 음수가 나오는 수는 '모든 수'(실수)를 나타내는 수의 직선 어디에도 표시할 수 없다. '합리적으로 이해가 안되는 수(무리수)' 까지 포함한 수의 직선에도 표시할 수 없는 수라니! 0도 아니고, 0의 오른쪽 어디에도 들어갈 수 없고, 0의 왼쪽 어디에도 들어갈 수 없다. 지금까지 우리가 알고 있는 세계에서는 불가능하다. 그래서 있을 수 없다고 내던져버리기 쉽다. 실제로 오래 동안 그래왔다. 그러나 라이프니쯔 같은 수학자들은 바로 이런 수, 그러니까, 0보다 크지도 않고, 0보다 작지도 않으면서 0이 아닌 어떤 수를 가둬버리거나 배척하지 않았다. 대신 그 안에는 무언가 '신비한' 요소가 있으리라 보고 중요하게 다루어야 한다고 여겼다. 우리도 그렇게 겸허한(!) 태도를 따라 더 넓은 수의 세계로 여행하자.
복소수의 정의
실수를 포함하면서 더 확장된 수를 만들기 위해 우선 앞에서 나왔던 같은 수를 곱해서 음수가 되는 수를 정의해주어야 한다. 그런 '수학적 요소'가 '존재한다'는 것을 받아들이고 거기에 이름과 기호를 붙여주기로 하자.
정의 : 허수
인 수 를 허수라고 부르고 기호로 로 쓴다.
가 허수라면, 그 수에 실수만큼 곱한 수도 모두 허수다.
지금까지의 정의하는 방식과는 살짝 다르게 정의하였다. 이런 방식을 '귀납적' 정의라고 부르기도 한다. 위의 정의를 따르면
는 모두 허수다.
정의 : 복소수 : 가 실수 있때, 인 를 복소수라 한다.
여기서 실수 x 를 복소수 z 의 실수부(Re(z)), 실수 y 를 복소수 z 의 허수부(Im(z))라 부른다. [1] y 가 0인 경우 z 는 실수다. 따라서 실수는 복소수의 특수한 경우다. [2]
복소수는 결국 인 셈이다. 이를 보통 라고 쓴다.
그런데 수를 확장하였다고 해서 무엇이 달라진 것일까? 앞으로 더 자세히 말하겠지만 복소수 공간의 대표적인 성질을 먼저 이야기해보자. 지금까지의 수세계에서는 어디서도 볼 수 없었던 성질이다.
정리 (달랑베르-가우스 정리) : 복소수를 계수로 하는, 1 보다 크거나 같은 차수를 가진 모든 방정식은 최소한 하나의 복소수 해를 가진다.
해가 반드시 존재한다. 정수나 유리수 계수를 가진 방정식 중에는 정수나 유리수를 해로 갖지 않은 경우가 많고, 실수로 확장해도 상황은 마찬가지였다. 그런데 허수는 그렇지않다. 달랑베르-가우스 정리는 넓혀진 이 공간이 얼마나 풍요로운지 말해준다.
복소수의 연산
이제 복소수가 있으니 복소수의 관계와 연산을 정의할 차례다. 두 복소수 가
라고 하자.
두 복소수 가 '같다'는 것은 실수부 끼리 같고 허수부 끼리 같다는 것을 말한다.
두 복소수 의 합은 실수부끼리의 합과 허수부 끼리의 합을 말한다.
두 복소수 의 곱은 살짝 엉켜있다.
왜 이렇게 정의하였을까? 수를 확장하면서 지켜왔던 기본 원칙 그대로다. 실수 세계에서 통했던 법칙들이 여기서도 통하도록 한 것이다. 그러면서 새로운 수 허수의 정의를 어긋나지 않도록 정의해주어야 한다. 만약 곱셈의 정의가
였고 해보자. 가장 단순한 예만 봐도 이 정의는 타당하지 않다는 것을 알 수 있다. 본래의 정의대로하면
타당한데, '더 편해보이는' 바로 앞의 정의를 따르면
가 되어 이는 허수는 제아무리 곱해도 그 자신 밖에 안된다.
다른 예를 하나 더 보자.
이고 인데, a,d는 0이 아니라고 해보자.
만약 '더 간단해보이는' 바로 앞의 정의를 따른다면, 이 연산은
가 된다. 그런데 실수에서의 덧셈과 곱셈에 대한 교환, 결합, 분배 법칙이 통한다면,
가 되고 이는 이 되어 결국 a나 d가 0이라는 말이 된다.
우리가 앞서 곱셈을 정의한대로 이 예를 보면
로 이는 분배법칙이 통한 결과와 같다. 우리의 정의는 충분히 논리적으로 타당하다.
곱셈의 정의에 따라 복소수 세계의 특수한 성질을 하나 더 찾을 수 있다.
어떤 복소수 z 에 대해서든 그것과 곱해서 실수로 만드는 0 이 아닌 복소수가 있다.
어떤 복소수 어떤 복소수 z 가 x + y i 꼴이라면 위의 성질을 만족하는 복소수는 x - y i 다. 왜냐하면
이기 때문이다. z 마다 하나씩 짝을 짓기 때문에 이름을 따로 지어 주었다. (어떤 복소수 z 에 대해서도 위의 성질을 만족하는 0이 아닌 복소수는 딱 하나다. 왜 그런가?)
정의 : 켤레복소수 : 앞의 성질을 만족하는 복소수를, 에 대한 켤레복소수라고 부르고 라고 쓴다.
허수의 존재에 대해 '무언가 이상하지만 어쩔 수 없이 그런 수가 있을 것'이라고 짐작하면서 암묵적으로 썼던 시기는 최소한 16세기 중반이다. 이 문제는 카르다노(Cardano)가 3차 방정식의 해를 구하는 알고리듬을 찾던 중간에 그런 이상한 수를 가정하고 넘어가는 대목이 나온다. 그러나 그때까지의 상식으로는 말이 안되는 그 수를 '가상의 수'(imaginary number)라고 여겼을 뿐 본격적인 관심을 두지는 않았다. 그러다 19세기 접어들면서 이런 가상의 수에 대한 기호표현과 '기하적 해석'이 등장한다. 이 '기괴한 수'를 직관적으로 보면서 설명할 수 있는 도구가 생긴 것이다. 이로써, 라이프니쯔가 예상했던 것처럼, 이 수가 얼마나 신비롭고 대단한 힘을 가졌는지, 그래서 매우 신중하게 다루어야 한다는 것을 알게 된다.
우리가 알고 있는 실수를 모두 대응시킬 수 있는 '직선'에서는 허수를 둘 자리가 결코 없다. 따라서 복소수는 하나의 직선에 표시될 수 없다. 대신 복소수의 표현을 실수부를 나타내는 실수 x 와 허수부를 나타내는 실수 y 가 있는
꼴로 표현한데서 착안할 수 있듯이 두 실수가 이루는 하나의 쌍 (x,y) 로 짝지을 수 있다. 복소수 하나에 2차원 평면의 점 하나가 대응하는 것이다. 직선이 아니라, 두 개의 수직선, 그것도 데카르트 좌표법과 같이 직각인 두 개의 직선을 생각해볼 수 있다.
복소수를 좌표축에 나타내기
옆의 그림처럼 복소수 z에 대해 실수쪽(Re)을 나타내는 직선과 허수쪽(Im)을 나타내는 두개의 직교하는 수직선에 그 복소수를 규정하는 열쇠의 역할을 하는 쌍 으로 나타내자. [4]
그렇다면 오른쪽 그림에서 보듯이, 의 켤레복소수 는 로 나타내고, 그럴 경우 와 는 실수(Re)축에 대칭이다.
모든 복소수와 평면의 점들이 일대 일로 대응할까?
좌표에 한 점의 위치를 '지정'하는 방법으로는 만 있는 것이 아니다. 옆의 그림에서도 보듯이 그 점에 이르는 '길이' 와 각 로 표시할 수도 있다. 각과 직각 삼각형의 빗변, 또는 원의 반지름이 되는 '길이'를 식으로 나타내려면 삼각법의 도움을 받을 수 있다. 그러면
인 관계로 나타낼 수 있다. 여기서 가 될 것이다. 이 때, 반지름 을 복소수 의 모듈러스 (modulus)라 부르고 따로 기호를 주어 로 쓴다. 앞으로도 우리는 이와 같이 나타내기로 한다. [5]
모듈러스는 복소수 에서 길이를 찾는 함수로 복수에서 실수로 대응한다. 아울러 우리가 복소수 로부터 각을 알아내는 함수를 라 하자. 위에서는 다.
따라서
나
로 표시할 수도 있다. 이는 '반지름의 길이'와 '각'으로 표시하는 방법(polar system)이다.
다음 사실들을 확인해보라.
복소수의 합은 기하학적으로 무슨 뜻일까?
복소수를 '눈으로 볼 수 있는 모델'을 찾았다. 이제 두 복소수의 합이 어떻게 그 평면에 표시되는지 보자. 이는 덧셈의 정의에 따라 다음과 같이 명료하다. 점은
에 찍힌다. 이 점은 실수부와 허수부가 원점 (0,0) 과 두 점 를 세 점으로 갖는 평행사변형의 나머지 한 점을 뜻하게 된다. 바꾸어 말하면 를 세 점으로하는 삼각형과 두 점 을 잇는 직선을 맞대고 합동인 삼각형의 나머지 점이다.
복소수의 곱은 기하학적으로 무슨 뜻일까?
복소수들의 곱셈을 눈으로 보기 위해서는 '각-반지름'으로 나타내는 방법이 더 낫다.
라면
가 되고, 이는 삼각함수의 합의 원칙에 따라
가 된다. 점에서 반지름은 만큼 곱으로 길어지고 각은 만큼 왼쪽으로 회전한 것을 뜻한다. 옆 그림은 복소수 z 가, 각이 , 반지름이 1 인 점과 대응할 때 그 z 을 두 번 곱셈한 것을 그림으로 나타낸 것이다. 반지름은 1이므로 변하지 않지만 왼쪽으로 30도 만큼 회전하는 것이다. 기하학적인 회전이동을 복소수의 도움을 받아 대수적으로 나타낼 수 있고, 복소수라는 수를 기하학적으로 나타낸 것이다.
복소수에 대한 기하적 해석의 응용
복소수를 Re, Im 두 축으로 좌표평면에서 '볼 수 있게' 한 것은 단지 '모델'로서 복소수를 실재 있는 무엇으로 '느낄 수'있게 하는 것보다 훨씬 큰 의미가 있다. 이에 대해서는 앞으로 더 다루어야할 큰 주제다. 여기서는 예를 몇 개만 보면서 복소수가 현실적으로 어떤 의미가 있는지 짐작해보기로 하자.
복소수 덧셈의 해석을 응용하여
두 복소수의 합을 이용한 그림을 보면 직관적으로 다음의 내용을 알 수 있다. (삼각형 부등식)
이 사실은 이는 삼각형의 두 변의 길이의 합이 나머지 한변 보다 길거나 같다는 '거의' 직관적인 사실로부터 유도된다.
다음 문제를 생각해보라.
덧셈의 모듈러스와 뺄셈의 모듈러스 두 경우에 어떨 때 등호관계가 되겠는가?
복소수 곱셈의 해석을 응용하여
복소수 곱에 대한 위의 사실을 참고한다면 다음을 보이는 것은 어렵지 않다. (De Moivre's theorem)
만약 같은 두 복소수를 곱한다면
다. 이와 같이 하면
이 되고 이를 반복하면 마침내 어떤 정수 n에 대해
을 얻게 되어 삼각함수의 합에 대한 일반식을 유도할 수 있게 된다 ! 이 식은 고대 그리스 이후 주어진 어떤 각을 자와 컴퍼스로 삼등분 할 수 있는가를 푸는데 다리를 놓는 역할을 한다. 이에 대하여 고전 기하의 3대 불가능성 문제 : 각의 삼등분를 참고하라.
정다각형 문제에 응용하여
복소수 의 n 차 방정식의 근이 되는 대수적인 수들은 기하학적으로 어떤 뜻을 가질까? 복소수 z 는 라고 하자. 이때 근은
의 형태로된 값 n 개다. 여기서 는 이다. 다음과 같은 성질을 가진다.
모든 은 로 같고,
이고,
부터는 앞에서 씩 더해간다.
위의 사실을 확인하기 위해 구체적인 경우로 보자. 이 예를 통해 정다각형의 꼭지점의 좌표를 대수적으로 표현할 수 있다는 사실을 알게된다. 기하학 문제를 '복소수의 도움을 받아' 대수적으로 풀어갈 수 있음을 보는 것이다.
정 n각형의 꼭지점의 좌표는 복소수 의 방정식 의 해와 일대 일로 대응한다.
정 n 각형 문제를 풀 때는 중심을 0으로 하고 반지름이 1인 경우를 보는 것이 편리하다. 꼭지점 중 하나가 Re 축 (1,0)에 걸쳐 있는 경우다. 의 해는 모두 다음과 같은 형태를 갖는다.
여기서 는 이다.
위의 식에서 등장한 복소수는 가 일 때, 모두 중심을 0으로 하고 반지름을 1로 하는 원에 접하도록 그려진 정 n 각형의 꼭지점을 결정한다.
꼭지점을 Re 축과 만나는 것으로부터 차례로 이라 하자.
삼각법에서 이고 이라는 사실을 떠올리자.
은 의 좌표를 결정한다. 다음을 보자.
일 때,
일 때,
일 때,
일 때,
일 때,
이고 마침내 돌고 돌아,
이다.
여기서 보다시피 은 모두 다음과 같은 관계를 가지고 있다.
은 에서 만큼 곱해진 것을 뜻하고 이는 곱셈의 기하하적 해석에서 보았듯이 의 좌표에서 만큼 회전한 결과다 ! ( ) 은 1 이므로 늘어나는 것은 없다. )
이는 가 와 일치함을 뜻한다. 정확히 말하면 이므로 은 과 일치한다.
또, k 가 0, 1, 2, 3, ... , n-1 일 때, 항상 이다. 곱셈의 기하적 해석에서 De Moivre's theorem에서 보았듯이,
이기 때문이다. 위의 모든 들인 개의 복소수는 방정식 의 해다.
말고 다른 해는 없다. (왜 그런가?)
다음을 스스로 확인해보라.
인 방정식의 근들은 과 대응한다.
짝수 차수일 때를 보자. 이면 이고 이 방정식의 근 은 2m-다각형의 꼭지점과 대응한다. 이때는 다.
↑ 를 정의하고, 복소수를 위와 같이 정의한 다음, 가 0일 때 허수라고 정의해도 될 것이고, 만 허수로 정의하고 복소수를 정의해도 된다. 어떤 경우든 복소수의 세계를 탐구하는데 차이가 없다.
↑ 이런 식으로 '거꾸로' 수를 정의해 들어갈 수도 있을 것이다. 복수를 정의하고 그 특수한 경우로서 실수를, 실수에서 특수한 경우로 유리수를, 유리수의 특수한 경우로 정수를, 정수의 특수한 경우를 자연수로. 이런 방식은 수학이 발전해온 역사적이고 심리적인 배경을 생각않은 방법이지만, 논리적인 맥락에서 자연스러운 방법이다. 어떻게할까?