복소수 공간, 저 너머로

안녕하세요 지난 편 '자연수에서 실수로'에서는 어떻게 가장 기본적이고 자연스러운 수의 형태인 자연수가 각각 정수, 유리수, 실수로 확장되었는지를 소개했습니다. 오늘은 그보다 더 큰 확장에 대해서 다뤄보도록 할까요?

 

실수에서 복소수로

 

복소수를 알기 위해서는 먼저 허수라는 개념을 잡아야 합니다. 허수란 제곱해서 음수가 되는 수를 말하지요. 제곱해서 $-1$이 되는 '가상의' 수를 $i$라고 표기합니다. 우리가 일반적으로 알고 있는 실수에서는 불가능한 개념이지요. 즉 $i = \sqrt{-1}$인 셈입니다. 그리고 허수와 실수로 만들어진 모든 수를 복소수라고 하지요. 복소수란 $a+bi$꼴로 표현될 수 있는 모든 수를 말합니다.

 

수학의 발전이 항상 선형적인 것은 아닙니다. 정수의 존재를 알기 전에 유리수의 존재를 알았듯, 실수의 개념이 정확히 정립되기 전에 허수의 존재를 발견했었지요. 예상하기로는 음수의 존재를 알고 허수의 존재를 알았을 것 같은데, 실제로 유럽 수학계에서는 허수와 음수는 거의 비슷한 시기에 관심을 받고 연구되기 시작합니다. 허수의 연산에 대해서 처음으로 논의되었던 것이 16세기경, 유럽 수학계에서 음수라는 개념이 제대로 논의되기 시작했던 것도 그즈음이지요. 허수는 꽤 오랜 시간 수학계에서 외면받았습니다만, 마침내 18세기경 오일러, 가우스, 베셀 등의 수학자들의 노력으로 그 의미가 인정받게 되었지요.

 

허수에 대해서 이야기하면 자주 듣는 질문이 있습니다. '허수는 실제로 존재하나요?' 다시 말해, 현실에서 제곱헤서 음수가 나오는 경우가 있나요 라는 질문과 같습니다. 보통 현실에서 제곱은 정사각형의 넓이를 구하는데 쓰곤 하지요. 제곱해서 음수가 나온다니, 이건 어떠한 정사각형의 넓이가 음수라는 말도 안 되는 소리 같습니다. 그래서 많은 분들이 허수에 대해서 거부감을 느낍니다. 많이들 허수는 '수학자들이 만들어낸 헛소리'같은 것으로 여기곤 합니다. 자, 그렇다면 '자연수는 존재하지만 허수는 존재하지 않는다'라고 생각하시는 분들께 이렇게 되물어보죠. '수는 존재하나요?'

 

'수'는 추상적인 개념입니다. 제 앞에 사과가 하나 놓여있다한들, $1$이란 수가 존재하는 것은 아닌 것처럼요. 물론 수는 자연을 이해하는 좋은 언어입니다. 수라는 언어가 있는 덕분에 우리 앞에 있는 사과의 개수를 셀 수 있지요. 만약 '허수는 존재하지 않지만, 자연수는 존재한다'는 주장의 근거가 '자연수는 현실을 반영하지만 (혹은 현실을 이해하는데 유용하지만) 허수는 그렇지 않다'라면, 여기 훌륭한 반례들이 있습니다. 먼저 푸리에 변환 및 푸리에 급수가 있지요. 둘은 복소수의 성질에 기반한 수학적 기법인데, 통신 이론, 정보처리, 신호처리 등 다양한 전기공학 분야에 사용됩니다. 미분 방정식에서도 복소수는 필수적입니다. 열역학, 전기공학, 유체역학 등 다양한 공학 및 물리학 분야는 물론, 생물학, 경제학에서도 널리 쓰이지요. 대표적으로 양자역학의 슈뢰딩거 방정식이 있습니다. 양자의 파동과 상태를 설명하는 방정식으로 이 식에는 허수 $i$가 사용되었습니다. 이 식이 편미분 방정식이기 때문이지요. 이처럼 허수는 물론 복소수는 자연현상을 설명하는 언어로서의 역할을 훌륭하게 수행하고 있습니다. 그래서 '허수, 더 나아가 복소수는 존재하는가?'라는 질문에 대한 저의 대답은 다음과 같습니다. '만약 당신이 자연수가 존재한다고 생각한다면, 복소수의 존재도 인정해야 한다.'

 

여기까지 읽으셨다면 복소수가 다양한 현상을 설명하는데 유용하다는 것을 인정하실 것입니다. 하지만 수학은 자연 현상을 설명하는데 유용한 방식으로 발전하지는 않지요. 어디까지나 수학적으로 필요했기 때문에 허수는 만들어진 것입니다. 그러면 허수 및 복소수는 어떠한 수학적인 의미를 갖고 있을까요?

 

지금까지 본 모든 '확장'은 모두 '닫혀있음'이라는 성질을 갖고 있습니다. 두 정수의 차는 정수였습니다. 이를 '정수는 뺄셈에 닫혀있다'라고 말했었지요. 두 유리수의 비도 유리수였죠. 이를 '유리수는 나눗셈에 닫혀있다'라고 했습니다. 실수도 수렴에 대해서 닫혀있었다고 생각해줄 수 있습니다. 즉, 실수로 이루어진 수열이 수렴한다면, 그 값은 실수였지요. 마찬가지로 복소수도 '닫혀' 있습니다. 수학자들은 복소수를 대수적으로 닫혀있다고 말합니다. 대수적으로 닫힌 것이 무엇일까요? 먼저 대수적으로 닫히지 않은 것들부터 살펴보는 게 낫겠군요.

 

다음과 같은 방정식을 떠올려봅시다. $3x+2=0$ 이 방정식의 계수와 상수는 모두 정수로 각각 $3$와 $2$입니다. 이 경우, 해당 방정식을 정수 계수 방정식이라고 부릅니다. 그럼 이 방정식을 한번 풀어볼까요? 이 방정식은 1차 방정식이라 풀이가 간단합니다. 해는 바로 $-\frac{2}{3}$이지요. 정수와 $x$로 이루어진 방정식의 해가 유리수가 나왔네요? 이 경우 우리는 정수는 대수적으로 닫혀있지 않다고 말합니다.

 

또 다른 예를 살펴볼까요? $x^2+1 = 0$을 떠올려봅시다. 이 방정식의 계수와 상수는 모두 $1$입니다. 즉 이 방정식은 정수 계수 방정식입니다. 모든 정수는 유리수이자, 또한 실수이므로, 이 방정식은 실수 계수 방정식으로 여겨줄 수도 있습니다. 하지만 $x^2+1 = 0$의 해는 제곱해서 $-1$이 되는 값을 말하는데, 이것은 바로 허수 $\sqrt{-1}$입니다. 이는 실수가 아닙니다. 즉, 실수 역시 대수적으로 닫혀있지 않답니다.

 

반면 복소수는 대수적으로 닫혀있습니다. 복소수를 계수로 삼는 모든 방정식은 그 해가 복소수입니다. 이건 어떤 의미를 갖느냐면, 당신이 어떤 방정식을 가져오든, $2$차 방정식이든 $5$차 방정식이든 하물며 $103,204,774$차 방정식이든, 그 방정식의 모든 계수가 복소수라면, 그 방정식을 만족하는 해는 복소수라는 것입니다. 이 놀라운 정리는 아주 기가막힌 결과를 유도해냅니다. 바로, $n$차 방정식의 해는 $n$개라는 결과를 말이지요. 물론 이것이 '당연해' 보이기는 합니다. $1$차 방정식의 해는 $1$개이고, $2$차 방정식의 해는 $2$개라고 배웠으니까 $n$차 방정식의 해는 $n$개이지 않겠어? 하지만 이 당연해 보이는 것이 증명되는 데는 아주 복잡한 수학 이론이 필요합니다. 적어도 복소수에 대한 깊은 이해는 물론, 복소해석학이라는 분야를 알아야 합니다. 이 '당연한 결과'는 약 19세기가 되어야 겨우 증명되었지요. 이 발견은 대수학이라는 분야를 지탱하는 초석과도 같은 정리이기 때문에 '대수학의 기본정리(Fundamental Theorem of Algebra)'라고 불린답니다.

 

실수에서 복소수로 확장되면서 '대수적으로 닫혀있음'이라는 정말 좋은 성질을 얻게 되었습니다. 하지만 안타깝게도 동시에 정말 좋은 성질을 하나 잃어버리고 맙니다. 그것은 바로 '크기 비교'입니다. 지난번 편에서 실수는 완비성이라는 성질을 지닌다고 소개해드렸던 것 기억하시나요? 실수는 크기대로 나열하면 완전한 직선을 이룬다, 더 이상 새로운 수를 이 직선에 포함시킬 수 없다, 그런 성질이지요. 허수는 어떨까요? 허수는 $ai$꼴의 모든 수를 말합니다. 여기서 $a$는 어떤 실수여도 상관 없지요. 그리고 $0i = 0$이라고 정의합니다. 즉 허수도 실수에 $i$를 붙인 꼴이므로 하나의 직선을 이룹니다. 이 허수 직선과 실수 직선은 오직 $0$에서 교차하지요. 즉, 복소수 공간에서 실수와 허수는 $0$에서 교차하는 두 개의 다른 직선입니다. 두 개의 다른 직선이 있다, 그렇다면 복소수 공간은 $2$차원 공간이라는 셈이 되는군요. 그래서 복소수를 평면으로 묘사하고 이를 '복소평면(Complex Plane)'이라고 부르고 $\mathbb{C}$라고 표기하지요. 복소수의 영어 Complex Numbers의 앞글자를 따왔습니다.

 

 

복소평면 위에 복소수 $x+iy$와 $x-iy$를 표기하는 방법. 가로축 Re는 실수부, 세로축 Im는 허수부를 의미한다.

 

자 그런데 문제가 생겼습니다. 실수선 위의 경우 오른쪽에 있는 숫자는 왼쪽에 있는 숫자보다 컸습니다. 크기 비교가 가능했지요. 예를 들어 이 선 위에서는 $2$가 $-3$보다 오른쪽에 있으므로 $2>-3$이 됩니다. 하지만 이제는 방향이 오른쪽 왼쪽 뿐만 아니라 위아래도 추가되었습니다. 여기서 '더 오른쪽'인 것이 있을까요? 예컨대 $i$와 $-i$중 무엇이 더 클까요? $1+i$와 $2+i$ 중에선 무엇이 더 클까요? 정답은 '결정할 수 없다'입니다. 정확히 말하면 '실수에서 정의된 크기 비교를 복소수까지 확장시킬 수 없다.

 

조금 더 알고싶으신 분들을 위해 왜 그것이 불가능한지 간단하게 살펴볼까요? 먼저 부등식의 성질에 대해서 간단하게 설명해드릴게요. $1<2$라는 부등식을 떠올려봅시다. 양 변에 $2$라는 숫자를 곱하면 어떻게 될까요? 물론 $2<4$가 됩니다. 부등식에서는 $0$보다 큰 수를 곱하면 부등식의 방향이 유지됩니다. 반면 $-1$을 곱하면 $-1 > -2$가 되지요. 부등식의 방향이 반대로 전환됩니다. 즉 부등식은 등식처럼 양변에 수를 곱해줄 수 있지만, 그 수가 무엇이냐에 따라 방향이 유지되기도 하고 반대가 되기도 한답니다. 이 성질을 염두에 두고 $0$과 $i$의 크기를 비교해볼까요? 먼저 $i$와 $0$은 다른 수이므로 $0 = i$일리는 없습니다. 즉 $0 < i$거나 $0 > i$여야겠지요. 첫 번째 경우부터 살펴봅시다. 첫 번째 경우는 $i$가 $0$보다 크다고 여겼습니다. 그래서 양 변에 $i$를 곱해도 여전히 부등식의 방향이 유지되어야겠지요. 그렇다면 $0i < i^2$이라는 식이 나오는데 이는 $0 < -1$이 됩니다. 모순이지요. 그렇다면 $0 > i$일까요? $0 > i$라면 $i$가 $0$보다 작은 셈입니다. 즉, 양변에 $i$를 곱해주면 부등식의 방향이 전환되어야겠지요. 그러면 $0i < i^2$이 되면서 아까와 같은 부등식을 얻게 됩니다. 즉 $0$이 $i$보다 크든 작든, 그 크기 비교가 가능하다고 가정하는 순간 $0 < -1$이라는 모순이 발생하고 맙니다. 이것이 수학자들이 복소수에서는 크기 비교를 포기한 이유지요.

 

복소수로의 확장은 다음의 세 줄로 요약할 수 있겠군요.

1. 대수적으로 닫히게 되었다.

2. 크기비교는 불가능하다.

3. 1차원에서 2차원으로 확장되었다.

 

2번 성질이 좀 안타깝긴 하지만, 그래도 그걸 상쇄할 정도로 1번 성질이 강력합니다. 덕분에 수학자들은 복소수를 사용하는데 아무런 거리낌이 없고 오히려 자연스럽다고 여기지요. 이제 주목해야 할 것은 이 3번 성질입니다. 이 3번 성질은 복소수를 더 크게 확장시키는데 아주 훌륭한 통찰을 선물해주지요. 

 

복소수에서 4원수로

 

처음으로 복소수보다 확장된 체계를 상상한 수학자는 해밀턴입니다. 수학에서도 유명하지만, 물리학과 공학계에서도 아주 잘 알려져 있는 분이시죠. 그가 처음으로 만들고 싶었던 수의 체계는 3차원이었습니다. 1차원인 실수에 $i$라는 새로운 허수 축을 도입해 2차원인 복소수 체계를 만들었듯, 그는 복소수에 새로운 축 $j$를 도입해 3차원의 수체계를 만들고 싶었습니다. 하지만 그렇게 만든 수체계는 모순이 발생했지요.

 

수학자들은 가끔씩 문제가 풀리지 않으면 더 어지럽힙니다. 더 어려운 문제를 도전하면 이따금씩 전혀 예상치 못한 곳에서 기존의 문제를 푸는 힌트를 발견하는 때가 종종 있지요. 마찬가지로 해밀턴은, 3차원 수체계가 아니라 4차원 수체계를 만들자는 더 대담한 꿈을 꾸었고, 이는 멋지게 적중합니다. 해밀턴이 이 사실을 발견한 지 약 30년이 지나 수학자 프로베니우스가 3차원 수체계는 불가능하다는 것을 증명하게 되지요. 해밀턴이 제안한 아이디어는 $j$와 $k$라는 새로운 축을 도입하는 것이었습니다. 즉, 기존의 실수 축과 $i$축, $j$축, $k$축 이렇게 4개의 축으로 만들어진 수라고 해서 사원수(Quaternion)라고 부릅니다. 이 수체계를 처음 제안한 해밀턴을 기리기 위해 $\mathbb{H}$라고 표기합니다.

 

그럼 사원수는 어떠한 연산 규칙을 가지고 있을까요? 먼저 복소수는 $a+bi$꼴로 표기한다고 했죠? 그리고 이는 좌표 평면의 $(a,b)$라는 점으로 표현될 수 있습니다. 사원수는 $a + bi + cj + dk$꼴로 표기하고, 4차원 좌표평면의 $(a,b,c,d)$라는 점으로 대응해줄 수 있습니다. 물론 4차원을 상상하는 것은 불가능합니다. 우리는 3차원까지밖에 인식하지 못하니까요. 덧셈과 뺄셈에 대해서는 복소수 체계와 동일합니다. 실수는 실수끼리, 허수는 허수끼리 덧셈과 뺄셈을 해주지요. 사원수도 마찬가지입니다. 예를 하나만 들어볼까요?

$$(5 - 3i + 2j + 0k) + (3 + 5i - 2j +1k) = 8 + 2i + 0j +1k$$

자 덧셈에 대해서는 잘 작동합니다. 뺄셈도 비슷하게 정의해주면 되지요. 문제는 곱셈을 어떻게 정의하느냐가 남아있습니다.

 

여기서 해밀턴의 통찰이 진가를 발휘합니다. 먼저 해밀턴은 $i, j, k$를 다음과 같이 정의했지요.

$$i^2 = j^2 = k^2 = ijk = -1$$

참으로 이상한 수식입니다. 제곱해서 $-1$이 나오는 $i$라는 숫자도 이미 이상한데, 거기에 $j$와 $k$도 같은 성질이 있는 '다른 수'라는 것이 말이죠. 더 나아가 $i,j,k$를 순서대로 곱하면 $-1$이 나온다니 정말 요상한 수체계가 아닐 수 없습니다. 

 

그렇다면 해밀턴은 $i$와 $j$의 곱을 무엇이라 정의했을까요? 해밀턴은 $ij = k$라고 정의했습니다. 정상적인 수체계라면 $ji$역시 $k$여야겠지요. 곱셈은 교환법칙을 성립하니 말입니다. 하지만 $ji = k$라고 정의하면 모순이 발생합니다. 한번 차근차근 살펴볼까요? 먼저 $ij = ji = k$라면 $(ij)(ji)$는 $k^2$과 같은 값을 가질 것이고, 그러므로 $-1$이 되어야 합니다. 하지만, 실제로 $(ij)(ji)$는 다음과 같은 값을 갖죠.

$$(ij)(ji) = ij^2i = i(-1)i = (-1)i^2 = (-1)(-1) = 1$$

그러므로 $ji$는 $k$가 되어서는 안 됩니다. 실제로 곱셈 체계를 완성시키기 위해 $ji$가 가져야 하는 값은 $k$가 아니라 $-k$여야 합니다. 즉, 복소수가 사원수로 확장됨에 따라, 곱셈의 교환법칙은 더 이상 성립하지 않게 됩니다. 두 수의 곱은 순서에 따라 다른 값을 가질 수 있게 되어버린단 말이지요.

 

이것이 사원수가 갖는 치명적인 약점입니다. 복소수에서 사원수로 확장되면서 새롭게 갖추는 좋은 수학적 성질은 없을뿐더러, 오히려 기존의 성질을 잃어버리게 되지요. 물론 사원수가 아무런 가치 없는 발견은 아닙니다. 물체의 회전, 이동, 반전 등은 수학에서는 행렬로 표기하곤 하는데, 3차원의 물체의 경우는 행렬보다 사원수를 쓰는 것이 더욱 간결하다고 하네요. 비록 사원수가 수학적으로는 그렇게 매력적인 수체계가 아닐지 몰라도, 이러한 유용성 3D 애니메이션, 양자 역학, 전자기학 등 다양한 분야에서 전반적으로 사용된다고 합니다.

 

사원수 그 너머로

 

사원수보다 더 큰 체계는 존재할까요? 네 존재합니다. 그렇다면 그 체계는 몇 차원의 공간을 가지고 있을까요? 실수가 $1$차원, 복소수가 $2$차원, 사원수가 $4$차원이었으니, 직관적으로 $8$차원이어야 하지 않을까요? 정답입니다. 사원수보다 더 큰 체계는 팔원수(octonion)로, $\mathbb{O}$로 표기합니다. 사원수보다 더욱 난해한 체계라, 저도 교과서에서 이 표기를 본 적은 없군요.

 

사원수는 $a + bi + cj + dk$꼴로 표현될 수 있는 수라고 했습니다. 사원수의 수 체계는 $1, i, j, k$라는 $4$개의 축으로 이루어져 있다고 했지요. 팔원수는 $8$개의 축으로 이루어져 있습니다. 주로 $e_0, e_1, e_2, \ldots, e_7$로 표기하지요. 가장 첫번째 축인 $e_0$이 $1$에 해당합니다. 그래서 팔원수는 주로 다음과 같은 꼴을 갖습니다. (여기서 $x_0, \ldots, x_7$은 임의의 실수)

$$ x_0 + x_1e_1 + x_2 e_2 + x_3 e_3 + x_4 e_4 + x_5 e_5 + x_6e_6 + x_7e_7$$

 

복소수가 사원수로 확장됨에 따라 곱셈은 더 이상 교환법칙을 만족하지 않는다고 설명해드렸습니다. 사원수가 팔원수로 확장되면 어떤 좋은 성질을 잃어버리게 될까요? 바로 결합법칙을 잃어버리게 됩니다. 즉, 더 이상 $a \cdot (b\cdot c)$는 $(a\cdot b)\cdot c$와 같지 않게 됩니다. 결합법칙은 군을 이루는데 가장 기본이 되는 성질이기 때문에, 사원수가 팔원수로 확장됨에 따라 더 이상 군의 역할조차도 하지 못하게 되어버리는 셈이지요. 실생활의 수학과는 너무나 동떨어진 형태를 갖고 있기 때문에, 팔원수가 쓰이는 사례를 찾아보기란 매우 어렵습니다.

 

물론 여기서 한 발짝 더 나아갈 수 있습니다. 무려 16개의 축으로 이루어진 십육원수(Sedenion)라는 체계가 있지요. 앞글자인 S를 따와 $\mathbb{S}$로 표기합니다. 십육원수는 교대법칙이라는 성질을 잃어버립니다. 이는 다소 익숙한 법칙은 아니므로 설명은 생략하도록 하겠습니다. 팔원수 때와 마찬가지로 십육원수의 16개의 축은 각각 $e_0, e_1, \ldots, e_{15}$로 표기합니다. 그리고 그들의 곱은 다음과 같지요.

 

16원수를 이루는 16개의 축의 곱의 규칙. 교환법칙이 성립하지 않으므로 $e_ie_j$ 와 $e_je_i$의 값이 같지 않다.

16개의 차원이라니, 불필요하게 많을 뿐만 아니라, 계산도 난해하고 직관에도 많이 어긋납니다. 그래서 팔원수와 마찬가지로 십육원수는 실생활에서는 물론 수학에서조차 쓰일 일이 거의 없습니다. 이쯤부터 수 체계는 연산으로 유기적으로 연결된 체계가 아닌 느슨한 규칙으로 얼기설기 얽혀있는 것들의 모임이 되어버리지요.

 

자 이렇게 다양한 수의 체계들에 대해서 다뤄봤습니다. 요약하자면

1. 자연수에서 실수로 확장되어가면서 $1, 2, 3, 4, \ldots$라는 개별적인 수들이 1차원 직선이라는 기하학적인 의미를 갖게 되었다. (더불어 군, 환, 체라는 좋은 구조를 띄게 되었다.)

2. 실수에서 복소수로 확장되어가며 수는 직선에서 평면으로 확장되었다. 대수적으로 닫힘이라는 좋은 성질을 얻었지만, 동시에 크기 비교라는 성질을 잃게 되었다.

3. 이후의 확장은 $2$의 거듭제곱 꼴의 차원을 갖는다. 하지만 수의 체계가 확장될수록 좋은 연산 성질들을 잃게 된다. 그것이 우리가 복소수 이후의 수 체계에 대해 수학 시간에 깊게 다루지 않는 이유이다.

정도가 될 것 같네요.

 

수학의 관점에서 본 수 체계의 확장의 역사, 재밌게 보셨나요? 초반의 군이니 환이니 체니 하는 것들이 생소해서 다소 어렵게 느껴지시진 않으셨을까 조금 걱정도 드네요. 앞으로 다룰 다양한 수학 이야기에 꼭 필요한 개념들이기 때문에 소개해봤습니다. 물론 다음 연재물에 나올 때도 다시 한번 소개하겠습니다만, 이번 시간때보단 조금 더 간단하고 쉽게 소개하도록 할게요. 여러분들이 갖고 계셨을 수의 확장과 체계의 관한 궁금증들이 해결되었길 바라며, 다음 이런저런 수학 이야기 편에서 뵙겠습니다.