제르맹의 업적 조금만 더 살펴보기

수학 카드 뉴스 '가우스와 소피 제르맹'의 이야기를 소개했습니다. 해당 뉴스에서 제르맹의 주요 분야가 페르마의 마지막 정리라 소개했었는데, 이번 글에서는 페르마의 마지막 정리가 정확히 무엇인지, 그리고 제르맹은 어떤 업적을 남겼는지 간단하게 살펴볼까 합니다. (간단하게 살펴보는 이유는, 언젠가 기회가 되면 페르마의 마지막 정리를 따로 소개하고 싶어서...)

 

들어가기에 앞서 페르마의 마지막 정리를 FLT(Fermat's Last Theorem)이라고 표기할게요. 이는 수학자들도 자주 즐겨 쓰는 줄임말이니, 알아두면 언젠가 수학자들 앞에서 지식을 뽐낼 수 있을 거에요.

 

먼저 FLT는 다음과 같습니다.

 

$n$이 3 이상인 자연수일 때 $X^n+Y^n=Z^n$을 만족하는 0이 아닌 정수해 $X,Y,Z$는 존재하지 않는다.

 

재미있는 것은 $n =1, 2$인 경우에는, 이 식을 만족하는 정수해 $X,Y,Z$가 무한히 많으나 $3$이 되어버리면서 하나도 없다는 사실이지요. FLT는 이름에서 알 수 있듯, 페르마가 처음 제안했습니다. 하지만, 페르마는 여백이 좁다는 이유로 그 증명을 남기지 않았지요. 이 문제는 300년이 넘게 해결되지 않다가, 1995년 앤드류 와일즈라는 수학자에 의해 마침내 증명되었지요. FLT와 그것을 둘러싼 수학의 역사가 굉장히 흥미롭고, 정수론이라는 학문이 어떻게 변화해왔는지 파악하는데 좋은 지표가 되지만, 오늘 글에서 다룰 내용은 아니니 넘어가도록 하겠습니다.

 

먼저 인식해야할 것은 FLT를 증명하는데는 $n$이 3 이상이 모든 자연수에서 확인할 필요는 없다는 사실입니다. 예를 들어 $n$이 9라고 가정할까요? 만약에 $X^9 + Y^9 = Z^9$를 만족하는 어떤 정수 $X, Y, Z$가 있다고 가정해봅시다. 그렇다면 $X^9$는 $(X^3)^3$으로 표기가 가능하기 때문에 이 식은 다음과 같이 다시 쓸 수 있습니다.

$$(X^3)^3 + (Y^3)^3 = (Z^3)^3.$$

여기서 $X^3, Y^3, Z^3$을 각각 $X', Y', Z'$로 치환해볼까요?

$$X'^3 + Y'^3 = Z'^3.$$

$X,Y,Z$가 각각 정수였으니, 그것의 세제곱인 $X', Y', Z'$도 역시 정수일 것입니다. 그러므로 만약에 $X^9 + Y^9 = Z^9$을 만족하는 정수해가 있다면, $X^3+Y^3=Z^3$을 만족하는 정수해도 있어야겠지요. 이를 거꾸로 말하면, $X^3+Y^3=Z^3$을 만족하는 정수해가 없다면, $X^9+Y^9=Z^9$를 만족하는 정수해도 없다는 의미가 됩니다. (이를 대우 명제라고 합니다. 'p이면 q다'의 대우 명제는 'q가 아니면 p가 아니다'인데 이 둘은 동치입니다.)

 

즉 $n$이 3 이상의 자연수일 때 $X^n + Y^n = Z^n$을 만족하는 정수해 $X,Y,Z$가 존재하지 않음을 증명하기 위해서는 $n$의 약수 $p > 2$에 대해서 $X^p+Y^p = Z^p$을 만족하는 정수해 $X,Y,Z$가 없음을 보이면 됩니다. 모든 자연수는 소수이거나 소수의 곱으로 표현이 가능하므로, 모든 소수 $p$에 대해서 $X^p+Y^p = Z^p$를 만족하는 정수해가 없음을 보여주면 된다는 의미입니다. (단 $p = 2$의 경우는 예외입니다. 이 경우는 식을 만족하는 정수해가 있으므로.)

 

이 논리에 기반해서 $p$가 홀수인 소수라고 가정하고 $X^p + Y^p = Z^p$를 만족하는 정수해가 '있다'고 가정해봅시다. 그러면 다음 4가지 경우를 생각할 수 있습니다.

1. $X,Y,Z$가 모두 $p$로 나뉘는 경우
2. $X,Y,Z$ 중 정확히 두개만 $p$로 나뉘는 경우
3. $X,Y,Z$ 중 정확히 하나만 $p$로 나뉘는 경우
4. $X,Y,Z$가 모두 $p$로 나뉘지 않는 경우

만약 1번의 경우라면 $X = px, Y = py, Z = pz$로 치환이 가능할 것입니다. 그렇다면 식은 다음과 같이 되겠지요.

$$(px)^p + (py)^p = (pz)^p \implies p^px^p + p^py^p = p^pz^p.$$

양변을 모두 $p^p$로 나뉘면 $x^p + y^p = z^p$라는 식을 얻게 됩니다. 이 방법을 반복하면, $X,Y,Z$중 적어도 하나가 $p$로 나뉘지 않게 되겠지요.

 

2번의 경우는 사실 불가능합니다. 예컨대 $X$와 $Z$만 $p$로 나뉜다고 가정해봅시다. $X = px, Z=pz$로 치환하면 다음과 같은 식이 나옵니다.

$$(px)^p + Y^p = (pz)^p \implies Y^p = (pz)^p - (px)^p = p^p(z^p-x^p).$$

즉 $p^p$가 $Y^p$를 나눌 수 있다는 것인데, 소인수분해의 성질을 이용하면 $p$가 $Y$를 나눠야만 한다는 것을 금방 알 수 있습니다. 두 개의 해가 $p$로 나뉜다면 자동으로 마지막 해도 $p$로 나뉘어야 하고, 이는 첫 번째 경우가 되겠지요.

 

즉, 우리는 1, 2번째 경우에는 집중할 필요가 없다는 의미가 됩니다. 3번째와 4번째의 경우에만 집중하면 되지요. 

 

제르맹이 집중했던 것이 바로 4번째 경우입니다. 제르맹이 증명한 것을 간단하게 말로 요약하자면 다음과 같습니다.

 

홀수인 소수 $p$를 가정하자. 또한 $\theta = kp+1$꼴을 갖는 소수가 있다고 하자. 이것을 보조소수라고 부르자. 더 나아가, 이 보조소수 $\theta$가 다음 두 성질을 만족해준다고 가정하자.

1. $X^p + Y^p + Z^p$가 $\theta$로 나뉜다면, $X,Y,Z$ 중 적어도 하나는 $\theta$로 나뉜다.

2. 그 어떤 정수 $a$에 대해서도 $a^p - p$는 $\theta$로 나뉘지 않는다.

그렇다면 $X^p+Y^p=Z^p$를 만족하며 $p$로 나뉘지 않는 정수 $X,Y,Z$는 존재하지 않는다. 

 

사실 이 두가지 조건이 굉장히 까다롭고 복잡해 보이지만, 만약 $p$가 소수인데 $2p+1$도 소수라면 이 두 조건은 당연하게 성립됩니다. (이를 이해하기 위해서는 대수적 수론을 조금 알아야 합니다.) 그녀의 업적을 기념하고자, $p$가 소수일 때 $2p+1$ 또한 소수라면, 소피 제르맹 소수라고 부르지요. 물론 모든 소수가 제르맹 소수인 것은 아닙니다. 예컨대 $p = 7$이라면 $2p+1=15$로 소수가 아니지요. 소피 제르맹 소수가 무한히 많은지 아닌지는 아직도 풀리지 않은 난제입니다.

 

물론 앞서 언급한 두 복잡해보이는 조건이 소피 제르맹 소수의 경우에서만 해결되는 것은 아닙니다. $4p+1, 8p+1$, 혹은 $16p+1$등 $2Np+1$꼴의 소수에서는 이 조건들이 해결되곤 하지요. 제르맹은 100이하인 모든 홀수인 소수에서 앞서 언급한 조건을 만족하는 $2Np+1$꼴의 보조소수를 모두 찾아냅니다. 즉, 4번째 경우가 성립하지 않음을 보였지요.

 

소피 제르맹의 업적이 원래의 문제가 제시했던 것에 비하면 '작은 업적'임은 부정할 수 없습니다. 먼저 모든 자연수가 아니라, 100 이하의 소인수를 갖고 있는 $n$의 경우만 다룬데다가, 정수해 $X,Y,Z$가 모두 $p$로 나뉘지 않는 경우라는 조건이 추가로 붙었기 때무닝지요. 하지만 그럼에도 이것이 대단한 업적인 이유는 선대 어떤 수학자들도 이렇게 다양한 차수 $n$에서의 FLT를 증명한 사례가 없기 때문입니다. 천하의 오일러도 $n$이 3과 4인 경우에서밖에 해결하지 못했고, 가우스도 5의 경우에서밖에 해결하지 못했지요. 제르맹 사후 약 50년간, 에른스트 쿠머라는 수학자가 획기적인 새로운 방법을 선보이기 전까지는, 이 만큼 커다란 업적을 남긴 이가 없었지요. 

 

수학과에서 제르맹의 방법을 배우거나 하지는 않습니다. 와일즈가 이미 문제를 완전히 해결해버린 지금 시점에서 불완전한 증명을 공부한다는 것은 큰 메리트가 없기 때문이지요. 물론 그런 흐름이 이해가 가지 않는 것은 아니지만, 그래도 그녀의 이름을 더 많은 사람들이 기억해줬으면 하는 바람에 이번 카드뉴스를 만들어봤습니다. 만약 제르맹의 방법에 대해서 더 알아보고 싶으시다면, 다음 논문을 확인해보시는 것을 추천드려요.(arxiv.org/pdf/1904.03553.pdf) 그럼 다음 카드뉴스에서 뵙겠습니다!