Your Personal Math TA
BSD 1편: 100만 달러가 걸린 문제 본문
안녕하세요 난제를 파헤쳐 선보이다, 난파선입니다. 첫 편으로 소개할 난제는 버츠와 스위너톤-다이어 추측(Birch and Swinnerton-Dyer Conjecture, 이하 BSD)이라는 긴 이름의 난제입니다. 오늘은 먼저 이 추측이 어떻게 시작되었는지, 무엇에 관한 이야기인지, 그리고 왜 수학자들의 이목을 끌고 있는지에 대해 소개해 드리겠습니다.
100만 달러가 걸린 문제
밀레니엄 문제라고 들어보셨나요? 2000년 클레이 수학연구소에서 지정한 7개의 수학 문제로, 각각 100만 달러의 상금이 걸려있지요. 이 중 해결된 것은 오직 하나뿐, 나머지 6개의 문제와 600만 달러의 상금은 그 주인을 기다리고 있습니다. 문제 하나 푸는데 100만 달러나 되는 상금이라니 터무니없는 이야기 같지요? 하지만 그 상금의 크기만큼에 걸맞는 난이도를 가진 문제들입니다. 푸는 것은 고사하고, 이해하는 데만도 많은 공부가 필요하지요. 그나마 이해하기 쉬운 편인 푸앵카레 추측조차도 대학생 수준의 위상수학을 이해해야 하며, 그 외의 문제들은 대학원생 수준의 수학을 알아야 합니다. 양-밀스 가설이나 P-NP 문제는 입자물리학과 컴퓨터 계산 이론에 대한 이해도 요구되지요. 그래서 농담 삼아, '가장 어렵게 100만 달러를 벌고 싶다면 밀레니엄 문제를 붙잡아라' 라는 이야기가 있을 정도지요. 오늘 소개해드릴 BSD는 정수론, 그 중에서도 타원 곡선이라는 분야에서 시작된 문제입니다.
타원 곡선. 타원형을 말하는게 아닐까? 안타깝게도, 관련은 아주 적답니다. 저는 수학자들이 작명에 영 재능이 없다는 사실을 보일 때 이 곡선을 예로 보여주지요. 좌표 평면 위에 $y^2 = x^3+ax+b$꼴의 방정식을 타원 곡선이라고 일컫는데, 다음과 같은 모양을 가집니다.
눈을 씻고 쳐다봐도 타원형과는 거리가 먼데 왜 이것을 타원 곡선이라고 부를까요? 그것을 알기 위해서는 모든 수포자의 적, 미적분을 약간 언급할 필요가 있습니다. 17세기 뉴턴과 라이프니츠에 의해 미적분이 정립된 후, 많은 수학자들이 이 새로운 기법을 이용해 다양한 것들을 계산하기 시작합니다. 대표적으로 원의 넓이나 호의 길이가 있지요. 물론 이들을 구하는 공식은 아주 오래전, 고대 그리스 시대부터 알려져 있었습니다. 미적분은 그리스 시대 수학자들이 보였던 것 보다 더욱 엄밀한 논리와 정교한 계산으로 그들의 공식이 옳았음을 다시 한번 입증했지요.
물론 미적분이 과거에 알아낸 공식들을 재증명하는 '뒤치다꺼리'만 담당한 것은 아닙니다. 피타고라스나 유클리드 등 고대 그리스 수학자들로서는 엄두도 못냈을 것들을 계산해내는데도 성공하지요. 대표적으로 타원의 호의 길이가 있습니다. 타원의 호의 길이를 구하는 공식을 얻는데는, 먼저 타원을 좌표 평면에 그려 넣는 방법을 알아야 하고, 그 곡선에 해당하는 함수를 알아야 하며, 곡선의 길이를 구하는 공식을 적용해야 했습니다. 마지막 과정은 $\sqrt{f(x)}$꼴의 함수(여기서 $f(x)$는 3차, 때로는 4차 함수)를 적분해야 했습니다. 그래서 이러한 적분을 타원 적분이라고 불렀지요. 여기서 $\sqrt{f(x)}$을 $y$로 둔 뒤, 각 변을 제곱하고, 적당히 치환하면 앞서 선보였던 $y^2 = x^3+ax+b$꼴의 방정식을 얻을 수 있습니다. 분명히 타원처럼 생기진 않았지만, 타원 적분에서 기원했기 때문에 수학자들은 이를 타원 곡선이라고 부릅니다. 저는 차라리 직소 퍼즐의 홈처럼 생겼으니 퍼즐 곡선이라고 부르자고 제안하고 싶지만 말이에요.
타원 곡선, 정수론과 손을 맞잡다.
이 조금 특이하게 생긴 곡선이 대체 뭐가 중요하길래 100만 달러나 되는 거금이 붙게 되었을까요? 그것은 타원 곡선이 수학의 여러 분야와 관련이 있다는 것이 밝혀지면서 시작됩니다. 가장 대표적으로 정수론, 그중에서도 약 350년간 풀리지 않아 온 수학계의 난제인 페르마의 마지막 정리(Fermat's Last Theorem, 이하 FLT)와 깊은 연관이 있다는 것이 밝혀졌습니다. 먼저 FLT는 다음과 같습니다.
$n$이 3 이상의 자연수일 때, $x^n+y^n = z^n$을 만족하는 0이 아닌 정수 $x, y, z$는 존재하지 않는다.
잠시만요, $x^n+y^n=z^n$과 타원 곡선 $y^2=x^3+ax+b$ 가 도대체 무슨 관련이 있는 건가요? 네 관련 없어 보이는 것이 정상입니다. 페르마가 FLT를 떠올렸던 것이 17세기였고, 수학자들이 본격적으로 타원 곡선을 연구하기 시작한 것이 18세기였습니다. 반면에 이 둘 사이의 연관성은 1990년이 되어서야 밝혀졌지요. 어림잡아 2~300년간의 연구 끝에 둘 사이의 관계가 밝혀졌으니, 수학을 전공하는 분들조차도 이 연관성을 한눈에 알아보기는 쉽지 않았답니다. 이 연관을 설명하기에 앞서 먼저 FLT의 역사에 대해서 간단하게 살펴볼까요?
변호사이자 아마추어 수학자였던 피에르 드 페르마(Pierre de Fermat)는 이 글을 읽으러 오시는 여러분들처럼 수학을 공부하는 취미가 있었습니다. 그가 즐겨 공부하던 책은 그리스 시대 수학자인 디오판토스(Diophantus)가 남긴 산술(Arithmetica)이라는 책이지요. 해당 책에는 다음과 같은 문제가 있었습니다.
산술 제2권 8번 문제:
주어진 제곱수를 두 개의 작은 제곱수의 합으로 표현하라.
이를 현대적으로 표기하면 $x^2+y^2=z^2$의 해를 찾아라가 됩니다. 어디서 많이 본 식 같지 않나요? 네, 맞습니다. 바로 피타고라스의 정리와 닮아있지요. 피타고라스의 정리에 따르면 직각삼각형에서 짧은 두 변의 길이의 제곱의 합은 긴 변의 길이의 제곱과 같습니다. 한국식 주입식 교육에 익숙해진 저와 여러분들은 덕분에 $3^2+4^2=5^2$이나 $5^2+12^2=13^2$과 같은 식이 익숙하지요. 페르마는 이 문제에 대해 고민하다가 다음과 같은 글귀를 여백에 남깁니다.
임의의 세제곱수는 다른 두 세제곱수의 합으로 표현될 수 없고,
임의의 네제곱수 역시 다른 두 네제곱수의 합으로 표현될 수 없으며,
일반적으로 3 이상의 지수를 가진 정수는
이와 동일한 지수를 가진 다른 두 수의 합으로 표현될 수 없다.
나는 이것을 경이로운 방법으로 증명하였으나, 책의 여백이 충분하지 않아 옮기지는 않는다.
페르마는 수학을 공부하며 떠오른 문제들이나 생각들을 책 여백에 적는 습관이 있었습니다. 훗날 그의 아들은 페르마가 남긴 주석들을 실어 디오판토스의 산술을 재출판합니다. 페르마가 세상을 떠난지 수십년 후, 스위스의 한 수학자는 그의 판본을 접하고, 페르마가 남긴 문제들, 생각들을 꼼꼼히 증명하거나 반박합니다. 그의 이름은 레온하르트 오일러(Leonhart Euler), 18세기 수학을 이끈 거장이었죠. 그가 가장 지대한 공헌을 남긴 분야는 수학, 그 중에서도 정수론이지만, 그 외에도 물리학, 천문학에도 많은 논문을 남겼습니다. 덕분에 18세기 유럽에 출간된 모든 수학/과학의 논문 중 25%를 저술하는 위대한 업적을 남기지요. 하지만 천하의 오일러조차 해결하지 못한 페르마의 문제가 하나 있었는데 그것이 바로 FLT였습니다. FLT가 마지막 정리라는 전설속에서나 나올법한 이름을 갖게 된 것은 그것이 페르마가 죽기 직전 유언으로 남긴 문제여서가 아니라, 페르마가 남긴 여러 문제들 중 마지막까지 해결되지 않았기 때문이지요.
이후 300년간 여러 수학자들이 FLT를 해결하기 위해 다양한 방법을 사용했습니다. 오일러는 물론, 프리드리히 가우스, 소피 제르맹, 에른스트 쿠머, 다비트 힐베르트 등 수학계 거물급 인사들이 새로운 수학적 기법으로 무장해 도전했으나 줄줄이 실패하지요. 초등학생도 이해할 수 있는 이 문제를 해결하기 위해, 정수론은 진화에 진화를 거듭해왔습니다. 해석학이라는 분야와 손을 잡기도 하고, 대수학이라는 분야와 손을 잡기도 했지요. 이러한 융합은 다양한 기법과 개념들을 수학에게 선물해줬습니다. 오죽하면 FLT를 도전했던 힐베르트조차 'FLT는 황금알을 낳는 거위다, 이 문제를 해결하는 것은 거위의 배를 가르는 것이다.'라고 말했을 정도지요.
FLT에 새로운 방향성을 제시한 데는 두 명의 일본인 수학자가 있었습니다. 각각 유타카 타니야마와 고로 시무라지요. 타니야마와 시무라는 1957년 자신의 이름을 딴 추측, 이른바 타니야마-시무라 추측(Taniyama-Shimura Conjecture, 이하 TSC)을 제시했는데 이 추측이 바로 타원 곡선에 관련된 추측이었습니다. 이후 베유, 프라이, 세르, 리벳 등 여러 수학자들이 연구에 연구를 거듭해, TSC가 참이라면 FLT가 참이라는 것을 증명하게 됩니다. 타원 곡선에 관한 추측인 TSC가 정수론을 대표하는 난제인 FLT를 함의한다니, 정말 20세기 수학자 누구도 상상치 못한 연관이었을 것입니다. 그 연관성이 밝혀진지 약 5년 후, 1995년, TSC는 영국의 수학자 앤드류 와일즈(Andrew Wiles)에 의해 증명됩니다. 잇따라 FLT가 자동적으로 증명되며, 와일즈는 수학계에 둘도 없는 난제인 FLT를 해결한 수학자가 되었습니다. 이런 일련의 사건들 덕분에 타원 곡선은 그 기원이 해석학, 즉 미적분이었으나 정수론의 일원으로 여겨지게 되었습니다. 정수론을 공부하는 대학원생으로서 이 일련의 사건이 20세기 수학의 가장 역사적인 사건이 아닐까 하고 조심스럽게 말씀드려봅니다.
다비트 힐베르트는 20세기의 수학 연구의 방향을 제시하고자, 1900년 프랑스 파리에서 열린 국제 수학 학회, '세계 수학자 대회'에서 자신의 이름을 딴 23개의 문제를 발표합니다. 20세기 수학의 거장답게 그는 논리학, 집합론, 정수론, 해석학, 대수학 등 다양한 분야에 걸친 문제들을 소개했지요. 그로부터 꼭 100년이 지난 2000년, 클레이 수학 연구소는 힐베르트의 전통에 따라 수학 각 분야에 걸쳐 7개의 문제를 선정했습니다. 힐베르트가 제시했던 23개에 비하면 훨씬 적지만, 대신에 100만 달러라는 부상도 내걸었지요. 이 문제들을 선정하는데 클레이 수학연구소는 마침 5년 전 수학계 최대 난제 중 하나였던 FLT를 해결한 앤드류 와일즈에게 자문을 구했습니다. 앤드류 와일즈는 정수론 학자이자 타원 곡선의 대가답게 타원 곡선에 관련된 난제를 선정합니다. 눈치 빠른 분이라면 충분히 예상하셨죠? 바로 이 난파선에서 다룰 BSD입니다.
물론 BSD를 떠올린 인물이 앤드류 와일즈인 것은 아닙니다. 그 이름에서 알 수 있듯, BSD는 브라이언 버츠와 피터 스위너톤-다이어 두 분이 공동으로 제안했지요. BSD는 조금 특이한 난제인 것이, 비록 그 기원은 정수론에 두고 있지만 해석학과 대수학에도 가지를 트고 있습니다. 즉 다양한 분야의 수학이 적절하게 뒤엉킨 문제이지요. 이 문제가 처음 제기되었을 때는 큰 주목을 받지 못했으나, 앤드류 와일즈가 밀레니엄 문제 중 하나로 지목함으로 21세기에 들어와 많은 수학자들의 이목을 끌게 되었습니다.
BSD는 무엇을 말하려는 걸까?
그럼 이 문제가 도대체 어떤 문제인데 이렇게 큰 관심을 받고 있느냐, 문제의 방향성은 FLT와 비슷합니다. FLT가 '$x^n+y^n=z^n$이라는 식을 만족하는 정수해는 존재할까?' 에 관한 질문이었지요? BSD는 '타원 곡선 방정식 $y^2=x^3+ax+b$의 해가 존재할까? 존재한다면 얼마나 많을까? 존재하지 않는다면 왜 그럴까?' 에 관한 질문입니다. 물론 FLT때와 마찬가지로 몇 가지 조건이 더 붙지요.
먼저 첫 번째 조건은 타원 곡선 방정식의 $x$의 계수인 $a$와 상수 $b$가 유리수여야 한다는 조건이 붙습니다. 쉽게 말해 분수를 말하지요. 두 번째 조건은 유리수 해입니다. 앞서 FLT가 정수로 된 해에만 집중했듯, 타원 곡선은 유리수로 된 해에만 집중합니다. 예를 들어볼까요? 타원 곡선 $y^2 = x^3 - x + 1$을 그래프에 그리면 다음과 같은 곡선이 나타납니다.
만약 이 타원 곡선이 $(a,b)$라는 좌표점을 가로지른다면, $a$와 $b$는 $b^2=a^3-a+1$라는 식을 만족합니다. 여기서 $a$와 $b$가 둘 다 유리수인 경우, 해당 좌표점 $(a,b)$를 타원 곡선의 유리점이라고 부르죠. 그렇다면 이 타원 곡선은 유리점이 과연 존재할까요? 네, 존재합니다. 그렇다면 유리점이 몇 개나 있을까요? 이 타원 곡선의 경우 유리점은 무한히 많답니다. 몇 개만 예를 들어볼까요?
$$(-1,1), \left(-\frac{11}{9}, \frac{17}{27}\right), (0,1), \left(\frac{1}{4}, \frac{7}{8}\right), (1,1), (3,5), (5, 11), (56, 419), \ldots$$
이번엔 다른 타원 곡선을 살펴볼까요? $y^2 = x^3 + x + \frac{5}{8}$라는 타원 곡선은 아래 처럼 생겼습니다. 마찬가지로 똑같은 질문을 던져보죠. 이 타원 곡선은 유리점이 존재할까요? 존재한다면 몇 개나 있을까요?
이 곡선이 갖는 유리점은 놀랍게도 단 한 개 뿐입니다. 그럼 자연스럽게 다음과 같은 의문이 떠오르지요. 왜 어떤 타원 곡선은 유리점이 무한히 많고, 어떤 타원 곡선은 유리점이 손에 꼽을 만큼 적을까? 타원 곡선의 유리점의 개수는 무엇에 좌우될까? 언제 타원 곡선은 무한히 많은 유리점을 가질까? 이러한 의문이 BSD의 초석이 되지요.
마지막으로 왜 많고 많은 곡선들 중에 왜 수학자들은 하필 타원 곡선에만 관심을 기울이는지를 설명하며 이번 편을 마무리지어보겠습니다. 수학의 한 분야인 대수기하라는 학문은 단순히 직선, 곡선 등을 넘어서 표면, 공간 등 다양한 고차원 기하학적 대상을 대수학적인 언어로 연구하는 분야입니다. 대수기하에 따르면 모든 곡선들을 종수(genus)라는 개념으로 분류할 수 있답니다. 간단하게 나누면 종수가 0인 선들, 종수가 1인 선들, 종수가 1보다 큰 선들 이렇게 말이지요.
종수가 0인 선들은 우리에게 익숙한 원, 타원, 직선, 포물선 등이 있습니다. 이들은 수학 역사상 오랫동안 연구되어 왔기 때문에 이들의 유리점들에 대해서는 이미 잘 알려져 있지요. 이들의 유리점은 항상 무한히 많거나, 하나도 존재하지 않습니다. 반면 종수가 1보다 큰 곡선들은 어떨까요? 1983년 수학자 팔팅스(Faltings)는 이러한 곡선 위의 유리수점은 무한히 많을 수 없다는 아주 강력한 정리를 증명하는데 성공합니다. 자, 종수가 0인 경우와 1보다 큰 경우를 알았으니, 남은 것은 종수가 1인 곡선들이겠지요? 종수가 1인 곡선들은 놀랍게도 앞서 소개한 타원 곡선들입니다. 그리고 앞서 본 예제들 처럼 타원 곡선들의 유리점은 때로는 유한개 뿐일 수도 있고, 때로는 무한히 많을 수도 있습니다. 또 때로는 전혀 없을 수도 있지요. 즉 이 내용을 표로 정리하면 다음과 같습니다.
| 종수(genus) | 예제 | 유리점의 개수 |
| 0 | 직선, 원, 타원, 포물선 등 | 무한히 많거나 존재하지 않는다. |
| 1 | 타원 곡선 | 무한히 많거나, 유한개 뿐이거나 존재하지 않는다. |
| 2 이상 | Higher genus curves | 유한개 뿐이거나 존재하지 않는다. |
BSD는 주어진 타원 곡선의 유리점의 개수가 무한히 많은지 아닌지를 설명하는 아주 강력한 추측입니다. 물론 이 추측이 참이라고 단정짓기는 이르지만, 만약 이 추측이 해결된다면 곡선의 유리점의 개수에 관한 이론이 완전히 정립이 되는 셈이지요. 이것이 수학자들이 BSD에 이목을 집중하고 있는 이유 중 하나랍니다.
자 이렇게 BSD가 어떤 분야에서 기원한 난제인지, 어떻게 수학자들의 이목을 끌게 되었는지, 무엇에 관련된 문제인지에 대해서 간단하게 알아봤습니다. BSD가 정수론에서 기원했지만 대수학에도 깊은 연관이 있다고 언급했으니, 다음 편에서는 대수학의 가장 기본이 되는 군(group)에 대해서 소개해볼게요. 그럼 모두들, 다음 난파선에서 뵙겠습니다.
'난제를 파헤져 선보이다' 카테고리의 다른 글
| BSD 2편: 젊은 천재가 남긴 유산 (0) | 2020.09.03 |
|---|
