페르마의 마지막 정리 핵심내용 압축풀이

약 300여 년 동안 계속해서 풀리지 않았던 페르마의 심오하고도 아름다운 하지만 악랄했던 그 정리가 결국은 수학자 앤드루 와일즈에 의해서 풀려내 졌다. 매우 간단한 수식으로 시작되었지만 너무나 어려웠던 이것을 어떻게 풀어내었을까?

 

공책 여백에 적힌 작은 글귀

페르마가 작성한 굉장히 유명한 책에서 거의 맨 마지막 페이지 즈음에 다음과 같은 글귀가 적혀있었다. a^n + b^n = c^n (n은 3 이상의 정수) 이를 만족하는 a, b, c세 가지 정수는 절대 없다. 그리고 나는 이에 대한 완벽한 풀이를 찾았지만 종이가 더없어서 풀이는 생략한다고 말이다. 이 한마디가 수학계 전체를 약 300년 동안 뒤흔들어 놓았던 것이다. 이 풀이를 찾아내려고 세계적인 석학들이 300년 동안 아등바등거렸지만 결국은 풀이를 못 찾았다. 하지만 300여 년이 지난 바로 지금 우리가 사는 이 시대에 수학자 앤드루 와일즈가 이 굴레를 끊어버린 것이다. 

 

앤드루 와일즈 타원 방정식을 필두로 정리를 풀어내다

앤드루 와일즈는 대학교 석, 박사 학위를 따내기 위해서 자신의 스승의 의견에 따라 타원 방정식을 전공하여 석, 박학 위를 따내었다. 이때 이 타원 방정식이 정수해를 구하는 것과 매우 연관되어 있어서 앤드루 와일즈가 훗날 박사학위를 따내고 마지막 정리를 결국 해낼 수 있었던 매우 중요한 요인중 하나로 작용하였다. 

 

이 타원 방정식의 해를 구하는 방법은 수학적 용어로 "E-급수"를 사용하면 된다. E-급수를 간단히 표현하면 정수를 특정 범위만 놓고 그 범위 안에서 정수해를 구하는 방식의 풀이를 E-급수라고 한다. 와일즈는 이 E-급수를 토대로 자신만의 풀이를 완성시켜 나아갔다.

 

한편 또 다른 수학적 용어를 이해할 필요가 있는데 그것은 "M-급수"이다. M-급수도 그냥 쉽게 풀어 설명하자면 "모듈"이라는 수학적 구조가 있다. 이 모듈도 어려운 개념이긴 한대, 모듈이란 그냥 대칭적인 모양을 갖는 어떤 것으로 쉽게 이해해두자. 이 "모듈"의 구조를 나타내는 표현, 수식을 M-급수라고 정의한다. 이 M-급수가 어떻게 변함에 따라서 모듈의 대칭성도 이렇게 변하기도 했다가 저렇게 변하기도 했다가 할 수 있다.

 

이 E-급수와 M-급수가 사실은 동일한 수학분야로 밝혀졌고, 이 두 가지 급수를 이용해서 앤드루 와일드는 마지막 정리를 풀어나간다. 이 동일한 수학분야로 밝혀졌다는 말은 다시 말하자면 M급수와 E-급수가 서로 연결되어 있다는 것이다. 즉, E-급수의 어떤 결과는 무조건 M-급수의 어떤 결과와 대응해야 한다. 이런 E-급수와 M급수와의 관계를 수학자들은 <다니야마-시무라의 추론>이라고 일컫는다

 

프라이의 유령 방정식

이 다니야마-시무라의 추론을 바탕으로 이제 페르마가 만들어놓은 이 거대한 성벽을 뚫어보자. 그 첫 단추는 프라이라는 수학자가 뚫어주었다. 프라이는 원래의 방정식인 $A^{n} + B^{n} = C^{n}$을 변형하여 다음과 같이 만들었다. $y^{2} = x^{3} + (A^{N}-B^{N})x^{2} -A^{N} B^{N}$ 이것은 만약 페르마가 말한 정수해가 성립한다면 반드시 성립해야 되는 식이다. 이 식은 원래 있던 타원 방정식을 조금만 변형하면 만들 수 있는 수식이다. 이 수식은 페르마의 마지막 정리, 타원 방정식을 연관시킴으로써 <다니야-사무라이의 추론>을 이용할 수 있게 해 주었다. 

 

프라이의 저 변형시킨 방정식은 마치 유령 같은 방정식이다. 그 이유는 그 방정식은 페르마가 말한 정수해가 "존재한다!"라고 가정해 놓고 만든 식이기 때문이다. 하지만 페르마가 말한 대로 라면 절대 그 그 정수해는 존재하면 안 된다. 그래서 사실은 말도 안 되는 유령 방정식이라는 것이다. 자 이제 이 자신이 만들어놓은 이 식이 정말 존재하지 않는 유령 방정식이라면 <다니야-사무라이의 추론>에 의해서 페르마의 방정식에 정수해는 있을 수 없게 된다. 왜냐하면 저 방정식과 페르마의 마지막 정리가 아까 말했듯이 연관되어 설정되어 있기 때문이다. 

 

이 프라이의 방정식이 존재하지 않음을 밝혀버린 것이 위에서부터 언급했던 과학자 바로 앤드루 와일즈였던 것이다. 이 방정식이 유령 방정식이란 것을 밝히는 가장 간단한 방법은 이 유령 방정식에 대응하는 모듈이 없으면 된다. 왜냐고? <다니야-사무라이 추론>에 의하면 무조건 타원 방정식과 모듈은 무조건 대응이 돼야 하기 때문이다. 이 대응하는 모듈이 없음을 수학적 추론을 통해 증명해버린 것이 바로 앤드루 와일즈였던 것이다. 석, 박을 타원 방정식으로만 보내야 했던 우리 앤드루 와일즈에게 타원 방정식을 가지고 놀아야만 풀리는 이 마지막 정리를 뚫어내는 것은 그다지 어려운 일이 아니었다.