[수학] 페르마의 마지막 정리 - 사이먼 싱 : 한 아마추어 수학자의 주석이 가져온 나비효과

위는 페르마의 마지막 정리이다. 하지만 페르마는 스스로 이 정리를 경이로운 방법으로 증명하였으나 여백이 충분치 않아서 생략한다고 말한다. 이 말은 400여년간 수많은 수학자를 괴롭힌다.

이 책은 그 페르마의 마지막 정리가 어떻게 나오게 되었는지에 대한 배경과, 이를 두고 얼마나 많은 수학자를 거치며 앤드류 와일즈가 증명하기 까지의 기나긴 여정을 그려냈다.

인상깊은 문구들

"페르마의 접선 계산법을 기초로 하여 미적분학을 개발했다."는 뉴턴 자신의 친필 원고가 발견된 것이다. 17세기 이후로 미적분학은 거리와 속도, 그리고 가속도 등의 핵심개념으로 이루어진 뉴턴의 역학법칙과 중력법칙을 서술하는 데 주로 사용되어 왔기 때문에, 페르마의 업적은 뉴턴이라는 거인의 그림자에 가려져 있었다.(p. 80)
일반적으로 학문의 발전은 의사소통능력에 크게 좌우되며, 따라서 학문적 언어는 섬세하고 유연해야 한다. 피타고라스와 유클리드의 학문도 처음에는 다소 투박한 언어로 표기되어 있었으나 아랍의 수학자들에 의해 아랍식 기호로 번역되면서 비로소 그 진가를 나타낼 수 있었으며, 그것을 기초로 더욱 발전된 정리들이 개발될 수 있었다.(p. 94)

"나는 경이적인 방법으로 이 정리를 증명하였다. 그러나 책의 여백이 너무 좁아 여기에 옮기지는 않겠다." 이처럼 사람을 약 올리는 말이 또 어디 있을까. 페르마는 자신의 표현대로 '경이적인 방법으로' 증명했음에도 불구하고, 단지 귀찮다는 이유만으로 그것을 세상에 발표하지 않은 것이다.(p. 102)
(미스터 블랙의 권송 솜씨는 명중률 1/3, 미스터 그레이는 2/3, 미스터 화이트는 백발백중의 명중률이다. 명중률이 가장 낮은 사람 순서대로 총을 쏴서 생존자가 남을 때까지 이런 식으로 결투를 벌인다고 한다.) "미스터 블랙은 첫 발을 어디에 겨누어야 할 것인가?"(p. 217, 게임이론을 언급하며)
"만일 강의를 듣는 사람이 강사의 설명을 수시로 끊으면서 '이 점이 이해가 안 가요. 저것도 다시 설명해 주세요.'하는 식의 요구를 계속한다면 강의는 정상적으로 진행될 수 없습니다. 또 이와는 반대로 아무런 질문 없이 고개만 끄덕이면서 강의를 듣는 학생이 있다면 그는 강의 내용을 거의 따라가지 못하고 있는 겁니다. 질문은 지나치게 많아도 안 되고 너무 적어서도 안 됩니다."(p. 349, 와일즈의 논문에 오류를 찾아낸 카츠가 실수를 빠르게 찾지 못한 이유를 설명하면서)

페르마의 마지막 정리를 다루며 수학사의 다양한 이론과 수학자를 접할 수 있다. 위의 문구에도 언급되어 있지만, 게임이론을 언급하면서 다루는 '3인 결투'문제는 여러모로 흥미로웠다. 이 문제에서 미스터 블랙은 미스터 그레이에 쏘아야 하는가? 미스터 블랙에 쏘아야 하는가?

정답은 허공에 대고 쏘는 것이다.

그렇게 되면, 누구도 죽지않고 다음 사람인 미스터 그레이에게 차례를 넘기게 된다.
↓
이때, 만일 미스터 그레이가 미스터 화이트를 겨누고 쏜다면, 미스터 블랙은 백발백중으로 쏘기 때문에 미스터 화이트는 죽는다. 따라서 미스터 그레이는 미스터 블랙부터 쏘아야 한다.
↓
여기서 미스터 블랙이 죽으면 차례는 미스터 화이트가 되어 미스터 그레이를 쏠 수 있고, 미스터 블랙이 죽지 않는다면 미스터 블랙은 적중률이 좋은 미스터 그레이를 쏠 것이다.

요컨대, 자신이 허공에 쏘는 행동이 미스터 그레이 혹은 미스터 블랙 둘 중 하나를 죽게 하는 결과를 가지고 온다. 둘 중 하나가 죽으면 미스터 블랙이 선공권을 가진 채로 결투를 이어나갈 수 있다.

게임이론은 게임의 구조와 인간의 성향을 수학적으로 서술하기 위해 만들어진 수학 분야이다. 게임이론은 RAND 사에서 냉전체제에서 벌어질 첩보전에서 유용할 것이라고 예상하였고, 사사병들에게 전술 훈련으로 노이만의 게임 이론을 기본 교재로 채택하였다.(pp. 216-217)

이렇게 게임이론은 현실 세계에서 유용하게 활용되었는데, 전쟁당시에는 게임이론보다 암호해독법이 더욱 유용하였다. 이때 언급되는 인물이 엘런 튜링이다. 엘런 튜링은 영화 '이미테이션 게임'을 통해서도 접했었던 바가 있다.

2차 세계대전 당시 독일은 에니그마 라는 기계를 통해서 통신을 하였다. 이 기계는 자판으로 입력한 문자가 새로운 암호로 변환된다. 이 변환되는 기계의 세팅 상태는 1개월 단위로 변경되었다. 엘런튜링은 암호해독을 위해 '밤(bombe)'이라는 기계를 활용하여 에니그마의 설정을 최대한 빠르게 알아내고자 하였다.

영화에서는 어느 시에 폭격을 가할 것을 미리 알았으나 암호 해독이 되었음을 들키지 않기 위해 조치를 취하지 않았다. 하지만 책에 따르면 이러한 내용은 악의적인 루머였다고 한다.

수학과 관련된 소재이지만 전개방식이 소설책 읽는 듯 하다. 특히나 페르마의 장난같은 주석하나가 약 400년간 스노우볼이 굴러 어떻게 수학자를 엿먹이고(?) 농락시키는지, 하지만 결국은 증명해내는 모습은 스팩타클하다.