[이만근 敎授와 함께 數學의 故鄕을 찾아서] <6> 페르마

東亞日報
入力 2012年 5月 2日 03時 00分

코멘트: 個

좋아요: 個

코멘트: 個

孤獨했던 法官이 낸 宿題… 350年間全世界數學者 괴롭혀

‘3次以上의 제곱數를 같은 次數의 제곱數의 合으로 나타내는 것은 不可能하다(Ｚn≠Xn+Yn).’(n=1, 2인 境遇는 成立)

初等學校算數外에는 數學을 배운 적이 없는 프랑스 툴루즈 地方法院의 法官이었던 피에르 드 페르마(1601∼1665). 그가 17世紀에 남긴 이 整理는 20世紀後半 앤드루 와일스 當時美國 프린스턴대 敎授에 依해 풀릴 때까지 約 350年以上全世界의 數學者들을 울리고 웃기며 ‘페르마의 마지막 整理’로 불렸다. 古代 그리스의 數學者 피타고라스가 남긴 ‘피타고라스의 整理’와 함께 數學史에 가장 有名한 整理로 꼽힌다.

페르마가 活動할 當時法官들은 一般人과 자유롭게 만나는 것이 禁止됐다. ‘누구라도 언젠가 法廷에 나와 裁判을 받을지 모르므로 法官의 判斷에 影響을 줄 수 있다’는 理由였다. 낮에는 異敎徒에 對한 火刑等의 判決을 내리고 밤에는 社會로부터 孤立된 페르마는 피로, 無聊함 그리고 孤獨에서 벗어나기 위해 서른 살쯤부터 數學에 빠져든 것으로 記錄은 傳하고 있다.

平素自身을 ‘아마추어’라고 생각해 單 한 篇의 數學論文도 發表하지 않았던 페르마는 스스로 發見한 內容도 世上에 公開하지 않았다. ‘마지막 整理’도 페르마가 冊의 한 餘白에 “나는 이 整理를 위한 멋진 證明을 알고 있는데 餘白이 좁아 記錄할 수가 없다”고 적어 놓아 世上에 알려졌다. 그가 이 메모를 남긴 冊은 紀元後 3世紀의 數學者 디오판토스가 쓴 ‘算術學’의 라틴語飜譯版이었다. 親筆 메모가 있던 冊은 傳하지 않지만 페르마의 아들 사무엘이 아버지가 死亡하고 5年後遺稿集을 엮으면서 또 다른 라틴語판 ‘算術學’에 아버지의 메모를 追加한 增補版을 내면서 ‘마지막 整理’ 等의 메모가 傳해지게 됐다.

最近 이만근 敎授(東洋大)와 함께 찾은 페르마의 故鄕 프랑스 툴루즈에서는 ‘스타 아마추어 數學者’를 記念하기 위한 많은 努力이 이뤄지고 있었다.

페르마가 勤務했던 法院 자리에는 2008年 새로 지은 툴루즈 地方法院이 들어섰다. 나폴레옹 時節旣存中高校 이름을 바꿔 만든 ‘페르마 中高等學校’는 現在 프랑스 最高名門高中 하나다. 이 學校卒業後 ‘그랑제콜’(高等敎育機關) 準備班에 다니고 있는 옴브린 保乂氏(20·女)는 “훌륭한 數學者의 이름을 딴 學校學生으로서의 自負心이 크다”고 말했다.

페르마의 生家는 툴루즈에서 西北쪽으로 自動車로 1時間距離인 閑寂한 農村小都市 보몽드로마뉴에 있다. 이 都市는 中心街를 아예 ‘페르마 距離’라 이름 지었고 市廳 건너便에는 大型石像도 세웠다. 四角形으로 된 石像基壇部에는 同時代와 後代의 有名數學者 피에르 라플라스와 블레즈 파스칼이 바친 “페르마는 眞正한 發明家” “世上에서 第一 큰 人物” 等의 稱頌이 새겨져 있다. 石像 앞쪽에는 페르마의 아들이 當時最高名門高等敎育期間인 ‘에콜 폴리테크니크’에 다녔다는 等 ‘집안 자랑’李 적혀 있다.

生家는 市에서 圖書館과 博物館, 觀光案內所等으로 使用中이었다. 市는 툴루즈臺數學科와 共同으로 이곳을 3, 4年 안에 페르마 資料專用展示館으로 바꿀 計劃이라고 博物館職員 베르니카 퀴베 氏는 말했다. 이곳을 찾는 觀光客만 한 해 約 2萬名. 보몽드로마뉴 詩는 每年 10月 ‘페르마 祝祭’를 開催하고 있으며 지난해에는 그의 誕生 410周年記念行事도 치렀다.

‘페르마의 定理’는 수많은 數學者들의 挑戰意識을 刺戟해 數學者들이 풀이에 매달렸으나 풀지 못했다. 아르키메데스, 아이작 뉴턴과 함께 歷史上 3代數學者로 꼽히는 獨逸의 가우스조차도 “그런 풀지 못할 整理는 나도 낼 수 있다”며 거들떠보지도 않았다가 20世紀 말에 解答이 나와 그의 名聲에 ‘玉의 티’를 남겼다.

피에르 드 페르마의 생가가 있는 프랑스 보몽드로마뉴 시에 세워진 석상. 1883년 동상이
세워졌으나 제2차 세계대전 때 독일군이 대포알을 만들기 위해 파괴했다. 전쟁 후 1955년이 지역의 한 수학 교사가 자기 고장에서 천재 수학자를 배출했다는 긍지를 갖자며 다시 석상을 세웠다고 시 정부 측은 설명했다. 보몽드로마뉴=구자룡 기자 bonhong@donga.com — 피에르 드 페르마의 生家가 있는 프랑스 보몽드로마뉴 時에 세워진 石像. 1883年銅像이 세워졌으나 第2次世界大戰 때 獨逸軍이 大砲알을 만들기 위해 破壞했다. 戰爭後 1955年이 地域의 한 數學敎師가 自己 고장에서 天才數學者를 輩出했다는 矜持를 갖자며 다시 石像을 세웠다고 市政府側은 說明했다. 보몽드로마뉴=구자룡 記者 bonhong@donga.com

프랑스 學術院度 ‘마지막 整理’ 解答者에 對해 1816年金메달과 賞金 3000프랑을 내건 後 1857年에 쿠머라는 人物에게 施賞한 것으로 알려졌다. 엉뚱한 사람에게 賞을 준 셈이다. 獨逸 괴팅겐 王立科學 아카데미도 1908年 ‘마지막 整理’를 푼 사람에게 주기 위해 10萬 마르크의 ‘볼프스켈 賞’을 制定해 數年間數千件을 接受했으나 모두 不合格處理했다. 이 賞의 制定經緯도 興味롭다. 賞金을 내놓은 볼프스켈은 獨逸事業家이자 아마추어 數學愛好家로 失戀(失戀) 當한 슬픔에 自殺을 決心하고 ‘自殺時限’을 定했다. 極度로 憂鬱한 狀況에서 그는 偶然히 ‘마지막 整理’를 發見하고는 풀기에 매달리다 그만 自殺時限을 넘기고 말았다고 한다. 이 問題가 自身의 목숨을 살렸다고 判斷한 그는 巨金을 問題解決者에게 提示했다. 이 賞은 1997年 앤드루 와일스 敎授에게 돌아갔다(책 ‘우리 數學者 모두는 若干 미친 겁니다’).

페르마가 數學史에 남긴 큰 寄與中의 하나는 ‘少數’(1과 自身外에는 나누어 떨어지지 않는 手로 1, 3, 5, 7, 11, 13 等無限히 많다)와 關聯된 많은 自然數의 패턴들을 發見한 點이다. 少數關聯難題(難題)도 많이 남겼다.

‘自然水 a가 素數 p로 나누어 떨어지지 않으면 a(-1-1은 p로 나누어 떨어진다(한 例로 a=8, p=5日境遇確認됨).’ ‘페르마의 작은 定理’라고 이름 붙은 이 整理는 나온 後約 100年後에야 스위스의 數學者 레온하르트 오일러가 참임을 證明했다.

페르마는 또 當代의 最高 프로 數學者 파스칼과 함께 ‘確率論’의 基礎를 닦았다. 파스칼은 르네상스 時代의 레오나르도 다빈치에게 數學을 가르친 修道士避치올리가 낸 것으로 ‘賭博을 하던 판이 中間에 깨졌을 때 어떻게 나눠 가져야 하나’라는 200年以上 된 問題가 안 풀리자 페르마에게 도움을 要請했다. 두 사람은 平生 서로 얼굴을 보지 못했지만 ‘數學의 親舊’가 됐다.
▼ ‘마지막 整理’ 컴퓨터로도 못 풀어… 說明에만 사흘 걸렸다 ▼
■ 1993年 와일스 敎授가 證明

1993年 6月 23日英國 케임브리지大 ‘아이작 뉴턴 硏究所’ 1層講堂. 케임브리지 出生의 美國 프린스턴대 앤드루 와일스 敎授(59·縣 옥스퍼드大敎授·寫眞)가 사흘 連續繼續한 講演을 끝맺으면서 “이것으로 페르마의 마지막 整理는 證明되었다”고 宣言했다. 聽衆 사이에서 興奮과 感歎이 터져 나왔다. 數學歷史上最大難題를 풀었다는 消息은 全世界로 級打電됐다.

硏究所는 이 大學敎授를 지낸 뉴턴(1642∼1727)을 記念하기 위해 세워진 곳이지만 只今은 ‘페르마 整理 풀이’ 名所로 變해 있었다. ‘마지막 整理 풀이’ 記念 티셔츠와 머그盞等記念品도 販賣하고 있다. ‘마지막 整理’ 풀이로 와일스 敎授는 ‘살아있는 가장 有名한 數學者’가 됐다고 이만근 敎授는 말했다.

와일스 敎授의 풀이 過程도 한 篇의 드라마처럼 劇的이다. 와일스 敎授는 열 살 때 洞네 公共圖書館에서 ‘페르마의 마지막 整理는 보기에 簡單하지만 300年以上 풀리지 않고 있다’는 內容을 數學冊에서 보고 이 定理를 푸는 것을 平生의 目標로 삼았다. 敎授가 된 後 한동안 잊고 있다가 “아직 누구도 못 풀었다”는 消息을 문득 다시 接하고는 本格的인 挑戰에 나선다. 그는 다른 사람과 意見을 交換하면 競爭者가 나타나거나 自身의 풀이 過程情報가 流出될 것을 憂慮해 다락房에 蟄居해 풀이에 매달렸다. 7年 뒤 드디어 ‘모듈러 形式, 楕圓曲線, 그리고 갈루아 리프레젠테이션’이라는 曖昧한(?) 題目의 講演을 마치면서 200餘 쪽의 풀이집을 내놓을 때까지 누구도 눈치 채지 못했다.

‘마지막 정리’ 증명 기념 티셔츠 영국 케임브리지대 ‘아이작 뉴턴 연구소’에서 판매하는 기념 티셔츠에 앤드루 와일스 교수가 ‘페르마의 마지막 정리’를 증명했음을 소개하고 있다. ‘그의 우아한 증명에 비해 이 티셔츠는 너무 크기가 작다’ 는 마지막 문장이 눈길을 끈다. 케임브리지=구자룡 기자 bonhong@donga.com — **‘마지막 整理’ 證明記念 티셔츠** 英國 케임브리지大 ‘아이작 뉴턴 硏究所’에서 販賣하는 記念 티셔츠에 앤드루 와일스 敎授가 ‘페르마의 마지막 整理’를 證明했음을 紹介하고 있다. ‘그의 優雅한 證明에 비해 이 티셔츠는 너무 크기가 작다’ 는 마지막 文章이 눈길을 끈다. 케임브리지=구자룡 記者 bonhong@donga.com

‘마지막 整理’는 尖端 컴퓨터로도 풀지 못했다. 只今도 풀이를 完全히 理解하는 數學者는 많지 않은 것으로 알려졌다. 첫 發表後 풀이에 몇 가지 缺陷이 있다는 意見이 提示되자 그는 또다시 1年餘蟄居에 들어갔으며 以後解決策을 提示했다. 1995年 5月號 ‘數學年報’에 發表함으로써 그의 整理는 國際的公認을 얻었다.

‘마지막 整理’의 풀이는 와일스 敎授個人에 依해 마무리됐지만 整理提起以後 많은 數學者들의 成果와 整數論과 幾何學分野等 20世紀尖端數學理論이 總動員된 것이라는 것이 數學界의 評價다. 따라서 이런 技法이 나오지 않은 300餘年前 페르마가 自身의 메모에서 ‘定理를 證明했다’고 한 것처럼 實際로 證明했는지에 對해 論難이 있다. 當時로서는 不可能했을 것이라는 疑問이 提起되지만 페르마가 많은 整理를 證明하면서 보여준 天才性과 誠實性, 眞實性에 비추어 現代數學者들이 모르는 證明이 있었을 수도 있다는 意見도 없지 않다.

툴루즈·케임브리지=구자룡 記者 bonhong@donga.com