'眞正한 數學的 證明이란 무엇인가' 話頭 던져?
모치즈키 신이치 日本 교토대 數學科 敎授의 論文으로 數學界가 12年째 內紛을 겪고 있다. 게티이미지뱅크 提供
日本의 한 天才 數學者가 發表한 數學 證明으로 數學界가 12年째 內紛을 겪고 있다. 證明 內容을 理解한 數學者가 거의 없는 데다 그조차 同僚 數學者들을 이해시키려는 疏通에 나서지 않으면서 少數의 支持者들을 除外하고 數學界의 外面을 받고 있어서다. 數學者들은 "數學的 證明을 檢證하는 過程에서 疏通은 必須"라고 批判하며 '眞正한 數學的 證明이란 무엇인가'에 對해 묵직한 話頭를 던지고 있다.
● 如前히 檢證 不可
13日 數學界에 따르면 모치즈키 신이치 日本 교토대 數學科 敎授의 'ABC 推測‘ 證明에서 誤謬를 밝히는 論文이 3月 發表된 데 이어 모치즈키 敎授도 이에 反駁하는 글을 公開하며 論難이 일고 있다.
論難은 始作은 2012年 8月이다. 모치즈키 敎授가 世界的인 整數論 難題인 ABC 推測에 對한 約 500쪽 分量의 論文 4篇을 論文 公開사이트 '아카이브'에 公開했다. ABC 推測은 1 以外의 公約數가 없는 '서로素' A, B, C가 A+B=C의 關係를 滿足할 때 세 數의 素因數의 곱에 0에 가까운 작은 羊水를 더한 數는 C보다 언제나 크다는 內容이다.
1985年 英國 數學者 데이비드 賣暑가 처음 提示했다. ABC 推測을 證明할 境遇 가장 有名한 數學 整理인 ‘페르마의 마지막 整理’를 쉽게 證明할 수 있다고 알려져 많은 數學者가 挑戰했다.
當時 네이처를 비롯한 科學저널이 "모치츠키 敎授가 그동안 남긴 成果를 미루어 볼 때 相當한 期待를 걸어도 좋을 것"이라며 떠들썩하게 報道하며 關心이 더욱 쏠렸다. 모치즈키 敎授는 高等學校를 2年 만에 마치고 16살에 美國 프린스턴대에 入學했으며 32歲에 교토대 敎授로 就任한 名望있는 數學者였다.
問題는 그의 論文이 다른 數學者들의 檢證을 받지 못했다는 것이다. 어떤 數學者도 이 論文이 맞다, 또는 誤謬가 없다고 認定하지 않았다. 普通 數學 論文은 發表된 뒤 1, 2年 동안 誤謬가 없다고 檢證이 되면 學界에서 인정받는다. 數學에서 嚴密함과 論理를 重要하게 생각하기 때문에 充分한 檢證을 거친다. 모치즈키 敎授 論文은 12年이 지난 只今까지도 檢證되지 않았다.
檢證이 힘든 理由는 分量이 너무 厖大하고 內容 또한 難解하기 때문이다. 모치츠키 敎授는 空間 理論을 整數論에 適用한 革新的인 'IUT(Inter-Universal Teichmüller)' 理論을 만들어 ABC 推測을 解決했다고 主張했다. 이규환 美國 코네티컷대 數學科 敎授는 "모치츠키 敎授의 方法은 '새로운 言語'를 創造한 것과 다름없다"면서 "하지만 그 言語를 完全히 理解한 사람이 數學界에 거의 없었다"고 말했다.
及其也 有望한 젊은 數學者들로부터 모치츠키 敎授 論文에 誤謬가 있다는 主張이 提起됐다. 2018年 '數學界 노벨賞' 필즈상을 受賞한 페터 숄體 獨逸 本隊 敎授와 제이콥 스틱스 獨逸 프랑크푸르트 괴테臺 敎授가 論文을 發表해 모치츠키 敎授 證明의 核心 不等式에 問題가 있다고 指摘한 것이다.
以後 마사키 카사와라 교토大 數理解釋硏究所 敎授, 이반 페센코 中國 웨스트레이크臺 敎授 等 모치츠키 敎授를 支持하는 勢力과 反對하는 勢力으로 나뉘며 數學界가 混亂에 휩싸였다.
그러던 中 2020年 모치츠키 敎授 論文이 교토大 數理解釋硏究所가 編輯하고 當時 모치츠키 敎授가 編輯委員長이었던 數學 저널 '피림스'(PRIMS)에 갑작스럽게 실렸다. 이를 主導한 日本 數學界를 向해 西區 數學界가 "피림스가 完全 檢證까지 時間이 必要한 論文을 실은 건 理解 衝突이 있다고 볼 수밖에 없다"면서 非難했다.
論難이 繼續되자 지난해 7月 日本 通信企業 '度頑固'가 모치츠키 敎授의 證明이 옳다고 證明하거나 反證하는 論文을 發表한 數學者에게 賞金 約 100萬 달러(13億6000萬원)를 주는 大會를 열기도 했다.
● 疏通을 拒否하는 모치츠키 敎授
이같은 論難에도 모치츠키 敎授는 自身을 向한 指摘에 한결같이 "內 論文을 샅샅이 읽어라'는 式의 防禦的인 態度를 取해왔다. 그는 論文 發表 後 日本을 벗어나 他國에서 열리는 學會에 參與해 理論을 發表해달라는 要求에 拒否했다. 自身의 理論을 紹介하고 說明하는 인터뷰 或은 討論에도 거의 應하지 않았다.
結局 숄體와 스틱스가 2018年 3月 교토大를 찾아가 모치츠키와 討論을 했을 때도 指摘을 받아들이지 않고 "論文을 根本的으로 잘못 理解했다"는 頑剛한 立場을 固守했다고 傳해진다.
올 3月 커티 조쉬 美國 애리조나代 敎授가 이들의 論文 內容을 擴張해 모치츠키 敎授 證明에 反論을 提起하는 論文을 公開하자 며칠 뒤 모치츠키 敎授는 自身의 홈페이지에 反駁 글을 실었다. "(조쉬의 論文이) 數學的으로 意味가 없다"면서 "ChatGPT와 같은 人工知能 알고리즘이 만들어낸 幻覺을 聯想시킨다"고 했다.
數學界는 ABC 推測 證明을 받아들일 수 없는 理由가 모치츠키 敎授의 이같은 態度에 있다고 본다. 나날이 어려워지는 現代 數學에서 疏通은 重要하기 때문이다.
김완수 KAIST 數理學과 교수는 "數學界에서 論文을 發表한다고 끝이 아니다"라면서 "學會에서 理論을 同僚들에게 說明하고 끊임없이 討論하고, 또 指摘을 받으면 修正하기도 하면서 證明을 完成시켜 나간다"고 했다. 페르마의 마지막 定理를 證明한 英國 數學者 앤드루 와일스度 1993年 첫 證明을 發表했지만 誤謬가 發見돼 다시 證明을 修正한 끝에 2年 뒤에 完璧히 證明했다.
ABC 推測과 關한 論難을 契機로 數學界에 '眞正한 數學 證明이란 무엇인가'에 對한 論議가 活潑해졌다. 整數論 分野의 權威者인 앤드류 그랜빌 캐나다 몬트리올대 敎授는 2018年 '數學的 證明의 本質'을 主題로 論文을 發表했다.
그는 當時 '콴타매거진'에 모치츠키 敎授에 對해 言及하며 "數學者가 純粹한 생각만으로 偉大한 眞理에 到達한다고 생각하기 쉽지만 數學者는 他人과 疏通하며 段階的으로 배운다"면서 "證明의 核心은 讀者를 說得하는 것"이라고 말했다. 또 "證明은 社會的 契約, 著者와 數學 커뮤니티間의 一種의 相互 合意"라며 "모치츠키 敎授처럼 極端的으로 自身만의 方式을 固守해서는 안 된다"고 했다.
李 敎授는 "모치츠키 敎授가 아무리 어마어마한 業績을 남겼어도 數學은 '言語'이기 때문에 他人이 理解하지 못하고 客觀的으로 檢證되지 않으면 옳은 數學的 證明이라고 받아들여질 수 없다"고 說明했다. 自身만의 理論 속에서 完璧할지라도 다른 構成員들을 說得하지 못하면 소용없다는 말이다. 현재 數學界에서 거의 '死亡 宣告'를 받은 모치츠키 敎授의 證明은 日本 數學界를 中心으로만 옹호받고 있다.
