На протяжении веков математики занимались тем, что с помощью логического доказательства пытались построить мост, ведущий от известного в неизвестное. Им удалось достичь феноменальных успехов. Каждое новое поколение математиков расширяло грандиозное здание своей науки, создавая новые представления о числах и фигурах. Но к концу XIX века вместо того, чтобы смотреть вперед, некоторые математики стали все чаще оглядываться назад, на основания математики, на которых зиждилось все остальное. Они хотели пересмотреть самые основания математики для того, чтобы заново построить ее, соблюдая все требования математической строгости, начиная с первых принципов, чтобы еще раз убедиться в надежности этих самых первых принципов.

Математики известны своей придирчивостью. Прежде чем принять любое утверждение, они требуют абсолютного доказательства его истинности. Их репутация отчетливо выражена в истории, которую Ян Стюарт приводит в своей книге «Понятия современной математики»: «Рассказывают, что астроном, физик и математик проводили отпуск в Шотландии. Глядя из окна поезда, они заметили посреди поля черную овцу. «Как интересно, — заметил астроном, — все шотландские овцы черные!» «Нет, нет! — возразил физик. — Некоторые шотландские овцы черные!» Математик задумчиво посмотрел вверх, а затем протянул: «В Шотландии есть по крайнее мере одно поле, посреди которого пасется по крайней мере одна овца, у которой по крайней мере одна сторона черная».

Еще строже, чем обычный математик, рассуждает тот математик, который специализируется в области математической логики. Математические логики ставят под сомнение даже те идеи, которые другие математики столетиями считали незыблемыми. Например, закон трихотомии утверждает, что каждое целое число либо отрицательно, либо положительно, либо равно нулю. Это утверждение казалось очевидным, и математики всегда молчаливо предполагали, что оно истинно, но никто никогда не потрудился проверить, так ли это. Логики поняли, что до тех пор, пока истинность закона трихотомии не доказана, его утверждение может оказаться ложным, а если оно окажется ложным, то рухнет все опирающееся на него здание знаний. К счастью для математики, истинность закона трихотомии была доказана в конце XIX века.

Со времен Древней Греции математика накапливала все больше и больше теорем и высказываний, которые не были строго доказаны. Математики были озабочены истинностью некоторых из них, проникших в математический арсенал без должного анализа, — таких, как закон трихотомии. Некоторые идеи были усвоены очень давно, однако, никто не может быть вполне уверен в том, что они могут считаться доказанными, поскольку в разное время были разные представления об уровне строгости доказательства. Поэтому логики решили проверить доказательство каждой теоремы с самого начала. Но каждая истина должна быть выведена из других истин. В свою очередь те истины сначала должны быть доказаны, исходя из еще более фундаментальных истин, и т. д. В конце концов логики оказались лицом к лицу с несколькими утверждениями, настолько фундаментальными, что вывести их из других утверждений не представлялось возможным. Эти фундаментальные утверждения называют аксиомами математики.

Одним из примеров аксиом может служить коммутативный закон сложения, который гласит: для любых чисел m и n верно равенство

m + n = n + m

Этот закон и несколько других аксиом принято считать самоочевидными. Они легко могут быть проверены на любых числах. До сих пор аксиомы успешно проходили все проверки и были приняты за основу всей математики. Задача, которую поставили перед собой логики, заключалась в том, чтобы попытаться заново построить всю математику, исходя из этих аксиом. В Приложении 8 приводится набор аксиом арифметики и дается представление о том, как логики намереваются, исходя из них, построить всю остальную математику.

В медленном и болезненном процессе перестройки грандиозного и сложного здания математического знания на основе минимального числа аксиом участвовали очень многие математики. Идея этой перестройки заключалась в том, чтобы обосновать с использованием строжайших стандартов логики то, что математики считали давно известным. Немецкий математик Герман Вейль так описывал настроение того времени: «Логика — это гигиена, правила которой математик соблюдает, чтобы сохранить свои идеи здоровыми и сильными». Кроме того, была надежда, что столь фундаментальный подход позволит пролить свет на еще нерешенные проблемы, в том числе — на Великую теорему Ферма.

Программу обновления математики возглавил один из самых выдающихся ученых XX века — Давид Гильберт. По его глубокому убеждению, все в математике может и должно быть доказано, исходя из основных аксиом. Результат аксиоматического подхода должен был быть доказательно продемонстрирован на двух важнейших элементах математической системы. Во-первых, математика, по крайней мере в принципе, должна быть способна ответить на каждый вопрос в отдельности — это тот самый принцип полноты, который в прошлом требовал введения новых чисел, например, отрицательных и мнимых чисел. Во-вторых, математика должна быть свободна от противоречий, т. е. если истинность некоторого утверждения доказана одним методом, то должна быть исключена возможность доказательства отрицания того же самого утверждения другим методом. Гильберт был убежден, что, приняв всего лишь несколько аксиом, можно ответить на любой мыслимый математический вопрос, не опасаясь впасть в противоречие.

8 августа 1900 года Гильберт выступил с историческим докладом на II Международном конгрессе математиков в Париже. Гильберт сформулировал двадцать три проблемы, имевшие, по его мнению, наибольшее значение. Первые из них были посвящены логическим основаниям математики. По замыслу Гильберта, сформулированные им проблемы должны были привлечь внимание математического мира и стать программой будущих исследований. Гильберт хотел гальванизировать математическое сообщество, чтобы оно помогло реализовать его ви́дение математической системы, свободной от сомнений и противоречий — честолюбивый замысел, суть которого Гильберт завещал высечь на своем надгробии:

Огромный вклад в осуществление так называемой гильбертовской программы внес Готтлоб Фреге, временами вступавший в острейшее соперничество с Гильбертом. Более десяти лет Фреге посвятил выводу сотен сложных теорем из простых аксиом, и достигнутые успехи вселили в него уверенность, что он находится на пути к осуществлению значительной части намеченной Гильбертом программы. Одним из ключевых достижений Фреге было создание самого определения числа. Например, что мы в действительности понимаем под числом 3? Оказалось, что для определения числа 3 Фреге понадобилось сначала определить «троичность».

«Троичность» — это абстрактное свойство, присущее всем наборам, или множествам, содержащим по три объекта. Например, «троичность» может быть использована и при описании поросят в известной детской песенке, и при описании множества сторон треугольника. Фреге заметил, что свойством «троичности» обладают многочисленные множества и воспользовался абстрактной идеей таких множеств для определения самого числа «3». Он создал новое множество и поместил в него все множества, обладающие свойством троичности, и назвал это новое множество «множество 3». Таким образом множество имеет три члена в том и только в том случае, если оно принадлежит «множеству 3».

Для понятия, которым мы пользуемся ежедневно, такое определение может показаться чересчур сложным, но столь строгое описание «множества 3» необходимо для бескомпромисной программы Гильберта.

В 1902 году тяжкий труд, добровольно возложенный на себя Фреге, подошел к концу: Фреге подготовил к печати гигантский двухтомный трактат «Grundgesetze der Arithmetik», который должен был установить в математике новый стандарт строгости.

Тогда же английский логик Бертран Рассел, также внесший немалый вклад в осуществление грандиозного проекта Гильберта, сделал ошеломляющее открытие: строго следуя предписаниям Гильберта, он все же наткнулся на противоречие. Позднее Рассел вспоминал свою собственную реакцию на удручающее осознание того, что вся математика может быть внутренне противоречива: «Сначала я было предположил, что легко и просто сумею преодолеть это противоречие, и что в мои рассуждения, возможно, где-то вкралась какая-нибудь тривиальная ошибка. Но постепенно мне становилось ясно, что это не так… Всю вторую половину 1901 года я надеялся, что решение будет несложным, но к концу года понял, что предстоит нелегкая работа… Я взял за обыкновение бродить каждый вечер с одиннадцати до часу ночи и научился различать три различных звука, которые издает козодой. (Большинству людей знаком лишь один звук.) Я сосредоточенно пытался разрешить полученное мной противоречие. Каждое утро я усаживался перед чистым листом бумаги и весь день (за исключением короткого перерыва на ленч) не сводил с листа глаз. Очень часто, когда наступал вечер, лист так и оставался пустым».

Выхода из этого противоречия не было. Работа Рассела нанесла серьезный урон мечтам о математической системе, свободной от сомнений, противоречий и парадоксов. Он написал Фреге, рукопись книги которого уже находилась в печати. Письмо Рассела практически свело на нет работу всей жизни Фреге, но, несмотря на смертельный удар, Фреге опубликовал свой magnum opus, невзирая на сообщение Рассела, и только добавил постскриптум ко второму тому: «Вряд ли что-нибудь может быть более нежелательным для ученого, чем сомнения в своей правоте в тот самый момент, когда он завершает свой труд. Именно в таком положении я оказался, получив письмо от мистера Бертрана Рассела в тот момент, когда моя работа уже должна выйти из печати».

По иронии судьбы, обнаруженное Расселом противоречие выросло из столь любимых Фреге множеств. Через много лет в своей книге «Мое философское развитие» Рассел вспоминал тот яркий ход рассуждений, который оспаривал работу Фреге: «Мне показалось, что множество иногда может, а иногда не может быть членом самого себя. Например, множество чайных ложек само не есть чайная ложечка, а множество вещей, не являющихся чайными ложечками, есть одна из вещей, не являющихся чайной ложечкой». Именно это любопытное и на первый взгляд безобидное замечание Рассела привело к катастрофическому парадоксу.

Парадокс Рассела часто объясняют на примере истории о дотошном библиотекаре. Однажды, проходя между книжных полок, этот библиотекарь набрел на подборку каталогов. Там были отдельные каталоги художественной прозы, библиографических указателей, поэзии и т. д. Библиотекарь отметил, что в одних каталогах имелись ссылки на самих себя, тогда как в других таких ссылок не было.

Чтобы упростить систему регистрации книг, библиотекарь решил составить два новых каталога. В один из них он хотел включить все каталоги, содержащие ссылки на самих себя, а в другой — все каталоги, не содержащие ссылки на самих себя. По завершении работы перед библиотекарем встала проблема: нужно ли включать в каталог всех каталогов, не содержащих ссылку на самих себя, его самого? Если его включить, то нарушится условие составления этого каталога. Однако, по тому же условию, он должен быть включен. Наш библиотекарь оказался в безвыходной ситуации. Каталоги в рассмотренном нами примере очень похожи на множества, или классы, которые Фреге использовал в качестве фундаментального определения числа. Следовательно, противоречивость, поразившая библиотекаря, создает проблемы в самой структуре математики, которая по предположению считается логической. В математике нельзя допустить противоречий и парадоксов. Например, такое мощное оружие, как доказательство от противного, опирается на математику, свободную от противоречий. Доказательство от противного утверждает, что если принятое допущение приводит к противоречию, то оно должно быть ложным, а, по Расселу, даже аксиомы могут приводить к противоречию. Следовательно, доказательство от противного могло бы показать, что аксиома ложна, и тем не менее аксиомы образуют основания математики, и их принято считать истинными.

Многие мыслители скептически отнеслись к работе Рассела, ссылаясь на то, что развитие математики до того происходило вполне успешно и не встречало каких-либо парадоксов. Отвечая на критику, Рассел следующим образом объяснял значение своей работы.

Работа Рассела повергла основания математической логики в состояние хаоса. Логики чувствовали, что парадокс, скрывающийся в недрах математики, рано или поздно высунет свою голову и вызовет большие проблемы. Вместе с Гильбертом и другими логиками Рассел предпринял попытку исправить ситуацию и восстановить пошатнувшееся здоровье математики.

Открывшееся противоречие было прямым следствием работы с аксиомами, которые до того предполагались самоочевидными и достаточными для построения остальной математики. Один из выходов заключался в создании дополнительной аксиомы, которая запрещала бы любому множеству быть членом самого себя. Такая аксиома позволила бы одолеть парадокс Рассела, поскольку устраняла бы вопрос о том, включать или не включать в каталог каталогов, не содержащих ссылки на самих себя, сам каталог каталогов.

Следующее десятилетие Рассел занимался анализом того, что составляет самую суть математики, — ее аксиом. В 1919 году он в соавторстве с Альфредом Нортом Уайтхедом опубликовал первый из трех томов «Principia Mathematica». В этой книге они предприняли успешную попытку решить проблему, вызванную парадоксом Рассела. В течение следующих двадцати лет многие математики использовали «Principia Mathematica» в качестве руководства по возведению безупречного здания математики, и к 1930 году, когда Гильберт вышел в отставку, он мог быть уверен в том, что математика находится на верном пути к выздоровлению. Казалось, мечта Гильберта о непротиворечивой логике, достаточно мощной для того, чтобы ответить на любой вопрос, близится к осуществлению.

Но в 1931 году никому не известный двадцатипятилетний математик опубликовал статью, которая навсегда расстроила надежды Гильберта. Курт Гёдель заставил математиков признать, что математика никогда не станет логически совершенной. Неявно в его работе содержалась и та мысль, что некоторые проблемы математики, например, Великая теорема Ферма, могут оказаться неразрешимыми.

Курт Гёдель родился 28 апреля 1906 года в Моравии, входившей тогда в состав Австро-Венгерской империи, а ныне образующей часть Чехии. В раннем детстве Гёдель перенес несколько заболеваний, самым серьезным из которых был приступ ревматизма в шестилетнем возрасте. Дыхание смерти, которое Гёдель ощутил в столь нежном возрасте, привело к мучительной ипохондрии, которой он страдал всю жизнь. В восьмилетнем возрасте, читая медицинский учебник, Гёдель убедился, что у него слабое сердце, хотя ни один из врачей не находил тревожных симптомов. Позднее, уже в конце жизни, Гёдель ошибочно решил, что его хотят отравить, и, отказавшись от приема пищи, уморил себя голодом.

Еще в детстве Гёдель обнаружил необычайные способности к естественным наукам и математике, и за свою пытливую натуру получил семейное прозвище «господин Почему» (der Herr Warum). Гёдель поступил в Венский университет, так и не сделав выбор между математикой и физикой, но вдохновленный зажигательными и страстными лекциями профессора Ф. Фуртвенглера по теории чисел, решил посвятить себя числам. Лекции были тем более необычными, что Фуртвенглер, парализованный от шеи и ниже, вынужден был читать их, сидя в инвалидной коляске, без конспектов, а его ассистент производил выкладки на доске.

К двадцати с небольшим годам Гёдель стал штатным сотрудником математического факультета, но вместе со своими коллегами нередко участвовал в заседаниях Венского кружка — группы философов, собиравшихся для обсуждения наиболее значительных проблем современной логики. Именно в тот период у Гёделя сложились идеи, подорвавшие самые основания математики.

В 1931 году Гёдель опубликовал свою работу «Über formal unentscheidbare Satze der Principia Mathematica und verwandter Systeme» 5, в которой содержались его так называемые теоремы о неразрешимости. Когда весть о теореме Гёделя достигла Америки, великий математик Джон фон Нейман тотчас же заменил часть своего курса о программе Гильберта обсуждением революционной работы Гёделя.

Гёдель доказал, что попытка создания полной и непротиворечивой математической системы — задача заведомо невыполнимая. Идеи Гёделя можно кратко сформулировать в двух утверждениях. 

 По существу, первая теорема Гёделя утверждает, что какая бы система аксиом ни использовалась, всегда найдутся вопросы, на которые математика не сможет найти ответ, — полнота недостижима. Что еще хуже, вторая теорема Гёделя утверждает, что математики никогда не смогут быть уверены в том, что их выбор аксиом не приведет к противоречию, — непротиворечивость никогда не может быть доказана. Гёдель показал, что программа Гильберта неосуществима.

Через несколько десятилетий в своей книге «Портреты по памяти» Бертран Рассел описывал свое впечатление от открытия Гёделя так: «Я жаждал определенности так же, как другие жаждут обрести религиозную веру. Мне казалось, что найти определенность в математике можно с большей вероятностью, чем где-нибудь еще. Но я обнаружил, что многие математические доказательства, которые, в соответствии с ожиданиями моих учителей, мне надлежало принять за истинные, обременены ошибками и что, если определенность действительно может быть обнаружена в математике, то произойдет это в новой области математики с более надежными основаниями, чем те, которые считались надежными прежде. По мере того, как работа продвигалась, мне постоянно приходила на ум басня о слоне и черепахе. Построив слона, на котором мог покоиться математический мир, я обнаружил, что слон нетвердо стоит на ногах, и приступил к построению черепахи, которая удержала слона от падения. Но черепаха оказалась не более надежной, чем слон, и после двадцати с лишним лет напряженнейшего труда я пришел к заключению, что нет ничего, что я бы не сделал, дабы придать математическому знанию непоколебимость».

Вторая теорема Гёделя утверждает, что невозможно доказать непротиворечивость аксиом, но это не обязательно означает, что аксиомы противоречивы. Многие математики все еще верят в глубине сердца, что их математика останется непротиворечивой, но не могут это доказать. Через много лет выдающийся специалист по теории чисел Андре Вейль заметил: «Бог существует потому, что математика непротиворечива, а дьявол существует потому, что мы не можем доказать это».

В действительности, и формулировка и доказательство теорем неполноты Гёделя крайне сложны. Например, строгая формулировка первой теоремы неполноты имеет следующий вид:

К счастью, подобно тому, как история с библиотекарем помогает понять парадокс Рассела, первую теорему о неполноте Гёделя можно проиллюстрировать на другой логической аналогии, которая принадлежит Эпимениду и известна под названием парадокса критянина, или парадокса лжеца. Эпименид был критянином, который воскликнул:

Парадокс возникает, когда мы попытаемся определить, истинно или ложно утверждение Эпименида. Посмотрим, что произойдет, если предположить, что это утверждение истинно. Из истинного утверждения следует, что Эпименид лжец. Но мы приняли предположение о том, что он высказал истинное утверждение, и, следовательно, Эпименид не лжец. Мы приходим к противоречию.

Теперь предположим, что утверждение Эпименида ложно. Из ложности утверждения следует, что Эпименид не лжец. Но мы приняли предположение, что он высказал ложное утверждение. Следовательно, Эпименид лжец, и мы снова приходим к противоречию. Таким образом, что бы мы не предположили об истинности утверждения Эпименида, мы неизменно приходим к противоречию. Следовательно, утверждение Эпименида не истинно и не ложно.

Гёдель нашел новую интерпретацию парадокса лжеца и ввел понятие доказательства. Результатом его новаций стало следующее утверждение:

Это утверждение не имеет никакого доказательства.

Если бы это утверждение было ложным, то оно было бы доказуемым, но это противоречило бы самому утверждению. Следовательно, во избежание противоречия, утверждение должно быть истинным. Но это утверждение не может быть истинным в силу самого утверждения (о котором мы теперь знаем, что оно должно быть истинным).

Поскольку Гёделю удалось записать это утверждение в математических обозначениях, он смог доказать, что в математике существуют утверждения, которые истинны, но истинность их не может быть доказана, — так называемые неразрешимые утверждения. Для программы Гильберта это было смертельным ударом.

Открытия в области квантовой физики во многом оказались схожи с этой работой Гёделя. За четыре года до того, как Гёдель опубликовал свою работу о неразрешимости, немецкий физик Вернер Гейзенберг открыл принцип неопределенности. Подобно тому, как Гёдель открыл предел, до которого математики могут доказывать свои теоремы, Гейзенберг обнаружил, что существует предел, до которого физики в принципе могут производить измерения свойств. Например, если они хотят измерить точное положение объекта, то скорость того же объекта им удастся измерить лишь со сравнительно большой погрешностью. Связано это с тем, что для измерения положения объекта последний необходимо «обстрелять» фотонами света, но для того, чтобы точно определить положение объекта, фотоны света должны обладать огромной энергией. Но если объект бомбардировать фотонами высокой энергии, то собственная скорость объекта будет испытывать сильнейшие возмущения и станет неопределенной. Следовательно, пытаясь точно определить положение объекта, физики вынуждены поступиться точным знанием его скорости.

Принцип неопределенности Гейзенберга проявляется только на атомных масштабах, когда измерения с высокой точностью приобретают решающее значение. Следовательно, значительная часть физики может продолжать развиваться по-прежнему, в то время как квантовые физики занимаются изучением глубоких вопросов относительно пределов знания. То же самое происходит и в мире математики. В то время как логики ведут доступные пониманию лишь посвященных дискуссии о неразрешимости, остальная часть математического сообщества продолжает свои исследования, не обращая внимание на то, что происходит у логиков. Хотя Гёдель доказал, что существуют некоторые недоказуемые утверждения, в математике существует предостаточно доказуемых утверждений, и его открытие не обесценило доказанных в прошлом теорем. Кроме того, многие математики были убеждены в том, что неразрешимые утверждения Гёделя существуют только в самых «темных» областях математики, находящихся где-то на ее периферии, и что такие неразрешимые утверждения, возможно, никогда не встретятся ни одному математику. Ведь Гёдель утверждал лишь, что такие утверждения существуют, но не привел ни одного из них в качестве примера. Но в 1963 году предсказанный Гёделем теоретический кошмар стал реальностью.

Пауль Коэн, двадцатидевятилетний математик из Стэнфордского университета, разработал метод, позволяющий проверять разрешимость того или иного вопроса. Метод Коэна работает в некоторых весьма специальных случаях, но тем не менее Коэн был первым, кому удалось обнаружить конкретные неразрешимые вопросы. Совершив это открытие, Коэн немедленно вылетел в Принстон. Он хотел, чтобы правильность его работы проверил сам Гёдель. К тому времени Гёдель был тяжело болен (диагноз медиков гласил: паранойя). Он лишь слегка приоткрыл дверь, вырвал из рук Коэна бумаги и захлопнул дверь. Через два дня Коэн получил приглашение в дом Гёделя на чай — знак того, что маэстро скрепил доказательство печатью своего авторитета. Особый драматизм ситуации придало то обстоятельство, что некоторые из неразрешимых вопросов занимают в математике центральное место. По иронии судьбы, Коэн доказал неразрешимость одной из двадцати трех проблем Гильберта — гипотезы континуума.

Работа Гёделя, дополненная неразрешимыми проблемами Коэна, стала тревожным посланием всем математикам, профессионалам и любителям, которые продолжали свои попытки доказать Великую теорему Ферма. А что, если Великая теорема Ферма неразрешима?! А вдруг Пьер де Ферма заблуждался, когда утверждал, что располагает доказательством? Если так, то доказательство Великой теоремы Ферма может оказаться не просто трудным, а невозможным. Если Великая теорема Ферма неразрешима, то математики столетиями пытались найти доказательство, которое не существует.

Интересно заметить, что если бы Великая теорема Ферма оказалась неразрешимой, то отсюда следовало бы, что она истинна. Причина заключается в следующем. Великая теорема Ферма утверждает, что уравнение

xⁿ + yⁿ = zⁿ

при n, бóльших 2, не имеет решений в целых числах. Если бы Великая теорема Ферма оказалась ложной, то доказать ее было бы можно, предъявив решение (контрпример). Это означало бы, что Великая теорема Ферма разрешима. Итак, если бы теорема была ложной, то это противоречило бы ее неразрешимости. Но если бы Великая теорема Ферма была истинной, то столь определенный способ ее доказательства не обязательно существовал бы, т. е. она могла бы быть неразрешимой. Следовательно, может оказаться, что Великая теорема Ферма истинна, но не существует способа доказать ее.