Осенью 1984 года избранная группа специалистов по теории чисел собралась на симпозиум в Обервольфахе, небольшом городке в Германии, в Шварцвальде. Участники симпозиума намеревались обсудить успехи в изучении эллиптических кривых. Естественно, что некоторые из докладчиков собирались сделать сообщения о продвижениях, которые им удалось достичь при исследовании гипотезы Таниямы-Шимуры. Один из выступавших, математик из Саарбрюкена Герхард Фрей высказал весьма примечательное утверждение. По его мнению, если бы кому-нибудь удалось доказать гипотезу Таниямы-Шимуры, то тем самым была бы доказана и Великая теорема Ферма.

Когда Фрею предоставили слово для доклада, он начал с того, что выписал уравнение Ферма

xⁿ + yⁿ = zⁿ, где n — натуральное число больше 2.

Великая теорема Ферма утверждает, что это уравнение не имеет решений в целых числах. Фрей исследовал вопрос о том, что бы произошло, если бы Великая теорема Ферма оказалась неверной, т. е. если бы уравнение Ферма допускало бы по крайней мере одно решение в целых числах. Фрей не имел ни малейшего представления о том, каким могло бы быть его гипотетическое (и еретическое) решение, поэтому неизвестные целые числа, якобы удовлетворяющие уравнению Ферма, он обозначил буквами A, B и C. Тем самым он предположил, что для некоторого N выполнено равенство:

A^N + B^N = C^N.

Затем Фрей приступил к «преобразованию» уравнения. Это строгая математическая процедура, изменяющая вид уравнения, оставляя неизменной его сущность. С помощью искусных и сложных маневров Фрею удалось преобразовать исходное уравнение Ферма, обладающее гипотетическим решением, к виду

y² = x³ + (A^N — B^N)·x² — A^NB^N.

Хотя полученное уравнение по своему внешнему виду очень сильно отличается от исходного, тем не менее оно является его прямым следствием с учетом принятой гипотезы. Иначе говоря, если (и, разумеется, это большое «если») уравнение Ферма допускает решение в целых числах, то такое преобразованное уравнение существует. Поначалу преобразование Фрея не произвело особого впечатления на аудиторию, но он обратил внимание присутствующих на то, что это уравнение кубическое, а кривая, ему соответствующая, является эллиптической.

Преобразовав уравнение Ферма в кубическое, Фрей тем самым установил связь между Великой теоремой Ферма и гипотезой Таниямы-Шимуры. Далее Фрей обратил внимание аудитории на то, что его эллиптическая кривая, полученная при помощи решения уравнения Ферма, обладает весьма причудливым характером. Фрей утверждал, что эта эллиптическая кривая настолько необычна, что даже отзвуки самого существования этой кривой имеют разрушительные последствия для гипотезы Таниямы-Шимуры.

Не следует забывать, что эллиптическая кривая Фрея — всего лишь фантом, призрак. Ее существование обусловлено тем, что уравнение Ферма имеет решение. Но если эллиптическая кривая Фрея существует, то она столь причудлива и необычайна, что невозможно установить соответствие между ней и какой угодно модулярной формой. Но гипотеза Таниямы-Шимуры утверждает, что каждая эллиптическая кривая должна быть связана с какой-нибудь модулярной формой. Таким образом, существование эллиптической кривой Фрея отрицает гипотезу Таниямы-Шимуры. Иначе говоря, аргументы Фрея сводились к следующему.

1. В том (и только в том) случае, если Великая теорема Ферма неверна, то эллиптическая кривая Фрея существует.

2. Кривая Фрея настолько причудлива, что не может быть модулярной.

3. Гипотеза Таниямы-Шимуры утверждает, что любая эллиптическая кривая должна быть модулярной.

4. Следовательно, гипотеза Таниямы-Шимуры должна быть неверна!

Но, что еще более важно, рассуждения Фрея можно обратить:

1. Если гипотеза Таниямы-Шимуры окажется верной, то каждая эллиптическая кривая должна быть модулярной.

2. Если любая эллиптическая кривая должна быть модулярной, то эллиптическая кривая Фрея не может существовать.

3. Если эллиптическая кривая Фрея не существует, то не могут существовать решения уравнения Ферма.

4. Следовательно, Великая теорема Ферма верна!

Отсюда Герхард Фрей сделал сенсационный вывод о том, что если бы математикам удалось доказать гипотезу Таниямы-Шимуры, то они автоматически доказали бы Великую теорему Ферма. Впервые за сотни лет появилась надежда, что труднейшую математическую проблему все же удастся разрешить. По Фрею, на пути к доказательству Великой теоремы Ферма стоит единственное препятствие: отсутствие доказательства гипотезы Таниямы-Шимуры.

На аудиторию блестящая идея Фрея произвела неизгладимое впечатление, но присутствовавших поразил элементарный пробел в его логике. Почти все, кто был в аудитории, кроме самого Фрея, заметили этот пробел. Ошибка не казалась серьезной, тем не менее пока она не была исправлена, работу Фрея нельзя было считать законченной. Тому, кто сумел бы первым исправить эту ошибку, принадлежала бы честь установления связи между Великой теоремой Ферма и гипотезой Таниямы-Шимуры.

Слушатели Фрея вышли из аудитории и устремились в комнату фотокопирования. Очень часто о важности доклада можно судить по длине очереди ожидающих у этой комнаты оттисков с текстом доклада. Получив полный текст доклада Фрея, слушатели разъехались по своим институтам и начали пытаться восполнить пробел в его рассуждениях.

Аргументы Фрея опирались на то, что его эллиптическая кривая, выведенная из уравнения Ферма, весьма причудлива — и поэтому не модулярна. Работа Фрея была неполна потому, что Фрей не доказал, что его эллиптическая кривая достаточно причудлива. Только когда кому-нибудь удастся доказать, что абсолютная причудливость эллиптической кривой Фрея доказывает гипотезу Таниямы-Шимуры, из этого будет следовать доказательство Великой теоремы Ферма.

Первоначально математики считали, что доказательство причудливости эллиптической кривой Фрея не требует никаких новых идей. Казалось, что допущенная Фреем ошибка элементарна, и все, кто присутствовал на симпозиуме в Обервольфахе, полагали, что начнется гонка — кто быстрее проделает необходимые выкладки. Все ожидали, что через несколько дней кто-нибудь пришлет по электронной почте сообщение о том, как именно доказать причудливость эллиптической кривой.

Прошла неделя. Никакого сообщения по электронной почте не последовало. Прошло несколько месяцев. То, что должно было стать массовым математическим забегом на спринтерскую дистанцию стало медленно, но верно превращаться в марафон. Казалось, Ферма продолжает по-прежнему дразнить и мучить своих потомков. Фрей нарисовал увлекательную, но обманчивую стратегию доказательства Великой теоремы Ферма, но даже первый шаг — доказательство немодулярности эллиптической кривой Фрея — озадачил математиков всего земного шара.

Чтобы доказать, что эллиптическая кривая не модулярна, математики занялись поиском инвариантов, аналогичных тем, которые были описаны в гл. 4. Инвариант узла показывает, что один инвариант не может быть трансформирован в другой, инвариант придуманной модели Лойдом головоломки «15–14» показывает, что исходное расположение шашек в этой головоломке невозможно превратить в расположение шашек строго по порядку номеров. Если бы специалистам по теории чисел удалось найти подходящий инвариант для описания эллиптической кривой Фрея, то они смогли бы доказать, что этой кривой, что бы с ней ни делали, невозможно сопоставить модулярную форму.

Одним из тех, кто тщетно пытался доказать существование связи между гипотезой Таниямы-Шимуры и Великой теоремы Ферма, был профессор Калифорнийского университета в Беркли Кен Рибет. С тех пор, как он побывал на докладе Фрея в Обервольфахе, его не покидала надежда доказать, что эллиптическая кривая Фрея слишком причудлива для того, чтобы быть модулярной. После восемнадцати месяцев усилий Рибет, как и все остальные, не продвинулся ни на шаг. Летом 1986 года коллега Рибета, профессор Барри Мазур, приехал в Беркли для участия в Международном конгрессе математиков. Друзья встретились за чашечкой кофе в кафе «Стрáда» и принялись жаловаться друг другу на неудачи и брюзжать по поводу состояния дел в математике.

Когда же они, в конце концов, добрались до обсуждения последних новостей о различных попытках доказать причудливость эллиптической кривой Фрея, Рибет начал объяснять тот ход доказательства, которой он наметил. Этот подход позволял питать смутные надежды на успех, но Рибету удалось осуществить лишь малую часть из задуманного. «Я сидел с Барри и рассказывал о том, чем занимался все это время. Я упомянул, что мне удалось найти доказательство лишь для весьма частного случая, но что делать дальше, как обобщить его, превратив в полнокровное доказательство, я не знаю».

Профессор Мазур прихлебывал кофе и внимательно слушал Рибета. Вдруг он замер и с недоверием посмотрел на Кена. «Неужели Вы не видите? Вы уже доказали все, что требуется. Осталось лишь добавить гамма-нуль M-структуры, провести все доказательство с самого начала, и Вы получите все необходимое».

Рибет посмотрел на Мазура, потом заглянул в чашечку с кофе и снова посмотрел на Мазура. В жизни Рибета как математика это был самый важный момент, и он охотно вспоминает его в мельчайших подробностях. «Я ответил Мазуру, что он абсолютно прав. Как же я сам этого не заметил? Я был сильно удивлен потому, что мне и в голову не приходило добавить лишний гамма-нуль M-структуры. Ведь это так просто!»

Следует заметить, что добавление гамма-нуля M-структуры, звучавшее так просто для Кена Рибета, представляет довольно «хитроумную» часть доказательства.

Отныне Великая теорема Ферма была нерасторжимо связана с гипотезой Таниямы-Шимуры. Если бы кому-нибудь удалось доказать, что любая эллиптическая кривая модулярна, то из этого следовало бы, что уравнение Ферма не имеет решений в целых числах, и Великая теорема Ферма была бы тотчас же доказана.

На протяжении трех с половиной столетий Великая теорема Ферма была изолированной проблемой, занимательной и неразрешимой головоломкой на краю математики. Теперь Кен Рибет, вдохновленный Герхардом Фреем, передвинул проблему Ферма в центр событий. Самая занимательная проблема, остававшаяся нерешенной с XVII века, оказалась неразрывно связанной с самой значительной проблемой XX века. Головоломка огромного исторического и эмоционального значения оказалась связанной с гипотезой, способной революционизировать современную математику. Действительно, теперь математики могли подходить к доказательству Великой теоремы Ферма, придерживаясь стратегии доказательства от противного. Чтобы доказать, что Великая теорема Ферма верна, математики исходили из предположения, что она неверна. Из этого бы следовало, что гипотеза Таниямы-Шимуры неверна. Но если бы можно было доказать, что гипотеза Таниямы-Шимуры верна, то из этого следовало бы, что и Великая теорема Ферма должна быть верна.

Но в течение тридцати лет доказать гипотезу Таниямы-Шимуры не удавалось, и надежд на успех оставалось все меньше. Пессимистом был даже Кен Рибет: «Я был одним из очень многих, кто считал гипотезу Таниямы-Шимуры совершенно не доказуемой. Я и не пытался доказывать ее. Об этом нечего было и думать. Эндрю Уайлс был, по-видимому, одним из немногих людей на Земле, кто осмелился попытаться доказать эту гипотезу».