Проблема — это всегда требование что-то найти, указать. Это «что-то» может иметь самую различную природу: это может быть ответ на заданный вопрос, законопроект, доказательство теоремы, число (при решении уравнений), последовательность геометрических построений (при решении геометрических задач на построение). Опыт математики позволяет провести точную грань между проблемами нерешёнными и проблемами нерешимыми. Первые ждут своего решения, вторые же решения не имеют и иметь не могут, у них решения просто-напросто не существует.

К числу первых долгое время относилась проблема Ферма. В математике таких проблем много, но абсолютное большинство из них требует для понимания их формулировок специального образования. Нерешённых проблем с простыми формулировками гораздо меньше. Из них наиболее известны, пожалуй, следующие четыре проблемы теории чисел. Теория чисел (в ортодоксальном понимании этого термина) занимается только положительными целыми числами. Поэтому только такие числа разумеются здесь под словом «число».

Две проблемы о совершенных числах. Число 6 делится на 1, на 2, на 3 и на 6 — эти числа 1, 2, 3, 6 суть делители числа 6. Если из списка делителей числа 6 мы удалим само это число, а остальные сложим, получим 6. Действительно, 1 + 2 + 3 = 6. Тем же свойством обладает число 28. Его делителями служат числа 1, 2, 4, 7, 14, 28. Если их все, кроме 28, сложить, получим как раз 28: действительно, 1 + 2 + 4 + 7 + 14 = 28. В VI веке до н. э. это редкое свойство чисел вызывало мистический восторг у Пифагора и его учеников: по их мнению, оно свидетельствовало об особом совершенстве числа, обладающего таким свойством. А потому каждое число, совпадающее с суммой своих делителей, отличных от самого этого числа, получило титул совершенного. Первые четыре совершенных числа (6, 28, 496 и 8128) были известны уже во II веке н. э. А в сентябре 2006 года было обнаружено сорок четвёртое совершенное число; оно колоссально, в его десятичной записи около двадцати миллионов знаков. Все найденные совершенные числа оказались чётными. И вот две простые по формулировке, но не решённые до сих пор проблемы. Существуют ли нечётные совершенные числа? Конечна или бесконечна совокупность всех совершенных чисел? Эквивалентная формулировка второй проблемы: существует ли наибольшее совершенное число?

Две проблемы о простых числах. Напомним (мы говорим «напомним», потому что теоретически это должно быть известно из средней школы), что простым называется такое число, которое, во-первых, больше единицы, а во-вторых, не имеет других делителей, кроме единицы и самого себя. Ещё в III веке до н. э. в «Началах» Евклида было установлено, что среди простых чисел нет наибольшего, их ряд 2, 3, 5, 7, 11, 13, 17, 19 и т. д. никогда не кончается; иными словами, совокупность простых чисел бесконечна. Предложение 20 девятой книги «Начал» гласит, что простых чисел больше, чем в любом предъявленном списке таковых; доказательство же этого предложения состоит в описании способа, позволяющего для любого списка простых чисел указать простое число, в этом списке не содержащееся. Отметим, что Евклид нигде не говорит о совокупности простых чисел в целом — само представление о бесконечных совокупностях как об особых сущностях появилось значительно позже. Когда-то изучение простых чисел рассматривалось как чистая игра ума; оказалось, что они играют решающую роль во многих практических задачах криптографии.

Среди нерешённых проблем, связанных с простыми числами, приведём две: проблему Гольдбаха — Эйлера и проблему близнецов.

Первая была поставлена в 1742 году великим Леонардом Эйлером в его переписке с Христианом Гольдбахом. Основная деятельность обоих протекала в России; в 1764 году Гольдбах был похоронен в Москве, а Эйлер в 1783 году — в Петербурге.

Кто есть Эйлер, один из самых великих математиков за всю историю человечества, и в чём заключается его величие — всё это легко узнать, если заглянуть, как встарь, в энциклопедический словарь. Сведения же о том, что собой представляет Гольдбах, словари дают скупо; такие сведения следует искать в специальной литературе или же в Интернете; некоторые из фактов заслуживают того, чтобы здесь их изложить. Хотя математические статьи, опубликованные Гольдбахом в научных журналах, и не оставили сколько-нибудь заметного следа в математике, он был признанным членом математического сообщества своего времени. Он был лично знаком или состоял в переписке с рядом выдающихся умов, в том числе с Лейбницем и с Эйлером; переписка с Эйлером продолжалась 35 лет и прекратилась лишь со смертью Гольдбаха. Один из историков науки (кстати, правнук Эйлера и непременный секретарь Петербургской академии наук) писал: «Его [Гольдбаха] переписка показывает, что если он не прославился ни в одной специальности, то это следует приписать большой универсальности его познаний. То мы видим его обсуждающим ‹…› кропотливые вопросы классической и восточной филологии; то он пускается в нескончаемые археологические споры ‹…›». В своих письмах Гольдбах предстаёт как человек, наделённый и интуицией, и способностью чувствовать новое. Проблема Гольдбаха — Эйлера, например, возникла как реакция Эйлера на некое предположение, сообщённое ему Гольдбахом (предположение состояло в том, что всякое целое число, большее, чем 2, разлагается в сумму трёх слагаемых, каждое из коих есть либо простое число, либо единица). В России, куда он приехал в 1725 году в тридцатипятилетнем возрасте, Гольдбах сделал головокружительную карьеру. Он сразу получил место секретаря, а также историографа организуемой во исполнение замысла Петра I Императорской академии наук; именно он вёл (на латинском языке) первые протоколы Академии. С 1737 по 1740 год он был одним из двух лиц, осуществлявших административное управление Академией (другим был Шумахер; обоим по этому случаю был присвоен ранг коллежского советника). В конце 1727 года он был назначен наставником двенадцатилетнего императора Петра II. Рассказывают, что руководство по обучению царских детей, составленное Гольдбахом в 1760 году, применялось на практике в течение ста последующих лет. В 1742 году Гольдбах сделался ответственным работником министерства иностранных дел (как сказали бы теперь), стал получать награды, земли и чины и к 1760 году дослужился до чина тайного советника. Чин этот довольно точно отражал его обязанности, поскольку Гольдбах состоял в должности криптографа. Эйлеру тоже захотелось чина. Однако Екатерина II, благосклонно встретившая пожелания Эйлера относительно жалованья, казённой квартиры и обеспечения его трёх сыновей позициями и доходами, весьма дипломатично отказала: «Я дала бы, когда он хочет, чин, если бы не опасалась, что этот чин сравняет его с множеством людей, которые не стоят г. Эйлера. Поистине его известность лучше чина для оказания ему должного уважения».

Перейдем, однако, к сути названных проблем.

Непосредственное наблюдение подсказывает, что всякое чётное число, большее двух, удаётся представить в виде суммы двух слагаемых, каждое из которых является простым числом: 4 = 2 + 2, 6 = 3 + 3, 8 = 3 + 5, 10 = 5 + 5, 12 = 5 + 7,…, 24 = 5 + 19,…, 38 = 7 + 31 и т. д. Однако проверке может быть подвергнуто лишь ограниченное количество чётных чисел, а всего их бесконечно много. Имеющиеся свидетельства, полученные от просмотра конечного (пусть гигантского) количества примеров, не могут гарантировать, что когда-нибудь в будущем не появится астрономически большого чётного числа, для которого разложение на два простых слагаемых невозможно. А ведь современные компьютеры позволяют строить и использовать для важных практических целей числа с сотнями десятичных знаков. Вот и встаёт вопрос: всякое ли чётное число, большее двух, можно представить как сумму двух простых слагаемых? Проблема отыскания ответа на это вопрос и есть проблема Гольдбаха — Эйлера.

Теперь о проблеме близнецов. Заметим, что встречаются очень близко расположенные друг к другу простые числа, а именно такие, расстояние между которыми равно 2. Пример: 41 и 43. Такие числа называются близнецами. Начнём последовательно выписывать пары близнецов: (3, 5); (5, 7); (11, 13); (17, 19); и. т. д. Спрашивается, закончится ли когда-нибудь этот ряд пар? Наступит ли момент, когда будет выписана последняя пара и список близнецов окажется исчерпанным, или же ряд близнецовых пар продолжается неограниченно и их совокупность бесконечна (как бесконечна совокупность простых чисел)? Проблема отыскания ответа на этот вопрос и есть проблема близнецов.

Осознание того, что есть простые по формулировке вопросы, столетиями ждущие ответа, представляется поучительным. Не менее поучительно осознание того, что есть и проблемы другого типа, не ждущие решения по причине того, что решения не существует в принципе.

Принято считать, что первой по времени проблемой, относительно которой доказано принципиальное отсутствие решения, была приписываемая школе Пифагора проблема нахождения общей меры двух отрезков. Осторожные выражения «принято считать» и «приписываемая» означают, что как о бесспорных датировках, так и о бесспорном авторстве идей, относящихся к столь глубокой древности, говорить затруднительно. Мы всё же будем придерживаться традиционной версии, к тому же она достаточно правдоподобна.

Пифагор и пифагорейцы, с их мистическим отношением к числам, считали натуральные числа мерилом всех вещей, выразителями мирового порядка и основой материального бытия. Их занимала мысль об универсальной единице измерения длин. То есть о таком едином отрезке, который в каждом другом отрезке укладывался бы целое число раз. Прежде всего они пришли к пониманию, что такого единого отрезка не существует. Это сейчас его отсутствие кажется очевидным, тогда же осознание этого факта было подлинным открытием. Но оставался вопрос, существует ли подобный измеряющий отрезок не для всех отрезков сразу, а свой для каждых двух отрезков. Для ясности сформулируем проблему более развёрнуто. Представим себе два каких-то отрезка. Их общей мерой называется такой отрезок, который в каждом из них укладывается целое число раз. Скажем, если второй из наших двух отрезков составляет треть первого, то этот второй отрезок и будет общей мерой: действительно, в первом отрезке он укладывается три раза, а во втором — один. Отрезок, составляющий одну шестую нашего первого отрезка, будет укладываться в нём шесть раз, а во втором два раза, так что он также будет их общей мерой. Легко предъявить пару отрезков, для которых их общая мера будет укладываться в первом отрезке шесть раз, а во втором — пять; другая общая мера тех же отрезков будет укладываться в первом из них восемнадцать, а в другом пятнадцать раз. Теперь спросим себя, для любых ли двух отрезков существует их общая мера. Ответ неочевиден. В школе Пифагора был получен следующий поразительный результат: если взять какой-либо квадрат, а в нём его сторону и его диагональ, то окажется, что эта сторона и эта диагональ не имеют общей меры! Говорят, что диагональ квадрата и его сторона несоизмеримы. А соизмеримыми как раз и называются такие два отрезка, которые имеют общую меру.

Сегодня трудно себе представить силу эмоционального потрясения, испытанного, по дошедшим до нас из глубины веков сведениям, пифагорейцами, когда они обнаружили, что бывают несоизмеримые отрезки. Рассказывают, что они принесли в благодарственную жертву богам около сотни быков (и с тех пор, как выразился кто-то, скоты всегда ревут, когда открывается новая истина). Рассказывают также, что пифагорейцы поклялись никому не сообщать о своём открытии. (Современная аналогия: по распространённому мнению, в наши дни велено скрывать от публики свидетельства о летающих тарелках. Я относил это мнение к числу предрассудков — и был неправ: в марте 2007 года было объявлено, что Франция рассекречивает собиравшиеся десятилетиями данные о неопознанных летающих объектах.) По одной из легенд — возможно, придуманной самими пифагорейцами в острастку другим нарушителям, — нашёлся преступивший клятву, и он был убит.

Оценивая открытие несоизмеримых отрезков с современных позиций, по прошествии двух с половиной тысяч лет, можно усмотреть два имеющих общекультурное значение аспекта этого открытия.

Первый общекультурный аспект открытия несоизмеримости заключается в том, что впервые было доказательно установлено отсутствие чего-то — в данном конкретном случае общей меры стороны и диагонали одного и того же квадрата. Произошёл один из самых принципиальных поворотов в интеллектуальном развитии человечества. В самом деле, доказать, что что-то существует, можно, предъявив это «что-то». Например, если бы гипотеза Ферма оказалась неверна, то для её опровержения достаточно было бы предъявить тройку Ферма. Но как доказать, что чего-то нет? Если искомое «что-то» заведомо содержится в известной и ограниченной совокупности, то, вообще говоря, можно перебрать все элементы этой совокупности и убедиться, что ни один из них нам не подходит. Но что делать, если искать наше «что-то» надлежит в совокупности необозримой? А именно эта ситуация и имеет место при поиске общей меры: ведь искать её приходится в необозримой совокупности всех мыслимых отрезков. Остаётся единственный способ: доказывать отсутствие не путём непосредственного наблюдения, а путём логического рассуждения. Такой способ и был применён пифагорейцами.

Сегодня трудно сказать, как именно рассуждали в школе Пифагора, доказывая несоизмеримость стороны квадрата и его диагонали. От старых времён дошло до нас чисто геометрическое, и притом чрезвычайно изящное, доказательство отсутствия общей меры, но является ли оно тем самым первоначальным доказательством — это неизвестно. Сейчас наиболее популярно сведение вопроса к вопросу из теории чисел. Именно используя прямую и обратную теоремы Пифагора, легко обнаружить, что несоизмеримость стороны и диагонали квадрата равносильна невозможности решить в целых числах уравнение 2x²= y². (Мы говорим здесь лишь о положительных целых числах; разумеется, нулевые значения икса и игрека дают решение.) Боюсь, что в нашей средней школе эту равносильность не разъясняют, а очень надо бы: на этом примере демонстрируется и соотношение между прямой и обратной теоремами, и то, как одна невозможность перетекает в другую. Доказательство же указанной равносильности происходит очень просто и состоит, как и доказательство любой равносильности, из двух частей. В первой части доказывается, что если бы диагональ и сторона квадрата были соизмеримы, то существовали бы такие целые числа x и y, что 2x² = y². Во второй части доказывается обратное утверждение: если бы такие числа существовали, то и диагональ оказалась бы соизмерима со стороной. В первой части используется прямая теорема Пифагора: если диагональ и сторона соизмеримы, то их общая мера укладывается в стороне какое-то число x раз, а в диагонали какое-то число y раз; тогда по теореме Пифагора 2x² = y². Во второй части используется обратная теорема Пифагора: если найдутся такие целые числа x и y, что 2x² = y², то по этой обратной теореме треугольник с длинами сторон x, x и y будет прямоугольным и его можно достроить до квадрата со стороной длины x и диагональю длины y. Таким образом, великое пифагорейское открытие было не только замечательным само по себе, но и проложило дорогу к установлению отсутствия решений у уравнений. Обнаружить, что какое-то уравнение не имеет решения (в целых числах, как в нашем примере, или в действительных числах, как уравнение x² = -1), подчас бывает не менее важно, чем его решить. Заметим ещё, что доказательство отсутствия целочисленных решений у уравнения 2x² = y² настолько просто, что доступно школьнику младших классов; боюсь, что в школах его не излагают.

Разговор о несуществованиях решений мы продолжим в главах 5 и 6, а пока укажем второй общекультурный аспект открытия явления несоизмеримости. Этот второй аспект заключается в том, что открытие несоизмеримости привело, хотя и очень не сразу, к понятию действительного числа, лежащему в основе не только математики, но и всего современного естествознания и современной техники.