Три неизбежные задачи

Владикавказский математический журнал Январь-март, 2006, Том 8, Выпуск 1

УДК 517.98

ТРИ НЕИЗБЕЖНЫЕ ЗАДАЧИ1 С. С. Кутателадзе

Краткое обсуждение изопериметрических задач с ограничениями включения, Парето-оптималь-ности в теории наилучшего приближения и проблемы описания нестандартных топосов.

Введение

Десять лет назад в этой же 417 аудитории Института математики, основанного Сергеем Львовичем Соболевым и носящего сейчас его имя, мне довелось сделать доклад о трех задачах из анализа и геометрии. Примерно о том же круге идей пойдет речь и сейчас.

Задачи, которые я намерен обсудить, таковы:

1. Внутренняя изопериметрическая .задача, состоящая в поиске фигуры наибольшего объема среди тел, имеющих фиксированную площадь поверхности и ограниченных наперед заданным множеством.

2. Задача наилучшего приближения в смысле Парето, например, поиск эффективной кривой, соединяющей полиномы Чебышева первого и второго рода.

3. «Нестандартное» расширение теории категорий, в частности, теоретико-топосное определение робинсоновской стандартизации.

Цель сообщения — указать неизбежность этих задач. Степень проработанности обсуждаемых тем и проблем весьма различна. Первая задача стала предметом моих исследований в 1968 г. и к ней я время от времени возвращаюсь. Вторая возникла в середине семидесятых годов, но никогда публично мною не формулировалась и серьезные результаты в этом направлении практически отсутствуют. Третья задача совсем свежая — она была сформулирована в беседе с А. Г. Кусраевым третьего дня — 2 октября 2005 г.

Прежде чем перейти к более детальному обсуждению указанной проблематики, хочу поделиться с аудиторией мыслями о природе выбора направления исследования, которые приняли для меня отчетливую форму в процессе подготовки к этому сообщению.

Человеку дается совсем немного юбилейных докладов. Событие сегодняшнее редкое и предполагает особую снисходительность аудитории.

Снисходительность — мать посредственности. Свежий продукт, произведенный посредственностью, называется банальностью. Со временем в банальности превращаются самые гениальные достижения, совершенные теории и принципиальные задачи. Ясно, что при жизни каждому ученому от производства банальностей следует по возможности воздерживаться.

Основополагающий принцип науки — свобода выбора. Поэтому важно разобраться в том, какие задачи и теории мы выбираем, чтобы избежать банальности.

© 2006 Кутателадзе С. С.

Выступление на семинаре академика Ю. Г. Решетняка 5 октября 2005 г.

В науке мы ценим то, что делает нас умнее. Понятийный аппарат хорошей теории расширяет наши возможности при решении конкретных задач. Ценна та задача, чье решение открывает путь к новым плодотворным понятиям и методам. Важнейшим признаком хорошей задачи или теории является ее неизбежность.

Науку двигают вперед неизбежные теории и неизбежные задачи. Решение неизбежной задачи — оселок для хорошей теории. Хорошие задачи помогают развивать хорошие теории. Как правило, решение неизбежных задач требует нового понятийного аппарата, переосмысления теоретического инструментария.

Не следует сужать и утилизировать понятие задачи. Наука стремится сделать сложное простым. Стало быть, всегда актуальны пересмотр и инвентаризация имеющихся теорий, их упрощение, обобщение и унификация. Успех новой теории — это признак ее неизбежности. Мне кажется, что свобода в науке — это осознание неизбежности, вакцина от банальности.

1. Внутренняя изопериметрическая задача

Как известно, классическая двойственность Минковского состоит в отождествлении выпуклого компактного подмножества р пространства Км и его опорной функции р(г) : = 8ир{(х, г) : х £ р} для г £ Мм. Рассматривая элементы Км как одноточечные фигуры, считают, что Км включено в совокупность всех выпуклых компактов Ум пространства И м. Двойственность Минковского индуцирует в Ум структуру конуса в пространства С(Бм-1) непрерывных функций на единичной евклидовой сфере £N-1 — границе шара ^м. Эту параметризацию называют структурой Минковского. Сложению опорных функций при этом соответствует переход к их алгебраической сумме, называемой суммой Минковского. Полезно отметить, что линейная оболочка [Ум] конуса Ум плотна в С(йм-1). Все эти обстоятельства были отмечены в классических работах А. Д. Александрова [1] по теории смешанных объемов, который широко использовал в своих геометрических сочинениях идеи и аппарат функционального анализа. Впоследствии погружением классов выпуклых фигур в функциональные пространства занимались многие авторы, в частности, Л. Хермандер и А. Г. Пинскер.

Класс эквивалентных с точностью до переноса выпуклых поверхностей {г + р : г £ Км} отождествляют с соответствующей мерой на сфере — с поверхностной функцией этого класса ц.(р). Корректность этой параметризации определена классической теоремой Александрова о возможности восстановления выпуклой поверхности по заданной поверхностной функции. Поверхностная функция представляет собой александровскую меру. Так называют положительную меру на сфере, не сосредоточенную ни в одном сечении сферы гиперподпространством и аннулирующую точки. Александровская мера является инвариантным относительно сдвигов функционалом на конусе Ум. В контексте теории выпуклых тел последнее свойство меры называют инвариантностью относительно сдвигов. Конус положительных инвариантных относительно сдвигов мер в сопряженном пространстве С'(Бм-1) обозначают через Ам. Уточним некоторые из используемых понятий.

Пусть Ум — множество выпуклых компактов в Км. Для р, у £ Ум символическая запись р = кN у означает совпадение р и у с точностью до параллельного переноса. Можно сказать, что = кN — отношение эквивалентности, связанное с предпорядком ^ ^ в Ум, выражающим вместимость одной фигуры в другую при помощи параллельного переноса. Рассмотрим фактор-множество Ум/Км, составленное из классов транслятов элементов Ум. Ясно, что Ум/Мм — конус в фактор-пространстве [Ум]/Нм векторного пространства [Ум] по подпространству Им.

Между Ун/Нн и Ан существует естественная биекция. Класс точек отождествляется с нулевой мерой. Классу, содержащему отрезок с концами х и у, сопоставляется мера

Iх у| (^(ж — у)/1х — у1 + ^(у—ж)/|ж—у|);

где |  | — евклидова длина, и для г £ Бн—1 символ обозначает меру Дирака, сосредоточенную в точке г. Если размерность аффинной оболочки Лй^(р) представителя р класса поверхностей из Ун/Нн больше единицы, то считаем, что Лff(р) — подпространство Ин и класс отождествляем с поверхностной функцией р в Лff(р), являющейся в данном случае некоторой мерой на Бн—1 П Лff(р). Продолжая эту меру тривиальным способом до меры на Бн—1, получаем элемент из Ан, отвечающий классу, порожденному р. Биек-тивность этого соответствия легко вытекает из теоремы Александрова. В деталях такую конструкцию описал В. Файри [2].

Структура векторного пространства в множестве регулярных борелевских мер индуцирует в Ан и, следовательно, в Ун/Нн структуру конуса, точнее, структуру И+-операторной коммутативной полугруппы с сокращением. Эту структуру в Ун/Нн и называют структурой Бляшке. Подчеркнем, что сумма поверхностных функций р и у порождает единственный класс р#у, называемый суммой Бляшке р и у.

Пусть С(Бн—1 )/Нн — фактор-пространство пространства С(Бн—1) по подпространству следов линейных функций на Бн—1. Обозначим через [Ан] пространство Ан — Ан инвариантных относительно сдвигов мер. Легко видеть, что [Ан] представляет собой также и линейную оболочку множества александровских мер. Пространства С (Бн—1)/Ин и [Ан] приведены в двойственность канонической билинейной формой

О» = N / /^ (/ £ С (Бн—1)/Кн £ [Ан]).

Ян-1

Для р £ Ун/Кн и у £ Ан величина (у,р) совпадает со смешанным объемом У1(р, у). В частности, если зн — единичный евклидов шар в Жн, то У1 (зн, р) — площадь поверхности р. При этом У1 (р, у) — объем р. Пространство [Ан] принято рассматривать со слабой топологией, порожденной указанной двойственностью с С (Бн—1)/Нн.

Значение приведенных конструкций выходит за пределы нового определения суммы выпуклых поверхностей. Наличие двойственной пары нерефлексивных банаховых пространств сочетается с теоремой Александрова, устанавливающей необычный содержательный изоморфизм между упорядочивающими конусами в этих пространствах. Названные обстоятельства для функционального анализа совершенно исключительны и открывают дополнительные возможности для применения абстрактных методов. Рассматривая выпуклые поверхности с данным носителем поверхностных функций, мы видим, что это конус в структуре Бляшке. Для точечного носителя речь идет о классе многогранников с заданными направлениями внешних нормалей к граням. В геометрии хорошо известна изопериметрическая задача в этом классе, приводящая к экстремальному свойству многогранника, описанного вокруг шара.

Одной из наиболее трудных и до сих пор нерешенных задач теории выпуклых поверхностей является внутренняя изопериметрическая задача, состоящая в поиске выпуклой фигуры, лежащей в данной области и имеющей максимальный объем при заданной площади поверхности. С функционально-аналитической точки зрения сложность этой задачи в том, что совокупность выпуклых поверхностей, лежащих в данном выпуклом множестве, выпукла относительно сложения Минковского, в то время как площадь поверхности линейна относительно сложения Бляшке.

В случае плоскости ситуация упрощается, так как суммы Минковского и Бляшке фактически совпадают (в классе транслятов). К плоскому случаю можно свести и ситуацию, в которой ограничивающая фигура — тело вращения.

Допустимое тело р является решением плоской внутренней изопериметрической задачи в том и только в том случае, если найдутся фигура р £ У2 и число а £ Ж + такие, что

(1) р = ц2р + а^;

(2) р(г) = ро(г) для всех г из вр^р).

Через вр^р) обозначен носитель фигуры р, т. е. носитель меры ^(р) — поверхностной функции р.

О результатах такого сорта см. [3, 4]. Наиболее наглядное и значительное продвижение здесь было достигнуто при изучении обобщений задачи П. С. Урысона, состоящей в максимизации объема поверхности при заданном интеграле ее ширины. По классическому результату, опубликованному П. С. Урысоном в год своей кончины [5], ответом будет шар, что следует из подходящих соображений симметрии. В 1970-е годы в качестве модели общих функционально-аналитических методов геометрии мною была поставлена и решена внутренняя .задача Урысона: при заданном интеграле ширины найти выпуклую фигуру наибольшего объема, лежащую внутри наперед заданной (например, симплекса в Жм). Принципиально новая сложность здесь в том, что никакие соображения симметрии в этой и аналогичных задачах не проходят. Подобные задачи следует решать в некотором обобщенном смысле — «по модулю» теоремы А. Д. Александрова о восстановлении поверхности по кривизне. Для задачи Урысона в многограннике ответом будет мера Лебега с добавлением точечных нагрузок в нормалях к граням исходного многогранника, т. е. соответствующая сумма Бляшке. Внутренняя изопериметрическая задача даже в тетраэдре в общие схемы не вполне укладывается.

В 1994 г. А. В. Погорелов [6] нашел форму мыльного пузыря в трехмерном симплексе. Решением оказалась обкатка шаром взвешенной суммы Бляшке единичного шара и симплекса, т. е. сумма Минковского шара и решения внутренней задачи Урысона в этом симплексе. Других значимых продвижений во внутренней изопериметрической задаче нет.

Неизбежность внутренней изопериметрической задачи и ее аналогов представляется очевидной — у нас нет ни методов, ни терминов, достаточно удобных для описания решений. Требуется новый уровень понимания этого круга вопросов.

2. Задача наилучшего приближения в смысле Парето

Изопериметрические задачи пришли к нам из тех древних времен, когда геометрия была или считалась экспериментальной наукой. Мир, данный нам, обладает несомненным свойством единственности. Уникальность мира воспринималась нашими предками как причина единственности его реальной геометрии. Именно это воззрение не в малой мере оправдывало многовековые попытки доказательства пятого постулата Евклида.

Не следует думать, что нынешняя математика полностью освободилась от экспери-ментальности. Дело не ограничивается тем, что многие доказательства мы до сих пор заканчиваем ссылкой на очевидность. Модную тему метафоры в математике [7, 8] здесь можно было бы при желании продолжить и развивать с достаточно полной убедительностью.

Живы и весьма популярны воззрения, отводящие математике роль аппаратной базы, инструментария естествознания. Подобные взгляды можно условно выразить девизом:

«математика — это экспериментальная теоретическая физика». Не менее популярно и двойственное суждение: «теоретическая физика — это экспериментальная математика». Обсуждение возникающей дилеммы — увлекательное и благодатное занятие. Углубляться в эту тему сейчас нам не стоит. Я коснулся ее лишь для того, что подчеркнуть связь математических идей и воззрений с естествознанием.

Стоит подчеркнуть, что догматы религии и положения теологии также не в малой мере отражены в истории математических теорий. Вариационное исчисление, возникшее во многом в связи с осмыслением принципов механики, в своей идейной основе имело религиозное представление об универсальной красоте и гармонии акта творения. Единственный бог и единственный мир появились в тезаурусе человечества задолго до теорем существования и единственности вариационного исчисления.

Двадцатый век отмечен важным поворотом в содержании математики. Математические идеи широко проникли в гуманитарную сферу и прежде всего в экономику. Взаимопроникновение математики и экономики как императив двадцатого века — таков главный посыл творческого наследия Л. В. Канторовича [9]. Социальные явления принципиально вариативны, многозначны и обладают высокой степенью неопределенности. Экономические процессы связаны с широким спектром допустимых возможностей организации производства и вариантов распределения. Природа неоднозначности очевидна — реальные интересы людей не могут не конфликтовать друг с другом. Единственность решения — оксюморон в мало-мальски содержательной экономической проблеме, связанной с распределением благ между несколькими участниками. Неслучайно социальные науки и учения богаты разнообразными гипотезами об эффективной экономике, справедливой организации общества, принципах рационального поведения, установок нравственности и т. п.

Один из простейших принципов согласования конфликтующих интересов принадлежит В. Парето. Распределение благ между группой лиц считается эффективным в смысле Парето, если ни один из участников не может улучшить свое благосостояние, не ухудшив положение хотя бы одного из других членов группы. Понятно, что с математической точки зрения речь идет о выборе максимального элемента относительно покоординатного частичного порядка в множестве всевозможных распределений благ.

Обсудим вкратце современные понятия оптимальности в задачах оптимизации более формально. Пусть X — векторное пространство, Е — упорядоченное векторное пространство, / : X ^ Е — выпуклый оператор и С С X — выпуклое множество. Векторной выпуклой программой мы будем называть пару (С, /), записывая ее символически в виде

х £ С, /(х) ^ т£.

Векторную программу принято называть также многоцелевой или многокритериальной экстремальной задачей. Оператор / называют целью программы, а множество С — ограничением. Точки х £ С именуют допустимыми элементами, реже допустимыми планами. Указанная выше запись векторной программы отражает то обстоятельство, что рассматривается экстремальная задача: найти точную нижнюю границу оператора / на множестве С. В случае, когда С = X, говорят о безусловной задаче или задаче без ограничений.

Ограничения в экстремальной задаче задают по-разному, обычно в виде уравнений и неравенств. Пусть д : X ^ ¥ — выпуклый оператор, Л — линейный оператор, элемент пространства ¿(X, У), и у £ У, где У — векторное пространство, а ¥ — упорядоченное

векторное пространство. Если ограничения Ci и C2 имеют вид

Ci := {х G C : g(x) < 0}, C2 := {х G X : g(x) ^ 0, Лх = y},

то вместо (Ci, f) и (C2,/) пишут соответственно (C, g, /) и (Л, g, /) или же более выразительно

х G C, g(x) ^ 0, /(х) ^ inf;

Лх = y, g(x) ^ 0, /(х) ^ inf.

Элемент e := infx6c /(х) (если он существует) называют значением программы (C, /). Допустимый элемент хо называют идеальным оптимумом или решением, если e = / (хо). Таким образом, хо — идеальный оптимум в том и только в том случае, если /(хо) — наименьший элемент образа /(C), т. е. /(C) С /(хо) + E + .

Может показаться, что идеальный оптимум наблюдается только у числовых задач. В самом деле, маловероятно, что несколько числовых функций достигают минимума в одной и той же точке. Нетрудно придумать абстрактный формализм, в котором различные точки минимума разных функций воспринимаются как единый элемент. Такую абстракцию следует считать generalization by dilution, т. е. обобщением расжижением (как указывает Г. Вейль [10], этот термин принадлежит Г. Полиа). С содержательной точки зрения, идеал обычно недостижим и как приближение к нему нужно рассматривать один из минимальных или максимальных допустимых элементов.

Сформулируем соответствующую концепцию оптимальности точнее. Удобно допустить, что E — предупорядоченное векторное пространство, т. е. конус положительных элементов E + не обязательно острый. Тем самым подпространство Ео := E+ П (—E+), вообще говоря, не сводится к одному нулевому элементу. Взяв u G E, положим

[u] := {v G E : u ^ v, v ^ u}.

Запись u ~ v означает, что [u] = [v].

Допустимую точку хо называют £-Парето-оптимальной в программе (C, /), если /(хо) — минимальный элемент множества /(C) + £, т. е. если (/(хо) — E+) П (/(C) + £) = [/(хо)]. Более подробно, £-Парето-оптимальность точки хо означает, что хо G C и для любой точки х G C неравенство /(хо) ^ /(х) + £ влечет /(хо) ~ /(х) + £. Если £ = 0, то говорят просто о Парето-оптимальности или об оптимальности по Парето. При изучении Парето-оптимальности часто используют метод скаляризации, т. е. сведение рассматриваемой программы к скалярной — одноцелевой — экстремальной задаче. Ска-ляризацию можно проводить по-разному. Рассмотрим один из возможных вариантов. Предположим, что предпорядок ^ в E задается формулой:

u ^ v ^ (V1 G dq) 1u ^ 1v,

где q : E ^ И — сублинейный функционал, a dg — его субдифференциал. Это равносильно тому, что конус E + имеет вид E + := {u G E : (V1 G dq) 1u ^ 0}.

Допустимая точка хо будет £-Парето-оптимальной в программе (C, /) в том и только в том случае, если для каждого х G C либо /(хо) ~ /(х) + £, либо существует функционал 1 G dq, для которого 1/(хо) > ¿(/(х) + £). В частности, для £-Парето-оптимальной точки хо G C выполняется

inf q(/(х) — /(хо)+ £) ^ 0. xeo

Обратное утверждение неверно, так как последнее неравенство равносильно более слабому понятию оптимальности.

Говорят, что точка хо £ С слабо £-Парето-оптимальна, если для каждого х £ С найдется такой функционал I £ дд, что 1(/(х) — /(хо) + £) ^ 0, т. е. если ни для какого х £ С несовместна система строгих неравенств I/(хо) < ¿(/(х) + £) (I £ дд). Как видно, слабая £-Парето-оптимальность равносильна тому, что д(/(х) — /(хо) + £) ^ 0 для всех х £ С, и это понятие нетривиально лишь в случае 0 / дд. Можно развивать эту концепцию в духе инфинитезимального анализа, рассматривая бесконечно малые параметры £ (детали и подробности собраны в [11]).

Субдифференциальное исчисление показывает, что в простейшем случае оптимизационной задачи с конечным числом скалярных критериев Парето-оптимальные точки представляют собой решения задачи параметрического программирования. Таким образом, в случае двух критериев оптимальные точки заполняют некоторую однопараметри-ческую область.

В современной математике до сих пор не принято рассматривать экстремальные задачи с общими векторными критериями. Между тем совсем не ясно, почему приближение к данной функции надо искать пользуясь какой-то одной заранее определенной нормой, а не несколькими различными нормами одновременно. Вспомним классические красивейшие формулы для полиномов Чебышева первого и второго родов, представляющих собой решения задачи о наименьшем уклонении от нуля в равномерной и интегральной нормах

Тп(х) = еоз(— агееоз(х)); ип(х) = —+у Т^+1(х).

Почти очевидно, что существует соединяющая эти полиномы однопараметрическая кривая, дающая Парето-оптимальные приближения (и проходящая, скажем, через полиномы Лежандра). Какова она?

Мне представляется совершенно неизбежным математический поиск новых методов и формул вариационного исчисления в духе идей Парето и других возникших в социальных науках представлений об эффективности и оптимальности в условиях конфликта целей и неоднозначности.

3. «Нестандартное» расширение теории категорий

Недавняя кончина донкихота математики прошлого века С. Маклейна [12] дает повод для размышлений о значении исследований в области оснований математики.

Развитие математики в двадцатом столетии во многом проходило под флагом знаменитого доклада Д. Гильберта «Математические проблемы». Первой в этом докладе стояла проблема континуума, относящаяся к самым основаниям математики просто по своему содержанию. М. Громов как-то отметил [13]: «К сожалению, никогда не знаешь, какая задача хорошая, а какая нет, пока не решишь ее». Теперь мы знаем, сколь хороша была первая проблема Гильберта: выбор мощности континуума оказался делом свободной аксиомы, как объяснили нам К. Гедель и П. Коэн.

Для того чтобы оценить парадоксальность этого обстоятельства, достаточно процитировать слова Н. Н. Лузина на Всероссийском съезде математиков в 1927 г. [14]:

«Первое, что приходит на ум, это то, что установление мощности continuum'a есть дело свободной аксиомы, вроде аксиомы о параллелях для геометрии. Но в то же время как при инвариантности всех прочих аксиом геометрии Евклида и при варьировании аксиомы о параллельных меняется самый смысл произнесенных или написанных слов: „точка", „прямая", etc. — смысл каких слов должен меняться, если мы делаем мощность continuum 'а

подвижной на алефической шкале, все время доказывая непротиворечивость этого движения? Мощность continuum'а, если только мыслить его как множество точек, есть единая некая реальность и она должна находиться на алефической шкале там, где она на ней есть; нужды нет, если определение этого места затруднительно или, как прибавил бы J. Hadamard, „даже невозможно для нас, людей"».

Великий русский провидец не смог принять даже принципиальную возможность независимости континуум-гипотезы. Из истории пятого постулата вывод о должной осмотрительности сделан им не был. К сожалению, удивительное сочетание дальновидности и слепоты основателя Лузитании не стало основанием для критического пересмотра широко распространенных в математической среде покровительственных воззрений на основания математики.

Покровительство — самое мягкое слово, которое я подобрал. Более уместны здесь термины злой полемики вроде «утилитарный шовинизм» и «снобистский догматизм». Мне кажется, что «меритократизм» в смысле А. Гротендика во многом охватывает оба названных феномена.

Паническая боязнь нового часто проявляется в математике постановкой вопросов утилитарности в стиле «Какую пользу от исследований в области теории моделей я получу при вычислении такой-то величины или доказательстве такой-то теоремы существования?». Аналогичной глубины суждения сопутствуют теории категорий и нестандартному анализу. Вот типичный вопрос: «Я, имярек такой-то, не могу доказать некоторую теорему в теории динамических систем, а Вы можете доказать ее с помощью методов нестандартного анализа? А без помощи этих методов?». Надо ли говорить, что подобные комичные суждения высказывают даже высококвалифицированные люди, хорошо знакомые с понятием консервативного расширения. Очень ярко эту сомнительную точку зрения выразил один из самых моих любимых математических авторов П. Халмош в своей «автоматографии» [15] в главе с характерным названием «Is formal logic mathematics?».

Исследования в области оснований математики и математической логики преследуют важнейшие общенаучные цели. Именно они цементируют различные разделы математики в единую дисциплину. Такие исследования расширяют горизонты математики и раскрепощают математическое мышление, делая саму технологию математического знания объектом математического исследования.

Теория категорий возникла, в частности, как реакция на догматические попытки объявить теорию множеств единственно возможным основанием математики. Свобода является сущностью математики. Свободомыслие — враг догматизма.

В рамках теории категорий реализован один из наиболее амбициозных и героических математических проектов двадцатого века — была осуществлена социализация теоретико-множественной математики. Родилась теория топосов, изучающая широкий класс категорий, в рамках которого обычная теория множеств может восприниматься как рядовой индивидуум.

Ф. У. Ловер, воспринявший идею топоса, принадлежащую А. Гротендику, и доведший ее до современного состояния, рассматривает объекты топоса как своего рода переменные множества, подчеркивая, что классическая теория множеств изучает множества стационарные. Он пишет в [16]: «Всякое представление о постоянстве относительно, будучи выведенным, перцептуально или концептуально, в качестве предельного случая некоторой вариации и бесспорная ценность таких понятий ограничена этим их происхождением. Это относится, в частности, к понятию постоянного множества и объясняет

почему столь многое из наивной теории множеств переносится в том или ином виде в теорию переменных множеств».

Интересно подчеркнуть, что дополнительным стимулом к развитию категорного обоснования математики в начале 1960-х годов стали булевозначные модели теории множеств. Возникшие при переосмыслении результатов П. Коэна о независимости континуум-гипотезы, булевозначные модели теории множеств предъявили принципиально новые нестандартные модели для поля вещественных чисел, развеяв миф об единственности этого поля. Оказалось, что такие непохожие на числовые области объекты, как лебеговы пространства измеримых функций суть ничто иное как плотные подполя поля вещественных чисел [17]. В свою очередь, гейтинговозначные топосы показали, что интуиционистская логика скрыта в объектах, до сих пор воспринимавшихся только в традиционных математических рамках.

Не меньшее число степеней свободы принесли в математику современные аксиоматические воззрения на древние методы инфинитезимального анализа [18, 19]. Как оконфузилось математическое сообщество со своими инквизиторскими запретами на актуальные бесконечно малые и бесконечно большие величины. Осмотрительность и здравый смысл требовали скромной констатации того бесспорного факта, что состояние оснований математики и требования строгости на рубеже девятнадцатого и двадцатого веков не позволяют полностью понять методы неделимых и потому эти методы не должны использоваться как обоснованные в рамках текущей математической парадигмы. Однако с упорством, достойным лучшего применения, многовековые традиции и методы предков высмеивались и отметались на том зыбком основании, что нынешнее поколение математиков не может согласовать их со своими теперешними требованиями строгости. Кратковременное незнание было провозглашено единственно верным знанием. Великие мастера прошлого и создатели дифференциального и интегрального исчисления повсеместно и громогласно уличались в неумении пользоваться своими находками. Гениальные Эйлер и Коши обвинялись практически со всех кафедр анализа в тривиальных просмотрах, которые никогда не сделает средний студент второго курса. К счастью, разгул пошлости и самомнения, не украшающий математическое сообщество, быстро пошел на убыль после пионерских работ А. Робинсона. Однако выводы все же еще не сделаны полностью и скромность не стала главной доблестью нашего мира...

После этих грустных рассуждений о слабостях нашего сообщества, уместно перейти к его великим достижениям в теории актуальной бесконечности. Напомню вкратце качественные особенности вариантов теории множеств, используемых в современном нестандартном анализе.

Обычный универсум фон Неймана в теории внутренних множеств Э. Нельсона превращается в «оснащенный» мир I/1 внутренних множеств с отмеченными в нем «ре-перными точками» — стандартными множествами, составляющими класс 5. Более подробный анализ показывает, что 1 лежит в новом классе — в универсуме Е внешних множеств (составляющих обычно мир Цермело). В Е выделен универсум «классических» множеств с — еще одна реализация мира стандартных множеств 5. Имеется робинсоновское *-изображение, поэлементно отождествляющее и . При этом Vе, V5 и I/1 можно рассматривать как «ипостаси» единственного универсума фон Неймана .

Изложенная картина расположения и другие известные взаимосвязи миров Е, V1,

и ~¥с приводят к выделению трех общих теоретико-множественных установок нестандартного анализа. В этих установках — их называют классической, неоклассической и радикальной — фиксируются представления о предмете и средствах исследования. При-

нятие той или иной концепции определяет, в частности, способ изложения математических результатов, полученных с помощью нестандартных методов.

Классическая установка нестандартного анализа отвечает методике его основоположника А. Робинсона, и в настоящее время соответствующий формализм наиболее распространен. При этой установке главным объектом изучения объявляется мир классической математики, отождествляемый с универсумом «классических» множеств Vс. Последний считают «стандартным универсумом» (на практике чаще всего работают с достаточно большим фрагментом, частью Ус, содержащей необходимые для исследования объекты — с так называемой «суперструктурой»). В качестве техники исследования исходного — стандартного — универсума предъявляется «нестандартный универсум» V1, составленный из внутренних множеств, или его подходящая часть и *-изображение, подклеивающее обычные стандартные объекты к их образам в «нестандартном универсуме».

Полезно подметить своеобразное использование слов «стандартный» и «нестандартный» при излагаемом подходе. Робинсоновские стандартизации — элементы универсума — воспринимаются как «нестандартные» объекты. «Стандартное» множество — это по понятию произвольный представитель мира «классических» множеств с — член «стандартного универсума». При этом *-изображение, как правило, добавляет новые «идеальные» элементы в множество.

Образно наличие «новых» элементов в *И выражают символом *И — Ж = 0 и говорят о построении системы «гипердействительных» чисел *И, расширяющей обычное поле вещественных чисел . Аналогичную политику проводят при рассмотрении произвольного классического множества X. Именно, считают, что X = {*х : х £ X} и тем самым X С *Х. Если X бесконечно, то *X — X = 0. Иными словами, все бесконечные множества при помощи робинсоновской стандартизации насыщаются новыми элементами. Более того, «идеальных» объектов добавляется значительное количество — в V1 действует подходящий принцип идеализации, который в излагаемой установке часто называют техникой направленности или насыщением.

Полезно помнить, что в «расширенном», «нестандартном» мире — в универсуме внутренних множеств I/1 — действует принцип переноса, т. е. с учетом свойств робинсонов-ской стандартизации

для каждой формулы р теории множеств Цермело — Френкеля. Такую форму принципа переноса именуют принципом Лейбница.

Подводя итоги, можно сказать, что при классической установке работают с двумя универсумами — стандартным и нестандартным. Имеются формальные возможности связывать свойства стандартных и нестандартных объектов с помощью процедуры «навешивания звездочек» — с помощью *-изображения. При этом предоставлено право свободно переносить утверждения об объектах одного мира в другой — действует принцип Лейбница. Нестандартный мир богат идеальными элементами — в нем актуально осуществимы всевозможные трансфинитные конструкции, ибо справедлив принцип направленности. Множества, выпадающие за пределы нестандартного универсума, называют внешними (здесь проявляется особенность принимаемой терминологии: внутренние множества при излагаемом подходе внешними не являются). Полезный прием исследования составляет техника внутренних множеств. Главное достоинство классической установки — это наличие *-изображения, которое позволяет применять аппарат нестандартного анализа к совершенно произвольным обычным множествам.

Основное затруднение в усвоении таких представлений связано с необходимостью вообразить колоссальное количество новых идеальных объектов, присоединяемых к обычным множествам. Заметные сложности вызывает естественное желание работать (по крайней мере, на первых порах) с двумя наборами переменных, относящимися соответственно к стандартному и нестандартному универсумам.

Неоклассическая установка нестандартного анализа отвечает методике, предложенной Э. Нельсоном. При этой установке главным объектом изучения объявляется мир математики, рассматриваемый как универсум 1, лежащий в среде внешних множеств — элементов Е. «Классические» множества отдельно к анализу не привлекаются. Стандартные и нестандартные элементы указываются в обычных объектах математики, составляющих 1. Так, в качестве поля вещественных чисел фигурирует И из мира V1, совпадающее, разумеется, с полем *И гипердействительных чисел — «идеальным» объектом классической установки. Преимущества неоклассической установки определяются возможностью изучать уже хорошо знакомые множества и отыскивать новое в их устройстве с помощью дополнительных языковых средств. Как отмечает Э. Нельсон, «подлинно новыми в нестандартном анализе являются не теоремы или доказательства, а понятия — внешние предикаты...» [20].

Радикальная установка нестандартного анализа состоит в том, что предметом изучения математики объявляется универсум внешних множеств во всей полноте и сложности его собственного устройства. Классические и неоклассические представления о нестандартном анализе как о технике изучения математики (основанной на формализме Цер-мело — Френкеля) при радикальном подходе объявляются «узкими», «стыдливыми» и отметаются. Широко распространенное воззрение на математику как на науку о формах и отношениях, взятых в отвлечении от их содержания, и даже существенно менее обязывающая классическая теоретико-множественная установка, восходящая к Г. Кантору, вполне согласованы с радикальной установкой нестандартного анализа.

Найденное математической логикой теоретико-множественное понимание инфините-зимального анализа — переломный момент в современных взглядах на основания математики. Креационистская идея унитарного происхождения математических объектов из единого пустого множества, господствующая в современной математике, не воспринимается больше как единственно верная. Все большее число математиков осознает значение мудрости древних, строивших нашу науку на двух первичных понятиях — точки и монады. Неделимость точки и актуальная бесконечность единицы, особого акта потенциально бесконечного процесса счета, лежат в основаниях математики со времен Евклида. Нестандартные модели анализа наших дней продолжают эту древнюю традицию.

Теория категорий закладывает в основания математики творческую идею произвольного преобразования произвольных объектов. Свободомыслие, присущее человеку, проявляется в его предрасположенности и симпатии к творчеству. В этом, мне кажется, заключена неизбывная притягательность теоретико-категорных мотивов в основаниях математики, залог их плодотворного будущего.

После высказанных общих соображений вполне уместно перейти к постановке задачи. Поскольку теория топосов социализирует обычную теоретико-множественную установку, по аналогии возникает проблема социализации установок нестандартной теории множеств в рамках теории категорий. Начать можно с поиска теоретико-топосного аналога робинсоновской стандартизации.

Мне кажется, что синтез идей теории нестандартных моделей и теории топосов неизбежен как неистребимо наше стремление к знанию. «Мы должны знать, мы будем знать!» (Д. Гильберт [21]).

4. Заключительное слово

Юбилей не репетиция панихиды, а праздник узнавания. Человек — существо социальное. В каждом из нас заключена сущность человечества. Любой человек — зеркало всех остальных людей.

Живой живое и думает, учили нас предки. Вы глядите на меня, я гляжу на Вас и мы узнаем свои и чужие, симпатичные и неприятные, привлекательные и отталкивающие черточки и мысли. Каждый из нас временами эгоцентричен и эгоистичен. В каждом из нас живет мизантропия и желание уединиться. Однако индивидуальность наша проявляется только на людях, только в других мы ищем понимание и опору. Эгоизм делает нас социальными существами и филантропами.

Первое слово благодарности моим родным и близким, которые делают для меня больше других и терпят за это больше.

Благодарю за щедрость и доброту своих учителей, старших товарищей как тех, кто сейчас сидит в этом зале, так и тех, кто незримо присутствует в этих стенах всегда.

Благодарю своих друзей и коллег как за понимание и сочувствие моим научным занятиям, так и за соучастие в них.

Благодарю всех присутствующих за то, что делаете меня таким, каков я есть.

Литература

1. Alexandrov A. D. Selected Works. Part 1: Selected Scientific Papers.—London: Gordon and Breach, 1996.

2. Firey W. Blaschke sums of convex bodies and mixed bodies // In: Proc. of the Colloquium on Convexity. Copenhagen: Kobenhavns Univ. Mat. Inst.—1965.—P 94-101.

3. Кутателадзе С. С., Рубинов А. М. Двойственность Минковского и ее приложения.—Новосибирск: Наука, 1976.

4. Кутателадзе С. С. Параметризация выпуклых изопериметрических задач // Сиб. журн. индустр. мат.—1998.—Т. 1.—С. 132-144.

5. Урысон П. С. Зависимость между средней шириной и объемом выпуклых тел // Мат. сб.—1924.— Т. 31.—С. 477-485.

6. Погорелов А. В. Погружение «мыльного пузыря» внутрь тетраэдра // Мат. заметки.—1994.—Т. 56, № 2.—С. 90-93.

7. Manin Yu. I. Mathematics as metaphor // Proceedings of the International Congress of Mathematicians.—Kyoto, Japan, 1990.—P. 557-563.

8. Lakoff G., Nunez R. E. Where Mathematics Comes from. Basic Books, 2000.

9. Канторович В. Л., Кутателадзе С. С., Фет Я. И. Леонид Витальевич Канторович: человек и ученый. В двух томах.—Новосибирск: Издательство СО РАН, филиал «Гео», 2002, 2004.

10. Weyl H. Topology and abstract algebra as two roads of mathematical comprehension // Mathematical Evolutions (Eds.: Shenitzer A., Stillwell J.). MAA, 2005.—P. 149-162.

11. Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения. Части 1 и 2.— Новосибирск: Институт математики им. С. Л. Соболева, 2002, 2003.

12. Кутателадзе С. С. Саундерс Маклейн, рыцарь математики // Сибирские электронные мат. известия, 2005.—Т. 2.—С. А5-А9.

13. Громов М. Знак и геометрический смысл кривизны.—М.: РХД, 2000.

14. Лузин Н. Н. Современное состояние теории функций действительного переменного // Тр. Всероссийского съезда математиков в Москве 27 апреля - 4 мая 1927 г.—М.-Л.: Главнаука, 1928.

15. Halmos P. I Want to Be a Mathematician. An Automathograhy.—N.Y. etc: Springer-Verlag, 1985.

16. Lawvere F. W. Continuously variable sets: algebraic geometry = geometric logic // Proc. A. S. L. Logic Colloq.—Bristol, 1973. North-Holland, 1975.—P. 135-156.

17. Кусраев А. Г., Кутателадзе C. C. Введение в булевозначный анализ.—М.: Наука, 2005.

18. Гордон Е. И., Кусраев А. Г., Кутателадзе С. С. Инфинитезимальный анализ. Части 1 и 2. Новосибирск: Ин-т мат-ки им. С. Л. Соболева, 2001.

19. Kanovei V., Reeken M. Nonstandard Analysis, Axiomatically.—Berlin etc.: Springer-Verlag, 2004.

20. Nelson E. The syntax of nonstandard analysis // Ann. Pure Appl. Logic.—1998.—V. 38, № 2.—P. 123134.

21. Гильберт Д. Познание природы и логика // Природа.—1998.—№ 1.

Статья поступила 25 ноября 2005 г.

КУТАТЕЛАДЗЕ СЕМЕН САМСОНОВИЧ, д. ф.-м. н.

Новосибирск, Институт математики им. С. Л. Соболева СО РАН

E-mail: sskut@member.ams.org