О генерической неразрешимости Десятой проблемы Гильберта

МАТЕМАТИКА

Вестн. Ом. ун-та. 2011. № 4. С. 19-22.

УДК 510.52 А.Н. Рыбалов

О ГЕНЕРИЧЕСКОЙ НЕРАЗРЕШИМОСТИ ДЕСЯТОЙ ПРОБЛЕМЫ ГИЛЬБЕРТА*

Рассматривается генерический подход к алгоритмическим проблемам, предложенный в 2003 г. А. Мясниковым, А. Каповичем, П. Шуппом и В. Шпильрайном. В рамках этого подхода алгоритмическая проблема рассматривается не для всего множества входов (в худшем случае), а для множества “почти всех” входов. Термин “почти все входы” уточняется при помощи введения естественной меры на множестве входных данных. В статье изучается генерическая вычислимость Десятой проблемы Гильберта о разрешимости диофантовых уравнений. Ю. Матиясевич в 1970 г. доказал, что эта проблема алгоритмически неразрешима в худшем случае. В настоящей статье доказывается, что Десятая проблема Гильберта остается неразрешимой на любом разрешимом строго генерическом подмножестве диофантовых уравнений.

Ключевые слова: генерическая сложность, Десятая проблема Гильберта.

Введение

В 1900 г. Д. Гильберт на II математическом конгрессе сформулировал 23 математические проблемы, которые XIX в. оставлял в наследство XX в. Проблема под номером 10 в современной формулировке звучит следующим образом: найти алгоритм, который по любому диофантовому уравнению определяет, разрешимо ли оно в целых числах. В 1970 г. Ю.В. Матиясевич [1], основываясь на работах М. Дэвиса, Дж. Робинсон и Х. Патнема, доказал, что такого алгоритма не существует. В дальнейшем было доказано, что Десятая проблема Гильберта алгоритмически неразрешима уже для диофантовых уравнений от 13 неизвестных (Матиясевич, Робинсон [2]) и для 9 неизвестных (Джонс [3]).

Генерический подход в применении к алгоритмическим проблемам впервые был предложен в 2003 г., в статье [4]. В рамках этого подхода изучается поведение алгоритмов на множестве «почти всех» входов (это множество называется генерическим), игнорируя поведение алгоритма на остальных входах, на которых алгоритм может работать медленно или вообще не останавливаться. Такой подход имеет приложение в криптографии, где требуется, чтобы алгоритмические проблемы были трудными для «почти всех» входов. В отличие от сложности в среднем, генерический подход применим и для алгоритмически неразрешимых проблем. Для многих классических алгоритмически неразрешимых проблем алгебры доказано, что они разрешимы в генерическом случае. Также, в работе [5] установлено, что проблема остановки для машин Тьюринга с полубесконечной лентой генериче-ски разрешима. С другой стороны, в работе [6] доказано, что некоторые проблемы, неразрешимые в классическом смысле, остаются неразрешимыми и в генерическом случае.

В данной статье изучается генерическая разрешимость Десятой проблемы Гильберта. Доказывается, что Десятая проблема Гильберта

* Работа выполнена при финансовой поддержке РФФИ (коды проектов 10.01.00383 и 08.01.00067).

© А.Н. Рыбалов, 2011

остается неразрешимой на любом так называемом строго генерическом подмножестве диофантовых уравнений.

Генерическая вычислимость

Пусть A - множество всех входов для некоторой алгоритмической проблемы, а S - некоторое его подмножество. Рассмотрим последовательность

где An - множество всех входов проблемы размера n . Если случайно и равновероятно генерировать входы размера n , то вероятность попасть в S равна рп (S). Определим асимптотическую плотность множества S как предел (если он существует): ju(S) = lim Pn (S).

n^-да

Если предела не существует, то считаем, что асимптотическая плотность не определена.

Множество входов S с A называется генерическим, если ¿и(S) = 1, и пренебре-жимым, если ¿и(S) = 0. Непосредственно из определения следует, что S является генерическим тогда и только тогда, когда A \ S пренебрежимо. Понятие генерического множества формализует интуитивное понятие множества «почти всех» входов в том смысле, что при увеличении размера входа вероятность того, что случайно сгенерированный вход попадет в генерическое множество, стремится к 1. Если последовательность рп (S) стремится к 0 экспоненциально быстро, т. е. существуют константы C > 0 и 0 <а < 1 такие, что для любого n Pn (S) < Can, то множество S называется строго пренебрежи-мым. Строго пренебрежимое множество существенно меньше просто пренебре-жимого в том смысле, что никакое (не строго) пренебрежимое множество не может содержаться в строго пренебрежи-мом. Множество S называется строго генерическим, если A \ S строго пренебрежимо.

Алгоритмическая проблема S с A (строго) генерически разрешима, если существует множество G с A такое, что

1. G - (строго) генерическое.

2. G - разрешимое.

3. S П G - разрешимое.

Генерический алгоритм, решающий проблему S, работает следующим образом. Сначала определяет, принадлежит ли вход генерическому множеству. Если да, то проверяет принадлежность входа S . Если нет, то отвечает «НЕ ЗНАЮ». Такой алгоритм правильно решает проблему S на почти всех входах.

Представление диофантовых уравнений

Будем рассматривать диофантовы уравнения с фиксированным числом неизвестных m > 13 . Доказано (см. [2]), что уже для таких уравнений Десятая проблема Гильберта неразрешима.

Любое диофантово уравнение можно представить в виде P ( x1,..., xm ) = О, где

P - многочлен с целыми коэффициентами. Будем представлять многочлены с помощью так называемых арифметических схем. Арифметическая схема от переменных x1,...,xmсостоит из конечного числа промежуточных переменных xm+1,..., xm+n и присваиваний (одно присваивание для каждой промежуточной переменной) вида xt = xj * xk , где j, k к i и

* є {+, -, x}, либо вида xt = xj +1 или

x¡ = xj -1, где j к i . Переменные x1,..., xm

называются входными переменными схемы, а последняя промежуточная переменная xn+m - выходной переменной схемы. Размер схемы - это число присваиваний.

Легко видеть, что каждая последующая переменная схемы определяется при помощи операций сложения, вычитания, умножения или прибавления (вычитания) І через предыдущие переменные. Поэтому выходная переменная схемы - это некоторый многочлен от входных переменных. Более того, любой многочлен от переменных x1,...,xm может быть реализован с помощью некоторой арифметической схемы от переменных x1,...,xm. Например, многочлен x13 + 2x1 x2 -1 можно реализовать в виде схемы x3 = x1 x1, x4 = x3 x1, x5 = x1 x2, x6 = x5 + x5, x7 = x4 + x6, x8 = x7 -1 .

Будем отождествлять диофантово уравнение P( x1,..., xm ) = О с представлением многочлена P с помощью некоторой арифметической схемы. Такое представление удобно тем, что можно легко посчи-

О генерической неразрешимости Десятой проблемы Гильберта

21

тать число всевозможных схем фиксированного размера.

Лемма 1. Число арифметических схем размера п от т переменных равно

П (3(і -1)2 + 2(7 -1)).

Доказательство. Для промежуточной переменной хі присваивание может

иметь вид хі = х. * хк , где у, к < і и

*е{+, - х}. Число вариантов такого присваивания 3(і -1)2. Либо присваивание имеет вид х. = х. +1 или х. = х. -1, где 7 у 7 у у < і . В этом случае число вариантов есть 2(і -1). Итого получаем 3(і -1)2 + 2(і -1) вариантов для і -го присваивания. А так как в схеме присваивания выбираются независимо, то число схем размера п от т переменных есть

п+т

П (3(і -1)2 + 2(і -1)).

і=т

Что и требовалось доказать.

Многочлен Р можно задавать с помощью арифметических схем различными способами. Обозначим через as(P) множество всех арифметических схем, которые задают Р.

Лемма 2. Для любого многочлена Р множество as(P) не является строго пре-небрежимым.

Доказательство. Пусть имеется арифметическая схема Е размера к, реализующая многочлен Р. Пусть ее последнее присваивание имеет вид хк+т = хі * ху. Тогда для любого п > к можно построить схемы, реализующие Р, следующим образом. Первые к присваиваний такие же, как и в схеме Е, последнее имеет вид хп+т = хі * ху (правая часть

ее такая же, как в схеме Е), а остальные п - к -1 присваиваний произвольные. Легко видеть, что любая такая схема реализует тот же многочлен Р, так как значение выходной переменной - в точности, как в схеме Е, и от новых добавленных присваиваний оно не зависит. Обозначим это множество через ^, а множество всех схем через А. Очевидно, что ^ с as(Р). Подсчитаем число схем в ^. Первые к

присваиваний фиксированы, последнее тоже, остальные п - к -1 можно варьировать. Поэтому, аналогично тому, как это было сделано в доказательстве леммы 1, получаем

п+т-1

|5| = П (30' -1)2 + 20' -1)).

\=к+1

Теперь оценим асимптотическую плотность множества as(P) среди всех схем размера п :

ИР)п| > Ц =

Ап | \Ап\

П

і=к+1

П

і=т

1

¡=т

=_______________1_______________

С(3(п + т -1)2 + 2(п + т -1)) ’

к

где С = П -1)2 + 2(/ -1)) - константа.

I =т

Так как в знаменателе этой оценки стоит квадратичный полином, то отношение

М Р) п\ 0

не может стремиться к и экспо-

ненциально быстро, поэтому множество as(Р) не является строго пренебрежимым.

Лемма доказана.

Основной результат

Теперь все готово, чтобы доказать основной результат статьи.

Теорема. Не существует строго генерического разрешимого множества дио-фантовых уравнений (арифметических схем), на котором Десятая проблема Гильберта разрешима.

Доказательство. Допустим, что существует строго генерическое разрешимое множество диофантовых уравнений ^, на котором Десятая проблема Гильберта разрешима. Докажем тогда, что Десятая проблема Гильберта разрешима на всем множестве диофантовых уравнений. Опишем, как работает разрешающий алгоритм на арифметической схеме Е, представляющей диофантово уравнение

Р (^..^ хт) = 0 :

1. Проверяем, принадлежит ли Е множеству ^. Если да, то там по предпо-

ложению можно определить разрешимость. Если нет, переходим на шаг 2.

2. Перебираем арифметические схемы из множества as(P) до тех пор, пока не получим схему Е' є S .

3. Определяем разрешимость уравнения, заданного схемой Е'. Это и будет искомый ответ.

Для доказательства корректности алгоритма нужно показать, что на шаге 2 мы всегда получим схему из множества S. Это так, потому что as(Р) п S ^0 для любого многочлена Р. Действительно, если было бы as(P) п S = 0 , то строго пре-небрежимое множество А \ S содержало бы не строго пренебрежимое (по лемме 2) множество as( Р), что невозможно.

Итак, в предположении существования строго генерического разрешимого множества, на котором разрешима Десятая проблема Гильберта, мы доказали, что Десятая проблема Гильберта разрешима на всём множестве диофантовых уравне-

ний. Полученное противоречие доказывает теорему.

ЛИТЕРАТУРА

[1] Матиясевич Ю. В. Диофантовость перечислимых множеств // Доклады Академии наук СССР. 1970. Т. 191. № 2. С. 279-282.

[2] Matiyasevich Yu., Robinson J. Reduction of an arbitrary diophantine equation to one in 13 unknowns // Acta Arithmetica. Vol. 27 (1975). P. 521-553.

[3] Jones J. Undecidable diophantine equations // Bull. Amer. Math. Soc. Vol. 3. № 2 (1980). P. 859-862.

[4] Karpovich A.V., Myasnikov A.G., Schupp P., Shpilrain V. Generic-case complexity, decision problems in group theory and random walks // J. Algebra. 264 (2003). № 2. P. 665-694.

[5] Hamkins J.D., Miasnikov A. The halting problem is decidable on a set of asymptotic probability one // Notre Dame Journal of Formal Logic. 47 (2006). № 4. P. 515-524.

[6] Myasnikov A., Rybalov A. Generic complexity of undecidable problems // Journal of Symbolic Logic. Vol. 73. № 2 (2008). P. 656-673.