О генерической сложности элементарных теорий

МАТЕМАТИКА

Вестн. Ом. ун-та. 2015. № 4. С. 14-17.

УДК 510.52

А.Н. Рыбалов

О ГЕНЕРИЧЕСКОЙ СЛОЖНОСТИ ЭЛЕМЕНТАРНЫХ ТЕОРИЙ*

Рассматривается генерический подход к алгоритмическим проблемам, предложенный в 2003 г. Мясниковым, Каповичем, Шуппом и Шпильрайном. В рамках этого подхода алгоритмическая проблема рассматривается не для всего множества входов (сложность в худшем случае), а для множества «почти всех» входов. Термин «почти все входы» уточняется при помощи введения естественной меры на множестве входных данных. В статье доказывается, что любая неразрешимая элементарная теория остается неразрешимой на любом генерическом множестве формул. Это усиливает результат, полученный Мясниковым и Рыбаловым в 2008 г. для строго генерических множеств формул (некоторый подкласс генерических множеств).

Ключевые слова: генерическая сложность, элементарные теории.

Введение

Теория алгоритмов в классической постановке изучает алгоритмические проблемы в худшем случае, рассматривая поведение алгоритмов на всём множестве входов. В Computer Science исследуется также сложность алгоритмов в среднем, при этом алгоритм может хорошо (полиномиально) работать на большинстве входных данных и плохо (экспоненциально) на очень редких входах. Генерический подход в применении к алгоритмическим проблемам впервые был предложен в 2003 г. в статье [1]. В рамках этого подхода изучается поведение алгоритмов на множестве «почти всех» входов (это множество называется генерическим), игнорируя поведение алгоритма на остальных входах, на которых алгоритм может работать медленно или вообще не останавливаться. Такой подход имеет приложение в криптографии, где требуется, чтобы алгоритмические проблемы были трудными для «почти всех» входов. В отличие от сложности в среднем, генерический подход применим и для алгоритмически неразрешимых проблем. Для многих классических алгоритмически неразрешимых проблем алгебры доказано, что они разрешимы в генерическом случае. Например, в работе [2] установлено, что проблема остановки для машин Тьюринга с полубесконечной лентой генерически разрешима. Автор в [3] установил генерическую неразрешимость проблемы остановки для нормализованных машин Тьюринга.

Большой пласт алгоритмических проблем связан с проблемами разрешения элементарных теорий различных алгебраических систем. Как правило, эти проблемы либо неразрешимы (формальная арифметика, теория поля рациональных чисел, теория графов и т. д.), либо разрешимы, но имеют очень высокую вычислительную сложность (арифметика Пресбур-гера, теория упорядоченного поля действительных чисел и т. д.). Поэтому представляет интерес изучение их генерической разрешимости и сложности. Автор и Мясников в [4] доказали, что любая неразрешимая в классическом смысле элементарная теория остается неразрешимой на строго генерических множествах формул. Строго генерические множества - это довольно узкий класс генерических множеств, и вопрос о разрешимости на генерических множествах оставался открытым. В данной статье доказывается, что любая неразрешимая в классическом смысле элементарная теория остается неразрешимой на генерических множествах формул. Тем са-

*Работа выполнена при финансовой поддержке РФФИ (проект 14-01-00068-а).

© А.Н. Рыбалов, 2015

О генерической сложности элементарных теорий

15

мым усиливается результат, полученный в [4]. При этом используется так называемое нормализованное представление формул, которое подразумевает упорядоченность нумерации переменных в формуле слева направо: вторая переменная не может встретиться раньше (левее) первой, третья - раньше второй и т. д. Это довольно естественное требование, ведь если человека попросить написать случайную формулу, он не станет сразу использовать x100, а начнет с х1 и будет вводить новые переменные по мере надобности. Отметим, что в [4] использовалось представление формул без условия нормализации.

Генерическая вычислимость и сложность

Пусть А есть множество всех входов для некоторой алгоритмической проблемы, а S -некоторое его подмножество. Рассмотрим последовательность

Pn

где Ап - множество всех входов проблемы размера п . Если случайно и равновероятно генерировать входы размера п, то вероятность попасть в S равна рп (S) . Определим

асимптотическую плотность множества S как предел (если он существует) jU(S) = lim Pn (S).

n——^

Если предела не существует, то считаем, что асимптотическая плотность не определена.

Множество входов S с А называется генерическим, если U(S) = 1, и пренебрежи-мым, если U(S) = 0. Непосредственно из определения следует, что S является генерическим тогда и только тогда, когда А \ S пренебрежимо. Понятие генерического множества формализует интуитивное понятие множества «почти всех» входов в том смысле, что при увеличении размера входа вероятность того, что случайно сгенерированный вход попадет в генерическое множество, стремится к 1. Если последовательность рп (S) стремится к 0 экспоненциально быстро, т. е. существуют константы С > 0 и 0 <0< 1 такие, что для любого п

Pn (S) < Со” ,

то множество S называется строго прене-брежимым. Строго пренебрежимое множество существенно меньше просто пренебре-жимого в том смысле, что никакое (не строго) пренебрежимое множество не может содержаться в строго пренебрежимом. Множество

S называется строго генерическим, если А \ S строго пренебрежимо.

Алгоритмическая проблема S с А гене-рически разрешима, если существует множество G с А такое, что:

1) G - генерическое;

2) G - разрешимо;

3) S nG - разрешимо.

Генерический алгоритм, решающий проблему S, работает следующим образом. Сначала определяет, принадлежит ли вход генерическому множеству. Если да, то проверяет принадлежность входа S . Если нет, то отвечает «НЕ ЗНАЮ». Такой алгоритм правильно решает проблему S на почти всех входах.

Представление формул

Далее мы рассмотрим некоторое естественное представление замкнутых формул языка первого порядка с помощью двоичных деревьев. Это представление, с одной стороны настолько же компактно, как и стандартное представление строками символов (с точностью до линейного множителя). С другой стороны, оно удобно для различного рода подсчетов.

Зафиксируем конечную сигнатуру

о

= { Pl fb1 fbm c c }

pi 1k iJl 1---1 J m 1 ''15---5

где

p -

предикаты, f - функции и - константы. Положим K = Ko = max {a. , h} +1. Пусть

3 = А, 0 - алгебраическая система сигнатуры о. Назовем замкнутую формулу Ф сигнатуры о простой атомарной, если она имеет следующий вид:

1) x- = f xs);

2) p ^л—xr);

3) X = X- ;

4) x = с-.

Мы говорим, что замкнутая формула Ф сигнатуры О имеет натуральную пренекс-ную форму, если она имеет вид:

Ф = Q1 x..Q,X,Ф,

где Q 3} - кванторы, а ф - бесквантор-

ная формула, полученная с помощью конъюнкций, дизъюнкций из простых атомарных формул или их отрицаний. Заметим, что любая замкнутая формула может быть приведена с помощью эквивалентных преобразований к натуральной пренексной форме. При этом размер формулы увеличивается не более чем линейно.

Пусть теперь ф - бескванторная формула, которая является булевой комбинацией простых атомарных формул и их отрицаний.

16

А.Н. Рыбалов

Естественным образом можно сопоставить формуле ф бинарное дерево Тф, которое представляет конструкцию ф из простых атомарных формул и их отрицаний с помощью конъюнкций и дизъюнкций. Внутренние вершины Тф помечены символами V и

Л , а листья Тф помечены простыми атомарными или их отрицаниями. С другой стороны, по любому такому бинарному дереву можно восстановить бескванторную формулу. Это дает взаимно-однозначное представление бескванторных частей замкнутых формул сигнатуры О в натуральной прене-ксной форме размеченными бинарными деревьями. Если Тф имеет т листьев, то не более Kn переменных могут встретиться в Тф, поэтому в дальнейшем будем полагать, что все переменные Тф лежат в множестве

XKn} . Кроме того, считаем, что на все Kn переменных навешаны кванторы.

Будем называть дерево Тф нормализованным, если для любой переменной xt, i > 1 найдется переменная xi_1 , расположенная либо в том же листе дерева, либо в более левом. Заметим, что любое дерево Тф можно

нормализовать подходящей перестановкой переменных.

Таким образом, представление формулы Ф состоит из бинарного дерева Тф и кван-торной приставки на все n переменных ф . Мы будем отождествлять формулу Ф с её представлением. Размер формулы Ф - это количество листьев дерева Тф .

Для любой формулы Ф= Q1 x1...Qtx$ рассмотрим множество формул ед(Ф) =

= {Q1 X...QXQ+1X+1 ..QKnXKn(ф V ((X * x1) Л /))}, где n >t - любое, / - произвольная бес-

кванторная формула от переменных x1,..., xn и кванторы Qt+1,...,QKn - любые. Легко видеть, что все формулы из eq^) эквивалентны Ф в том смысле, что они истинны или ложны одновременно с Ф.

Лемма 1. Для любой формулы Ф множество eq^) не является пренебрежимым.

Доказательство. Обозначим через F -множество всех формул и через Fn - множество всех формул размера n. Любая формула размера n состоит из Kn кванторов и

бинарного дерева с n листьями и n _1-й внутренней вершиной. Существует 2Kn вариантов выбрать кванторы (V , 3). Существуют Cn1 неизоморфных бинарных дере-

вьев с n листьями, где Cn1

112(n _ 1) n l n _ 1

- это

n _1-е число Каталана. Каждая внутренняя вершина может быть помечена либо V , либо Л (всего n _1 таких вершин - 2n_1 вариантов разметки). Обозначим через Lt число способов разметки i -го листа (нумерация листов дерева слева направо). В итоге получается \F\ = L...L 2K(n+1)_1 C ,.

Теперь посчитаем число формул размера n из множества eq^) . Это делается аналогично, с той лишь разницей, что там у формул произвольным может быть лишь поддерево, отвечающее за формулу / . Оно имеет

n _ t _1 листьев, листья могут быть размечены Lt+2,...,Ln способами. Кроме того, произвольными могут быть кванторные приставки

QK (t +2)’."’ QKn . Итого

|eq(0)n| = Lt+2...Ln 2K (-) _1 Cn_t _2.

Оценим теперь асимптотическую плотность множества eq^) :

fi(eq^)) = lim

Ыф)„| = If„I "

L г 2K(n_t)_1 C = lim t+2 '^n^ ^n_t_2 _

= lim

L...L 2K(n+1)_1 C ,

^ n n_1

C

'n_t_2

1

5 t t (t+1 n

-4+1Z ^n_1

_2 (n _ 1)3/2

lim-

= const > 0.

L...Lt+j2K(t+1) n^» (n _ t _ 2)3/24n_1 Здесь использована асимптотика чисел

4n

Каталана C

n ,„3/2 Г2

n

(см. [5]). Также исполь-

зовано то, что число способов разметить лист Lt, i < t = const, является константой - это следует из нормализованности представления формул. Лемма доказана.

Основной результат

Теперь все готово, чтобы доказать основной результат статьи.

Теорема 1. Если элементарная теория

Th (3) неразрешима, то Th (3) не является генерически разрешимой.

Доказательство. Допустим, что Th

генерически разрешима. Это значит, что существует разрешимое генерическое множе-

О генерической сложности элементарных теорий

17

ство формул G такое, что Th(3)пG разрешимо. Покажем, что тогда и вся Th (3) будет разрешимой. Разрешающий алгоритм для Th (3) будет работать на формуле Ф следующим образом. Перебираем формулы из множества ед(Ф) в возрастающем порядке до

тех пор, пока не получим формулу из G . Это обязательно произойдет, потому что множество eq(Ф), по лемме 1, не пренебрежимо, а

множество G генерическое. Попав в G , решаем проблему истинности для eq(Ф) , а тем

самым и проблему истинности для Ф. Полученное противоречие доказывает теорему.

ЛИТЕРАТУРА

[1] Kapovich A. V., Myasnikov A. G., Schupp P., Shpilrain V. Generic-case complexity, decision problems in group theory and random walks // J. Algebra. 2003. Vol. 264, Is. 2. P. 665-694.

[2] Hamkins J. D., Miasnikov A. The halting problem is decidable on a set of asymptotic probability one // Notre Dame Journal of Formal Logic. 2006. Vol. 47. № 4. P. 515-524.

[3] Рыбалов А. Н. О генерической неразрешимости проблемы остановки для нормализованных машин Тьюринга // Вестн. Ом. ун-та. 2014. № 3. С. 16-18.

[4] Myasnikov A, Rybalov A. Generic complexity of undecidable problems // Journal of Symbolic Logic. 2008. Vol. 73. № 2. P. 656-673.

[5] Кнут Д., Грэхем Р., Паташник О. Конкретная математика. Математические основы информатики. М. : Вильямс, 2009. 784 с.