О генерической сложности экзистенциальных теорий

МАТЕМАТИКА

Вестн. Ом. ун-та. 2016. № 4. С. 6-9.

УДК 510.52 А.Н. Рыбалов

О ГЕНЕРИЧЕСКОЙ СЛОЖНОСТИ

к*

ЭКЗИСТЕНЦИАЛЬНЫХ ТЕОРИЙ*

Рассматривается генерический подход к алгоритмическим проблемам, предложенный в 2003 г. Мясниковым, Каповичем, Шуппом и Шпильрайном. В рамках этого подхода алгоритмическая проблема рассматривается не для всего множества входов (сложность в худшем случае), а для множества «почти всех» входов. Термин «почти все входы» уточняется при помощи введения естественной меры на множестве входных данных. В статье доказывается, что любая неразрешимая экзистенциальная теория остается неразрешимой на любом рекурсивном генерическом множестве экзистенциальных формул.

Ключевые слова: генерическая сложность, экзистенциальные теории.

Введение

Теория алгоритмов в классической постановке изучает алгоритмические проблемы в худшем случае, рассматривая поведение алгоритмов на всём множестве входов. В Computer Science исследуется также сложность алгоритмов в среднем, при этом алгоритм может хорошо (полиномиально) работать на большинстве входных данных и плохо (экспоненциально) - на очень редких входах. Генерический подход в применении к алгоритмическим проблемам был впервые предложен в статье 2003 года [1]. В рамках этого подхода изучается поведение алгоритмов на множестве «почти всех» входов (это множество называется генерическим), игнорируя поведение алгоритма на остальных входах, на которых алгоритм может работать медленно или вообще не останавливаться. Такой подход имеет приложение в криптографии, где требуется, чтобы алгоритмические проблемы были трудными для «почти всех» входов. В отличие от сложности в среднем, ге-нерический подход применим и для алгоритмически неразрешимых проблем. Для многих классических алгоритмически неразрешимых проблем алгебры доказано, что они разрешимы в генерическом случае. Например, в работе [2] установлено, что проблема остановки для машин Тьюринга с полубесконечной лентой генерически разрешима.

Большой пласт алгоритмических проблем связан с проблемами разрешения элементарных теорий различных алгебраических систем. Как правило, эти проблемы либо неразрешимы (формальная арифметика, теория поля рациональных чисел, теория графов и т. д.), либо разрешимы, но имеют очень высокую вычислительную сложность (арифметика Пресбур-гера, теория упорядоченного поля действительных чисел и т. д.). Поэтому представляет интерес изучение их генерической разрешимости и сложности. А. Рыбалов и А. Мясников в своей работе [3] доказали, что любая неразрешимая в классическом смысле элементарная теория остается неразрешимой на строго генерических множествах формул. Также представляет интерес изучение в рамках генерического подхода фрагментов элементарных теорий различных алгебраических систем, например, их экзистенциальных теорий. Например, из знаменитой теоремы Дэвиса, Робинсон, Пат-нема и Матиясевича [4] о неразрешимости десятой проблемы Гильберта следует, что эта теория неразрешима. В данной работе доказывается, что любая неразрешимая в классическом смысле теория остается неразрешимой на любом рекурсивном генерическом множестве экзистенциальных формул. При этом используется так называемое нормализованное пред* Работа выполнена при финансовой поддержке РФФИ (16-01-00577).

© Рыбалов А.Н., 2016

ставление формул, которое подразумевает упорядоченность нумерации переменных в формуле слева направо: вторая переменная не может встретиться раньше (левее) первой, третья - раньше второй и т. д. Это довольно естественное требование, ведь если человека попросить написать случайную формулу, он не станет сразу использовать х100, а начнет с X и будет вводить новые переменные по мере надобности.

Генерическая вычислимость и сложность

Пусть A есть множество всех входов для некоторой алгоритмической проблемы, а s -некоторое его подмножество. Рассмотрим последовательность

Р(Л IsfHI

Ри( )" KI '

где A - множество всех входов проблемы размера n . Если случайно и равновероятно генерировать входы размера n, то вероятность попасть в S равна р (S) . Определим

асимптотическую плотность множества S как предел (если он существует) ) = lim Pn(S).

Если предела не существует, то считаем, что асимптотическая плотность неопреде-лена.

Множество входов S с A называется ге-нерическим, если ^(S) = 1, и пренебрежи-мым, если M.(S) = 0. Непосредственно из определения следует, что S является генери-ческим тогда и только тогда, когда A \ S пренебрежимо. Понятие генерического множества формализует интуитивное понятие множества «почти всех» входов в том смысле, что при увеличении размера входа вероятность того, что случайно сгенерированный вход попадет в генерическое множество, стремится к 1. Если последовательность р (S) стремится к 0 экспоненциально быстро, т. е. существуют константы C > 0 и 0 <с< 1 такие, что для любого n

Pn (S) < Cün, то множество S называется строго прене-брежимым. Строго пренебрежимое множество существенно меньше просто пренебре-жимого в том смысле, что никакое (не строго) пренебрежимое множество не может содержаться в строго пренебрежимом. Множество S называется строго генерическим, если A \ S строго пренебрежимо.

Алгоритмическая проблема S с A гене-рически разрешима, если существует множество G с A такое, что

G -генерическое.

G - разрешимо.

Sf]G - разрешимо.

Генерический алгоритм, решающий проблему S , работает следующим образом. Сначала определяет, принадлежит ли вход гене-рическому множеству. Если да, то проверяет принадлежность входа S. Если нет, то отвечает «НЕ ЗНАЮ». Такой алгоритм правильно решает проблему S на почти всех входах.

Представление экзистенциальных формул

В этой статье мы рассмотрим некоторое естественное представление замкнутых экзистенциальных формул языка первого порядка с помощью двоичных деревьев. Это представление, с одной стороны, настолько же компактно, как и стандартное представление строками символов (с точностью до линейного множителя). С другой стороны, оно удобно для различного рода подсчетов.

Зафиксируем конечную сигнатуру

a = {if,..., if, f,..., ft, cl5..., с,}, где P. - предикаты, f - функции и с. - константы. Положим к=к = тах {а, b}+1 •

Пусть 3 = ^A, < - алгебраическая система сигнатуры < . Назовем замкнутую формулу Ф сигнатуры < простой атомарной, если она имеет следующий вид:

1- Xj = f (x¡l,...,xis) ,

2- Pi(Xi,...,x,),

3- Xi = Xj ,

4- x = Cj •

Мы говорим, что замкнутая экзистенциальная формула Ф сигнатуры < имеет натуральную пренексную форму, если она имеет вид:

Ф = ЗХ[ ...Эх, ф, где ф - бескванторная формула, полученная с помощью конъюнкций, дизъюнкций из простых атомарных формул или их отрицаний. Заметим, что любая замкнутая экзистенциальная формула может быть приведена с помощью эквивалентных преобразований к натуральной пренексной форме. При этом размер формулы увеличивается не более чем линейно.

Пусть теперь ф - бескванторная формула, которая является булевой комбинацией простых атомарных формул и их отрицаний. Естественным образом можно сопоставить

формуле ф бинарное дерево Тф, которое представляет конструкцию ф из простых

8

А.Н. Рыбалов

атомарных формул и их отрицаний с помощью конъюнкций и дизъюнкций. Внутренние вершины Тф помечены символами v и

л, а листья Т помечены простыми атомарными или их отрицаниями. С другой стороны, по любому такому бинарному дереву можно восстановить бескванторную формулу. Это дает взаимно-однозначное представление бескванторных частей замкнутых формул сигнатуры а в натуральной прене-ксной форме размеченными бинарными деревьями. Если Т имеет т листьев, то не более Кп переменных могут встретиться в Тф , поэтому в дальнейшем будем полагать, что все переменные Тф лежат в множестве

{Х,..., ХКп }. Кроме того, считаем, что на все Кп переменных навешаны кванторы.

Будем называть дерево Т нормализованным, если для любой переменной х ,' > 1 найдется переменная Х , расположенная либо в том же листе дерева, либо в более левом. Заметим, что любое дерево Тф можно

нормализовать подходящей перестановкой переменных.

Таким образом представление экзистенциальной формулы Ф состоит из бинарного

дерева Тф, представляющего бескванторную часть ф формулы Ф . Мы будем отождествлять формулу Ф с её представлением. Размер формулы Ф - это количество листьев дерева Т .

ф

Для любой формулы Ф = Эх^ ...Эх, ф рассмотрим множество формул eq(Ф) =

= {Эх1.. ЭхД+л+1.. .Эхкп (Ф V ((Х * х) Л V))},

где п > t - любое, V - произвольная бескванторная формула от переменных х1 ,...,хп . Легко видеть, что все формулы из eq(Ф) эквивалентны Ф в том смысле, что они истинны или ложны одновременно с Ф .

Лемма 1. Для любой формулы Ф множество eq(Ф) не является пренебрежимым.

Доказательство. Обозначим через ¥ -множество всех экзистенциальных формул и через ¥ - множество всех таких формул размера п . Любая формула размера п , состоит из бинарного дерева с п листьями и п — 1 -й внутренней вершиной. Существуют Си1 неизоморфных бинарных деревьев с п ли-

^ 1 Г2(п — 1) I 1

стьями, где Сл1 =—I I - это п — 1 -е

п{ п — 1

число Каталана. Каждая внутренняя вершина может быть помечена либо V, либо л

(всего п — 1 таких вершин - 2п—1 вариантов разметки). Обозначим через Ц число способов разметки /-го листа (нумерация листов дерева слева направо). В итоге получается

¥ = Ц...Ц 2п—1Сп—1.

Теперь посчитаем число формул размера п из множества eq(Ф). Это делается аналогично, с той лишь разницей, что там у формул произвольной может быть лишь поддерево, отвечающее за формулу V . Оно имеет

п — г — 1 листьев, листья могут быть размечены Ц(+2,..., Ця способами. Кроме того, произвольными могут быть кванторные приставки <2к((+2),...,2кп . Итого

|eq(ф) 1 = г, ...ц 2п—г—2 с , ,.

| -/V ' п\ г +2 п п-г-2

Оценим теперь асимптотическую плотность множества eq(Ф):

К eq(ф))==

«. Ц /-... .Ц 2 С . /-.

_1-1-т г+2 п_п—г—2 _

= п-т ц...Ьп 2п—1Сп—1 =

С

= lim-

Т Т 2' C

12 Cn -1

4"-'- 2(n -1)3/2

-lim

= cons' > 0.

L...Lt+l2' »->« (п -' - 2)3/24-1 Здесь использована асимптотика чисел 4"

Каталана C

(см. [5]). Также исполь-

n3/2 ^

зовано то, что число способов разметить лист L, i ^ ' = cons' , является константой - это следует из нормализованности представления формул. Лемма доказана.

Основной результат

Теорема 1. Если экзистенциальная теория T. (З) неразрешима, то T. (З) не является генерически разрешимым.

Доказательство. Допустим, что T.

генерически разрешима. Это значит, что существует разрешимое генерическое множество формул G такое, что Th3(3)n G разрешимо. Покажем, что тогда и вся Th^ (3) будет разрешимой. Разрешающий алгоритм для Th^ (З) будет работать на формуле Ф следующим образом. Перебираем формулы из множества е^(Ф) в возрастающем порядке до тех пор, пока не получим формулу из G . Это обязательно произойдет, потому

1

что множество ед(Ф), по лемме 1, не пренебрежимо, а множество G генерическое. Попав в G , решаем проблему истинности для ед(Ф), а тем самым, и проблему истинности для Ф. Полученное противоречие доказывает теорему.

ЛИТЕРАТУРА

[1] Karpovich A. V., Myasnikov A. G, Schupp P., Shpilrain V. Generic-case complexity, decision problems in group theory and random walks // J. Algebra. 2003. Vol. 264. № 2. P. 665-694.

[2] Hamkins J. D., Miasnikov A. The halting problem is decidable on a set of asymptotic probability one // Notre Dame Journal of Formal Logic. 2006. Vol. 47. № 4. P. 515-524.

[3] Myasnikov A., Rybalov A. Generic complexity of undecidable problems // Journal of Symbolic Logic. 2008. Vol. 73. № 2. Р. 656-673.

[4] Матиясевич Ю. В. Диофантовость перечислимых множеств // Доклады Академии наук СССР. 1970. Т. 191. № 2. С. 279-282.

[5] Кнут Д., Грэхем Р., Паташник О. Конкретная математика. Математические основы информатики. М. : Вильямс, 2009. 784 с.