Об алгоритмических проблемах в обобщенных древесных структурах групп Кокстера

ЧЕБЫШЕВСКИЙ СБОРНИК

Том 19. Выпуск 2

УДК 519.4 DOI 10.22405/2226-8383-2018-19-2-477-490

Об алгоритмических проблемах в обобщенных древесных

структурах групп Кокстера

Добрынина Ирина Васильевна — доктор физико-математических наук, доцент, профессор кафедры алгебры, математического анализа и геометрии Тульского государственного педагогического университета имени Л. Н. Толстого. e-mail: dobrynirina@yandex.ru

Аннотация

К основным алгоритмическим проблемам в теории групп, поставленным М. Дэном, относятся проблемы равенства, сопряженности слов в конечно определенных группах, а также проблема изоморфизма групп.

П. С. Новиков доказал неразрешимость основных алгоритмических проблем в классе конечно определенных групп. Поэтому алгоритмические проблемы изучаюся в конкретных группах.

Группы Кокстера введены X. С. М. Кокстером: всякая группа отражений является группой Кокстера, если в качестве образующих взять отражения относительно гиперплоскостей, ограничивающих ее фундаментальный многогранник. X. Кокстер перечислил все группы отражений в трехмерном евклидовом пространстве и доказал, что все они являются группами Кокстера, а всякая конечная группа Кокстера изоморфна некоторой группе отражений в трехмерном евклидовом пространстве, элементы которой имеют общую неподвижную точку.

Ж. Тите в своих работах изучал группы Кокстера в алгебраическом аспекте, им решена проблема равенства слов в данных группах.

Известно, что в группах Кокстера разрешима проблема сопряженности слов и неразрешима проблема вхождения.

К. Аппелем и П. Шуппом определен класс групп Кокстера экстрабольшого типа. Группы данного класса являются гиперболическими.

Группы Кокстера с древесной структурой введены В. Н. Безверхним. В графе, соответствующем группе Кокстера, всегда можно выделить максимальный подграф, соответствующий группе Кокстера с древесной структурой. В данном классе групп В. Н. Безверхним и О. В. Инченко решен ряд алгоритмических проблем.

В статье доказывается алгоритмическая разрешимость проблем корня и степенной сопряженности слов в обобщенных древесных структурах групп Кокстера, представляющих собой древесные произведения групп Кокстера экстрабольшого типа и групп Кокстера с древесной структурой.

В доказательстве основных результатов используется метод диаграмм, введенный ван Кампеном, переоткрытый Р. Линдоном и усовершенствованный В. Н. Безверхним.

Ключевые слова: группа Кокстера, алгоритмические проблемы, древесное произведение групп, диаграмма.

Библиография: 20 названий. Для цитирования:

И. В. Добрынина. Об алгоритмических проблемах в обобщенных древесных структурах групп Кокстера // Чебышевский сборник, 2018, т. 19, вып. 2, с. 477-490.

CHEBYSHEVSKII SBORNIK Vol. 19. No. 2

UDC 519.4 DOI 10.22405/2226-8383-2018-19-2-477-490

On algorithmic problems in generalized tree structures of Coxeter

groups

Dobrynina Irina Vasiljevna — doctor of phvsico-mathematical Sciences, associate professor, Professor of the Department of algebra, mathematical analysis and geometry of Tula State Lev Tolstoy University. e-mail: dobrynirina@yandex.ru

Abstract

The main algorithmic problems in group theory are the problem of words, the problem of the conjugation of words for finitely presented groups, and the group's isomorphism problem. These problems were posed by M. Dehn.

P. S. Novikov proved the unsolvability of the main algorithmic problems in the class of finitely presented groups. Therefore, algorithmic problems are studied in particular groups.

Coxeter groups were introduced by H. S. M. Coxeter. A Coxeter group is a reflection group in which reflections with respect to hyperplanes limiting the fundamental polytope of the group are taken as generators. H. S. M. Coxeter listed all the reflection groups in three-dimensional Euclidean space and proved that they are all Coxeter groups and every finite Coxeter group is isomorphic to some reflection group in the three-dimensional Euclidean space which elements have a common fixed point.

J. Tits studied Coxeter groups in the algebraic aspect. In his papers the problem of word in Coxeter groups is solved.

It is known that in Coxeter groups the problem of the conjugacy of words are solvable and the problem of occurrence is unsolvable.

K. Appel and P. Schupp defined a class of Coxeter groups of extra large type. Groups of this class are hyperbolic.

V. N. Bezverkhnii introduced the notion of a Coxeter group with a tree structure. In a graph corresponding to a Coxeter group, one can always allocate the maximal subgraph corresponding to the Coxeter group with a tree structure. V. N. Bezverkhnii and O. V. inchenko solved a series of algorithmic problems in this class of groups.

In the article the problems of the root and the power conjugacy of words in a generalized tree structures of Coxeter groups, which is a tree product of Coxeter groups of extra large type and of Coxeter groups with a tree structure.

The proof of the main results uses the method of diagrams worked out by van Kampen, reopened by R. Lindon and refined by V. N. Bezverkhnii.

Keywords: Coxeter group, algorithmic problems, tree product of groups, diagram.

Bibliography: 20 titles.

For citation:

I. V. Dobrynina, 2018, "On problem of generalized conjugation of words in a generalized tree structures of Coxeter groups" , Chebyshevskii sbornik, vol. 19, no. 2, pp. 477-490.

1. Введение

Основными алгоритмическими проблемами в теории групп, поставленными М. Дэном [1], являются проблемы равенства, сопряженности слов в конечно определенных группах, а также проблема изоморфизма групп.

Исследование данных проблем послужило развитию комбинаторных методов в теории групп, что явилось причиной возникновения комбинаторной теории групп. В настоящее время имеется целый ряд книг и статей, посвященных данной теме, среди них монографии В. Магнуса, А. Карраса и Д. Солитера [2], а также Р. Линдона и П. Шуппа [3].

П. С. Новиков [4] доказал неразрешимость основных алгоритмических проблем в классе конечно определенных групп. Поэтому алгоритмические проблемы стали изучаться в конкретных группах.

Рассмотрим конечно порожденную группу Кокстера С, заданную копредставлением С = {а\,..., ап; (сца^, г, ] = 1, п), где т^ - элементы симметрической матрицы Кокстера: тц = 1, ту € N \ {1} и {ж}, г,.] = 1,п, г = В случае т^ = ж определяющего соотношения между образующими сц, а^ нет. Из этого определения получаем а2 = 1 для всех г € 3.

Группы Кокстера введены X. С. М. Кокстером [5]: всякая группа отражений является группой Кокстера, если в качестве образующих взять отражения относительно гиперплоскостей, ограничивающих ее фундаментальный многогранник. X. Кокстер перечислил все группы отражений в трехмерном евклидовом пространстве и доказал, что все они являются группами Кокстера, а всякая конечная группа Кокстера изоморфна некоторой группе отражений в трехмерном евклидовом пространстве, элементы которой имеют общую неподвижную точку.

В алгебраическом аспекте группы Кокстера изучаются с работ Ж. Титса [6], которым решена проблема равенства слов в группах Кокстера.

П. Шуппом [7] показана неразрешимость проблемы вхождения в группах Кокстера.

К. Аппелем и П. Шуппом [8] определен класс групп Кокстера экстрабольшого типа и в нем решена проблема сопряженности слов, позже проблема сопряженности слов была решена в классе групп Кокстера, что отражено в [9].

Так как группы Кокстера экстрабольшого типа являются гиперболическими, то из результатов И. Г. Лысенка [10] следует разрешимость в них проблем вхождения в циклическую подгруппу и извлечения корня.

Группы Кокстера с древесной структурой введены В. И. Безверхним. В графе, соответствующем группе Кокстера, всегда можно выделить максимальный подграф, соответствующий группе Кокстера с древесной структурой. В данном классе групп В. И. Безверхним и О. В. Инченко решен ряд алгоритмических проблем [11].

В статье доказывается алгоритмическая разрешимость проблем корня и степенной сопряженности слов в обобщенных древесных структурах групп Кокстера, представляющих собой древесные произведения групп Кокстера экстрабольшого типа и групп Кокстера с древесной структурой.

2. Диаграммы над обобщенными древесными структурами групп Кокстера

Рассмотрим конечно порожденную группу Кокстера, заданную копредставлением С = = (а\,...,ап; (а^а^)= 1,п), где т^ - элементы симметрической матрицы Кокстера: тц = 1, тц € N \ {1} и {ж}, г,.] = 1,п, г = В случае т^ = ж определяющего соотношения между образующими а1, а^ нет.

Если т^ > 3 ^ = 3: то О называется группой Кокстера экстрабольшого типа [8].

Построим для группы Кокстера С граф Г такой, что образующим аг поставим в соответствие вершины графа Г а каждому определяющему соотношению (ага.У™"^ = 1 - ребро, соединяющее аг ж а., г = Если при этом получится дер ево-граф Г т0 труп па С называется группой Кокстера с древесной структурой [12].

Группа Кокстера с древесной структурой может быть представлена как свободное произведение двупорожденных групп Кокстера, объединенных по конечным циклическим подгруппам: от графа Г группы С перейдем к графу Г так, что вершинам графа Г поставим в соответствие группы Кокстера на двух образующих С= (аг 2, (аг^)т}, а всяко-

му ребру ё, соединяющему вершины, соответствующие Су и Сjk — циклическую подгруппу (а.; а2}.

Далее в статье будем рассматривать группу Кокстера

С =

8=1

представляющую собой древесное произведение групп Кокстера С8, где С8 либо группа Кокстера с древесной структурой, либо группа Кокстера экстрабольшого типа, запись агт = означает, что объединение групп Кокстера Сг и С. ведется по циклической подгруппе второго порядка (агт; а2т} ((а.1; а2 }), где агт - некоторый образующий группы Сг, - некоторый образующий группы С./. Такую группу Кокстера С также будем называть обобщенной древесной структурой групп Кокстера.

п

Пусть Рг = (сц; а2}, Р = П - свободное произведение циклических групп порядка 2.

г=1

Отождествим каждый образующий аг групп ы ^ с его обратным а-1. Слов о ад = аг1 ... агп группы Р является приведенным, если индексы рядом стоящих букв аг- и аг:!+1 записи ад различны, длина ад равна п. Далее считаем, что г = ], т^ < го. Обозначим через группу Рг. = Рг * Ру Если гг. = (ага.)т^', то в Рг. существуют две перестановки г.. гг. = (ага.)т и г .г = (а. аг)1П1к

Лемма 1. ]12] Пусть ад - циклически приведенное слово в Рг., ад = 1 в Рг. и ад = 1 в Сг.. да |ад| = 2тг.к, к е М, м ад = г^ или ад = г^.

Обозначим через Кг. - множество всех нетривиальных слов, циклически приведенных в свободном произвдении Рг. и равных 1 в гр уппе Су. Группу Кокс тера С г. можно задать как Сг. = (^í, ; а^ , и2, Кг.}.

В дальнейшем под Д будем понимать Д = и Кг. - симметризованное подмножество

г,.€{1,п]

свободного произведения Р. Пусть ад - нетривиальное циклически приведенное в Р слово, равное 1 в С, то есть ад е (Д}^,где (В,}р - нормальное замыкание симметризованного множества Д в свободном произведении Р. Тогда из теоремы ван Кампена [3] следует, что существует Д-диаграмма М с граничным циклом 7 = 9М, меткой которого является слово ад, ф(^) = ад, и с метками областей И С М из Кг.. Будем называть такую Д-диаграмму М Д-диаграммой М над С, а ее области - Ду-диаграммами.

Подвергнем Д-диаграмму М следующему преобразованию.

Если две области ^1, являются одновременно Ду-диаграммами, пересекаются по ребру с меткой (р(дИ1 П дИ2), то, стирая это ребро, объединим ^2 в одну область И. Допустим, что каждая из областей ^1,^2 есть Ду-диаграмма, ^1,^2 пересекаются по вершине. Тогда объединяем ^2 в одну область И. Если в том или другом случае метка границы полученной области равна единице в свободном произведении Р, то, удалив эту область, склеиваем ее границу. Таким образом, через конечное число шагов мы получим приведенную в Р од-носвязную Д-диаграмму М, инвариантную относительного рассмотренного преобразования с

граничной меткой, равной причем если две области И', И'' из М пересекаются по ребру, то длина метки этого ребра равна единице.

Аналогично рассматриваются кольцевые Д-диаграммы над С.

Область И С М назовем граничной, если дМ ПдИ = 0. Символа ми г(И) будем обозначать число внутренних ребер в граничном цикле И, - число ребер в граничном цикле И.

Область И с граничным циклом дИ = е^е-15, расположенная по обе стороны относительно ребра е, в которой склеенные ребра е и е-1 пересекают граничный цикл И, называется (в — г)-областью.

Введем ряд определений, следуя работам [12], [13].

Будем говорить, что дИ П дМ - правильная часть М, если дИ П дМ есть объединение последовательности ¿1,12,..., 1п замкнутых ребер, где 11,..., 1п встречаются в данном порядке в некотором граничном цикле для И и в некотором граничном цикле для М.

Граничную область И Д-диаграммы М назовем правильной, если дИ П дМ есть правильная часть.

Определение 1. Правильная область И Д-диаграммы, М называется деповской, если г(Б) < й(И)/2.

Д М

Д М Д

Д М Д М

Слово — € С назовем Д-приводимым (Д-сократимым), если — приведено в Р и содержит подслово 8, являющееся подсловом некоторого соотношения г € Д, г = вЬ, где |Ь| < |з|.

п

Определение 3. Поддиаграмма, П = и И образует полосу в Д-приведеппой Д-

г=1

М д М = и

1. dDi П dDi+i = а, г = 1,п — 1, где ei - ребро ;

2. dDi П7 = jî, г = 1,п, где 7i - связный путь, причем |7г| ^ 1;

3. |dDi П 71 = |dDi\(dDi n1)luldDn П71 = |dDra\(dDra П7)|;

4. |dDj П 7| + 2 = |dDj\(pDj П 7)|, j = 2,п — 1.

Определение 4. Пусть П - полоса К-диагра,м,м,ы M. Замену R-диаграммы M на, R-диаграмму Mi, полученную из M удалением полосы П, назовем, R-сокращением.

R-ириведенное слово w группы G назовем R-приводимым (R-сократимым), если в нем можно выделить подслово sis 2 ••• sn, где каждое st содержится в некоторой группе Gij и является подсловом соотношения s-id-i btdt+i S R причем при 1 <t < n |dt| = |dt+i| = 1, |s t| = |6t| + 2 и для t, 1 <t < n, |6t| = |st|.

Теорема 1. Существует алгоритм, позволяющий для любого циклически, приведенного w G w R

w

пы Кокстера G выяснить, является ли w R-приведенным. Доказательство очевидно.

Определение 5. Приведенную связную кольцевую R-диаграмму М с границей дМ = aUr будем называть однослойной, если

1) М состоит из областей D\, D2,..., Dm, где Dj П Dj+1 = ej,j = 1,m — 1, D1 П Dm = em, Dj П a = 0,Dj П t = 0,j = l, m, ej ребро,

или

p p

2) M = ( U Ni) U ( U jj), Ni - поддиаграммы (диски) в M с границами dNi = Oi U Ti,

i=1 з = \ ___

П Ti = {Ai, Вi} - вершины, г = 1,p, ji - простые пути с концами Bi-1,Ai,i = 2,р, простой путь 71 имеет нанало Вр, а конец - А1; где кажdoe Ni из состоит из областей Dil ,Di2,..., Dim,, причем, Dij П Dij+1 = eij ,j = 1,mi — 1, Dij П a = %,Dij П t = 0, j = 1, mi, eij - ребро.

Из данного определения имеем, что в случае 1) все области М граничные, каждая пара соседних областей, взятых в циклической последовательности, пересекается по ребру, каждая область пересекает и а, и т (пересечением может быть вершина, одно или несколько ребер). В случае 2) имеем простую кольцевую R-диаграмму, то есть R-диаграмму, в которой а П т = 0. Пути 7^, по которым пересекаются а,т, отделяют поддиаграммы (диски), причем заметим, что эти пути, в том числе, могут иметь нулевую длину (быть вершиной).

Аналогично определяются однослойные односвязные диаграммы:

Определение 6. Приведенную односвязную R-диаграмму М равенства слов u,v с границей дМ = 7 U 5, ) = и, ip(5) = v-1, будем называть однослойной, если

1) М состоит из областей D1,D2,..., Dm, где Dj П Dj+1 = ej ,j = 1,m — 1, Dj П 7 = 0, Dj П 5 = 0, j = 1, m, ej ребро,

или

p p

2) M = ( U Ni) U ( U ftj) Ni - поддиаграммы, (диски) в M с границам,и dNi = ji U 5i,

г=1 j=2 ___

J^Si = {Ai, Bi} - вершин ы, г = 1, p, fli - простые пути с ко нцами Bi-1, Ai, г = 2,р, где каждое Ni состоит из облаcm,ей, Di1, Di2,..., Di , причем Dij П Dij+1 = eij ,j = 1,m,i — 1, Dij П 7 = 0, Dij П 5 = 0,j = 1,mi, eij - ребро.

Далее будем рассматривать равенство и сопряженность слов w, v, заданных в нормальной форме [3], то есть w = w1w2 ... Wk, v = V\_V2 .. .Vk, где wi ,vi e Gil ,1 = 1, k, Gil есть либо группа Кокстера с древесной структурой, либо группа Кокстера экстрабольшого типа из представления (1), причем слоги wi,wi+1, а также vi, V1+1, принадлежат разным группам из (1), wi,vi не являются элементами из объединяемых подгрупп. Заметим, что в случае равенства слов, количество слогов в словах w,v совпадает [3].

Лемма 2. Пусть М - приведенная односвязная R-dua,z^,M,M,a, равенства R и R-несократимых слов w,v e G над группой Кокет,ера, G. Тогда, М является однослойной.

Пусть М - приведенная связная кольцевая R-диагщмма сопряженности слов <р(а), <^>(т) e G над группой Кокстера G, не содержащая (s — г) -облаетей; а, т - соответственно внешний и внутренний граничный, циклы, М, слова, <р(а), (р(т) циклически R и R-несократимы. Тогда, М является однослойной.

Доказательство. Пусть w = v и w = w1w2... wu, v = v1v2 ...Vk, где wi ,vi e Gil ,1 = 1, k, Gil есть либо группа Кокстера с древесной структурой, либо группа Кокстера экстрабольшого типа из представления (1), причем wi,wi+1, а также vi,vi+1, принадлежат разным группам из (1) и не являются элементами из объединяемых подгрупп. По теореме ван Кампена [3] существует R - диаграмма М равенства слов w = v над G такая, что дМ = 7 U = w,

<p(S) = v-1, ф(дМ) = (p(^)ip(5) = wv-1. Имеем w1w2 .. .Wk = v1v2 .. .Vk.

Рассмотрим слова —1, и^ Пути с метками VI и -—1 выходят из одной точки, У1,—1 из С^. Допустим, что концы этих путей не совпадают, тогда существует кратчайший путь с меткой и такой, что метка граничного цикла поддиаграммы в М имеет вид и-1у-1т 1, где и-1у-1—1 = 1, то есть у- —1 = и, и € Сг1. Если V = то по теореме 2.6, а также лемме 2.3 из [3], единственно возможными случаями для равенства слов у и — в рассматриваемом классе групп являются случаи, когда и равно 1 или и равно а^, где (а^; а2) - объединяемая подгруппа для Сг1 и Получаем, что либо —1 = у^ либо —1 = у1((11.

1. Допустим, что —1 = Ь1, где —1, У1 € Сг1, тогда поддиаграмма диаграммы М с граничной меткой V- —1 (г>- —1 = 1) является Дг1 - диаграммой М1 равенства слов —1 = У1 над С^, причем Дг1 С Д и является объединением Д^ из дМ1 = и 81, ^(^1) = —ь 1) =

<р(дМ1) = (р(гу1)(р(61) = —1у-1. Из работ [12], [13] имеем, что данная диаграмма является однослойной.

2. Если —1 = г^а^, где (а%1) - объединяемая подгруппа для Сг1 и то поддиаграмма диаграммы М с граничной меткой а^у-1—1 (аг1У-1—1 = 1) является Д^- диаграммой М1 равенства слов —1 = ь1аг1 в дМ1 = 71 и 1) = — р(= аг1У-1,

дМ1) = (р(^1)(р(61) = —-^а^у-1. № работ [12], [13] имеем, что М1 является однослойной.

Далее для случая 1 в С имеем равенство слов —2 .. .—к = у2 ... у к- Дл я —2, у2 также возможны два случая:

а) —2 = у2, где —2, и2 € Сг2. Тогда поддиаграмма диаграммы М с граничной меткой у-1—2 является Дг2 -диаграммой М2 равенства слов —2 = 1)2 над Сг2, М2 однослойна, как следует из [12], [13], и связана вершиной с М^. Далее рассматриваем равенство слов .. .—к = Уз ...Ук-

б) —2 = У2аг2, где (а2 ;а22) - объединяемая подгруппа для Сг2 и Сг3, тогда поддиаграмма диаграммы М с граничной меткой аг2у-1—2 есть Дг2-диаграмма М2 равенства слов —2 = У2а%2 над Сг2, дМ2 = ^2 и §2, <р(72) = —2, <р(62) = аг2у-1, прпчем Дг2 С Д и является объединением Д^ из С^. Из работ [12], [13] имеем, что данная диаграмма является однослойной. М2 связана вершиной с М^ Далее рассматриваем равенство слов .. .—к = аг2у3 ...Ук- И так далее.

В случае 2 рассмотрим равенство —2 .. .—к = а^ у2 ... у к и слов а —2, аг1 у2. Для них возможны два случая:

а) —2 = аг1 У2- Тогда подддиаграмма диаграммы М с граничной ме ткой у-1аг1—2 ее т ь Д^2-диаграмма М2 равенства слов —2 = аг1 У2 над Ог2. Она является однослойной и будет иметь общее ребро с меткой а^ с М^. Далее рассматриваем равенство слов .. .—к = у3 ...ук.

б) —2 = аг1 у2а^. Рассматриваем Дг2-диаграмму М2 равенства слов —2 = аг1 у2а^ над Сг2. Она является однослойной и имеет общее ребро с меткой а1 с М1. Далее рассматриваем равенство слов .. .—к = аг2 у3 ... у к-

Д

мы М над С с граничным циклом дМ = 7р(^) = р(5) = у-1, р(дМ) = р(/у)р(5) = —у-1, удовлетворяющей условиям леммы.

Таким образом, приведенная односвязная Д-диаграмма М равенства Д и Д-несократимых слов —,у € С над группой Кокстера С является однослойной.

М Д

ности слов —,у, для которой выполнены условия леммы. Пусть г-1—г = V, — = —1—2 .. .—к, где —1, Vi € Оц ,1 = 1,к, Оц есть либо группа Кокстера с древесной структурой, либо группа Кокстера экстрабольшого типа из представления (1). На основании теоремы 2.8 из работы [3] получаем, что любое циклически приведенное слово, сопряженное является циклической перестановкой элементов —1,—2,... ,—к,ч последующим сопряжением словом из объединяемой подгруппы. Тогда слово V = У1У2 ... Ук должно быть равно слову Н-1 —1+1 ... —к—1... где Ъ = 1, либо Н = а^, а^ принадлежит объединяемой подгруппе (а^; а2 ) для Оц, Поэтому

равенство г-1—г = V должно сводится к равенству слов Н-1 ... —к—1... —ьН = у1у2 ... Ук-Диаграмма равенства слов Н-1—ь+1... —к—1... — ьН и у1у2 ... Ук имеет такое же строение, как

рассмотрено выше. Склеивая ее по ребру с меткой Н = ац, либо по вершине, соответствующей Н = 1, получаем диаграмму сопряженности слов — ,и. В полученной диаграмме все вершины являются граничными, а любая область пересекает и а, и т, где = р(т) = V. Поэто-

Д М

условию леммы, является однослойной.

Из строения рассмотренных диаграмм и теоремы 1 легко показать справедливость для группы С известных для групп Кокстера результатов о разрешимости проблем равенства и сопряженности слов.

3. Проблема корня

Теорема 2. [Ц] Слово — группы Кокстера экстрабольшого типа имеет конечный порядок тогда и только тогда, когда оно сопряжено с некоторым словом € С^ = (аг, а^; (ага^)т, а2, а22).

Теорема 3. [15] Слово — группы Кокстера с древесной структурой имеет конечный порядок тогда и только тогда, когда оно сопряжено с некоторым словом € С^ = (аг, а^; (ага^)т,а2, а2).

Далее рассмотрим следующий результат:

Теорема 4. [3] Каждый элемент конечного порядка в свободном произведении с объединением, К *и Н сопряжен с некоторым элементом конечного порядка, в К или Н.

Из теоремы 4 получаем утверждение для обобщенных древесных структур групп Кокстера:

Теорема 5. Слово — обобщенной древесной структуры групп Кокет,ера, С имеет конечный порядок тогда и только тогда, когда оно сопряжено с некоторым словом

€ = (аг, а^; (ага^)т,а2, а2).

Теорема 6. [16]. Пусть С - древесное произведение групп

С = *С3; ф]г(Пгз) = и^

объединенных по изоморфным подгруппам, и^ < Си и^ < С с помощью фиксированного набора конструктивных изоморфизмов ф^: ф^г(и^) = иТогда, если подгруппы, и^ и и^ обладают условием максимальности и в сомножителях разрешимы:

1. проблема вхождения;

2. проблема пересечения классов смежности любой конечно порожденной подгруппы, Н < Ог с подгруппой и^ < Сг;

3. существует алгоритм, выписывающий, образующие пересечения любой конечно порожденной подгруппы, Н < Ог с подгруппой и^ < Сг,

то в группе С разрешим,а, проблема вхождения.

Группа Кокстера с древесной структурой, представленная в виде древесного произведения двупорожденных групп Кокстера, объединенных по конечным циклическим подгруппам, удовлетворяет условиям данной теоремы.

Следствие 1. В группе Кокстера с древесной структурой разрешима, проблема вхождения, в циклическую подгруппу.

Т еорема 7. [17] В группе Кокет,ера, экстрабольшого типа разрешима проблема вхождения в циклическую подгруппу.

Теорема 8. Пусть слово ад € С имеет бесконечный порядок. Тогда сущесвует слово адо, сопряженное ад либо ад2 в группе О, любая степень которого циклически Я и К-несократима.

Доказательство. Для доказательства теоремы выберем в качестве адо слово минималь-

ад ад2 ад

порядок, то ад € ^¿у. Пусть

ад = ад'1ад'2 .. .ад'п

- нормальная форма слова ад, где ад[ € С[, С[ - либо группа Кокстера с древесной структурой, либо группа Кокстера экстрабольшого типа из (1). Считаем, что ад[ ,ад'п принадлежат одной группе из (1). Если это не так, то перейдем к сопряженному слову. Заменим каждое ад[ на минимальное слово ад", равное ем у в Это можно сделать в силу разрешимости проблемы равенства слов в Очевидно, что внутри слов ад" нет Д и Д-сокращений. Запишем слово ад = ад'(ад'2... ад" на окружности и выполним все возможные Д-сокращения в циклическом

адо ад

адо

слове ад'о выполнимо Д-сокращение. Выполнив такое сокращение, получим слово адо, любая степень которого циклически Д и Д-несократима.

Определение 7. Будем говорить, что в группе С разрешима проблема корня, если существует алгоритм, позволяющий для любого ад € О установить, существуют лип € N \ {1} их € С такие, что хп = ад.

Теорема 9. В обобщенных древесных структурах групп Кокстера разрешима, проблема корня.

Доказательство. Пусть (ад)п = V. Если элементы ад,ь имеют конечный порядок, то доказательство очевидно в силу теоремы 5. Возьмем в рассматриваемой группе Кокстера С элементы бесконечного порядка, причем адп = V. Отсюда ад2п = V2. Заменим ад2 на сопряженное с ним циклически Д и Д-несократимое слово адо в соответствии с теоремой 8. Получим ад$ = г-1у2г. Заменим г-1у2£ равным ему в группе С Д и Д-несократимым словом Уо- Тогда существует приведенная односвязная однослойная (по лемме 2) Д-диаграмма М равенства слов ад^ = уо такая, что дМ = 7 и = ад<р(5) = V-1, <^(дМ) = <р(7)^(5) = адЦу-1, при-

чем число областей, граничащих с 7 и одинаково. Пусть го - самое длинное слово из Д, а р

- число областей, выходящих на 7 и §. Количество ребер, принадлежащих 7 не превосходит | Ьо |, количество вершин не превосходит + 1, тогда р < + + 1 = 2|vо| + 1. Имеем п < р^о| < (2^о| + 1)|го|, то есть п < (2|г>о| + 1)|го|. В силу разрешимости проблемы равенства слов в группе С получаем разрешимость проблемы корня.

Заметим, что из доказательства теоремы также следует разрешимость проблемы вхождения, в циклическую подгруппу для группы Кокстера С.

4. Проблема степенной сопряженности слов

Определение 8. Будем говорить, что в группе С разрешим,а, проблема степенной сопряженности слов, если существует алгоритм, позволяющий для любых слов ад,у € С установить, существуют ли ненулевые целые числа, п, т такие, что слова адп, ут сопряжены в группе С.

Теорема 10. В обобщенных древесных структурах групп Кокет,ера, разрешима, проблема, степенной сопряженности слов.

Доказательство. Если w = х, х g {ai}i=j—, то из результатов работ [12], [18] следует, что v = у, у G {ai} i = 1,п, Д-диаграмма сопряженности этих слов состоит из (s — г)-областей и доказательство теоремы сводится к решению проблемы сопряженности слов.

Если одно из слов w,v имеет конечный порядок, то решение проблемы степенной сопряженности для этих слов следует из теорем 4-5.

Пусть слова w,v имеют бесконечный порядок. Если необходимо, перейдем от слов w,v к сопряженным с ними или их квадратами словам wq, vq, любая степень которых циклически Д и Д-несократима, на основании теоремы 8. Рассмотрим приведенную Д-диаграмму M сопряженности слов w-, v™ с границей dM = a Ut, причем p(a) = w-, p(r) = v-m. Считаем m, п минимальными, то есть из M нельзя вырезать поддиаграмму, замкнув которую в кольцо, получим Д-диаграмму степенной сопряженности слов wq, vq. Покажем, что числа т,п можно ограничить. Рассмотрим сначала случай, когда |wo| = |fo|.

Общий случай сводится к данному при рассмотрении соответствующих минимальных степеней wq, Vo, для которых выполняется условие равенства длин.

Д

нослойной. Заметим, что между любыми двумя областями, имеющими на а(т) на два ребра меньше, чем на т(a) содержится область, имеющая на а(т) на два ребра больше, чем на r(a),

M Д

быть только одна область, имеющая на а(т) на два ребра больше, чем на r(a), поскольку склеив два экземпляра Д-диаграммы M, получим Д-сократимость квадрата граничной метки M

Допустим, что существут область D\: lip(dD\ П a)| = |p^D1 П т)| + 2.

Пусть w** - циклическая перестановка слова wo, причем p(dD\ П a) - начало слова w**. Рассмотрим поддиаграмму L = Di U D2 U ... U Dr с минимальным г такую, что w** является подсловом слова и = p(dL П a). Возможны следующие случаи:

1.1. Пусть ^(D^r^) П a| > 1. Наклеим область Di по границе a на область Dr+1. Тогда слова p(D1) и p(Dr+1) взаимно обратны. Следовательно, p(dDi П a) = p(dDr+i Пff), p(dDi) = = p(dDr+i). Обозначим через D0 область, предшествующую Di. Имеем p(dD0 П dDi) = = p(dD r П dDr+i). Склеим ребра dDo П dDi,dDr П dDr+i поддиаграммы L. Получим сопряженность w**, f**, и, следовательно, сопряженность wq, vq.

1.2. Пусть |д(Dr+1) П a| = 1, то есть Dr+i имеет с a общее ребро. Наклеим область Di по границе a на области Dr+i,Dr+2- Тогда есть внутренняя вершина степени не меньше 3, что невозможно.

1.3. Пусть |д(Dr+i) П a| < 1, то есть Dr+i имеет с a только общую вершину. Заметим, что невозможен случай, когда ^j^i) П т| < 1. Действительно, наклеив область Di по границе a на область Dr+2, получим, что слова p(Di) и p(Dr+2) взаимно обратны (исключаем случай, когда выделяется внутренняя вершина степени 3) и p(dDo ПдDl) = p(dDr+i ПдDr+2) Пусть p(dD0 ПдD1) = b, тогда p(дDr+1 ПдDr+2) = b. Пусть p(дD1 ПдD2) = a, a, p^Dr ПдDr+1) = с. Тогда в графе Кокстера Г соответствующем группе G, должен выделится цикл, в котором

a, ,

что невозможно. Поэтому П т| > 1. Рассматривая области Dr+i, Dr,..., Di вдоль т и

наклеивая Dr+i на Do проводим рассуждения, аналогичные п. 1.1, получаем сопряженность w**, v** и, следовательно, сопряженность wq, vq.

2. |wo| < |и|. Наклеим область Di по границе a на области Dr, Dr+i. В данном случае либо метка p(Do) области Do, предшествующей Di, либо метка p(Dr+i) области Dr+i сократимы в F, либо выделяется внутренняя вершина степени не меньше 3, что невозможно.

Если для любой области D: ^(дD П a)| = ^(дD П т)|, то в силу того, что метка каждого

p

Таким образом, адо = уо и, следовательно, адо ~ уо.

Рассмотрим теперь случай простой кольцевой Я-диаграммы.

р р

Лемма 3. Пусть М = ( и N1) и ( и ^^) - простая кольцевая Я-диаграмм,а, сопряжен-_ г=1 3=1

ности циклически Я, Я-несократимых слов ад$,у™, N1 - поддиаграммы (диски) в М с границами дЫг = и ^,01 П ъ = {Аг,Вг} - вершины, г = 1,р, ^ - простые пути с концам,и Вг-1,Аг,г = 2, р, простой путь имеет начало Вр, а конец - А1; причем числа, т,п наименьшие с таким свойством. Тогда |7г| < = 1,р, ир < |адо|2.

Доказательство. Допустим, что |7г| > |адо| при г = 1,р. Тогда циклические перестановки слов адо, Уо совпадают и, следовательно, слова адо,Уо сопряжены, что невозможно в силу минимальности чисел т, п.

Покажем, что р < |адо|2. Пронумеруем буквы в адо,уо : адо = х1х2 ... х\,Ш0\,Уо = у1у2 ... у^. Среди этих букв могут встретиться одинаковые, но будем рассматривать вхождения этих букв, поэтому считаем буквы, стоящие на разных местах, разными.

Далее рассмотрим метки ребер е^ € и € ^ диаграмм N1, прилегающих к В¿. Метками ребер е^ являются буквы х^, причем существует не более |адо| различных букв хДопустим, что р > |адо|, тогда хотя бы одна из этих букв повторяется. Однако каждая буква повторяться может не более, чем раз, поскольку иначе повторится соответствующая метка х^ ребра и из М можно вырезать поддиаграмму так, что, замкнув оставшуюся часть в кольцо, получим Д-диаграмму, удовлетворяющую условию леммы, а это невозможно в силу минимальности чисел т, п. Итак, р < |адо||г>о|. А так как |адо| = |г>о|, то р < |адо|2. Лемма доказана.

Будем считать диск N1 с границ ей дИ^ = а г и ъ, а г П ^ = {А^,В^} длинным, если он имеет имеет метку ^(щ) такую, что || > 4|адо| и коротким в противном случае. По лемме 3 в случае, когда все диски Д-диаграммы М короткие, числа т, п можно ограничить. Теперь рассмотрим длинный диск N1. Пусть в диске N1 существут область |^(дDl П= |^(дDl Пъ) +2. Начиная с данной области повторим рассуждения, проведенные для кольцевой Я-диаграммы. Получим противоречие с минимальностью чисел т, п. Если в диске N1 для любой области И, за исключением областей, содержащих вершины Аг, Вг, справедливо ^(дИПа)| = ^(дИПт)|, то из приведенных выше рассуждений также получим противоречие с минимальностью чисел т, п. Таким образом, невозможен случай, когда в Д-диаграмме М существуют длинные диски.

Теорема доказана.

Заметим, что разрешимость проблемы степенной сопряженности слов для групп Кокстера эктраболыного типа показана в работе [13], для групп Кокстера с древесной структурой - в работе [19].

5. Заключение

В современной комбинаторной теории групп наиболее трудным является доказательство разрешимости различных алгоритмических проблем, поэтому данное направление считается актуальным и важным.

Результаты, изложенные в статье, направлены на решение алгоритмических проблем в обобщенных древесных структурах групп Кокстера.

Рассмотренный в статье класс групп важен для изучения алгоритмических проблем в группах Кокстера, которые могут либо быть представлены как обобщенные древесные структуры групп Кокстера, образованные из групп Кокстера с древесной структурой заменой некоторых вершин соответствующего дерева-графа группами Кокстера большого или экстрабольшого ти-

пов, а также группами Кокстера с п-угольной структурой, либо непосредственно принадлежат к перечисленным классам [11].

Результаты исследования докладывались на Тульском научном алгебраическом семинаре «Алгоритмические проблемы теории групп и полугрупп» и Всероссийской конференции «Алгебра и теория алгоритмов», посвященной 100-летию факультета математики и компьютерных наук Ивановского государственного университета.

Для решения алгоритмических проблем в обобщенных древесных структурах групп Кокстера применялись современные комбинаторные и геометрические методы исследования, в частности, метод диаграмм, введенный ван Кампеном, переоткрытый Р. Линд оном и усовершенствованный В. Н. Безверхним в части введения Д-сокращений.

Автор выражает благодарность В. И. Безверхнему за внимание к работе.

СПИСОК ЦИТИРОВАННОЙ ЛИТЕРАТУРЫ

1. Dehn M. Uber unendliche diskontinuierliche Gruppen // Math. Annal. 1912. Vol. 71. P. 116-144.

2. Магнус В., Каррас А., Солитэр Д. Комбинаторная теория групп. М.: Наука, 1974.

3. Линдон Р., Шуп П. Комбинаторная теория групп. М.: Мир, 1980.

4. Новиков П. С. Об алгоритмической неразрешимости проблемы тождества в теории групп // Труды МИЛИ СССР. 1955. Т. 44. С. 3-143.

5. Coxeter H. S. M. Discrete groups generated by reflections // Ann. Math. 1934. Vol. 35. P. 588621.

6. Tits J. Groupes simples et geometries associees // Proc. Int. Congress Math. Stocholm. 1962. P. 197-221.

7. Schupp P. Coxeter Groups, 2-Completion, Perimeter Reduction and Subgroup Separability // arXiv math. GR/0203020. 2002. Vol. 1. P. 1-21.

8. Appel К., Schupp P. Artins groups and infinite Coxter groups // Ivent. Math. 1983. Vol. 72. P. 201-220.

9. Bahls P. The isomorphism problem in Coxeter groups. London: Imperial College Press, 2005.

10. Лысенок И. Г. О некоторых алгоритмических свойствах гиперболических групп // Известия АН СССР. Сер. матем. 1989. Т. 53. №4. С. 814-832.

11. Безверхний В.Н., Безверхняя Н.Б., Добрынина И. В., Инченко О. В., Устян А.Е. Об алгоритмических проблемах в группах Кокстера // Чебышевский сборник. 2016. Т. 17, №4. С. 23-50.

12. Инченко О. В. Проблемы равенства и сопряженности слов в группах Кокстера с древесной структурой // Чебышевский сборник. 2005. Т. 6, №2. С. 81-90.

13. Безверхний В.Н., Добрынина И. В. Решение проблемы степенной сопряженности слов в группах Кокстера экстрабольшого типа // Дискретная математика. 2008. Т. 20, №3. С. 101-110.

14. Безверхний В.Н., Добрынина И. В. Об элементах конечного порядка в группах Кокстера большого типа // Известия Тульского государственного университета. Сер. Математика. Механика. Информатика. 2003. Т. 9, №1. С. 13-22.

15. Безверхний В.Н., Инченко О. В. О кручении в группах Кокстера с древесной структурой // Чебышевский сборник. 2005. Т. 6, №1. С. 5-12.

16. Безверхний В. Н. Решение проблемы вхождения в некоторых классах групп с одним определяющим соотношением // Алгоритмические проблемы теории групп и полугрупп. Тула. ТГПИ. 1986. С. 3-22.

17. Безверхний В.Н., Добрынина И. В. Решение проблемы вхождения в циклическую подгруппу в группах Кокстера большого типа // Известия Тульского государственного университета. Сер. Математика. Механика. Информатика. 2004. Т. 10, №1. С. 23-37.

18. Безверхний В.Н., Добрынина И. В. Решение проблемы сопряженности слов в группах Кокстера большого типа // Чебышевский сборник. 2003. Т. 4, №1. С. 10-33.

19. Безверхний В. Н., Инченко О. В. Проблема степенной сопряженности слов в группах Кокстера с древесной структурой // Известия Тульского государственного университета. Сер. Математика. Механика. Информатика. 2005. Т.11. С.63-75.

20. Безверхний В. Н., Добрынина И. В. Решение проблемы обобщенной сопряженности слов в группах Кокстера большого типа // Дискретная математика. 2005. Т. 17, №3. С. 123-145.

REFERENCES

1. Dehn, \!.. 1912, "Uber unendliche diskontinuierliche Gruppen", Math. Annal, vol. 71, pp. 116-144.

2. Magnus, W., Karras, A., Solitar, D., 1974, Combinatorial group theory, Nauka, Moscow.

3. Lyndon, R.& Schupp, P., 1980, Combinatorial group theory, Mir, Moscow.

4. Novikov, P. S., 1955, "On the algorithmic unsolvabilitv of the word problem in group theory", Trudy Mat. Inst. Steklov., vol. 44, pp. 3-143.

5. Coxeter, H. S.M., 1934, "Discrete groups generated by reflections", Ann. Math., vol. 35, pp. 588-621.

6. Tits, J., 1962, "Groupes simples et geometries associees", Proc. Int. Congress Math. Stocholm, pp. 197-221.

7. Schupp, P., 2002, "Coxeter Groups, 2-Completion, Perimeter Reduction and Subgroup Separability", arXiv math. GR/0203020, vol. 1, pp. 1-21.

8. Appel, К. k, Schupp, P., 1983, "Artins groups and infinite Coxter groups", Ivent. Math., , vol. 72, pp. 201-220.

9. Bahls, P., 2005, The isomorphism problem in Coxeter groups, Imperial College Press, London.

10. Lvsenok, I.G. 1990, "On some algorithmic properties of hyperbolic groups," Math. USSR-Izv., vol. 35, no. 1, pp. 145-163.

11. Bezverkhnii, V. N., Bezverkhnvava, N. В., Dobrvnina, I. V., Inchenko О. V., Ustvan A. E, 2016, "On algorithmic problems in Coxeter groups", Chebyshevskii Sb., vol. 17, no. 4, pp. 23-50.

12. Inchenko, O.V., 2005, "Problems of words and conjugacv of words in Coxeter groups with a tree structure", Chebyshevskii Sb., vol. 6, no. 2, pp. 81-90.

13. Bezverkhnii, V.N. к Dobrvnina, I. V., 2008, "A solution of the power conjugacv problem for words in the Coxeter groups of extra large type", Diskr. Mat., vol. 20, no. 3, pp. 101-110.

14. Bezverkhnii, V.N. к Dobrvnina, I. V., 2003, "On elements of finite order in Coxeter groups of large type", Izvestia of Tula state University. Ser. Math. Mechanics. Inform,atics, vol. 9, no. 1, pp. 13-22.

15. Bezverkhnii, V.N. к Inchenko O.V., 2005, "On torsion in Coxeter groups with tree structure", Chebyshevskii Sb., vol. 6, no. 1, pp. 5-12.

16. Bezverkhnii, V. N., 1986, "Solution of the problem of inclusion in some class of groups with one relation ", Algorithmic problems of theory of groups and semigroups, Tula: TSPU, pp. 3-22.

17. Bezverkhnii, V.N. к Dobrvnina, I.V., 2004, "Solution the problem of occurrence in a cyclic subgroup in the Coxeter groups of large type", Izvestia of the Tula state University. Ser. Math. Mechanics. Inform,atics, vol. 10, no. 1, pp. 23-37.

18. Bezverkhnii, V.N. к Dobrvnina, I.V., 2003,"Solution of the conjugacv problem for words in Coxeter groups of large type", Chebyshevskii, Sb., , vol. 4, no. 1, pp. 10-33.

19. Bezverkhnii, V.N. к Inchenko O.V., 2005, "Power conjugacv problem for words in Coxeter groups with tree structure", Izvestia of Tula state University. Ser. Math. Mechanics. Inform,atics, vol. 11, pp. 63-75.

20. Bezverkhnii, V. N. к Dobrvnina, I. V., 2005, "Solution of the generalized conjugacv problem for words in Coxeter groups of large type", Diskr. Mat., vol. 17, no. 3, pp. 123-145.

Получено 16.04.2018

Принято в печать 17.10.2018