УСТОЙЧИВЫЕ И ВПОЛНЕ НЕУСТОЙЧИВЫЕ ПЕРИОДИЧЕСКИЕ ТОЧКИ ДИФФЕОМОРФИЗМА ПЛОСКОСТИ С ГЕТЕРОКЛИНИЧЕСКИМ КОНТУРОМ

УДК 517.925.53 Вестник СПбГУ. Математика. Механика. Астрономия. 2020. Т. 7 (65). Вып. 3 МБС 37С75, 37С29, 34С37

Устойчивые и вполне неустойчивые периодические точки диффеоморфизма плоскости с гетероклиническим контуром*

Е. В. Васильева

Санкт-Петербургский государственный университет,

Российская Федерация, 199034, Санкт-Петербург, Университетская наб., 7—9

Для цитирования: Васильева Е. В. Устойчивые и вполне неустойчивые периодические точки диффеоморфизма плоскости с гетероклиническим контуром // Вестник Санкт-Петербургского университета. Математика. Механика. Астрономия. 2020. Т. 7(65). Вып. 3. С. 392-403. https://doi.org/10.21638/spbu01.2020.303

Изучается диффеоморфизм плоскости в себя с тремя неподвижными гиперболическими точками. Предполагается, что в пересечениях неустойчивого многообразия первой точки и устойчивого многообразия второй точки, неустойчивого многообразия второй точки и устойчивого многообразия третьей точки, неустойчивого многообразия третьей точки и устойчивого многообразия первой точки лежат гетероклинические точки. Орбиты неподвижных и гетероклинических точек образуют гетероклиниче-ский контур. Исследуется случай, когда устойчивые и неустойчивые многообразия пересекаются нетрансверсально в гетероклинических точках. Среди точек нетранс-версального пересечения устойчивого многообразия с неустойчивым многообразием выделяют, прежде всего, точки касания конечного порядка (в этой работе такие точки не рассматриваются). В работах Л. П. Шильникова, С. В. Гонченко и других авторов изучались диффеоморфизмы с гетероклиническими контурами, предполагалось, что точки нетрансверсального пересечения устойчивых и неустойчивых многообразий являются точками касания конечного порядка. Из работ этих авторов следует, что существуют диффеоморфизмы, у которых в окрестности гетероклинического контура имеются устойчивые и вполне неустойчивые периодические точки. В данной работе предполагается, что точки нетрансверсального пересечения устойчивых и неустойчивых многообразий не являются точками конечного порядка касания. Показано, что в окрестности такого гетероклинического контура могут лежать два счетных множества периодических точек. Одно из этих множеств состоит из устойчивых периодических точек, характеристические показатели которых отделены от нуля, второе — из вполне неустойчивых периодических точек, характеристические показатели которых также отделены от нуля.

Ключевые слова: диффеоморфизм плоскости в себя, гиперболические неподвижные точки, гетероклинические точки, гетероклинический контур, нетрансверсальное пересечение, устойчивость.

1. Введение. В предлагаемой работе изучаются диффеоморфизмы плоскости в себя класса Сг (1 < г < то) с негрубым гетероклиническим контуром. Основная цель работы — выделить класс диффеоморфизмов, у которых в ограниченной окрестности контура лежат бесконечные множества устойчивых и вполне неустойчивых периодических точек с отделенными от нуля характеристическими показателя-

* Работа выполнена при финансовой поддержке РФФИ (грант №19-01-00388). (¡5 Санкт-Петербургский государственный университет, 2020

ми. Периодическая точка диффеоморфизма плоскости является устойчивой, если ее характеристические показатели отрицательны, гиперболической (седловой) — если эти показатели разных знаков. Назовем периодическую точку вполне неустойчивой, если ее характеристические показатели положительны. Пример диффеоморфизма плоскости, у которого в ограниченной части плоскости лежит счетное множество устойчивых периодических точек с отделенными от нуля характеристическими показателями, приведен в [1].

Пусть F — диффеоморфизм плоскости в себя, F : R2 ^ R2, а z — периодическая точка периода m (при m = 1 точка называется неподвижной). Пусть р i, р2 — собственные числа матрицы DFm(z), тогда характеристическими показателями точки z называются величины

Vi =

Пусть zi, Z2, ..., zn — неподвижные гиперболические точки диффеомофизма F, пусть Ws(z1), Wu(z1), ..., Ws(zn),W"(zn) — устойчивые и неустойчивые многообразия этих точек, ни одно из этих многообразий не является тривиальным. Предположим, что существуют такие точки wi,W2, ..., wn, что wi G W"(zi^p| Ws(zi+i), i = 1, 2, ..., n — 1, wn G Ws(zi)p| W"(z„). Точки wi,w2, ..., wn при n > 1 называются гетероклиническими точками, объединение траекторий точек wi,w2, ..., wn и их предельных множеств называют гетероклиническим контуром. При n = 1 говорят, что у гиперболической неподвижной точки имеется гомоклиническая к ней точка. Гетероклинический контур называется грубым, если во всех гетероклиниче-ских точках устойчивые и неустойчивые многообразия пересекаются трансверсаль-но, в противном случае контур называется негрубым. Аналогично, если устойчивое и неустойчивое многообразия в гомоклинической точке пересекаются трансверсально, то такая гомоклиническая точка называется грубой или трансверсальной, в противном случае — негрубой или нетрансверсальной.

Диффеоморфизмы с негрубыми гетероклиническими контурами изучаются во многих работах (см. [2-5]). Касание устойчивого и неустойчивого многообразий в гетероклинической точке определяется скалярной функцией двух переменных, которая выражается с помощью исходного диффеоморфизма. Если существует такое число l > 1, что значения всех производных указанной функции по одной из координат в гетероклинической точке до порядка l — 1 равны нулю, а значение прозводной порядка l отлично от нуля, то говорят, что касание устойчивого и неустойчивого многообразий является касанием конечного порядка. При l = 2 касание называется квадратичным. В работе [6] показано, что в окрестности негрубой гомоклиниче-ской точки с конечным порядком касания может лежать бесконечное множество устойчивых периодических точек, но хотя бы один из характеристических показателей стремится к нулю с увеличением периода. В [3] изучался диффеоморфизм с негрубым гетероклиническим контуром при n = 2. Предполагалось, что в гетеро-клинических точках касание не более чем квадратичное. Показано, что в окрестности контура лежит бесконечное множество устойчивых периодических точек, но характеристические показатели этих точек стремятся к нулю с ростом периода. В [4] и [5] продемонстрировано, что в окрестности диффеоморфизма с негрубым ге-тероклиническим контуром с n > 1 , у которого гетероклинические точки являются точками с не более чем квадратичным касанием, лежат диффеоморфизмы с бесконечным множеством устойчивых и вполне неустойчивых периодических точек. В [7] показано, что в окрестности негрубой гомоклинической точки в случае, если она не

является точкой с конечным порядком касания, может лежать бесконечное множество устойчивых периодических точек с отделенными от нуля характеристическими показателями.

В данной работе изучаются диффеоморфизмы плоскости в себя с негрубым ге-тероклиническим контуром при п = 3. Предполагается, что касания устойчивых и неустойчивых многообразий не являются касаниями конечного порядка. Показано, что в произвольной окрестности контура могут лежать счетные множества устойчивых и вполне неустойчивых периодических точек с отделенными от нуля характеристическими показателями.

2. Основная теорема. Пусть Р : К2 ^ К2 — диффеоморфизм, пусть точки О = (0,0), Л = (а1,а2), Б = (61,62), где 0 < а1 <61, а2 < 0 < 62, — его гиперболические неподвижные точки. Предположим, что существуют VI, ^з такие ограниченные окрестности точек О, Л, Б соответственно, что

где (ж, у) е VI,

где (ж, у) е ,

^ж ) =

р/ ж\ =

> у ) I а2 + ^2

р / ж \ А 61 + Мз

^ у у1 = I 62 + Лз

где (ж, у) е V? и 0 < Л4 < 1 < г = 1, 2, 3. Предположим, что

Л1^2 < 1, Л2^з < 1, Лз^з > 1,

Л1^1Л2М2Л3МЗ < 1.

Пусть а е N таково, что

Л1М1Л2М2

Предположим, что множества V! и Р(V!), V2 У Р(V2), V? и Р(V?) попарно не пересекаются.

Локальные устойчивые и неустойчивые многообразия ^0с(О), ^0с(О) лежат на осях координат, а ^^с(Л), ^0с(Л), ^^с(Б), ^0с(Б) лежат на прямых, параллельных осям.

Пусть положительные р^, где г = 1, ..., 6, таковы, что 0 < р1 <62, 0 < р2 < рз < а1, 0 < р4 < р5 < 62, 0 < рб < 61. Считаем, что справедливы следующие соотношения: (0,^1) е (0,^1) е Р(Vl), (р2,0) е Р(Vl), (р2,0) е (рз,а2) е V2, (рз,а2) е Р(V?), (а1,р4) е Р(V!), (а1 ,Р4) е V, (61,^5) е Уз, (61,Р5) е Р(V!), (рб,62) е Р(^з), (рб,62) е ^з. Ясно, что (0,Р1) е ш?ос(О), (Р2,0) е (О), (рз,а2) е ^ос(Л), (а1,р4) е ЩЛ), (61,Р5) е ^(Б), (рб,62) е ЩБ).

Пусть ^1, ^2, Цз — такие окрестности точек (р2, 0), (а1 ,р4), (рб,62), что Ц С Р(V;), р|V == 0, а 51, 52, 5з — такие окрестности точек (0,р1), (рз,а2), (61,р5), что 5 С Ц, ^ П Р(V) = 0, г = 1, 2, 3.

Предположим, что существуют такие натуральные wi, i = 1, 2, 3, что сужения F"¿ |и имеют следующий вид:

F "И fx\ =

F |U4 y) V «2 + y + fi(x — P2,yW,

F H yj = 1 P5 +

y) =(y—62 +i-T——b2>)' <i0»

где fi, i = 1, 2, 3, — это функции класса Cr, определенные в окрестности начала координат. Предположим, что

шч 2^2-2^22-0. ' = i,2,з.

Считаем, что справедливы включения F"(Ui) С Si+1, i = 1, 2, F"3 (U3) С S1. Предположим, что множества U¿, F(Ui),..., F"¿(U¿), где i = 1, 2, 3, попарно не пересекаются, и ни одно из множеств F (Ui),..., F"i-i (Ui), i = 1, 2, 3, не пересекается ни с одним из множеств Vi U F(Vi), V2 U F(V2), V3 U F(V3).

Из условий (8)-(11) следует, что у диффеоморфизма F имеется негрубый ге-тероклинический контур, состоящий из неподвижных точек O = (0, 0), A = (ai, 02), B = (61,62) и траекторий гетероклинических точек (0,pi), (^3,02), (61,^5), во всех гетероклинических точках устойчивые и неустойчивые многообразия пересекаются нетрансверсально. Функции fi, i = 1, 2, 3, определяют характер касания устойчивых и неустойчивых многообразий в этих точках.

Точки (рз,а2), (61,Р5), (0,pi) называются точками конечного порядка касания, если существуют такие натуральные I1, I2, 1з, что справедливы соотношения

<9/1

дж дж11 1 ' дж11

Э/2

д/з

= 0,

дж ''' дж'3-1 дж'3 ^

В [3-5] изучались диффеоморфизмы с негрубыми гетероклиническими контурами. Предполагалось, что устойчивые и неустойчивые многообразия во всех гетероклинических точках либо пересекаются трансверсально, либо эти точки являются точками конечного порядка касания.

Для того чтобы определить способы касания устойчивых и неустойчивых многообразий в гетероклинических точках, введем следующие объекты, с помощью которых в дальнейшем определим свойства функций /j, i = 1, 2, 3. Пусть Дк — такая положительная последовательность, что lim Дк = 0, а jk — возрастающая по-

k —^о

следовательность натуральных чисел. Предположим, что существует такое число удовлетворяющее неравенству max[^3-1 ,Л2] < S < 1, что

Дк - Sjk - 5^к+г - Дк+1 > 0 для любого к.

Пусть Ц (к), ^+(к), г = 1, 2, 3, — следующие последовательности непересекающихся множеств:

иг

|х - (Р2 + Ак)| < 4Мз"°Зк,

|у - А1 Зк

=

Зк

ЦТ (к)=

^2 + (к) = Ц"(к) =

и+(к) =

- («1 + А2Зк (рз + Ак - а^)) | < 2 (АЗМз-а) |у - (р4 + АЙ)| < 4"1 (А1А2М2)З

а\3к

1\ Зк

Зк

|х - (Р6 + Ак)| < А2Зк, |у - (62 + АзаЗк (Р5 + Ак - 62)) | < 8-1 (А1А2А3аМ2)3

|х - (рб - Ай )| <4А2Зк, |у - (62 + АзЗк (Р5 - Ай - 62)) | < 32 (А1А2АзМ2)Зк

Считаем, что для всех к справедливы включения ^¿"(к) С ^+(к) С г = 1, 2, 3.

Последовательности ^¿"(к), ^¿^(к), г = 1, 2, 3, определим с помощью равенств: /1 (Ак, АЗ (р1 - Ак)) = М2"Зк (Р4 + Ак - 02) - АЗ (р1 - Ак) + Т1"(к), /1 (-Ак, А1Зк (р1 + Ак)) = М2"Зк (Р4 - Ак - 02) - АЗ (р1 + Ак) + п+(к), /2 (А2Зк (рз + Ак - 01), Ак)) = Мз"аЗк (Р6 + Ак - 61) - А2Зк (рз + Ак - 01) + Т2"(к), /2 (А2Зк (рз - Ай - 01), -Ак)) = мз"Зк (Р6 - Ай - 61) - А2Зк (рз - Ай - 01) + Т2 + (к), /з (Ак, АзаЗк (Р5 + Ай - 62)) = М1"Зк (Р2 + Ай) - АзаЗк (р5 + Ак - 62) + тз"(к), /з (-Ак, АзЗк (Р5 - Ак - 62)) = М1"Зк (Р2 - Ак) - АзЗк (р5 - Ак - 62) + тз+(к).

Предположим, что функции /¿, г = 1, 2, 3, таковы, что при любых к справедливы следующие неравенства:

Зк

|тз"(к)| < (32)"1 (А1А2Аз>2 )Зк, |тз+(к)| < (А1А2АзМ2)Зк . Предположим, что производные функций /¿, г =1, 2, 3, таковы, что

д/1

дх

<

а\ "Зк

d/2

dy д/з

dx

< (M1M2M3a) jk,

< (М1М2Мз°)-jk

при любых k и любых (x, y) G Uj-(k), (x,y) G Uj+(fc), г =1, 2, 3.

Условия (13) означают, что существуют такие последовательности Дк и jk, что значения функций /¿, г =1, 2, 3, в соответствующих точках достаточно близки к указанным значениям, а из условий (14) следует, что производные функций /1, /3 по переменной x и производная функции /2 по переменной y близки к нулю на выделенных множествах. Из этих условий следует, что касания устойчивых и неустойчивых многообразий в точках (0,pi), (рз,а2), (&1,Рб) не являются касаниями конечного порядка.

Теорема. Пусть F — диффеоморфизм плоскости в себя класса Cr (1 < r < то) с негрубым гетероклиническим контуром. Пусть выполнены условия (2)-(14), тогда в произвольной окрестности точки (p2, 0) лежат бесконечные множества устойчивых и вполне неустойчивых периодических точек с отделенными от нуля характеристическими показателями.

Из условий (13), (14) следует, что при 1 < r < то имеет место следующее соотношение:

lim (Дк)гj = +то,

к —^о

где Z = max[^4, (^3)а, (Л1 )-1, (Л2)-1, (Л3)-а]. При r = то при любом натуральном l выполняется

lim (Дк)j = +то.

к—+w

3. Вспомогательные леммы. Обозначим как Sj+(k), Sj-(fc), i = 1, 2, 3, следующие последовательности множеств:

Sr

Ix -

|y - (P1 - Дк)| < 2-1A2jk

S +(k) i |x - M1 jk (P2 - Дк )| < (M1M3) , 1 () 1 |y - (P1 +Дк)|< 8A2jk

S2-

S2+(k)=

S3-

|x - (p3 - Дк)| < 2мз-jk,

|y - (02 + M2-jfc (P4 - Дк - 02^ 1 < 16 (A1A2)j

-

|y - (P5 +Дк)| < 8-1 (Л1Л2M2)jj

- (bi + M3-jk (p6 - Afc - bi)) | < 4 (Л2мз-1) |y - (p5 - Afc)| < 32 (Л1Л2М2)''

S3+(k)4 .......j

Считаем, что для любого k справедливы включения Sj+(k) С Sj, Sj (k) С Sj, i = 1, 2, 3.

Следующие равенства очевидны:

Fjk (Sj+(k)) = Uj+(k), i = 1, 2, 3,

Fjk (Sj-(k)) = Uj-(k), i = 1, 2, Fajk (S3-(k)) = U3-(k).

Лемма 1. Пусть выполнены условия теоремы, тогда справедливы включения F3jk +"1+"2+"3

Доказательство. Для того чтобы доказать лемму, достаточно доказать включения F "i (^+(k)) С S2 + (k), F"2 (U2 + (k)) С S3+(k), F" (U3+(k)) С Si + (k). Фиксируем k и докажем третье из этих включений, остальные доказываются аналогично.

Пусть (ж, y) G U3+(k), тогда

ж = p6 - Afc + u, |u| < 4Л2jk, y = b2 + Лзjk (p5 - Ak - b2) + v, |v| < 32 (Л1Л2ЛзМ2)jk .

Пусть

X | _ риз I x y

тогда представим ж = (p2 — Afc) + й, y = p i + A k + v.

Из условий (10) и определения T3+(k) следует

t*rjk (Ра - Afc) + й = X3jk (ps - Ай - b2) + v + /3 (-Afc + u, A3Jk (ps - Afc - b2) + v),

« = « + тз+(А0 + /3 (-Afc + u, \oJk (ps - Дй - 62) + - /3 (-Afc, A3Jk (ps - Afc - 62)),

U = —и.

Из теоремы о среднем значении следует

+ д/

и = v + r3T(fc) H----u+

дж

df3

ду

где 0 < 0j < 1, i = 1, 2.

Из условий (7), (11), (14) имеем

д/з

< 2-i, (ж, у) G U3+(k),

ду

д/э

и

дх

< 4(М1М2Мэ°ГлА2Л < (А1А2А3.

Получим

|й| < 50 (А1А2Аз/12< (М1М2 N = М < 4А2л < 8А2л.

Лемма доказана.

Лемма 2. Пусть выполнены условия теоремы, тогда справедливы включения

¿1 -

Доказательств о. Для того чтобы доказать лемму, достаточно доказать включения 52"(к) С (иг(к)), 5э"(к) С (и2-(к)), ¿Г (к) С (иэ-(к)). Фиксируем к и докажем третье из этих включений, остальные доказываются аналогично.

Пусть (х,у) € Цэ-(к), тогда

х = ре + Дк + и, |и| < А2^,

у = 62 + Аэак (рб + Дк - 62) + V, М < 8-1 (А1А2АэаМ2.

Положим

х ' риз ' ж

уу представим

х = + Дк) у=р1-Дк+г7,

где

' + тэ-(к) + /э (Дк + и, Аэак (рб + Дк - 62) + «) - /э (Дк, Аэак (рб + Дк - 62)) ,

При любом фиксированном и функция и (у) дифференцируема и

(Ш

¿V

Следовательно, эта функция монотонна и м(г>) €= [«(—8-1 (АхАгАз"/.^)""1),

«(в-1 (А!А2АЗ >2)Л)].

Запишем, используя теорему о среднем значении,

д/э

и = V + т3 (к) Н----

дх

где 0 <0, < 1, г = 1, 2.

V = — и.

Из условий (7), (11), (14) получим

д/э

ду

< 8 , (х,у) е иэ-(к),

д/э

дх

< (М1М2МЭ°< (64)~1 (А1А2АЗ»л \й-у\<(16)-1(Х1Х2Х3ар2у\

следовательно,

м(8-1 (А1А2АэаМ2 )Зк) > (16)-1 (А1А2А3>2 )Зк > 4(М1Мэа)-'к ,

«(-8-1 {Х\Х2Х3ар2ук) < -4(М1Мза)-^ .

Ясно, что |г7| = |м|. Включения (16) следуют из последних равенств и неравенств. Лемма доказана.

4. Доказательство теоремы. Из условий (15), (16) следует, что при любом к в множествах Ц"1-(к), Ц"1+(к) лежат периодические точки диффеоморфизма. Пусть м+(к) е Ц^1 + (к), м-(к) е ^1-(к) — периодические точки, ясно, что +^1+^2+^3(м+(к)) = м+(к), .р(2+а)Зк+Ш1+Ш2+Шз(м-(к)) = м-(к). Пусть

Фк+ = +"1+"2+"3 (м+(к)),

Из условий (2) - (4), (8) - (10), (11), (14) следует, что эти матрицы можно представить как

Фй+ =Фэ+(к)Ф2 + (к)Ф1 + (к), Фй - = Фэ-(к)Ф2-(к)Ф1-(к),

где

*1+(к) = *2+(к) = Фэ+(к) =

*Г

А2

Зк

0

^1+(к)м2Зк (1 + ^1+(к))м2ЗкУ '

(1 + ^2 + (к))мэЗк ^2 + (к)мэЗк

0

АэЗ

^э+(к)м1Зк (1 + ^э+(к))м!Зк

-А1Зк 0

А2Зк 0

^1-(к)м2 Зк (1 + -(к))м2 Зк

где

Ф2 (к) = I 0 Аэазк

Фэ (к) = I -АЗ 0

Иш ^¿+(к) = 0, Иш ^¿-(к) = 0,

к^+то к^+то

(k)) < (M1M2M3a) j,

ki+(k))| < (M1M2M3arjfc, i = 1, 2, 3.

Пусть в1 = Л1 ^1Л2^2Л3^3, в2 = Л1 ^1Л2^2(Л3)а, тогда определители матриц ёе1Фк + , ёе1Фк - имеют вид

ёе1Фк+ = вЗ (1 + h1(k)), ёе!Фк- = e2jk (1 + h2(k)),

где lim hj(k) =0, i = 1, 2.

к—+w

Непосредственные вычисления следов матриц Фк + , Фк- показывают, что

ТгФк+ = (Л2М1 М3 j ^3+(k)(1 + ^2 + (k)) + (Л3M1M2)jfc ^1 + (k)(1 + ^3 + (k))- (Л1 M2M3)jfc ^2 + (k)(1 + V1 + (k)) + (M1M2M3)jfc ^1 + (k)^2 + (k)^3+(k),

ТгФк- = (Л2М1(М3)aj ^3-(k)(1 + ^2-(k)) + ((Л3)аМ1 M2 j ^1-(k)(1 + ^3-(k))-- (Л1М2(М3)а j ^2-(k)(1 + ^1-(k)) + (M1M2 Ы" j ^1-(k)^2-(k)^3-(k).

Пусть

71 = max

Л1 (M1 )-1(M3)-a+1, Л2(М2)-1 (M3)-a+1, Л3(м3)-а, (M3)-a+1 (M1 М2М3°)" Л1 (M1)-1, Л2Ы-1, (Л3)а(м3)-а, (М1М2М3°)-

Y2 = max Ясно, что

Y1 <в1 < 1, Y2 < 1 <в2.

Следы матриц Фк + , Фк- можно представить как

ТгФк + = Y1j

ТгФк- = Y2j 9к-,

где — ограниченные величины.

Пусть pj+(k), pj-(k), i = 1, 2, — собственные числа матриц Фк+, Фк- соответственно. В силу неравенств (17) имеем

|pi+(k)| = (ае1Ф>(^)0'5 ,

|pi-(k)| = ^ФГ(^)0'5 , i = 1, 2.

Пусть Vj+(k), Vj-(k), i = 1, 2, — характеристические показатели периодических точек u+(k), u-(k). Тогда по формуле (1) имеем

Vj+(k) = (3jk + W1 + ^2 + W3)-1 ln ^¿^k) ,

Vi-(k) = ((2 + a)jk + W1 + ^2 + W3)-1 ln ^¿^k) ,

откуда

lim v,+(k) = 6-1 ln(e1) < 0, i = 1, 2,

к—+w

2

lim vT(k) = (4 +2a)-11п(в2) > 0, i = 1, 2. Последние неравенства доказывают теорему.

Литература

1. Плисс В. А. Интегральные множества периодических систем дифференциальных уравнений. М.: Наука, 1977.

2. Чернышев В. Е. Структура окрестности гомоклинического контура с седловой точкой покоя // Дифференц. уравнения. 1985. Т. 21, №9. С. 1531-1536.

3. Гаврилов Н. К. О трехмерных динамических системах, имеющих негрубый гомоклиниче-ский контур // Матем. заметки. 1973. Т. 14. Вып. 5. С. 687-696.

4. Гонченко С. В., Тураев Д. В., Шильников Л. П. Об областях Ньюхауса двумерных диффеоморфизмов, близких к диффеоморфизму с негрубым гетероклиническим контуром // Труды Математического института им. В. А. Стеклова. 1997. Т. 216, №5. С. 76-125.

5. Гонченко С. В., Стенькин О. В., Шильников Л. П. О существовании счетного множества устойчивых и неустойчивых инвариантных торов у систем из областей Ньюхауса с гетероклиниче-ским контуром // Нелинейная динамика. 2006. Т. 2, №1. С. 3-25.

6. Иванов Б. Ф. Устойчивость траекторий, не покидающих окрестность гомоклинической кривой // Дифференц. уравнения. 1979. Т. 15, №8. С. 1411-1419.

7. Васильева Е. В. Устойчивые периодические точки двумерных диффеоморфизмов класса C1 // Вестник С.-Петерб. ун-та. Сер. 1. Математика. Механика. Астрономия. 2007. Вып. 2. С. 20-26.

Статья поступила в редакцию 20 января 2020 г.;

после доработки 15 марта 2020 г.; рекомендована в печать 19 марта 2020 г.

Контактная информация:

Васильева Екатерина Викторовна — д-р физ.-мат. наук, проф.; екта81962@таП.ги

Stable and completely unstable periodic points of diffeomorphism of a plane with a heteroclinic contour*

E. V. Vasil'eva

St. Petersburg State University, 7-9, Universitetskaya nab., St. Petersburg, 199034, Russian Federation

For citation: Vasil'eva E. V. Stable and completely unstable periodic points of diffeomorphism of a plane with a heteroclinic contour. Vestnik of Saint Petersburg University. Mathematics. Mechanics. Astronomy, 2020, vol. 7

We study the diffeomorphism of a plane into itself with three fixed hyperbolic points. It is assumed that at the intersections of the unstable manifold of the first point and the stable manifold of the second point, the unstable manifold of the second point and the stable manifold of the third point, the unstable manifold of the third first point and the stable manifold of the first point are heteroclinic points. The orbits of fixed and heteroclinic points form a heteroclinic contour. The case is studied when stable and unstable manifolds intersect non-transversally at heteroclinic points. Among the points of non-transversal intersection of a stable manifold with an unstable manifold, first of all, points of tangency of finite order are distinguished; in this paper, such points are not considered. In the works of L. P. Shilnikov, S. V. Gonchenko and other authors studied diffeomorphism with hetero-clinic contour, it was assumed that the points of non-transversal intersection of a stable

*The work is supported by Russian Foundation for Basic Research (grant no. 19-01-00388).

and unstable manifolds are points of tangency of finite order. It follows from the works of these authors that there exist diffeomorphisms for which there are stable and completely unstable periodic points in the neighborhood of the heteroclinic contour. In this paper, it is assumed that the points of a non-transversal intersection of a stable and unstable manifolds are not points of tangency of finite order. It is shown that in the neighborhood of such a heteroclinic contour two countable sets of periodic points can lie. One of these sets consists of stable periodic points, whose characteristic exponents are separated from zero, the second — from completely unstable periodic points, whose characteristic exponents are also separated from zero.

Keywords: diffeomorphism of plane, hyperbolic fixed points, heteroclinic points, heteroclinic contour, non-transversal intersection, stability.

References

1. Pliss V. A., Integral sets of periodic systems of differential equations

2. Chernyshev V. E., "Structure of the neighborhood of a homoclinic contour with a saddle point of rest", Differ. Uravn. 21

3. Gavrilov N. K., "Three-dimensional dynamic systems with noncoarse homoclinical contours", Mathematical Notes of the Academy of Sciences of the USSR 14, 953-957 (1973). https://doi.org/10.1007/BF01462256

4. Gonchenko S.V., Turaev D. V., Shilnikov L. P., "On Newhouse domains of two-dimensional diffeomorphisms that are close to a diffeomorphism with a structurally unstable heteroclinic contour", Proceedings of the Steklov Institute of Mathematics 216, 70-118 (1997).

5. Gonchenko S. V., Sten'kin O. V., Shilnikov L. P., "On the existence of infinitely many stable and unstable invariant tori for systems from Newhouse regions with heteroclinic tangencies", Russian Journal of Nonlinear Dynamics 2

6. Ivanov B. F., "Stability of trajectories that do not leave the neighborhood of a homoclinic curve", Differ. Uravn. 15

7. Vasil'eva E.V., "Stable nonperiodic points of two-dimensional Cx-diffeomorphisms", Vestnik St.Petersb. Univ. Math. 40, iss. 2, 107-113 (2007). https://doi.org/10.3103/S1063454107020045

Received: January 20, 2020 Revised: March 15, 2020 Accepted: March 19, 2020

Author's information:

Ekaterina V. Vasil'eva — ekvas1962@mail.ru