Идентификация окрестностной модели нейронной сети на основе жадного, «Полужадного» алгоритмов и алгоритма Качмажа

Таким образом, на одинаковых данных ошибка аппроксимации линейной функции с применением алгоритма Качмажа меньше, чем с применением алгоритма обратного распространения. Алгоритм Качмажа с вычислительной точки зрения реализуется значительно проще, чем алгоритм обратного распространения. Кроме того, следует отметить быструю сходимость алгоритма Качмажа.

7. Заключение

В работе показано, что нейронную сеть можно представить в виде окрестностной модели. Рассмотрены жадный, «полужадный» алгоритмы и алгоритм Качмажа для идентификации окрестностной модели нейронной сети.

Приведены примеры идентификации окрестностной модели нейронной сети с применением алгоритма обратного распространения ошибки, жадного и «полужадного» алгоритмов. При сравнении результатов применения алгоритма обратного распространения ошибки, жадного и «полужадного» алгоритмов сделан вывод, что «полужадный» алгоритм сходится быстрее, чем остальные, при этом при использовании жадного и «полужадного» алгоритмов упрощается структура сети. Ошибка обучения при применении полужадного алгоритма меньше, чем при использовании алгоритма обратного распространения ошибки и жадного алгоритма.

Рассмотрен пример параметрической идентификации окрестностной модели нейронной сети с помощью алгоритмов Качмажа и обратного распространения ошибки. Результаты показывают, что при использовании алгоритма Качмажа ошибка аппроксимации меньше по сравнению с алгоритмом обратного распространения. Кроме того, алгоритм Качмажа реализуется проще и сходится быстрее алгоритма обратного распространения ошибки.

СПИСОК ЛИТЕРАТУРЫ

1. Блюмин С.Л., Шмырин А.М., Шмырина О.А. Билинейные окрестностные системы. Липецк; ЛЭГИ, 2006. 131 с.

2. Блюмин С.Л., Шмырин А.М. Окрестностные системы. Липецк; ЛЭГИ, 2005. 132 с.

3. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. М.: Горячая линия -Телеком, 2002. 382 с.

4. Корниенко Н.А. Моделирование неполносвязных нейронных сетей окрестностными системами / Н.А. Корниенко, А.М. Шмырин, И.А. Седых, Т.А. Шмырина // Управление развитием крупномасштабных систем (MLSD-2010): материалы четвертой междунар. конф. Т. 1. М.: ИПУ РАН, 2010. С. 325-327.

5. Шмырин А.М., Седых И.А. Дискретные модели в классе окрестностных систем // Вестник Тамбовского университета. Серия Естественные и технические науки. Тамбов, 2012. Т. 17. Вып. 3. С. 867-871.

6. Шмырин А.М., Седых И.А. Обобщение дискретных моделей окрестностными системами / А.М. Шмырин, И.А. Седых, Н.А. Корниенко, Т.А. Шмырина // Технические и программные средства систем управления, контроля и измерения (УКИ 10): материалы конф. с международным участием. М: ИПУ РАН, 2010. С. 207-208.

7. Кормен Т.Х. Алгоритмы: построение и анализ / Томас Х. Кормен, Чарльз И. Лейзерсон, Рональд Л. Ривест, Клиффорд Штайн. М.: «Вильямс», 2006. 1296 с.

БЛАГОДАРНОСТИ: Работа выполнена при финансовой поддержке Российского фонда фундаментальных исследований (проект № 16-07-00854).

Поступила в редакцию 10 октября 2016 г.

Шмырин Анатолий Михайлович, Липецкий государственный технический университет, г. Липецк, Российская Федерация, доктор технических наук, профессор, зав. кафедрой высшей математики, email: amsh@lipetsk.ru

Седых Ирина Александровна, Липецкий государственный технический университет, г. Липецк, Российская Федерация, кандидат физико-математических наук, доцент, доцент кафедры высшей математики, e-mail: sedykh-irina@yandex.ru

2125

Семина Валерия Владимировна, Липецкий государственный технический университет, г. Липецк, Российская Федерация, ассистент кафедры высшей математики, e-mail: pravilnik@mail.ru

UDC 519.854

DOI: 10.20310/1810-0198-2016-21-6-2121-2127

IDENTIFICATION NEIGHBORHOOD NEURAL NETWORK MODEL BASED GREEDY, «SEMIGREEDY» ALGORITHMS AND KACZMARZ ALGORITHMS

© A. M. Shmyrin, I. A. Sedykh, V. V. Semina

Lipetsk State Technical University 30 Moskovskaya St., Lipetsk, Russian Federation, 98600 E-mail: amsh@lipetsk.ru

The article deals with greedy, «semigreedy» Kaczmarz algorithms and an algorithm for the identification of the Neighbor neural network model and examples of their implementation. Key words: neighborhood neural network model; parametric and structural identification; greedy algorithm; «semigreedy» algorithm; Kaczmarz algorithm

REFERENCES

1. Blyumin S.L., Shmyrin A.M., Shmyrina O.A. Bilinejnye okrestnostnye sistemy. Lipetsk, Legi, 2006. 131 p.

2. Blyumin S.L., Shmyrin A.M. Okrestnostnye sistemy. Lipetsk, Legi, 2005. 132 p.

3. Kruglov V.V. Borisov V.V. Iskusstvennye nejronnye seti: teoriya i praktika. M.: Goryachaya liniya telekom, 2002. 382 p.

4. Kornienko N.A. Modelirovanie nepolnosvyaznyh nejronnyh setej okrestnostnymi sistemami / N.A. Kornienko, A.M. Shmyrin. I.A. Sedyh, T.A. Shmyrina // Upravlenie razvitiem krupnomasshtabnyh sistem Mlsd 2010: materialy chetvyortoj mezhdunar konf. 2010. T. 1. M. IPU RAN. P. 325-327.

5. Shmyrin.A.M., Sedyh I.A. Diskretnye modeli v klasse okrestnostnyh sistem // Vestnik Tambovskogo universiteta. Seriya Estestvennye i tekhnicheskie nauki - Tambov University Review. Series: Natural and Technical Sciences. 2012. T. 17. Vyp. 3. P. 867-871.

6. Shmyrin.A.M., Sedyh I.A. Obobshchenie diskretnyh modelej okrestnostnymi sistemami / A.M. Shmyrin. I.A. Sedyh, N.A. Kornienko, T.A. Shmyrina // Tekhnicheskie i programmnye sredstva sistem upravleniya kontrolya i izmereniya (UKI 10): materialy conf. s mezhdunarodnym uchastiem. M. IPU RAN, 2010. P. 207-208.

7. Kormen T. H. Algoritm:y postroenie i analiz / Tomas H. Kormen, Charlz I. Lejzerson, Ronald L. Rivest, Klifford Shtajn. M: Vilyams, 2006. 1296 p.

ACKNOWLEDGEMENTS: The work is partially supported by the Russian Fund for Basic Research (project № 16-07-00854).

Received 10 October 2016

2126

Shmyrin Anatoliy Mihaylovich, Lipetsk State Technical University, Lipetsk, the Russian Federation, Doctor of Techniques, Professor, the Head of the High Mathematics Department, е-mail: amsh@lipetsk.ru

Sedich Irina Aleksandrovna, Lipetsk State Technical University, Lipetsk, the Russian Federation, Candidate of Physics and Mathematics, Associated Professor of the High Mathematics Department, e-mail: sedykh-irina@yandex.ru

Semina Valeriya Vladimirovna, Lipetsk State Technical University, Lipetsk, the Russian Federation, Lecturer of the High Mathematics Department, e-mail: pravilnik@mail.ru

Информация для цитирования:

Шмырин А.М., Седых И.А., Семина В.В. Идентификация окрестностной модели нейронной сети на основе жадного, «полужадного» алгоритмов и алгоритма Качмажа // Вестник Тамбовского университета. Серия Естественные и технические науки. Тамбов, 2016. Т. 21. Вып. 6. С. 2121-2127. DOI: 10.20310/1810-0198-2016-21-6-2121-2127

Shmyrin A.M., Sedykh I.A., Semina V.V. Identifikatsiya okrestnostnoj modeli nejronnoj seti na osnove zhadnogo, «poluzhadnogo» algoritmov i algoritma Kachmazha [Identification neighborhood neural network model based greedy, «semigreedy» algorithms and Kaczmarz algorithms]. Vestnik Tambovskogo universiteta. Seriya Estestvennye i tekhnicheskie nauki - Tambov University Review. Series: Natural and Technical Sciences, 2016, vol. 21, no. 6, pp. 2121-2127. DOI: 10.20310/1810-0198-2016-21-6-2121-2127

2127

УДК 517.927.2

DOI: 10.20310/1810-0198-2016-21 -6-2128-2137

ОБ АСИМПТОТИКЕ СПЕКТРА КРАЕВОЙ ЗАДАЧИ ДЛЯ ДИФФЕРЕНЦИАЛЬНОГО ОПЕРАТОРА ВЫСОКОГО ПОРЯДКА С СУММИРУЕМЫМ ПОТЕНЦИАЛОМ

© С.И. Митрохин

Московский государственный университет им. М.В. Ломоносова, 119991, Российская Федерация, г. Москва, Ленинские горы, 1 E-mail: mitrokhin-sergey@yandex.ru

Изучена краевая задача для дифференциального оператора высокого порядка с разделенными граничными условиями. Потенциал оператора является суммируемой функцией на отрезке. Выведена асимптотика решений соответствующего дифференциального уравнения при больших значениях спектрального параметра. Предложен новый метод для нахождения асимптотики собственных значений изучаемого оператора. Ключевые слова: дифференциальный оператор; краевая задача; суммируемый потенциал; разделенные граничные условия; асимптотика спектра; собственные функции

Изучим краевую задачу для дифференциального оператора восемнадцатого порядка, задаваемого дифференциальным уравнением вида

y

с разделенными граничными условиями

У (mi )(0) = y (m2 )(0) = ... = y ^(о) = y ("1 )(я) = 0, m1 <m2 < ...<m17;mk,n1 e {0,1,...17};k = 1,2,...17,

мы предполагаем, что потенциал q(x) является суммируемой функцией на отрезке [0; л]:

q(x)e L1[0; л](=) |q(t)dt

= q

почти для всех х е [0; л].

Наша цель - найти асимптотику собственных значений дифференциального оператора (1)—(2)—(3).

В работах [1—3] была изучена асимптотика спектра дифференциальных операторов с гладкими коэффициентами. Случай кусочно-гладких коэффициентов был изучен в работах [4—8]. Случай суммируемого потенциала для оператора второго порядка был впервые рассмотрен в работе [9]. В работах [10—12] автором был предложен метод исследования операторов порядка выше второго с суммируемыми коэффициентами. Была найдена асимптотика решений соответствующих дифференциальных уравнений при больших значениях спектрального параметра. С помощью этой асимптотики и соответствующих асимптотических оценок можно находить асимптотику собственных значений и асимптотику собственных функций операторов с суммируемыми коэффициентами. В случае граничных условий (2) мы одновременно изучаем целое семейство дифференциальных операторов с суммируемым потенциалом.

Для исследования спектральных свойств дифференциального оператора (1)—(2)—(3) сначала найдем асимптотику решений дифференциального уравнения (1) при больших значениях спектрального параметра X .

Пусть X = при этом работать будем с той ветвью арифметического корня, для которой ^ = +1.

Обозначим через щ (к = 1,2,... 18) различные корни восемнадцатой степени из единицы:

2 л/ (, ч 2 л/

Лк-1)

' = 1, wk = е 18 , к = 1,2,...18; w1 = 1, w2 = е 18 = cos|^l + i • sinl ^ | = z Ф 0,

118 J 118 J

2128

0

J x

w

k

4го = „18

= 00$| - I + I • 81П| - I = =

1^ 1,181 2

w2 = г2, н>4 = м>\,...';мк = w2 1, к = 1,2,...18.

Для чисел Wk (к = 1,2,... 18) из (4) справедливы следующие равенства:

£ wmk = 0, т = 1,2,...17;£ w'm = 18, т = 0, т = 18.

к=1

к=1

С помощью метода вариации постоянных, аналогично работам [13, гл. 2; 14, гл. 4; 10; 15], устанавливается следующее утверждение.

Теорема 1. Общее решение дифференциального уравнения (1) имеет вид

у(х,5) = £Ск • Ук(х,4У(т)(х,я) = £Ск • укт)(х,5);т = 1Д...17

к=1

к=1

при этом для фундаментальной системы решений {ук (х, я)}1^ справедливы следующие формулы и асимптотические оценки:

Ук(х = е™1™ ~ 17 17 • Л°7,к(X 5 У+0

18а 5

^ • Л°7,к(х, 5)+ О

534

V

к = 1,2,...18;

Укт)

/ \т

= ^ • е

А17,к

А1т7,к

С з|1ш *1х Л

18а17517

+ О

534

V

т = 1,2,...17; к = 1,2,...18;

4°7,к (х, 5) = £ wи • eаw"

п=1

18

л т ( \ X. ' т

А17, к lx, ^ • wn

п=1

д(г )• еа^к^5 • Лап, к = 1,2,...18;

х

• | д(гУ еа^ "wn5 • ^акп, к = 1,2,... 18, т = 1,2,... 17.

Из метода вывода формул (6)—(10) следуют следующие начальные условия:

47,к(0,5) = 0;Ат7,к(0,5) = 0;Ук(0,5) = 1;у«(0,5) = wm •(а5)т;у(0,*) = £Ск-1;

к=1

16

у(т)(0,5) = £Ск • w'm • а)т;т = 1,2,...17;к = 1,2,... 18.

к=1

Используя формулы (6)-(8) и начальные условия (11), можно изучить граничные условия (2). Подставляя формулы (6) в граничные условия (2), имеем:

У(тр)(0,5)=0 = |£Ск • ут)(0,5)= 0,р = 1,2,...17;

ч

,,(тр V,

V / к=1

, (2) ((б)л18

У(п 5)= 0 = |£Ск • укп1 )(я,5)= 0,тр,П1 е {0,1,2,... 17}

V / к=1

Теорема 2. Уравнение на собственные значения дифференциального оператора (1)—(2)—(3) имеет следующий

вид:

2129

0

0

*) =

)

У^17 )

(т1

)

У2

у2"2 )

у2т" )

у!?1 )

(т У17

у!8 )

(гг.

у!?17)

у!"1 )

= о.

Для доказательства теоремы 2 применим к системе (2) теорему Крамера: однородная система (12) имеет ненулевые решения (с^8 + С^8 +...+ С^ Ф о) только в том случае, когда ее определитель равен нулю. Применив формулы (11), уравнение (13) приведем к следующему виду:

*) =

"17

у!"1 )

= о.

Раскладывая определитель g (*) из (14) по последней строке, имеем:

g(s) = у!"1 )(л, *)• Д81 - У2"1 )(л, *)• Д82 + уЗ"1 )(л, *)• А83 -...+У"1 )(л, *)• А 8,1 7 - у!"1 )(л, *)• А 81 8 = о," е{о,1,2,... 17}, (15) где А18 к — алгебраические миноры к элементу последней строки к -го столбца (к = 1,2,..., 8),

А,

"16

17

= А? ф о,

т. к. А818 является определителем Вандермонда чисел щ"1,щ"2 7:

Д1818 = ЖПвгшоп^эЩт1,ЩТ2 ,...,щ^16,щ™17)= ^Щ™* -Щт" )ф о.

к > р

к, ре{1,2,...Д7}

Вводя обозначения Щ,+18 = м>т(т = 1,2,...^8), получаем, применяя формулы (4)—(5):

Аш =

"17

"17

т,7 2т,-

2 17 г 1

откуда, учитывая свойства определителей, вынося из к-й строки определителя Д 81 множитель 2тк (к = 1,2,... 17), имеем:

Д18,1 = 2

1 2" 1 2™

1 2"

15т, 16т, 2 1 2 1

15т17

16т17

м17 = 2 17

^(2тк - 2тп )= 2М17 • А!? Ф о,М17 = £ тп.

к > п

к ,пе{1,2,...Д7}

16

17

= 2 17 • Д18,18 =

2130

т

т

т

т

2

т

т

т

т

2

т

т

т

т

2

т

т

т

т

2

т

т

т

т

2

т

т

т, т,

Щ 1 Щ 1

т

2

2

2

2

2

3

т

т

т

2

2

2

2

2

3

т, 7 т Щ 17 Щ-,

т, 7 т Ж1

2

2

2

3

т

т

т. т

Щ ^ Щ, -

2

т

т

2

2

2

=2

т

т

тл 7 т Щ с Щ,-

7п=1

Для минора А18 2 имеем:

тл Щ 1 т Щ 1 . т .. 7 т, 8 тл Щ 1 тл Щ 1 . т, .. Щ 71 т, Щ 81 тл Щ 1

А18,2 = ЩШ2 Щзт2 . .. <72 <82 = <2 <2 . .. Щт2

Щт17 . .. ЩТ Щт17

тк Ши 18тк 7, ~ 2тк

откуда, учитывая, что Щк = Щя = 2 , вынесем из к -и строки определителя г , находим:

А18,2 =

1

15т, 16т,

15т9 „,16т 9

15т 16т

МЛ1 2М, н

• г 17 = г 17

• А

Аналогичным образом получаются следующие формулы:

А18, 3 = г3М" • А17; А184 = г4М17 • А17;...А18,к = г^17 • А17 Ф 0,к = 1,2, ...18;М17 = т1 + т2 +...+т17. (20) Учитывая формулы (7)-(8), подставим формулы (16)—(20) в уравнение (15), находим:

, = ¿1 (л, 5) - Й2 (л, 5) + ...+ /^(я, 5) - /^(л, 5) = 0, Щ £ {0,1,2,... 17}

(да )1 • А17

Ь1 (л, з) =

Щ ащзл

АЬ^ з)+( 1

]о 17 17—1 34 18а з V5

2М[1, Й2(Л, 5) =

1 . а 2

47,2 (Л "О

1Я 17 17 + 0 18а 5

х г 2М", й17(л, 5) =

щ ащнь.

П7 •е 17

^Г7,17(Л, 5) ( 1

ю 17 17—1 34 18а 5 V5

+

г 17, ¿18^ =

П8 •е 18

Д^Л -О

ю 17 17 " 18а 5

+0 741

£ {0,1,2,... 17}.

Индикаторная диаграмма уравнения (21) имеет вид, аналогичный следующему:

У

(22) 2131

т

1

г

т

1 г 17

х

2

5

7

г 11, п