Новые методы прикладного математического моделирования в банковской сфере

Новые методы прикладного математического моделирования в

банковской сфере New methods of mathematical modeling in the banking sector

Е.Г. Контос

Целью любой аналитической системы (в том числе и всех математических моделей: как традиционных, так и новых) является генерация каких-то выходных данных полученных из потока входных данных посредством их переработки с помощью внутренних системных правил. Все типы математических моделей рознятся в определении переменных и в процессах генерации правил. В статье предложены новые методы прикладного математического моделирования в банковской сфере: нечеткие множества, нейросетевое моделирование.

Ключевые слова: нечёткая логика, нейросетевое моделирование,

банковские модели.

The goal of any analytical system (including all mathematical models of both traditional and new) is the generation of any output data obtained from the input data stream by recycling through the internal system of rules. All types of mathematical models vary a lot in determining the variables and processes generating rules. The paper proposes new methods of mathematical modeling in the banking sector: fuzzy sets, neural network modeling.

Keywords: fuzzy logic, neural network modeling, banking model.

Традиционные математические модели, построенные с использованием теории вероятностей и методов математической статистики, уже достаточно хорошо изучены и представлены многими готовыми пакетами математического обеспечения [18]. Новые же направления математического моделирования, которыми начинают пользоваться в банковском бизнесе, ещё нуждаются в дальнейшей методологической проработке. Поскольку, по нашему мнению, наибольший интерес, применительно к банковским задачам, представляют математические модели построенные на стыке нечёткой логики и нейро-сетевого моделирования, рассмотрим их подробнее.

1. Нечёткая логика и нечёткие множества

Переменные в нечётких множествах определяются, во-первых, не конкретными значениями (как в булевской логике) но интервалами значений.

Например, на вопрос «Есть ли у человека работа?», значение переменной «ответ» может лежать в интервале от «Нет» (Что соответствует конкретному булевскому значению, к примеру, «ноль раз в месяц») до «Да» (Что соответствует другому конкретному булевскому значению, к примеру, «25 раз в месяц») включая такие нечёткие значения как:

• «Иногда» (Что, допустим, соответствует всем значениям в интервале от 0 до 10 раз в месяц),

• «Несколько раз в месяц» (Что, допустим, соответствует всем значениям в интервале от 5 до 15 раз в месяц),

• «Часто» (Что, допустим, соответствует всем значениям в интервале от 10 до 25 раз в месяц) и.т.д

При этом, как и показано в нашем примере, соседние интервалы в нечётких множествах должны иметь определённые области пересечений (иначе, без таких пересечений, нечёткое множество превратится в обыкновенное булевское.

Во-вторых, значение каждой переменной должно определяться её весом в каждом из соседних интервалов которым она принадлежит. Причём вес, в данном случае, не является вероятностью события. Это скорее своеобразная оценка его (значения) принадлежности какому-то конкретному интервалу. Продолжая выше приведённый пример, можно предположить что конкретное булевское значение "7 раз в неделю", в нечёткой логике примет одновременно два значения: <"Иногда" с весом 0,6> и <Несколько раз в месяц" с весом 0,4>.

В банковском бизнесе нечёткая логика чаще всего применяется в моделях оценки кредитного риска (или, как их ещё называют, скоринговых моделях). Несмотря на наличие работ и учебных пособий по теоретическим основам нечёткой логики и моделей на её основе, практическое построение таких моделей является в большинстве случаев трудной и, иногда, безрезультатной задачей в особенности для людей бизнеса которые должны заниматься её (задачи) постановкой. По нашему мнению, практические по-

шаговые методологии (для создания моделей с нечёткой логикой) ещё недостаточно хорошо представлены (особенно в рускоязычных публикациях). Обобщая материалы представленные работами [1],[13],[14],[15] и др., наиболее эффективной представляется следующая методология.

1.1. Методология дизайна системы с нечёткой логикой

Приводимая здесь методология может быть полезной как для непосредственного разработчика модели с нечёткой логикой, так и для человека занимающегося постановкой задачи для разработки такой модели. Следующие шаги, по нашему мнению, могут являться по-шаговым алгоритмом построения модели с нечёткой логикой:

1. Определить пространство изучаемой проблемы: входные и выходные потоки данных. Разбить их на смысловые куски (которые могут быть представлены как частями с нечёткой логикой так и их сочетанием с частями представленными обычной булевской логикой).

2. Поставить конкретную задачу которая, прежде всего, обозначит цель построения необходимой математической модели с использованием нечёткой логики. Проанализировать её и и как можно более упростить.

3. Выделить (если это возможно) отдельные подсистемы которые можно легко моделировать изолированно с собственными потоками входных и выходных данных. Eсли выделенная подсистема всё ещё сложна для моделирования, её нужно снова попытаться разложить на отдельные подсистемы.

4. Выделить главные типы данных (или переменных fuzzy-функций) для всех подсистем и главной системы в свете поставленной задачи.

5. Перевести каждый из типов переменных(данных) на язык нечётких множеств. Этот процесс ещё называют фаззификацией (Fuzzification) для входных данных (Детальное описание процесса представлено в пунктax 6-7) и дефаззификацией (Defuzzification) для выходных данных (Детальное описание процесса представлено в пункте 9).

6. Для каждого из выделенных типов данных построить систему градаций (интервалов внутри <минимум - максимум> значений поля) и зон их пересечений (См. Зоны А на рисунке 1), принимая во внимание что:

• Чаще используют нечётное количество интервалов от 3 до 9, так как слишком мало интервалов дадут менее точный ответ на выходе, в то время как слишком много интервалов могут стать причиной нестабильности системы.

• Разбиение может быть неравномерным. Зоны наибольшего интереса могут содержать большее количество интервалов:

Рисунок 1. Определение интервалов и зон их пересечения

Областью наибольшего интереса должна считаться та область входных значений где изменение входных данных сильнее всего отражается на выходных данных

• Нужно помнить, что зоны пересечения интервалов существенно влияют на работу системы. Если таких зон не будет вовсе, то система перестанет быть «системой с нечёткой логикой» и превратится в обыкновенную систему с булевской логикой. Каждая зона пересечения возбуждает правила сразу из двух интервалов (а не из одного как это происходит в случае с булевской логикой). Таким образом, определяя градацию интервалов нужно заботиться чтобы любое входное значение попало хотябы в один интервал, но не больше чем в два.

• Два разных интервала должны иметь разные значения максимумов. Поэтому любая зона пересечения может включать в себя максимальное значение только одного из интервалов.

• Для каждой точки, принадлежащей зоне пересечения, будет существовать два веса (по одному на каждую из соседних груп). Сумма этих весов должна быть меньше или равна 1.

• Каждая градация-интервал должен быть также обозначен определённым названием (Label), соответствующим его смысловому значению.

7. Если ввести понятия коэффициента пересечения и устойчивости пересечения интервалов тогда, предположив что по оси Х располагаются непосредственные значения переменных (и, соответственно, интервалы их разбиений на группы), в то время как по оси Y располагаются весовые значения принадлежности переменной каждой из соседних групп, для соседних интервалов А1 и А2 (условная высота конусов которых принята за 1, это значит, что в случае когда переменная не принадлежит области пересечения двух соседних интервалов, её вес будет равен 1 для интервала которому она принадлежит). См.Рисунок 2.

#4 л / А1 дАг

/ Д \

/~ 1 / U Ufntwi

:

Т * I Е ^

Рисунок 2. Иллюстрация коэффициентов пересечения и

устойчивости

В этом случае эти коэффициенты могут быть представлены следующими формулами:

a. Коэффициент (или индекс) пересечения таких интервалов (Overlap ratio) может быть представлен отношением величины проекции области пересечения двух соседних интервалов к величине проекции области их объединения:

Ь. Коэффициент устойчивости таких интервалов может быть представлен отношением интеграла сумм всех весов на области пересечения соседних интервалов к удвоенному значению этой области (См.Рисунок 2):

Тогда “Коэффициент пересечения” (K П в Формулеі.1) должен быть не меньше 0.2 и не больше 0.6, в то время как, “Устойчивость пересечения” (K U в Формуле1.2) должна быть больше коэффициента пересечения и быть в интервале от 0.3 до 0.7. Для более мягкого функционирования модели на нечёткой логике предлагается придерживаться значений коэффициента 0.ЗЗ и устойчивости 0,5. Увеличение этих значений обычно увеличивает степень контроля над системой. Но уменьшение этих индексов больше подходит для систем где входные и выходные данные сильно связаны.

8. Определить число и распределение функций преобразования(правил) входных данных в выходные для каждого из типов данных (обычно используют от 20 до 40 правил). Определить правила как базу знаний модели, т.е. закодировать поведение системы используя “Zadeh-fuzzy” операторы (AND[Minimum], OR[Maximum], NOT), имея в виду что:

a) Если две входные переменные АІ и А2 правила R с весами W1 и W2 (где W1<W2) соединены оператором AND, тогда минимальный вес W1 должен быть выбран для определения веса (силы) всего правила R.

b) Если те же входные переменные АІ и А2 соединены оператором OR, тогда максимальный вес W2 должен быть выбран для определения веса (силы) всего правила R.

c) Использование оператора AND в правилах Задеха предпочтительнее. Т.е. сложные правила с использованием оператора OR лучше приводить ко множеству простых правил с оператором AND. Например,

• Правило <If (X AND Y) OR (A AND B) then C> может быть преобразовано в правило

< (If X AND Y then C) AND (If A AND B then C) > или

• Правило <If (X OR Y) OR (A OR B) then C> может быть преобразовано в правило

< (If X AND A then C) AND (If X AND B then C) AND (Y AND A then C) AND (Y AND B then C) >

d) NOT: Если переменная или даже целое правило АІ имеет вес W1, тогда (NOT АІ) будет иметь вес (1 - W1).

e) Прежде всего нужно описать очевидные отношения между входными и выходными переменными, затем, не очевидные, но интуитивно правдивые. Исключительные случаи тоже могут быть описаны правилами.

9. Процес Дефаззификации (Defuzzification): Каждое элементарное

правило должно приводить к одной выходной переменной(действию), вес которой определяется весом самого правила. Для этого:

a) "MIN-МAX"метод: Правила, результатом которых получается одно и тоже действие (выходная переменная), объединяются в группу одного результата с весом равным максимальному весу из всех

весов правил этой группы. Этот метод выбора результирующего действия называют "MIN-МAX" выводом, т.к. он строится на базе преимущественно минимальных весов входных переменных(имея в виду предпочтительного использования оператора AND) и максимальных весов выходных функций.

b) Затем, для непосредственного процесса дефазификации, наиболее часто используют COG (Center of Gravity) метод или центройд-метод (centroid-method). Из полученных оставшихся весов нужно вычислить точку баланса COG, которая и будет представлять собой дефазифицированное выходное значение. B теории, o^ равно отношению интеграла (на отрезке всех значений функций) произведений веса каждой функции на её вычисленное выходноез начение (Х) по dx к интегралу (на том же отрезке) весов этой функции на всех входных значениях:

c) На практике, вполне адекватная оценка может быть получена заменой интегралов (в формуле 1.3) на простые суммы весов исследуемой функции на всех входных переменных:

10.Пропустить входные данные через описанные правила

11.Проанализировать разницу между полученным выходом и реальными (ожидаемыми ) выходными данными

12.В случае надобности подстроить (изменить) правила:

a) Процесс настройки (tuning) чаще всего включает в себя использование X-cut метода и компенсационных операторов.

b) Вес каждой фукции (правила) ограничивается каким-то заранее определённым числом лямбда-кат (Х-^).т.е. из оставшихся (после приминения MIN-MAX метода) функций с вычисленными весами, результирующеее значение каждого веса сравнивается со значением X-cut, так что в случае когда вычисленный вес функции W1 > X-cut, W1 будет равняться X-cut, т.е. для каждой функции А, её вес u(x) будет определяться формулой:

c) Затем, когда вес всех функций таким образом уже вычислен, процесс дефазификации (п.10) повторяется снова.

13.Во-время подстройки нужно обратить особое внимание на следущее:

a. На входные значения в самых крайних точках всей области определения.

b. На входные значения в самых крайних точках всех интервалов.

c. На входные значения на пересечениях входных интервалов.

d. На несоответствие входных и выходных данных. Индекс соответствия (от 0 до 1) указывает на степень соответствия входных данных правилам модели и используется для того чтобы оценить поведение модели (в процессе имитационного прогноза) на основании сравнения полученных выходных данных с ожидаемыми тестовыми результатами. К «хорошему поведению» фаззи-модели можно отнести усреднённый индекс соответствия если он принадлежит к интервалу от 0.2 до 0.8 на обычном и расширенном объёме тестовых пакетов данных. При этом, случай расчёта индекса соответствия на одном пакете входных данных не может считаться достоверной характеристикой фаззи-модели. Индексы соответствия которые либо слишком высокие (>0.8) либо слишком низкие (<0.2) одинаково говорят

о несоответствии входных потоков заданным правилам формирующим

выходной результат. Существует несколько общих причин формирования «плохого» индекса соответствия:

• Реальные входные данные постоянно попадают в эктремальные отрезки- интервалы фазифицированных входных потоков.

• Неправильно построенные правила.

• Входной поток неверно разбит на интервалы и/или их пересечения неверно определены.

• Неправильно выбраны фаззи-операторы

• Фаззи-условия и следствия неверно сопряжены

• В процессе построения фаззи-модели, эксперт обычно думает о (опирается на) значениях данных, которые наиболее часто встречаются или, наоборот, о значениях которые ему кажутся наиболее интересными (яркими), предполагая при этом что инженер - создатель фаззи-модели сам позаботится о простых и очевидных (с точки зрения эксперта) вещах. В большинстве случаев это приводит к тому что модель получается слишком обобщённой.

14.Шаги 11-13 повторять до тех пор пока разница между полученным результатом и реальными данными не станет приемлемой

15.Кроме того, если несмотря на множество подстроек, результат остаётся неудовлетворительным, можно попробовать упростить систему или на этапе агрегирования данных (п.4 - п.7) или на этапе определения правил (п.8 - п.9).

16.Шаги 3-9 повторять до тех пор пока первый приемлемый результат остаётся неизменным

17.Если первый приемлемый результат испортился, вернуть состояние системы к предыдущему циклу и закончить оптимизацию.

Финальное множество правил должно быть устойчиво по Ляпунову, т.е.

небольшие изменения входного потока данных влекут за собой небольшие изменения выходных данных

2. Нейросетевое моделирование

В сравнение с моделями с нечёткой логикой, мы считаем, что нейросетевое моделирование применяется чаще в банковских моделях и кргуг его применения значительно шире.

Математическая модель искусственного нейрона была предложена У. Маккалоком (Warren Sturgis McCulloch) и У. Питтсом (Walter Harry Pitts) вместе с моделью сети, состоящей из этих нейронов. Авторы показали, что сеть на таких элементах может выполнять числовые и логические операции.1 Практически сеть была реализована Фрэнком Розенблаттом ( Frank Rosenblatt) в 1958 году как компьютерная программа, а впоследствии как электронное устройство - перцептрон. Связи, по которым выходные сигналы одних нейронов поступают на входы других, часто называют синапсами по аналогии со связями между биологическими нейронами.11

Нейронная сеть представляет собой композицию простых элементов работающих параллельно. Связи между отдельными элементами определяют веса нейросетевых функций. Тренирование конкретной нейронной сети происходит посредством корректировки значений (количества) связей между отдельными её элементами. Нейронная сеть считается натренированной если каждый конкретный набор исходных (входных) данных приводит к ожидаемому набору результирующих (выходных) данных.

Для каждой входной переменной здесь тоже (как и в нечёткой логике) существует вес, который определяется количеством внутренних связей этой переменной. Веса эти также используются в функции формирования результата. Модель искусственного нейрона может быть представлена Рисунком 3.

Рисунок 3. Модель искусственного нейрона

Учитывая тот факт, что отдельные группы нейронов могут принадлежать к разным уровням нейронной сети, её картина может быть представлена Рисунком 4.

Рисунок 4. Модель нейронной сети

Если в качестве элементарной частицы нейронной сети мы принимаем некий искусственный нейрон, который состоит из таких типов составляющих как вес конкретного входного элемента (синапса), сумматор сигналов от всех синапсов связанных с этим нейроном, и некий нелинейный преобразователь реализующий функцию конкретного нейрона, тогда математическая модель нейрона может быть представлена в следующем виде [2]:

где

^ Д7 — \л ) _ вес {-того сигнала (синапса),

Ь _ значение смещения, х. (/' = 1, п) _ ьтый входной сигнал (синапс), п _ число входов нейрона, s _ результат суммирования, у _ выходной сигнал нейрона,

f (£ ) - нелинейный преобразователь (функция активации конкретного нейрона).

Веса могут быть как положительными (в случае возбуждающей синаптической связи), так и отрицательными (в случае тормозящей связи). Наиболее широко используемые варианты активационных функций приведены в монографии [4]:

Название Формула Область значений

Пороговая V = < 0' 0, 1

Знаковая ч=гю=\1’ф>0’ -1, 1

Сигмовидная і  - - х _е-ф

Полулинейная ш _ _ ЙМ> > о, ^ І0,і/г < 0.

Линейная 5 II -е-

Радиальная базисная ЦІ = Р

Полулинейная с насыщением

Линейная с насыщением

Г иперболический тангенс ч' - НФ) ~ еф _ є-ф

Треугольная

Одной из наиболее распространенных является нелинейная функция активации с насыщением, так называемая логистическая функция или сигмоид, описываемая выражением:111

1

41 _ _ 1 +£“<’

Перед использованием по назначению, нейронная сеть должна быть обучена. Для этого входные данные должны быть представлены системе и соединительные веса для каждой функции должны быть откорректированы в соответствии с математическим алгоритмом, называемым «закон или метод обучения».

Процесс обучения может быть контролируемым и бесконтрольным. В контролируемом обучении участвуют оба вида данных: входные и выходные (реальные или желаемые). Здесь веса подправляются до тех пор пока разница

между расчётным и заданным выходами не станет минимальной. В случае бесконтрольного обучения, выходные данные не задаются.

Наиболее известные, по нашему мнению, законы обучения в порядке их преемственности могут быть представлены в такой последовательности:

1. Правило Хебба (Donald Olding Hebb, Canada): Базируется на входной и выходной информации доступной конкретному нейрону, и является одним из фундаментальных правил в самоорганизационных нейронных сетях. [8]

2. Правило Ойя (E.Oja, Finland) максимизирует чувствительность выхода нейрона при ограниченной амплитуде весов. [8]

3. Обобщённое Дельта-правило (widrow в., Hoff m.e.,usa): Минимизация функции среднеквадратичной ошибки по принципу градиентного спуска. Базируется на правилах Хебба или идее постоянного изменения силы каждой связи с целью уменьшения разницы между получаемым результатом и нужным результатом.

4. Метод обратного распространения ошибки (англ. Backpropagation.

А.И. Галушкин и одновременно и независимо werbos p. j.) Это итеративный градиентный алгоритм, который используется с целью минимизации ошибки. Основная идея этого метода состоит в распространении сигналов ошибки от выходов сети к её входам, в направлении, обратном прямому распространению сигналов в обычном режиме работы.^

5. Правило Кохонена(Teuvo Kohonen, Finland): Следуя этому правилу, функции взаимодействия должны какбы состязаться друг с другом за возможность обучения. Побеждают функции с большим количеством связей с выходными элементами. Эти функции-победители тогда либо подавляют соседние функции либо возбуждают их. Только победители и их соседи могут иметь выходные потоки и корректировать свои веса. Количество функций-соседей может меняться во время обучающего периода. Обычно начинают с определения большого числа функций-соседей, которое затем сокращается в процессе обучения.

6. Генетические алгоритмы, к примеру, "репродуктивный план Холланда" (John Holland, USA): Метод обучения основанный на случайном отборе, с использованием механизмов, напоминающих биологическую эволюцию. Отличительной особенностью генетического алгоритма является акцент на использование оператора «скрещивания», который производит операцию рекомбинации решений-кандидатов, роль которой аналогична

v

роли скрещивания в живой природе.

На сегодняшний момент наибольшее распространение получили обучение по методу обратного распространения ошибки и генетические алгоритмы... [5]. На вопрос о количестве итераций обучения никогда не

находилось удовлетворительного ответа, они относятся к природе обучающего материалам Обобщая материалы представленные в работax [6],[7],[іі],[і2] и др., мы считаем что классификация характеристик нейронных сетей может быть представлена схемой (Рисунок 5):

Рисунок 5. Классификации нейронных сетей и их применение к

банковским задачам

Как мы и показали на Рисунке 5, несмотря на то что использование нейронных сетей в банковском бизнесе только начинается, уже есть примеры их применения в следующих направлениях [8]:

- в скоринге или для оценки риска невозврата кредитов

для прогнозирования результатов банковской деятельности (пример может быть найден в работе [10]).

3. Нейросетевое моделирование на нечётких множествах

В силу сложности и разноплановости банковских данных, в сочетании с их большими объёмами, наиболее приемлемыми представляются модели созданные с использованием сочетания нечёткой логики и нейронных сетей. Известно несколько методов комбинирования элементов нейронных сетей и нечёткой логики (Neuro-Fuzzy). Например, см.Рисунок 6.

( > с > г Г Л

Входные  Нейронный — Павила нечёткой  Выходные

данные классификатор логики данные

1 J V ) V У 1 )

Входные

данные

Г Нейронная адаптация <

г

- Л Павила нечёткой логики

Выходные

данные

Г л Г - ( \

Входные Функции Функции Выходные

данные нечёткой ЛОГИКИ нейронной сети данные

V V у

Рисунок 6. Примеры комбинирования элементов нейронных сетей и

нечёткой логики

Выбор одного из них или комбинирование нескольких зависит от конкретой задачи и имеющегося конкретного набора входных и выходных данных. В

случае больших объёмов однородных данных наиболее уместным представляется применение нейросетевых классификаторов как на входные так и на выходные потоки данных.

Список использованных материалов

1. Fuzzy Logic Program 2.0. Motorola Corporation 1994г.

2. Круглов, В.В. Искусственные нейронные сети. Теория и практика /

В.В.

3. Круглов, В.В. Борисов. - М.: Горячая линия - Телеком, 2002.

4. Селянин В.Е.: Разработка моделей и инструментальных средств анализа кредитного риска на основе технологии нечётких нейронных сетей : /[текст] ]: диссертация... кандидата экономических наук : 08.00.13 Волгоград, 2007

5. Степанов Л.В.: Моделирование конкуренции в условиях рынка. "Академия Естествознания", 2009 . 2.3. Выбор функции активации и обучение нейронной сети

6. Lawrence, D. Handbook of Genetic Algorithms / Lawrence Davis. -USA, New York: Van Nostrand Reinhold, 1991. - 280p.

7. Материал из Википедии: «Искусственная нейронная сеть»

8. Бахвалов Ю.Н.: О некоторых возможностях обучения радиальнобазисных нейронных сетей, «Нейроинформатика» 2004 часть 2, стр.50-52

9. Шумский С. А. Избранные лекции по Нейрокомпьютингу. Лекция 3: Обучение без учителя.

10.Подлесный С.Ю. Применение самоорганизующихся нейронных сетей для классификации заёмщиков. «МДЦ - консалтинг» Интернет-публикация

11.Лялина Е.В. Динамическое моделирование деятельности кредитной организации по производству банковских услуг: /[текст] ]: диссертация... кандидата экономических наук : 08.00.13/08.00.05 Ижевск 2007

12.Рогов М. А. Синтез теории хаоса и нейроматематики в портфельном риск-менеджменте 2007

13.Муханов Л.Е. Модели выявления и предотвращения несанкционированных транзакций в области банковских карт в системе мягкого реального времени. : /[текст] ]: диссертация... кандидата технических наук : 05.13.01 Москва 2009

14.Макеева А.В. Основы нечёткой логики. Монография. Учебное пособие для ВУЗов. ВГИПУ Н. Новгород 2009

15.Мелихов А.Н., Берштейн Л.С., Коровин С.Я.: Ситуационные советующие системы с нечеткой логикой. “Наука, МГТУ”, 1990

16.Dubois D., Prade H.: Fuzzy sets and systems. Theory and Applications. Academic Press, Orlando , FL,1980

17.Иванова К.Г.: Управление портфелем ценных бумаг на основе D-оценок Руссмана и нейросетевого моделирования : /[текст] ]: диссертация... кандидата экономических наук : 08.00.13, Воронеж 2009

18.Казарян В.В. : Моделирование активных стратегий управления краткосрочным портфелем ценных бумаг : /[текст] ]: диссертация... кандидата экономических наук : 08.00.13, Москва 2010

19.Контос Е.Г. «Анализ возможностей использования математических моделей в банковской сфере» // Транспортное дело России, 2012. - №6.

I В статье McCulloch W.S., Pitts W. A logical Calculus of Ideas Immanent in Nervous Activity - Bull. Mathematical Biophysics, 1943

II Материал из Википедии: Искусственный нейрон

(http://ru.wikipedia.org/wik1/%D0%98%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD

%D0%BD%D1%8B%D0%B9_%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%BD)

III Селянин В.Е.: Разработка моделей и инструментальных средств анализа кредитного риска на основе технологии нечётких нейронных сетей : /[текст] ]: диссертация... кандидата экономических наук : 08.00.13 Волгоград, 2007 РГБ ОД, 61:07-8/3316,стр.38

iv Материал из Википедии: Метод обратного распространения ошибки

(http://ru.wik1ped1a.org/w1ki/%D0%9C%D0%B5%D1%82%D0%BE%D0%B4_%D0%BE%D0%B1%D1%80%D0

%B0%D1%82%D0%BD%D0%BE%D0%B3%D0%BE_%D1%80%D0%B0%D1%81%D0%BF%D1%80%D0%B

E%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B5%D0%BD%D0%B8%D1%8F_%D0%BE%D1%88%

D0%B8%D0%B1%D0%BA%D0%B8)

v Материал из Википедии: Генетический алгоритм.

(http://ru.wikipedia.org/wiki/%D0%93%D0%B5%D0%BD%D0%B5%D1%82%D0%B8%D1%87%D0%B5%D1%

81%D0%BA%D0%B8%D0%B9_%D0%B0%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC)

vi Г.Э. Яхъяева, «Основы теории нейронных сетей» 2006 ISBN: 978-5-9556-0049-9. Курс лекций, Лекция 3, стр.6