СПОСОБ ИНТЕЛЛЕКТУАЛЬНОЙ ОБРАБОТКИ ИНФОРМАЦИИ В НЕЙРОННОЙ СЕТИ
METHOD FOR INTELLIGENT INFORMATION PROCESSING IN NEURAL NETWORK

Изобретение относится к бионике, моделированию функциональных аспектов человека и может найти применение в вычислительной технике при построении интеллектуальных машин и систем.
В настоящее время известны многие способы интеллектуальной обработки информации в нейронной сети, применяемые для аппроксимации, классификации, распознавания образов, обработки речи, прогнозирования, идентификации, оценивания производственных процессов, ассоциативного управления и для решения других творческих задач (Хайкин С.Нейронные сети: полный курс, 2-е издание.: Пер. с англ. М.: Издательский дом «Вильяме», 2006. - 1104 с.; Галушкин А.И. Теория нейронных сетей. Кн. 1: Учебное пособие для вузов / Общая ред. А.И.Талушкина. - М.: ИПРЖР, 2000. - 416 с.).
Однако всем им характерны узкие возможности по запоминанию структурно-сложных изменяющихся во времени сигналов, их распознаванию, ассоциированию с другими сигналами, извлечению из памяти сети и воспроизведению в исходной форме. Они не позволяют при обработке информации решать широкий спектр задач одной и той же нейронной сетью.
Наиболее близким аналогом изобретения является способ интеллектуальной обработки информации в многослойной нейронной сети с обратными связями, замыкающими контуры с временем задержки единичных образов меньше времени невосприимчивости нейронов сети после их возбуждения. Согласно ему сигнал подают в сеть после разложения на составляющие в базисе, согласованном с входным слоем сети. При этом каждую составляющую перед подачей в сеть преобразуют в последовательность единичных образов с частотой повторения как предварительно заданной функцией от амплитуды составляющей. Сигнал представляют в сети в виде последовательных совокупностей единичных образов в соответствии с предварительно заданными правилами его распознавания с учетом обратных результатов распознавания. При передаче совокупностей единичных образов от слоя к слою их сдвигают вдоль слоев с учетом текущих состояний последних. Результаты распознавания запоминают на элементах сети. В качестве результатов обработки используют последовательные совокупности единичных образов на выходном слое сети после обратного преобразования в соответствующие им исходные сигналы (Осипов В.Ю. Ассоциативная интеллектуальная машина / Информационные технологии и вычислительные системы. №2, 2010, С.59-67).
Недостатком этого способа является то, что согласно ему нейронная сеть не может воспринимать одно, а выдавать в качестве результатов обработки совершенно другое, слабо связанное с входными текущими сигналами, как это может делать человек. Результаты обработки информации в сети по времени тесно связаны с входными сигналами. Сеть функционирует как ассоциативная память. В известном способе входные сигналы вызывают из долговременной памяти сети связанные с ними запомненные сигналы и вместе представляют результаты обработки. Долговременная память сети - это память на синапсах. Оперативная память сети - это память на самих нейронах. Согласно этому способу продолжительные входные сигналы подавляют возможности сети по обработке обратных результатов распознавания. Это существенно ограничивает глубину обработки информации. Под глубиной обработки понимается время, в течение которого сеть способна обрабатывать при непрерывном входном потоке отдельно выделенный в нем короткий сигнал.
В целом эти недостатки существенно ограничивают функциональные возможности способа по интеллектуальной обработке информации.
Задачей изобретения является расширение функциональных возможностей по интеллектуальной обработке информации в нейронной сети.
Технический результат от использования изобретения заключается в повышении глубины и интеллектуальности обработки информации в нейронной сети.
Поставленная задача решается тем, что в известном способе интеллектуальной обработки информации в нейронной сети, заключающемся в подаче в многослойную рекуррентную сеть с обратными связями, замыкающими контуры с временем задержки единичных образов меньше времени невосприимчивости нейронов сети после их возбуждения, сигнала, разложенного на составляющие в базисе, согласованном с входным слоем сети, с каждой составляющей, преобразованной в последовательность единичных образов с частотой повторения как предварительно заданной функцией от амплитуды составляющей, представлении сигнала в виде последовательных совокупностей единичных образов в соответствии с предварительно заданными правилами его распознавания с учетом обратных результатов распознавания, сдвигах совокупностей единичных образов вдоль слоев с учетом текущих состояний слоев, запоминании результатов распознавания на элементах сети, использовании в качестве результатов обработки последовательных совокупностей единичных образов на выходном слое сети после обратного преобразования в соответствующие им исходные сигналы, согласно изобретению в сеть в качестве сигнала подают предварительно сформированный групповой сигнал, состоящий из полезного сигнала, просуммированного с первой частью предварительно сформированного шума, и из второй такой же части этого шума, при передаче от слоя к слою групповых совокупностей единичных образов, каждая из которых состоит из сигнально-шумовой группы и шумовой группы единичных образов, копируют из сигнально-шумовых групп единичные образы, относящиеся к полезному сигналу, в соответствующие этим группам шумовые группы, формируют из шумовых групп копии сигнально-шумовых групп единичных образов и обрабатывают эти копии с учетом изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев.
Результаты биологических исследований свидетельствуют, что обработка внешних сигналов мозгом человека осуществляется при наличии внутренних шумов. При этом внутренние шумы так же, как и внешние полезные сигналы, стимулируют работу мозга.
С учетом этого автор изобретения предлагает в сеть в качестве сигнала подавать предварительно сформированный групповой сигнал, состоящий из полезного сигнала, просуммированного с первой частью предварительно сформированного шума, и из второй такой же части этого шума, что является новым существенным признаком изобретения.
Другим новым существенным признаком изобретения выступает то, что при передаче от слоя к слою групповых совокупностей единичных образов, каждая из которых состоит из сигнально-шумовой группы и шумовой группы единичных образов, копируют из сигнально-шумовых групп единичные образы, относящиеся к полезному сигналу, в соответствующие этим группам шумовые группы.
Третьим новым существенным признаком изобретения выступает то, что предлагается формировать из шумовых групп копии сигнально-шумовых групп единичных образов и обрабатывать эти копии с учетом изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев.
Сущность изобретения поясняется фиг.1÷4.
На фиг.1 приведена структурная схема двухслойной рекуррентной нейронной сети с управляемыми синапсами, реализующей предложенный способ, где 1, 5 - первый, второй слои нейронов; 2, 6 - первый, второй блоки единичных задержек; 3, 4 - первый, второй блоки динамических синапсов; 7 - блок управления синапсами.
На фиг.2 а, б представлен пример логической структуры этой рекуррентной нейронной сети со сдвигами групповых совокупностей единичных образов вдоль слоев. Фиг.2а - вид сверху на сеть со спиральной схемой продвижения совокупностей единичных образов вдоль слоев, а фиг.2б - разрез сети по двум слоям по первой строке, где d, q - величины единичных сдвигов совокупностей, соответственно, по координатам X, Y; 1.1 и 1.2, 2.1 и 2.2, 3.1 и 3.2,……,L.1 и L.2, ML.1 и ML.2 - одинаковые подполя, соответственно, первого, второго, третьего и других полей, формируемых за счет сдвигов групповых совокупностей единичных образов вдоль слоев при передаче от слоя к слою. Стрелками на фиг.2 а, б показаны направления продвижения совокупностей единичных образов и составляющих их сигнально-шумовых и шумовых групп.
На фиг.3 а, б приведен пример групповой совокупности единичных образов до передачи от одного слоя к другому (фиг.3а) и после передачи (фиг.3б), поясняющий формирование копий сигнально-шумовых групп единичных образов.
На фиг.4 показаны примеры сглаженных ориентированных на 90° в плоскости принимающего слоя эллиптических форм поперечных сечений расходящихся единичных образов, где 1 - нейрон передающего слоя, формирующий единичный образ, относящийся к сигнально-шумовой группе; 2 - нейрон передающего слоя, формирующий единичный образ, относящийся к шумовой или к копии сигнально-шумовой группы; 3, 4 - короткие синапсы, для которых функция ослабления равна единице; 5 - ось максимальной протяженности распределения плотности мощности в поперечном сечении расходящегося единичного образа, передаваемого от нейрона 1 в направлении нейрона 7; 7, 9 - нейроны принимающего слоя, в направлении которых, соответственно, от нейрона 1 и нейрона 2 передаются расходящиеся единичные образы; 8 - штрихпунктирная линия, разделяющая поля принимающего слоя на подполя; 10 - направления поворота оси максимальной протяженности распределения плотности мощности в поперечном сечении расходящегося единичного образа. Точками, вокруг которых осуществляются повороты, в рассматриваемом случае выступают нейроны 7 и 9, в направлении которых, соответственно, от нейрона 1 и нейрона 2 передаются расходящиеся единичные образы; 11 - линия, разделяющая строки полей принимающего слоя сети; d, q - величины единичных сдвигов совокупностей, соответственно, по координатам X, Y. На фиг.4 показаны два поля принимающего слоя сети. Верхнее поле относится к одной строке, а нижнее - к другой. Полагается, что продвижение групповых совокупностей единичных образов, с учетом фиг.2, вдоль верхней строки осуществляется слева направо, а нижней - справа налево.
На фиг.5 приведен этот же пример, но с ориентацией эллиптических форм поперечных сечений расходящихся единичных образов на 180°. Под ориентацией этих форм понимается ориентация распределения плотности мощности (угол между осью у лабораторной системы координат и осью максимальной протяженности распределения плотности мощности). Обозначения, приведенные на фиг.5, такие же, как и на фиг.4.
Способ осуществляется следующим образом.
Рассмотрим его на примере нейронной сети, структурная схема которой представлена на фиг.1.
В сеть в качестве сигнала, разложенного на составляющие в базисе, согласованном с входным слоем сети, с каждой составляющей, преобразованной в последовательность единичных образов с частотой повторения как предварительно заданной функцией от амплитуды составляющей, подают предварительно сформированный групповой сигнал, состоящий из полезного сигнала, просуммированного с первой частью предварительно сформированного шума, и из второй такой же части этого шума. В качестве шума используют маломощный по отношению к полезному сигналу шум в полосе частот этого сигнала. Например, в качестве такого шума может выступать маломощный шум с равномерной спектральной плотностью в этой полосе. Первая и вторая части этого шума формируются путем разветвления шума от его генератора.
Такой групповой сигнал подают на первый вход первого слоя нейронной сети, который подразделяется на 1.1 и 1.2 входы. За каждым номером последовательности закрепляется в общем случае частотная и пространственная составляющая, соответствующая сигналу. Детали такого преобразования известны (Осипов В.Ю. Прямое и обратное преобразование сигналов в ассоциативных интеллектуальных машинах / Мехатроника, автоматизация, управление. №7, 2010, С.27-32).
После подачи в сеть на первый слой такого группового сигнала на выходе этого слоя имеют место последовательные групповые совокупности единичных образов, несущие всю информацию о входном сигнале и шуме. Каждая из этих групповых совокупностей состоит из сигнально-шумовой группы и шумовой группы единичных образов.
После задержки в первом блоке единичных задержек 2 последовательные групповые совокупности единичных образов поступают на первый блок динамических синапсов 3. Каждый единичный образ из текущей совокупности подается одновременно в первом блоке динамических синапсов 3 на совокупность своих динамических синапсов, обеспечивающих связь каждого нейрона, породившего единичный образ в общем случае со всеми нейронами второго слоя нейронов 5. За счет такого разветвления формируются расходящиеся единичные образы.
ij
ij
ij
ij
ij
1t
2t
Особенность динамических синапсов сети в следующем. При условии, что проводимость синапсов существенно меньше входной проводимости нейронов, амплитуда тока единичного образа на выходе каждого синапса равна амплитуде напряжения входного единичного образа (импульса), умноженной на вес (проводимость) w(t) синапса. Веса w(t) синапсов определяются через произведение их весовых коэффициентов k(t) и функций ослабления β(r(t),G(x,x)),
ij
ij
ij
ij
1t
2t
w(t)=k(t)·β(r(t),G(x,x)),
ij
ij
1t
2t
1t
2t
где r(t) - удаленность связываемых через синапсы нейронов (расстояние между ними на плоскости X, Y). Полагается, что расстояние между взаимодействующими слоями нейронной сети стремится к нулю; G(x,x) - коэффициент направленности формы поперечного сечения расходящегося единичного образа в направлении от i-го к j-му нейрону в плоскости X, Y; x,x - текущие состояния, соответственно, первого и второго слоев на момент времени t.
ij
ij
ij
ij
ij
ij
ij
ij
ij
ij
ij
<mrow><msub><mi>b</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo stretchy="false">(</mo><mi>t</mi><mo stretchy="false">)</mo><mo>=</mo><mi>A</mi><mo>⋅</mo><msubsup><mi>I</mi><mrow><mi>i</mi><mi>j</mi></mrow><mo>+</mo></msubsup><mo stretchy="false">(</mo><mi>t</mi><mo stretchy="false">)</mo><mo>></mo><mn>0</mn></mrow>
<mrow><msub><mi>b</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo stretchy="false">(</mo><mi>t</mi><mo stretchy="false">)</mo><mo>=</mo><mi>D</mi><mo>⋅</mo><msubsup><mi>I</mi><mrow><mi>i</mi><mi>j</mi></mrow><mo>−</mo></msubsup><mo stretchy="false">(</mo><mi>t</mi><mo stretchy="false">)</mo><mo><</mo><mn>0</mn></mrow>
<mrow><msubsup><mi>I</mi><mrow><mi>i</mi><mi>j</mi></mrow><mo>+</mo></msubsup><mo stretchy="false">(</mo><mi>t</mi><mo stretchy="false">)</mo></mrow>
<mrow><msubsup><mi>I</mi><mrow><mi>i</mi><mi>j</mi></mrow><mo>−</mo></msubsup><mo stretchy="false">(</mo><mi>t</mi><mo stretchy="false">)</mo></mrow>
Весовые коэффициенты, k(t), изменяются в зависимости от воздействий на синапсы единичных образов и выступают в качестве элементов долговременной памяти сети. При прохождении единичных образов через синапсы они снимают с них информацию о предыдущих воздействиях и оставляют информацию о своем появлении через изменения весовых коэффициентов. Значения весовых коэффициентов k(t) можно рассчитать по формулам: k(t)=1-ехр(-γ·g(t)), где γ - постоянный положительный коэффициент; g(t) - число запомненных на соответствующем синапсе единичных образов, g(t)=g(t-1)+b(t); g(t-1) - число единичных образов, запомненных на синапсе на предыдущем временном такте; b(t) - эффект от единичного взаимодействия нейронов на t-й момент времени. В частном случае, если i-й возбужденный нейрон передающего слоя (совместно с другими нейронами) возбуждает j-й нейрон принимающего слоя, то
. При невозбужденном i-м нейроне передающего слоя и возбужденном j-м нейроне принимающего слоя
. В других случаях b(t)=0. Здесь приняты следующие обозначения: A, D - константы;
,
- положительный и отрицательный ток, протекающий через синапс, соответственно, в прямом и обратном направлении.
ij
ij
1t
2t
ij
Каждая из связей (синапсов) имеет свое значение функции ослабления β(r(t),G(x,x)) единичных образов, зависящее от удаленности r(t) связываемых через синапсы нейронов и коэффициента направленности формы поперечного сечения расходящегося единичного образа в направлении от i-го к j-му нейрону в плоскости X, Y.
ij
ij
1t
2t
Функция β(r(t),G(x,x,)) может определяться как:
<mrow><mi>β</mi><mo stretchy="false">(</mo><msub><mi>r</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo stretchy="false">(</mo><mi>t</mi><mo stretchy="false">)</mo><mo>,</mo><msub><mi>G</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo stretchy="false">(</mo><msub><mi>x</mi><mrow><mn>1</mn><mi>t</mi></mrow></msub><mo>,</mo><msub><mi>x</mi><mrow><mn>2</mn><mi>t</mi></mrow></msub><mo stretchy="false">)</mo><mo stretchy="false">)</mo><mo>=</mo><mfrac><mn>1</mn><mrow><mn>1</mn><mo>+</mo><mi>ϑ</mi><mo>⋅</mo><mroot><mrow><msub><mi>r</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo stretchy="false">(</mo><mi>t</mi><mo stretchy="false">)</mo></mrow><mi>h</mi></mroot><mo>/</mo><msub><mi>G</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo stretchy="false">(</mo><msub><mi>ϕ</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>+</mo><mi>ψ</mi><mo stretchy="false">(</mo><msub><mi>x</mi><mrow><mn>1</mn><mi>t</mi></mrow></msub><mo>,</mo><msub><mi>x</mi><mrow><mn>2</mn><mi>t</mi></mrow></msub><mo stretchy="false">)</mo><mo stretchy="false">)</mo></mrow></mfrac><mo>,</mo><mtext>                         </mtext><mo stretchy="false">(</mo><mn>1</mn><mo stretchy="false">)</mo></mrow>
ij
1t
2t
ij
ij
1t
2t
ij
где h - степень корня, чем она выше, тем шире ассоциативное пространственное взаимодействие в сети; ϑ - положительный коэффициент; φ - угол, характеризующий направление на нейрон принимающего слоя от нейрона этого слоя, в направлении которого передается расходящийся единичный образ; ψ(x,x) - угол поворота оси максимальной протяженности распределения плотности мощности в поперечном сечении расходящегося единичного образа (угол поворота расходящегося единичного образа вокруг направления его передачи). Виды предварительно заданных форм поперечных сечений расходящихся единичных образов в частном случае могут быть закреплены за номерами нейронов, формирующих эти единичные образы. В этом случае значение коэффициента G(φ+ψ(x,x)) направленности формы поперечного сечения расходящегося единичного образа зависит также от номера нейрона, формирующего единичный образ. Речь в рассматриваемом случае идет о предельно возможных формах поперечных сечений единичных образов, определяемых при условии k(t)=1.
ij
Входящую в (1) величину r в единицах нейронов с учетом возможных пространственных сдвигов совокупностей единичных образов вдоль слоев сети можно выразить в виде:
<mrow><msub><mi>r</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>=</mo><msqrt><mrow><msup><mrow><mo stretchy="false">(</mo><mi>Δ</mi><msub><mi>x</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>+</mo><msub><mi>n</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>⋅</mo><mi>d</mi><mo stretchy="false">)</mo></mrow><mn>2</mn></msup><mo>+</mo><msup><mrow><mo stretchy="false">(</mo><mi>Δ</mi><msub><mi>y</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>+</mo><msub><mi>m</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>⋅</mo><mi>q</mi><mo stretchy="false">)</mo></mrow><mn>2</mn></msup></mrow></msqrt></mrow>
;
ij
ij
n=±0, 1,…, L-1; m=±0, 1,…, M-1;
ij
ij
Δx, Δy - проекции связи j-го нейрона с i-м на оси X, Y без учета пространственных сдвигов; d, q - величины единичных сдвигов, соответственно, по координатам X, Y; L, М - число, соответственно, столбцов и строк, на которые разбивается каждый слой нейронной сети за счет сдвигов.
ij
ij
ij
ij
ij
Изменяя Δx, Δy на соответствующие значения n·d и m·q можно менять r и направление потока совокупностей единичных образов вдоль слоев сети.
Такие сдвиги совокупностей единичных образов вдоль слоев реализуются через управление динамическими синапсами с блока управления синапсами 7.
Для принятия решения в блоке управления синапсами о сдвиге очередной совокупности единичных образов, в нем сначала анализируются состояния первого и второго слоя. В случае, когда на выходе первого или второго слоя имеет место совокупность единичных образов, которую нельзя передать на другой слой по коротким связям из-за нахождения соответствующих нейронов этого слоя в состояниях невосприимчивости, осуществляют сдвиг этой совокупности. В случае, когда нет препятствий для передачи совокупности единичных образов по коротким связям, сдвиг ее не осуществляют.
ij
ij
ij
1t
2t
ij
ij
ij
ij
ij
Угол φ, от которого зависит G(φ+ψ(x,x)), характеризующий направление на нейрон принимающего слоя от нейрона этого слоя, в направлении которого передается расходящийся единичный образ, равен φ=arctg(Δx/Δy), где Δx, Δy - расстояния между соответствующими нейронами в плоскости X, У принимающего слоя.
ij
ij
1t
2t
ij
ij
1t
2t
1t
2t
1t
2t
Для определения G(φ+ψ(x,x)) можно предварительно задаться видами форм поперечных сечений расходящихся единичных образов. Возможны круговые, эллиптические и другие формы, без смещения и со смещением энергетических максимумов. Пусть для примера одной из них будет эллиптическая форма, изначально ориентированная по оси Y. Для этой формы каждому значению угла χ от оси Y соответствует свое значение коэффициента направленности G(χ). Эти данные по G(χ) могут выступать в качестве исходных для определения значений коэффициента G(φ+ψ(x,x)) в (1). Определение ψ(x,x) с учетом текущих состояний слоев сети осуществимо путем поиска угла, при котором на заданном интервале времени может быть достигнут максимум числа ассоциативно вызываемых из долговременной памяти сети единичных образов. С учетом инерционности этот угол можно определить путем варьирования значениями угла поворота и оценки числа ассоциативно вызываемых из долговременной памяти единичных образов. Поворот оси максимальной протяженности распределения плотности мощности в поперечном сечении расходящегося единичного образа на угол ψ(x,x) равносилен повороту этого образа на этот угол вокруг направления передачи. В частном случае эти повороты можно осуществлять на предварительно задаваемые углы с учетом текущих состояний слоев, номеров возбужденных нейронов.
В общем случае смещенные групповые совокупности с измененными формами поперечных сечений расходящихся единичных образов и с поворотами этих образов вокруг направлений их передачи с выхода первого блока динамических синапсов 3 поступают на вход второго слоя нейронов 5.
Все единичные образы, поступившие на один и тот же нейрон по различным синапсам, суммируются. При превышении этой суммы заданного порога возбуждения нейрона он возбуждается и на его выходе формируется единичный образ. Затем имеемая сумма обнуляется, а сам нейрон затем переходит в состояние невосприимчивости входных сигналов. В нем он находится заданное время, одинаковое для всех нейронов сети, которое больше суммарной задержки единичных образов в блоках 1, 2, 3, 5, 6, 4, входящих в двухслойный многопучковый контур нейронной сети.
Заметим, что мощность единичных образов на входе нейронов тем выше, чем меньше ее потери на синапсах. Мощность, рассеиваемая на каждом синапсе, определяется квадратом тока, протекающего через него, умноженного на сопротивление синапса, равное обратной величине его проводимости - весу синапса.
Последовательные совокупности единичных образов с выхода второго слоя 5, после задержки в блоке 6, поступают на второй блок динамических синапсов 4. В блоке 4 они аналогичным образом, как и в блоке 3, обрабатываются и, в общем случае, с измененными формами поперечных сечений расходящихся единичных образов и с поворотами этих образов вокруг направлений их передачи поступают на второй вход первого слоя нейронов 1.
С учетом этого поступающие на первый слой 1 нейронов прямые и обратные совокупности единичных образов в нем корректно связываются, распознаются и порождают на его выходе новые совокупности единичных образов, несущие в себе информацию, как о текущих, так и ранее запомненных сетью сигналах, связанных с первыми. При этом за счет соответствующих сдвигов совокупностей единичных образов вдоль слоев исключается наложение обратных результатов распознавания на прямые совокупности. За счет изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи достигается возможность оперативного изменения уровней связи между отдельными единичными образами, их группами и совокупностями в сети.
За счет приоритетности коротких связей в нейронной сети между входом и выходом сети легко устанавливается однозначное соответствие между составляющими входных и выходных сигналов.
С учетом этого соответствия по номерам нейронов, формирующих последовательности единичных образов на выходе устройства, определяют частотные и пространственные характеристики составляющих исходного сигнала. По частотам следования и относительным задержкам единичных образов, соответственно, устанавливают амплитуды и фазы составляющих исходного сигнала. Затем воспроизводят составляющие исходных сигналов и путем их сложения восстанавливают исходные, например речевые и другие сигналы. Для определения амплитуд составляющих исходного сигнала определяют текущее число единичных образов, попадающих в предварительно заданный интервал времени. Для воспроизведения составляющих исходных сигналов применим, например их цифровой синтез по известным параметрам.
За счет цикличности обмена информацией первого слоя со вторым, все пространство слоев (фиг.2 а, б) разбивается на ML полей. При этом каждое поле дополнительно подразделяется на два одинаковых подполя. Согласно изобретению полезный сигнал, просуммированный с первой частью предварительно сформированного шума, после разложения на составляющие и их преобразования в последовательности единичных образов, подается на первое подполе 1.1 первого поля первого слоя (фиг.2а). На второе подполе 1.2 первого поля первого слоя подается после разложения на составляющие и их преобразования в последовательности единичных образов вторая часть предварительно сформированного шума, идентичная первой части. Совокупности единичных образов продвигаются по сети в указанных направлениях, ассоциируются друг с другом. При этом входные последовательные совокупности единичных образов преобразуются в параллельные, а снимаются с сети после ассоциаций снова как последовательные. Основным выходом сети согласно предлагаемому способу, в соответствии с фиг.2 а выступает выход ML.2. Выход ML.1 является вспомогательным.
Согласно фиг.2 а, б имеет место схема продвижения групповых совокупностей единичных образов в виде спирали со встречным их продвижением.
ij
ij
ij
1t
2t
ij
ij
1t
2t
ij
ij
1t
2t
За счет того, что на первый слой сети при наличии и отсутствии полезного сигнала подают параллельно и непрерывно две одинаковые части предварительно сформированного шума, в виде последовательных групповых совокупностей единичных образов, между одинаковыми сигнально-шумовыми и шумовыми составляющими в сети устанавливаются и поддерживаются непрерывно прочные ассоциативные связи через соответствующие синапсы. Для этих синапсов значения весовых коэффициентов k(t) со временем стремятся к единице. При условии, что значения функций ослабления β(r(t),G(x,x)) для этих синапсов не близки к нулю, через эти синапсы при передаче от слоя к слою групповых совокупностей единичных образов осуществляется копирование из сигнально-шумовых групп единичных образов, относящихся к полезному сигналу, в соответствующие этим группам шумовые группы. В случае, когда за счет изменения форм поперечных сечений расходящихся единичных образов и (или) поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев функции ослабления β(r(t),G(x,x)) стремятся к нулю, такое копирование становится невозможным. Когда оно уже произошло, то копии сигнально-шумовых групп при соответствующих β(r(t),G(x,x)), близких к нулю, «отрываются» от оригиналов и обрабатываются независимо от них с учетом обратных результатов распознавания этих копий и воздействий на сеть второй части маломощного шума. В этом случае маломощный шум лишь стимулирует функционирование сети и порождает новые условия обработки этих копий. Исключается подавление обратных результатов распознавания копий потоком входных сигналов. Увеличивается глубина обработки информации в нейронной сети, так как увеличивается число циклов обработки обратных результатов распознавания.
На фиг.3 а, б приведен пример, поясняющий копирование сигнально-шумовых групп в шумовую группу единичных образов. Учитывая, что мощность обрабатываемого шума существенно меньше мощности полезного сигнала, он не оказывает существенного влияния на полезный сигнал.
Из фиг.4, 5 видно, что за счет изменения форм поперечных сечений расходящихся единичных образов и за счет поворотов этих образов вокруг направлений их передачи с учетом текущих состояний слоев можно существенно влиять на взаимосвязь обрабатываемых в сети полезных сигналов и их копий. В соответствии с фиг.4 поперечные сечения расходящихся единичных образов, относящихся к сигнально-шумовым группам, покрывают нейроны, ответственные за формирование копий сигнально-шумовых групп. При этих условиях такие копии могут успешно формироваться. Для «отрыва» копий сигнально-шумовых групп от оригиналов достаточно осуществить дополнительный поворот на 90° по часовой стрелке осей максимальной протяженности распределения плотности мощности в поперечных сечениях расходящихся единичных образов. Результат такого поворота показан на фиг.5. Из фиг.5 видно, что в отличие от фиг.4, поперечное сечение расходящегося единичного образа, формируемого нейроном 1, не покрывает нейрон 9. В этом случае нейрон 1 не может возбудить нейрон 9. Зато поперечные сечения расходящихся единичных образов хорошо покрывают нейроны других подполей второй строки, ответственных за формирование одних и тех же типов групп единичных образов. В результате обеспечивается независимая полноценная обработка в сети оригиналов и копий сигнально-шумовых групп.
Если эллиптическую форму поперечных сечений расходящихся единичных образов преобразовать на заданное время, например, в круговую, то ситуация по взаимосвязи копий и оригиналов также существенно изменится.
Формирование копий сигнально-шумовых групп и обработка их в сети с учетом отмеченных условий позволяет существенно расширить функциональные возможности по интеллектуальной обработке информации в нейронной сети. Повышается глубина и интеллектуальность обработки информации. Предоставляется возможность временно отрывать «мысли» сети от воспринимаемого потока входных сигналов, а также генерировать новые осознанные сигналы с учетом влияния маломощного шума.
Для доказательства преимущества предлагаемого способа по сравнению с известными решениями была разработана реализующая этот способ программная модель двухслойной рекуррентной нейронной сети с управляемыми синапсами со структурой, приведенной на фиг.1. Число нейронов в каждом слое составляло 2100 единиц. За счет сдвигов групповых совокупностей единичных образов вдоль слоев (при передаче от слоя к слою) слои разбивались на две строки по 25 полей размером 6×7 нейронов. При этом каждое поле делилось на два подполя размером 3×7. Моделировалась обработка такой сетью групповых сигналов согласно предлагаемому способу. Установлено, что за счет предварительно формируемого шума, подаваемого параллельно на первое и второе подполя первого поля первого слоя сети, можно обеспечить однозначное соответствие между одинаковыми сигнально-шумовыми и шумовыми составляющими и успешно формировать копии сигнально-шумовых групп при обработке рассматриваемых групповых сигналов. За счет изменения форм поперечных сечений расходящихся единичных образов и поворотов этих образов вокруг направлений их передачи можно существенно влиять на взаимосвязь копий сигнально-шумовых групп и их оригиналов. За счет формирования сигнально-шумовых копий и «отрыва» их от оригиналов удается исключить подавление обратных результатов распознавания этих копий входным потоком сигналов. Это повышает глубину и расширяет функциональные возможности интеллектуальной обработки информации в нейронной сети.
Способ интеллектуальной обработки информации в нейронной сети может быть реализован с использованием известной элементной базы. В качестве нейронов слоев и элементов единичных задержек в блоках единичных задержек нейронной сети, реализующей способ применимы ждущие мультивибраторы. При этом ждущие мультивибраторы в блоках единичных задержек следует запускать не по переднему, а заднему фронту входного импульса. Блоки динамических синапсов могут быть реализованы с использованием мемристоров (резисторов с памятью) и обычных управляемых аттенюаторов. Блок управления синапсами реализуем специализированными процессорами, программируемыми интегральными схемами, функционирующими в соответствии с рассмотренными выше правилами. Способ можно реализовать также путем эмулирования двухслойной рекуррентной нейронной сети с управляемыми синапсами на современных вычислительных машинах.