УПРАВЛЯЮЩЕЕ УСТРОЙСТВО С ИСКУССТВЕННОЙ НЕЙРОСЕТЬЮ

Полезная модель относится к аналогово-цифровым управляющим устройствам и может быть использована при создании систем автоматического управления сложными объектами и технологическими процессами, позволяющими объекту изменять свою реакцию в зависимости от изменения характера внешних факторов, а также при моделировании мозга человека.
Согласно общей теории систем управляющее устройство систематически или по мере необходимости вырабатывает управляющие сигналы, воздействуя на некоторый процесс. Самоорганизующиеся управляющие устройства строятся на принципах оптимизации решения, для чего входная информация перерабатывается в соответствии с набором правил с целью получить на выходе управляющие сигналы, адекватно решающие поставленную задачу. Работа управляющей системы организуется с помощью искусственной нейронной сети, моделирующей нервную систему живых организмов и функционирующей на основе нейроподобных элементов (НПЭ).
Известен нейроподобный элемент, на основе которого можно построить устройство для решения класса задач оценки функционирования открытых сложных систем, оценки степени оптимальности различных решений (RU 2295769, опубл. 2007). Устройство имеет ограниченные функциональные возможности, в частности, не способно к самообучению.
Известен ряд устройств для управления сложными технологическими процессами (Нейронная сеть, RU 66831, 2007; Доменная нейронная сеть RU 7208, 2008;
Модульная вычислительная система RU 75247, 2008; Ассоциативная память, RU 77483, 2008 и др.), общим недостатком которых являются ограниченные функциональные возможности и неспособность к самообучению, поскольку коммутация межнейронных связей и передача информации между нейронами осуществляется на основе детерминированных таблиц связей, а для ряда устройств необходимо использовать внешнюю память.
Известны динамические синапсы для обработки сигнала в нейронных сетях. Система содержит множество взаимосвязанных нейронов и предназначена для обработки сигналов, поступающих в виде последовательности импульсов. Сущностью устройства является установление обратной связи между предсинаптическим и постсинаптическим нейронами и использование тормозящих нейронов, что непрерывно изменяет процедуру обработки сигнала синапсом, так что при вторичном предъявлении одного и того же сигнала синапс учитывает предсинаптическую картину и дает иную картину на выходе. Динамическое изменение проводящей структуры сети с обратными связями дает увеличение вычислительной мощности сети на нейронном уровне и увеличение способности сети к динамическому обучению (US 6643627, 2003).
В известном устройстве коррекцию информационного сигнала осуществляют на локальном уровне предсинапс-постсинапс, что эффективно только для сетей малого объема. При увеличении числа слоев до 4 и более полезные свойства динамического синапса резко уменьшаются. Класс решаемых подобной системой задач ограничен, наилучшие результаты получены для задач фильтрации шумов в многопараметрических сигналах и анализа речи, например, при распознании одинаковых слов, произнесенных различными людьми с различными акцентами.
Известна нанотехнологичная нейронная сеть и способ организации ее работы, во многих аспектах моделирующая биологический мозг и протекающие в нем процессы взаимодействия нейронов (US 7426501 Nanotechnology neural network methods and systems, 2008 г.). Устройство содержит множество искусственных нейронов с наноотростками, взвешенных и способных к перемещению в специальной среде (диэлектрическом растворе). Соседние синаптические элементы разделены промежутками с возможностью создания поперек них электрического поля, под действием которого устанавливаются электрические связи. Связи способны усиливаться, ослабляться и даже растворяться в диэлектрическом растворе для забывания неправильных реакций на входные сигналы, что обеспечивает быстрое обучение нейронной сети. Для этого промежуток между соседними нейронами может быть оборудован соответствующей логикой.
Известное устройство решает ряд тех же проблем, что и заявляемое техническое решение, но средствами, сложными для физической реализации и практического использования.
Известна техническая нервная система RU 2128857, опубл. 1999. Устройство содержит технический мозг, распределитель выходных сигналов, регулятор мощности питания рецепторов, активное устройство обучения, рецепторы выходных сигналов технического мозга, рецепторы внешних систем, распределения питания и обучения. Нейронная сеть построена в виде матрицы регулируемых резисторных элементов. На каждом шаге обучения определяют ситуацию, когда отношение отклонения сигнала управления к допустимому отклонению этого сигнала в данной ситуации было наибольшим, и проводят внешнюю корректировку проводимостей элементов матрицы технического мозга. Система обладает ограниченными функциональными возможностями, сложна в изготовлении и содержит большое число внешних регуляторов для коррекции реакций, что ограничивает ее способность к самообучению.
Наиболее близким к заявленному техническому решению по назначению и существенным признакам является многослойное перцептронное устройство (US 5220641, Multi-layer perceptron circuit device, 1993).
Архитектура самоорганизующейся нейронной сети в виде многослойного персептрона, подобная изобретению US 5220641, используется наиболее часто. Каждый нейрон строит взвешенную сумму входных сигналов с поправкой в виде слагаемого и пропускает величину активации с учетом ошибки через передаточную функцию, таким образом, устройство вырабатывает выходное значение сигнала. Обучение рекуррентной нейронной сети, по сути дела, заключается в исследовании поверхности ошибок и отыскании глобального минимума.
Устройство-прототип содержит множество нейроподобных элементов, связи между которыми обеспечены особой топологий, при которой элементы сгруппированы в модульные блоки так, что выходы НПЭ одного блока расположены ортогонально или под некоторым углом к входам НПЭ другого блока, что позволяет установить между выходом одного нейроподобного элементы и входами множества других элементов синаптические связи. Каждый из синапсов получает сигналы от одной из линий входа, производит вычисление веса этого сигнала с предписанным значением, и затем передает результат вычисления на одну из линий выхода сигнала. Заметим, поскольку в прототипе основным конструктивным элементом является синапс, здесь линия входа для синапса по прототипу является линией выхода нейроподобного элемента согласно традиционным представлениям, а линия выхода для синапса по прототипу является линией входа для традиционного нейрона и для нейроподобного элемента заявленной полезной модели. Каждый синапс содержит блок подсчета веса. Самообучение построено на алгоритме обратного распространения ошибки. Устройство выбрано за прототип.
Общими недостатками систем с самообучением путем вычисления, варьирования и коррекции весов связей являются неприемлемо большие времена обработки конфигурации входных сигналов для получения адекватных управляющих сигналов. Согласно прототипу, чтобы обучить нейронную сеть решению какой-либо задачи, необходимо многократно подправлять веса каждого элемента таким образом, чтобы уменьшалась ошибка - расхождение между действительным и желаемым выходом. При этом время обучения растет значительно быстрее, чем размеры сети.
Недостатками прототипа являются сложность устройства из-за наличия большого числа регулирующих элементов и его ограниченные функциональные возможности.
Для устранения недостатков в управляющем устройстве целесообразно отказаться от коррекции весов связей, в том числе от алгоритма обратного распространения ошибки. В заявленной полезной модели использован другой принцип: вместо корректировки весов связей непрерывно прокладывают все новые и новые связи между нейронами, «забывая» старые и закрепляя те, которые учитывают предшествующие события и реализуют «правильные» реакции на изменяющуюся конфигурацию входных сигналов. Такой экстенсивный путь обучения более перспективен для самоорганизующихся систем и более соответствует биологической природе интеллекта. По некоторым оценкам, человеческий мозг имеет потенциал в сотни терабайт, из которых задействовано около половины, а его информационное содержание изменяется, в среднем, в темпе сотен килобайт в секунду.
Технической задачей является создание самоорганизующегося управляющего устройства, сочетающего простоту конструкции с широкими функциональными возможностями. Для реализации такого устройства необходимо создать многослойную нейронную сеть с очень большим объемом памяти, что достигается специальной топологией нейронной сети, описанной ниже.
Поставленная задача решается тем, что в известном устройстве-прототипе, содержащем множество нейроподобных элементов (НПЭ), которые имеют входы и выходы, способны получать электрические сигналы от сенсоров или от других НПЭ, возбуждаться при потенциале входа больше текущего порогового потенциала и генерировать электрические сигналы по-новому организуют взаимодействие элементов нейросети. Каждый НПЭ выполнен с возможностью формирования при возбуждении на своем выходе положительного импульса напряжения, а на входе - отрицательного импульса напряжения, выход каждого НПЭ отделен от входов близлежащих НПЭ диэлектрической пленкой с полупроводниковым слоем, такой, что разность напряжений между двумя одновременно возбужденными НПЭ достаточна для пробоя диэлектрика и установления между ними резистивной связи с уменьшающейся во времени проводимостью, входы некоторых произвольных НПЭ соединены с сенсорами, выходы некоторых произвольных НПЭ соединены с исполнительными механизмами, причем часть упомянутых резистивных связей установлена заранее при изготовлении управляющего устройства и при получении сигнала от сенсора образует, по крайней мере, одну электрическую цепь от входа, соединенного с сенсором, до выхода, соединенного с исполнительным механизмом.
В одном из вариантов осуществлений управляющее устройство может быть реализовано с помощью нейроподобного элемента, способного образовывать электрические связи со своими соседями и обладающего некоторыми элементарными свойствами биологического нейрона: способностью возбуждаться, уставать, восстанавливать работоспособность и подпитываться энергией для передачи сигнала без затухания. Такой НПЭ реализуется на основе известных элементов микроэлектроники и может иметь, например, следующую конструкцию. НПЭ содержит вход для приема и суммирования электрических сигналов от ему подобных элементов или от внешних источников и рабочий выход, формирователь порогового напряжения, соединенный с источником регулируемого опорного напряжения, компаратор, способный выдать команду на возбуждение НПЭ, генератор нормированных положительных импульсов (ГПИ) и генератор равных им по величине и продолжительности отрицательных импульсов (ГОИ). Компаратор соединен с входом НПЭ и с выходом формирователя порогового напряжения, вход ГПИ соединен с выходом компаратора, а его выход - с рабочим выходом НПЭ и с входом формирователя порогового напряжения, вход ГОИ соединен с выходом компаратора, а его выход - с входом НПЭ.
2
В частном случае, с целью унификации комплектующих деталей и уменьшения габаритов управляющего устройства, нейроподобные элементы могут быть сгруппированы в модульные блоки по N>1 элементов, каждый модульный блок выполнен на плоской подложке, на которой входы/выходы НПЭ параллельны друг другу и образуют две односторонние или двусторонние контактные площадки соответственно входов/выходов, а сами модульные блоки расположены так, что выходы одного блока через диэлектрическую пленку наложены ортогонально или под некоторым углом на входы другого блока, образуя в проекции, по крайней мере, одну сетку с приблизительно N узлами пересечений.
Сущность полезной модели иллюстрируется схемами.
На фиг.1а представлена общая схема управляющего устройства, на фиг.1б - принципиальная схема взаимодействия нейроподобных элементов.
На фиг.2 показана возможная конструкция нейроподобного элемента.
На фиг.3 приведена схема модульного блока нейроподобных элементов.
На фиг.4 показан монтаж управляющего устройства из модульных блоков.
На фиг.5 показан процесс кодирования суммарного входного сигнала.
На фиг.6 показана коррекция электрических цепей стимул-реакция при обучении нейронной сети.
Описание управляющего устройства.
Управляющее устройство (фиг.1а) содержит множество нейроподобных элементов НПЭ, между входами и выходами которых могут устанавливаться электрические связи. Стрелками показано направление прохождения сигнала. Входы некоторых произвольных НПЭ получают сигналы от внешних источников, выходы некоторых произвольных НПЭ выдают управляющие сигналы. Так, на схеме фиг.1а в качестве примера вход элемента НПЭ1 соединен с сенсором 1, вход элемента НПЭ1 соединен с сенсором i, выход элемента НПЭ3 соединен с исполнительным механизмом устройства.
Согласно формуле, часть электрических связей между НПЭ установлена заранее при изготовлении устройства, например, пайкой. Эти связи используются для выполнения устройством некоторых базовых (заданных) реакций при обучении нейронной сети с учителем. Эти же связи необходимы устройству и при обучении без учителя, т.е. при самообучении во время работы. На схеме фиг.1а показан пример таких заранее установленных связей: электрическая связь 7 между выходом НПЭ1 и входом НПЭ2 и электрическая связь2 между выходом НПЭ2 и входом НПЭ3 образуют базовую электрическую цепь от сенсора 1 до исполнительного механизма. Например, вход НПЭ1 может быть подключен к фотоэлементу, а выход НПЭ3 к электродвигателю, перемещающему этот фотоэлемент. При подаче фотосигнала на сенсор 1 заранее установленные связи образуют электрическую цепь, вырабатывающую управляющий сигнал на электродвигатель фотоэлемента.
Принципиальная схема искусственной нейросети показана на фиг.1б. Нейронная сеть содержит нейроподобные элементы 3 с входами 1 и выходами 2. Нейроподобные элементы 3 образуют многослойную структуру и расположены так, что входы 1 и выходы 2 близлежащих НПЭ разделены диэлектрической пленкой с полупроводниковым слоем. Между входами 1 и выходами 2 могут установиться электрические связи а, b, с, d и т.д.
Связи обладают односторонней проводимостью, т.е. сигнал с выхода данного НПЭ передается на вход другого близкого ему по расположению НПЭ, но не может передаваться от входа одного НПЭ к выходу другого. Характер образующихся резистивных связей показан на выносном элементе фиг.16, где между выходом 2 и входом 1 реализована полупроводниковая связь конечной проводимости. Резистивные связи с односторонней проводимостью образуются на основе известных технических решений, когда импульс напряжения вызывает электрический пробой барьерного слоя пленки, что приводит к формированию токопроводящих соединительных каналов между разрядными шинами. При этом между разрядными шинами оказывается включенным p-n диод (см., например, 1. Электроника: Наука, Технология, Бизнес 6/2001. М. Валентинова. Экзотическая память; 2. Pat. US 5835396, Three-dimensional read-only memory, 1998 г.).
Согласно заявленной конструкции, выход любого НПЭ может установить электрические связи с множеством входов других НПЭ, а вход любого НПЭ является многоточечным, он может принять сигнал с множества выходов других НПЭ. Условием образования связи является одновременное или частично совпадающее по времени возбуждение двух близлежащих НПЭ. Максимальное количество возможных связей зависит от конкретной топологии многослойной нейронной сети.
Каждая резистивная связь при возникновении имеет максимальный вес, со временем ее проводимость уменьшается. Тем самым, по аналогии с синапсами биологических нейронов, реализуется старение резистивных связей, например, заданием особых свойств диэлектрической пленки с полупроводниковым слоем, или за счет диффузионных процессов в диэлектрике. Таким образом, на входе НПЭ суммируется потенциал множества сигналов, каждый из которых вносит вклад пропорционально текущей проводимости связи, через которую он пришел на вход.
Помимо прямых связей, передающих сигнал от сенсора к исполнительному механизму, в нейросети могут образоваться многочисленные обратные связи, нанесенные на фиг.16 пунктиром и обозначенные цифрой 4. Обратные связи могут быть короткими, как между элементами k2 и jl, или длинными, как между элементами k1 и i2.
На схеме фиг.16 в качестве примера показаны только три группы нейроподобных элементов, обозначенные i, j, k, по n элементов в каждой группе, и три обратные связи, но таких групп и связей в управляющем устройстве может быть множество.
Управляющее устройство работает следующим образом:
На произвольные входы управляющего устройства (УУ), изображенного на фиг.1а, поступают сигналы от сенсоров, преобразующих разнородные внешние сигналы-раздражители (оптические, акустические, температуры, давления, электромагнитные, радиационные и т.д.) в электрические сигналы. Здесь и далее совокупность сигналов от сенсоров понимается как конфигурация входных сигналов. Сигналы передаются по нейросети через возбужденные НПЭ по электрическим связям между ними. Электрические связи образуются путем пробоя диэлектрической пленки, разделяющей близко расположенные НПЭ.
При потенциале входа, превышающем пороговый потенциал, некоторый НПЭ возбуждается, на его выходе генерируется сигнал стандартной амплитуды и длительности, а на входе создается отрицательный потенциал. Аналогичный процесс протекает на других нейроподобных элементах нейросети. В некоторый момент два соседних НПЭ (см. фиг.1б) одновременно оказываются в возбужденном состоянии, например, на выходе 2 элемента i1 сформировано напряжение +U, а на входе 1 элемента j2 сформировано напряжение -U. Поскольку выход возбужденного элемента i1 и вход возбужденного элемента j2 разделяет диэлектрик с расчетным пробойным потенциалом Uпробоя<2U, возникает пробой диэлектрического слоя, и между нейроподобными элементами образуется резистивная связь, обозначенная на схеме точкой а.
0
0
0
Сопротивление вновь образованной связи R(t)=Rmin со временем увеличивается R(t>t)>R(t), что может быть обеспечено заданными свойствами диэлектрика. На фиг.1б связи b и с на входе элемента jl в общем случае имеют разную проводимость, т.е. обладают разным весом, так что два одинаковых по величине сигнала, поданных с выходов элементов il и in, вносят разный вклад в суммарный сигнал, поступающий на вход элемента jl. Это позволяет отказаться от процедуры коррекции сигнала и от синапсов, вычисляющих корректирующие добавки, как это реализовано в устройстве-прототипе. В заявленном устройстве осуществляется конкуренция нейроподобных элементов за приходящие на их входы сигналы, которая способствует тому, что для сложившейся на данный момент совокупности связей один из НПЭ имеет преимущество и определяет путь дальнейшего следования сигнала к исполнительному механизму, оптимальный для данной конфигурации входных сигналов.
Совокупность входных сигналов от сенсоров (раздражитель) проходит через сложившуюся в УУ к данному моменту времени древовидную совокупность электрических цепей (см. фиг.6а), создавая при этом все новые связи между нейроподобными элементами. Нейронная сеть обрабатывает конфигурацию сигналов, в то же время сигналы, возбуждая НПЭ и устанавливая связи, непрерывно модифицируют проводящую структуру нейронной сети. Близкие по расположению и одновременно возбужденные НПЭ оставляют на пути сигнала метку памяти -электрическую связь, благодаря чему происходит «запоминание» пути прохождения некоторой конфигурации сигналов, и в дальнейшем нейронная сеть выполняет прогнозную функцию для похожей конфигурации сигналов. Существенно, что ранее установленные резистивные связи со временем стареют, т.е. непрерывно уменьшают свою проводимость. Их функцию берут на себя новые, более адекватные связи. В конечном итоге сигналы поступают на выходы управляющего устройства, соединенные с исполнительными механизмами, т.е. становятся управляющими сигналами. Управляющие сигналы могут быть правильными, способствующими решению поставленной задачи, или неправильными. Правильные реакции вырабатываются путем обучения нейросети. По мере модификации проводящей структуры нейронной сети УУ все более адекватно решает поставленную задачу.
Рассмотрим более подробно функции нейроподобного элемента.
Схема предпочтительной конструкции нейроподобного элемента показана на фиг.2. Нейроподобный элемент (НПЭ) 3 содержит вход 1, выход 2 и блок преобразования сигналов, включающий компаратор 6, формирователь порогового напряжения 7, генератор нормированных положительных импульсов (ГПИ) 8 и генератор равных по величине и продолжительности отрицательных импульсов (ГОИ) 9. Вход формирователя порогового напряжения 7 соединен с источником опорного напряжения. Первый вход компаратора 6 соединен с входом 1, второй вход компаратора 6 соединен с выходом формирователя порогового напряжения 7, выход компаратора 6 соединен с входом ГПИ 8 и с входом ГОИ 9. Для работы НПЭ необходимо внешнее электрическое питание: источник регулируемого опорного напряжения, источник положительного потенциала, источник отрицательного потенциала.
i
Нейроподобный элемент (фиг.2) работает следующим образом. На вход 1 от соседних НПЭ или от внешних сенсоров могут быть поданы множество сигналов S, которые суммируются в соответствии с установленными на данный момент многочисленными связями 5. Суммарный потенциал сигналов подается на вход компаратора 6, при этом на второй вход компаратора 6 с выхода формирователя порогового напряжения 7 подается некоторый пороговый потенциал. Пороговый потенциал формируется индивидуально в каждом НПЭ на основе регулируемого опорного потенциала, подаваемого на вход формирователя порогового напряжения 7. Если сумма сигналов на входе 1 превысит значение порогового потенциала, НПЭ возбуждается. Компаратор 6 непрерывно сравнивает суммарный потенциал входа с текущим значением порогового напряжения и, в случае возбуждения НПЭ, ГПИ 8 формирует на выходе 2 нормированный по величине и по продолжительности положительный потенциал, который определяет продолжительность возбуждения НПЭ и является выходным сигналом НПЭ. Одновременно компаратор выдает команду ГОИ 9, который формирует на входе 1 отрицательный потенциал, равный по величине и по продолжительности описанному выше положительному потенциалу.
i.
i
Возбужденный нейроподобный элемент 3 может установить электрические связи с множеством соседних возбужденных НПЭ, что показано на схеме фиг.2 как множество сигналов S Если возбужден только один НПЭ, новые связи не устанавливаются. Заметим, что при низком уровне порогового напряжения, близком к опорному, НПЭ может самовозбудиться за счет случайных флуктуации потенциала на входе, что можно использовать при прокладке базовых связей между НПЭ. Упомянутый отрицательный потенциал, формируемый при возбуждении НПЭ, через низкоомный резистор (на фиг.2 не показан), поступает на вход 1, резко уменьшая суммарный потенциал входных сигналов S, реализуя, тем самым, конкуренцию нейроподобных элементов за возможность передать сигнал по нейронной сети.
i
При частом возбуждении НПЭ с выхода ГПИ 8 на накопительную емкость (на схеме не показана) формирователя порогового напряжения 7 подаются соответствующие положительные импульсы, пороговое напряжение НПЭ возрастает настолько, что он перестает возбуждаться, моделируя усталость синапса биологического нейрона. При этом подача отрицательных импульсов на вход 1 также прекращается, т.е. прекращается «подсаживание» суммарного потенциала входных сигналов S. Это способствует возбуждению других нейроподобных элементов, соседствующих по связям с уставшим НПЭ. При долгом отсутствии возбуждений пороговый потенциал медленно стекает через высокоомный резистор (на схеме не показан), стремясь к опорному потенциалу Uопорн. Так реализуется восстановление работоспособности НПЭ.
Согласно сущности полезной модели, нейроподобный элемент нейронной сети, имея многоточечный вход, оперирует не сигналами внешней среды, а суперпозицией сигналов НПЭ, возбужденных разными источниками. Поскольку сигналы передаются от сенсоров к исполнительным механизмам только через возбужденные нейроподобные элементы, сигнал, поступивший на вход НПЭ, может генерировать выходной сигнал в двух случаях: либо входной сигнал имеет величину больше пороговой, либо на вход поступило несколько сигналов, и их суммарная величина выше порогового напряжения, т.е. выполнено условие возбуждения НПЭ. При возбуждении генерируется новый сигнал, который может быть передан по нейронной сети. Сигнал передается либо через вновь устанавливаемую связь, либо через связи, установленные ранее. Пока на выходе связей нет, возбужденный НПЭ не передает сигнал по нейросети. Поскольку сигнал передается от слоя к слою нейронной сети не в исходном виде, а постоянно генерируется, сигнал не затухает. Электронные элементы НПЭ работают на малых токах и всегда могут быть снабжены средствами преобразования их в сигналы требуемой мощности.
3
4
Для изготовления компактной нейронной сети описанные НПЭ группируют на плоской подложке размером, например, 10×30 мм и толщиной около 0,1 мм, где могут быть размещены порядка 10-10 элементов, как показано на фиг.3, образуя модульный блок (МБ) нейроподобных элементов. Основные электронные элементы размещают в центральной части блока, а по краям образуются контактные площадки параллельных входов и выходов соответственно. Как входы, так и выходы могут располагаться с обеих сторон плоской подложки.
Многослойную нейронную сеть монтируют из идентичных модульных блоков МБi путем наложения друг на друга контактных площадок, ортогонально, как показано на фиг.4, или под некоторым углом друг к другу.
В последнем случае архитектурные варианты нейронной сети существенно шире. Сборка может быть выполнена в виде спиралей, колодцев, шестигранных сот, их сочетаний и т.п. При монтаже между контактными площадками размещают специальную диэлектрическую пленку с полупроводниковым слоем с расчетными пробойными характеристиками. Плоскости всех блоков остаются параллельными. Ортогонально плоскостям блоков прокладывают шины питания Uопорн, U+, U-, как показано на фиг.3, которые запитываются от общих для сборки источников. Такая конструкция дает возможность наращивать количество слоев и количество модульных блоков в каждом слое в процессе эксплуатации устройства, например, при усложнении решаемой задачи.
Сила поступающего на вход НПЭ сигнала автоматически кодируется количеством и частотой импульсов на выходе, как показано на фиг.5. В момент пересечения линии сигнала с линией пороговых напряжений нейроподобный элемент возбуждается и формирует на выходе нормированный импульс, а при большой величине сигнала - серию импульсов, как показано на нижней линии диаграммы фиг.5. Каждый такой импульс на выходе вносит свой вклад в суммарный потенциал на множестве входов тех нейроподобных элементов, с которыми установлены соответствующие электрические связи.
Конструкция НПЭ такова, что часть выходного импульса попадает на формирователь порогового напряжения, и при каждом возбуждении НПЭ величина порогового напряжения скачкообразно возрастает. Из фиг.5 видно, что на начальном участке диаграммы возбужденный НПЭ пропускает даже малые сигналы (генерирует на выходе нормированные положительные импульсы), однако в конце диаграммы НПЭ не пропускает сигналы значительно большей величины. Это означает, что НПЭ, возбудившись несколько раз от данного суммарного сигнала входа, устает и теряет способность передать сигнал на выход, при этом суммарный сигнал входа получает возможность попасть на входы нескольких других нейроподобных элементов, возбудить их и установить в нейронной сети новые связи. Таким образом, сигнал от сенсора, выбирая возможный путь прохождения через резистивные связи, дробясь за счет множества связей на выходе каждого НПЭ и уменьшаясь по величине за счет конечной проводимости этих связей, сигнал вносит свой вклад в суммарный потенциал других поступающих на вход данного НПЭ сигналов. Благодаря наличию базовых связей, имеющих некоторую аналогию с безусловными реакциями живого организма, связи, не решающие поставленную задачу, постепенно забываются или блокируются. На данном НПЭ реализуется суперпозиция описанных выше вкладов, соответствующая правильной реакции устройства на поступающие сенсорные сигналы.
Заявленная топология нейронной сети предусматривает, что по мере разрастания связей в управляющем устройстве образуются связи между выходами нейроподобных элементов, логически расположенных дальше от сенсоров, с входами элементов, логически расположенных ближе к входу, принимающему сенсорный сигнал. Тем самым реализуются локальные обратные связи 4, показанные на фиг.1б, которые участвуют в формировании реакции. При больших объемах нейросети локальные цепи обратной связи обеспечивают возможность длительного циркулирования конфигурации сигналов по структурам нейронной сети с последовательным возбуждением множества нейронов по цепям обратных связей. Так что количество последовательно возбужденных НПЭ в цепи следования сигнала заведомо намного больше, чем на прямом пути от сенсора к исполнительному механизму. Циркулирование сигнала по цепи обратной связи означает, что через данную цепь уже проходила похожая конфигурация сигналов, и для приходящих на вход компаратора новых сигналов существует некоторая добавка к суммарному потенциалу, можно сказать, «подставка», при наличии которой легче превзойти текущее пороговое напряжение, что позволяет получить более адекватную реакцию устройства на конфигурацию входных сигналов.
Описанная выше организация формирования потенциалов на входе и на выходе НПЭ позволяет решить две основные задачи:
а) обеспечить установление электрической связи между двумя одновременно возбужденными НПЭ посредством следа пробоя диэлектрика, имеющего специально подобранную удельную электрическую прочность и отделяющего выход одного НПЭ от входа расположенного рядом НПЭ. Модульное условие установления новой связи между НПЭi и НПЭj: |Uвыхi-Uвj|>|Uпробоя| при |Uпробоя|>|Uвых|, |Uвx|;
б) при любой конфигурации входных сигналов обеспечить возбуждение только тех НПЭ, у которых, благодаря повышенным весам сигналов, сложилась наибольшее значение суммы потенциалов на входе. Этим реализуется конкуренция нейроподобных элементов, имеющих связи с данной конфигурацией входных сигналов: возбуждение первого же НПЭ препятствует возбуждению других НПЭ, на входы которых поступают сигналы, участвовавшие в возбуждении первого возбудившегося НПЭ.
1
1
N
При обработке сигналов в нейросети непрерывно образуется множество новых связей, но самовозбуждения УУ не происходит. Количество НПЭ, возбудившихся в следующем каскаде, не больше количества возбуждающих нейроподобных элементов предыдущего каскада, благодаря чему самовозбуждение УУ невозможно. Другими словами, в управляющем устройстве коэффициент размножения сигнала К не превышает единицу. При подаче на вход первого каскада m сигналов на выходе N-го каскада в среднем будет присутствовать m=m*К сигналов, и при К≤1 всегда m≤m.
Обучение нейронной сети осуществляют путем установления новых связей с использованием заранее установленных базовых связей между нейронами. Изменение структуры связей в УУ проявляется в изменении реакции УУ на одну и ту же конфигурацию входных сигналов, что характеризует переобучение нейронной сети. Для этого при изготовлении устройства прокладывают электрические цепи от сенсора до выхода управляющего сигнала, обеспечивающие заданную реакцию на внешний сигнал. Затем формируют правильные реакции устройства на тестовую конфигурацию входных сигналов.
Для выработки требуемой реакции нейронной сети на внешние обучающие сигналы необходимо задать какой-либо критерий поведения (минимизация расходуемой энергии, постоянство диссипируемой тепловой энергии и т.п.), отклонение от которого исправляют обучением нейронной сети. Управляющие сигналы устройства или часть из них могут быть использованы в целях активного воздействия на параметры внешней среды или в целях коррекции условий получения сигналов от сенсоров. В частности, это условие может заключаться в минимизации количества принимаемых внешних сигналов, когда управляющие сигналы обеспечивают действие исполнительных механизмов, направленные на уменьшение входных сигналов сенсоров, т.е. осуществляют обратную связь между входом управляющего устройства и его выходом через внешнюю среду. Отметим, что для заявленного управляющего устройства любые внешние сигналы являются обучающими, поскольку процесс обучения продолжается без учителя в процессе работы устройства.
Действие исполнительных механизмов по уменьшению входных сигналов может быть самым разнообразным, от перемещения УУ в пространстве до ликвидации источников сигнала, что приводит к изменению всей конфигурации входных сигналов, поступающих на входы УУ.
Отметим, что заявленное устройство самостоятельно не генерирует сигналы. Оно лишь транслирует сигналы через свои структуры с коэффициентом размножения на каждом этапе К≤1. Это приводит к тому, что при отсутствии внешних сигналов УУ не подает никаких команд на свои исполнительные механизмы, как бы замирает, до тех пор, пока не появятся какие-либо возмущающие сигналы на ее входе.
Такое поведение устройства задано базовыми связями, проложенными при его изготовлении: на сигнал сенсора устройство отвечает вполне однозначной командой исполнительному механизму, уменьшающему величину входного сигнала. Предусмотренные задачами УУ функции исполнительного механизма должны соответствовать характеру сигнала внешней среды. На этом же стремлении управляющего устройства к уменьшению величины входного сигнала основано и обучение устройства. Если, в результате своих предыдущих реакций на входные сигналы УУ попадает в положение с отсутствием входных (возбуждающих, раздражающих) сигналов, оно перестает действовать. Заметим, что это состояние УУ устойчиво, аналогично минимуму потенциальной энергии шарика на неровной поверхности, в отличие от состояния при получении сигналов сенсоров, побуждающих устройство задействовать исполнительные механизмы.
При стремлении к уменьшению до минимума одного из сигналов устройство может столкнуться с ростом другого сигнала. В итоге оно переходит к процессу минимизации суммы двух сигналов, в общем случае - суммы всех входных сигналов. Другими словами, УУ стремится к достижению своей локальной цели - уйти от сигналов-раздражителей, независимо от степени адекватности реакций УУ на внешние сигналы, начиная от базовых реакций, задаваемых при изготовлении УУ.
Это носит некоторую аналогию с безусловными рефлексами биологических организмов. Все безусловные рефлексы биологического организма реализуют его стремление уйти от опасности, чаще всего за счет изменения своего местоположения. Так, простейший биологический организм пытается снизить раздражения до нуля, более сложный организм может осуществлять другие, более сложные причинно-следственные реакции.
Рассмотрим процесс первичного обучения нейросети управляющего устройства (см. фиг.1б).
По завершении сборки УУ осуществляется установка базовых связей между некоторыми НПЭ, так что образуются цепочки от сенсоров до исполнительных механизмов, включение которых приводит к такому изменению конфигурации входных сигналов, что входные сигналы уменьшаются (уход, перемещение от возбуждающих сигналов без изменения их источника; «экранирование» от воздействия и т.п.). Чем больше таких предварительно установленных связей заложено в УУ, тем большее количество базовых реакций предусмотрено в его конструкции. После выполнения заводских установок УУ готово к функционированию в простейших ситуациях.
Предварительная установка базовых связей на этапе изготовления УУ определяет реагирование УУ на «опасности» и носит некоторую аналогию с образованием безусловных рефлексов в биологическом организме.
Заводская установка базовых связей осуществляется аппаратным способом следующим образом:
а) на сенсор подают сигнал. При этом задают, на какой НПЭ (или модульный блок) подается сигнал, и на выходе какого НПЭ появится сигнал. Задают, из какого блока выходит сигнал первой ступени, и к каким блокам второй ступени подходит сигнал с блока первого уровня. Между НПЭ может образоваться связь. Мы не обязательно прокладываем ее вручную, можно создать условия для ее образования. Эти условия создают следующим образом:
б) медленно понижают регулируемое опорное напряжение на блоке второго уровня с целью, чтобы в каком-либо НПЭ из этого блока 2-го уровня произошло самовозбуждение, и в результате НПЭ первого уровня образовал связь с НПЭ из блока второго уровня. Отметим, что до образования этой базовой связи все НПЭ из блока 2-го уровня не имели связей и не могли быть возбуждены ни через один из своих входов.
в) факт возбуждения каких-то НПЭ 2-го уровня может быть установлен по увеличению тока в цепях питания блока 2. Факт установления связи между возбуждаемым НПЭ 1-го уровня и одним из возбудившихся НПЭ 2-го уровня может быть установлен, например, по радиоизлучению из области контакта в момент пробоя. Целесообразно концы проводников входов-выходов всего блока соединить и сделать вывод для контроля, а после установления базовых связей установочные проводники удалить.
г) возвращают опорное напряжение на блоке 2-го уровня в норму и медленно понижают опорное напряжение для блока 3-го уровня, добиваясь возбуждения некоторых НПЭ в его составе, и, продолжая подавать сигналы на вход НПЭ блока 1-го уровня, проводят процедуру, аналогичную пунктам б) и в) для установления базовой связи, проводящей сигнал между выходом возбуждаемого НПЭ 2-го уровня и входом возбудившегося НПЭ 3-го уровня.
д) повторяют подобную процедуру прокладки базовых связей от сенсора до привода нужного исполнительного механизма, выбирая путь прохождения сигнала путем выбора нужного блока на каждом этапе прокладки очередного звена устанавливаемой цепи. По завершении прокладки связи и возвращении опорных напряжений для всех блоков к расчетным пороговым значениям получают при подаче сигнала на вход сенсора «правильную» реакцию УУ в виде действия исполнительного механизма, уменьшающего этот входной сигнал.
е) процедура установления базовых связей от инициирующего сенсора до реакции, уменьшающей его сигналы, повторяется нужное число раз до создания в УУ необходимого набора исходных реакций, обеспечивающего возможность дальнейшего обучения и функционирования УУ.
Предварительная установка базовых связей необходима, но недостаточна для работы многофункционального УУ. Адаптируемые устройства должны учиться на собственном опыте, а на начальном этапе - путем первичного обучения, получая входные сигналы от инструктора. Как только устройство создаст модель своих реакций, оно сможет распознавать аналогии, основанные на прошлом опыте, для прогнозирования будущих событий и предлагать решение новых для него задач.
После завершения формирования в УУ приемлемого количества базовых реакций проводят первичное обучение, расширяющее набор адекватных (желаемых) реакций на конфигурацию входных сигналов сенсоров.
Первичное обучение основано на искусственном подавлении и последующем забывании электрических связей, дающих неправильные управляющие сигналы, а также на организации новых связей между НПЭ, приводящим к все более адекватным реакциям управляющего устройства на поступающие сенсорные сигналы. Нейронную сеть обучают, заменяя связи, дающие неправильную реакцию, на новые связи, дающие все более правильные ответные реакции. Тем самым в управляющем устройстве задают образцы поведения для выработки правильных реакций, после чего устройство адаптируется к изменяющимся внешним сигналам самостоятельно.
Обучение нейронной сети осуществляют при помощи подачи на устройство корректирующих сигналов, предъявляемых учителем (см. фиг.5 и 6). Реакция УУ на внешние сигналы состоит во включении исполнительных элементов, получивших управляющие сигналы после прохождении сигналов сенсоров по установленным заранее и по сложившимся новым цепям нейросети, от сигнала сенсора до реакции, как показано на фиг.6а. Здесь БР - базовая реакция (аналог условного рефлекса), HP -неправильная реакция, ПР - правильная реакция. Если в результате реакции УУ сигнал-образец уменьшится, это правильная реакция (ПР). В противном случае наблюдаем неправильную реакцию (HP). Если сила сигнала сенсора увеличивается, то усиливается и реакция на поступившую на выход череду импульсов, как за счет более частого прохождения сигнала по одной и той же цепи, так и за счет распространения сигнала по параллельным цепям, что заложено в конструкцию нейроподобного элемента.
Начальное обучение ведется с учителем по следующей схеме.
Подается сигнал-образец. Если реакция УУ на предъявленный сигнал-образец правильная, то в памяти УУ остается только что исполненная цепочка связей, которая и будет воспроизводиться при последующих предъявления данного сигнала. Если же реакция УУ на образец неправильная (HP), то учитель (инструктор) включает корректирующий сигнал - сильный сигнал-раздражитель (нижняя диаграмма на фиг.6б), вызывающий прохождение большого количества импульсов БР по цепям базовых реакций (толстые линии на фиг.6а). В результате постепенного разрастания (разветвления) связей в УУ появляются области с электрическими цепями, по которым проходят как сигналы неправильной реакции УУ на сигнал-образец, так и сигналы реакции УУ на корректирующий сигнал. Это позволяет подачей корректирующего сигнала вызвать конкуренцию НПЭ и их уставание и заблокировать прохождение сигнала по цепи неправильной реакции.
В результате уставания и блокирования цепи неправильной реакции образуются новая цепь реакции УУ на сигнал-образец. Если эта новая цепь реакции также не устраивает учителя, он продолжает подавать на вход УУ сильный корректирующий сигнал. Когда реакция УУ на сигнал-образец становится правильной (ПР), т.е. реакция УУ приводит к выключению или уменьшению сигнала-образца, учитель выключает корректирующий сигнал. Обучение заканчивается. При последующем предъявлении этого же сигнала-образца УУ будет действовать по последнему варианту, поскольку связи, реализовавшие ее, имеют наибольший вес.
При длительной безрезультативности подачи корректирующего сигнала цепи БР разрастаются, возбуждая большое количество близлежащих нейроподобных элементов. Наконец они достигают области прохождения цепей неправильных реакций HP на сигнал-образец (верхняя линия цепи сигнала на фиг.6а) и приносят результат -блокируют цепи неправильной реакции.
Так происходит обучение простым реакциям с использованием сильного корректирующего сигнала. В данном случае действенность, результативность корректирующего сигнала довольно проста, однако конфигурация сигналов-образцов должна подбираться такой, чтобы достижение правильной реакции было достаточно быстрым.
Обучение сложной реакции проводится ступенчато, в несколько этапов. За несколько этапов на основе сильного корректирующего сигнала формируется реакция УУ на гораздо меньший корректирующий сигнал. Многоступенчатость обучения состоит в последовательном увеличении силы корректирующих сигналов при отсутствии правильной реакции УУ. Для этого перед применением сильного корректирующего сигнала включается более слабый корректирующий сигнал, чтобы создать электрическую цепь прогноза возможности применения сильного корректирующего сигнала, если реакция не изменится.
Пример исполнения управляющего устройства.
Работа самообучающегося устройства в простейшем исполнении иллюстрируется примером (фиг.7).
Тележка оборудована управляющим устройством (УУ), источником питания, звуковой сиреной. Имеется блок движения БД, под действием которого тележка может двигаться влево-вправо между двумя стенами с расстоянием между ними в 2 метра. Имеется источник L сильного света сверху, изображающий любой дополнительный внешний сигнал. Источник сильного света может включаться экспериментатором и выключаться автоматически по звуковому сигналу. С помощью сирены УУ может подать такой звуковой сигнал. Блок движения тележки (БД) моделирует внешние воздействия, при отсутствии которых тележка находится в покое (нейронная сеть засыпает). В случайные моменты времени БД включает движение тележки на случайное расстояние в диапазоне 0.4÷0.6 м в случайном направлении (влево или вправо).
На тележке закреплен блок сенсоров БС с сенсорами:
сенсор С1 контакта с левой стеной;
сенсор С2 контакта с правой стеной;
сенсор С3 опасного сближения с левой стеной на расст.0,2 м (лампа LL);
сенсор С4 опасного сближения с правой стеной на расст.0,2 м (лампа LR);
сенсор С5 сильного света сверху (лампа L).
При получении сигналов от сенсоров УУ может подавать на БД тележки три сигнала: приказ на движение на 0,3 м вправо, приказ на движение на 0,3 м влево, приказ на подачу звукового сигнала. Сигналы, поступающие от управляющего устройства, имеют более высокий приоритет, чем случайные сигналы на перемещение, подаваемые блоком движения БД.
УУ смонтировано, например, из 10 НПЭ по 20 входов в каждом так, чтобы физически обеспечить возможность образования связей между любыми НПЭ. Перед испытаниями проводим в УУ заводские установки по описанному выше алгоритму, а именно, прокладываем цепи базовых реакций:
Сигнал сенсора С1 включает НПЭ контакта с левой стеной, который включает НПЭ «включить движение вправо», который подает сигнал на БД приказ «вправо». Эта цепочка связей обеспечивает функционирование базовой реакции «при столкновении с левой стеной включить движение вправо».
Сигнал сенсора С2 включает НПЭ контакта с правой стеной, который включает НПЭ «включить движение влево», который подает сигнал на БД (приказ «влево»). Эта цепочка связей обеспечивает функционирование заложенной заранее базовой реакции «при столкновении с правой стеной включить движение влево».
Для ввода в УУ сигналов от сенсоров:
соединим сенсор С3 с соответствующим НПЭ;
соединим сенсор С4 с соответствующим НПЭ;
соединим сенсор С5 с НПЭ сенсора сильного света.
Вначале нейроподобные элементы не задействованы в цепях реакции УУ на сигналы.
а) Адаптация (самообучение) нейронной сети.
Отключим выдачу сигналов для всех сенсоров, кроме сенсоров контакта со стенами. Поведение УУ будет очень простым: в ходе случайных блужданий от случайных сигналов с БД при контакте с одной из стен тележка будет отодвигаться в противоположную от стены сторону.
Теперь включим сигналы для сенсоров опасного сближения со стеной на 0,2 м. В случае первого срабатывания сенсора сближения с правой стеной, но без контакта с ней в УУ ничего не произойдет. Но, если сработает сенсор сближения с правой стеной, и в этом же маневре вправо стена будет достигнута, то, кроме установленного при сборке приказа «влево», будут одновременно возбуждены два НПЭ, и в УУ установится электрическая связь «за сближением с правой стеной следует контакт справа». Так что в следующий раз при срабатывании сенсора сближения с правой стеной через установившуюся в предыдущем эпизоде упомянутую связь с выхода НПЭ опасного сближения на вход НПЭ контакта с правой стеной поступит электрический сигнал, и на его выходе появится команда для БД - «влево», поскольку одновременно с возбуждением НПЭ сближения возбудится и НПЭ контакта со стеной. Так что впоследствии «опасный» контакт с правой стеной уже никогда не будет иметь места - произошло обучение УУ. Точно так же автоматически установится связь при взаимодействии с левой стеной и возникнет приобретенная реакция на сближение.
б) Переучивание нейронной сети.
Если теперь существенно изменить условия взаимодействия УУ с внешней средой - поменять местами сенсоры сближения со стенами, то при сближении с правой стеной, когда срабатывает бывший сенсор сближения с левой стеной, по существующей связи «за сближением с левой стеной следует контакт слева» тележка включит движение вправо и столкнется с правой стеной. Но при достижении правой стены сработает установленная при изготовлении базовая связь, и тележка получит приказ «влево». В этом же эпизоде будет иметь место одновременное возбуждение НПЭ, ранее принимавшего сигнал о сближении с левой стеной и НПЭ контакта с правой стеной. Между ними образуется новая связь, более сильная, чем успевшая устареть связь между НПЭ сближения с левой стеной и НПЭ контакта с левой стеной. Поэтому при последующих возбуждениях бывшего НПЭ сближения с левой стеной он будет быстрее возбуждать НПЭ контакта с правой стеной и включать сигнал-приказ «влево». Возбужденный НПЭ контакта с правой стеной сразу же будет «подсаживать» напряжение на выходе НПЭ бывшего сближения с левой стеной, так что НПЭ контакта с левой стеной уже не будет возбуждаться, и не будет выдавать приказ «вправо». Точно так же произойдет переучивание УУ для НПЭ бывшего сближения с правой стеной.
в) Поиск решения в неизвестной ситуации
Включаем яркий свет, в результате чего возбуждается НПЭ яркого света. В этот момент может сработать какой-либо НПЭ движения, например, НПЭ сближения. Тележка под влиянием возникшей ошибочной связи между НПЭ яркого света и НПЭ сближения начнет двигаться, ведь у нее пока нет других реакций. Как сказано выше, устойчивым состоянием системы является отсутствие сигналов. По сути дела, управляющее устройство перебирает возможные варианты реакций, пытаясь выключить верхний свет, т.е. уменьшить количество сигналов. Некоторое время - безрезультатно, свет выключаться не будет. Тележка достигнет стены (контакт) и покатится в противоположном направлении. И будет так кататься некоторое время, но НПЭ контактов со стеной начнут уставать, их пороги срабатывания будут повышаться, так что появится возможность самовозбуждения нейроподобного элемента включения сирены. Включится сирена, сильный свет автоматически погаснет, что заложено в условия задачи. Так что в результате случайного поиска УУ будет найден выход из почти тупиковой ситуации. Установившаяся связь между НПЭ яркого света и НПЭ сирены сохраняется (в пределах старения связи). Так что в последующем при раздражении ярким светом сработает сирена, и лампа L будет сразу выключена.
Описанный пример иллюстрирует существенные признаки, обеспечивающие усталость нейроподобного элемента, возбуждение нейроподобного элемента и старение его связей. Действительно, каждый НПЭ имеет текущее пороговое напряжение срабатывания компаратора, опирающееся на заданное опорное напряжение. Частое срабатывание НПЭ приводит к росту внутреннего порогового напряжения и к потере способности к возбуждению (случай с многократным движением влево-вправо), долгое пребывание НПЭ в невозбужденном состоянии приводит его к самовозбуждению в результате снижения порогового напряжения ниже некоторого предела (случай с включением сирены), а уменьшение проводимости старых связей изменяет путь прохождения сигнала (сигнал сирены опережает сигнал движения). Технические параметры нейроподобного элемента определяют расчетным путем. Точно так же не сложно определение длительности сигналов, генерируемых НПЭ, длительности импульсов движения, длительности реакции выходов различных сенсоров, которые рассчитывают, исходя из физических условий задачи.
2
3
4
Таким образом, заявленное самоорганизующееся управляющее устройство с искусственной нейросетью содержит необходимое количество сенсоров, нейронную сеть из нейроподобных элементов и необходимое количество исполнительных механизмов. Технологически оно изготавливается из множества однотипных модульных блоков, на каждом из которых при площади 3-4 см и толщине 0,1 мм может быть сгруппировано порядка 10-10 нейроподобных элементов. Самообучение управляющего устройства происходит путем установления новых связей между нейроподобными элементами при минимизации количества принимаемых сигналов сенсоров, с использованием заранее проложенных базовых связей между НПЭ.
Техническим результатом является упрощение конструкции управляющего устройства, расширение его функциональных возможностей и усложнение класса решаемых задач.
Использованные источники информации:
1 Патенты RU 2128857, 1999; RU 2295769, 2007.
2 Патенты RU 66831, 2007; RU 7208, 2008; RU 75247, 2008; RU 77483, 2008.
3 Pat. US 6643627, 2003; Pat. US 7426501, 2008.
4 Pat. US 5220641, 1993 (прототип).
5 М. Валентинова. Электроника: Наука, Технология, Бизнес, 6/2001; Pat. US 5835396, 1998.