Стохастический, пространственный аналого-цифровой преобразователь и его связь с нейронными структурами

УДК 681.314+681.51.011

СТОХАСТИЧЕСКИЙ, ПРОСТРАНСТВЕННЫЙ АНАЛОГО-ЦИФРОВОЙ ПРЕОБРАЗОВАТЕЛЬ И ЕГО СВЯЗЬ С НЕЙРОННЫМИ СТРУКТУРАМИ

Э. П. Тихонов,

канд. техн. наук, доцент

Санкт-Петербургский государственный электротехнический университет

Предложена структура стохастического пространственного аналого-цифрового преобразователя и исследован алгоритм его функционирования. В результате исследования усредняющих свойств алгоритма установлена связь между принципом функционирования искусственного нейрона и стохастическим пространственным аналого-цифровым преобразователем.

In this work we propose a structure of a stochastic spatial analog-to-digital converter and study the algorithm of its functioning. The investigation of the averaging properties of the algorithm leads to a relation between the principle of functioning of the artificial neuron and the stochastic spatial analog-to-digital changer.

В последние годы значительно возрос интерес к искусственным нейронам и нейронным сетям, которые успешно применяются в самых различных областях, включая медицину, технику, физику, геологию, экономику [1, 2]. Нейронные сети вошли в практику там, где решаются задачи прогнозирования, классификации или управления и в отличие от цифровой электронной техники дают возможность вводить информацию из окружающей среды непосредственно в аналоговом виде без промежуточного аналого-цифрового преобразования. В то же время, следствием бурного развития цифровой вычислительной техники, особенно микропроцессоров, для решения задач в различных областях применения является дальнейшее совершенствование и создание новых типов аналогоцифровых преобразователей (АЦП).

Несмотря на кажущуюся простоту схемы искусственных нейронов за счет применения аналоговой электронной техники, введение контура обучения или самообучения, а также стремление к повышению адаптационных и динамических свойств искусственных нейронов приводит к необходимости широкого использования цифровой электроники при разработке и создании современных схем искусственных нейронов. Это отражает общую тенденцию, наблюдаемую в современной электронике, по повсеместному вытеснению там, где это возможно, цифровой электроникой аналоговых схем и структур. Принципиально «связка» АЦП и цифроаналоговых преобразователей (ЦАП) с микропроцессорами способна воспроизве-

сти любую искусственную нейронную сеть. Однако по стоимостным и энергетическим показателям такая сеть будет проигрывать специализированной аналоговой или гибридной нейронной сети. В связи с этим возникает вопрос о создании таких аналого-цифровых искусственных нейронов, в которых наиболее рационально осуществлялась бы как функционально, так и схемотехнически гибридная обработка аналоговых входных сигналов на базе микропроцессоров без применения специализированных схем АЦП.

Как показано в настоящей работе, создание подобных аналого-цифровых искусственных нейронов возможно на базе так называемых стохастических АЦП (САЦП), которые достаточно подробно исследованы [3]. В этой работе проведен анализ возможностей САЦП, в основе которого положен алгоритм, использующий принцип уравновешивания входного сигнала случайно изменяющейся уравновешивающей физической величиной. Этот алгоритм представлен как стохастический алгоритм аналого-цифрового преобразования, или просто стохастический алгоритм. Анализ стохастического алгоритма САЦП установил его преимущества и недостатки. Однако представляется, что самым главным преимуществом, не указанным в статье [3], является его простая трансформация в алгоритм, в соответствии с которым может функционировать так называемый стохастический пространственный АЦП (СПАЦП). Для того чтобы понять суть такой трансформации, напомним, что в САЦП уравновешивание аналоговой величины,

преобразуемой в цифровой двоичный код, выполняется случайно изменяющейся уравновешивающей физической величиной с равномерным законом распределения вероятностей. Результаты сравнения аналоговой величины со случайно изменяющейся уравновешивающей физической величиной, получаемой в виде двоичной последовательности, суммируются в двоичном счетчике. Результат суммирования в виде двоичного кода эквивалентен среднему значению входного аналогового сигнала, который за время преобразования может либо оставаться постоянным, либо изменяться по любому закону, в том числе — случайно.

Для того чтобы выявить исходные требования, на основании которых можно было бы сформировать конфигурацию СПАЦП и представить алгоритм его функционирования, рассмотрим следующую задачу. Предположим, что существует некоторое поле (некоторая поверхность 50), соответствующая характеристика или параметр которого в разных точках с координатами (х;, у) е S0 ^ = 1, 2, ..., 2N, N > 1) принимает разные значения Ь (х, у), рассматриваемые в совокупности как случайные числа. К таким поверхностям можно отнести, например, профиль крыла самолета, или продольное сечение какой-либо плотины, поверхность земной коры или океана, или, наконец, определенную часть тела человека. Измеряемые физические и иные параметры или характеристики в разных точках поверхности (электрическое напряжение или ток, геометрическое отклонение, оптическая или иная плотность вещества, электрический потенциал и т. д.) могут быть также разными, но все они с помощью специальных датчиков преобразуются в электрический сигнал. Для названных параметров или характеристик требуется измерить среднее значение на некотором контролируемом

участке поля или поверхности 50 и представить результат измерения в цифровом коде.

В классическом случае для решения данной задачи может использоваться система, состоящая из коммутатора К, одного или группы (в зависимости от числа датчиков) обычных АЦП, микропроцессора или компьютера (рис. 1). В соответствии с выбранным алгоритмом и программой в памяти микропроцессора или компьютера накапливаются результаты преобразования в цифровой код выходных сигналов датчиков с последующим вычислением среднего значения по множеству задействованных датчиков. Допускается использовать любые алгоритмы усреднения, в том числе итерационные алгоритмы или алгоритмы прямого усреднения. Однако при любом используемом алгоритме в каждой контролируемой точке осуществляется аналого-цифровое преобразование искомой аналоговой величины с затратой соответствующего временного и энергетического ресурса системы, суммарная величина которого зависит от числа датчиков, т. е. от пространственного «шага» между датчиками и площади исследуемой поверхности. Обычно ситуация усложняется еще и тем, что с целью повышения надежности вводится избыточное число специальных датчиков, тогда коэффициент избыточности приводит к еще большему увеличению затрат временного и энергетического ресурса.

Возникает вопрос, можно ли построить такую систему, упомянутые ресурсы которой имели бы наименьшую чувствительность к количественному изменению числа контролируемых точек поля при получении цифрового эквивалента среднего значения искомой характеристики или параметра исследуемого участка поля. К такой системе можно было бы отнести некоторое устройство, в кото-

Выходной двоичный сигнал

Рис. 1. Структурная схема классической измерительно-вычислительной системы измерения (вычисления) среднего значения сигналов с датчиков, распределенных по контролируемой (исследуемой) поверхности или полю

ром уравновешивающая образцовая (опорная) физическая величина по определенному алгоритму без промежуточного аналого-цифрового преобразования в темпе с опросом и коммутацией датчиков компенсирует (уравновешивает) случайно изменяющиеся выходные сигналы для получения искомого цифрового эквивалента среднего значения. В этом устройстве, в отличие от САЦП (рис. 2), где специально формируется случайно изменяющаяся уравновешивающая опорная физическая величина с равномерным законом распределения [3] для компенсации аналогового входного сигнала, меняются местами функциональные нагрузки для уравновешивающей опорной физической величины и входного, в рассматриваемом случае — многомерного, сигнала. Иначе говоря, в данном устройстве СПАЦП реализуется обратная по отношению к САЦП функция: уравновешивающая опорная физическая величина в процессе аналого-цифрового преобразования компенсирует случайно изменяющийся входной сигнал. И хотя время преобразования изменяется и растет по-прежнему прямо пропорционально числу датчиков, его рост с увеличением числа датчиков незначителен по сравнению с ростом в классической системе. Действительно, для классической схемы подключение каждого нового датчика приводит к увеличению общего времени преобразования на число временных тактов, затрачиваемых АЦП на преобразование аналоговой величины в п-разряд-ный двоичный код, плюс время, затрачиваемое коммутатором на подключение следующего канала. Для СПАЦП суммарное время преобразования увеличивается фактически только на время переключения канала в коммутаторе, поскольку ре-

зультат сравнения уравновешивающей физической величины и значения выходного сигнала подключаемого датчика устанавливаются уже к концу интервала подключения нового канала. Данное утверждение легко вытекает из сравнительного анализа структурных схем, приведенных на рис. 1-3. Как следует из анализа схем рис. 2 и 3, для каждого подключаемого к первому входу сравнивающего устройства СУ (на рис. 3 через коммутатор К) сигнала в течение временного такта устанавливается только факт превышения или непре-вышения входным сигналом уравновешивающей физической величины, поступающей на второй вход СУ. Но тогда возникает вопрос, почему и когда в результате выполнения серии подобных операций устанавливается искомый цифровой эквивалент среднего значения входного многомерного сигнала?

Для ответа на этот вопрос рассмотрим предварительно алгоритм аналого-цифрового преобразования со случайно изменяющейся уравновешивающей физической величиной или стохастический алгоритм САЦП в аналитическом виде [3]

К[(п + 1)Л£] = К(пЛ^ + Ь [у(пЛ£) - Ь(яД£)],

п = 0, 1, 2, ..., 2м,

где К[(п + 1)Л£] и К(пЛ^ — цифровой эквивалент уравновешивающей физической величины, определяющий результат преобразования в конце п-го цикла преобразования; N — число двоичных разрядов; Лt = Т/2м; Т — время преобразования, в течение которого осуществляется накопление информации о числе событий непревышения случай-

Входной

Рис. 2. Структурная схема стохастического АЦП на основе применения генератора И-последовательно-сти в виде регистра сдвига с обратной связью по той2 и ЦАП; СУ — сравнивающее устройство; ТГ — тактовый генератор

Выходной двоичный код

Рис. 3. Структурная схема стохастического пространственного АЦП на основе применения генератора Ы-последовательности в виде регистра сдвига с обратной связью по шод.2 и ЦАП

ной величиной Ь(пД^ входного сигнала; Ь(пД^ — случайная величина с равномерным законом распределения в пределах 0 < Ь (пЛ^ < Е0, образующая опорный или образцовый случайный сигнал; Е0 = Лq  2м — заданный диапазон преобразования, в пределах которого выполняется условие 0 < у(пД^ < Е0, Дq — величина кванта, на которую изменяется уравновешивающая физическая величина на выходе ЦАП;

ь [у (пД,-5,п. ,].(0пр у ет$—

функция сравнения входного сигнала у(пД^ со случайной величиной Ь(пД^.

Убедимся, что алгоритм (1) осуществляет функцию аналого-цифрового преобразования постоянного входного сигнала несколько с иных позиций, чем описано в работе [3]. Для этого усредним данный алгоритм справа и слева по случайной величине Ь(пД^ с учетом того, что случайная величина имеет равномерный закон распределения с плотностью распределения вероятности 1/Е0. В результате получим

МЬ{К[(п + 1)Д^} =МЬ{К(пД^} + М^{Ь[у(пЛ^ -

- Ь

где М^...} — оператор усреднения по случайной величине Ь(пД^ при фиксированном временном такте пЛt и 0 < Ь(пД^ < Е0.

В правой части равенства при фиксированном такте пД^ в результате усреднения по множеству случайных равномерно распределенных на отрезке [0, £0] величин Ь(пЛ^, имеем

M^ {h[y(nAt) -£(nAt)} = 1 • P[y(nAt) > ^(nAt)] +

1 y

+ 0 • P [y (nAt )<^(nAt ) =- J d^(nAt).

E0 0

Пусть для упрощения задачи y(nAt) = уо = const, тогда

M\ {{y (nAt)4(nAt )} = }.

E0

Подставляя полученное равенство в уравнение (2) и выполняя итерации при условии, что M^ {K(0)} = = 0, получим при n = 2n

M^ {K[(2n + 1)At]} = 2n  У0/Е0, откуда следует равенство для входного сигнала

У0 = AqM^ {K[(2n + 1)At]},

т. е. входной сигнал равен среднему значению результатов его преобразования в цифровой код. Погрешность преобразования и другие характеристики данного алгоритма подробно исследованы в работе [3].

Алгоритм СПАЦП в аналитическом виде с учетом вышесказанного представим в виде

K[(n + 1)At] = K(nAt) + h[^(nAt) - AqK(nAt)],

где t,i(nAt) = ^(х;, у, nAt) — случайная аналоговая величина, поступающая с i-го канала коммутатора на вход сравнивающего устройства в nAt-й момент времени и изменяющаяся в пределах 0 < h(nAt) < Е0.

Ь [>(Л ]^К (nАt ^ (,"Лt ],—

[ ] ^0 при Ь; (nЛt]<ЛqK(пДt]

функция сравнения указанных в формуле (3) величин; i = 1, 2, ..., 2м; п = 0, 1, 2, ..., 2м; 2м — общее число подключаемых к входу коммутатора датчиков.

Из алгоритма (3), в отличие от алгоритма (1), в частности, следует, что данный алгоритм по функциональному виду можно отнести к известному алгоритму аналого-цифрового преобразования считывания (его еще называют методом последовательного счета) или просто алгоритму считывания [3], функционирование которого иллюстрирует рис. 4. Существенным отличием в данном алгоритме является то, что входным сигналом является случайная величина, изменяющаяся при переходе от предыдущего к последующему такту уравновешивания, что не допустимо для обычного алгоритма считывания. При этом для осуществления аналого-цифрового преобразования среднего значения пространственно распределенного входного сигнала в соответствии со стохастическим пространственным алгоритмом необходимо равенство общего количества временных тактов Д ^ укладывающихся целое 2м число раз в течение времени аналого-цифрового преобразования Тпр, и общего числа квантов Дq, укладывающихся то же число раз в заданном диапазоне преобразования Е0. Отметим, что временной такт Дt и квант Дq — это физические величины, которые имеют разные размерности, тем не менее, временной такт п и пространственный индекс i совпадают по порядку следования и стремятся к общему пределу 2м в пределах цикла преобразования. При этом должно выполняться условие, при котором после каждого цикла преобразования временной отсчет, так же как процесс уравновешивания, автоматически начинается с нуля.

Дополнительно отметим, что в случае, если сигнал изменяется по уровню как в положительной,

так и в отрицательной области числовой оси (что бывает достаточно редко), то необходимо дополнительно либо изменить диапазон изменения случайной величины, либо осуществить сдвиг в положительную область значения входного сигнала с последующим учетом этого сдвига в результатах преобразования. При этом величина сдвига должна быть постоянна и согласована с допустимым диапазоном изменения входного сигнала Е0. Обычно сдвиг сигнала в положительную область выбирается равным Е0/2 путем аналогового сложения входного сигнала со значением Е0/2.

Для доказательства аналого-цифрового преобразования среднего значения пространственно распределенного сигнала в соответствии с алгоритмом (3) проанализируем его сходимость с ростом числа тактов или, что то же самое, числа каналов коммутатора м. Для этого усредним данный алгоритм справа и слева для соответствующего такта итерации по случайной величине ^(пД^ с учетом того, что случайная величина ^(пД^ имеет непрерывную плотность распределения вероятности w[t,i(nЛt)]. Данное ограничение по непрерывности не является существенным, так как для разрывной функции нужно для анализа использовать интеграл Стилтъеса. В результате усреднения правой и левой части алгоритма (3) получим при условии К(0) = 0

МЬ{К[(п + 1) Д^} = МЬ{К(пЛ^} + МЬ{Ь[Ьп(пД^ -

- ДqK

В правой части равенства при фиксированном интервале пД^ в результате усреднения на отрезке [0, £0] по множеству случайных величин Ьп(пД^, имеем

Мь{ь [Ьп (nЛt )-ЛqK (nЛt )]] =

= 1-Р [Ьп (nЛt )>ЛqK (nЛt )] +

+ 0 - Р [Ьп

Рис. 4. Работа алгоритма аналого-цифрового преобразования считывания

или

Мь{Ь [Ьп (nЛt) -ЛqK (пЛь)] =

Е0

= / Ю[Ья (nЛt)](nЛt) =

ДдК

= Рп {к (nЛt).

Выполняя итерации после операции усреднения в уравнении (4), что эквивалентно последовательному сложению во времени усредненных по множеству значений функции сравнения Ь [Ьи(пЛЬ) -

- ДqK(nДt)], получим

2м

Мь{К

п=0

Начальное значение К(0) = 0, поэтому вероятность Ри{ЛqK(nЛt)} изменяется от единицы до нуля.

Представим вероятность Ри{ЛqK(nЛt)} для п = 0, пользуясь свойством аддитивного представления определенного интеграла, в следующем виде:

2м -1 ЛqK [( п+1)Аь]

Р0 {0} = X I Ю[Ьп (пЛЬ)](пЛt).

п=0 ЛqK

Для любого промежуточного значения п = т такого, что 0 < т < 2м - 1, получим

2м -1 Л?К [(я+1)Ль]

Рт {тЛА = X I Ю[Ья (пЛЬ)](пЛЬ).

п=т ЛqK

Тогда равенство (6) можно выразить в виде суммы

2м 12м-1 АqK [(п+1)Дь]

Мь{к(Т)} = X X I ю[Ьп(ль)]аЬп(пЛь).

т=0 п=т ЛqK(nЛt]

Если контролируемые параметры или характеристики поверхности описываются моделью однородного и изотропного случайного поля, то ш[Ц/Л*)] = ю^О'ЛЬ)] = ... = ю2мЦЛЬ] для ] = 0, 1, ., 2м. Поэтому равенство (7) после умножения справа и слева на величину Дq и преобразования внутренней суммы с учетом повторяемости слагаемых представим в виде

ЛqMь{K(T)] =

2м -1 ДдК [(п+1)Дь]

= X Лq(п +1) I Ю[Ьп (пЛь)]dЬ„ (иль).

п=0 АqK

Правая часть полученного равенства представляет собой оператор усреднения проквантованных значений контролируемого параметра или харак-

теристики поверхности, описываемые моделью однородного и случайного изотропного поля Ь(х, у) (где х и у — координаты расположенных на контролируемой поверхности датчиков). Результат усреднения контролируемого параметра или характеристики представляется в цифровом эквиваленте. Таким образом:

ЛqMь{K(T)] = Мь{Ь].

При достаточно малой величине кванта Дq сумму в равенстве (8) можно приближенно заменить интегралом. В результате замены приходим к предельному равенству

£(>

Иш МЬКК(Т)]= I Ью()Ь. д^^0 0

Таким образом, для однородного изотропного поля получаем, что результат аналого-цифрового преобразования стремится к среднему значению по пространству и в пределах времени преобразования.

Для ответа на вопрос об эффективности рассматриваемого алгоритма аналого-цифрового преобразования определим дисперсию и, следовательно, среднеквадратическое значение результатов преобразования.

Для этого возведем правую и левую части алгоритма (3) в квадрат при фиксированном такте итерации п и усредним полученный результат справа и слева, т. е.

МЬ{К[(п + 1)ЛЬ]}2 = МЬ{К(пЛЬ) + Ь[^(пЛЬ) -- ДqK(nДt)]}2.

После возведения в квадрат и усреднения вычтем из правой и левой части полученного равенства квадрат математического ожидания в соответствии с равенством (4), преобразованным в виде

{Мь{К[(и + 1)ЛЬ]}}2= {М^К(пЛЬ)} + Р„{К(пЛЬ)}2.

В результате дальнейших преобразований, пренебрегая корреляцией при фиксированном п между К(пЛЬ) и функцией сравнения Ь[Ьп(пЛЬ) -

- Дq К(пЛЬ)], получим для дисперсии следующее итерационное уравнение:

Б^{К[(п + 1)ЛЬ]} = Б^К(пЛЬ)} +

+ Р„{К

где БЬ{К[(п + 1)ЛЬ]} = МЬ{К[(п +1)ЛЬ]}2 - {МЬ х х {К[(п + 1)ЛЬ]}}2 и МЬ{К(пЛЬ)} = МЬ{К(пЛЬ)}2 -

- М^{К(пЛЬ)}}2 — дисперсии кодового эквивалента уравновешивающей физической величины для (п + 1)- и п-го тактов усреднения, так как

Мь{Ь [Ьи (иль )-ЛqK (пЛЬ )]] =

= 12 -Р[Ь„(иль)>ЛqK(пЛь)] =

= Р [Ьп (пЛЬ) > ЛqK (пЛЬ)].

Выполняя итерации в уравнении (9) с учетом полученных результатов усреднения и нулевого начального значения, получаем для оценки дисперсии равенство

ДЬ{к(2м ЛЬ)] =

2м

= X Рп {к

п=0

Для перехода к установленной размерности дисперсии помножим правую и левую части равенства (10) на величину (Лq)2. Тогда для упрощения аналитических расчетов при достаточно малом значении кванта заменим сумму интегралом, а квант Дq — дифференциалом, т. е. перейдем к равенству

Е0

б{к(2мЛЬ)} =Лq I ^ь(С)^1 - *Ь(С)]dZ,

0

где ^^(С) — функция распределения вероятностей случайной величины Ь.

Предположим для простоты вычисления, что случайная величина Ь распределена равномерно на отрезке [0, Е0]. Тогда искомая дисперсия находится из равенства

D5{(2N At)] = } J

_С_

0 Е0

1 -

Е

dZ =

= 2 Е2 12

rjN -1

где Z/E0 — функция распределения равномерно распределенной случайной величины ^ на отрезке [0, Е0]; а^2 — дисперсия случайной величины контролируемого параметра однородного и изотропного поля.

При обычном классическом усреднении в соответствии со схемой рис. 1 в тех же независимых точках контролируемого однородного и изотропного поля с аналогичным законом распределения вероятностей при том же числе датчиков дисперсия искомого среднего значения без учета погрешности квантования будет в два раза меньше. Однако существенно превалирующий расходуемый энергетический и временной ресурс при одном и том же числе датчиков (см. рис. 1) будет превышать потерю информации при стохастическом пространственном аналого-цифровом преобразовании за счет увеличения дисперсии погрешности в два раза при измерении среднего значения однородного и изотропного поля (см. рис. 3).

Если контролируемое поле однородно, но анизотропно, то результат стохастического пространственного аналого-цифрового преобразования также стремится к его усредненной характеристике.

Проанализируем вариант алгоритма (3) со знаковой функцией сравнения, т. е. в виде

K[(n + 1)At] = K(nAt) + sign [^(nAt) -

- AqK

где ^;(nAt) = ^ (х;, у, nAt) — по-прежнему случайная аналоговая величина, поступающая с i-го канала коммутатора на вход сравнивающего устройства в nAt-й момент времени и изменяющаяся в пределах 0 < "t,i (nAt) < Е0;

sign [^; (nAt) - AqK (nAt) =

J 1 при

знаковая функция сравнения указанных в форму-левеличин.

Выполняя усреднения правой и левой части алгоритма (11) в его правой части при фиксированном интервале nAt, в результате усреднения на отрезке [0, Е0] по множеству случайных величин ^„(nAt) имеем

M5 {sign [£n (nAt) - AqK (nAt)} =

= 2P [£n (nAt) > AqK (nAt ) -1

Мь {sign [Ь„ (пЛЬ) - ЛqK (пЛЬ )] =

= 2Рп {К (пЛЬ)-1.

Используя общий подход, перейдем к равенству для определения искомого математического ожидания случайной входной величины в соответствии с алгоритмом

МЬ{Ь] = 1 + 0,5ДqMЬ{K(T)}.

Предположим, что вместо указанной индикаторной или знаковой функции сравнения используется некоторая монотонная, непрерывно дифференцируемая так называемая «функция активации» [1]. В этом случае для выполнения аналогоцифрового преобразования входного сигнала необходим алгоритм вида

K [

ent

Aq

где ent

9^

Aq

— функция взятия

целой части от дроби (результата деления значения функции активации на квант), стоящей в квадратных скобках.

По существу функция взятия целой части математически в идеале реализуется параллельным АЦП выходного сигнала аналогового устройства, реализующего функцию активации общего вида. Исследование свойств данного алгоритма в настоящей работе не проводится.

и

Анализ структурной схемы и алгоритма СПАЦП выявляет аналогию между структурными схемами и принципом функционирования СПАЦП и так называемым искусственным нейроном, который в настоящее время находится под пристальным вниманием многих исследователей (достаточно заглянуть в Іпіегпеї). Для того чтобы убедиться в наличии отмеченной выше аналогии, рассмотрим кратко сущность и принцип действия искусственного нейрона.

Нейроны — это некоторый технический элемент, наделенный памятью, в которую тем или иным путем в форме весовых коэффициентов предварительно записывается информация, коррелированная с соответствующей информацией, поступающей на вход этого элемента в период предварительного обучения. Рассмотрим схему нейрона (рис. 5), которая с той или иной степенью подробности (чаще — в сильно упрощенном варианте) обычно приводится почти во всей литературе, посвященной исследованию нейронов. Главная функция искусственного нейрона — формировать выходной сигнал в зависимости от сигналов, поступающих на его входы. В самой распространенной конфигурации входные сигналы обрабатываются так называемым адаптивным сумматором [4], затем выходной сигнал сумматора поступает в нелинейный преобразователь, где преобразуется функцией активации ^(у), и результат подается на выход (обычно в точку ветвления). Особенность схемы нейрона, представленного на рис. 5, состоит в том, что схема отражает работу нейрона в двух режимах: в режиме обучения и непосредственно в рабочем режиме. В режиме обучения используется

микропроцессор в обратной связи, посредством которого в соответствии с программой оптимизации выходного сигнала нейрона подбираются значения весовых коэффициентов по обучающему образцовому многомерному сигналу х^ ^ = 1, 2, ..., м) так, чтобы на выходе нелинейного элемента ¥(у) появлялся бы максимальный сигнал. Тогда, если целью дальнейшей работы нейрона является выделение этого сигнала из фиксированного множества других входных сигналов, то наличие на входе нейрона искомого сигнала будет обнаруживаться по максимальному значению выходной функции нейрона ¥(у). Условие существования такого сигнала вытекает из известного неравенства Коши— Буняковского [5]. С появлением нейронов стали интенсивно развиваться на их базе искусственные нейронные сети (ИНС), благодаря которым исследователи получили в распоряжение достаточно гибкий и надежный инструмент для решения целого ряда трудноразрешимых другими средствами задач [1].

Процесс обучения нейрона и, следовательно, ИНС существенно усложняется, если подобную задачу требуется решить для некоторого множества входных сигналов, так как приходится искать экстремум многомерной функции. Алгоритм предварительного обучения можно было бы существенно упростить, если бы представленная на рис. 5 схема нейрона реализовала дополнительно функцию измерения образцового входного сигнала в режиме обучения раздельно в каждом входном канале. Действительно, предположим, что на многомерный (векторный) вход нейрона в режиме обучения подавался бы образцовый сигнал. Тогда в

Рис. 5. Структурная схема искусственного нейрона с контуром, предоставляющим технические возможности для реализации принципа обучения или самообучения

результате его непосредственного измерения можно было бы приравнять искомые веса юь, i = 1, 2, ..., п нейрона значениям образцового сигнала или некоторой известной функции от него. Далее, в рабочем режиме, при умножении значений установленных весовых коэффициентов в каждом канале и суммировании результатов умножения, на выходе нейрона наибольшего значения сигнал достигал бы при максимальном «сходстве» входного сигнала с ранее предъявленным в режиме обучения образцовым сигналом. Если же в процессе предварительного «обучения» нейрона по некоторому ограниченному множеству образцовых входных сигналов определить соответствующие веса нейрона в каждом канале через средние значения заданного множества образцовых сигналов, то с наибольшей вероятностью максимум выходного сигнала также достигался бы при максимальном «сходстве» входного сигнала с одним из ранее предъявленных образцовых сигналов.

Судя по описанию схем искусственных нейронов (см., например, [1]), складывается такое впечатление, что реализация схемы памяти аналогового значения весовой функции очень проста. Эта простота возможна, если априорно известно значение веса и его можно заложить в схему операционного усилителя с заранее подобранными весовыми сопротивлениями. Но тогда спрашивается, о каком обучении или самообучении искусственного нейрона можно говорить? На самом деле, для схемы, реализующей потенциальные возможности обучения или самообучения, все несколько сложнее. Это видно из соответствующего фрагмента схемы (рис. 6) для реализации функции запоминания значения весовых коэффициентов, возможности их перестройки и представления в аналоговой форме. Поскольку функция обучения про-

граммно и технически реализуется в микропроцессоре, то результаты для установки значений весовых коэффициентов выдаются в цифровой форме. Для согласования форм входного аналогового сигнала и значений весовых коэффициентов с целью выполнения акта умножения требуется операция преобразования сигнала в каждом канале из цифровой формы в аналоговую. Для выполнения этой операции необходимо в каждом канале иметь ЦАП с соответствующим подключением их цифровых входов через регистры памяти к выходной магистрали микропроцессора.

Можно видоизменить общую архитектуру искусственного нейрона за счет его трансформации в параллельно-последовательную структуру посредством использования коммутатора, т. е. параллельные операции над сигналами, поступающими по множеству входных каналов, осуществлять в соответствии с «косым временным сечением» последовательно во времени в одноканальном варианте. Однако в этом случае существенно возрастет время работы нейрона из-за необходимости сохранения и реализации многоразрядного, т. е. многотактного, в каждом канале потока цифровой информации в последовательной одноканальной цифровой структуре. Чтобы исключить указанный недостаток в параллельно-последовательной структуре нейрона и свести к минимуму потерю временного ресурса, целесообразно совместить по времени выполнение ряда основных операций, а именно основную операцию суммирования с запоминанием (накоплением информации), с функцией аналого-цифрового и цифроаналогового преобразования в едином блоке, составляющем основу общей схемы искусственного нейрона. В этом случае применение косого временного сечения не приводит к значительному увеличению времени об-

Рис. 6. Структурная схема, иллюстрирующая технические возможности для реализации принципа цифровой подстройки, запоминания и преобразования в аналоговую форму значений весовых функций в искусственном нейроне

Входные компоненты

Выходной код

Рис. 7. Структурная схема искусственного нейрона, реализующего стохастический пространственный алгоритм аналого-цифрового преобразования

работки векторного входного сигнала, так как в каждом канале достаточно получать информацию только по одному временному такту.

Реализацию подобного решения можно осуществить в соответствии со схемой СПАЦП (см. рис. 3), которая после незначительной модификации преобразуется в схему, представленную на рис. 7. Модификация схемы СПАЦП заключается в дополнительном введении на первый вход схемы сравнения цифроаналоговой обратной связи, состоящей из микропроцессора и ЦАП, в которой по результатам предварительного обучения схемы раздельно для каждого входного канала устанавливается и запоминается в цифровом виде значение весового коэффициента в запоминающем устройстве микропроцессора. При последовательном переключении каналов коммутатором по сигналу синхронизации, поступающему с микропроцессора, входной сигнал каждого канала перемножается в аналоговом умножителе с преобразованным посредством ЦАП в аналоговую форму соответствующим для данного канала цифровым значением весового коэффициента. Результат умножения в этом же временном такте синхронизации, т. е. параллельно во времени, сравнивается в схеме сравнения, например в соответствии с алгорит-

мом (3), с накопленными в микропроцессоре предыдущими результатами итерационной обработки векторного (многомерного) входного сигнала.

Нетрудно установить, что для схемы, приведенной на рис. 7, сохраняется функция аналого-цифрового преобразования СПАЦП для среднего значения по всем входным сигналам, т. е. без учета какой-либо иной ранее полученной информации, если значения весовых коэффициентов по всем каналам устанавливаются равными единице. Умножение на единичный вектор соответствует тождественному представлению векторного входного сигнала на выходе умножителя.

Таким образом, представленная и исследованная в статье схема аналого-цифрового искусственного нейрона, несмотря на то, что функционально выполняет операцию накопления информации по п входным сигналам последовательно во времени, фактически эквивалентна по затратам временного ресурса параллельной обработке информации в соответствии с известной схемой (см. рис. 5). Действительно, в данной схеме при суммировании в аналоговой форме многомерного аналогового сигнала на операционном усилителе результат суммирования за счет переходных процессов в реактивных элементах схемы появляется с существенной задержкой

относительно поступления многомерного входного сигнала. Чем больше входных каналов, тем больше подключается к входу суммирующего операционного усилителя «развязывающих» сопротивлений, тем выше суммарная входная паразитная емкость. При этом динамический диапазон аналогового сумматора из-за ограниченности линейного участка передаточной характеристики операционного усилителя существенно ниже соответствующего диапазона цифроаналогового сумматора, реализуемого в схеме (см. рис. 7) на микропроцессоре и ЦАП. Проведенный сравнительный анализ показывает перспективность применения предложенного принципа построения аналого-цифровых структур для решения широкого круга технических задач.

Литература

1. Терехов В. А., Ефимов Д. В., Тюкин И. Ю., Антонов В. Н. Нейросетевые системы управления. СПб.: СПбГУ, 1999. 265 с.

2. Цыпкин Я. З. Информационная теория идентификации. М.: Наука, 1995. 336 с.

3. Иванов В. Н., Тихонов Э. П. Стохастический алгоритм аналого-цифрового преобразования // Вестник Метрологической академии. СПб., 2006. Вып. 17. С.12-35.

4. Уидроу Б., Стирнз С. Адаптивная обработка сигналов: Пер. с англ. М.: Радио и связь, 1989. 440 с.

5. Ширяев А. Н. Вероятность. М.: Наука, 1978. 574 с.