Методы и алгоритмы диагностики искусственного нейрона с нелинейной функцией активации

сложность уравнений, описывающих эту систему, что усложняет аналитическое решение. В этом случае следует использовать численные методы и моделировать поведение системы на компьютере.

Библиографический список

1. Потапов, И. В. Надежность нейрокомпьютерных систем. Модели и задачи / И. В. Потапов. — Омск: Изд-во ОмГТУ, 2007. — 240 с.

2. Потапов, В. И. Математические модели, методы и алгоритмы оптимизации надежности и технической диагностики искусственных нейронных сетей / В. И. Потапов, И. В. Потапов. — Омск: Изд-во ОГУП. Омская областная типография, 2004. — 220 с.

3. Вентцель, Е. С. Исследование операций/ЕС. Вентцель. — М.: Сов. радио, 1972. - 550 с.

4. Методические рекомендации по оценке надежности и эффективности «человек—техника». Научный совет по компле-

ксной проблеме «Кибернетика». АН СССР. - М. : Изд-во ЦНИИТЭИ легкой промышленности, 1971. — 172 с.

5. Контроль функционирования больших систем / Г. П. Шибанов [и др.]. — М.: Машиностроение, 1977. - 330 с.

6. Козлов, Б. А. Справочник по расчету надежности аппаратуры радиоэлектроники и автоматики / Б. А. Козлов, И. А. Ушаков. - М.: Сов. Радио, 1975. - 472 с.

ПОТАПОВ Виктор Ильич, доктор технических наук, профессор (Россия), профессор, заведующий кафедрой «Информатика и вычислительная техника». Адрес для переписки: e-mail: ivt@omgtu.ru

Статья поступила в редакцию 24.02.2011 г. © В. И. Потапов

УДК004.052.42 м д БОГАНЕЦ

Омский государственный технический университет

МЕТОДЫ И АЛГОРИТМЫ ДИАГНОСТИКИ ИСКУССТВЕННОГО НЕЙРОНА С НЕЛИНЕЙНОЙ ФУНКЦИЕЙ АКТИВАЦИИ

В статье представлены методы и алгоритмы диагностики искусственного нейрона с нелинейной функцией активации на наличие в нем отказов. Представлена модель искусственного нейрона, обладающего возможностью диагностики. Ключевые слова: искусственный нейрон, нелинейная функция активации, отказ, методы диагностики, алгоритмы диагностики.

1. Введение

Проведенные библиографические исследования показали слабую проработанность темы технической диагностики искусственных нейронов (ИН) с нелинейными функциями активации (НФА), что, учитывая применимость сетей, состоящих из нейронов данного типа, для построения экспертных систем, распознавания образов и работы с нечеткой логикой является существенным недостатком. Кроме того, существующие методы технической диагностики [1] обладают рядом серьезных недостатков. Так, метод построения проверяющих тестов существенно зависит от типа функции активации и не предполагает возможность изменения значений весовых коэффициентов ИН. Схемотехнические методы применимы для узкого круга аппаратных реализаций нейрона. В рамках данной работы сделана попытка исследования прин-ципиальной возможности диагностики ИН с НФА и разработки методов и алгоритмов для ее осуществления.

Отказом (неисправностью) будем считать событие, заключающееся в нарушении работоспособного состояния объекта (ИНили ИНС). Перемежающиеся отказы (которые в большинстве случаев являются следствием обратимых случайных изменений режимов работы и параметров системы; при возвращении ре-

жима работы в допустимые пределы системы сама, обычно без вмешательства человека, возвращается в работоспособное состояние.) рассматривать не будем. Константным отказом ИН будем считать отказ, заключающийся в возникновении короткого замыкания или обрыва на входах или выходе нейрона. Параметрическим отказом будем считать событие, заключающееся в изменении весового коэффициента ИН вследствие возникновения неисправности. Компенсирующей неисправностью будем считать неисправность, при которой выходное значение нейрона на заданных входных наборах соответствует выходному значению аналогичного исправного нейрона, что возможно только в избыточных структурах.

2. Модель ИН

Рассмотрим модель ИН, представленную на (рис. 1).

Нейрон содержит п входов, на каждый отдельный входх( подается непрерывный сигнал произвольной формы. Каждому входу х, соответствует свой весовой коэффициентш, (множитель входного сигнала), назначение которого аналогично назначению усилителя сигнала в электронных схемах. Совокупность весовых коэффициентов образует вектор весов Значения весовых коэффициентов могут быть как положительными, так и отрицательными. Все входы соединены с сумматором, реализующим функцию

Возможные одиночные неисправности модели ИН с НФА

Тип неисправности Наименование неисправности Требования к тестовому набору OUT Примечание

1 Обрыв на выходе ИН с НФА оит#о, оит#> оит=о Для обнаружения требуется один набор с хдФ и

2 Обрыв на 1-м входе ИН с НФА NET=0, OUT=0 OUTmi„<(OUT#))< <0(JTllm, Проверяются входы ИН с НФА, для которых х#0

3 Уменьшение весового коэффициента оз^ NET=0, OUT=0 оит,™<(оит#>) «OUT™,

4 Короткое замыкание на выходе ИН с НФА оит=о оит>о Требуется один тестовый набор

5 Короткое замыкание на ¡-м входе ИН с НФА NET=0, OUT=(> оит^оиъеди ¿OUT™, Проверяются входы ИН с НФА, для которых

6 Увеличение весового коэффициента ад, NET=0, QUT=0 OUT^tOUTtfOS <оит„„

суммирования произведения значения входного сигнала на соответствующий ему весовой коэффициент по всем входам: NET = 2х,юг Блок вычисления, в свою очередь, рассчитывает OUT= f(NET), где f(NET) — функция активации нейрона. Различают следующие нелинейные функции активации:

1. Сигмоидальная функция (функция Ферми):

OUT =-i—— = F

1 + с-

2. Гиперболический тангенс:

NET _ „-NET

OUT = Ih(NET)= ^нет + e-NET

3. Экспоненциальная функция:

OUT = e Wf/

4. SOFTMAX-функция:

eNEr

5. Участки синусоиды:

OUT = sin

6. Гауссова кривая:

OUT = —==е J2mr

3. Ограничения модели ИН

Представленная в данной работе модель ИН обладает следующими ограничениями:

1. Вычисления значения OUT нейрона предполагаются мгновенными, не вносящими задержки. Непосредственно моделировать динамические системы, имеющие «внутреннеесосгояние» (например, системы с памятью), с помощью таких нейронов нельзя.

2. За время тестирования вероятность возникновения одной и более неисправностей пренебрежительно мала. Рассматриваемые в данной работе алгоритмы должны иметь высокое быстродействие.

4. Классификация возможных однократных

неисправностей ИН

Определим возможные однократные неисправности ИН с НФА ((табл. 1) составлена на основе таблицы неисправностей для ИН с пороговой логикой [2]).

OUTmln будем считать минимальное возможное значение OUT (левую границу диапазона значений OUT), OUTmax по аналогии будем считать максимальное возможное значение OUT (правую границу диапазона значений OUT).

Из анализа (табл. 1) видно, что для обнаружения неисправностей типа 2 — 6 необходимым требованием к диагностическому набору является NET = О, OUT=0. Для обнаружения неисправности типа 1 необходимо и достаточно выполнение условия NET^O, OUT = 0, то есть при ненулевом векторе входных значений X и весов W значение выхода OUT = 0 явно указывает на отказ типа короткого замыкания на выходе нейрона. Следует отметить, что неисправности типа 3,6 описываемыми в данной работе методами и алгоритмами не локализуются. Возможно лишь установление факта наличия отказа в нейроне (без определения его типа), чего вполне достаточно для диагностики ИНС в целом.

Необходимое и достаточное условия диагностиру-емости ИН с НФА приведены в [3].

5. Методы и алгоритмы диагностики ИН с НФА

Для решения задачи диагностики нейронов с нелинейными функциями активации на наличие константных и параметрических неисправностей на его входах и выходе модель формального нейрона (описанная, например, в [4,5]) была изменена. Был добавлен диагностический вход S0 с соответствующим весовым коэффициентом ws (фактически, для диагностики используется один из информационных

Рис. 2. Предлагаемая модель нейрона с нелинейной функцией активации с возможностью диагностики неисправностей

входов нейрона). Модель такого нейрона представлена на рис. 2.

Работу рассматриваемого ИН можно описать следующими выражениями:

OUT = F

Om = Fi^xlrn-S0cos)~Dds\i = \,...,n

где x,,...^ — информационные входы, на которые подается непрерывный сигнал произвольной формы;

S0—диагностический вход ИН, на который подается константа из диапазона [OimaxfxJ] | i= 1,...,п, причем при работе нейрона в обычном режиме (не в диагностическом) S0 = 0;

со,,..., соп—весовые коэффициенты соответствующих им входов х],...,хп;

cos — весовой коэффициент диагностического входа S0. При диагностике ИН на наличие отказов œs= — 2coj I i= l,...,n.

NET, OUT — то же, что и в случае (рис. 1 ) Ddg—диагностическая константа, обеспечивающая сходимость функции OUT в точке (0,0), вычисляется по формуле ( 1 ) приусловии OUT=0, то есть Ddg = F(NET

0i Так, для сигмоидальной функции активации Ddg= = 0,5.

Для диагностики нейрона на наличие неисправностей необходимо рассчитать значение œs по формуле, приведенной выше. Тогда :

при S0 = x¡ * 0 |i= l,...,n :

OUT = /ф)- Dd = 0

при S0 = 0 :

OUT =

Dd = min(max;t, )|/ = 1

последовательно диагностические наборы, представленные в табл. 2.

Возможны следующие случаи:

л, =... = х„ =

дг, =... = *„= S0 =0; OUT* 0 .X] -... = x„ = S0 =

= ... = *„ = S0 = 0;

OUT = 0

= S0 =

... = *, =S0= 0;

OUT Ф 0

x, =... = X,

-- S0 = (const * 0); OUT Ф 0

OUT =

Для проверки работоспособности нейрона необходимо на вход нейрона подать тестовые наборы, представленные в табл. 2.

Константу, подаваемую на все входы нейрона при диагностике, на основании опытных данных (апробации приведенных методов и алгоритмов на различных моделях ИН) предлагается принимать равной

Рассмотрим процесс диагностики ИН с НФА на наличие константных неисправностей на входах или выходе нейрона.

При подозрении наличия отказа типа логической константы для проверки корректности работы нейрона принимают ю5= — Хоу | ¡= 1,...,п и подают

В случае (6) отказ носит характер обрыва на выходе ИН; в (7) — короткого замыкания на входе нейрона; в (8) — обрыва на входе; в (9) — короткого замыкания на выходе ИН.

В случае, если обнаруженная неисправность не является константной неисправностью на выходе нейрона, возможна дальнейшая локализация отказа с точностью до входа (случаи (7) и (8), если неисправность однократная). Для этого следует применить следующие алгоритмы:

1) Алгоритм 1 (для случая (7)):

1. i = 0, lconst = (const^O);

2. <ds= 0;

3. i= i+1;

4. cos=№s-«v,

5. S0 = lconst;xj = lconst|j = l,...,i;xk = 01k = i + 1.....n;

6. если OUT^O, идти к п.З;

7. x, = x¡ max (const*0) и есть искомый вход.

2) Алгоритм 2 (для случая (8)):

1. i = п Ч-1, lconst = (const*0);

2. os= — | i= 1.....n;

3. i= i— 1;

4. ms= (os+ о,;

5. S0= lconst;х; = 0|] = 1,...,п;хк=1соп81|к= l,...,i— 1;

6. если OUT*0, идти к п.З;

7. X|= const * "0" и есть искомый вход.

Алгоритм (1) назовем алгоритмом последовательного включения, а (2) по аналогии алгоритмом последовательного выключения.

Среднее количество тестовых наборов, необходимых для выявления неисправностей рассматриваемых типов, приведено в табл. 3.

Следует отметить, что отличия предлагаемой модели нейрона с нелинейной функцией активации с возможностью диагностики неисправностей типа логических констант на его входах/выходе от модели формального нейрона, описанной в [4,5], не носят характер критических и не ведут к существенному уве-

Диагностические наборы, подаваемые на вход нейрона при подозрении наличия неисправности типа логической константы на входах/выходе нейрона

№ набора Диагностические наборы NET OUT

1 Х|=.. .= х„ =(const#>); So=0

2 xi=x2=...= x„=So=0 0 0

3 X|= x2=...= x„=So=(<;onst#0) 0 0

Таблица 3

Среднее количество тестовых наборов, необходимых для локализации однократной константной неисправности с точностью до входа/выхода

Наименование неисправности Среднее количество тестовых наборов для локализации неисправности

Обрыв на выходе ИН с НФА 1

Короткое замыкание на выходе ИН с НФА 3

Короткое замыкание на выходе ИН с НФА п/2 + 3

Короткое замыкание на ¡-м входе ИН с НФА п/2 + 3

личению сложности, фактически, в качестве диагностического в данном случае используется один из его информационных входов.

Рассмотрим результаты применения приведенных выше методов и алгоритмов в случае возникновения параметрического отказа.

1. Пусть coio —весовой коэффициент входа i, для которого имеет место отказ типа увеличения весового коэффициента (случай 6 (табл. 1)), то есть coio > от, илиш1о = со,+ (consteO), где со, — весовой коэффициент входа i исправного нейрона. Тогда при подаче тестовых наборов 1—3 (табл. 2) будем иметь следующее:

a. х, = ...= xn = (const*0); S0 = 0 NET*0 OIHVO

b. x, = x2=...= xn = S0 = 0 NET = OOUT = 0

c. x,= x2 = ...= xn = S0 = (consteO) NET*0 OIHVO

2. Аналогично приведенному выше, примем coio< со,, или coio = со, + (cons^O).

а. х, =... = х„ = (const^O); S0= О NET*0 OUT*0

b. x, = x2

.= x =S„ = 0 NET = OOUT = 0

c. x, = x2 =... = xn = S0 = (consteO) NET*0 OUT^O

Как видно из представленного выше, параметрический отказ выявляется на третьем тестовом наборе из табл. 2. Дальнейшая его локализация алгоритмами последовательного включения и выключения невозможна. Другими словами, если внутренняя структура ИН не является абсолютно надежной (то есть в нем возможно возникновение параметрического отказа), тестовыми наборами устанавливается сам факт неисправности, но не ее тип или место возникновения в нейроне. На практике для ИНС с НФА, поддерживающих аппаратное или программное резервирование, важен сам факт обнаружения неисправности для дальнейшей замены отказавшего нейрона резервным, а не ее тип.

В результате апробации представленных в работе методов и алгоритмов (с помощью программного моделирования ИН и внесения случайных неисправностей) на моделях ИН с двукратными неисправностями было установлено, что приведенные выше тестовые наборы обнаруживают наличие кратных некомпен-

сирующих неисправностей любого типа. На основании этого можно сделать вывод о применимости методов диагностики для выявления любых кратных неисправностей рассматриваемых типов. Локализация неисправности с точностью до входа, выхода или весового коэффициента при этом невозможна.

Выводы

В заключение следует отметить, что приведенные методы и алгоритмы диагностики, обладая некоторыми достоинствами:

— высоким быстродействием методов диагностики ИН на наличие константных отказов на его входах или выходе;

— возможностью диагностики кратных неисправностей нейрона;

— использованием имеющихся входов нейрона в качестве диагностических не лишены недостатков, среди которых можно выделить следующие:

— невозможностьлокализации отказа нейрона с точностью до его входа, выхода или весового коэффициента для нейронов, не обладающих абсолютно надежной внутренней структурой;

— низкое быстродействие алгоритмов последовательного включения и выключения, применяемых для локализации константных неисправностей входов и выхода нейрона с абсолютно надежной внутренней структурой.

В дальнейшем планируется проведение исследований, направленных на модификацию алгоритмов для обеспечения возможности локализации параметрических отказов нейрона, а также на вычисление вероятности возникновения в нем компенсирующих неисправностей на основе результатов апробации представленных методов и алгоритмов на различных моделях ИН.

Библиографический список

1. Потапов, И. В. Математические модели и методы оптимизации функциональной надежности искусственных нейронных

сетей : дис. канд. техн. наук : 05.13.01 / И. В. Потапов. — Томск, 2004. - 175 с.

2. Пальянов, И. А. Схемотехника и контроль элементов поро-говойлогики / И. А. Пальянов, В. И. Потопов - Омск : Изд ОмГТУ, 1993. - 155 с.

3. Боганец, М. А. Методы и алгоритмы диагностики искусственных нейронных сетей с нелинейными функциями активации / М.А Боганец//Омский научный вестник. — 2010. — №3(93). — С. 223-227.

4. Мкртчян, С. О. Нейроны и нейронные сети / С. О. Мкртчян. M : Энергия, 1971.- 232 с.

5. Галушкин, А И. Теория нейронных сетей: учеб. пособие для вузов. В 3 кн. Кн. 1 / А И. Галушкин. - М.: ИПРЖР, 2000. - 416 с.

БОГАНЕЦ Максим Александрович, ассистент кафедры «Информатика и вычислительная техника». Адрес для переписки: e-mail: max.boganets@gmail.com

Статья поступила в редакцию 04.02.2011г. © М. А. Боганец

УДК 004.9:61 (06) д В МЫЦИК

Омская государственная медицинская академия

ИСПОЛЬЗОВАНИЕ ПРОГРАММЫ 1МАСЕ1 ДЛЯ АВТОМАТИЧЕСКОЙ МОРФОМЕТРИИ В ГИСТОЛОГИЧЕСКИХ ИССЛЕДОВАНИЯХ

В статье идёт речь о практическом использовании программы llпageJ для автоматизации гистологических исследований и показана целесообразность внедрения данной программы в работу морфологических лабораторий.

Ключевые слова: гистология, автоматическая морфометрия, 1таде1

С проблемой анализа гистологического препарата сталкивается любой исследователь. Существует множество методик измерения размеров клеток, внутриклеточных структур, тканевых образований, которые появились практически одновременно с массовым распространением световой микроскопии. Однако они основаны на непосредственном измерении каждого объекта исследователем, поэтому являются трудоемкими, требующими большого внимания и усидчивости. Результаты такой работы в значительной степени зависят от субъективного взгляда и вследствие этого могут содержать значительное количество ошибок, различаться у разных исследователей, имеют неидеальную повторяемость.

В связи с вышеизложенным различные фирмы — производители оборудования для микроскопии (Carl Zeiss, Leica) разработали программные комплексы, позволяющие автоматизировать процесс морфомет-рии. Эти программы могут работать как с изображением, получаемым с цифровой камеры в режиме реального времени, так и с электронными фотографиями. Программы достаточно дороги, порой их цена сопоставима со стоимостью хорошего микроскопа, хранят и обрабатывают данные в своих собственных форматах, поэтому широкого распространения не получили.

В конце 90-х годов прошлого века, в связи с распространением аппаратуры для оцифровки изображений, переход значительного количества медицинских организаций на хранение документации, в том числе электронных фотографий микропрепаратов, рентгенограмм в электронном виде Департамент здравоохранения США, точнее его агентство National Institutes of Health (NIH), выступил инициатором разработки программы, которая могла бы проводить автоматический анализ визуальных данных и являлась общественным достоянием, то есть былабыдля всех бесплатна.

Такая программа с открытой архитектурой была разработана в 1997 году Вэйном Расбандом (Wayne Rasband) в исследовательском отделении Национального института психиатрии в Бетесде, Мэриленд и получила название ImageJ [ 1 ]. Ее модернизация силами пользователей продолжается по сей день. Некоторые модификации выделились в самостоятельный продукт, например Fiji, и развиваются параллельно. Программу, плагины, макросы и полную документацию можно получить на сайте rsbweb.nih.gov.

Плагины, которых в настоящее время более 500, написанные пользователями, делают возможным решение многих задач анализа и обработки изображений, позволяют проводить трехмерную визуализацию в диапазоне от внутриклеточных структур до рентгенологических изображений [2], автоматические сравнения [3], вплоть до создания автоматизированных систем изучения, обрабатывающие пакеты изображений практически без участия человека [4,5].

ImageJ позволяет отображать, редактировать, анализировать, обрабатывать, сохранять и печатать 8-, 16- и 32-битные изображения. Программа может читать многие форматы изображений, включающие TIFF, PNG, GIF, JPEG, BMP, DICOM, FITS, a также форматы программ AxioVision (Carl Zeiss), Leica и многих других коммерческих продуктов. ImageJ поддерживает стеки — серии изображений, которые объединены в одном окне, а многопоточные трудоемкие операции могут выполняться на многопроцессорных системах в параллельном режиме. В ImageJ можно вычислять площади, статистические показатели пиксельных значений различных выделенных областей интереса на изображениях, которые выделены вручную или при помощи пороговых функций. Программа может измерять расстояния и углы, создавать гистограммы плотности и рисовать профили линий.

Поддержка сглаживания, резкости, обнаружение края, медианная фильтрация, функция порогов, наст-