Тенденции развития средств аппаратной поддержки нейровычислений

Проблемы передачи и обработки информации

УДК 004.8.032.26, 681.513.8

Е.Н. Бендерская, А.А. Толстов ТЕНДЕНЦИИ РАЗВИТИЯ СРЕДСТВ АППАРАТНОй ПОДДЕРЖКИ

нейровычислений

E.N. Benderskaya, A.A. Tolstov TRENDS OF HARDWARE IMPLEMENTATION OF NEURAL NETWORKS

Рассмотрены вопросы аппаратной реализации биоинспирированных нейронных сетей. Представлены результаты сравнительного анализа существующих нейроморфных систем. Определены этапы разработки хаотической нейронной сети на базе графического ускорителя.

НЕЙРОННАЯ СЕТЬ. БИОИНСПИРИРОВАННЫЕ ВЫЧИСЛЕНИЯ. НЕЙРОМОРФНЫЕ СИСТЕМЫ. АППАРАТНАЯ ПОДДЕРЖКА.

Hardware implementations of bio-inspired neural networks are under consideration. A comparative analysis of neuromorphic systems with other approaches is provided. The stages of chaotic neural network hardware implementation based on graphics processing units are proposed.

NEURAL NETWORK. BIO-INSPIRED COMPUTING. NEUROMORPHIC SYSTEMS. HARDWARE IMPLEMENTATION.

В данной статье сравниваются основные характеристики современных разработок, посвященных нейровычислениям и нейро-морфным системам. Нейроморфными системами принято считать такие системы, которые являются аппаратно-программной реализацией моделей биоинспирированных нейронных сетей, а нейроморфингом — сам процесс создания таких систем [1, 2]. Особое внимание направлено на анализ аппаратных средств, адаптированных под биологически инспирированные нейронные сети. Необходимость такого аналитического обзора современных нейровычислительных проектов вызвана поиском решений аппаратной поддержки хаотических нейронных сетей с нелинейной динамикой [3]. Такие нейронные сети (НС) являются многообещающей технологией в решении широкого

спектра задач. Как и импульсные нейронные сети, хаотические НС являются биологически инспирированными. В выводах по результатам работы выделены наиболее перспективные направления разработки средств аппаратной поддержки нейронных сетей.

Существующие подходы к реализации нейровычислений на аппаратном уровне

В настоящее время нейровычисления находятся на той стадии развития, когда над ними работают не только известные научные школы, но и ведущие ИТ-корпорации. Среди основных используемых технических средств можно выделить следующие:

1) традиционные ПК для целей мелкомасштабных исследований, а также для работы достаточно простых нейронных сетей.

Моделирование крупномасштабных систем на ПК является проблемой вследствие невысокой производительности такого рода устройств;

2) специализированные устройства для параллельных высокопроизводительных вычислений. Сюда входят современные графические карты (GPU), а также семейство программируемых логических интегральных схем (FPGA). По сравнению с обычными ПК такие устройства предлагают ряд преимуществ. Во-первых, это более высокие показатели пиковой производительности (десятки и более раз, если сравнивать устройства одного поколения). Во-вторых, — параллельная архитектура, которая является адекватной нейронным сетям;

3) кластеры из ПК. Решают проблему низкой производительности отдельных машин. Применяются и для крупномасштабного моделирования нейронных сетей;

4) суперкомпьютеры. Часто для моделирования используют суперкомпьютеры. Это оправдано в силу того, что именно такие устройства позволяют достичь максимальной производительности вычислительной системы, доступной на данный момент. Главные недостатки такой модели — огромная стоимость суперкомпьютеров, огромные затраты электроэнергии;

5) устройства различных типов, специализированные для целей нейровычислений. Единого стандарта или применяемого подхода в этой области нет. Два основных преимущества специализированных средств — это низкое энергопотребление и относительно невысокая стоимость устройств.

Разработки нейроморфных систем ведутся с целью по возможности полно повторить эффективный биологический прототип — мозг, который являет собой пример мощнейшей вычислительной системы, имеющей весьма компактный размер и низкое энергопотребление. Поэтому основной тенденцией в разработке аппаратной поддержки нейровычислений стала ориентация на биоинспирированные НС и создание нейроморфных систем.

Проекты нейроморфинга

По результатам анализа различных ис-

точников информации по существующим проектам нейроморфинга (НМ) выделены проекты, представленные в табл. 1. Для рассмотрения выбраны наиболее масштабные проекты, которые выполняются в известных крупных компаниях со значительным объемом финансирования под руководством признанных ученых и ведущих научных школ [4].

Для оценки рассматриваемых проектов и выявления подходящих подходов для аппаратной реализации хаотических НС проанализированы как задачи проектов и математическая база, используемая для моделирования работы отдельных нейронов и их связей (синапсов), так и используемые технологии разработки ней-роустройств. Краткие данные по проектам сведены в табл. 2. Также в ней отмечен тип используемой структуры при реализации аппаратного решения — является ли структура универсальной или специфической, учитывающей особенности той биологической подсистемы, которая взята за основу как прототип нейроморфной системы. Ввиду того, что НС представляют собой параллельное решение любой задачи, то даже специфические структуры являются, как правило, регулярными (типа решетка), и отличаются составом базовых обрабатывающих элементов и алгоритмами их взаимодействия.

Базовые логические элементы нейроустройств

В качестве базового элемента во всех рассмотренных проектах используются модели импульсных нейронов. Наиболее простая модель такого нейрона — модель интегрирования и возбуждения — Leaky Integrate-and-Fire (I&F), предложенная в 1907 г. и являющая собой пример максимально упрощенного биологического нейрона. Такая модель хорошо подходит для теоретических исследований, но не является полноценной моделью с точки зрения того, что она не генерирует импульс сама по себе. Данная модель применяется в проектах DARPA SyNAPSE и SpiNNaker [5].

Простейшая модель нейрона, который является «полноценным» — это модель ква-

Таблица 1

Основные проекты нейроморфинга

Название проекта Ведущий исследователь Цели проекта

Blue Brain Project, 2005 - настоящее время Университет EPFL (Швейцария), Г. Маркрам Максимально правдоподобно воспроизвести работу мозга млекопитающих с дальнейшими практическими применениями в медицине. Одно из основных направлений — изучение заболеваний нервной системы. Применение суперкомпьютера IBM Blue Gene для моделирования

FACETS, BrainScaleS, 2005-2010 BrainScaleS 2011 — настоящее время Консорциум европейских научных школ под началом Гейдель-бергского университета (Германия), К. Мейер Разработка новых базовых технологий, реализация нейросистем в виде аппаратных средств, разработка архитектуры систем, биологические исследования

Neurogrid, 2006 - настоящее время Группа Brains-In-Silicon, Стенфордский университет, К. Боэн Повторить достижение Blue Brain Project, моделирующего работу мозга на суперкомпьютере, но сделать это на специализированном устройстве собственной разработки, с значительно меньшей стоимостью, размером и энергопотреблением по сравнению с суперкомпьютером IBM Blue Gene. На изготовленном устройстве проводить моделирование различных функций мозга

SyNAPSE, 2006-2018 DARPA совместно с IBM Labs, HRL и рядом научных школ США, Д. Модха, Н. Сриниваса Моделирование мозга млекопитающих животных и человека, создание нейроморфных устройств, разработка архитектуры нейронных систем. Проект развивается по нескольким направлениям параллельно и относительно независимо

SpiNNaker, 2007-2014 Ряд вузов Соединенного Королевства под лидерством Манчестерского университета, С. Фербер Построение распределенной вычислительной системы, ориентированной под работу нейронных сетей различных типов, изучение особенностей работы мозга млекопитающих на примере задачи построения такой системы и ее эксплуатации

MoNETA / Cog Ex Machina, 2008 - настоящее время Бостонский университет совместно с компанией Hewlett-Packard (HP), М. Версаче, Г. Снейдер Роботостроение, разработка новых аппаратных архитектур, моделирование

дратичного нейрона (Quadratic Integrate-and-fire (QI&F)), он генерирует импульсы, работая в режиме интегратора [6]. Модель нейрона, подобного квадратичному, применяется в проекте Neurogrid [7].

Е. Ижикевичем подробно исследованы различные модели нейронов и в 2003 г. предложена простая модель выбора - Simple Model of Choice (SMC), позволяющая при определенной настрой-

Таблица 2

Характеристики проектов нейроморфинга

Проект Нейрон Синапс Аппаратная реализация Тип структуры

FACETS Гибридная модель (Adaptive Exponential Integrate-and-Fire) Модель си-наптической пластичности, разработанная на основе импульсной временной пластичности синапсов (8ТЭР) 1. Моделирование биологической нейросети на суперкомпьютере 2. Нейровычислительный модуль на основе специфичной цифро-аналоговой архитектуры с распределенной системой памяти и гибкой настройкой параметров синапсов. Общее количество нейронов на такой плате равняется 200 тыс., синапсов — 50 млн. Устройство обладает высокими характеристиками производительности: биологическая нейронная сеть, реализованная в таком устройстве, моделируется в 1000 раз быстрее своего реального прототипа, что открывает исследователям огромные возможности [9] 1. Универсальная 2. Специфическая, регулярная

SpiNNaker Использование простейших моделей абстрактных нейронов — модель LI&F, модель Ижике-вича БТЭР- модель Специфический суперкомпьютер, адаптированный к моделированию крупномасштабных НС. Построение ведется на основе процессоров ARM, плотной упаковкой нескольких процессоров в большие ядра [5] Специфическая, регулярная

SyNAPSE Использование простейших моделей абстрактных нейронов: модель LI&F, модель Ижике-вича Берстовый вариант БТЭР 1. Суперкомпьютер для моделирования крупномасштабной НС (IBM). 2. Вычислительное устройство на основе цифро-аналогового подхода (IBM), состоящее из 256 нейронов [10]. 3. Разработка устройств на основе мемристоров (HRL) [11] 1. Универсальная. 2. Специфическая, регулярная. 3. Специфическая, регулярная

Neurogrid Различные типы моделей с богатой динамикой, включающей в себя берстовый режим БТЭР- модель Наиболее крупный реализованный цифро-аналоговый модуль среди прочих проектов (1 млн нейронов). Синапсы реализованы при помощи FPGA и модуля памяти, а плата с нейронами состоит из аналоговых микросхем [7]. Применение аналоговой модели является решением проблемы энергопотребления — устройство на 1 млн нейронов потребляет 3,5 Вт электроэнергии Специфическая, регулярная

Cog Ex Широкий Широкий Поддержка различных архитектур: 1. Специфи-

Machina спектр раз- спектр мо- 1. Суперкомпьютер, состоящий из ческая, регу-

личных делей большого числа GPU. лярная.

типов моде- 2. Мемристорный подход, техноло- 2. Специфи-

лей — обу- гически обеспечиваемый со сторо- ческая, регу-

словленность ны компании HP [6] лярная

цифровым

подходом,

позволяю-

щим без-

болезненно

модифици-

ровать дан-

ный компо-

нент

ке имитировать работу большого числа известных биологических нейронов, проявляя свойства возбуждения и берстовой активности [8], что делает эту модель удобной для построения крупномасштабных ней-роморфных систем. Так, например, нейро-система, состоящая из 100 миллиардов таких нейронов, смоделирована на кластере Beowolf в 2005 г. [8]. Данная модель также применяется в проектах DARPA SyNAPSE и SpiNNaker [5].

Модель, предложенная Е. Ижикевичем, является примером гибридной модели нейрона. Гибридные модели образуют собой класс нейронных моделей, отличающихся друг от друга функцией генерации импульса [8]. Одной из таких моделей является разработанная в 2005 г. и используемая в рамках проекта FACETS модель адаптивного интегрирования-возбуждения - Adaptive Exponential Integrate-and-Fire (AEI&F) [9].

Наиболее важная модель биологического нейрона - это, безусловно, модель нейрона Ходжкина-Хаксли (НХХ), параметры которой получены в 1952 г. В отличие от перечисленных выше моделей, НХХ - это реальный прототип биологического нейрона. Параметры такой модели отвечают за реальные физические характеристики -токи, протекающие в клетке, мембранную емкость, проводимости, типы ионов и т. д. Платой за реалистичность воспроизводимых процессов является вычислительная сложность НХХ [8].

Рассмотрение используемых в проектах типов нейронов будет неполным без проекта Blue Brain Project. Напрямую он не относится к проектам нейроморфинга, т. к. его основной целью является моделирование, а не создание нейроустройств. Г. Маркрам, руководитель данного проекта, подчеркивает ориентированность на моделирование максимально приближенных к реальности нейронов, для чего использование простых моделей (CMS, LI&F и др.) является невозможным. Акцент сделан на то, что на данный момент еще не известно, какие свойства и процессы внутри нейронов являются основными в функционировании мозга, а какие являются побочными эффектами эволюции, не имеющими отношения к деятельности нейросистемы. Проект Blue Brain призван изучать мозг, моделируя его деятельность, и только после прояснения ответа на вопрос, какие механизмы в нейроне являются основными, - только тогда можно будет прибегнуть к вычислительной оптимизации, сокращающей возможности нейрона. В противовес данному подходу С. Фёрбер, руководитель проекта SpiNNaker, утверждает, что в его проекте намеренно использованы простейшие модели, а акцент сделан на противоположный Г. Маркраму подход [5]. Путем построения распределенной высокопроизводительной системы, нацеленной на нейровычисления, исследователи смогут понять основополагающие принципы ра-

боты мозга, синхронизации его составных частей, решая эти же задачи в своем проекте. Таким образом, реализуется обратное моделирование мозга.

Проект Neurogrid стоит несколько особняком от перечисленных выше проектов. Предполагается, что могут использоваться различные модели импульсных нейронов. Известны факты использования нейронов, подобных квадратичному импульсному нейрону, а также нейрону, обеспечивающему более сложную динамику, в частности, берстовый режим работы [8].

Подходы к аппаратной реализации НС

В рассматриваемых проектах используются или создаются различные аппаратные средства. Их можно разделить на классы по используемым подходам:

1. Цифро-аналоговый подход. Как правило, аналоговые микросхемы используются для реализации физических нейронов, а синапсы являются цифровым дополнением к модели. У аналогового подхода есть минусы: создание таких схем в любом случае получается «под заказ», они не являются универсальными, в отличие от цифровых компонентов. Подобный подход применяется в проекте BrainScaleS/FACETS. Еще два типичных представителя данного типа устройств — проекты SyNAPSE (IBM) и Neurogrid (см. табл. 2).

2. Использование мемристоров. В 2008 г. компания HP разработала физическое устройство мемристор. Модель мемристо-ра была открыта в середине XX в. Л. Чуа, но считалось, что такое устройство невозможно реализовать в виде физической схемы. Основные преимущества мемри-стора следующие: он имеет нелинейное сопротивление, которое можно регулировать электрическим сигналом (аналогия с биологическим нейроном); обладает свойством памяти и имеет очень маленький размер, следовательно, мемристоры могут быть плотно упакованы в запоминающий модуль; материалы, из которых изготовлен мемристор, позволяют встраивать его в существующие микросхемы [5]. Работа команды под руководством М. Версаче в

проекте Бостонского университета нацелена на сотрудничество с HP для разработки и создания мемристорных устройств. Мемристорным разработкам посвящена также часть проекта SyNAPSE, осуществляемая компанией HRL, которая в 2011 г. представила мемристорный массив [11]. В течение нескольких лет ожидается внедрение мемристоров в существующие вычислительные архитектуры. Это позволит значительно повысить производительность систем, что откроет широкие возможности для моделирования нейронных сетей.

3. Создание суперкомпьютеров, ориентированных на нейровычисления. Разработкой этого направления занимается проект SpiNNaker (Spiking Neural Network Architecture). Архитектура такого проекта ориентирована на энергоэффективность, построение из традиционных компонентов (используются ARM-процессоры), распределенность системы. Как уже было отмечено, архитектура вычислительной системы (а не типы нейронов) в этом проекте является главной его частью. Специализированный суперкомпьютер также используется в проекте Бостонского университета. Программный продукт Cog, разрабатываемый командой, нацелен на поддержку различных аппаратных архитектур. Помимо упомянутых выше мемристоров, используется также и суперкомпьютер, состоящий из нескольких сотен GPU. Цифровой подход проекта позволяет использовать различные модели нейронов и синапсов, обеспечивая большую гибкость.

Российские проекты и исследования в области нейроморфинга

Среди российских разработок стоит отметить следующие:

• Разработка НТЦ «Модуль» нейро-процессора Л1879ВМ1. Данный процессор, построенный на основе модели RISC, содержит в себе поддержку инструкций VLIW (Very Large Instruction Word) и SIMD (Single Instruction Multiple Data), а отличительной его чертой является поддержка разрядно-зависимых вычислений (количество разрядов варьируется от 1 до 64).

• Разработка компонента мемристора исследователями ООО «ТАСО», являющегося высокотехнологичным предприятием, созданным Тюменским ГУ [12]. Как было отмечено ранее, первооткрывателями устройства мемристора стала компания НР, а само устройство является многообещающим как с точки зрения создания высокопроизводительных и при этом компактных машин, так и с позиции применимости в качестве базового элемента аппаратной реализации нейронной сети. Российские исследователи стали пятой в мире научной группой, создавшей мемристор.

• Разработка нейрогибридных систем в НИЦ «Курчатовский институт». Идея ней-рогибридной системы состоит в использовании слоя клеток мозга, помещенных в питательную среду и выращиваемых в ней, для управления роботами. Акцент, сделанный авторами проекта, заключается в следующем: исследователи на данный момент имеют далеко не полную картину деталей функционирования мозга, поэтому построение вычислительных средств на базе компьютеров и современных технологий НС может не дать необходимых результатов. При использовании слоя живых клеток мозга исследователи получают возможность как оперативно наблюдать за происходящими в клетках явлениями (при помощи микроскопии и инструментов молекулярной биологии), так и использовать для управления роботом вычислительную структуру естественного происхождения [13].

Отдельно от рассмотренных подходов стоят разработки нейроморфных средств для реализации искусственных подсистем мозга (мозжечка, гиппокампа и др.), а также связанных с ним периферических систем. На основе таких нейроморфных средств разрабатываются различные системы управления роботами [2], однако для поддержки аппаратной реализации отдельных структур НС такие специализированые разработки не предназначены.

Успехи, нерешенные задачи и перспективы нейроморфинга

Общие выводы по рассмотренным проектам, учитывая объемы финансирования и

вовлеченность в дело крупных компаний, а также рассмотренные выше пути достижения целей, следующие:

тема создания нейроморфных систем крайне актуальна на данный момент [2];

аппаратные устройства, разработанные в рамках проектов, и научные знания, полученные исследователями, находят применение в разных областях [6];

не существует единого подхода к решению любой из поставленных в проектах задач. Более того, ведущие ученые не имеют на данный момент согласованных предположений о правильности того или иного пути к достижению целей в исследованиях мозга в целом и нейроморфинге в частности.

Все рассмотренные проекты добились определенных успехов в своей деятельности. Так, в проектах Neurogrid, SyNAPSE (IBM), FACETS сконструированы и произведены модели аппаратных цифро-аналоговых устройств, моделирующих работу импульсных биологически инспирированных нейронных сетей. Дальнейшие направления деятельности в этих проектах видятся в увеличении масштабов реализуемых ими нейронных сетей и сложности базовых элементов.

В проекте Бостонского университета и ветви проекта SyNAPSE, реализуемой HRL, в ближайшие годы ожидается появление аппаратных устройств на основе мемристоров, которые позволят совершить качественный скачок в производительности вычислительных систем. Направления развития проектов нейро-морфных систем:

• Увеличение вычислительной мощности.

• Усложнение математической модели базовых элементов по мере появления новых знаний и увеличения производительности устройств.

• Расширение математической базы для поддержки различных классов нейронных сетей в одном устройстве.

• Уменьшение аппаратных устройств в размерах. Этому способствуют архитектуры, отличные от фон Неймана, а также разработка высокоскоростных наноэлементов памяти.

Проблема крупных проектов заключается в том, что в них решается задача в глобальном контексте. При этом остается свободной ниша по решению задачи практического применения нейроморф-ных систем, которая может быть решена широким спектром технологий нейронных сетей, среди которых присутствуют не только импульсные нейронные сети, но и осцилляторно-хаотические нейронные сети и их разновидности. Отсюда следует необходимость проведения собственных разработок по поддержке аппаратной реализации хаотических НС [14].

Предлагаемая реализация хаотической НС на основе технологии Nvidia CUDA

Современные видеоускорители от компаний Nvidia и AMD отлично подходят для выполнения ресурсоемких задач, для которых требуется параллельное исполнение. Вполне естественным является применение данных устройств к нейронным сетям. Как уже было сказано выше, использование массивно-параллельных архитектур вроде видеокарт или FPGA является одним из используемых подходов при выборе аппаратной базы для реализации НС. Проведем анализ возможности реализации осцилля-торной хаотической НС, решающей задачу кластеризации [14].

Алгоритм функционирования нейронной сети предполагает следующие стадии:

1. Настройка весов нейронной сети. В процессе вычисления весовых коэффициентов необходимым знанием является вычисление количества ближайших соседей каждой входной точки, для чего применяется триангуляция Делоне. Количество нейронов равно количеству входных точек, а связи в такой сети — каждый с каждым.

2. Динамика нейронной сети (непосредственный процесс функционирования) и интерпретация этой динамики при помощи метода фазовой синхронизации.

В качестве аппаратной базы выбрана видеокарта с поддержкой технологии Nvidia CUDA. Приведем краткое описание процессов работы нейронной сети с учетом выбранной аппаратной поддержки.

1. Определение для каждого нейрона

количества ближайших соседей будет выполнено при помощи построения триангуляции Делоне методом Форчуна. Данный метод имеет для сети из N нейронов асимптотическую сложность O (N log N), является по своей сути последовательным и не требует реализации на GPU.

2. Вычисление и установка весовых коэффициентов НС - достаточно простая задача, которая является дружественной параллельным архитектурам и удобно реализуется при помощи GPU. Асимптотическая сложность операции O (N2).

3. Динамика нейронной сети. Аналогично п. 2 - является подходящей частью для использования GPU и имеет такую же асимптотическую сложность - O (N2).

4. Интерпретация динамики на всем периоде наблюдения. Данная операция предполагает сравнение выхода нейрона со всеми остальными нейронами и применение к полученным значениям ряда параметров. При получении новой порции данных от нейронов сложность такой операции также будет составлять O (N2) и реализовываться с применением GPU.

По предварительным оценкам, ввиду параллельного характера алгоритмов, производительность комбинированной системы, состоящей из современного GPU + CPU, по сравнению с использованием обычной CPU-реализации будет выше в 10 и более раз.

Анализ современных проектов по аппаратной поддержке нейровычислений позволяет сделать вывод о том, что наибольшее распространение получают проекты, ориентированные на реализацию биологически ориентированных НС, включающих в свои модели учет все больших деталей и особенностей функционирования биологического прототипа - нейрона. В связи с этим возрастает и сложность разрабатываемых решений, а во многих случаях уменьшается универсальность, ввиду отсутствия единого подхода. Для аппаратной реализации хаотических НС в настоящее время более подходящим подходом является использование технологии графических укорителей, что подтверждается и предварительной проработкой необходимых для этого этапов.

СПИСОК ЛИТЕРАТУРЫ

1. Boahen, K. Neuromorphic Microchips [Text] / K. Boahen // Scientific American. —2005. —Vol. 292. -№ 5. -P. 56-63.

2. Станкевич, Л.А. Нейроморфные средства для управления роботами [Текст] / Л.А. Станкевич, В.Г. Капралов, И.В. Клочков // Сб. науч. тр. XIII Всерос. науч.-техн. конф. Нейроинфор-матика 2011. -М., 2011. -Ч. 3. -С. 125-132.

3. Benderskaya, E.N. Nonlinear Trends in Modern Artificial Intelligence: A New Perspective [Text] / E.N. Benderskaya // Beyond AI: Interdisciplinary Aspects of Artificial Intelligence. Topics in Intelligent Engineering and Informatics. -Springer, 2013. -Vol. 4. -P. 113-124.

4. Hunkins, J. Neuroscience Expert Dr. Henry Markram on the IBM «Cat Brain» Simulation: «IBM's claim is a HOAX» [Электронный ресурс] / J. Hunkins // Режим доступа: http://technology-report.com/2009/11/neuroscience-expert-dr-henry-markram-on-the-ibm-cat-brain-simulation-ibms-claim-is-a-hoax/

5. Furber, S. Neural systems engineering. Review [Text] / S. Furber, S. Temple // J. of the Royal Society Interface. -2007. -Vol. 4. -№ 13. -P. 193-206.

6. Snider, G. From Synapses to Circuitry: Using Memristive Memory to Explore the Electronic Brain [Text] / G. Snider [et al.] // IEEE Computer. -Vol. 44. -Iss. 2. -P. 21-28.

7. Choudhary, S. Silicon Neurons that Compute [Text] / S. Choudhary, S. Sloan, K. Boahen [et al.] // International Conf. on Artificial Neural Networks, LNCS. -Springer, Heidelberg, 2012. -Vol. 7552. -P. 121-128.

8. Izhikevich, E.M. Hybrid Spiking Models

[Text] / E.M. Izhikevich // Phil. Trans. R. Soc. A. -2010. -Vol. 368. -№ 1930. -P. 5061-5070.

9. FACETS Summary Flyer [Электронный ресурс] / Fast Analog Computing with Emergent Transient States web site // Режим доступа: http:// facets.kip.uni-heidelberg.de/images/4/48/Public--FACETS_15879_Summary-flyer.pdf

10. Kim, K.W. A Functional Hybrid Memristor Crossbar-Array/CMOS System for Data Storage and Neuromorphic Applications [Text] / K.W. Kim, S. Gaba, W. Lu [et al.] // Nano Letters. -2012. -Vol. 12. -P. 389-395.

11. Imam, N. Implementation of olfactory bulb glomerular-layer computations in a digital neurosynaptic core [Text] / N. Imam, T.A. Clenald, D. Modha [et al.] // Frontiers in Neuroscience. -2012. -Vol. 6. -Article 83. -13 p.

12. Мемристор - шаг к искусственному интеллекту. Новые разработки ученых ТюмГУ [Электронный ресурс] / Веб-сайт Тюменского государственного университета // Режим доступа: http://utmn.ru/news/6468

13. Анохин, К.В. Современные подходы к моделированию активности культур нейронов in vitro [Текст] / К.В. Анохин, М.С. Бурцев, В.А. Ильин [и др.] // Математическая биология и биоинформатика. -2012. -Т. 7. -№ 2. -С. 372-397.

14. Benderskaya, E.N. Multidisciplinary Trends in Modern Artificial Intelligence: Turing's Way [Text] / E.N. Benderskaya, S.V. Zhukova // AIECM -Turing 2013, Book Chapters: Artificial Intelligence, Evolutionary Computation and Metaheuristics. - Springer, 2013. -P. 320-343.

REFERENCES

1. Boahen K. Neuromorphic Microchips / Scientific American. - 2005. - Vol. 292. - № 5.

- P. 56-63.

2. Stankevich L.A., Kapralov V.G., Klochkov I.V. Neiromorfnye sredstva dlia upravleniia robotami / Sb. nauch. trudov XIII Vseros. nauch.-tekhn. konf. Neiroinformatika 2011. - Moscow, 2011. - Ch. 3.

- S. 125-132.

3. Benderskaya E.N. Nonlinear Trends in Modern Artificial Intelligence: A New Perspective / Beyond AI: Interdisciplinary Aspects of Artificial Intelligence. Topics in Intelligent Engineering and Informatics. - Springer, 2013. - Vol. 4.

- P. 113-124.

4. Hunkins J. Neuroscience Expert Dr. Henry Markram on the IBM «Cat Brain» Simulation: IBM's claim is a HOAX. Availiable http://technology-

report.com/2009/11/neuroscience-expert-dr-henry-markram-on-the-ibm-cat-brain-simulation-ibms-claim-is-a-hoax/

5. Furber S., Temple S. Neural systems engineering. Review / J. of the Royal Society Interface. - 2007. -Vol. 4. -№ 13 - P. 193-206.

6. Snider G. et al. From Synapses to Circuitry: Using Memristive Memory to Explore the Electronic Brain / IEEE Computer. -Vol. 44. -Iss. 2. -P. 21-28.

7. Choudhary S., Sloan S, Boahen K. et al.

Silicon Neurons that Compute / International Conf. on Artificial Neural Networks, LNCS. - Springer, Heidelberg, 2012. - Vol. 7552. - P. 121-128.

8. Izhikevich E.M. Hybrid Spiking Models / Phil. Trans. R. Soc. A. - 2010 - Vol. 368. - № 1930. -P. 5061-5070.

9. FACETS Summary Flyer; Fast Analog Computing with Emergent Transient States web site. Availiable http://facets.kip.uni-heidelberg.de/ images/4/48/Public--FACETS_15879_Summary-flyer.pdf

10. Kim K.W., Gaba S., Lu W. et al. A Functional Hybrid Memristor Crossbar-Array/CMOS System for Data Storage and Neuromorphic Applications; Nano Letters. - 2012. - Vol. 12. - P. 389-395.

11. Imam N., Clenald T.A., Modha D. et al. Implementation of olfactory bulb glomerular-layer computations in a digital neurosynaptic core / Frontiers in Neuroscience. - 2012. - Vol. 6. - Article 83. - 13 p.

12. Memristor - shag k iskusstvennomu

intellektu. Novye razrabotki uchenykh TiumGU; Veb-sait Tiumenskogo gosudarstvennogo universiteta. Availiable http://utmn.ru/news/6468

13. Anokhin K.V., Burtsev M.S., Il'in V.A. i dr. Sovremennye podkhody k modelirovaniiu aktivnosti kul'tur neironov in vitro / Matematicheskaia biologiia i bioinformatika. - 2012. -T. 7. - № 2.

- S. 372-397.

14. Benderskaya E.N., Zhukova S.V. Multi-disciplinary Trends in Modern Artificial Intelligence: Turing's Way / AIECM - Turing 2013; Book Chapters: Artificial Intelligence, Evolutionary Computation and Metaheuristics. - Springer, 2013.

- P. 320-343.

БЕНДЕРСКАЯ Елена Николаевна - доцент кафедры компьютерных систем и программных технологий Санкт-Петербургского государственного политехнического университета, кандидат технических наук.

195251, Россия, Санкт-Петербург, ул. Политехническая, д. 21.

Тел. (812) 297-42-18, e-mail: Helen.bend@gmail.com

BENDERSKAYA, Elena N. St. Petersburg State Polytechnical University.

195251, Politekhnicheskaya Str. 21, St. Petersburg, Russia.

E-mail: Helen.bend@gmail.com

ТОЛСТОВ Александр Александрович - аспирант кафедры компьютерных систем и программных технологий Санкт-Петербургского государственного политехнического университета.

195251, Россия, Санкт-Петербург, ул. Политехническая, д. 21.

Тел. (812) 297-42-18, e-mail: gm.alext@gmail.com

TOLSTOV, Aleksandr A. St. Petersburg State Polytechnical University.

195251, Politekhnicheskaya Str. 21, St. Petersburg, Russia.

E-mail: gm.alext@gmail.com

© Санкт-Петербургский государственный политехнический университет, 2013