Исследование влияния электрической активности нейронов на топологические особенности растущих нейронных сетей

УДК 004.032.26

Ф. М. Гафаров, З. Т.Галимханова, Ф. А. Галимянов

ИССЛЕДОВАНИЕ ВЛИЯНИЯ ЭЛЕКТРИЧЕСКОЙ АКТИВНОСТИ НЕЙРОНОВ

НА ТОПОЛОГИЧЕСКИЕ ОСОБЕННОСТИ РАСТУЩИХ НЕЙРОННЫХ СЕТЕЙ

Ключевые слова: сети мозга, сеть тесного мира, рост нейронных сетей, средняя длина кратчайшего пути, коэффициент

кластеризации.

В данной работе проведено теоретическое исследование влияния электрической активности нейронов на процессы роста и развития в биологических нейронных сетях. Рост нейронной сети описывается с помощью математической модель основанной на двух эволюционных уравнениях: уравнение описывающие динамику состояния нейронов и уравнение описывающие рост аксональных отростков. Анализ топологической структуры межнейронных связей основан на использовании методов теории случайных графов. С помощью модели показан процесс образования сложнойнейронной сети из изначально несвязанных нейронов в трехмерном пространстве и показано влияние активности нейронов на топологические особенности сети.

Keywords:brain networks, small-world networks, neural network growth, shortest path length, clustering coefficient.

In this paper is performed a theoretical study of neuron's electrical activity influence on the growth and development processes in the biological neural networks. A mathematical model based on two evolution equations describes the growth of the neural network: the equation describing the dynamics of the state of neurons and the equation describing the growth of axonal branches. An analysis of the topological structure of neuronal connections based on the use of methods of random graph theory. The model shows the formation of a complex neural network from initially unconnected neurons in three-dimensional space, and the influence of neuronal activity on the topological features of the network studied.

Введение

Связив нейронных сетях мозга являются динамическими, особенно во время развития мозга, когда появляются новые нейроны и связи между ними. Этот процесс также непрерывен и в процессе жизнедеятельности организма. Обнаружено, что растущие нейронные сети самоорганизуются в функциональном сети начинают генерировать спонтанные колебания электрической активности даже при отсутствии внешних электрических сигналов [1]. Как нейронная активность влияет на развитие нейронных сетей - это один из самых важных вопросов в теории нейронных сетей. Хорошо известно, что электрическая активность в нейронных сетях влияет на структуру межнейронных соединений через различные механизмы активностно-зависимой пластичности. Наиболее изученным типом пластичности на данный момент является синаптическая пластичность, т.е. изменение синаптических весов. Однако пластичность в нейронных сетей предполагает больше, чем простое изменение веса синаптической связи. Недавние исследования показали, что в растущем и взрослом мозге постоянно идут процессы структурной пластичности, т.е. разрушения и формирования новых синаптических связей [2].

Современные достижения в изучении сложных сетей связанные обнаружением «сетей тесного мира (smaПwordnetworks)» [3] дают нам новые концепции и аналитические инструменты. Сети тесного мира находятся между случайными сетями (маленькая средняя длина кратчайшего пути, низкий коэффициент кластеризации) и регулярными сетями (большая средняя длина кратчайшего пути, высокий коэффициент кластеризации). Для сетей тесного мира средняя величина кратчайшего пути между любыми двумя узлами должна быть приблизительно равна средней величины кратчайшей пути случайного

графа одинакового размера и плотности соединения. Эти инструменты позволяют численно охарактеризовать и проанализировать сложные структуры сетей мозга, что позволяет нам исследовать взаимосвязь топологической организации и функционирования [4,5].

Исследования нейронных сетей с использованием методов теории графов показали, что «сети тесного мира» образуются в биологических нейронных сетях в процессе их роста и развития [6]. Однако на данный момент процессы, лежащие в основе появления "сетей тесного мира" в растущих и развивающихся нейронных сетях остаются недостаточно исследованными.

В данной работе, на основе изучения нейронных сетей в культуре нейронов, мы предлагаем модель растущей нейронных сетей и приводим результаты исследование статистических свойств получаемых нейронных сетей с точки зрения теории случайных графов. На основе наших предыдущих исследований [7,8,9,13,14], нами разработана модель роста нейронной сети, основанная на двух эволюционных уравнениях, которые моделируют рост и развитие биологических нейронных сетей. С помощью модели мы показали образование сетей с топологией «сетей тесного мира» в процессе роста нейронной сети. Для того чтобы количественно оценить влияние нейрональной активности на процессы роста мы использовали вторую (упрощенную) модель, в которой рост отростков не зависит от активности. Сравнивая количественны характеристики двух типов сетей (с зависящим от активности и независящим от активности ростом) мы обнаружили, что нейрональ-ная активность приводит к образованию нейронных сетей с более высоким значением коэффициента «тесности мира», что согласуется с современными экспериментальными наблюдениями [5].

Математическая модель роста нейронной сети

Математическая модель, описывающая процессы роста в нейронных сетях основана на современных экспериментальных нейробиологических данных. Основной целью данной работы является исследование топологической структуры связей между нейронами, а для этого мы должны моделировать сети с большим числом нейронов. Поэтому, для ускорения численных расчетов мы использовали наиболее простую модель для описания электрической активности нейронной сети. С помощью более сложных и точных моделей усложняется и замедляется вычислительный процесс, но это не дает нам значительные преимущества.

В модели нейроны размещены на двумерной пространственной решетке и им присвоены целочисленные индексы i. Количество нейронов обозначим через N. Расстояние между двумя узлами сети равно D + где с, есть случайная величина (^ 6 [-0.2D, 0.2D]). Структура связей в сети описывается матрицей смежности Wi,j, которая представляет собой квадратную матрицу размером равным числу узлов N. Если значение элемента Wjj равно 1, это означает присутствие соединения между узлами] и1 иначе же Wjj=0 означает отсутствие связи. Матрица смежности определяет свойства сети, которые в дальнейшем могут быть количественно оценены с использованием методов теории графов.

Состояние каждого нейрона обозначается дискретной переменной Sj(t), которая может принимать два значения (0 и 1), представляющие собой либо активное или неактивное состояние нейрона. В каждый момент времени tn состояние каждого на Si(tn) зависит от состояния других клеток в предыдущий момент времени Sj(tn-1), отвесов синапти-ческих соединений Wj, ^и внешнего сигнала в преды-

о ext

дущий момент времени Sj и определяется по следующему правилу: если s > 0, то Sj(tn) = 1, В противном случае Sj(tn) = 0, где s-сумма N

s= £ WjjSj(tn_i)+Sfxt (tn-i).

j=1 ext

Внешний сигнал Sj является случайной дискретной переменной, которая принимает дискретные значения 0 и 1на каждом шаге.

Каждый нейрон имеет n-1 аксональных отростков, который изначально помещены в позиции соответствующего (своего) нейрона. Для описания процесса роста отростков мы используем расстояние djj от i-ro нейрона до]-го нейрона. Изначально нейроны не связаны, поэтому все значения dj,j равны расстоянию между i-м и j-м нейроном и все \Л/и= 0. В биологических нейронных сетях отростки аксонов могут двигаться вдоль градиента концентрации сигнальных веществ и некоторые из них выпускают целевым нейроном в зависимости от его активности [7,8]. Кроме того, электрическая активность нейрона влияет на скорость роста его аксональных отростков [8, 11]. Поэтому в модели каждый аксональный от-

росток растет в сторону активных нейронов согласно уравнению:

du0+i)=du0)-rSj(i-Si),

где r - скорость роста аксона. Здесь (1-Si) показывает, что рост отростка приостанавливается, если нейрон активен. Когда расстояние от отросткадо какого-либо нейрона становится равно нулю, то между этими нейронами образуется синаптическая связь. Тип синаптическрй связи может быть возбуждающим или тормозным. Для описания типа образовавшейся связи мы использовали следующее правило, если нейроны проявляют одинаковую активность в момент формирования синапса, вес связи устанавливаем равной 1, иначе устанавливаем -1, т. е.

_ С+1 ,еслиSi=Sj;

Wij= ( -1,если^*^;

Для сравнения влияния активности нейронов процессы роста мы используем вторую модель со случайным ростом аксональных отростков. В этой модели рост не зависит от активности нейронов, т.е. эта модель не содержит направленного роста аксо-нальных отростков в направлении активных нейронов:

diJ(t+1)=diJ(t)-r-l1, где Г] - это случайная величина, принимающая значения 0 или 1. Значения Г) подбираются в соответствии со следующим условием: средняя связность <k> нейронной сети, рост которой не зависит от активности, должна быть равна средней связности <k> нейронной сети, рост которой зависит от активности. Это условие необходимо соблюдать для правильного сравнения числовых характеристик, описывающих их топологические свойства.

Методы теории случайных графов

Методы теории графов доказали свою эффективность в понимании глобальных свойств множества сложных систем в самых различных областях. Одной из самых популярных концепций в теории графов является понятие сетей "тесного мира", которые сочетают в себе дальние связи и сильную кластеризацию. С функциональной точки зрения сети тесного мира можно охарактеризовать двумя особенностями: интеграция, который позволяет объединить информацию, обрабатываемую в распределенных узлах и сегрегация, которая позволяет проводить специализированную обработку информации в плотно взаимосвязанных узлах [3]. Благодаря высокому значению связанностей и малой средней длине кратчайшего пути, активность в сетях тесного мира распространяется очень быстро.

Нейронную сеть можно рассматривать как направленный граф, в котором узлами являются нейроны, а синаптические соединения являются рёбрами между ними. Графы можно охарактеризовать коэффициентом средней связности <k>, средней кратчайшей длиной между узлами L и средним коэффициентом кластеризации C. Средняя связность <k> - среднее значение количества ребер для каждого узла. Длина пути - это количество узлов, через которые необходимо пройти, чтобы добраться от одного узла до любого другого узла. Кратчайшая

длина пути 1(1,]) - это кратчайший путь от ¡-го узла до |-го узла в сети. Средняя длина кратчайшего пути определится по формуле:

И

N(N-1),

Коэффициент кластеризации узла - есть вероятность того, что два ближайших соседа этого узла сами есть ближайшие соседи. Он характеризует, насколько сильно узлы сети связаны между собой и определяется по формуле:

С;=:

где Е| - есть суммарное число треугольников - цик-

3 _ „„„........... „......_ | к;

ЛОВ длины

прикрепленных к узлу

мак-

симально возможное число треугольников. Если все ближайшие соседи узла \ взаимосвязаны, то = 1. Когда между ними нет связей (как у деревьев), то с: = 0. Средний коэффициент кластеризации С - это среднее значение с: по всем узлам графа:

С— ^ с:

:=1

Сеть считается сетью тесного мира, если ->-га^ и С»Сга^  Где -rand и Сга^ средние длины кратчайшего пути, и средний коэффициент кластеризации случайного графа с тем же значением средней связности <к> как и моделируемой сети. Для количественной оценки того насколько генерируемы нами сети близки к сетям «тесного мира» мы использовали количественный показатель ст [12]:

С

[ Л=;

-

где у="С ,

Сети тесного мира можно рассматривать как суперпозицию регулярных сетей и случайных сетей, поскольку они обладают высокой кластеризацией и низким значением средней длины пути.

Результаты

Для анализа топологической структуры генерируемых нейронных сетей в терминах сетей тесного мира мы использовали количественные показатели (Л, у, о). Во всех экспериментах мы моделировали рост нейронной сети с пространственным расстоянием между двух точек решетки D = 150 цш и скоростью роста г=10 мкм за один шаг времени. Для изучение временной динамики топологических характеристик в процессе роста нейронной сети, мы рассчитали средний коэффициент кластеризации С и среднюю длину кратчайшего пути L через каждые 100 шагов по времени и сравнили их с аналогичными параметрами для случайной сети (с одинаковыми значениями N и <к>). В процессе роста сети происходит увеличение количества синаптических связей, что приводит довольно быстрому уменьшению средней длины кратчайшего пути L (рис. 1). Значение L в ходе численного эксперимента достигает величин, сопоставимых с его значением для случайной сети.

Рис. 1 - Динамика средняя величина кратчайшего пути L

На рисунке 2 представлена динамика коэффициента Л©, который показывает отношение значении L для растущей нейронной сети и соответствующего ему случайного (рис. 2). Из этого рисунка видно, что значения X для сети с зависящим от актвности ростом намного ниже чем для сети, рост которой не

зависит от активности.

Рис. 2 - Динамика коэффициента Хф для растущих нейронных сетей

Значения коэффициентов для обоих типов сетей намного принимают почти одинаковые значения

(рис. 3).

Для точной количественной оценки того насколько топологические характеристики растущих нейронных сетей близки к характеристикам сетей «тесного мира» мы использовали параметр ст(^) (рис. 4). Из рисунка отчетливо видно, что при росте сети его значение постепенно становится близко к значениям ст«2 для обоих типов растущих сетей. Это указывает, что эти сети относятся к типу сетей тесного мира. Однако для сети, в которой рост зависит от активности значение этого параметра намного выше, что указывает на то, что нейронная активность приводит к образованию сетей, которые ближе к сетям тесного мира чем сети, рост которых не зависит от активности.

2

Рис. 3 - Динамика коэффициента у - рост сети зависит от активности, пунктирная линия- рост сети не зависит от активности)

Рис. 4 - Динамика коэффициента «тесности мира» а

Обсуждение и заключение

Процессы роста в нейронных сетях зависят от электрической активности нейронов. Различная динамика этой активности может проводить к появлению различных топологических структур межнейронных связей. В нейронных сетях с топологией сетей тесного мира, которые характеризуется высоким коэффициентом кластеризации и короткой длиной пути информация может передаваться эффективно при сравнительно низких затратах.

В этой работе с использованием математической модели, основанной на экспериментальных данных, мы показали процесс возникновения нейронной сети из изначально несвязанных между собой нейронных клеток. Также мы показали, как электрическая активность регулирует рост нейронных сетей и как зависит формирование синаптических связей от активности нейронов. Обнаружено что предложенная нами модель роста сети проводит к образованию сетей тесного мира и нейрональная активность приводит к увеличению коэффициента «тесности мира» ст(^).

Данное исследование показывает важную роль внешней электрической стимуляции, и внутренней динамики активности нейронов в возникновении сложной структуры связей мозга. Мы считаем, что наша модель может служить полезным инструментом для изучения роста и развития нейронных сетей. Результаты нашей работы могут также привести к новым методам для изучения процессов самоорганизации больших нейронных сетей, а также может быть использовано для изучения роли спонтанной активности в развитии связей между нейронами.

Литература

1. L.A.Kirkby, G.S.Sack, A.Firl, M.B.Feller, (2005) A role for correlated spontaneous activity in the assembly of neural circuits, Neuron 80(5), 1129-1144.

2. M.Butz, F.Worgotter, van A.Ooyen, (2009) Activity-dependent structural plasticity, Brain Research Reviews 60(2), 287 - 305.

3. D.J.Watts, S.H.Strogatz, (1998) Collective dynamics of 'small-world' networks, Nature 393(4 June 1998), 440-442.

4. M.Rubinov, O.F.Sporns, (2010) Complex network measures of brain connectivity: Uses and interpretations, Neu-rolmage 52(3), 1059 - 1069, computational Models of the Brain.

5. J.H.Downes, M.W.Hammond, D.Xydas, M.C.Spencer, V.M.Becerra, K.Warwick, B.J.Whalley, S.J.Nasuto, (2012) Emergence of a small-world functional network in cultured neurons, PLOS Comput Biol 8(5), e1002522.

6. M.W.Cho, M.Y.Choi, (2011) Emergent topologies in activity-dependent self-organizing networks, EPL (Europhysics Letters) 95(5), 58005.

7. F.M.Gafarov,N.R.Khusnutdinov, A.F.Galimyanov, (2009) Morpholess neurons compromise the development of cortical connectivity, Journal of Integrative Neuroscience 08(01), 35-48.

8. F.M.Gafarov, (2006) Self-wiring in neural nets of point-like cortical neurons fails to reproduce cytoarchitectural differences, Journal of Integrative Neuroscience 05(02), 159-169

9. Ф. А. Галимянов, Ф. М. Гафаров, Н. Р. Хуснутдинов, "Модель роста нейронной сети", Матем. моделирование, 23:3 (2011), 101-108

10. J.K.Chilton, (2006) Molecular mechanisms of axon guidance, Developmental Biology 292(1 ), 13 - 24.

11. N.Yamamoto, G.Lpez-Bendito, (2012) Shaping brain connections through spontaneous neural activity, European Journal of Neuroscience 35(10), 1595-1604.

12. M.D.Humphries,K.Gurney, (2008) Network small-world-ness: A quantitative method for determining canonical network equivalence, PLOS ONE 3(4), e0002051.

13. Ф. А. Галимянов, Ф. М. Гафаров, Н. А. Емельянова, Численная реализация уравнения движения, кончикаро-ста аксона нейрона, и выражения для нахождениярас-пределения концентрации вещества, вмежнейронном пространстве. Вестник Казанского технологического университета, 17, 23, 397-399

14. Ф. А. Галимянов, Ф. М. Гафаров, Н. А. Емельянова, Использование среды Microsoftvisualstudio и языка программирования C++ для моделирования динамики образования нейронной сети Вестник технологического университета, 18, 17, 197-202

© Ф. М. Гафаров - доц. каф. информационных систем КФУ, fgafarov@yandex.ru; З. Т. Галимханова - студ., лаб. той же кафедры, zuhra-1996@mail.ru; Ф. А. Галимянов - асс. каф. информатики и прикладной математики, КНИТУ, fanisgalimyanov@gmail.com.

© F. M. Gafarov - associate professor, Department of Information Systems, KFU, fgafarov@yandex.ru; Z. T. Galimhanova - assistant, student of the same Department; F. A. Galimyanov - assistant, Department of Computer Science and Applied Mathematics, KNRTU, fanisgalimyanov@gmail.com.