Farklı bağlantı modelleri için halka bağlı sinir ağlarının sayısal incelenmesi
Numerical analysis of ring model neural networks with different connection models
Yazar: HURİYE NUR DEĞİRMENCİOĞLU
Danışman: PROF. DR. İ. SERDAR ÖZOĞUZ
İstanbul Teknik Üniversitesi / Fen Bilimleri Enstitüsü / Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı / Elektronik Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2012
Konu: Elektrik ve Elektronik Mühendisliği = Electrical and Electronics Engineering
Dizin: Doğrusal olmayan diferensiyel denklemler = Nonlinear differential equations ; Nöronlar = Neurons ; Osilatörler = Oscillators ; Sayısal analiz = Numerical analysis ; Senkron = Synchronous ; Sinir ağları = Nerve net

Özet:
Hayvanların avcılarından kaçabilmeleri, eş bulabilmeleri, yiyecek bulabilmeleri kısaca yaşamlarını sürdürebilmeleri için hareket edebilmeleri gerekmektedir. Bu nedenle hayvanların morfolojik özellikleri ve merkezi sinir sistemi özellikleri hareket etmelerini sağlayacak biçimde şekil almıştır. Aynı şekilde robot tasarımcıları için de robotların çeşitli ortamlarda hareket edebilmesi oldukça önemlidir. Bu nedenle robot tasarımlarında, hayvanların morfolojisinden, hareket stillerinden ve kontrol mekanizmalarından esinlenilmiştir. Örneğin yılan robotlar, dört ayaklı robotlar hayvanların biyolojik özelliklerinin incelenmesi sonucu tasarlanan robotlardır.İnsanlar da dahil, memeli hayvanların hareketleri omuriliklerindeki sinir hücrelerinin aktivitesinden kaynaklanmaktadır. Bu sinir hücrelerine merkezi örüntü üreteçleri ya da kısaca CPG denilmektedir. CPG'ler, çeşitli kaynaklardan aldıkları çevre koşullarına dikkat ederek, basit hareket ritimleri üretirler.CPG çalışmalarının çoğunda dalga propagasyonu, gezici dalga ya da n-faz senkronizasyonu olarak adlandırılan desenler bulunmaya çalışılmıştır. N-faz senkronizasyonunun elde edilmesi için kullanılan temel bağlantı şekli ise halka bağlantı şeklidir. Halka bağlantı, bir kuplaj kaynağıyla ard arda bağlanan sinir hücrelerinin birincisi ile sonuncusunun birbirlerine bağlanması ile elde edilen bağlantı şeklidir.Aynı frekansta ya da birbirine çok yakın frekanslarda salınım yapan iki osilatörün aynı anda veya sabit bir faz farkıyla birlikte hareket etme durumuna senkronizasyon denir. Faz farkının olmadığı durum eş-faz, faz farkının osilasyon periyodunun yarısı kadar olduğu durum zıt-faz, n tane osilatör için-faz farkının 2pi/n olduğu duruma da n-faz senkronizasyonu denmektedir. Tez çalışmasında incelenen bağlantı şekli halka bağlantı, elde edilmek istenen senkronizasyon n-faz senkronizasyonudur. Bu senkronizasyonlar ile canlıların hareket etme özellikleri modellenmektedir.Çalışmaya ilk olarak Van der Pol osilatörleri ile başlanmıştır. Tek sayıda ve çift sayıda Van der Pol osilatöründen oluşan halka bağlı yapıda önce kuplaj kaynağı olarak zamanla değişen direnç yani kare dalga kullanılmıştır. Bağlantı yapısı ise bir hücreyi kendisinden önceki ve kendisinden sonraki hücre etkileyecek şekilde çift yönlü halka şeklindedir. Bu bağlantı şeklinde denklemlerin başlangıç koşullarının değiştirilmesi ve uygun parametrelerin kullanılması ile eş-faz, zıt-faz ve n-faz senkronizasyonları elde edilmiştir.İkinci olarak, kuplaj kaynağı olarak harici kare dalga yerine sinir ağının kendi doğrusal olmayan özellikleri ile elde edilmiş kare dalga kullanılırsa senkronizasyonun nasıl değişeceği konusu ele alınmıştır. Kuplaj kaynağı dışında sistem aynı kalacak şekilde parametre taratılmasına devam edilmiştir. Hem tek sayıda hem de çift sayıda hücre için başlangıç koşullarının değiştirilmesi ve uygun parametrelerin kullanılmasıyla eş-faz, zıt-faz ve n-faz senkronizasyonları ile öbeklenme deseni ve sönümlenmiş dalga deseni elde edilmiştir.Üçüncü aşamada, kuplaj kaynağı sinir ağının kendi doğrusal olmayan özellikleriyle oluşturulan tanh olarak değiştirilmiştir. Kuplaj kaynağı dışında sistem aynı kalacak şekilde parametre taratılmasına devam edilmiştir. Hem tek sayıda hem de çift sayıda hücre için başlangıç koşullarının değiştirilmesi ve uygun parametrelerin kullanılmasıyla eş-faz, zıt-faz ve n-faz senkronizasyonları ile öbeklenme deseni elde edilmiştir.Dördüncü aşamada, Van der Pol osilatörü yerine Hindmarsh Rose sinir hücresi kullanılmıştır. Halka bağlantı tek yönlü yapılarak senkronizasyonlar elde edilmeye çalışılmıştır. Bu zıt-faz senkronizasyonu elde edilmiştir. Üç tane Hindmarsh-Rose hücresiyle kurulmuş ağda ise öbeklenme deseninin gözlendiği gösterilmektedir.Son aşamada çift yönlü halka bağlı AdEx sinir hücreleri birbirlerine kendi doğrusal olmayan özellikleriyle oluşturulmuş tanh ile bağlanmışlardır. Bu sinir ağında da başlangıç koşullarının değişiminden senkronizasyonlar çok fazla etkilenmemişlerdir. Parametre taratılmasıyla hem tek sayıda hem de çift sayıda hücre için eş-faz, zıt-faz ve n-faz senkronizasyonları elde edilmiştir.Böylece herhangi bir osilatör ya da sinir hücresi için, kuplaj kaynağı hücrenin kendi doğrusal olmayan özelliklerinden kaynaklı tanh kuplaj kaynağı ile oluşturulmuştur. Çift yönlü halka bağlı modelde parametre taratılması yöntemiyle CPG çalışmalarında kullanılabilecek eş-faz, zıt-faz ve n-faz senkronizasyonları elde edilmiştir. Tek yönlü halka bağlı modelde ise zıt-faz ve öbeklenme deseninin gözlendiği gösterilmiştir.Tez çalışmasının birinci bölümünde tez konusunun çıkış noktası ve bu çalışmanın neden yapıldığı anlatılmaya çalışılmış ve tez çalışmasında ortaya atılan hipotez verilmiştir. Çalışmanın ikinci bölümünde kısaca ve denklemsel olarak Van der Pol osilatörü ve başlıca sinir hücrelerinden bahsedilmiştir. Üçüncü bölümde CPG çalışmalarından ve halka bağlantının ne olduğundan, CPG çalışmalarıyla halka bağlantı arasındaki ilişkiden, senkronizasyon tanımından ve halka bağlantı ile elde edilmek istenen senkronizasyonlardan referanslar verilerek bahsedilmeye çalışılmıştır. Dördüncü bölümde ise yapılan çalışma detaylı olarak anlatılmaya çalışılmıştır. Son bölümde, çalışma kısaca değerlendirilmiş ve tez çalışması böylelikle sonlandırılmıştır.

Abstract:
The ability to move is such an important thing for animals to avoid predators, to look for food, and to find mates for reproduction. Because of these animals? morphologies and central nervous systems have been shaped by constraints related to locomotor skills. In the same way designing moving robots is a very important concept for robotics. The robotics is taking inspiration from biology in terms of morphologies, modes of locomotion, and/or control mechanisms. Many robot structures are directly inspired by animal morphologies such as snake robots and quadruped robots.Locomotion in mammals, including humans, is based on the activity of neuronal networks within the spinal cord. There is a neuronal network, in the spinal cord and it is called Central Pattern Generators (CPG). The spinal cord generates rythmic and sequential activations to the locomotion muscles. CPG selects appropriate afferent information according to the external requirement. The interesting point is CPG manages locomotion rhythms without orders of brain.N-phase synchronization patterns are most desired patterns in the CPG studies. The ring model is the fundamental connection model to get patterns such n-phase synchronization. In the ring model, neurons are connected to each others sequentially by a synaps connection. To complete the ring, the first neuron is connected to the last neuron by the same connection model.Synchronization is the process by which two or more neurons or oscillators tend to oscillate with a repeating sequence of relative phase angles in the same or almost same frequency. In this thesis in phase, anti phase and n phase synchronizations are target synchronizations. With these synchronizations animal?s locomotion is modelled in robotics studies.Connected oscillatory networks provide simple models for describing high-dimensional nonlinear phenomenas. Synchronization is one of the most important features that can be described and explored with the help of oscillators.First of all, Van der Pol oscillators are connected to each others with an external pulse wave connection model. The connection model is bidirectional ring model as mentioned before. Because of that one neuron is affected with it?s previous and after neighbour neurons. Without ruining this connection odd numbers of neurons and even numbers of neurons are used. By changing boundry conditions of differantial equations and finding appropriate parameter values by numerical analysisis, synchronization patterns such as in phase, anti phase and n phase have been found for both odd number and even number connections. The boundry conditions of this system is very sensitive. It changes it?s synchronization mainly due to it?s boundry condition.Secondly, the connection model is changed. A pulse wave, generated with Van der Pol oscillator?s own nonlinearity, is used. To further explain of this connection model, the pulse wave takes nonlinearity of Van der Pol oscillators and generates an internal pulse wave connection model. With using this new connection model and bidirectional ring model in-phase, anti-phase, n-phase synchronizations, clustering synchronization parameters are found for odd number and even number of neurons. As it can be referred, this connection model is also sensitive to the boundry conditions.Thirdly, instead of pulse wave, a tangent hyperbolic generated with Van der Pol oscillator?s own nonlinearity, is used. To further explain of this, tangent hyperbolic connection model takes nonlinearity of Van der Pol oscillators as parameters into the tangent hyperbolic function. With using this new connection model and bidirectional ring model in-phase, anti-phase, n-phase synchronizations, clustering synchronization parameters are found for odd number and even number of neurons. As it can be referred, this connection model is sensitive to the boundry conditions too just like first two models.Finally, Van der Pol oscillators are cut from the system and Hindmarsh-Rose neurons are applied instead of them. Hindmarsh-Rose neurons are affected by themself and by the next neighbour neuron. Connection model is nonlinear tangent hyperbolic wave as it was previous system. This model is not sensitive to boundary conditions of equations as much as the models with Van der Pol oscillators. The numerical analysis for odd numbers of neurons and even numbers of neurons is made. For even and odd numbers of neurons anti phase synchronization and clustering synchronization patterns are found. All these synchronizations are found by changing the amplitude of the connection model.In the last step, Adaptive Exponential Integrate and Fire neurons are applied. The connection type is bidirectional ring as it was in Van der Pol ring systems and the connection model is also nonlınear tangent hyperbolic wave. This model is not sensitive to boundary conditions of equations as much as the models with Van der Pol oscillators just like Hindmarsh-Rose model. The numerical analysis for odd numbers of neurons and even numbers of neurons is made. For both systems; odd numbers and even numbers of neurons; in phase, anti phase and n phase synchronization is found by changing the parameter of the neurons. But n-phase synchronization is not a stable synchronization for this network. It is a temporary situation after a time n-phase synchronization is disappeared.As a result, the in-phase, anti-phase, n-phase, clustering synchronizations and some more can be found in the ring of neurons or oscillators by numerical parameter analyzing, no matter which oscillation model or neuron model is used. These synchronization patterns can be used in modelling robot movements such as swimming, walking, and crawling. May be if experiments are made deeply, changing movements from one to another one for example (walking to cramling or walking to swimming) can be possible by using the appropriate parameters and boundary conditions for ring of neurons or oscillators.The organization of this paper is as follows; the first section explains the scope of this study and the requirements to the subject. Then gives the aim of the thesis and the hypothesis of the thesis. The aim of the thesis is to find appropriate parameters to gather various synchronization patterns by using different nonlinear couplings and different neurons in a nonlinearly coupled ring network. The desired synchonization patterns are in-phase, anti-phase, n-ohase and clustering synchronizations. The presented hypothesis of this thesis is by using appropriate parameters, it is possible to gather various synchronization patterns from different nonlinearly coupled networks that are using bidirectional different nonlinear couplings. And it is possible to get in-phase, anti-phase and n-phase synchronizations no matter the count of the neurons are even or odd.In the second section; after some brief introduction to the Neural-Networks, Van der Pol oscillator and some basic neuron models (Hodgkin-Huxley neuron model, Fitz-Hugh Naguma (Bonhoeffer Van der Pol) neuron model, Hindmarsh Rose neuron model, Morris-Lecar neuron model, integrate and fire neuron model and adaptive exponential integrate and fire neuron model) are represented with their differential equations. And some of these neuron models are used in the fourth section such as Van der Pol oscillator, Hindmarsh-Rose neuron model and Adaptive Exponantial Integrate and Fire neuron model.In the third section, the definition of central pattern generator is represented and the research areas of central pattern generator researchers are given. Also ring model is represented, bidirectional ring model is explained and the scope of application is represented by references. The term sycnhronization is defined. In-phase synchronization, anti-phase synchronization and n-phase synchronization is explained by the examples. The other synchronization patterns which can be seen by using ring model is represented by examples from references.The fourth section represents detailed explanation of the simulations and the progress steps of the thesis. This section divided into five sub groups. The titles of the sub groups are Van der Pol oscillator with an internal pulse wave connection, Van der Pol oscillator with internal pulse wave connection, Van der Pol oscillator with internal tangent hyperbollic wave connection, Hindmarsh Rose neuron with internal tangent hyperbollic wave connection and adaptive exponential integrate and fire neuron with internal tangent hyperbollic wave connection.The fifth section is the final section. In this section the thesis is reviewed shortly, the main points of the work are highlighted and the results are evaluated. To sum up these, Van der Pol Network is highly sensitive to boundary conditions of differential equations and in-phase, anti-phase, n-phase synchronizations are gathered by changing the boundary conditions. But clustering synchronization is gathered by changing parameters of differential equations while the boundary conditions of differential equations are random. In opposite to Van der Pol Network, Hindmarsh Rose Network and Adaptive Exponential Integrate and Fire Network are not sensitive to the boundary conditions of differential equations as much as Van Der Pol Network. And the other important thing is, it is possible to get in-phase, anti-phase and n-phase synchronizations no matter the count of the neurons are even or odd. For Hindmarsh-Rose one-directional coupled network only anti-phase and clustering synchronizations could be gathered. For Adaptive Exponential Integrate and Fire network in-phase, anti-phase and n-phase synchronizations are gathered. But n-phase synchronization is not a stable synchronization for this network. It is a temporary situation after a time n-phase synchronization is disappeared.