Dokunsal geri bildirimlerin sanal gerçeklik ortamlarında motor imgeleme eeg sinyallerine etkisinin incelenmesi
The effect of haptic feedback on motor imagery eeg signals in virtual reality environments
Yazar: HARUN YENİŞAN
Danışman: DR. ÖĞR. ÜYESİ ULVİ BAŞPINAR
Marmara Üniversitesi / Fen Bilimleri Enstitüsü / Elektronik ve Bilgisayar Eğitimi Ana Bilim Dalı / Elektronik-Haberleşme Eğitimi Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Elektrik ve Elektronik Mühendisliği = Electrical and Electronics Engineering

Özet:
İnsanlar mevcut fırsatları sürekli olarak iyileştirme çabasındadır ve yaşamın rahatsız edici veya rahatsız edici yönlerini bilmek isterler. Bu çabalar sonucunda yenilikler bulunmuştur. Son yıllarda teknolojinin hızla gelişmesine bağlı olarak hayatımızı kolaylaştıran yüzlerce değişiklik literatüre girmiştir. Fizik, Kimya ve Matematik gibi disiplinlerin yanı sıra bilişim teknolojileri ve elektronik gibi alt disiplinler günümüzdeki gelişmelere önemli katkılar sağlamışlardır. Günlük hayatta dokunan, kitlelerin kullanımındaki teknolojiler de yine bu alanlardaki çalışmalarla mümkün olmuştur. Dijital dünya şimdiye kadar ağırlıklı olarak görsel ve işitsel algıdan oluşurken, dokunma teknolojisi, diğer adıyla "haptik teknoloji" ile gelecek yıllarda dokunsal geri bildirim veren ürünlerin artması bekleniyor. Sanal gerçeklikte yapılan hareketlerin gerçek hayatta yapıldığı hissini veren dokunsal geri bildirimin, bireylerin teknolojik konfor alanlarına olumlu katkı sağlayacağı düşünülmektedir. Haptik teknoloji savunma sanayiinden tıbba, eğitimden günlük hayata pek çok alanda kullanılabilecek. Aslında günümüzde dokunsal geri bildirim teknolojisi belli ölçüde kullanılıyor. Cep telefonlarında sayılar veya harfler tuşlandığında hissedilen titreşim, dokunsal geri bildirim teknolojisinin bir örneğidir. Bazı oyun konsollarında oyun kolunun titremesi, yeni arabalarda şerit takip sisteminde şerit ihlalinde direksiyonun titremesi gibi bazı basit kullanım alanları vardır. İnme rehabilitasyonu, hastaların motor fonksiyonlarını yeniden kazanmaları ve günlük yaşam aktivitelerine bağımsız olarak dönebilmeleri için kritik öneme sahiptir. Bu bağlamda, sanal gerçeklik uygulamaları, özellikle eldeki titreşim tabanlı dokunsal algı eşiklerinin ve optimum algılanma noktalarının belirlenmesiyle, rehabilitasyon süreçlerini daha etkili ve verimli hale getirebilecek yenilikçi bir yaklaşımdır. Sanal gerçeklik de yapılan hareket sonucu vücudumuzda da aynı hareketi yaptığımızda hissettiğimiz gibi tepkisel sensörler yardımıyla hisleri verebilmelidir. Artık sanal dünyada birçok alanda, yer ve zamandan bağımsız yapılan eğitimlerde sanal gerçeklik (SG) ya da artırılmış gerçeklik (AR) kullanılmaya başlandı. Bu alanlarda geri beslemenin önemi ortaya çıkmıştır. Tüm bu gelişmelerin sonucunda dokunsal geri bildirimli robotik eldiven fikri ortaya çıktı. Eldivenin gelişmesiyle birlikte el ve parmak hareketleri gerekli bileşenler yardımıyla sanal ortama aktarılmış, sanal ortamda tutulan bir nesne ise uygun bileşenler yardımıyla hissedilmiştir. Çalışmanın yazılımı Unity'de C# programlama dili kullanılarak gerçekleştirilmiştir. Komponentlerden verilerin okunması ve komponentlere verilerin gönderilmesi süreçleri için Deneyap mikro denetleyici kartı kullanılmıştır. Bu işlemler seri haberleşme ile gerçekleştirilmiştir. Araştırmada 5 katılımcıdan 5 farklı senaryo ile EEG verileri alınmıştır. Elde edile EEG kayıtlarının Topoğrafik haritaları çıkarılmış ve ERD değerleri hesaplanarak çok modlu geri bildirim etkileri değerlendirilmeye çalışılmıştır.  
Çalışmamızda, çok modlu geri bildirimlerin beynin motor korteks bölgesinde enerji değişiklikleri üzerindeki etkileri incelenmiş ve hangi tür geri bildirimlerin daha etkili enerji artışı sağladığı araştırılmıştır. Ayrıca, rehabilitasyon amaçlı kullanılan harici el iskelet sistemlerinin motor kortekste istemli harekete benzer bir enerji değişimi oluşturup oluşturmadığı değerlendirilmiştir. EEG verileri 16 kanallı bir ölçüm sistemi kullanılarak 5 sağlıklı denek üzerinden alınmıştır. Çalışmada görsel ve dokunsal geri bildirim yöntemleri kullanılarak 5 farklı senaryo kurgulanmış ve bu senaryolar kapsamında deneklerin ERD (Event-Related Desynchronization) değerleri hesaplanarak analiz edilmiştir. Elde edilen sonuçlar, harici el iskelet sistemlerinin istemli el hareketine benzer bir etki oluşturabildiğini, görsel geri bildirimin ERD değerlerini pozitif olarak etkilediğini, ancak dokunsal geri bildirimin negatif bir etki yarattığını göstermiştir.
Sonuçlarımız, literatürde yer alan çalışmalarla büyük ölçüde paralellik göstermektedir. Ancak, dokunsal geri bildirim için kullanılan titreşim tabanlı sistemlerin doğal dokunuşa benzer bir geri bildirim sağlayamaması, bu yöntemin etkinliğini azaltmış olabilir. Bu nedenle, ileriki çalışmalarda daha gerçekçi dokunma hissine sahip sistemlerin geliştirilmesi ve kullanılması, beyin-bilgisayar arayüzü uygulamalarının performansını artırabilir. Çok modlu geri bildirimlerin sanal ortamlar dahil beyin bilgisayar ara yüz uygulamalarında sınıflandırıcı performanslarını artırıcı etkileri üzerine daha fazla çalışma yapılması gerekmektedir.

Abstract:
People are constantly striving to improve the opportunities available to them and they want to know the uncomfortable or disturbing aspects of life. As a result of these efforts, innovations have been found. In recent years, due to the rapid development of technology, hundreds of changes that make our lives easier have entered the literature. In addition to disciplines such as Physics, Chemistry and Mathematics, sub-disciplines such as information technologies and electronics have made significant contributions to today's developments. The technologies that touch daily life and are used by the masses have also been made possible by studies in these fields. While the digital world has so far consisted mainly of visual and auditory perception, haptic technology, also known as "haptic technology", is expected to increase the number of products that provide haptic feedback in the coming years. It is thought that haptic feedback, which gives the feeling that the movements made in virtual reality are made in real life, will contribute positively to the technological comfort areas of individuals. Haptic technology will be used in many areas from defense industry to medicine, from education to daily life. In fact, haptic feedback technology is already being used to a certain extent today. The vibration felt when numbers or letters are dialed on cell phones is an example of haptic feedback technology. There are some simple uses, such as the vibration of the joystick in some game consoles and the vibration of the steering wheel in lane violation in the lane tracking system in new cars. Stroke rehabilitation is critical for patients to regain motor function and return independently to activities of daily living. In this context, virtual reality applications are an innovative approach that can make rehabilitation processes more effective and efficient, especially by determining vibration-based tactile perception thresholds and optimum perception points in the hand. Virtual reality should be able to provide sensations with the help of reactive sensors as we feel when we make the same movement in our body as a result of the movement. Now, virtual reality (VR) or augmented reality (AR) has started to be used in many areas in the virtual world, in trainings that are independent of space and time. In these areas, the importance of feedback has emerged. As a result of all these developments, the idea of a robotic glove with haptic feedback emerged. With the development of the glove, hand and finger movements were transferred to the virtual environment with the help of the necessary components, and an object held in the virtual environment was felt with the help of appropriate components. The software of the study was implemented in Unity using C# programming language. Deneyap microcontroller card was used for reading data from components and sending data to components. These processes were carried out with serial communication. In the study, EEG data were obtained from 5 participants with 5 different scenarios. Topographical maps of the EEG recordings were made and ERD values were calculated to evaluate the effects of multimodal feedback.
In our study, we examined the effects of multimodal feedback on energy changes in the motor cortex region of the brain and investigated which type of feedback provides more effective energy increase. In addition, it was evaluated whether external hand skeletal systems used for rehabilitation purposes produce an energy change in the motor cortex similar to voluntary movement. EEG data were collected from 5 healthy subjects using a 16-channel measurement system. In the study, 5 different scenarios were constructed using visual and haptic feedback methods and the Event-Related Desynchronization (ERD) values of the subjects were calculated and analyzed within the scope of these scenarios. The results showed that external hand skeletal systems can produce an effect similar to voluntary hand movement, visual feedback positively affected ERD values, but haptic feedback had a negative effect.
Our results are largely in line with the studies in the literature. However, the inability of vibration-based systems used for haptic feedback to provide feedback similar to natural touch may have reduced the effectiveness of this method. Therefore, the development and use of systems with more realistic tactile sensations in future studies may improve the performance of brain-computer interface applications. Further studies on the effects of multimodal feedback on classifier performance in brain-computer interface applications, including virtual environments, are warranted.