İnsansız hava araçlarında kolektif zeka uygulaması
Collective intelligence application in unmanned air vehicles
Yazar: FATİH AYDEMİR
Danışman: PROF. DR. AYDIN ÇETİN
Gazi Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Doktora, 2023
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control ; Bilim ve Teknoloji = Science and Technology ; Mühendislik Bilimleri = Engineering Sciences

Özet:
Sınırlı donanım kabiliyetleri ve merkezi olmayan karar verme sürecinin zorluğu nedeniyle, insansız hava aracı (İHA) sistemleri kullanılarak dinamik kapsama önemli araştırma konularından birisidir. Bilinmeyen bir ortamda bir grup İHA'nın işbirlikçi davranışı, çözülmesi gereken bir başka sorundur. Bu tez çalışmasında, iki farklı dinamik kapsama probleminin çözümüne yönelik merkezi olmayan yürütme şemasına sahip bir grup İHA'nın kullanıldığı iki farklı yöntem önerilmiştir. Önerilen yöntemlerde her bir İHA pekiştirmeli öğrenme ajanı olarak modellenmiş ve kısmi gözlemlenebilir dinamik ortamda işbirlikçi davranışlar üretmesi amaçlanmıştır. Ajanlar, kendi gözlemlerini ve iletişim kurabildiği ajanların gözlemlerini kullanarak ortam hakkında bilgi sahibi olmaya çalışırlar. Deneme/yanılma yaklaşımı temel alınarak geliştirilen bu yöntemde ajanlar, grup başarısını artırdıkları oranda olumlu ödül; başarıyı düşürdükleri oranda ise olumsuz ödül puanı alırlar. Belirli bir iletişim mesafesine sahip olan ajanlar, doğrudan veya dolaylı olarak birbirleri ile etkileşimde olabilirler. Bağlı ajanlar olarak adlandırılan bu yaklaşım, grup başarısını artırmaya yönelik politikalar üretmeyi kolaylaştırarak kapsam kalitesini artırmaya yardımcı olur. Birinci yöntem, hedef alanın düşük enerji tüketimi ile en yüksek seviyede kapsama yapılmasına yöneliktir. İkinci yöntem ise yüksek adillik indisi gözetilerek hedef alan üzerinde bulunan nesnelerin düşük enerji tüketimi ile en yüksek seviyede kapsanmasına yöneliktir. Önerilen yöntemlerin etkinliği ve verimliliği çok ajanlı aktör-eleştirmen bağlamında çalışan bir benzetim ortamında test edilmiştir. Elde edilen sonuçlar bu tez çalışması kapsamında detaylı olarak incelenerek sonuçları sunulmuştur. Sonuçlar, sınırlı iletişim mesafesine sahip İHA'ların hedef bölgede grup başarısı için hareket edebildiğini ve merkezi yönlendirmeye ihtiyaç duymadan hedefleri başarılı bir şekilde kapsayabildiğini göstermektedir

Abstract:
Dynamic coverage using unmanned aerial vehicle (UAV) systems is one of the important research topics due to the limited hardware capabilities and the difficulty of decentralized decision making. The cooperative behavior of a group of UAVs in an unknown environment is another problem that needs to be resolved. In this thesis, two different methods using a group of UAVs with a decentralized execution scheme are proposed for solving two different dynamic coverage problems. In the proposed methods, each UAV is modeled as a reinforcement learning agent, and it is aimed to produce collaborative
behaviors in a partially observable dynamic environment. Agents try to have information about the environment by using their own observations and the observations of the agents with whom they can communicate. In this method, which was developed based on the trial-and-error approach, agents receive positive rewards as much as they increase group success, but if they reduce success, they get negative reward points. Agents with a certain communication distance can interact with each other directly or indirectly. This approach, called connected agents, helps improve the quality of coverage by facilitating the creation of policies to increase group success. The first method is for maximum coverage of the target area with low energy consumption. The second method, on the other hand, is for the objects located on the target area to be covered at the highest level with low energy consumption, taking into account the high fairness index. The effectiveness and efficiency of the proposed methods are tested in a simulation environment operating in a multi-agent
actor-critic context. The results obtained were examined in detail within the scope of this thesis and the results were presented. The results show that UAVs with limited communication distance can act for group success in the target area and successfully cover targets without the need for central guidance.