Otonom uçan robot için nesne sınıflandırma yaklaşımıyla bilinmeyen kapalı alan içinde gerçek zamanlı ortam haritalandırması ve yol planlaması
Real-time mapping and path planning in an unknown indoor environment by object classification approach for autonomous flying robots
Yazar: ÖNDER ALPARSLAN
Danışman: DR. ÖĞR. ÜYESİ ÖMER ÇETİN
Milli Savunma Üniversitesi / Atatürk Stratejik Araştırmalar ve Lisansüstü Eğitim Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Doktora, 2023
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Görüntü işleme = Image processing ; Kurutma = Drying ; Nesne tanıma = Object recognition ; Sensörler = Sensors ; Yol planlama = Path planning

Özet:
Günümüzün popüler çalışma alanlarından olan mobil robotlar, teknolojik gelişmelerin getirdiği avantajlarla eğlence, arama kurtarma, sağlık, askeri, tarım ve daha birçok alanda yaygın olarak kullanılmaktadır. Otonom hareket eden mobil robotlar, çeşitli sebeplerle hasara uğrayan binalarda insanların binaya girmesinin mümkün olmadığı ya da tehlikeli olduğu durumlarda kurtarma görevlilerine büyük fayda sağlamaktadır. Bu robotlar, bina içindeki durum tespitinin yapılması ve/veya olaylara müdahale amacıyla kullanılabilmektedir. Bu görevleri başarılı bir şekilde yerine getirebilmek için istenen bilgileri doğru bir şekilde toplamak ve doğru bir yol planına sahip olmak hayati önem taşımaktadır. Bu nedenle, robotun istenen görevleri gerçekleştirmesinin yanında, kendisini mevcut konumundan hedef konumlara taşıyacak güvenli bir yol planlaması gerçekleştirmesi ve uygulaması gerekir. 
Halihazırda mobil robot navigasyonu hakkında birçok teknik geliştirilmiş ve daha hızlı ve hassas yol planlamasının sağlanması robotik çalışmalarda en çok araştırılan konularından birisi olmuştur. Robotun bilinmeyen kapalı ortamdaki otonom hareketi mevcut yöntemlerle sağlanabiliyor olsa da çevredeki nesnelerin sınıflandırılması ve robotun belli noktalara sıkışması durumunda navigasyona devam edebilmesi için bu bilginin yol planlamasına dahil edilmesiyle daha etkin bir yol planlaması gerçekleştirilebilir. Bilinmeyen kapalı bir alana girmek üzere olan kurtarma görevlileri için yapı içerisinde nelerin olduğunu anlamak ve ortamın kategorize edilmesi büyük avantaj teşkil ederken, bu bilgilerin robotun yol planlamasında karşılaşılan zorlu koşullarda robota alternatif çıkış yolları sağlaması da robot hareketi için ek fayda sağlamaktadır.
Bu tez çalışması ile insanların bina içine girmesinin mümkün olmadığı ya da tehlikeli olduğu durumlarda bina içine gönderilecek bir otonom uçan robotun, binayı haritalandırması, ortamdaki nesneleri sınıflandırması ve bu görevleri icra ederken güvenli ve sağlam bir navigasyon sağlaması hedeflenmiştir. Mevcut yaklaşımlardan farklı olarak, rota planlama için optik kamera sensöründen aldığı verileri bir LIDAR sensörü verileriyle eşleştirerek nesne sınıflandırma/mesafe ölçümü yapan ve bu sınıflandırma verisi ile ortam hakkında farkındalığını sağlayarak istenen nesnelere yönelen ve diğer nesnelerden kaçınarak bina içi arama/tarama yapabilen bir otonom yol planlaması yapılmıştır. Bunun sonucunda geçiş/yol noktalarının daha etkin olarak belirlenmesi, afet türü ile ilgili faydalı nesnelerin konumlandırılması ve mevcut yol planlama algoritmasındaki yerel minimum noktalarından robotun kurtarılması sağlanmıştır. Geliştirilen yöntem ve yetenekler, yüzey koşullardan bağımsız üç eksenli hareket yeteneğiyle hasarlı binalarda daha etkin yol gerçekleştirebilen döner kanatlı uçan robotlar üzerinde denenerek robotun güvenle yol planlaması yapması sağlanmıştır. Önerilen yöntem, bir binayı keşfetmek ve odalar arasında gezinmek için gerçek zamanlı olarak çalışabilmektedir.
Tespit algoritmasıyla sınıflandırılacak olan nesnelerin daha doğru ve hızlı bir şekilde tespit edilebilmesi için literatürdeki nesne sınıflandırma algoritmalarından hareketle çalışmanın ihtiyaçlarına özgü özelleştirilmiş bir tespit ağı önerilmiştir. Ayrıca, felaket ortamlarına özgü bir veri seti hazırlanarak kapı, pencere ve merdiven gibi bina içi geçiş noktaları için tespit başarısındaki artış gösterilmiştir. Temel görüntü işleme yöntemlerinin, veri artırma ve sentetik veri oluşturulmasının tespit başarısına olan etkileri incelenmiştir. Tez çalışması isterlerine özgü kullanılan geliştirme bilgisayarı üzerinde nesne sınıflandırmasının gerçek zamanlı olarak çalışmasına yönelik tedbirler alınmış ve tespit hızında artış sağlanmıştır.
Bina içerisinde kapı ve pencere gibi geçiş noktaları, bu noktaların robotun geçişine imkân verecek özellikte olup olmadığı ve robota olan görece konumları önerilen yöntemlerle tespit edilmiş ve değiştirilmiş yapay potansiyel alanlar algoritması içerisine dahil edilerek robotun yol planlamasında kullanılmıştır. Yol planlamasının başarısı, farklı senaryolar üzerinde denenmiş ve diğer çalışmalarla karşılaştırılmıştır. Önerilen yol planlamasının diğer yol planlama algoritmalarıyla güçlendirilmiş yapay potansiyel alan yöntemleriyle kıyaslanması sonucunda, mevcut oda dışındaki hedeflere ulaşmada en başarılı örnekten yaklaşık %17 daha iyi sonuç verdiği tespit edilmiştir.

Abstract:
Mobile robots, one of the popular research areas of today, are widely used in entertainment, search and rescue, health, military, agriculture and many other fields with the recent advantages of technological developments. Autonomous mobile robots provide significant benefits to rescue teams where it is not possible or hazardous for people to go into damaged buildings due to various reasons. These robots can be used to determine the latest situation inside the building and/or to respond to incidents. To be able to perform these tasks successfully, it is vital to collect the requested information accurately and have a precise path plan. Therefore, in addition to performing the desired tasks, the robot needs to plan and implement a safe path that will transport it from its current location to the target locations.
Currently, several methods have been proposed for mobile robot navigation and providing a more precise and faster path planning method is one of the most popular topics in robotics studies. Although the autonomous navigation of the robot in an unknown indoor environment can be realized with existing methods, a more effective path planning may be achieved by classifying the objects in the robot environment and integrating this information with the path planning so that the robot can continue to progress in case it gets stuck at certain points. For rescuers to go into an unknown closed area, it is a great advantage to use this information to understand what is happening in the building and categorize the environment, just as to provide alternative escape routes to the robot in difficult conditions encountered during the navigation of the robot.
By an autonomous flying robot, which will be sent inside the building when it is not possible or dangerous for people to enter, transfer of the data needed by rescuers from the inside and providing safe and robust navigation of the robot are aimed with this thesis. Unlike existing approaches, the autonomous path planning approach is aided by object classification and distance measurement of the desired objects by combining the optical camera and LIDAR sensor data. In this way, the robot benefits from the classification data and may direct to the desired objects by being aware of the environment. It may also search/scan inside the building while avoiding obstacles. As a result, it is ensured that the crossing points are determined more effectively, the useful objects related to the disaster type are located and the robot escapes from the local minimum points where it is congested with the path planning algorithm. The proposed methods and capabilities were tested on rotary-wing flying robots, which can travel more efficiently in damaged buildings with their three-axis movement capability free of surface conditions, enabling the robot to plan paths safely. The methods in the study can work in real-time to explore a building and navigate between rooms.
In order to classify the objects with the detection algorithm more accurately and quickly, a specialized detection network particular to the needs of the study was proposed based on the object classification algorithms in the literature. In addition, a dataset specific to disaster environments was prepared and the improvement in detection success was demonstrated for in-building crossing points such as doors, windows and stairs. The effects of basic image processing methods, data augmentation and synthetic data generation on the detection performance were analyzed. A number of measures were taken to run object classification in real-time on the developer kit chosen to realize thesis work requirements and the detection speed was enhanced.
The crossing points such as doors and windows in a building, whether these points are capable of allowing the robot to pass and their relative positions to the robot are determined by the proposed method, and the path planning of the robot is carried out by including it in the modified Artificial Potential Fields algorithm. The success of path planning was tested on different scenarios and compared with other studies. As a result of the comparison of the proposed path planning to the methods supported with other path planning algorithms, it is determined that it shows approximately 17% better results than the most successful example in reaching the targets outside the current room.