Otonom araçlarda kişi tespiti için federe öğrenmeye dair yeni bir yöntem
A new method for pedestrian detection on autonomous cars based on federated learning
Yazar: EMİN AKPINAR
Danışman: DOÇ. DR. BÜLENT BOLAT ; DR. ÖĞR. ÜYESİ MURAT TAŞKIRAN
Yıldız Teknik Üniversitesi / Fen Bilimleri Enstitüsü / Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı / Haberleşme Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Elektrik ve Elektronik Mühendisliği = Electrical and Electronics Engineering

Özet:
Otonom sürüş sistemlerinin en önemli avantajlarından biri olası kazaları önleme ve dolayısıyla ölüm ve yaralanma sayılarını azaltma potansiyeline sahip olmasıdır. Yapay zekanın gelişmesiyle birlikte bu alanda yapılan çalışmalarda büyük bir artış yaşanmaktadır. Bu tür uygulamalarda başarılı bir genelleme performansı elde etmek, modelin farklı arka plan ve mümkün olduğunca çok benzersiz veriyle eğitilmesiyle mümkündür. Ancak bu kadar çeşitli ve büyük veri kümelerinin tek bir topluluk tarafından oluşturulması büyük bir emek ve maliyet gerektirmektedir. Ayrıca bu tür veri kümeleri oluşturulsa bile bu veri kümelerinin doğrudan paylaşılması kişisel veri gizliliği sorunlarını da beraberinde getirecektir. Bu çalışmada, bahsedilen sorunların çözümü için federe öğrenmenin potansiyeli araştırılmakta ve performansı standart eğitim metodolojisi ile kıyaslanmaktadır. Federe öğrenme, veri paylaşımına gerek duyulmaması sayesinde veri gizliliği sorunlarını ortadan kaldırır ve farklı veri kümelerinin bir sunucuyla paylaşılmasına gerek kalmadan birçok veri kümesinin eğitim için birlikte kullanılmasına olanak tanır. Literatürde federe öğrenme için pek çok yaklaşım önerilmiştir. Ancak farklı zorluk ve kapsamlılığa sahip veri kümelerinin kullanıldığı uygulamalarda, oluşturulan küresel model ağırlıkları, uygulamada kullanılan veri kümelerinin iyi bir temsilini yakalamak için yeterli değildir. Bu nedenle yerel model olarak Özellik Piramidi Ağı Kullanan Daha Hızlı Bölgesel Evrişimli Sinir Ağı ResNet50 (Faster R-CNN ResNet50 FPN) kullanılan ve yüksek kayıp değerlerinin elde edildiği ama aynı zamanda daha çok ve benzersiz veriye sahip veri kümelerinin ait olduğu yerel modellere, eğitim sırasındaki kayıp değerinden yararlanarak daha yüksek katsayılar atayan yeni bir federe öğrenme yaklaşımı sunan Kayıp Bağımlı Katsayılarla Federe Öğrenmeyi (FedLDC) öneriyoruz. Çalışmada FedLDC hem federe öğrenmenin ilk örneği olan Federe Ortalama (FedAvg) hem de federe olmayan standart eğitim metodolojisi ile karşılaştırılmıştır. Üç farklı veri kümesi üzerinde yapılan testler sonucunda FedLDC, Caltech Yayada (Caltech Pedestrian) 0,13 ve ŞehirKişilerinde (CityPersons) 0,07 kaçırma oranı ile en başarılı sonuca ulaşırken, AvrupaŞehir Kişileri Gün (EuroCity Persons Day) veri kümesinde 0,10 kaçırma oranı ile 0,08'lik bir kaçırma oranına ulaşan standart eğitim metodolojisi ile rekabetçi sayılabilecek bir performans elde etti.

Abstract:
One of the most significant advantages of autonomous driving systems is their potential to prevent accidents and, consequently, reduce the number of deaths and injuries. With the advancement of artificial intelligence, there has been a significant increase in research in this field. Achieving successful generalization performance in such applications is possible through training the model with as diverse background and as much unique data as possible. However, creating such varied and large datasets by a single community requires considerable effort and cost. Moreover, even if such datasets are created, directly sharing these datasets will bring along personal data privacy issues. In our study, we explore the potential of federated learning as a solution to these problems and compare its performance with the standard training methodology. Federated learning eliminates data privacy issues by obviating the need for data sharing, allowing for the training of multiple datasets together without the need to share them with a server. Many approaches to federated learning have been proposed in the literature. Yet, in applications where data sets of different difficulty and comprehensiveness are used, the global model weights created are not sufficient to capture a good representation of the datasets used in practice. Therefore, we propose Federated Learning with Loss Dependent Coefficients (FedLDC), a new federated learning approach that uses the Faster R-CNN ResNet50 FPN as the local model, and assigns higher coefficients to local models belonging to datasets with high loss values but also with more and unique data, by taking advantage of the loss value during training. In our study, we compared FedLDC with both FedAvg, the first example of federated learning, and the standard non-federated training methodology. Our tests on three different datasets showed that FedLDC achieved the most successful result with a miss rate of 0.13 in Caltech Pedestrian and 0.07 in CityPersons, while obtaining a competitive performance with a miss rate of 0.10 in the EuroCity Persons Day dataset, compared to the 0.08 miss rate of the standard training methodology.