Otonom araçlarda fren kararı tahmini için dikkat mekanizması geliştirilmesi
An attention mechanism for brake decision prediction in autonomous vehicles
Yazar: EKREM AKSOY
Danışman: DOÇ. DR. AHMET YAZICI
Eskişehir Osmangazi Üniversitesi / Fen Bilimleri Enstitüsü / Elektrik-Elektronik Mühendisliği Ana Bilim Dalı / Telekomünikasyon  - Sinyal İşleme Bilim Dalı
Derece: Doktora, 2020
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Makine öğrenmesi yöntemleri = Machine learning methods ; Yapay sinir ağları = Artificial neural networks

Özet:
Otonom sürüş veya İleri Sürüş Destek Sistemleri (İSDS) alanlarında insan sürüşüne yakın yaklaşımlar geliştirilmesi aktif araştırma konularındandır. Bu alandaki mevcut çalışmalar daha çok sürüşü etkileyen yaya, trafik işareti v.b. unsurları birbirinden bağımsız tespit etmeye çalışan sistemler olarak öne çıkmaktadır. Öte yandan, insan sürüşünde görsel algı en önemli karar girdisi olup ortamdaki tüm nesneler için bütüncül olarak işlenir. İnsan görüsünde dikkat ve görsel algıda belirginlik sinirbilim alanında uzun süredir çalışılan araştırma konularıdır. Sinirbilim alanındaki bu çalışmaların ışığında makine öğrenmesi alanında da belirginlik tahmin edilmesi ve dikkat mekanizması literatüre girmiştir.
Bu tez çalışmasında, otonom sürüş veya İSDS için bilgisayar görüsüyle sürüş görüntüsündeki belirginliklere dikkat ederek fren karar tahmini üreten iki derin yapay sinir ağı modeli önerilmektedir. Önerilen her iki modelde de sürüş görüntüsündeki özellikler VGG-16 evrişimli yapay sinir ağı ile çıkarılmaktadır. Çıkarılan özellikler dikkat mekanizması ile ağırlıklandırıldıktan sonra Evrişimli Uzun Kısa Dönem Hafıza (EUKDH) ağına girdi olarak verilerek belirginlik haritası tahmini üretilmektedir. Son olarak tahmin edilen belirginlikler ikinci bir yapay sinir ağı ile ikili sınıflandırılarak fren yapma kararı tahmin edilmektedir. İlk modelde belirginlik tahmini ile fren kararı tahmin edilmesi eş zamanlı olarak üretilmektedir. Eğitim sürecinde belirginlik haritası tahmini ile fren karar tahminini birlikte kullanan bir kayıp fonksiyonu ile geri yayılım algoritması kullanılarak eğitilmektedir. Bu yaklaşımda model eşzamanlı olarak belirginlik tahminini ve fren karar tahminini en iyilemektedir. İkinci model ise önce sadece belirginlik harita tahmini üretmek için eğitilmektedir. Ardından, sürüş girdi görüntüsü, tahmin edilen belirginlik haritası ile maskelenerek fren karar tahmini üreten yapay sinir ağına girdi olarak verilmektedir. İkinci modelin nihai çıktısı fren karar tahminidir. Önerilen modeller, literatürdeki BDD-A sürüş dikkat veri kümesi ve Otonom Taşıyıcı Araç (OTA) benzetim verisiyle denenmiştir. Deney sonuçlarında belirginlik tahmin edilmesi açısından mevcut en iyi durum yakalanmıştır. Bilgisayar görüsünü bütüncül olarak ele alıp belirginliklere dikkat etmeyi öneren modeller fren tahmini açısından motive edici sonuçlar elde etmiştir.

Abstract:
Autonomous driving or Advanced Driving Assistance Systems (ADAS) with human level driving capability is one of the most active research topics. However, state-of-the-art methods are detecting contributing factors (e.g. lane detection, padestrian detection, etc.) independently from each other. On the other hand, visual perception is the most important input for human driving decisions, and it requires evaluation of all objects in the environment. State of the art methods are capable of human-like perceiving in the area of visual perception. Therefore, developing holistic approach for detecting driving affecting factors in whole visual area is important in developing human like autonomous driving or ADAS. Visual attention and saliency are popular research topics in neuroscience. In the light of results of studies in these areas, we know see attention and saliency prediction in the machine learning literature.
In this thesis, two novel deep neural network models that predicts braking decision by attending salient features in driving scene for autonomous driving and ADAS are proposed. Both the proposed models extract features from driving input image using a modified VGG-16 convolutional neural network. Extracted features are weighted with an attention mechanism before passing into a convolutional LSTM neural network. The convolutional LSTM network generates saliency map prediction. The predicted saliency map is fed into second step neural network model to predict a binary braking decision. The first model generates braking prediction concurrently with saliency map prediction. This model optimizes both the saliency map prediction and braking prediction. The second model first optimizes saliency map prediction then the original input image is masked with optimized saliency prediction map and passed into another neural network to predict braking decision. The final output of the model is braking decision. The proposed models are trained and evaluated on the state of the art driving attention dataset BDD-A and Autonomous Transportation Vehicle (ATV) simulation dataset. Saliency prediction results for both models are at the state-of-the-art level. Furthermore, both models that are attending salient features detected with a holistic approach on visual perception are obtained motivating results for brake prediction.