Trıton ve deepstream ortamlarında gerçekleştirilen çoklu kameralar ile tasarlanmış derin öğrenme tabanlı nesne tespiti yapılarının canlı ortam sunucularındaki performansı
Performance of deep learning based object detection structures on production servers designed with multiple cameras in triton and deepstream environments
Yazar: BERKE DENİZ BUĞA
Danışman: DOÇ. DR. ERSOY KELEBEKLER
Kocaeli Üniversitesi / Fen Bilimleri Enstitüsü / Elektrik Mühendisliği Ana Bilim Dalı
Derece: Yüksek Lisans, 2023
Konu: Elektrik ve Elektronik Mühendisliği = Electrical and Electronics Engineering

Özet:
Endüstrideki birçok alanda görüntü işleme uygulamaları yaygın olarak yapılmaktadır. Bu 
uygulama alanlarından biri de çalışan güvenliği alanında yapılan çalışmalarıdır. Olası iş 
kazalarını anında tespit edebilmek ve durdurabilmek, kök sebep ve risk analizi 
yapabilmek, sahada iş güvenliği kültürü oluşturabilmek veya anlık olarak sahaya bildirim 
yapabilmek için yapılan görüntü işleme algoritmalarının gerçek zamanlı olarak çalışması 
zorunlu bir ihtiyaçtır.  
Gerçek zamanlı olarak çalışan görüntü işleme algoritmalarıyla büyük veya karmaşık bir 
alanda uygulama yapmak istenirse çok sayıda kamerayı aynı anda çalıştırarak görüntü 
işleme proseslerini aynı anda uygulamak gerekir. Endüstride bu ihtiyacı karşılayabilecek 
çeşitli görüntü işleme algoritmaları bulunmaktadır ve bu algoritmaların performansları 
birbirinden farklıdır. Kamera sayısının artması durumunda, bu algoritmalardan hangisinin 
sunucuda daha az kaynak tüketerek çalışacağı endüstriyel bir problem olarak görülür. 
Ayrıca algoritmaların hangi kullanım senaryolarında daha avantajlı olacağı da denenerek 
bulunması gereken bir durumdur.  
Bu tez çalışmasıyla, görüntü işleme ile nesne tespiti algoritmalarının canlı ortam 
sunucusundaki çalışma performanslarını karşılaştırmak amaçlanmıştır. Bu algoritmalar 
Triton Inference Server ve DeepStream SDK mimarileriyle hazırlanmış görüntü işleme 
ile nesne tespiti algoritmalarıdır. Algoritmaların sunucudaki çalışma performansı 
kıyaslanarak birtakım veriler elde edilmiştir. Bu kıyaslamalar çeşitli testler ile yapılmıştır. 
Her iki algoritma için de ayrı ayrı 5 kamera ile başlayan testler 50 kamera adetine kadar 
ulaşmıştır. Testler sonucu elde edilen veriler yorumlanmıştır. Kamera sayısının 
arttırılması durumunda ekstra donanım yatırımı yapmadan mevcut sunucuları en verimli 
şekilde kullanabilecek algoritma belirlenmiştir. Performansı karşılaştırılan 2 algoritmanın 
avantaj ve dezavantajlarına yer verilmiştir. Proje ve teknik isterler doğrultusunda hangi 
algoritmanın kullanılabileceğine dair öneriler sunulmuştur. Bu tez çalışmasını inceleyen 
başka bir araştırmacı veya çalışan, deneysel işlemleri tekrarlamadan hangi yapıları 
kullanacağına karar verebilecektir. 
Anahtar Kelimeler: Görüntü işleme algoritmaları, gerçek zamanlı çalışmalar, sunucu 
performansı, IP kameralar.

Abstract:
Image processing applications are widely used in many areas in the industry. One of these 
application areas is employee safety. It is a mandatory requirement that the image 
processing algorithms work in real time in order to detect and stop possible work 
accidents instantly, to perform root cause and risk analysis, to create an occupational 
safety culture in the field or to make instant notification to the field. 
If it is desired to apply in a large or complex area with image processing algorithms 
working in real time, it is necessary to run multiple cameras at the same time and apply 
image processing processes at the same time. There are various image processing 
algorithms in the industry that can meet this need, and the performances of these 
algorithms are different from each other. In case of an increase in the number of cameras, 
which of these algorithms will run with less resource consumption on the server is seen 
as an industrial problem. In addition, in which usage scenarios the algorithms will be 
more advantageous is a situation that should be tried and found. 
In this thesis, it is aimed to compare the working performances of object detection 
algorithms by image processing in the production server. These algorithms are object 
detection algorithms by image processing prepared with Triton Inference Server and 
DeepStream SDK architectures. Some data were obtained by comparing the working 
performance of the algorithms on the server. These comparisons were made with various 
tests. The tests, which started with 5 cameras for both algorithms, reached up to 50 
cameras. The data obtained as a result of the tests were interpreted. In case the number of 
cameras is increased, the algorithm that can use the existing servers in the most efficient 
way without investing in hardware has been determined. The advantages and 
disadvantages of the two algorithms whose performance is compared are given. 
Suggestions on which algorithm can be used in line with the project and technical 
requirements are presented. Another researcher or employee examining this thesis will be 
able to decide which constructs to use without repeating the experimental procedures. 
Keywords: Image processing algorithms, real-time studies, server performance, IP 
cameras.