Veri merkezlerinde derin pekiştirmeli öğrenme ile ağ trafik optimizasyonu
Network traffic optimization with deep reinforcement learning in data centers
Yazar: ANUARBEK AMANOV
Danışman: PROF. DR. AYDIN ÇETİN
Gazi Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Doktora, 2023
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Bilgisayar ağları = Computer networks

Özet:
Son zamanlarda iletişim hızlarındaki artışa paralel olarak ağ trafiğinde ve veri merkezlerindeki tıkanıklık problemlerinde artış meydana gelmektedir. Tıkanıklığı önlemede farklı tıkanıklık bildirim mekanizmaları önemli araştırma konularından birisidir. Bu problemlerin çözümünde genel bir yaklaşım olarak tek kuyruklu senaryolar için Açık Tıkanıklık Bildirimi (ATB) mekanizması tasarlanmaktadır. Ancak, Veri Merkezi Ağlarında (VMA) her anahtar için port başına birden fazla kuyruğa ihtiyaç vardır. Bu amaçla son yıllarda çok kuyruklu VMA'lar üzerine yapılan çalışmalar artmıştır. Ancak, bu amaçla veri merkezindeki anahtarlarda kullanılan paket işaretleme eşiği aşılırsa, aynı bağlantı portundaki tüm paketler ATB işaretini alabilir ve bu hatalı işaretleme işlemi veri aktarım kalitesini düşürebilir. Bu tezde, hatalı işaretleme problemini çözmek için bir derin pekiştirmeli öğrenme tabanlı öncelik ATB Haritalama yaklaşımı önerilmiştir. Önerilen yaklaşımda, arabellekten gelen akışlar sınıflayıcı tarafından fare ve fil akışları olarak sınıflandırılmakta ve devamında çıkış port arabelleği eşiğinde işaretlenerek öncelik verilmektedir. Ayrıca, çoklu-çift çıkış port arabelleğinde paketlerin hatalı işaretlenmesinden kaçınmak için derin pekiştirmeli öğrenme tekniklerinden yararlanmaktadır. Önerilen yaklaşımın etkinliği ve verimliliği büyük ölçekli bir NS-2 benzetim ortamında test edilmiştir. Çalışmada elde edilen sonuçlar detaylı bir şekilde incelenmiş ve sunulmuştur. Akış Tamamlama Süresi metriğine dayalı değerlendirmeler, önerilen yaklaşımın hedeflerine ulaşmada başarılı olduğunu ortaya koymaktadır.

Abstract:
Recently, in parallel with the increase in communication speeds, there has been an increase in network traffic and congestion problems in data centers. Different congestion notification mechanisms have become one of the important research topics in preventing congestion. As a general approach to solving these problems, an Explicit Congestion Notification (ECN) mechanism is designed for one-tailed scenarios. However, in Data Center Networks (DCN) multiple queues are needed per port for each switch. In addition, if the packet marking threshold is exceeded in the switches in the data center, all packets on the same connection port may receive the ECN marking, and this false marking may reduce the data transfer quality in some cases. In this thesis, a deep reinforcement learning-based priority ECN-Mapping approach, is proposed to solve the erroneous marking problem. In the proposed approach, the flows coming from the buffer are classified as mice and elephant flows by the classifier and then priority is given by marking the flows at the output port buffer threshold according to their priority status. Additionally, it utilizes deep reinforcement learning techniques to avoid false marking of packets in the multi-queue output port buffer. The effectiveness and efficiency of the proposed approach has been tested in a large scale NS-2 simulation environment. The results obtained in the study were thoroughly examined and presented. Evaluations based on the Flow Completion Time metric reveals that the proposed approach is successful in achieving its objectives.