İçerik dağıtım ağlarının internetin dinamikliğine uyumlu hale getirilmesi: En yakın kaynak sunucu
Making content delivery networks more responsive to the dynamicity of the internet: The nearest originshield server
Yazar: NIMA NAJAFLOU
Danışman: DR. ÖĞR. ÜYESİ GÜLSÜM ZEYNEP GÜRKAŞ AYDIN
İstanbul Üniversitesi-Cerrahpaşa / Lisansüstü Eğitim Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı / Bilgisayar Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2019
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control

Özet:
İçerik Dağıtım Ağları (CDN) içerik üreticilerinin (Origin) resim, video, vb. içeriklerini dünyanın farklı noktalarındaki kullanıcılara hızlı bir şekilde ulaştırmayı hedefler. İçerik Dağıtım Ağlar performanslı içerik servisi sağlamak için Origin tarafını optimize ederler. İçerikleri dünya üzerinde stratejik noktalarda önbelleğe alırlar. Bunları yapsalar bile içerik servisi performansında düşüşler yaşamaktadırlar. Bunun nedeni Origin ile CDN arasındaki ağın birden çok İnternet Servis Sağlayıcı (ISP) tarafından yönetilmesidir. ISP'ler kendi aralarında dinamik olarak bağlantılar kurmakta ve yönlendirmeler yapmaktadır. Bu kararlarında fiyat, kullanıcı sayısı ve rekabet gibi parametreleri göz önüne almaktadırlar. En kısa yolu düşünmemektedirler. Bu nedenle içeriğin Origin'den CDN platformuna ulaşma yolu sık sık değişmekte ve en kısa yol olmamaktadır. Bu yüzden CDN'ler müşterilere vaat ettikleri sürelere uyamamaktadırlar. ISP'lerin yönettikleri fiziksel ağlar kontrolümüzde olmadığından çalışmamızda bunların üzerine bir overlay ağ kurup overlay ağını yönetecek bir Ağ Yönetim Sistemi geliştirdik. Bu sistem ISP'lerin yaptıkları değişiklikleri hızlıca anlamaktadır. İçeriğin Origin sunucusundan en hızlı CDN platformumuza hangi yoldan geleceğine karar vermektedir. Bunun için sunucuların yüklerine (CPU ve ağ trafiği yükü, bellek ve disk doluluğu) ve Origin'e olan gecikmesine baktık. Bunlara göre de overlay ağda dinamik olarak yolları belirledik. Overlay ağındaki sunucularımızın fazla yüklenmelerine engel olmak için sunucuların işlemci ve trafik yoğunluklarının, disk ve bellek doluluklarının da hesaplamamıza kattık. Ağ Yönetim Sistemimiz gecikme süreleri ve sunucu yoğunluklarına göre en uygun yolları belirlemektedir. Böylece CDN hizmetinin performansı daha stabil öldüğünü gözlemledik.

Abstract:
Although Content Delivery Networks (CDN) do their best to quickly deliver the contents, Internet Service Providers (ISP) and network conditions cause unexpected changes on the routing paths. Hence, it gets difficult for CDNs to adhere to the delay promises within the Service Level Agreements. This paper presents a jitter-free overlay routing framework for CDNs, which struggle to adapt timely content delivery to end users due to the dynamicity of the Internet. The Nearest Origin-Shield (NOS) framework which we propose in this paper overcomes this issue by creating an overlay network on top of the existing physical ISP networks and dynamically determining the fastest routes to the content sources (Origins) on this overlay network. NOS keeps track of changes in underlay network through periodically measuring the end-to-end routing paths delays via Helper Modules. Based on the underlay network delay measures and the load (i.e., CPU, disk I/O and network usage) of the overlay network entities, NOS Central Module determines the fastest routes to the Origins using our novel Delay-Aware and Jitter-Free Overlay Routing Algorithm. Hence making it possible for CDNs to provide jitter-free and timely content deliveries meanwhile ensuring the cache servers not to be overloaded. We created a new testbed for performance evalua- tions with real CDN servers, Origin accounts and measurements. Results show that, NOS provides shorter, more stable and jitter- free routing paths with jitter gains up to 98% and improves the Hit ratio by 0.74%.