Makine öğrenmesi yöntemleri kullanılarak FPGA tabanlı gerçek zamanlı yeni bir trafik sınıflandırma mimarisi tasarımı
Designing a novel FPGA-based real-time traffic classification engine using machine learning techniques
Yazar: TUNCAY SOYLU
Danışman: DOÇ. DR. OĞUZHAN ERDEM
Trakya Üniversitesi / Fen Bilimleri Enstitüsü / Hesaplamalı Bilimler Ana Bilim Dalı
Derece: Doktora, 2018
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control ; Elektrik ve Elektronik Mühendisliği = Electrical and Electronics Engineering
Dizin: FPGA = FPGA ; Makine öğrenmesi yöntemleri = Machine learning methods ; İnternet = Internet

Özet:
İnternetin kullanımının artması birçok konuda olduğu gibi internet trafik sınıflandırmaya olan ihtiyacı giderek arttırmaktadır.
İnternet trafik sınıflandırma internet servis sağlayıcılar (ISS), kamu kurumları veya özel şirketler için oldukça önemli bir kullanım alanı oluşturmaktadır. Bunun nedeni, her bir kuruluşun kendi internet trafiğini izlemek istemesidir. Buna ilaveten internet trafik sınıflandırma trafik önceliklendirme, trafik şekillendirme ve bant genişliği paylaşımı sağlama gibi ağ yönetim görevleri için kullanılmaktadır. Ayrıca, ağ güvenliği, dinamik erişim kontrolü ve saldırı tespiti gibi internet ağ güvenliği sağlama ve yeni nesil internet ağ mimarilerinin tasarımın da internet trafik sınıflandırmaya ihtiyaç vardır.
İnternet trafik sınıflandırma mimarisi tasarımında önemli kriterlerden biri yüksek hızlarda yüksek sınıflandırma doğruluğunu destekleyebiliyor olmasıdır. Özellikle gerçek zamanlı trafik sınıflandırma yapabilmek için 100+ Gpbs hızlara ulaşabilen trafik sınıflandırma mimarisine ihtiyaç vardır. Önerilen mevcut sınıflandırma yöntemlerinin çoğu yazılım tabanlı çözümler olmakla birlikte bu çözümlerin bu hızlara ulaşabilmesi oldukça güçtür. Dolayısıyla yüksek hızlarda internet trafik sınıflandırma yapabilmek için yazılım tabanlı çözümler yerine yüksek hızlarda trafik sınıflandırma yapabilen donanım tabanlı mimariler tercih edilmektedir. Donanım tabanlı mimariler, yüksek hızlara ulaşmalarının yanı sıra bellek verimliliği, çıkan yüksek iş oranı (throughput), dinamik güncelleme ve düşük gecikme gibi trafik sınıflandırma kriterlerinde de yüksek başarım sağlamaktadırlar.
Önerilen mevcut internet trafik sınıflandırma çözümlerinden port tabanlı, DPI tabanlı ve sezgisel tabanlı yöntemler şifreli trafik altında ve dinamik port atamalarında düşük performans göstermektedir. Son yıllarda, özellikle şifreli trafik ve dinamik port atamaları altında yüksek doğruluk elde eden makine öğrenmesi (machine learning - ML) tabanlı yöntemler tercih edilmektedir. ML tabanlı yöntemler, trafik akışının (traffic flow) sadece istatistiksel özelliklerine bakarak trafik sınıflandırma yapmaktadır. Yüksek hızlı ve gerçek zamanlı ML tabanlı trafik sınıflandırma için donanım mimarileri tasarımına ihtiyaç vardır.
Bu tezde gerçek zamanlı, yüksek hızlarda ve doğrulukta trafik sınıflandırma yapabilmek için makine öğrenmesi tabanlı ve donanım üzerinde gerçeklenen trafik sınıflandırma yöntemleri incelendi. Bu tezin ana katkısı olarak paralel boru hatlı (pipeline) mimariler üzerinde uygulanan yüksek hızlarda ve doğrulukta sınıflandırma yapabilen makine öğrenmesi tabanlı Genişletilmiş Simple CART (E-SC) mimarisi önerilmiştir. Aynı zamanda, benzer katkıları sağlamak amacıyla her bir uygulama sınıfından bir ağaç elde edilen ve ağaçları bitmaplerle zenginleştirilmiş iki aşamalı hibrit bir yapı olan Simple CART Ormanları (SCF) mimarisi önerilmiştir. Son olarak yüksek doğrulukta ve oldukça düşük sınıflandırma gecikmesi sağlayan tek adımlı Bitmap Kodlu Simple CART (BC-SC) veri yapısı önerilmiştir. Alanda Programlanabilir Kapı Dizilimleri (FPGA) tabanlı paralel ve boru hattı üzerinde tasarlanmıştır.

Abstract:
Increasing use of the internet is growing the need for internet traffic classification as for many subjects.
Internet traffic classification covers a very important usage area for private companies, public institutions, governments and Internet Service Providers (ISPs). The reason for this is that each institution wants to monitor its own internet traffic. In addition, internet traffic classification is used for network management tasks such as traffic prioritization, traffic shaping and bandwidth sharing provisioning. Additionally, internet networking security such as dynamic access control and intrusion detection, and the design of next-generation internet network architectures also require internet traffic classification.
One of the important criteria in designing internet traffic classification architecture is that it can support high classification accuracy at high speeds. Especially, in order to make real time traffic classification, reaching up to 100+ Gbps speed internet traffic classification architecture is needed. While most of the proposed classification methods are software based solutions, it is very difficult for these solutions to reach such speeds. Thus, in order to make internet traffic classification faster, hardware-based architectures that can make traffic classification in high speeds are preferred on behalf of software-based solutions. Hardware-based architectures are highly successful on traffic classification criterion such as low latency, dynamic update, high throughput, memory efficiency besides reaching higher speeds.
Among the proposed Internet traffic classification solutions, port based, DPI based and intuitive based methods show poor performance under encrypted traffic and dynamic port assignments. In recent years, machine learning (ML) based methods, which obtain high accuracy especially under encrypted traffic and dynamic port assignments, have been preferred. ML based methods perform traffic classification by only examining the statistical features of traffic flow. There is a need for designing hardware architectures for high-speed and real-time ML based traffic classification.
In this thesis, machine-learning based hardware traffic classification methods were examined in order to achieve real time, high speed and accuracy traffic classification. As the main contribution on this dissertation, Extended-Simple CART (E-SC) architecture is proposed that can achieve high accuracy and speed on parallel pipelined architectures. In the meantime, in order to make the similar contributions, Simple CART Forests (SCF) architecture is proposed, which is a two-staged hybrid structure and whose trees are enriched with bitmaps. Finally, a single-step Bitmap Coded Simple CART (BC-SC) data structure is recommended that provides high accuracy and fairly low classification latency. The BC-SC data structure is designed on Field Programmable Gate Arrays (FPGAs) based parallel and pipeline.