RS-DSINet: Tavsiye sistemleri derecelendirme problemi için geliştirilmiş yeni bir derin öğrenme modeli
RS-DSINet: A new deep learning model developed for the rating problem of recommendation systems
Yazar: VEYSEL TÜRK
Danışman: DOÇ. DR. İBRAHİM BERKAN AYDİLEK
Harran Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Yüksek Lisans, 2022
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Derecelendirme = Rating ; Makine öğrenmesi = Machine learning ; Sinir ağları = Nerve net ; Tavsiye sistemleri = Recommender systems

Özet:
Web teknolojilerinde yaşanan gelişmeler, çevrimiçi ortamda işlenmiş/işlenmemiş büyük miktarda veri birikmesine neden olmuştur. Biriken bu veri yığınları arasında kullanıcıların, ihtiyaç duyduğu bilgiye erişiminde problemler yaşanabilmektedir. Çevrimiçi ortamda, bilgiye erişimde yaşanan sorunların çözümünde, kullanıcıların gerçek zamanlı sorgulamasına ihtiyaç duymadan kullanıcının gözlemlenen geçmiş davranışlarını dikkate alarak kişileştirilmiş öğeler önermeyi amaçlayan bir filtreleme tekniği olan tavsiye sistemleri uygulanabilir. Tavsiye sistemi uygulamalarında, geleneksel yöntemlerden içerik bazlı ve işbirlikçi filtreleme yöntemleri sıklıkla kullanılmaktadır. Bununla birlikte doğrusal/doğrusal olmayan problemlerin çözümünde başarılı sonuçlar üreten ve veri kümelerinde gizli kalan bilginin keşfedilmesinde önemli bir yaklaşım olan yapay zeka teknolojilerinden makine öğrenme teknolojisi potansiyel bir çözüm tekniği olarak dikkat çekmektedir. Bu çalışmada, denetimli makine öğrenmesi tekniklerinden derin sinir ağları, geleneksel makine öğrenme algoritmaları, geleneksel tavsiye sistemi uygulamalarından içerik, işbirlikçi filtreleme teknikleri ile film/kitap derecelendirme uygulaması geliştirilmiştir. Çalışma kapsamında derin sinir ağları ile önerilen uygulamada tekrarlayan sinir ağları (recurrent neural networks - RNN) ve türevleri, ek özellik vektörlerinin yoğun kullanımı, artık ağlarla geliştirilen RS-DSINet modeli ve RNN mimarileriyle geliştirilen hibrit modeller kullanılmıştır. Geleneksel makine öğrenme algoritmalarından karar ağaçları (decision tree - DT), rastgele orman (random forest - RF), olasılıksal dereceli azalma (stochastic gradient descent - SGD), destek vektör makinesi (support vector machine - SVM), K-en yakın komşuluk (K-nearest neighbors - KNN) kullanılmıştır. Deneysel süreçte önerilen yöntemlerin analizinde MovieLens 10M, MovieLens 20M, FilmTV movies, IMDb movies extensive ve Goodbooks-10K veri kümeleri kullanılmıştır. Ampirik sonuçların değerlendirmesinde ortalama mutlak hata (mean absolute error - MAE), ortalama hata karesi (mean squared error - MSE), ortalama karekök sapması (root mean square error - RMSE) ve ortanca mutlak hata (median absolute error - MdAE) hata ölçüm metriklerinden yararlanılmıştır. MovieLens 10M veri setiyle gerçekleştirilen deneysel analizde RS-DSINet + SimpleRNN modeli 0.3663 MAE hata metriği ile başarılı sonuç üretmiştir.  Tez kapsamında, deneysel sonuçlardan elde edilen bulgulardan yararlanılarak önerilen RS-DSINet derin öğrenme modeli film/kitap derecelendirme uygulamalarında tatmin edici sonuçlar ürettiği gözlemlenmiştir. RS-DSINet modeli derin sinir ağlarında yaşanan güncel sorunlardan aşırı öğrenme, eksik öğrenme, gradyan kaybolması probleminin çözümünde yeni bir bakış açısı getirebilir, mimarinin geliştirilebilir pratikte ve ekonomik yapısı dolayısıyla veri bilimcilerine fayda sağlayabilir.

Abstract:
Developments in web technologies have led to the accumulation of large amounts of processed/unprocessed data online. Among these accumulated data piles, users may experience difficulty accessing the information they need. Recommendation systems, a filtering technique that aims to suggest personalized items by taking into account the observed past behaviors of the user, without the need for a real-time query of the users, can be applied in solving the problems experienced in accessing information in online environment. Content-based and collaborative filtering methods, which are traditional, are frequently used in recommendation system applications. However, machine learning technology, one of the artificial intelligence technologies, which produces successful results in solving linear/non-linear problems and is an essential approach to discovering hidden information in datasets, draws attention as a potential solution technique. This study deep neural networks from supervised machine learning techniques, traditional machine learning algorithms, content from traditional recommendation system applications, collaborative filtering techniques, and movie/book rating applications. Within the scope of the study, recurrent neural networks (RNN) and their derivatives, intensive use of additional feature vectors, RS-DSINet architecture developed with residual networks, and hybrid models developed with RNN architectures were used in the proposed application with deep neural networks. In addition, traditional machine learning algorithms were used, such as the decision tree (DT), random forest (RF), stochastic gradient descent (SGD), support vector machine (SVM), and K-nearest neighbors (KNN). In the analysis of the proposed methods in the experimental process, MovieLens 10M, MovieLens 20M, FilmTV movies, IMDb movies extensive, and Goodbooks-10K datasets were used. Mean absolute error (MAE), mean squared error (MSE), root mean square error (RMSE), and median absolute error measurement (MdAE) metrics were used to evaluate the empirical results. In the experimental analysis performed with the MovieLens 10M dataset, the RS-DSINet + SimpleRNN architecture produced a successful result with an MAE error metric of 0.3663. Within the scope of the thesis, it has been observed that the RS-DSINet deep learning model proposed using the findings obtained from the experimental results produces satisfactory results in film/book rating applications. The RS-DSINet architecture can bring a new perspective to solving the current problems of deep neural networks, such as over-learning, under-learning, and gradient loss. Furthermore, it can benefit data scientists due to the architecture's developmental practical, and economic structure. Recommendation systems, which is a filtering technique that aims to suggest personalized items by taking into account the observed past behaviors of the user, without the need for the real-time query of the users, can be applied in solving the problems experienced in accessing information in the online environment.