Çevrimiçi reklamlarda kullanıcının satın alma sürecinde kanalların etkisinin derin öğrenme yöntemleri ile tespiti
Detection of effect of channels on user's purchasing process in online advertisements by deep learning methods
Yazar: OĞUZ KAHRAMAN
Danışman: PROF. DR. MİNE ELİF KARSLIGİL YAVUZ
Yıldız Teknik Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı / Bilgisayar Bilimi ve Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2022
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Etkileşim = Interaction ; Kullanıcı = User ; Satın alma = Purchasing ; Uzun kısa süreli bellek = Long- short term memory ; Çevrimiçi reklamcılık = Online advertising

Özet:
Çevrimiçi reklamcılık için kaynakların efektif şekilde dağıtılması yayıncılar için önemli bir problemdir. Şu anki durumda, çok noktalı etkileşim ve etkileşimlerin etkisinin hesaplanması bütçe dağılımı yapılırken karşılaşılan en büyük sorunlardan bir tanesidir. Çok noktalı etkileşim ile farklı reklam kanalları temsil edilmektedir. Bu nedenle, müşterilerin farklı kanallarda görüp ilgilendikleri ürünleri satın aldıklarında diğer kanalların satın almaya etkisi tespit edilememekte ve bu durum sonucunda reklam verenin, reklam bütçesini nasıl paylaştıracağı tam olarak hesaplanamamaktadır. Bu sorunu çözmek için mevcut yaklaşımlar, uzman kişiler tarafından değerlendirme yapılarak bütçenin kaynaklara dağıtılması ya da basit istatistiksel yöntemler kullanılması yönündedir. Mevcut yaklaşımlar uygulanırken karşılaşılan en önemli sorun veri boyutunun çok büyük olması ve mevcut araçların tüm veriyi toplayamamasıdır. Veri boyutu sebebiyle insan gücü ile yapılan analizler çok kısıtlı kalmakta ve birçok ayrıntı gözden kaçırılmaktadır. İstatistiksel çıktılar almak ise haftalar gerektirmektedir. Diğer bir sorun ise, eğer kullanıcılar farklı reklam kanallarından farklı zamanlarda sistem ile etkileşime geçerse, bu etkileşimlerin tüm sürece etkisi optimal bir biçimde saptanamamaktadır. Bu saptamanın yapılamamasının temel nedeni olarak etkileşimlerin çok uzun bir zaman aralığına yayılması, mevcut analiz araçlarının tüm veriyi depolayamaması ve mevcut sistemlerin ise çıktılarını son etkileşim noktasına göre oluşturmasıdır. Uzmanlar tarafından yapılan kanal etki analizi sonuçları uzmanın bilgi düzeyine göre değişmektedir. Kanal etki analizi yapılırken kullanılan somut bir yöntem olmaması bu sorunun oluşmasına neden olmaktadır.

Bu tez çalışmasında, çevrimiçi reklamlarda farklı reklam kaynaklarının kullanıcının satın almasına etkisini tespit etmek amacıyla bir sistem gerçeklenmiştir. Kullanıcı web sitesi verilerini toplayıp işleyebilmek için web sitesi entegrasyonu sağlanmıştır. Web sitesi üzerinden alınan verilerin saklanması için büyük veri ortamı oluşturulmuştur. Büyük veri ortamına verilerin aktarılması için dağıtık mimariye uygun mesaj akışı yapabilecek sistem kurulmuştur. Toplanan veriler üzerinde ön işlemler uygulanmıştır. Verilerin doğru etiketlenebilmesi ve model başarısını arttırmak için kullanıcı tekilleştirme işlemi yapılmıştır. Kullanıcı tekilleştirme işlemi, farkı cihazlardan gelen kullanıcıların eşleştirilmesini ifade etmektedir. Bu işlemler sonucu toplam 50GB büyüklüğünde ve 2 aylık kullanıcı web sitesi hareketlerini içeren, 65 özellik ve 5 çıkış sınıfı olan veri kümesi elde edilmiştir. Giriş özellikleri kullanıcı reklam ve kampanya bilgileri, satın alım yapılıp yapılmadığı ve sistem ile ilgili bilgileri içermektedir. Çıkış sınıfları ise reklam kanallarıdır. Veri etiketleme için oturum bazlı olarak reklam kanal bilgisi bulunmuş, bu reklam kanal bilgisi ile etiketleme işlemi yapılmıştır. Reklam kanal etki tespit sistemi için, toplanan veriyi işleyebilecek LSTM(Long short-term memory- Uzun-kısa süreli bellek) tabanlı bir derin öğrenme modeli tasarlanmış ve gerçeklenmiştir. LSTM modeli seçilmesinin sebebi zaman serisi veriler üzerinde analizler yapmak üzere geliştirilmiş olmasıdır. İçinde barındırdığı bellek yapısı sayesinde geçmiş verilerden hangisinin değerli olup olmadığını tespit edebilmektedir. Özellik çıkarımı için otokodlayıcı kullanılmıştır.

Otokodlayıcı ile özellik çıkarımı olan LSTM modeli, PCA ile özellik çıkarımı olan LSTM modeli ve özellik çıkarımı olmayan LSTM ve BiLSTM modelleri eğitilmiştir. Tüm modeller için 15, 25, 45 ve 60 günlük veriler ile eğitim yapılmıştır. Eğitimler sonucu en başarılı modelin otokodlayıcı kullanan LSTM modeli olduğu gözlemlenmiştir. Tüm modeller için başarı kıstası olarak uzmanlar tarafından hesaplanan kanal etki analiz sonuçları kullanılmıştır. Eğitim sonucunda zaman aralığına ve reklam kanalına bağlı olarak \%8 ve \%4 aralığında hata oranı ile sonuçlar elde edilmiştir. Sonuçlar değerlendirildiğine 15 ve 60 günlük verilerde beklenen duruma en yakın sonuçlar alınmıştır. Bu durum veri kümesi üzerinde sezonsal değişikliklerin olduğunu göstermiştir.

Eklenen otokodlayıcı modeli bu tez kapsamında yapılan çalışmanın daha önce yapılmış olan LSTM destekli modellerden farklılaşmasını sağlamıştır.

Geliştirilen modelin eğitiminden sonra çıktıların anlık alınabilmesi sağlanmıştır. Haftalar süren kanal etki analizi işleminin anlık alınabilmesi bu sorunun çözümüne önemli katkı sağlamıştır. Sabit bir modelin kullanılması, farklı uzmanlar tarafından alınan farklı sonuçların da oluşmasını önleyerek tek bir model aracılığı ile kanal etki analiz sonuçlarının alınmasını sağlamıştır.

Abstract:
In online advertising, multi-touch attribution and distributing credits is a big challenge for publishers. In the current situation, multi-touch attribution and calculating the effect of interactions is one of the biggest problems encountered while making budget allocations. Different advertising channels are represented by multi-touch attribution. For this reason, when customers see and buy products that they are interested in in different channels, the effect of other channels on purchasing cannot be determined, and as a result, it cannot be calculated exactly how the advertiser will allocate the advertising budget. The current approaches to solving this problem are distributing the budget to the resources after evaluation by experts or using simple statistical methods. The most important problem encountered while applying the existing approaches is that the data size is too large. Due to the size of the data, analyses made with human power are very limited and many details are overlooked. Statistical outputs require weeks for getting results. Another problem is that if users interact with the system from different advertising channels at different times, the effect of these interactions on the whole process cannot be determined effectively. The main reason why this determination could not be made is that the interactions spread over a very long-time interval, the existing analysis tools cannot store all the data, and the existing systems create their outputs according to the last interaction point. The results of the channel impact analysis made by the experts can be change according to the knowledge level of the expert. The main reason of this problem is that there is no concrete method for channel effect analysis.

In this thesis, a system has been implemented for determining the effect of different advertising sources on the user's purchase in online advertisements. Website integration has been provided for collect and process user website data. Big data environment has been implemented to store website data. In order to transfer data to big data environment, a system has been established which can flow messages in accordance with a distributed architecture. Pre-processes has been applied on the collected data. In order to label the data correctly and to increase the success of the model, user singularization process has been applied. User singularization process refers to pairing users who connect website from different devices. As a result of these processes, a dataset of 65 features and 5 output classes was obtained, with a total size of 50GB and containing 2 months of user website movements. The input features contain advertisement and campaign information, conversion information and system information. Output classes are advertising channels. In order to data labeling, session-based advertising channel information has been found and tagging has been performed with this advertising channel information. A deep learning model based on LSTM (Long short-term memory) that can process the collected data has been designed and implemented for the advertising impact detection system. The reason for choosing the LSTM model is that it has developed to analyze time series data. It can determine which historical data is valuable or not with memory structure. Autoencoder has been used for feature extraction. 

LSTM model with feature extraction with autoencoder, LSTM model with feature extraction with PCA, and LSTM and BiLSTM models without feature extraction has been trained. All models have been trained with 15, 25, 45 and 60 days data. Training results has been showed that LSTM model has performed best performance which use autoencoder for feature extraction. Channel effect analysis results calculated by experts has been used as success criteria for all models. As a result of the training, results have been obtained with an error rate between \%8 and \%4 depending on the time interval and the advertising channel. When the results were evaluated, the results closest to the expected situation has been obtained in the 15 and 60-day data. This situation has showed that there are seasonal changes on the dataset.

The added autoencoder model has been differentiated the work done within the scope of this thesis from the previous LSTM supported models.

After the training of the developed model, it has been ensured that the outputs could be taken instantly. The fact that the channel impact analysis process, which took weeks, could be taken instantly, made a significant contribution to the solution of this problem. The use of a fixed model prevented the occurrence of different results obtained by different experts, and enabled channel impact analysis results to be obtained through a single model.