Makine öğrenmesi yöntemleriyle anormal içme suyu tüketimlerinin tespit edilmesi ve tahmin modellerinin geliştirilmesi
Detecting abnormal drinking water consumptions and developing forecast models by machine learning methods
Yazar: İSMAİL GÜNEY
Danışman: DOÇ. DR. İHSAN HAKAN SELVİ
Sakarya Üniversitesi / Fen Bilimleri Enstitüsü / Bilişim Sistemleri Mühendisliği Ana Bilim Dalı
Derece: Yüksek Lisans, 2023
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control ; Bilim ve Teknoloji = Science and Technology ; İstatistik = Statistics

Özet:
Bu çalışmada, içme suyu gibi önemli bir ihtiyacın hane halkı tarafından tüketiminde belirli bir düzen olabileceği gibi, farklı etkenlere bağlı olarak düzensiz tüketimin de olabileceği öngörülmektedir. Artan nüfus, sınırlı içme suyu kaynakları, gelişen alt yapı ve teknoloji, içme ve kullanma suyuna olan talebi artırmıştır. Bu talebi karşılamak için alternatif su kaynakları arayışları olsa da mevcut suların israf edilmemesi ve daha verimli kullanılmasıyla taleplerin karşılanabileceği öngörülmektedir. 
Yapay zekanın (AI) bir alt dalı olan makine öğrenmesi (ML) yöntemleriyle geçmiş dönemlerdeki içme suyu tüketim verileri analiz edilmiş, olağan ve olağan dışı tüketim davranış modelleri çıkarılmıştır. İçme suyu tüketimlerinde meydana gelebilecek anormal tüketimlerin tespit edilmesi ve abonelerin bu konuda bilgilendirilmesi ile hane içindeki tüketimlerin normal tüketim aralığı içinde kalmasının sağlanacağı öngörülmektedir. Günümüz bilişim dünyasında toplanan, kaydedilen ve işlenen veri miktarının önemli ölçüde artmasına rağmen, tam olarak analizlerinin zaman ve imkân açısından zor olduğu bilinmektedir. 
Bu çalışmada Kayseri ili genelinde 2006 – 2022 (ilk 6 ay) tarihleri arasında sayaç endeks okuması 160 dönemden fazla olan 8.224 adet mesken abonesine ait abone, sayaç, tüketim ve tarife verileri dikkate alınmıştır. Veriler konumsal olarak abone temelinde birleştirilmiş, 41 öznitelikli bir veri kümesi oluşturulmuştur. 
Hazırlanan veri kümesi; veri entegrasyonu, veri dönüştürme, gürültü tanımlama ve temizleme, tespit edilen kayıp değerleri tamamlama veya temizleme gibi veri ön işlemleri kullanılarak 24 özellikli bir verisetine dönüştürülmüştür.
Temel istatistiksel değerler ve öznitelik seçimi yöntemleri kullanılarak içme suyu tüketimini etkileyen özniteliklerin her birinin puanları hesaplanmıştır. Özniteliklerin içme suyu tüketimini etkileyip etkilemediği, etkiliyorsa ne kadar etkilediği tespit edilmiştir. Öznitelik seçimlerinde amacı karşılamaya yeterli öznitelik adetinin tespiti açıklanan varyans kriteri (Variance Explained Criteria) oranı %90 alınarak belirlenmiştir. Böylece en az 6 en fazla 11 özniteliğin yeterli olacağı ve her öznitelik seçim yönteminde bu sayıda özniteliğin kalmasını sağlayacak eşik değerler belirlenmiştir.
Aykırı değer tüketim tespit modellerinde kullanılacak en uygun alt veriseti ve tüketimi etkileyen özniteliklerin seçimi için bilgi kazancı (IG), kazanç oranı (GR), simetrik belirsizlik katsayısı (SU), pearson korelasyon katsayısı (r), f-skoru ve rastgele orman (RF) öznitelik seçim yöntemleri kullanılarak belirlenen eşik değerler üzerinden 6 farklı alt veriseti elde edilmiştir. Ayrıca en az 3 öznitelik seçim yöntemiyle seçilen özniteliklerden oluşan 7. alt veriseti elde edilmiştir.
Her bir abone için sayaç sayısı, kullanıcı sayısı, tüketim ölçüm günleri, tüketim tutarları, fatura tutarları ve ödeme durumu verileri farklı olduğundan seçilen öznitelikler ve oluşan alt verisetleri de aboneye özel olarak elde edilmiştir. Her bir abone için veri önişlemleri yöntemleriyle en az 16 en fazla 24 öznitelikli alt verisetler elde edilmiştir.
Bütün verisetler tukey aykırı değer etiketleme (TOL), izolasyon ormanı (IF), z-skor, copula-tabanlı aykırı değer tespiti (COPOD), medyan mutlak sapma (MAD), yerel aykırı değer faktörü (LOF) ve eliptik zarf (EE) olmak üzere 7 farklı ML anomali analizi yöntemi kullanılarak anormal ve normal içme suyu tüketimleri tespit edilmiştir.
Anomali analizleri sonucunda her bir yöntem ile tespit edilen anormal tüketimler puanlanmış, 7 farklı anomali yönteminin puanları toplamı ile her bir anomali tüketim davranışının aykırılık puanı hesaplanmıştır. Aykırılık puanlarına göre bütün tüketim değerleri 4 farklı tüketim sınıfı (Normal, Dikkat, Riskli, Aşırı) ile etiketlenmiş, veriseti gözetimli hale getirilmiştir. Elde edilen gözetimli veriseti kullanılarak karar ağaçları (DT), gaussian naive bayes (NB), k-en yakın komşular (KNN), lojistik regresyon (LJR), çok katmanlı algılayıcı sinir ağı (MLP-NN), RF ve gradient boosting (GB) olmak üzere 7 farklı ML yöntemi ile de tüketim sınıf tahmin modelleri geliştirilmiştir.
Ayrıca geliştirilen modeller Doğruluk, Duyarlılık, Kesinlik, Hassasiyet, Özgüllük, MAE ve MSE performans metrikleri ile karşılaştırılmış, her bir abone için geliştirilen anormal tüketim tespit modellerinden en yüksek Doğruluk oranındaki model en iyi model olarak belirlenmiştir. 
Anormal tüketim tespit modellerinden Doğruluk performansı aynı olanlar Duyarlılık ve Kesinlik oranlarına göre karşılaştırılmış, performansı yüksek olan tercih edilmiştir. Toplamda 921.088 adet model geliştirilmiş, bunlardan 16.077 adeti en iyi model olarak maksimum doğruluk performansı göstermiştir. Modellerin Doğruluk performans oranları en düşük %43, en yüksek %100 ve ortalama %85 olarak tespit edilmiş olup, EE yöntemiyle elde edilen modellerin çoğunlukla en iyi modeller olduğu, Z Skor ve LOF yöntemleri ile elde edilen modellerin çok düşük oranlarda maksimum Doğruluk sağladığı anlaşılmıştır.
Çalışmada elde edilen tüketim sınıfı tahmin modellerinde ise Doğruluk performans metriği %90 ve üzeri olanlar en iyi model olarak tercih edilmiştir. Böylece örneklem olarak alınan 8.224 abonenin 7.150 tanesine (%86,94) ait alt verisetlerinden (V1, V2, V3, V4, V5, V6, V7), diğer 1.074 adet abonenin (%13,06) ise temel verisetinden (V0) en iyi tüketim sınıfı tahmin modellerinin elde edildiği görülmüştür. Her bir aboneye ait geliştirilen maksimum Doğruluk performanslı model en fazla oranda F-Skor öznitelik seçim yöntemi ile elde edilen V5 alt veriseti kullanılarak elde edilmiştir. Diğer alt verisetleri ile de birbirine yakın oranlarda başarılı sonuçlar elde edildiği anlaşılmıştır.
Çalışma sonucunda anormal içme suyu tüketimlerinin ML yöntemleri ile tespit edilebileceği ve tüketim sınıflarının ML yöntemleriyle tahmin edilebileceği ispatlanmıştır. Ayrıca bireysel tüketim davranışlarını etkilemeye yönelik geri dönütler ile içme suyunun israf edilmeden daha verimli kullanılabileceği gösterilmiş, su yöneticilerinin yatırım planlamalarına ve yönetim yaklaşımlarına farklı bir bakış açısı sunulmuştur. Böylece çok yüksek taleplerin üstesinden gelinmesine, kayıp kaçak kullanım potansiyeli olan abonelerin tespit ve takip edilmesine, su tasarrufuna yönelik toplumsal bilincin arttırılmasına katkı sağlayabilecek bir model geliştirilmiştir.

Abstract:
In this study, it is predicted that there may be a certain order in the consumption of an important need such as drinking water by the household, as well as irregular consumption depending on different factors. Increasing population, limited drinking water resources, developing infrastructure and technology have increased the demand for drinking and utility water. There is a search for alternative water sources to meet this demand, but with this study, it is foreseen that these demands can be met by not wasting existing water and using it more efficiently. 
By using machine learning (ML) methods, which is a sub-branch of artificial intelligence (AI), drinking water consumption data in the past periods were analyzed, and ordinary and unusual consumption behavior models were extracted. It is envisaged that by detecting abnormal consumptions that may occur in drinking water consumption and informing the subscribers about this issue, it will be ensured that the consumption in the household remains within the normal consumption range. Although the amount of data collected, recorded and processed in today's IT world has increased significantly, it is known that the exact analysis is difficult in terms of time and cost. 
In this study, subscriber, meter, consumption, bill and payment data of 8,224 residential subscribers, whose water meter index reading is more than 160 periods throughout the province of Kayseri, between 2006 and 2022 (first 6 months) were taken into account. The data are combined on a spatial subscriber basis and a dataset which have 41-features is obtained. Prepared data set; It has been transformed into a 24-featured dataset using data preprocessing such as data integration, data transformation, noise identification and cleaning, and completion or cleaning of detected missing values. The scores of each of the features affecting drinking water consumption were calculated using basic statistical values and feature selection methods. It has been determined whether the features affect drinking water consumption, and if so, how much. 
In feature selections, the determination of the number of features sufficient to meet the purpose was determined by taking the ratio of the variance explained criterion (Variance Explained Criteria) as 90%. Thus, threshold values were determined that minimum 6 and maximum 11 features would be sufficient and that this number of features would remain in each feature selection method.
Information gain (IG), gain ratio (GR), symmetrical uncertainty coefficient (SU), pearson correlation coefficient (r), f-score and random forest (RF) feature selection methods were used for the selection of features affecting consumption. Thus, 6 different sub-datasets were obtained over the determined threshold values. In addition, the 7th sub-dataset at least 3 times selected features which consisting of by the feature selection method was obtained.
The number of meters exchanged for each subscriber, the number of contracted users, the days of consumption measurement, consumption amounts, invoice amounts, payment status data are likely to be different, and the number of features is also considered to be different. Therefore, sub-datasets consisting of the selected features were recorded in the study specifically for each subscriber.
With all datasets, Tukey outlier labeling (TOL), isolation forest (IF), z-score, copula-based outlier detection (COPOD), median absolute deviation (MAD), local outlier factor (LOF), and elliptic envelope (EE) ML anomaly analysis methods have been used. Abnormal and normal drinking water consumptions were determined by using these 7 different ML anomaly analysis methods. As a result of the anomaly analysis, abnormal consumptions detected by each method were scored, and the abnormality score of each anomaly consumption behavior was calculated with the sum of the scores of 7 different anomaly methods. Each observation point detected by each algorithm is weighted with 1 point. Since 7 algorithms are used, a maximum of 7 points will be weighted for each observation point.
According to the outlier scores, all consumption values were labeled with 4 different consumption classes (Normal, Caution, Risky, Extreme), and the dataset was made supervised. With the obtained supervised data sets, consumption class estimation models were developed using decision trees (DT), gaussian naive bayes (NB), k-nearest neighbors (KNN), logistic regression (LJR), multilayer perceptron neural network (MLP-NN), RF and gradient augmentation (GB) methods.
Drinking water consumption prediction models are compared with ACC, R2 performance metrics, and the best prediction model is selected for each drinking water subscriber. Since the consumption data consists of TS data, the first years are education data and the last years are control data, and they are used by dividing them by 90% and 10%.
The error matrices of all anomaly detection models were calculated and evaluated as a basis for the performance measurement between the predictive values and the actual values of the models detecting abnormal drinking water consumption classes. In addition, the developed models were compared with Accuracy, Sensitivity, Sensitivity, Sensitivity, Specificity, MAE and MSE performance metrics. 
Among the abnormal consumption detection models developed for each subscriber, the model with the highest accuracy was determined as the best model. Among the abnormal consumption detection models, those with the same Accuracy performance were compared according to their Sensitivity and Precision ratios, and the one with higher performance was preferred.
A total of 921,088 models were developed, of which 16,077 showed maximum accuracy performance as the best model. The Accuracy performance ratios of the models were determined as the lowest 43%, the highest 100% and the average 85%, and it was understood that the models obtained by the EE method were mostly the best models, and the models obtained with the Z Score and LOF methods provided maximum Accuracy at very low rates.
In the consumption class prediction models obtained in the study, the accuracy performance metric of 90% and above was preferred as the best model. Thus, it was seen that the best consumption class prediction models were obtained from the sub-datasets (V1, V2, V3, V4, V5, V6, V7) of 7,150 (86.94%) of 8,224 subscribers taken as a sample. It was observed that the best consumption class prediction models were obtained from the basic dataset (V0) of the remaining 1,074 subscribers (13.06%).
The maximum Accuracy performance model developed for each subscriber was obtained by using the V5 sub-dataset obtained by the F-Score feature selection method at the highest rate. It has been understood that successful results have been obtained with other sub-datasets at rates close to each other.
As a result of the study, it has been proven that abnormal drinking water consumptions can be determined by ML methods and consumption classes can be estimated by ML methods. In addition, with the feedbacks aimed at influencing individual consumption behaviors, it has been shown that drinking water can be used more efficiently without wasting, and a different perspective has been presented to the investment planning and management approaches of water managers. Thus, a model has been developed that can contribute to overcoming very high demands, detecting and tracking subscribers with potential for loss and illegal use, and raising social awareness for water saving.
The main purpose of the study is to sensitize the subscribers and to reduce the abnormal consumptions in their consumption behaviors, in other words, to reduce them to normal levels. In this case, it is predicted that 139,427 m3 of water will be used with 20% savings in the consumptions in the 'Extreme' class, 154,058 m3 with 15% savings in the consumptions in the 'Risky' class, and 169,402 m3 of water with 10% savings in the consumptions in the 'Caution' class. Thus, a more efficient use of 462,887 m3 of 2.58% water in the system will be achieved.
The study helped to meet the rapidly increasing urban population and water needs. Contributed to the delivery of equitable water services in a world facing increasing water scarcity and environmental degradation. It has been shown what factors can affect drinking and domestic water consumption. It has been shown that there is a regular behavior pattern and seasonality in water consumption. It has been determined that there are periods that disrupt the consumption order. It has been revealed that abnormal consumptions that disrupt the consumption pattern may be caused by meter reading error, lost and illegal consumption, meter measurement error and wasteful consumption. It has been shown that drinking water consumption behavior can be modeled with ML algorithms, which is a sub-branch of AI, and can be disciplined with feedback.
The subject of the study is related to the consumption of drinking and utility water in households and a model has been developed that can be used in all service areas where mass consumption such as electricity, natural gas, internet, GSM is required and where a distribution network, subscriber management system and infrastructure is needed. In addition, these systems include many requirements such as consumption measurements and follow-up, quality controls, fault detection, maintenance and repair follow-up, inspection, cost-reducing measures. From this point of view, it is foreseen that the study can contribute to these areas as well.