Makine öğrenmesi ve derin öğrenme yöntemleri ile dizel motor turbo kompresör sisteminin modellenmesi
Modeling of diesel engine turbo compressor system with machine learning and deep learning methods
Yazar: YUSUF CAN
Danışman: PROF. DR. METİN GÖKAŞAN
İstanbul Teknik Üniversitesi / Fen Bilimleri Enstitüsü / Mekatronik Mühendisliği Ana Bilim Dalı / Mekatronik Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2020
Konu: Mekatronik Mühendisliği = Mechatronics Engineering

Özet:
Dizel motorlar, 130 yıla yakın bir süredir kullanılmaktadır. Dizel motorlarda kullanılan motorin yakıtının genellikle benzin fiyatına göre daha ucuz olması, aynı özelliklere sahip olan benzinli bir motorla kıyaslandığında yaklaşık olarak %30 daha az yakıt harcaması,  motorinin tutuşma sıcaklığının benzinin tutuşma sıcaklığından daha yüksek olduğu için yangın tehlikesinin daha az olması, benzinli motorlarda verimin %25-30 civarında olmasına rağmen dizel motorlarda bu değerin %40 oranında olması gibi önemli avantajlar sebebiyle dizel motorlar günümüzde çok fazla tercih edilmektedir. 
Dizel motorların tarihi 18.yüzyılın sonlarına dayanıyor olsa da dizel motorların bilgisayar ortamında modellenmesi ve kontrolü yaklaşık olarak son 20-30 yıllık bir dönemi kapsar. Dizel motorun bilgisayar ortamında matematiksel modellenmesi ile bu dizel motorun sahip olduğu fiziksel yapı bilgisayar ortamına aktarılarak gerekli hesaplamalar ve testler yapılabilir. Burada tüm fiziksel ve kimyasal süreçler kapsamlı bir şekilde ele alınabilir. Modelleme yapılırken motorun sahip olduğu bütün özellikler doğru biçimde bilgisayara aktarılmalıdır. Motoru doğru bir şekilde modellemek, motorun otomatik kontrolü için motorun en verimli ve etkin şekilde çalışmasını sağlayan kontrolörlerin en uygun biçimde tasarlanmasını, laboratuvar ortamında oluşturulamayan fiziksel şartları bilgisayar ortamında simüle etmeyi ve diğer birçok test ve hesaplamaların yapılmasını sağlar.
Motor modeli oluşturulurken birçok fiziksel bölümün karşılığı matematiksel olarak ifade edilebilmektedir. Fakat bu işlemler çok karmaşık ve zorlu olabilmektedir. Bunun yanında bazı alt sistemlerin matematiksel olarak bilgisayar ortamına aktarılması neredeyse imkansızdır. Böyle durumlarda modellenecek olan motor üzerinden laboratuvar ortamında gerçek zamanlı veriler alınarak bu verilerden oluşan haritalar elde edilir ve modele eklenir. Fakat bu işlem için çok yüksek maliyetli bir laboratuvar ortamı gerekmektedir. Okulumuzda bu sistem mevcut olduğu için modellenecek olan motorun gerçek zamanlı verilerini elde edebiliyoruz. Ancak motor üzerinden toplanan veriler bazı durumlarda sınırlı olabilmektedir. Örneğin düşük basınçta motorun nasıl çalışacağını bu haritalar üzerinden göremeyiz. Kısaca bu haritalar üzerindeki veriler çok kapsamlı olmayabilir. Harita tabanlı modellerin çok kapsayıcı olmamasının yanı sıra sürekli zamanlı olarak her noktayı temsil edememe gibi dezavantajları da vardır. Harita üzerindeki ara değerler genellikle enterpolasyon yapılarak tahmin edilir. Harita tabanlı modelleri ortadan kaldırmak ve bunun yerine daha kapsayıcı ve sürekli zamanlı modeller oluşturabilmek bu tez çalışmasının temel hedefi olmuştur.
Bu tez çalışmasında turbo-kompresör sisteminin karmaşık yapısını bilgisayar ortamına aktarmayı sağlayan, gerçek zamanlı veriler ile eğitilen makine öğrenmesi ve derin öğrenme yöntemleri kullanılarak modeller oluşturulmuştur. Turbo kompresör sistemi modellenirken farklı alt bloklardan oluşmaktadır. Mevcut modelde turbo kompresör sistemi için farklı haritalar kullanılmaktadır. Bu tez çalışmasında bu haritaları ortadan kaldırmak ve bunların yerine turbo kompresör sistemini temsil edecek daha kapsayıcı, daha güvenilir modeller koymak esas alınmıştır. Bu tez çalışması kapsamında debi, sıkıştırma oranı ve verimi temsil eden 3 farklı harita ele alınmıştır. Polinom regresyonu yöntemi ve yapay sinir ağları ile modelleme yöntemi bu 3 veri haritasını da modellemek için ayrı ayrı kullanılmıştır. Bu yöntemlerin yanında destek vektör makineleri yöntemi ve karar ağaçları yöntemi sadece harita 3'ü modellemek için kullanılmıştır. Harita 3 diğer haritalara kıyasla daha karmaşık bir yapıya sahip olduğu için daha fazla yöntem kullanarak bu yöntemlerin sonuçları üzerinde durulmuştur.
Tüm bu yöntemlerin sonuçlarını özetleyecek olursak dizel motor turbo kompresör sisteminin makine öğrenmesi ve derin öğrenme yöntemlerini kullanarak modellenmesinde farklı yöntemlerle başarılı sonuçlar alınmıştır. Polinom regresyonu yönteminde farklı dereceden polinomlar üretilmiş ve yüksek dereceli polinomlarda daha başarılı sonuçlar elde edilmiştir. Karar ağaçları yönteminde ise destek vektör makineleri yöntemine göre daha başarılı sonuçlar elde edilmiştir. Ancak karar ağaçları yönteminin yine harita benzeri sürekli zamanlı olmayan bir yapısı olduğunu da göz önünde bulundurmakta fayda vardır.  Bu tez çalışmasında yapay sinir ağları kullanılarak elde edilen modellerin diğer yöntemlere göre daha başarılı sonuçları olmuştur. Bu tez çalışmasında üç veri haritası için de eğitim verilerinin sayısı yeterli olduğu için yapay sinir ağları başarılı olmuştur. Fakat yapay sinir ağları eğitilirken özellikle de çok katmanlı yapay sinir ağları için eğitim verilerinin sayısının çok olmasına ihtiyaç duyulur. Eğer eğitim veri sayısı yeterli düzeyde değilse diğer makine öğrenmesi yöntemlerinin daha başarı olabileceği de unutulmamalıdır.

Abstract:
Diesel engines have been used for nearly 130 years. The diesel fuel used in diesel engines is generally cheaper than the gasoline price, approximately 30% less fuel consumption compared to a gasoline engine with the same features, less fire hazard because the engine's ignition temperature is higher than the ignition temperature of gasoline, although the efficiency of gasoline engines is around %25-30 on the other hand  this value is about %40 in diesel engines, diesel engines are very preferred today because of the these important advantages.
After the advantages of the diesel engine, let's talk briefly about the turbo compressor system, another important subject of this thesis study. This improvement over the power output of a naturally aspirated engine is due to the compressor forcing more air and proportionally more fuel to the combustion chamber than just atmospheric pressure. The purpose of a turbo is to increase engine efficiency by increasing the density of the suction gas (usually air), thereby providing more power per engine revolution. The compressor of the turbocharger draws ambient air and compresses it before entering the intake manifold at increased pressure. This causes more air to enter the cylinders at each entry time. The power required to rotate the centrifugal compressor is derived from the kinetic energy of the engine's exhaust gases. A turbo can also be used to increase fuel efficiency without increasing power. This is achieved by recovering waste energy from the exhaust and feeding it back into the engine inlet. By using this otherwise wasted energy to increase the mass of the air, it becomes easier to burn all the fuel before it is ventilated at the beginning of the exhaust phase. Due to these benefits, turbo compressors are widely used in diesel engines and recently in gasoline engines.
Although the history of diesel engines dates back to the end of the 18th century, modeling and control of diesel engines in computer environment covers a period of approximately the last 20-30 years. With the mathematical modeling of the diesel engine in the computer environment, the necessary physical calculations and tests can be made by transferring the physical structure of this diesel engine to the computer environment. All physical and chemical processes can be comprehensively covered here. While modeling, all features of the engine should be transferred to the computer correctly. Modeling the engine correctly enables the controllers to be designed in the most efficient and efficient way for automatic control of the engine, to simulate the physical conditions that cannot be created in the laboratory, and many other tests and calculations.

While creating the engine model, the equivalent of many physical parts can be expressed mathematically. However, these processes can be very complex and challenging. In addition, it is almost impossible to transfer some subsystems to computer environment mathematically. In such cases, real-time data is obtained in the laboratory environment via the engine to be modeled, and maps consisting of these data are obtained and added to the model. However, this process requires a very high cost laboratory environment. Since this system is available in our school, we can obtain real-time data of the engine to be modeled. However, data collected over the engine may be limited in some cases. For example, we cannot see how the engine will work at low pressure through these maps. In short, the data on these maps may not be very comprehensive. In addition to being not very inclusive, map-based models also have disadvantages such as not being able to represent every point on a continuous basis. Intermediate values on the map are usually estimated by interpolation. The main goal of this thesis is to eliminate map-based models and to create more inclusive and continuous-time models instead. In the literature, mostly models related to combustion reactions outweigh using ANN. The number of studies on modeling of turbo-compressor systems using artificial neural networks is almost nonexistent.
In this thesis, models were created by using machine learning and deep learning methods, trained with real-time data, to transfer the complex structure of the turbocharger system to the computer environment. When modeling the Turbo compressor system, it consists of different sub-blocks. In the current model, different maps are used for the turbocharger system. In this thesis, it is based on eliminating these maps and replacing them with more inclusive, reliable models that will represent the turbocharger system. Within the scope of this thesis, 3 different maps representing flow, compression ratio and efficiency are discussed. Polynomial regression method and modeling method with artificial neural networks were used separately to model these 3 data maps. Besides these methods, support vector machines method and decision trees method were used only to model map 3. Since Map 3 has a more complex structure compared to other maps, the results of these methods are emphasized by using more methods.
If we briefly summarize the application of the methods used. In this thesis, two different polynomials, second and sixth degrees, were produced by applying normalization process to the input values for 3 maps and not normalizing process. While producing second order polynomials, applying normalization to input values did not contribute to improvement. However, when the degree of the polynomial increased, for example, in this thesis study, applying the normalization process to the input values for the sixth degree polynomials significantly increased the learning process. The input values are averaged from the input values for the normalization process. Then normalization was performed by dividing the standard deviation of the input values by three times. Since learning is provided by normalization process, the same process is applied to the data value during estimation using the average and standard deviation values obtained in this normalization and the result is calculated according to these values. In this thesis, Scikit Learn library was used to produce polynomials. The obtained polynomials were arranged in Matlab program and the results were obtained.


If we look at the regression method with the support vector machines applied for Map 3. Firstly, three quarters of the data, which is 35100, the rest of the training is reserved for testing. The data were not normalized and the data was mixed randomly. The functions of the regression support vector machines in the Matlab program were used. Gaussian function was preferred as the kernel. With non-normalized data, it was seen that the education was longer and the results were worse. If the model is trained by normalizing the data, the raw data should be pretreated according to these normalization values and given to the network. However, if we send the non-normalized data into the fitrsvm function used in the Matlab program and activate the standardization process, there is no need to pre-process the data in the prediction phase, since it will perform normalization in itself.

If we look at the regression trees applied for Map 3. Firstly, three quarters of the data, which is 35100, the rest of the training is reserved for testing. The data were not normalized and the data was mixed randomly. Using the functions in the Matlab program, a regression decision tree model consisting of 2165 nodes was obtained.

In the Matlab program for Maps 1 and 2, an artificial neural network model consisting of 32 neuron input layers, 8 hidden layers and 1 exit layer is created. One of the activation functions, hyperbolic tangent was used for the first two layers. Since Map 3 has a more complex structure, the same model has not been shown to be very effective and an additional layer with 4 neurons has been added to increase the accuracy. In addition, since softmax activation functions for map 3 give better results, hyperbolic tangent activation functions were preferred in the first three layers. Levenberg-Marquardt was chosen as the result of all trials in the optimization method in all maps. Learning rate is 0.01, verification control number is 10, maximum iteration number is 5000 and learning target value 〖10〗^(-15).
 
If we summarize the results of all these methods, successful results were obtained with different methods in modeling the diesel engine turbo compressor system using machine learning and deep learning methods. In polynomial regression method, different degrees of polynomials have been produced and more successful results have been obtained in high grade polynomials. In decision trees method, more successful results were obtained compared to support vector machines method. However, it is also worth considering that the decision trees method has a map-like non-continuous structure. In this thesis study, models obtained by using artificial neural networks have had more successful results than other methods. In this thesis, artificial neural networks were successful because the number of training data was sufficient for all three data maps. However, when training neural networks, there is a need for a large number of training data, especially for multi-layered artificial neural networks. If the number of training data is not sufficient, it should be remembered that other machine learning methods may be more successful.