Derin pekiştirmeli öğrenme tabanlı enerji maliyeti optimizasyonu
Energy cost optimization based on deep reinforcement learning
Yazar: MUSTAFA MUTLU
Danışman: DR. ÖĞR. ÜYESİ GÜRKAN IŞIK
Bursa Teknik Üniversitesi / Lisansüstü Eğitim Enstitüsü / Endüstri Mühendisliği Ana Bilim Dalı / Endüstri Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control ; Endüstri ve Endüstri Mühendisliği = Industrial and Industrial Engineering ; Enerji = Energy
Dizin: Enerji optimizasyon modeli = Energy optimization model ; Enerji sektörü = Energy sector ; Yapay zeka = Artificial intelligence

Özet:
Türkiye'nin de içinde yer aldığı gelişmiş ve gelişmekte olan ülkelerde elektrik üretimi ve tedariki alanında lisans sahibi işletmeler enerji ticareti operasyonlarını enerji piyasalarında gerçekleştirmektedir. Enerji piyasalarında etkin bir şekilde ticari operasyonları sürdürebilmek önemli derece enerji sektörü bilgisi ve yüksek efor gerektirmektedir. Özellikle ana iş kolu enerji olmayan büyük sanayi kuruluşları için bu sektör bilgisine sahip olmak ve bu işlemleri etkin bir şekilde yönetmek oldukça zordur. İşletmeler her gün sabah bir sonraki günün 24 saatine ait tüketim ve üretim planlaması yapmak zorundadır. Planda yaşanan sapmalar için ise gün içi piyasasında ticaret yapılmaktadır. İşletmeler gün içi piyasasında plandan sapmalar için ticaret yapabildikleri gibi kâr amacıyla alım satım işlemleri de yapabilmektedir. Ay içerisinde yapılan tüm ticari faaliyetlerin sonucunda piyasadan satın alınan elektrik miktarı, piyasaya satılan elektrik miktarı, şebekeden çekilen elektrik miktarı, şebekeye verilen elektrik miktarı ve plandan yaşanan sapmalarla birlikte toplam enerji maliyetleri hesaplanmaktadır. Taleplerinin üzerinde elektrik üretimi yapan işletmeler yaptıkları talep fazlası satış ile buradan gelir de elde ederken tükettikleri enerjinin maliyetini ağırlıklı olarak kendi elektrik üretim maliyetleri belirlemektedir. Gün öncesi piyasalarda etkin ticaret yapabilmek için en önemli yaklaşım elektrik fiyatının düşük olduğu saatlerde elektrik talebini şebekeden karşılamak, yüksek olduğu saatlerde ise üretebilecekleri maksimum kapasite ile içerde üretim yapmaktır. Gün öncesi piyasaları arz ve talebin eşleşmesi usulüne dayalı olarak bir sonraki günün 24 saatini oluşturan tek seferlik bir teklif ile çalıştığı için kolaylıkla yönetilebilir durumdadır. Ancak gün içi piyasalar yapısı gerekli sürekli emir gönderilen ve emirlerin takip edilmesi gereken dinamik bir piyasadır. Plandan sapmaların en uygun fiyatlar ile kapatılması ve gelir artıcı işlemlerin yapılması toplam enerji maliyetinin düşürülmesinde önemli bir etkiye sahiptir.
Bu çalışmada, gün içi piyasalarında etkin ticaret yapabilmek için pekiştirmeli öğrenme destekli enerji ticaret stratejisi belirleme mekanizması geliştirilmiştir. Mevcut piyasa robotları kural tabanlı yapıda çalışmaktadır. Önerilen mekanizmanın, enerji piyasalarındaki alım satım dengesinin sağlanması ve firmaların enerji alım satım operasyonlarında maliyet optimizasyonunun sağlanması konularında önemli katkıları olacağı düşünülmektedir. Oluşturulacak mekanizma, makine öğrenmesi destekli analitik kabiliyetleri sayesinde, piyasalardaki enerji maliyetine ilişkin öngörü oluşturabilecektir. Bu öngörü, enerji maliyetini azaltacak piyasa stratejisini belirleme ve uygulama noktasında tutarlı bir davranış ortaya çıkmasına katkı sunacaktır.  Yapılan çalışmanın diğer bir önemli motivasyonu ise ülke elektrik şebekelerinin stabilitesinin sağlanması ve elektrik kalitesinin arttırılmasına yapacağı katkıdır. Enerji ticaret stratejisi belirlemiş ve buna uygun olarak enerji piyasalarında analitik bir şekilde ticaret yapan firmaların oluşması sayesinde elektrik hatlarındaki yük dengesizlikleri azaltılabilir.
Çalışma kapsamında EPİAŞ şeffaflık platformunda yayımlanan gün içi piyasalarında gerçekleşen işlem akışı ve fiyatlar üzerinde etkisi olan diğer verilerden faydalanılarak gün içi piyasalarında alım satım işlemlerini otonom bir şekilde gerçekleştiren derin pekiştirmeli öğrenme modeli geliştirilmiştir. Modelin işlem trendini belirlemesine yardımcı olmak amacıyla yine EPİAŞ şeffaflık platformunda yayımlanan verilerden faydalanılarak gün öncesinden bir sonraki günün dengesizlik fiyatlarına etki eden sistem marjinal fiyatı aralık tahmini yapılmıştır. Belirlenen model firmalar tarafından belirlenen limitler içerisinde otonom bir şekilde işlem yaparken limitlerin dışarısında kalan senaryolar için karar destek sistemi vazifesi görmektedir.

Abstract:
In developed and developing countries, including Turkey, companies holding licenses in the field of electricity generation and supply carry out their energy trading operations in energy markets. Maintaining effective commercial operations in energy markets requires significant energy sector knowledge and high effort. Especially for large industrial enterprises whose main line of business is not energy, it is very difficult to have this sector knowledge and to manage these transactions effectively. Every day in the morning, enterprises have to plan consumption and production for 24 hours of the next day. Deviations from the plan are traded in the intraday market. Enterprises can trade in the intraday market for deviations from the plan or they can trade for profit. As a result of all commercial activities during the month, the amount of electricity purchased from the market, the amount of electricity sold to the market, the amount of electricity pulled from the grid, the amount of electricity supplied to the grid and the total energy costs are calculated together with the deviations from the plan. While the enterprises that generate electricity above their demand also earn income from the excess sales they make, the cost of the energy they consume is mainly determined by their own electricity generation costs. The most important approach for efficient trading in day-ahead markets is to meet the electricity demand from the grid during the hours when the price of electricity is low, and to generate within the grid with the maximum capacity they can produce during the hours when the price of electricity is high. Day-ahead markets are easily manageable as they operate with a one-time auction for 24 hours of the following day based on the matching of supply and demand. However, the intraday market is a dynamic market where orders are sent continuously and need to be monitored. Closing deviations from the plan with the most favorable prices and making revenue enhancing transactions have a significant impact on reducing the total cost of energy.
In this study, a deep reinforcement learning based energy trading strategy determination mechanism has been developed for efficient trading in intraday markets. Existing market robots are rule-based. The proposed mechanism is expected to make significant contributions in ensuring the trading balance in energy markets and cost optimization in energy trading operations of firms. Thanks to its machine learning supported analytical capabilities, the mechanism to be created will be able to generate predictions about the cost of energy in the markets. This prediction will contribute to the emergence of a consistent behavior in determining and implementing a market strategy that will reduce the cost of energy.  Another important motivation of the study is contributing to the stabilization of the country's electricity networks and the improvement of electricity quality. Load imbalances in electricity lines can be reduced by the formation of firms that have determined an energy trading strategy and trade analytically in energy markets accordingly.
Within the scope of the study, a deep reinforcement learning model that autonomously executes trading transactions in the intraday markets has been developed by utilizing the transaction flow in the intraday markets published on the EPİAŞ transparency platform and other data that have an impact on prices. In order to help the model, determine the trading trend, the system marginal price range estimation, which affects the imbalance prices of the next day from the day before, was made by utilizing the data published on EPİAŞ transparency platform. While the model operates autonomously within the limits set by the firms, it acts as a decision support system for scenarios outside the limits.