Optimasi multitugas

Optimasi multi-tugas (bahasa Inggris: multi-task optimization) adalah suatu paradigma dalam literatur optimasi yang berfokus pada penyelesaian beberapa tugas mandiri secara bersamaan. Paradigma ini terinspirasi oleh konsep pembelajaran transfer  dan pembelajaran multi-tugas Caruana, R., "Multitask Learning", pp. 95-134 in Sebastian Thrun, Lorien Pratt (eds.) Learning to Learn, (1998) Springer  yang telah lama dikenal dalam analitik prediktif.

Motivasi utama di balik optimasi multitugas adalah jika tugas-tugas optimasi saling terkait satu sama lain dari segi solusi optimalnya atau karakteristik umum dari lanskap fungsinya, kemajuan pencarian pada suatu tugas dapat dialihkan untuk mempercepat pencarian pada tugas lainnya secara signifikan.

Keberhasilan paradigma ini tidak mesti terbatas pada transfer pengetahuan satu arah dari tugas yang lebih sederhana ke tugas yang lebih kompleks. Dalam praktiknya,upaya untuk menyelesaikan tugas yang lebih sulit justru dapat secara tidak langsung memecahkan beberapa permasalahan yang lebih kecil.

Terdapat hubungan langsung antara optimasi multitugas dan optimasi multiobjektif . J. -Y. Li, Z. -H. Zhan, Y. Li and J. Zhang, "Multiple Tasks for Multiple Objectives: A New Multiobjective Optimization Method via Multitask Optimization," in IEEE Transactions on Evolutionary Computation, 

 Metode 
Ada beberapa pendekatan umum untuk optimasi multi-tugas: optimasi Bayesian, komputasi evolusioner, dan pendekatan berdasarkan teori permainan.Gupta, Abhishek; Ong, Yew-Soon; Feng, Liang (2018). "Insights on Transfer Optimization: Because Experience is the Best Teacher". IEEE Transactions on Emerging Topics in Computational Intelligence. 2: 51–64. doi:10.1109/TETCI.2017.2769104. hdl:10356/147980. S2CID 11510470.

 Optimasi Bayesian multitugas 
Optimasi Bayesian multitugas (atau multi-task Bayesian optimization) adalah pendekatan modern berbasis model yang memanfaatkan konsep transfer pengetahuan untuk mempercepat proses optimasi hiperparameter secara otomatis pada algoritma pemelajaran mesin. Metode ini membangun model proses Gaussian multitugas menggunakan data yang berasal dari pencarian berbeda yang berlangsung secara bersamaan. Ketergantungan antar-tugas yang teridentifikasi selanjutnya dimanfaatkan untuk memberikan informasi yang lebih baik dalam pengambilan sampel solusi kandidat berikutnya pada masing-masing ruang pencarian.

 Multitugas berbasis evolusioner 
Multitasking evolusioner (atau evolutionary multi-tasking) telah diteliti sebagai cara untuk memanfaatkan paralelisme implisit dari algoritma pencarian berbasis populasi untuk menyelesaikan beberapa tugas optimasi yang berbeda secara bersamaan. Dengan memetakan semua tugas ke dalam satu ruang pencarian yang terpadu, populasi kandidat solusi yang berkembang dapat memanfaatkan hubungan tersembunyi di antara tugas-tugas tersebut melalui transfer genetik yang berkesinambungan. Proses ini terjadi ketika solusi yang terkait dengan tugas yang berbeda melakukan crossover (persilangan).Gupta, Abhishek; Ong, Yew-Soon; Feng, Liang (2016). "Multifactorial Evolution: Toward Evolutionary Multitasking". IEEE Transactions on Evolutionary Computation. 20 (3): 343–357. doi:10.1109/TEVC.2015.2458037. hdl:10356/148174. S2CID 13767012. Baru-baru ini, beberapa metode transfer pengetahuan selain perpindahan langsung juga telah dieksplorasi.

 Optimasi berdasarkan teori permainan 
Pendekatan teori permainan dalam optimasi multitugas memandang permasalahan optimasi sebagai sebuah permainan yang setiap tugasnya dianggap sebagai pemain. Semua pemain bersaing melalui matriks imbalan (reward matrix) dan berusaha mencapai solusi yang dapat memuaskan semua pemain (semua tugas). Perspektif ini memberikan wawasan tentang bagaimana membangun algoritma yang efisien berdasarkan optimasi penurunan gradien (Gradient descent atau GD), yang sangat penting untuk melatih jaringan saraf dalam atau deep neural networks. 

Dalam GD untuk MTL (Multi-task learning), setiap tugas menghasilkan nilai kerugiannya (loss) sendiri, sehingga menjadi tidak jelas bagaimana menggabungkan semua kerugian tersebut untuk membentuk satu gradien terpadu. Masalah agregasi ini memunculkan berbagai strategi penggabungan.   Permasalahan ini dapat diatasi dengan mendefinisikan matriks permainan, di mana imbalan setiap pemain ditentukan oleh seberapa besar kesesuaian gradiennya dengan gradien bersama. Gradien bersama ini kemudian ditetapkan menggunakan konsep Nash Cooperative Bargaining, sehingga menghasilkan solusi yang adil bagi seluruh tugas dalam sistem tersebut.

 Penerapan 
Algoritma untuk optimasi multitugas mencakup berbagai macam penerapan di dunia nyata. Penelitian terkini menyoroti potensi percepatan optimasi parameter desain rekayasa dengan melakukan perancangan terkait secara bersamaan melalui pendekatan multitugas. Dalam pemelajaran mesin, transfer fitur yang telah dioptimalkan antar dataset yang saling terkait dapat meningkatkan efisiensi proses pelatihan serta memperkuat kemampuan generalisasi model yang dipelajari. Selain itu, konsep multitugas juga telah menghasilkan kemajuan dalam optimasi hiperparameter otomatis untuk model pemelajaran mesin dan pemelajaran ensemble.

Penerapan lainnya juga telah dilaporkan dalam bidang komputasi awan, dengan pengembangan ke depan yang diarahkan pada layanan optimasi berbasis cloud berdasarkan permintaan yang dapat melayani banyak pelanggan secara bersamaan.Gupta, Abhishek; Ong, Yew-Soon; Feng, Liang (2016). "Multifactorial Evolution: Toward Evolutionary Multitasking". IEEE Transactions on Evolutionary Computation. 20 (3): 343–357. doi:10.1109/TEVC.2015.2458037. hdl:10356/148174. S2CID 13767012. Penelitian terbaru juga menunjukkan adanya penerapan dalam bidang kimia. Selain itu, beberapa studi terbaru juga telah menerapkan algoritma optimasi multitugas dalam proses manufaktur industri.

 Lihat juga 

 Optimasi multi-objektif
 Pembelajaran multi-tugas
 Klasifikasi multikriteria
 Analisis keputusan multi-kriteria

 Referensi 

Kategori:Pemelajaran mesin