KINERJA METODE EXTREME LEARNING MACHINE (ELM) PADA SISTEM PERAMALAN
* Bain Khusnul Khotimah, ** Eka Mala Sari R, *** Handry Yulianarta Jurusan Teknik Informatika, Fakultas Teknik, Universitas Trunojoyo Madura Jl. Raya Telang PO. BOX 2 Kamal, Bangkalan, Madura 69192 E-mail: * bainkk@gmail.com

## Abstrak
Metode Extreme Learning Machine (ELM) merupakan salah satu metode pembelajaran baru dari jaringan syaraf tiruan.  Metode  ini  memiliki  tingkat  pembelajaran  yang  lebih  baik  dibandingkan  dengan  metode  konvensional lainnya berdasarkan perhitungan hasil nilai error yang diukur menggunakan nilai MSE ( Mean Square Error ) dan MAPE  ( Mean  Absolute  Percentage  Error ).  Berdasarkan  hasil  uji  coba  menggunakan  metode  ELM  diperoleh nilai  MSE  dan  MAPE  terkecil  dibandingkan  dengan  menggunakan  algoritma Backpropagation .  Dimana  dari metode  ELM  diperoleh  hasil  percobaan  menggunakan  konfigurasi hidden layer  berjumlah  4,  epoch  1000, pengaturan range antara -0,4 – 0,4 menghasilkan rata-rata nilai MSE = 1,100% dan MAPE = 0.31%. Sedangkan proses  pembelajaran  menggunakan  metode  B ackpropagation dengan  parameter  perubahan hidden layer berjumlah  4,  E-poch  maksimal  3000  ,  dan  pengaturan  momentum  0,4  mencapai  nilai  yang  terbaik.  Parameter tersebut menghasilkan nilai error yang cukup baik saat sistem melakukan pengujian yaitu MSE = 3.1933% dan MAPE = 0,96 %.
Kata kunci : metode pembelajaran , Extreme Learning Machine (ELM), MSE, MAPE

## Abstract
Method of Extreme Learning Machine (ELM) is one of the new learning method of neural networks. This method has a better learning rate compared to other conventional methods based on the calculation results of the error value is measured using the MSE (Mean Square Error) and Mape (Mean Absolute Percentage Error). Based on the  test  results  obtained  using  the  method  of  ELM  and  Mape  smallest  MSE  value  compared  using Backpropagation  algorithm.  Where  the  method  of  ELM  dipeoleh  experimental  results  using  a  hidden  layer configuration consists of 4, epoch 1000, setting the range between -0.4 - 0.4 MSE value = 1.100% and Mape = 0.31%. While the process of learning using the backpropagation method with a parameter change in the hidden layer  consists  of  4,  E-Poch  maximum  of  3000,  and  setting  the  momentum  0.4  achieved  the  best  value.  These parameters generate the error value is quite good during the system test that is MSE = 3.1933% and Mape = 0.96%.
Key words: Forecasting, Extreme Learning Machine (ELM), MSE, MAPE

## PENDAHULUAN
Peramalan  adalah  prediksi  atau  perkiraan  apa yang  akan  terjadi  di  masa  yang  akan  datang. Proses  peramalan  merupakan suatu  unsur  yang sangat  penting  dalam  pengambilan keputusan, sebab  efektif  tidaknya  suatu  keputusan  sering
kali    dipengaruhi    beberapa  faktor  yang  tidak tampak pada saat keputusan itu diambil [1].
Peramalan  bertujuan    untuk    mendapatkan perkiraan  atau    prediksi    yang    bisa meminimumkan    kesalahan    dalam  meramal yang  biasanya  diukur  dengan Mean  Square Error.
Extreme  Learning  Machine merupakan  metode pembelajaran  baru  dari  jaringan  syaraf  tiruan. Secara umum, masalah peramalan dapat dinyatakan  dengan  sejumlah  data  runtun  waktu ( time series ) [2].
Metode  ini  pertama  kali  diperkenalkan  oleh Huang  (2004).  ELM  merupakan  jaringan  syaraf tiruan  feedforward  dengan  single  hidden  layer atau  biasa  disebut  dengan Single  Hidden  Layer Feedforward  neural  Networks (SLFNs)  Metode pembelajaran  ELM  dibuat  untuk  mengatasi kelemahan-kelemahan dari jaringan syaraf tiruan feedforward  terutama  dalam  hal learning  speed. Huang et  al mengemukaan  dua  alasan  mengapa JST feedforward lain mempunyai leraning speed rendah,  pada  ELM  parameter-parameter  seperti input  weight dan hidden  bias dipilih  secara random, sehingga ELM memiliki learning speed yang  cepat  dan  mampu  menghasilkan good generalization performance. Metode ELM mempunyai  model  matematis  yang  berbeda  dari jaringan  syaraf  tiruan  feedforward.  Model matematis dari ELM lebih sederhana dan efektif [3][4].

## TINJAUAN PUSTAKA
Pengenalan  Metode Self  Hidden    Layer Feedforward Network (SLFN) Neural  Networks (NN)  merupakan  salah  satu contoh model nonlinear yang mempunyai bentuk fungsional fleksibel dan  mengandung  beberapa parameter  yang  tidak  dapat  diinterpretasikan seperti pada model parametrik. Salah satu bentuk model  NN  yang  banyak  digunakan  untuk berbagai  aplikasi  adalah Feedforward  Neural Networks (FFNN).  Bentuk  umum  FFNN  yang digunakan  untuk  peramalan  runtun  waktu univariat  pada  umumnya  adalah  FFNN  dengan satu  lapis  tersembunyi  dan  satu  unit neuron di lapis output (SLFN) . Estimasi parameter ( weight ) model  ini  dilakukan  dengan  menerapkan algoritma backpropagation pada suatu optimisasi Nonlinear Least Squares [4].
Hasil  kajian empiris menunjukkan  bahwa algoritma  ini  dapat  bekerja  dengan  baik  dalam menentukan  arsitektur  terbaik  yang  diterapkan untuk  peramalan  runtun  waktu.  Hasil-hasil empiris berkaitan dengan perbandingan ketepatan  ramalan  antara  model SLFN dengan model-model runtun waktu yang lain menunjukkan bahwa tidak ada jaminan bahwa
SLFN selalu  memberikan  hasil  yang  terbaik. Selain  itu,  kajian  e mpiris tentang  pemrosesan awal data juga telah dilakukan dan menunjukkan bahwa pemilihan metode pemrosesan awal data yang tepat dapat secara signifikan meningkatkan  ketepatan  ramalan dari SLFN [5].
Metode Extreme Learning Machine  (ELM)
Extreme Learning Machine merupakan metode pembelajaran baru dari jaringan syaraf tiruan.  Metode  ini  pertama  kali  diperkenalkan oleh  Huang. ELM merupakan  jaringan  syaraf tiruan feedforward dengan single hidden layer atau biasa disebut dengan Single Hidden Layer Feedforward neural Networks (SLFNs) Metode  pembelajaran ELM dibuat  untuk mengatasi kelemahan-kelemahan dari jaringan syaraf  tiruan i terutama  dalam  hal learning speed. Huang et  al mengemukaan  dua  alasan mengapa  JST  feedforward  lain  mempunyai leraning speed rendah [3], yaitu : 1. menggunakan slow  gradient  based learning  algorithm untuk  melakukan training .
2. semua parameter pada jaringan ditentukan  secara iterative dengan menggunakan metode pembelajaran tersebut.
Pada ELM parameter-parameter  seperti input weight dan hidden bias dipilih secara random , sehingga ELM memiliki learning speed yang cepat dan mampu menghasilkan good generalization  performance. Metode ELM mempunyai  model  matematis  yang  berbeda dari jaringan syaraf tiruan feedforward . Model matematis  dari ELM lebih  sederhana  dan efektif.  Berikut  model  matrematis  dari ELM . Untuk N jumlah sample yang berbeda ( Xi , ti ).
Xi = [ Xi 1 , Xi 2 ...., Xi n ] T € R n Xt = [ Xt 1 , Xt 2 ...., Xt n ] T € R n , (1)
Standart SLFNs dengan  jumlah hidden nodes sebanyak N dan activation  function g ( x ) dapat  digambarkan  secara  matematis  sebagai berikut :
    i N i b i i j i N i i o x w g x g i       1 1 ,   (2)
β = H * T (3)
Dimana : w =  merupakan  vektor  dari  weight  yang menghubungkan i th hidden nodes  dan input nodes.
β i = merupakan weight vector yang menghubungkan i th hidden dan output nodes. b i = threshold dari i th hidden nodes. w i x j =  merupakan inner produk dari w i dan x j Konfigurasi  sederhana  algoritma ELM dapat dijelaskan pada Gambar 1. dibawah ini:
Gambar 1. Arsitektur ELM
H  diatas  adalah hidden  layer output  matrix  g (w i •  x i +b 1 )  menunjukkan output dari hidden neuron yang berhubungan dengan input i x . β merupakan matrix dari output  weight dan  T matrix dari  target  atau  output  .  Pada ELM input weight dan hidden bias ditentukan secara acak,  maka  output  weight  yang  berhubungan dengan hidden layer [6].
Dalam  proses  testing ELM Berdasarkan input weight dan output weight yang didapatkan dari proses training , maka tahap selanjutnya adalah melakukan peramalan dengan ELM . Data yang digunakan  adalah  data testing sebanyak  20% dari  data.  Pada  tahap  ini  data input dinormalisasi  terlebih  dahulu  dengan range dan rumus normalisasi yang sama dengan data training . Secara otomatis output dari proses ini juga harus melalui proses denormalisasi [6].

## PERANCANGAN SISTEM
Pada  tahap  ini  membahas  proses  perancangan pada metode neural network Extreme Learning  Machine  (ELM) yang  meliputi Proses  Pelatihan  dan  Prose  uji  coba  sehingga mampu  menghasilkan  nilai  peramalan  yang diinginkan [5].
Gambar 1. Flowchart umum ELM
Output layer (predict forecast) Hidden layer Input layer (independent var) Input data training,jml hidden neuron, dan fungsi aktivasi Input data testing, bobot input, Bobot bias dan bobot output Output data training dan Data testing Input data parameter Predict jml pengguna Output bobot input,Bias, bobot output Mulai Selesai Apa MAPE <=1%, MSE <= 1 ? Ya Tidak Proses Autokorelasi Pelatihan data Pengujian data Bobot terbaik Hasil Ramalan Proses Normalisasi
                   
     n t t t n t k t t t k Y Y Y Y Y Y r 1 2
Proses  uji  coba  yang  dilakukan  ditunjukkan pada  Gambar  1.  menentukan  kinerja  sistem yang berhubungan dengan parameter:
perubahan  jumlah hidden layer ,  perubahan error , dan perubahan range .
Ukuran Kesalahan Peramalan Untuk mengevaluasi harga parameter peramalan, digunakan ukuran kesalahan peramalan.  Harga  parameter  peramalan  yang terbaik  adalah  harga  yang  memberikan  nilai kesalahan  peramalan  yang  terkecil.  Terdapat berbagai  macam  ukuran  kesalahan  yang  dapat diklasifikasikan  menjadi  ukuran  standar  dalam statistik  dan  ukuran  relatif.  Ukuran  kesalahan yang  termasuk  ukuran  standar  statistik  adalah Nilai  rata-rata  kesalahan  kuadrat  (M ean Squared  Error ).  Ukuran  kesalahan  yang termasuk  ukuran  relatif  adalah  nilai  rata-rata kesalahan  persentase  ( Mean  Percentage  Error ) dan  nilai  rata-rata  kesalahan  persentase  absolut (Mean Absolute Percentage Error).
Di bawah ini adalah persamaan-persamaan yang  dapat  digunakan  untuk  menghitung masing-masing  ukuran  kesalahan  ( error )  untuk peramalan tersebut [6].
Nilai Rata-Rata Kesalahan Kuadrat
MSE = n e n i i   1 2 (4)
Nilai Rata-Rata Kesalahan Persentase MPE = n PE n i i   1 (5)
PE i = % 100 i i i X F X  (6)
Nilai Rata-Rata Kesalahan Persentase Absolut
MAPE = n PE i n i   1 (7)
dengan :
n : jumlah periode waktu data
e i : kesalahan pada periode waktu i X i : data pada periode waktu i F i : ramalan untuk periode waktu i MSE : nilai rata-rata kesalahan kuadrat PE i : kesalahan persentase pada periode i
MPE : nilai rata-rata kesalahan persentase MAPE  : nilai rata-rata kesalahan persentase absolut

## HASIL DAN PEMBAHASAN
(1) Kinerja Metode ELM ( Extreme Learning Machine)Berdasakan Parameter
Untuk  mengetahui  metode  mana  yang  terbaik dilakukan uji t pada selisih akurasi metode ELM dan Backpropagation untuk mengetahui metode mana  yang  lebih  baik  pada  tingkat error tertentu berdasarkan set parameter hidden layer , e-poch , range dan momentum.
Pada  uji  coba  set  data  time  series  yang atributnya  dependent  dimana  hubungan  antar atribut membutuhkan proses autokorelasi [2].Data  yang  di  proses  berdasarkan  waktunya akan  diproses  berdasarkan  rumus  autokorelasi sehingga didapatkan time lags atau waktu yang bersignifikan  dengan  waktu  yang  diramalkan. Kemudian  data  tersebut  pada  waktu  yang bersignifikan  tersebut  akan  menjadi  data masukan  pada  proses  pelatihan  jaringan  syaraf tiruan.
Rumus untuk mencari fungsi autokorelasi : (8)
Keterangan:
Y t =data baru atau nilai aktual pada periode t r k = nilai signifikan
Berdasarkan proses perhitungan autokorelasi rk pada  data  yt+2  dan  seterusnya,  diperoleh  nilai lags  rk  >=  0.4  sesuai  Tabel  1.,  data  tersebut dijadikan  input  pada  pelatihan  JST.  Dengan perubahan  parameter hidden layer ,  inisialisasi parameter  pada range data  [-0,4  -  0,4]  dan selang  epoch  1000  diperoleh  hasil  nilai error MSE dan MAPE sesuai Tabel 2, 3.
Tabel 1. Data proses perhitungan Autokorelasi Lags signifikan Lags signifikan r(0,1) 0,1451 r(-0,1) 0,0509 r(0.2) 0,0845 r(-0,2) 0,0438 r(0,3) 0,0025 R(-0,3) 0,0366 r(0,4) 0,9711 r(-0,4) 0,0295 r(0,5) 0,9990 r(-0,5) -0,2476
Tabel  2.  Hasil  uji  coba  perubahan hidden dengan metode ELM Range Hidden Layer E-poch MSE MAPE -0,4 – 0,4 4 1000 3,505  0,6538 -0,4 – 0,4 8 1000 2,470  0,5325 -0,4 – 0,4 12 1000 1,995  0,4342 -0,4 – 0,4 16 1000 3,705  0,6873 -0,4 – 0,4 20 1000 2,673  0,4978 Tabel 3. Hasil Uji coba perubahan hidden dengan metode Backproppagation Momen- tum Hidden Layer E- poch MSE MAPE 0,01 4 1000 8,3253 28,4107 0,01 8 1000 8,2374 28,3005 0,01 12 1000 6,2212 5,9233 0,01 16 1000 5,6336 23,0573 0,01 20 1000 4,8950 14,8739
Pada  tabel  2,3  menunjukkan  nilai MAPE berdasar  perubahan hidden  layer ujicoba pada metode ELM dan BP , dari kelima data set perubahan hidden MAPE ELM mencapai  keakuratan  kesalahan  minimal saat hidden di  set  12  =  0,43  %  sedangkan MAPE  BP mencapai  nilai  keakuratan kesalahan  pada hidden 12  =  5,9%  .  Dan pada data set perubahan hidden MAPE ELM mencapai  keakuratan  kesalahan  terbesar saat hidden di  set  16  =  0,68%  sedangkan MAPE  BP mencapai  nilai  keakuratan kesalahan pada hidden 16 = 23,05%. Hal itu disebabkan random input bobot dan hidden bias di ELM mempengaruhi hasil hidden nya, dan memberikan akurasi kesalahan MAPE yang relatif kecil.
(2)    Kineja  metode ELM Berdasarkan
Perubahan Iterasi
Pada  uji  coba  menggunakan  metode ELM dan Backpropagation ,  Uji  coba  data  dilakukan  5 run . Pada uji metode ELM parameter ditentukan berdasarkan  perubahan  Epoch,  inisialisasi parameter pada range [-0,4 - 0,4], hidden layer 4  dan  epoch  kelipatan  10,  selanjutnya  hasilnya didapatkan nilai akurasi MSE dan MAPE sesuai tabel 4,5.
Tabel  4.  Hasil  uji  coba  perubahan  Epoch  Pada
ELM Range Hidden Layer E- poch MSE MAPE -0,4–0,4 4 10 2,0606  0,6358 -0,4–0,4 4 100 2,9031  0,5782 -0,4–0,4 4 1000  1,6044  0,3377 -0,4–0,4 4 3000  1,2603  0,6695 -0,4–0,4 4 5000  2,6602  0,5051
Tabel  5.  Hasil  uji  coba  perubahan  Epoch dengan metode BP Momen- tum Hidden Layer E- poch MSE MAPE 0,01 4 10 3,5581 1,0376 0,01 4 100 6,2873 1,2685 0,01 4 1000 9,2547 1,5346 0,01 4 3000 3,1933 0,9612 0,01 4 5000  30,6536  1,5603
Pada Tabel 4,5 menunjukkan hasil uji coba ELM dan Backpropagation untuk set perubahan hidden parameter yang digunakan untuk setiap metode  adalah  parameter  yang  menghasilkan error minimal.  Pada  tabel  diatas  ditunjukkan bahwa  dari  5 run ,  metode ELM mengungguli metode Backpropagation sebanyak  5 run .  Hasil terbaik  metode ELM adalah MAPE mencapai 0,3377%pada  Epoch  ke  -1000  sedangkan  hasil terbaik  metode Backpropagation adalah MAPE 0,9612  %  pada  Epoch  ke-  3000.    Jadi  tingkat error yang  dihasilkan  lebih  minimum ELM berdasar  parameter  perubahan hidden layer . Dan  pada  perubahan Epoch  MAPE  ELM mencapai  keakuratan  kesalahan  terbesar  saat Epoch 10  =  0.6358%  sedangkan MAPE  BP mencapai  nilai  keakuratan  kesalahan  terbesar pada Epoch 5000 = 1,56 %.
Berdasarkan  hasil  uji  coba  tersebut MAPE yang dihasilkan metode ELM lebih baik akurasi kesalahannya.  Hal  itu  tersebut  berpengaruh terhadap  BP,  apabila  iterasi/ Epoch semakin kecil  maka  nilai error akan  besar,  dan sebaliknya  bila Epoch besar  maka  nilai error akan  ikut  kecil.  Berdasarkan  uji  coba  metode ELM ditunjukkan pada Gambar  2.
Gambar 2. Form Proses Pelatihan ELM
Dalam hasil uji coba  menunjukkan bahwa nilai keakuratan  kesalahan  lebih  besar    metode Backpropagation daripada  metode Extreme Learning Machine (ELM) . Semakin kecil range bobot random, maka berpengaruh pula terhadap hasil MAPE nya.

## KESIMPULAN
Kesimpulan  yang  dapat  diambil  penulis  dari pembuatan perangkat lunak ini adalah:
1. Pada  metode  ELM  menghasilkan  nilai error  terkecil  dengan  menentukan  nilai bobot  paling  kecil,  berbeda  dengan algoritma  gradien  base  secara  tradisional yang hasilnya mencapai kesalahan
pelatihan minimum tetapi tidak mempertimbangkan besarnya bobot.
Sehingga  kinerja  ELM  memiliki  unjuk kerja yang lebih baik.
2. Pada proses peramalan menggunakan  metode ELM  skenario terbaik dengan menggunakan parameter perubahan hidden layer berjumlah
4 (empat), E-poch maksimal 1000,
pengaturan Range antara -0,4 – 0,4 mencapai nilai  yang  terbaik.  Parameter  tersebut menghasilkan jumlah iterasi yang memiliki
nilai error yang  cukup  baik  saat  sistem melakukan  pengujian  yaitu  sebesar MSE = 1,99%  dan MAPE =  0.4342  %.  Sedangkan pada metode Backpropagation proses feedforward  dan  backward  menentukan pembobotan  secara  random  untuk  bobot input dan hidden  bias menghasilkan  nilai MAPE =  0.31,  MSE    =  0,96  %  pada backpropagation menunjukkan  persentase metode ELM tingkat kesalahannya lebih kecil daripada metode backpropagation .

## DAFTAR PUSTAKA
[1] Subagyo, P. Forecasting Konsep dan
Aplikasi . BPFE. Yogyakarta : 1986. [2] Kusumadewi, Sri,  Artificial Intelligence (Teknik dan Aplikasinya) , Graha Ilmu,
Yogyakarta, 2003. [3] G.-B. Huang, Q.-Y. Zhu, C.-K. Siew,
Extreme learning machine: a new learning scheme of feedforward neuralnetworks, in: Proceedings of the International Joint Conference on Neural Networks (IJCNN2004), Budapest, Hungary, 25–29 July 2004.
[4]  G.-B. Huang, Q.-Y. Zhu, and C.-K. Siew, “Extreme learning machine: Theory and applications,” Neurocomputing , vol. 70, pp.489–501, 2006.
[5]  Dwi Agustina Irwin Penerapan Metode Extreme Learning Machine untuk Peramalan Permintaan . Sistem Informasi- ITS Surabaya, Indonesia, 2009.
[6]  Dwi Prastyo, Dedy., Peramalan Menggunakan Metode Eksponensial Smoothing , Jurusan Statistika Institut Teknologi Sepuluh November, Surabaya, 2010.