## PERFORMANSI PIECEWISE POLYNOMIAL SMOOTH SUPPORT VECTOR MACHINE UNTUK KLASIFIKASI DESA TERTINGGAL DI PROVINSI KALIMANTAN TIMUR TAHUN 2011

## Ita Wulandari
Dosen Sekolah Tinggi Ilmu Statistik

## Abstract
One of most popular techniques of binary data classification in machine learning is Support Vector Machine (SVM). SVM can be applied extensively in many fields, such as pattern  recognition,  regression  analysis,  and  probability  estimation.  SVM  uses optimization  with  quadratic  programming  which  become  unefficient  when  applied  in  a high  dimensional  large  dataset.  Hence, researchers  develop  a method  by changing  SVM formulation with a smoothing technique that called Smooth-SVM (SSVM) which converts quadratic  into  linear  programming.  The  research  then  continued  by  modifying  that smooth  function  into  polynomial  smooth  function  forms,  such  as  quadratic  polynomial function,  fourth  polynomial  function,  piecewise  polynomial  function  and  spline  function. Compared  to  the  other  polynomial  smooth  functions,  piecewise  polynomial  smooth function  has  a  better  performance  in  plus  function.  When  piecewise  polynomial  smooth function is applied in SSVM model, it will produce piecewise polynomial smooth support vector  machine  (PPSSVM).  PPSSVM  has  many  advantages  compared  to  other  SSVM models  and  its  developments  such  as  better  efficiency,  precision  and  higher  accuracy  in generalization. Two PPSSVM model based on piecewise polynomial function are used in this  research  which  found  by  Luo  (PPSSVM1)  and  Wu  and  Wang  (PPSSVM2).  The performance and the convergence of  both  models then will be examined theoretically, in order  to  determine  the  best  model  for  classification  of  underdeveloped  rural  in  East Kalimantan.PODES data in 2011 will be used in this research. Teoritical analysis showed that PPSSVM2 has a better performance and konvergence than PPSSVM1. Based on the result  of  this  study,  PPSSVM2  is  not  batter  than  PPSSVM1.  It  can  be  seen  from  the accuracy and AUC values that are not significantly different.
Key  words :  underdeveloped rural, piecewise polynomial smooth function, SVM, smooth SVM.

## I. PENDAHULUAN
Klasifikasi  merupakan  pengelompokan  obyek  ke  dalam  satu  atau  beberapa kelompok berdasarkan variabel  yang diamati. Metode klasifikasi dapat dilakukan dengan pendekatan  parametrik  dan  pendekatan  nonparametrik.  Dalam  pendekatan  parametrik terdapat  beberapa metode klasifikasi  yang sering digunakan  antara lain:  Analisis  Regresi Logistik,  Analisis  Diskriminan  dan  Analisis  Regresi  Probit.  Regresi  logistik  dan  regresi probit  memiliki  kelemahan,  yaitu  nilai  yang  dihasilkan  model  regresi  logistik  dan  probit berupa  nilai  probabilitas yang  dirasa  kurang  praktis  (Yohannes  and  Webb,  1999).  Pada analisis  diskriminan,  data  diharuskan  memenuhi  beberapa  asumsi  yaitu  data  harus berdistribusi  normal  multivariat  dan  matrik  kovarian  yang  sama  untuk  setiap  populasi (Breiman, Friedman, Olshen, and Stone, 1984).
Dengan  adanya  keterbatasan  metode  klasifikasi  parametrik,  maka  digunakan pendekatan  nonparametrik.  Pendekatan  tersebut  tidak  bergantung  pada  asumsi  tertentu sehingga  memberikan  fleksibilitas  yang  lebih  besar  dalam  menganalisa  data  tetapi  tetap mempunyai  tingkat  akurasi  yang  tinggi  dan  mudah  dalam  penggunaannya.  Beberapa teknik  pemodelan  berbasis machine  learning dikembangkan  untuk  membantu  klasifikasi melalui metode nonparametrik, seperti Multivariate Adaptive Regression Spline (MARS) dan Feed-Forward Neural Network (FFNN), k- Nearest Neighbors (k-NN), Classification Adaptive Regression Tree (CART), Artificial Neural Network (ANN), dan Support Vector Machine (SVM)  (Scholkopf  and  Smola,  2002).  Metode  tersebut  banyak  digunakan  dan dikembangkan karena tingkat akurasi klasifikasi maupun prediksi yang tinggi serta proses komputasi  yang  efisien  (Gajdos,  Tarter,  Bleiweiss,  Herman,  Csepel,  Estabrook,  and Rademaker, 2002; Subashini, Ramalingam, and Palanivel, 2009).
Metode SVM diperkenalkan  untuk  pertama  kalinya  oleh  Vapnik  pada  tahun  1995 dan  sangat  berhasil  melakukan  prediksi,  baik  dalam  kasus  klasifikasi  maupun  regresi. Metode SVM menemukan solusi yang global optimal dan bekerja dengan memetakan data training ke  ruang  berdimensi  tinggi.  Dalam  ruang  berdimensi  tinggi,  akan  dicari klasifikasi  yang  mampu  memaksimalkan margin antara  dua  kelas  data.  Penggunaan metode  ini  berusaha  untuk  menemukan  fungsi  pemisah  yang  optimal  yang  bisa
memisahkan dua set data dari dua kelas yang berbeda atau disebut juga hyperplane terbaik diantara fungsi yang tidak terbatas (Gunn, 1998).
Lee  dan  Mangasarian,  (2001)  menyatakan  bahwa SVM memanfaatkan  optimasi dengan quadratic programming yang apabila digunakan untuk data berdimensi tinggi dan data  dengan  jumlah  besar  menjadi  kurang  efisien.  Oleh  karena  itu  para  peneliti mengembangkan smoothing  technique untuk  mengubah  optimasi  yang  terbatas  menjadi optimasi yang tanpa batas menggunakan formulasi dari SVM standar. Ide yang mendasari SSVM adalah  mengubah  formulasi  primal  SVM menjadi  problem  optimasi  yang smooth dan  bebas  kendala.  Karena  fungsi  objektif  dari  problem  optimasi SVM tidak  memiliki turunan kedua, maka digunakan smooth function untuk mendapatkan fungsi objektif yang dapat  diperoleh  turunanya. SSVM memiliki  sifat  matematik  yang  penting  yaitu kecembungan  yang  kuat  dan  terdiferensialkan  tak  hingga. Smoothing  technique pada solusi SVM telah  diaplikasikan  oleh  Purnami,  Embong,  dan  Zain,  (2008a,  2008b,  dan 2009)  dengan  kesimpulan  bahwa  metode SSVM menghasilkan  akurasi  yang  lebih  baik dibandingkan analisis diskriminan linier, neural network, decision tree, genetic algorithm dan supervised fuzzy clustering .
Lee  dan  Mangasarian  (2001)  menemukan SSVM dengan  menggantikan plus function dengan  integral  dari  fungsi  sigmoid neural  network .  Selanjutnya penelitian berkembang  dengan  mencari smoothing  function yang  lebih  efisien  dari smooth  function yang  telah  ditemukan  sebelumnya.  Beberapa  peneliti  kemudian  memodifikasi smooth function kedalam  bentuk polynomial  smoothing    function .  Yuan  dan  Huang,  (2005) menemukan quadratic  polynomial  function dan fourth  polynomial  function .  Luo,  Lin, Peng,  dan  Zhou,  (2006)  menemukan piecewise  polynomial  function .  Yuan,  Fan,  dan  Pu, (2007)  menemukan spline  function .  Purnami,  dkk  (2009a,  2009b)  membandingkan keempat  fungsi  yang  ditemukan  oleh  peneliti-peneliti  tersebut  pada  permasalahan diagnosis  kanker  payudara.  Hasil  yang  diperoleh  adalah piecewise  polynomial  function mempunyai performansi terbaik.
Penelitian  selanjutnya  dilakukan  oleh  Wu  dan  Wang  (2013)  dengan membandingkan  antara SSVM , Forth  Polynomial  Smooth  Support  Vector  Machine ( FPSSVM ), Three Order Spline Smooth Support Vector Machine ( TSSVM ) dan Piecewise
Polynomial  Smooth Support Vector  Machine ( PPSSVM ). Penelitian tersebut  memberikan kesimpulan bahwa PPSSVM memiliki efisiensi, ketepatan serta akurasi yang terbaik.
Penelitian  Purnami,  dkk  (2009a,  2009b)  serta  Wu  dan  Wang  (2013)  mempunyai kesimpulan yang sama bahwa p iecewise polynomial function mempunyai performasi yang terbaik.  Perbedaan  dari  kedua  penelitian  tersebut  terdapat  pada  p iecewise  polynomial function yang digunakan.
Berdasarkan  keunggulan  kedua  metode PPSSVM tersebut,  maka  penelitian  ini akan  mencoba  mendapatkan  performansi  terbaik  dari  metode  PPSSVM  (Luo,  dkk)  dan PPSSVM PPSSVM (Wu  dan  Wang)  untuk  klasifikasi  desa  tertinggal  di  Provinsi Kalimantan  Timur.  Data  yang  digunakan  berasal  dari  Badan  Pusat  Statistik  (BPS)  dan Kementrian  Dalam  Negeri  (Kemendagri)  tahun  2011.  Dalam  penelitian  ini  metode PPSSVM (Luo,  dkk)  akan  disebut  sebagai PPSSVM1 dan  metode PPSSVM (Wu  dan Wang)  akan  disebut  sebagai PPSSVM2.  Piecewise  polynomial  function (Luo,  dkk)  akan disebut  sebagai piecewise  polynomial  function1 dan piecewise  polynomial  function (Wu dan Wang) akan disebut sebagai piecewise polynomial function2.

## II. METODOLOGI

## Support Vector Machine
Pada  bentuk  yang paling sederhana, SVM memisahkan titik-titik dari kelas  yang berbeda, misalkan kelas {+1} dan {-1} dengan hyperplane tunggal pada ruang berdimensi banyak  yang  pada  akhirnya  partisi-partisi  tersebut  diselesaikan  secara  nonlinier. Hyperplane yang  optimum  diperoleh  melalui  program  nonlinier,  tepatnya quadratic programming (Bertsimas  and  Shioda,  2007). Hyperplane yang  mungkin  dibentuk  dalam memisahkan  objek-objek  dalam  masalah  klasifikasi  dua  kelas  mempunyai decision function sebagai berikut:
( ) ' f x    x w (1)
Diberikan  permasalahan  klasifikasi  dari  sebanyak n objek  dalam  ruang  dimensi R p sehingga susunan data berupa matrik A berukuran n x p dan keanggotaan tiap titik yaitu y i terhadap  kelas  {+1}  atau    {-1}  didefinisikan  pada  diagonal  matriks D berukuran n  xn. Untuk permasalahan klasifikasi dari algorithma SVM standar adalah sebagai berikut
( 2 2 ||.|| SVM ): 1 2 1 2 2 ( , , ) min ' || || p n R v      w y e y w (2)
dengan kendala ( )     D Aw e y e
 y 0
dimana:
v :  Parameter yang ditentukan sebagai pengontrol ( trade off )
y :  Vektor variabel slack berukuran n x 1 yang mengukur kesalahan klasifikasi dan bernilai nonnegatif.
e :  Vektor kolom berukuran n dan bernilai 1.
w :  Vektor normal berukuran p x1 .
 :  Nilai bias yang menentukan lokasi relatif hyperplane terhadap kelas asli.
Hyperplane margin  yang  mungkin  dibentuk  dalam  memisahkan  objek-objek dalam masalah klasifikasi dua kelas secara linier adalah sebagai berikut:
' 0,    x w
(3)
Sehingga  kedua  bidang  memisahkan  dua  kelas  dengan soft  margin yang  ditentukan  oleh variabel slack nonnegatif adalah sebagai berikut:
' 1 ' 1 ' 1 ' 1 i i ii i i ii untuk dan untuk dan  
              x w y x A D x w y x A D (4)
Dimana  vektor x adalah  bagian  dari  matriks A berukuran p  x  1. Dimana i= 1,2,… ,n . Persamaan di atas merupakan kendala bagi fungsi SVM yang dapat ditulis dalam satu persamaan matriks sebagai berikut:
( ) dan      D Aw e y e y 0 (5)
Penyelesaian  persamaan  (1)  akan  mudah  diselesaikan  dengan  meminimumkan fungsi  Lagrange  terhadap w,  ,  y serta  meminimumkan  terhadap  Lagrange multiplier
dan α β .
2 2 1 ( , , , , ) || || ' '( ( ) ) ' 2
L v  
        w y α β w e y α D Aw e e β y (6)
SVM dengan  bidang  pemisah  yang  nonlinier  diperoleh  dengan  mentransformasi formulasi SVM standar sebagai berikut:
'  w A Du
(7)
Dengan  mensubtitusikan  (7)  kedalam  model  (2)  maka  problem  nonlinier diperoleh sebagai berikut:
1 2 2 ( , , )
1 min ' || ' || 2 p n R v     
w y e y A Du (8)
dengan kendala ( ' )     D AA Du e y e
 y 0
Dengan  menggantikan A’A dengan  kernel  nonlinier ( , ') K A A menghasilkan nonlinear generalized SVM adalah sebagai berikut:
1
( , , )
1 min ' ' ' ( , ') 2 p n R v K      w y e y u D A A Du (9)
dengan kendala ( ( ') ) K     D AA Du e y e 

## y 0

## SSVM linier
Pendekatan smoothing Lee dan Mangasarian (2001) menjadikan variabel slack y
menjadi  2-norm  yang  diboboti 2 v .    Dengan  demikian  problem  optimasi  pada SSVM adalah:
  2 , , 1 min ' ' 2 2 v     w y y y w w (10)
dengan kendala ( )     D Aw e y e
,
 y 0
di mana untuk memperoleh solusi problem (10), kendala-kendalanya dapat ditulis sebagai berikut:
( ( ))      y e D Aw e
(11)
Subtitusi  persamaan  (11)  terhadap  persamaan  (10)  menghasilkan  fungsi  objektif  tanpa kendala sebagai berikut:
2
2 2 , 1 min || ( ( )) || ( ' ) 2 2 v        
w e D Aw e w w (12)
Dimana ( )   menggantikan komponen-komponen bernilai negatif dengan nilai nol. Fungsi objektif  dalam  persamaan  (12)  tidak  memiliki  turunan  kedua.  Lee  dan  Mangasarian mengusulkan smoothing  technique yang  menggantikan  fungsi  plus     dengan ( , ) p x  yaitu  integral  dari  fungsi sigmoid  neural  network
1 (1 exp( ))
x     atau  dapat  dituliskan sebagai berikut:
1 ( , ) ln(1 exp( )), 0 p x x x         
(13)
di mana  adalah smoothing parameter .

## SSVM nonlinier
Dalam kasus non linier, dengan memasukkan fungsi kernel pada persamaan (12) maka problem optimasi SSVM non linier adalah sebagai berikut:
1 1 2 2 2 ( , ) ( , ) 1 min ( , ) : min || ( ( ( , ') ), ) || ( ' ) 2 2 u u w e D A A Du e
u u n n R R v p K        
         (14)
Program  optimasi  tersebut  dapat  diselesaikan  dengan  algoritma  Newton-Armijo.  Pada algoritma  Newton-Armijo  diperoleh  nilai w dan  yang  konvergen.  Dengan  demikian decision function yang diperoleh untuk kasus klasifikasi linier adalah :
ˆ ( ) ( ' ), f x sign    x w (15)
Sedangkan decision function untuk kasus klasifikasi nonlinier adalah sebagai berikut:
ˆ ( ) ( ' ) ( ' ' ( , ') ), f x sign sign K     
 x w u D A A w (16)

## Seleksi Parameter
Permasalahan  dari  pemilihan  parameter  terbaik  untuk  membuat  performansi generalisasi  yang  lebih  baik  pada learning  task disebut  seleksi  model.  Metodologi Uniform  Design ( UD )  digunakan  untuk  efisiensi, robust dan  seleksi  model  pada  SVM (Huang,  Lee,  Lin,  and  Huang,  2007).  Pada  penelitian  ini  menggunakan k-fold  cross validation dalam  pembagian  data training-testing .  Metode  ini  melakukan  pengulangan sebanyak k kali untuk membagi sebuah himpunan contoh (sampel) secara acak menjadi k- subset yang saling bebas. Setiap ulangan disisakan satu subset untuk testing dan sisanya digunakan  untuk training .  Hasil  dari  percobaan  dan  pembuktian  teoritis,  menunjukkan bahwa k-fold  cross  validation adalah  pilihan  terbaik  untuk  mendapatkan  hasil  validasi yang akurat (Kohavi, 1995).

## Polynomial Smoothing Function
Penelitian  berkembang  dengan  mencari smooth  function yang  lebih  efisien  dari smooth  function yang  telah  ditemukan  sebelumnya.  Beberapa  peneliti  kemudian memodifikasi smooth function kedalam bentuk polynomial smooth function , yaitu:
1. Quadratic polynomial function
𝑓 1 (𝑥, ℎ) = {
𝑥,                           𝑥 ≥ 1 ℎ ℎ 4 𝑥 2 + 1 2 𝑥 + 1 4ℎ ,      − 1 𝑘 < 𝑥 < 1 ℎ 0,                              𝑥 ≤ − 1 ℎ
(17)
2. Fourth polynomial function
𝑓 2 (𝑥, ℎ) =
{ 𝑥,                                           𝑥 ≥ 1 ℎ
1 16𝑘 (ℎ𝑥 + 1) 3 (ℎ𝑥 − 3),      − 1 ℎ < 𝑥 < 1 ℎ
0,                                            𝑥 ≤ − 1 ℎ
(18)
3. Spline function
𝑓 3 (𝑥, ℎ) = {
0,                                                𝑥 < − 1 ℎ ℎ 2 6 𝑥 3 + ℎ 2 𝑥 2 + 1 2 𝑥 + 1 6ℎ ,              − 1 ℎ ≤ 𝑥 < 0 − ℎ 2 6 𝑥 2 + ℎ 2 𝑥 2 + 1 2 𝑥 + 1 6ℎ ,        0 ≤ 𝑥 ≤ 1 ℎ 𝑥, 1 ℎ < 𝑥
(19)

## 4. Piecewise polynomial function1
Fungsi  yang  diusulkan  oleh  Luo,  dkk  (2006)  ini  dirumuskan  dengan meminimalkan 2- norm pada fungsi error. Persamaan picewise polynomial function adalah sebagai berikut :
𝑓 4 (𝑥, ℎ) =
{ 𝑥,                                                                         𝑥 ≥ 1 ℎ 1 32 (ℎ𝑥 + 1) 3 (ℎ 2 𝑥 3 − 3ℎ𝑥 2 + 𝑥 + 5 ℎ ),          − 1 ℎ < 𝑥 < 1 ℎ
0,                                                                            𝑥 ≤ − 1 ℎ (20)

## 5. Piecewise Polynomial Function2
Pada  penelitian  Wu  dan  Wang  (2013) piecewise  polynomial  function yang digunakan berbeda dengan yang digunakan Luo, dkk (2006).
3 2 5 3 2 1 0, , 3 3
1 1 , 0, 2 3 3 ( , ) 3 1 1 , 0 , 2 3
3 1 , , 3 x h h x x h h f x h x h x x h h x x h   
                                 
(21)

## Performansi Fungsi
Untuk  mengetahui  performansi  suatu  fungsi  dapat  dilakukan  dengan  melihat selisih antara smooth function dengan plus function . Pada penelitian ini digunakan Lemma yang pernah digunakan pada penelitian sebelumnya.
Lemma 1 (Lee dan Mangasarian, 2001):
1 ( , ) log(1 exp( )), 0 p x x x          ,  dan x  adalah plus  function .  Untuk x R  dan x   , maka akan diperoleh hasil sebagai berikut:
(i) ( , ) p x x    ; (ii) 2 2 2 0,| | , ( , ) ( ) (log 2 / ) (2 / )log 2. p x p p x x          

## Kekonvergenan Fungsi
Analisis  kekonvergenan  pada  penelitian  ini  dilakukan  dengan  membuktikan bahwa  problem  optimasi  kedua  metode PPSSVM dapat  mendekati  problem  optimasi metode SVM standar  ketika h mendekati  tak  hingga.  Definisi  dan  Teorema  yang digunakan adalah sebagai berikut:
Definisi 1 (Boyd, 2004) :
(i) Triangle inequaltity :
( ) ( ) ( ) f x y f x f y    (ii) Homogeniti dari norm
( ) | | ( ) f tx t f x x R and t R    
(iii) Subset x dari euclidean  space R n disebut compact jika x adalah closed  and bounded .
Teorema 1 (Lee dan Mangasarian, 2001) Jika mxn R  A ,
1 mx R  γ , definisi dari fungsi riil
( ) : n f R R  x
dan  ( , ) : n g R N R    x adalah sebagai berikut:
  2 2 2 2 1 1 ( ) 2 2 f     x Ax γ x (22)
    2 2
2 2 1 1 , , 2 2 g p      x Ax γ x (23)
dengan 0   , maka:
(i)      ( ) f x dan ( , ) g  x adalah convex function .
(ii) * x adalah solusi unik untuk   min n x R f  x dan *  x juga merupakan solusi unik dari   min , n x R g   x
(iii) Untuk 0    maka akan diperoleh pertidaksamaan:
2 * * 2 log 2 log 2 2 2 v                      x x (24)
Dimana  didefiniskan:
  * 1 max i i m      Ax γ
(iv) * x dan *  x memenuhi * * lim     x x (25)

## Evaluasi Performansi Klasifikasi
1. Akurasi, sensitivity dan specificity
Ukuran  ketepatan  klasifikasi  dapat  dilihat  dari  akurasi  klasifikasi.  Akurasi menunjukkan  performansi  teknik  klasifikasi  secara  keseluruhan,  semakin  tinggi  akurasi klasifikasi berarti semakin baik performansi teknik klasifikasi.
Tabel 1. Confusion Matrix Untuk Hasil Klasifikasi Biner Kelas sebenarnya Kelas prediksi Positif Negatif Positif tp fn Negatif fp tn Akurasi klasifikasi (%) = tp tn tp fp tn fn     (26)
Sensitivity (%) = tp tp fn  (27)
Specificity (%) = tn fp tn  (28)

## 2. Kurva ROC ( Receiver Operating Characteristics )
Kurva ROC adalah  gambaran  dua  dimensi  dari  kinerja  suatu  pengklasifikasian. Suatu  metode  yang  umum  digunakan  untuk  menghitung  nilai  kinerja  dari pengklasifikasian  adalah  dengan  menghitung  luas  daerah  dibawah  kurva ROC ,  disebut dengan Area  Under  the  Receiver  Operating  Characteristics  Curve ( AUC ).  Nilai AUC selalu  berada  diantara  0  dan  1.  Untuk  suatu  kurva ROC yang  memadai,  maka  letaknya selalu berada di daerah sebelah atas dari garis diagonal (0,0) dan (1,1), sehingga tidak ada nilai AUC yang lebih kecil dari 0,5.

## Tabel 2. Kategori Pengklasifikasian Berdasarkan Nilai AUC Nilai AUC
Model diklasifikasikan sebagai 0.90 – 1.00 Exellent 0.80 – 0.90 Good 0.70 – 0.80 Fair 0.60 – 0.70 Poor 0.50 – 0.60 Fail
Sumber: (Mohanty et al., 2011)

## JURNAL APLIKASI STATISTIKA DAN KOMPUTASI STATISTIK

## Sumber Data
Data yang digunakan dalam penelitian ini adalah data sekunder. Variabel respon berasal dari Kemendagri yaitu status ketertinggalan desa pada Profil Desa dan Kelurahan 2011:  Data  Dasar  Tipologi  Klasifikasi,  Kategori  Desa  Kelurahan  (2012).  Variabel prediktor  berasal  dari  BPS  yaitu  data  PODES  Provinsi  Kalimantan  Timur  Tahun  2011, yaitu  rasio  jumlah  SD,  rasio  jumlah  SMP,  rasio  jumlah  dokter,  rasio  jumlah  bidan, persentase  sarana  kesehatan,  rasio  jumlah  toko/warung  kelontong,  rasio  jumlah  pasar tanpa  bangunan,  rasio  jumlah  koperasi,  persentase  keluarga  yang  tinggal  di  pemukiman kumuh,  persentase  keluarga  yang  tinggal  di  bantaran/tepi  sungai,  persentase  keluarga petani,  persentase  warga  yang  menerima  jamkesmas/jamkesda,  persentase  keluarga pengguna  listrik,  persentase  rumah  tangga  yang  memiliki  telepon  kabel,  dan  persentase surat  miskin  yang  dikeluarkan  desa.  Penelitian  dilakukan  terhadap  1465  desa  dan pengolahan data dilakukan dengan software MATLAB.

## III. HASIL DAN PEMBAHASAN

## Analisis Performansi Smoothing Function
Pada  tahap  awal  akan  dipaparkan  perbandingan  performansi  dari smoothing function terhadap plus  function pada piecewise  polynomial  function1 dan piecewise polynomial  function2 .  Teorema  yang  akan  digunakan  berdasarkan  pada  penelitian  Yuan, dkk (2007).
Teorema 2 . Piecewise polynomial function1, 4 ( , ) f x h mempunyai sifat:
(i) 4 ( , ) f x h mempunyai turunan kedua terhadap x.
(ii) Untuk semua , x R  4 ( , ) ; f x h x  
(iii) Untuk semua , x R  maka 2 2 2 4 1 ( , ) 28 f x h x h   
Pembuktian:
(i) Turunan pertama dan kedua dari 4 ( , ) f x h adalah sebagai berikut:
𝑓 4 (𝑥, ℎ) =
{
𝑥,                                                                    𝑥 ≥ 1 ℎ 1 32 (ℎ𝑥 + 1) 3 (ℎ 2 𝑥 3 − 3ℎ𝑥 2 + 𝑥 + 5 ℎ ),    − 1 ℎ < 𝑥 < 1 ℎ
0,                                                                        𝑥 ≤ − 1 ℎ
Sehingga:
2 3 3 2 2 4 1 1,
,
1
1 1
( , ) ( 1) (6 12 2 16), , 32 1 0, x h f x h hx h x h x hx x h h x h
 
                  (29) 2 5 3 4 2 3 2 4 1 0,
,
1
1 1 ( , ) ( 1)(3 3 3 3 ), , 32 1 0, x h f x h hx h x h x h x h x h h x h  
                 
(30)
Sehingga diperoleh kesimpulan bahwa 4 ( , ) f x h mempunyai turunan kedua terhadap x.
(ii) Untuk membuktikan 4 ( , ) f x h x   , maka pembuktiannya adalah sebagai berikut:
Jika 1 1 x h h    maka, dengan mengunakan persamaan
4 3 2 3 2 1 5 ( , ) ( 1) ( 3 ) 32 f x h hx h x hx x h      4 2 3 3 2 2
1 '( , ) ( 1) (6 12 2 16) 32 f x h hx h x h x hx      ' 1 ( , ) 0 k f h   
Hal tersebut mengindikasikan bahwa 4 ( , ) f x h monoton naik, Sehingga 4 ( , ) ( ) f x h x  
Untuk mencari titik monoton 4 ( , ) ( ) f x h x   menggunakan persamaan:
4 ( ) ( , ) ( ) Q x f x h x    Jika 1 1 x h h    maka:
4 3 2 3 2 ( ) ( , ) ( ) 1 5 ( 1) ( 3 ) 32
Q x f x h x x hx h x hx x h                ' 2 3 3 2 2 1
( ) ( 1) (6 12 2 16) 1 32 Q x hx h x h x hx      
Kemudian gunakan turunan kedua dari ( ) Q x 5 3 4 2 3 2 1 ''( ) ( 1)(3 3 3 3 ) 0 32 Q x hx h x h x h x h      
2 1 ( 1)( 1) 0 32 hx hx    
Sehingga ( ) Q x monoton naik pada 1 1 , h h      dan jika 1 1 h h x    diperoleh 4 ( , ) ( ) f x h x  
(iii) Jika x<  h atau 1 h x  ,  maka  nilai  dari 4 ( , ) f x h dan  x + adalah  sama,  sehingga
2 2 4 ( , ) 0 f x h x    Jika 1 1 h h x    ,  untuk  mendapatkan  hasil,  maka a ditransformasi  menjadi a=hx ,   0,1 a  . Sehingga 2 2 4 ( ) ( , ) s x f x h x        2 3 2 3 2 2
5 1 32 1 3 h hx h x hx x x           ,
Setelah mensubsitusi a=hx ke dalam persamaan di atas diperoleh:
    2 2 6 3 2 2
1 704 ( ) ( ) 1 3 5 704 h s x s a a a a a a              (31)
Untuk   0,1 a   ,  titik  optimum  pada s(a) adalah 5 3.984 10 a x   .  Sehingga
2 2 4 2 1 ( ) ( , ) 28 s x f x h x
h    
Performansi piecewise  polynomial  function2 terhadap plus  function dibuktikan oleh  Wu  dan  Wang  dalam  penelitiannya  juga  berdasarkan  teorema  pada  penelitian  dari Yuan dkk (2007).
Berdasarkan  hasil  pada  Lemma  1,  Theorema  1  dan  hasil  penelitian  Wu  dan Wang, maka diperolah perbandingan performansi dari smoothing function adalah sebagai berikut:
Teorema  3 (Lee  dan  Mangasarian,  2001) . Jika 1 k   ,  dan h>0 .  Maka  hasil  dari performansi smoothing function adalah:
(i) Jika smooth function yang didefiniskan pada (12) diperoleh:
2 2 2 log 2 2 ( , ) log 2 p x h x h h           
  2 2 2 1 1 log 2 2log 2 0.69267 h h    (32)
(ii) Jika smooth function yang didefiniskan pada (20) diperoleh:
2 2 4 2 2 1 1 ( , ) 0.03571
28 h f x h x h     (33)
(iii) Jika smooth function yang didefiniskan pada (21) diperoleh:
2 2
5 2 2 1 1 ( , ) 0.00463 216 h f x h x h     (34)
Theorem  3  menunjukkan  bahwa piecewise  polynomial  function2 mempunyai performasi  yang  lebih  baik  dibandingkan piecewise  polynomial  function1 untuk plus function x + . Ketika h mempunyai nilai yang pasti, maka akan sangat mudah mendapatkan perbedaan  dari smooth  function di  atas.  Untuk  menunjukan  secara  jelas  perbedaan performansi smooth function dengan plus function, maka kita gunakan h=10 untuk semua fungsi tersebut dan hasilnya dapat dilihat pada Gambar 1.
Gambar 1. Perbandingan performansi smoothing  function (h=10) Pada  Gambar  1  terlihat  bahwa piecewise  polynomial  function2 lebih  mendekati pada  kurva plus  function. Hal  tersebut  menunjukkan  bahwa piecewise  polynomial function2 mempunyai  performansi  yang  lebih  baik  dibandingakan  dengan  fungsi  yang lain.

## Konvergensi Model PPSSVM
Pembuktian  untuk  konvergensi  dari  model PPSSVM1 dan PPSSVM2 akan diperoleh ketika problem optimasi kedua model tersebut mendekati model awal pada (11), yaitu ketika h mendekati tak hingga. Teorema untuk polynomial function yang diterapkan pada model SSVM dikembangkan oleh Yuan, dkk (2007).
Teorema  4. Jika mxn R  A , 1 mx R  γ ,  definisi  dari  fungsi  riil ( ) : n f R R  x dan
4 ( , ) : n g h R N R   x adalah sebagai berikut:
  2 2 2 2 1 1 ( ) 2 2 f     x Ax γ x (35)
    2 2 4 4 2 2 1 1 , ,
2 2 g h f h    x Ax γ x (36)
dengan 1 h   , maka:
Jika 4 ( , ) f x h adalah piecewise polynomial function1 , hasil yang diperoleh adalah:
(i) ( ) f x dan 4 ( , ) g h x adalah convex function .
(ii) * x adalah  solusi  unik  untuk   min n R f  x x dan * h x juga  merupakan  solusi  unik  dari   4 min , n R g h  x x
(iii)     Untuk 1 h   * x dan * h x keduanya memenuhi:
2 * * 2 2 1 2 28 h v h 
       x x (37)
(iv) * x dan * h x memenuhi * * lim h h   x x (38)
Pembuktian:
(i) : n f R R  , dan 0 1   
Dengan  melihat  pertidaksamaan  pada triangle  inequality dan  persamaan  pada homogeneity of a norm , maka:
1 2 1 2 1
2 ( (1 ) ) ( ) (1 ) ) ( ) (1 ) ( )
f f f f f               x x x x x x
Sehingga ( ) f x adalah convex function .
Pembuktian terhadap 4 ( , ) g h x dapat dilakukan dengan langkah yang sama.
(ii) ( ( )) v L f x adalah level  set dari ( ) f x . 4 ( ( , )) v L g h x adalah level  set dari 4 ( , ) g h x .
Ketika 4 ( , ) f x h x   , maka akan didapatkan:
  2 4 2 (( ( , ) ( ( )) | 2 v v
L g h L f v    x x x x
Oleh  karena  itu, ( ( )) v L f x dan 4 ( ( , )) v L g h x adalah compact  subset pada  R n .
Dengan menggunakan sifat convexity pada ( ) f x dan 4 ( , ) g h x untuk 0 h  , maka diperoleh  solusi  unik   min n x R f  x untuk ( ) f x dan   4 min , n x R g h  x untuk
4 ( , ) g h x .
(iii) Dengan  menggunakan first  order  optimization dan  mempertimbangkan  sifat
convexity pada ( ) f x dan 4 ( , ) g h x , maka pertidaksamaan yang diperoleh adalah:        2 * * * * * * * 2 1 2 h h h f f f       x x x x x x x
2 * * 2 1 2 h   x x        2 * * * * * * * 4 4 4
2 1 , , , 2 h h h h g h g h g h       x x x x x x x 2 * * 2 1 2 h   x x
Jika  kedua  persamaan  diatas  dijumlahkan  dengan  catatan 4 ( , ) f x h x   maka  akan diperoleh:
        2 * * *
* * * 4 4 2 , , h h h f f g h g h
     x x x x x x                 * * * *
* * 4 4 4 , , , h h g h f g h f g h f       x x x x x x
    * 4 2 2 * 2 2 1 1 , 2 2 h f h      Ax γ Ax γ
Berdasarkan pada hasil (iii) pada Theorema 4.1.1 maka diperoleh:
2 * *
2 2 1 2 28 h v h      
  x x .
Sehingga diperoleh kesimpulan bahwa persamaan (4.12) adalah benar.
(iv) Ketika h mendekati tak hingga pada (4.12), maka diperoleh
2 * * 2 2
1 lim lim
0 2 28 h h h v h            x x Sehingga * * lim h h   x x
Hasil dari (iv) menjelaskan bahwa problem optimasi model PPSSVM1 mendekati model  awal  (11)  ketika h mendekati  positif  tak  hingga,  atau  dengan  kata  lain PPSSVM1 konvergen ke model awal.
Konvergensi PPSSVM2 telah dibuktikan dalam penelitian Wu dan Wang (2013) dengan hasil yang diperoleh adalah:
(i) ( ) f x dan 5 ( , ) g h x adalah convex function .
(ii) * x adalah solusi unik untuk   min n x R f  x dan ** h x juga merupakan solusi unik dari   5 min , n R g h  x x
(iii) Untuk 1 h   * x dan ** h x keduanya memenuhi
2 ** * 2 2 1 2 216 h v h 
       x x (39)
(iv) * x dan ** h x memenuhi ** * lim h h   x x (40)
Hasil dari (iv) ini menjelaskan bahwa problem optimasi model PPSSVM2 mendekati model  awal  (11)  ketika h mendekati  positif  tak  hingga.  Hasil  analisis  teoritis  tersebut menunjukkan  bahwa  model PPSSVM2 mempunyai  performansi  yang  lebih  baik dibandingkan dengan model PPSSVM1 . Hal ini dapat terlihat dari nilai problem optimasi model PPSSVM2 yang  lebih  kecil  dibandingkan  dengan  nilai  problem  optimasi  model PPSSVM1 .
Aplikasi Model PPSSVM untuk Klasifikasi Desa Tertinggal di Provinsi  Kalimantan Timur
Pada  penelitian  ini  fungsi  kernel  yang  digunakan  pada  tahapan  klasifikasi  desa tertinggal  di  Provinsi  Kalimanatan  Timur  adalah  kernel  Gaussian.  Domain  pencarian parameter  pada fungsi kernel Gaussian ditentukan dengan menentukan jarak minimum
antara objek dengan rataan vektor dari matriks yang disusun oleh nilai-nilai kelima belas variabel prediktor.
Tabel 3.  Tingkat Akurasi Model SSVM , PPSSVM1 dan PPSSVM2
Model Parameter Akurasi data training (%) Akurasi data testing (%) Best v Best  [1] [2] [3] [4] [5] SSVM 0.7499 5.05 x 10 -4 90.17 89.38 PPSSVM1 10.000 1.97 x 10 -4 90.20 89.45 PPSSVM2 133.3521 7.65 x 10 -5 90.06 89.59 Keterangan :  Nilai-nilai yang dicetak tebal menunjukkan akurasi tertinggi
Hasil  pengolahan  yang  ditunjukkan  pada  Tabel  3  menunjukkan  bahwa  tingkat akurasi  data testing menggunakan  model SSVM adalah  89,38%  sedangkan  dengan menggunakan  metode PPSSVM1 adalah  89,45%  dan  metode PPSSVM2 sebesar  89,59%. Hal in menunjukkan bahwa penggunaan metode PPSSVM2 menghasilkan akurasi tertinggi untuk  data testing pada  kasus  klasifikasi  desa  tertinggal  di  Provinsi  Kalimantan  Timur menggunakan  data  PODES  2011.  Berdasarkan  ulasan  di  atas  maka  akan  dicontohkan model PPSSVM2 untuk data terpartisi 90:10 adalah sebagai berikut:
Model PPSSVM2
ˆ ( ) ( ( )) ( ' ) f x sign g x sign     x w ( ) ' ' ( , ) training testing g x K    u D A A ' (1.319 146) (146 1) (1.319 1.319) (1.319 1) 0.41019 1 0 0
0 6.50612 0 1 0 0 1.25309 0 0 1 0 . ( , ) (0.114136) ' . . 0.05606 0 0 0 1
training testing x x x x K    
          
                          
 
        A A dengan ( ) ( ) 2 ( , ) training testing i training i testing K     A A A A
5 ( ) ( ) 2
7.65 x 10 i training i testing     A A
maka diperoleh:
(146 1)
' 1 1 1 ( ) ' . . . 1 x g x       
        
 
 
    
Sehingga g(x) merupakan  vektor  baris  berukuran 1  x  (jumlah  data  testing) dan masing-masing  tanda  positif  atau  negatif  setiap  komponen  vektor  tersebut  merupakan prediksi untuk klasifikasi desa tertinggal di Provinsi Kalimantan Timur Tahun 2011.

## Evaluasi Performansi Klasifikasi
Evaluasi  klasifikasi  berdasarkan  nilai  akurasi, sensitivity dan specificity dapat ditunjukkan pada Tabel 4. Tingkat akurasi untuk model SSVM dan kedua model PPSSVM secara umum lebih dari 90%, hanya pada data terpartisi 80:20  tingkat  akurasinya kurang dari  nilai  tersebut.  Selain  itu  pada  model SSVM data  terpartisi  90:10  nilai  akurasinya sebesar 88,36%, nilai ini relatif berbeda dengan kedua model lainnya dengan nilai akurasi sebesar 90,41%.
Nilai specificity pada  data testing 40%  dan  50%  untuk  model SSVM dan  kedua model PPSSVM mempunyai  nilai  yang  lebih  kecil  dibandingkan  dengan  kelompok  data testing lainnya. Nilai specificity pada kelompok tersebut dibawah 80%.  Sedangkan untuk kelompok  data testing lainnya  nilai  s pecificity diatas  84%.  Apabila  dilihat  dari  rata-rata nilai  s pecificity ,  maka  model PPSSVM1 mempunyai  rata-rata  nilai  s pecificity tertinggi sebesar 85,85%.
Sebuah classifier yang  baik  umumnya  memiliki sensitivity maupun specificity yang sama-sama tinggi. Ketiga metode yang digunakan dalam penelitian ini memenuhi hal tersebut pada kelompok data terpartisi 80:20 dengan nilai sensitivity dan specificity di atas 88%.
Tabel 4. Sensitivity dan Specitifity Klasifikasi SSVM , dan PPSSVM1 dan PPSSVM2
Evaluasi Performansi Partisi SSVM (%) PPSSVM1 (%) PPSSVM2 (%) [1] [2] [3] [4] [5] Akurasi 90:10 88.36 90.41 90.41 80:20 88.05 89.07 89.08 70:30 91.57 92.48 91.80 60:40 90.78 91.46 91.30 50:50 92.08 92.35 92.62 Rata-rata 90.17 91.15 91.04 Sensitivity 90:10 72.50 72.50 72.50 80:20 88.81 88.81 89.44 70:30 94.72 95.05 94.39 60:40 95.63 95.86 96.09 50:50 96.64 96.82 97.17 Rata-rata 89.66 89.81 89.92 Specificity 90:10 94.34 97.17 97.17 80:20 87.12 89.39 88.64 70:30 84.56 86.76 86.03 60:40 76.82 78.81 77.48 50:50 76.51 77.11 77.11 Rata-rata 83.87 85.85 85.29
Keterangan  :  Nilai-nilai  yang  dicetak  tebal  menunjukkan  akurasi, sensitivity , specificity tertinggi pada setiap kelompok data.
Tabel 5. Luas Area di bawah kurva ROC Hasil Klasifikasi SSVM , dan PPSSVM1 dan PPSSVM2
Evalusi Performansi Partisi SSVM PPSSVM1 PPSSVM2 [1] [2] [3] [4] [5] AUC 90:10 0.834 0.848 0.848 80:20 0.880 0.891 0.890 70:30 0.896 0.909 0.902 60:40 0.862 0.873 0.868 50:50 0.866 0.870 0.871 Rata-rata 0.868 0.878 0.876 Keterangan  : Nilai-nilai yang dicetak tebal menunjukkan nilai AUC tertinggi pada setiap kelompok data.
Secara umum berdasarkan Tabel 5 kinerja metode SSVM diklasifikasikan sebagai ‘ good’ .  Sedangkan  pada  metode PPSSVM1 dan PPSSVM2 klasifikasi  kinerjanya  adalah ‘exellent’ pada  data  terpartisi  70:10,  pada  partisi  lainnya  klasifikasi  kinerjanya  adalah ‘good’ .  Metode PPSSVM1 pada  dasarnya  mempunyai  performansi  yang  lebih  baik dibandingkan  dengan  metode  lainnya,  hanya  saja  pada  penelitian  ini  metode PPSSVM1
dan PPSSVM2 dapat  dikatakan  sama  baiknya  dalam  menentukan  klasifikasi  desa tertinggal di Provinsi Kalimantan Timur Tahun 2011. Hal tersebut dapat dilihat dari rata- rata nilai AUC pada metode PPSSVM1 dan PPSSVM2 yang relatif sama.

## IV. KESIMPULAN DAN SARAN

## Kesimpulan
1. Analisis  secara  teoritis  menunjukkan  bahwa  performansi piecewise  polynomial function2 lebih baik dibandingkan dengan piecewise polynomial function1 . Selain itu konvergensi  metode PPSSVM2 memberikan  hasil  yang  lebih  baik  dibandingkan dengan PPSSVM1 .  Sehingga  secara  teoritis  dapat  disimpulkan  bahwa  metode PPSSVM2 adalah metode terbaik.
2. Evaluasi performansi model klasifikasi dengan menggunakan nilai akurasi sensitivity, spesitifity dan  nilai  AUC.  Berdasarkan  pada  penelitian  ini  metode PPSSVM1 dan PPSSVM2 dapat dikatakan sama baiknya untuk klasifikasi desa tertinggal di Provinsi Kalimantan  Timur  Tahun  2011.  Hal  tersebut  dilihat  dari  rata-rata  nilai AUC yang relatif sama. Berdasarkan nilai AUC secara umum metode PPSSVM1 dan PPSSVM2 mampu  mengklasifikasikan  desa  tertinggal  di  Provinsi  Kalimanatan  Timur  Tahun 2011  dengan  baik,  atau  dengan  kata  lain  kinerja  metode  tersebut  diklasifikasikan sebagai ‘good’ .

## Saran
1. Pada  penelitian  berikutnya  dapat  mempertimbangkan  untuk  menambah  variabel prediktor lebih banyak agar hasil yang dicapai menjadi lebih baik, misalnya variabel- variabel  yang  berhubungan  dengan  faktor  alam/lingkungan,  faktor  kelembagaan, faktor  sarana/prasarana,  dan  faktor  sosial  ekonomi  penduduk  yang  belum  digunakan dalam penelitian ini.
2. Pada  penelitian  ini  kasus  yang  digunakan  adalah  desa  tertinggal  di  Provinsi Kalimantan  Timur  Tahun  2011.  Hasil  yang  diperoleh  menunjukkan  bahwa  metode PPSSVM2 cenderung  tidak  bisa  meningkatan  performansi  secara  signifikan  dan
hasilnya  tidak  dapat  disimpulkan  secara general .    Untuk  itu  dalam  penelitian selanjutnya dapat digunakan data simulasi.

## DAFTAR PUSTAKA
Agresti, A. (2006), An Introduction to Categorical Data Analysis 2 nd Ed, John Wiley & Sons: New Jersey.
Anguita,  D.,  Ghelardoni,  L.,  dan Ghio,  A.,  (2012).  The  ‘K’  in  K -fold  Cross  Validation. ESANN  2012  proceedings,  European  Symposium  on  Artificial  Neural  Network, Computational Intelligence and Machine Learning. Bruges (Belgium) .
Bertsimas, D.dan Shioda, R. (2007), Clasification and Regression Via Integer Optimazion,
Journal of Operation Research, Vol 55, No.2, hal 252-271.
Dirjen  Pemberdayaan  Masyarakat  Desa  (PMD)  Kemendagri,  (2012), Profil  Desa  dan Kelurahan  2011:  Data  Dasar  Tipologi,  Klasifikasi,  Kategori  Desa  dan Kelurahan Menurut Provinsi , Dirjen PMD Kemendagri, Jakarta.
Faraggi,  D.,  dan  Reiser,  B.  (2002),  Estimation  of  The  Area  Under  The  ROC  Curve, Journal of Statistics in Medicie, Vol. 21, hal 3093-3106.
Huang, C.M., Lee, Y.J., Lin D.K.J., dan Huang, S.Y. (2007), Model selection for support vector machine via uniform design, Computational Statistics and Data Analysis, Vol. 52. hal. 335-346.
Hsu,  C.W.,  Chang,  C.  C.,  dan  Lin,  C.  J.  (2008).  A  practical  guide  to  Support  Vector Classification, Taipe: Information Engineering National Taiwan University.
Kohavi,  R.  (1995),  A  Study  of  Cross-Validation  and  Bootstrap  for  Accuracy  Estimation and  Model  Selection, Appears  in  the  International  Joint  Coference  on  Artificial Intelligence (IJCAI), 1995.
Lee,  Y.J.,  dan  Mangasarian,  O.L.  (2001),  A  Smooth  Support  Vector  Machine, Jurnal  of Computational Optimization and Applications 20:5-22.
Luo, L., Lin, C., Peng, H. dan Zhou, Q. (2006), A Study on Piecewise Polynomial Smooth Approximation to The Plus Function, In Proceedings of The ICARCV.
Mangasarian,  O.L.,  dan  Musicant,  D.R.  (1999),  Succesive  Overrelaxation  for  Support Vector Machines, IEEE Transactions on Neural Network, 10, hal. 1032 – 1037.
Metz, C.E. (2006), Receiver Operating Characteristic Analysis: A Tool for the Quantative Evolution  of  Observer  Performance  and  Imaging  Systems, Journal  of  Amerian College of Radiology, Vol.3, hal. 413 – 422.
Mohanty,  A.K.,  Beberta,  S.,  dan  Lenka,S.K.  (2011).  Classifying  Benign  and  Malignant Mass  using  GLCM  and  GLRLM  based  Texture  Features  form  Mammogram, International Journal of Engineering Research and Applications (IJERA), Vol.1, hal 687-693.
Purnami,  S.W.,  Embong,  A.,  Zain,  J.M.,    dan  Rahayu,  S.P.  (2009a),  A  Comparison  of Smoothing  Function  In  Smooth  Support  Vector  Machine,  W ill  Be  Presented  in International Conference on Software Engineering & Computer Systems .
Vapnik, V. (1995). The Nature of Statistical Learning Theory, Springer-Verlag, New York Wu,  Q.,  dan  Wen  Qing,  W.  (2013).  Piecewise-Smooth  Support  Vector  Machine  for
Clasification, Hindawi  Publishing  Corporation  Matematical  Problems  in Engineerin, Volume 2013, Article ID 135149.
Yuan,  Y.,  dan    Huang,  T.  (2005).    A  Polynomial  Smooth  Support  Vector  Machine  for Classification, Springer-Verlag, Berlin Heidelberg ,  LNAI 3584: 157-164.
,  Yan  J.,  dan    Xu,  C.  (2005),  Polynomial  Smooth  Support  Vector  Machine (PSSVM), Chinese Journal of Computers, 28: 9-17.