Judul: Performance Study of Regression Methods LAD-LASSO and WLAD-LASSO in High Dimensional Data Containing Outliers
Abstrak: Least Absolute Deviation (LAD) merupakan salah satu metode alternatif untuk mengatasi pencilan, namun sangat sensitif terhadap pencilan pada peubah penjelas. Weighted LAD (WLAD) telah diperkenalkan untuk menangani pencilan pada peubah penjelas. Pada beberapa bidang penelitian terkadang memuat peubah penjelas jauh lebih banyak daripada banyaknya amatan, dikenal data dimensi tinggi (p≫n). Kondisi ini dapat menimbulkan masalah multikolinearitas, akibatnya ragam dugaan parameter menjadi besar. Best Subset, Stepwise dan Ridge Regression dapat mengurangi ragam dugaan dengan mengorbankan sedikit bias, namun tidak stabil dalam menduga model dan interpretasi modelnya menjadi lebih sulit jika peubah penjelas yang digunakan sangat banyak. Least Absolute Shrinkage and Selection Operator (LASSO) dapat mengatasinya, namun metode ini sensitif terhadap pencilan. Oleh karena itu diperlukan suatu metode yang robust terhadap pencilan dalam seleksi peubah, seperti LAD-LASSO dan WLAD-LASSO yang berdasarkan pada pendekatan LAD. Penelitian ini bertujuan untuk mengevaluasi kinerja metode LAD-LASSO dan WLAD-LASSO pada data dimensi tinggi dan dimensi rendah yang memuat pencilan. Selanjutnya, menerapkan metode terbaik berdasarkan hasil simulasi untuk mengidentifikasi senyawa aktif sebagai penanda antioksidan pada ekstrak daun sembung. Hasil identifikasi ini dapat dikembangkan sebagai bahan antioksidan alamiah dan berpotensi untuk dikembangkan sebagai bahan obat. Untuk mengevaluasi performa metode LAD-LASSO dan WLAD-LASSO dilakukan kajian simulasi pada data dimensi tinggi (n=50,p=100) dan dimensi rendah (n=50,p=10). Selain itu, kedua metode tersebut juga dibandingkan dengan LASSO. Simulasi menggunakan tiga skenario yaitu tanpa pencilan, pencilan pada peubah respon (5%, 10%, 15%), serta pencilan pada peubah respon (5%, 10%, 15%) dan penjelas (20%). Penelitian ini menggunakan penduga Minimum Regularized Covariance Determinant (MRCD) untuk menghitung bobot pada WLAD-LASSO karena penduga ini dapat diterapkan pada data dimensi rendah maupun dimensi tinggi. Metode terbaik berdasarkan hasil simulasi akan diterapkan pada data ekstrak daun sembung untuk mengidentifikasi senyawa penanda antioksidan dalam ekstrak daun sembung. Dalam hal ini, data akan dibagi menjadi 80% data training dan 20% data testing untuk mencari λ optimum berdasarkan validasi silang. Hasil simulasi menunjukkan bahwa, ketika ada pencilan pada peubah respon, peubah signifikan yang terpilih pada WLAD-LASSO dan LASSO cenderung lebih banyak dibandingkan LAD-LASSO. Tingkat kesalahan prediksi WLAD-LASSO dan LASSO lebih rendah dibandingkan LAD-LASSO. Peubah tidak signifikan yang terpilih pada LASSO > WLAD-LASSO > LAD-LASSO. Ketika pencilan juga terdapat pada peubah penjelas, peubah tidak signifikan yang terpilih pada LASSO lebih banyak dibandingkan WLAD-LASSO dan LAD-LASSO. Hal ini disebabkan oleh penggunaan MKT pada LASSO saat terdapat pencilan menyebabkan LASSO cenderung salah dalam menduga koefisien “0”, sedangkan LAD-LASSO dan WLAD-LASSO berbasis pada meminimumkan jumlah absolut sisaan sehingga lebih robust terhadap pencilan pada peubah respon. Bahkan, adanya bobot w_i pada WLAD-LASSO menyebabkan WLAD-LASSO cenderung lebih robust terhadap keberadaan pencilan pada peubah respon maupun peubah penjelas dibandingkan LAD-LASSO. Selanjutnya, performa LASSO, LAD-LASSO, dan WLAD-LASSO pada data dimensi tinggi menurun dibandingkan pada data dimensi rendah. Selain itu, performa ketiga metode tersebut juga cenderung menurun saat korelasi antar peubah penjelas dan tingkat pencilan meningkat. Hasil eksplorasi data ekstrak daun sembung menunjukkan bahwa data tersebut merupakan data dimensi tinggi yang memuat pencilan sekitar 14,28% pada peubah respon dan sekitar 25,71% pada peubah penjelas. WLAD-LASSO diterapkan pada data ini karena sesuai dengan hasil simulasi yang menunjukkan performa yang baik dalam mengidentifikasi peubah signifikan dengan
Keyword: High dimensional data, LAD-LASSO, multicollinearity, outliers, WLAD-LASSO