Perbandingan Algoritma Regresi Logistik, Support Vector Machine , dan Gradient Boosting Pada Analisis Sentimen Data Komentar Siswa
Novita Ranti Muntiari 1  ) , Kharis Hudaiby Hanif 2) , Indah Chairun Nisa 3)
1,3) Sistem Informasi, Politeknik Bisnis Kaltara, Tarakan, Indonesia
1 novitaranti@poltekbiskal.ac.id
3 indahcn@poltekbiskal.ac.id
2) Teknik Komputer, Universitas Borneo Tarakan, Tarakan, Indonesia hudaiby21@borneo.ac.id
Abstract—  Digital  Teacher  Assessment  (DITA)  application used in teaching evaluations. In carrying out evaluations, there is no classification in using the DITA application, so that schools know  that  students'  comments  on  teachers  are  positive  or negative.  Using  the  DITA  application,  students  provide comments  to  the  teacher.  Comments  will  be  grouped  into negative,  positive  and  neutral.  Sentiment  analysis  is  used  to group comments based on their groups. Next lexicon based and words  are  counted  using  TF-IDF  and  evaluated.  In  this research, an algorithm is used Support Vector Machine (SVM), gradient  boosting,  and  logistic  regression.  So,  the  research results  compare  the accuracy  of  the  three  algorithms  with  the algorithm gradient boosting has an accuracy rate of 97.5% has high  accuracy.  So,  it  can  be  concluded  that  the  algorithm gradient  boosting  in  student  comment  data  using  sentiment analysis is better .

## Keywords—Sentiment Analysis, Student, SVM, Gradient Boosting
Intisari— Digital Teacher Assessment (DITA) aplikasi yang digunakan  dalam  evaluasi  pengajaran,  aplikasi  ini  dalam melakukan evaluasi belum adanya klasifikasi dalam mengelompokkan  dalam  menggunakan  aplikasi  DITA,  agar sekolahan tau bahwa komentar siswa terhadap Guru termasuk positif  atau  negatif.  Menggunakan  aplikasi  DITA,  siswa memberikan  komentar  kepada  Guru.  Komentar  akan  di kelompokkan  menjadi  negatif,  positif,  dan  netral.  Analisis sentimen  digunakan  dalam  mengelompokkan  komentar berdasarkan kelompoknya. Selanjutya lexicon based dan kata- kata  dihitung  menggunakan  TF-IDF  dan  dievaluasi. Dalam penelitian ini menggunakan algoritma Support Vector Machine (SVM),  gradient  boosting,  dan  regresi  logistik.  Maka  hasil penelitian  perbandingan  akurasi  dari  tiga  algoritma  dengan algoritma  gradient  boosting  memiliki  tingkat  akurasi  sebesar 97,5% memiliki akurasi tinggi. Maka dapat disimpulkan bahwa algoritma  gradient  boosting  dalam  data  komentar  siswa menggunakan analisis sentimen lebih baik .
Kata kunci—Analisis Sentimen, Siswa, SVM, Gradient Boosting

## I. P ENDAHULUAN
Sekolah  dalam  dunia  pendidikan  diharapkan  semakin memiliki  kontribusi  yang  besar  dalam  mendidikan  dan memberikan layanan pendidikan yang baik untuk siswa. Agar mutu sekolah dan pengajar (Guru) semakin berkualitas maka dilakukan evaluasi pengajaran.
Evaluasi  pengajaran  dilakukan  dalam  menganalisis komentar  siswa  menggunakan  aplikasi Digital  Teacher Assessment (DITA),  apakah  dalam  sistem  pengajaran dianggap baik, kurang ataupun masih perlu ditambahkan dan Komentar akan dikelompokkan menjadi negatif , positif, dan netral. Berasakan komentar selanjutya mennggunakan analisis sentimen  Upaya  untuk  menentukan  pendapat  atau  pendapat dalam  kalimat  dokumen  memiliki  sentuhan  positif  atau negatif pengertian dari analisis sentimen. [1],[2].
Machine  learning yaitu  bagaimana  menggunakan komputer untuk belajar dengan mudah dan cepat. Metode dan algoritma  khusus  digunakan  untuk  memprediksi,  mengenali pola,  dan  klasifikasikan  objek.  Algoritma  dalam machine learning yaitu  KNN, decision  tree,  ,  random forest dan lain sebagainya [3].
Penelitian  menggunakan  algoritma  seperti, regresi logistik,  Support  Vector  Machine (SVM),  dan gradient boosting .  Algoritma regresi  logistic adalah  untuk  melihat bagaimana variabel prediksi dan variabel respons berhubungan  satu  sama  lain  [4]. Salah  satu  algoritma supervised  learning yang  paling  banyak  digunakan  untuk regresi dan klasifikasi adalah algoritma SVM. Dibandingkan dengan metode lainnya, dalam pemodelan klasifikasi, konsep support  vector  machine lebih  maju  dan  lebih  jelas  secara matematis. Selain itu, algoritma ini dapat menangani masalah regresi  dan  klasifikasi  menggunakan  metode  non  linear maupun linear.
Algortma gradient  boosting sering  digunakan  karena skalabilitas  dan  efisiensi  dalam  menyelesaikan  berbagai masalah regresi dan klasifikasi. [5]
Lexicon  based adalah  metode  untuk  menganalisis  tanpa melakukan  pelatihan  sebelumnya  [6].  Daftar  kata  telah ditentukan  sebelumnya  dalam  menggunakan  metode  [7]. Praktis  dan  mudah  digunakan,  ini  pilihan  yang  bagus  untuk melihat  perasaan  orang  dalam  komentar.  [8] . Kata  diberi bobot.  TF-IDF  yaitu  bagaimana  mengubah  data  menjadi numerik setiap fitur atau kaya dari data teks [6].
Penelitian  terdahulu  berjudul  ”Perbandingan  Metode Support  Vector  Machine dan Decision  Tree Untuk  Analisis Sentimen Review Komentar  Pada  Aplikasi  Transportasi Online”  yang  dilakukan  oleh  Khoirul,  dkk  [9]  Tujuan penelitian  adalah  data  ulasan  Google  Play  di  analisis sentiment  dan mengevaluasi keakuratan  metode SVM dalam kelompok ulasan, yaitu positif dan negatif. Lalu menggunakan metode Decision Tree . Hasil penelitian melalui metode SVM nilai akurasi 90,20%, dan metode Decision Tree nilai akurasi 89,80%. Oleh karena itu, Decision Tree nilai akurasinya lebih rendah dari pada SVM.
Penelitian  akan  menganalisis  sentimen  komentar  siswa terhadap  guru  dengan  algoritma  SVM, regresi  logistik, dan gradient  boosting. Dibandingkan  penelitian  sebelumnya, penelitian  ini  menggunakan  proses preprocessing untuk menganalisis  sentimen  komentar  siswa  dan  kemudian menggunakan lexicon untuk menganalisis sentimen. Penelitian  sebelumnya  menggunakan  penentuan  sentimen dengan manual agar dapat mengetahui hasil pengelompokan sentimen  negatif,  positif,  dan  netral.  Selanjutnya,  penelitian ini membandingkan tingkat akurasi masing-masing algoritma dengan menggunakan pembobotan kata TF-IDF.

## II. M ETODOLOGI PENELITIAN
A. Alur Penelitian
langkah-langkah yang tepat diperlukan. Alur penelitian di tunjukkan Gambar 1.
Alur  penelitian  Gambar  1  terdapat  dari  beberapa  tahap, yang masing-masing dijelaskan :
1) Identifikasi Masalah Penelitian ini awalnya melakukan identifikasi masalah. Ini melibatkan  memeriksa  literatur,  menemukan  permasalahan penelitian,  dan  menetapkan  objek  penelitian.  Selanjutanya studi  literatur  yaitu  menggunakan,  mencari,  dan  belajar literatur  tentang  analisis  sentimen,  seperti  buku,  jurnal  dan kertas, dilakukan pada tahap studi literatur. Objek penelitian ini  yaitu  analisis  sentimen  pada  komentar  siswa  dengan menggunakan  algoritma regresi  logistik , SVM , gradient boosting ,  dan lexicon based .  Data  tanggapan  siswa  yang dikumpulan  data  difokuskan.  Data  dikumpulkan  akan dikategorikan  menjadi  netral,  positif,  dan  negatif.  Untuk mengelompokkan  komentar  dalam  kelompok,  analisis sentimen diperlukan.
2) Pengumpulan data
Tahapan  ini  dikumpulkan  data  komentar  siswa. Kemudian, data ini dilabelkan secara manual.
3) Preprocessing
Diharapkan  analisis  sentimen  menjadi  lebih  akurat, proses  menghilangkan noise diperlukan  karena  data komentar  siswa  mengandung  banyak noise .  Gambar  2 menunjukkan rute preprocessing untuk penelitian ini.
4) Lexicon Based
Setelah proses preprocessing selesai, data diklasifikasikan dengan lexicon based . Membagi analisis sentimen menjadi : netral,  positif,  dan  negatif  [10]. Lexicon based hasilnya dibandingkan sentimen manual. Kemudian, visualisasi dibuat dari hasil lexicon based .
5) Pembobotan TF-IDF
Nilai bobot kata TF-IDF dihitung dokumen. Proses yaitu IDF dan TF. IDF ( Inverse Document Frequency ) setiap kata yang  kadang  tampil  dihitung  jumlah  dokumen.  TF  ( Term Frequency )  menghitung  setiap  kata  tampil  dokumen,  dan mencari  jumlah  kemunculan  terbesar  yang  memiliki  nilai tertinggi.  Persamaan  (1)  menunjukkan  rumus  pembobotan kata TD-IDF.
𝑊 𝑡,𝑑 = 𝑡𝑓 𝑡,𝑑 × 𝑖𝑑𝑓 𝑡 = 𝑡𝑓 𝑡,𝑑 × 𝑙𝑜𝑔 𝑁 𝑑𝑓 𝑡 (1)
dimana 𝑊 𝑡,𝑑 adalah  bobot  TF-IDF, 𝑡𝑓 𝑡,𝑑 adalah  jumlah frekuensi kata, 𝑖𝑑𝑓 𝑡 adalah jumlah inverse frekuensi dokumen tiap kata, 𝑑𝑓 𝑡 adalah jumlah frekuensi dokumen tiap kata, dan N adalah jumlah total dokumen.
Perkalian nilai TF dan IDF yang dihasilkan dari TF-IDF. nilai TF-IDF lebih rendah jika, kata sering tampil pada setiap dokumen, dan nilai TF-IDF lebih tinggi jika kata tidak sering muncul  pada  setiap  dokumen.  Pembobotan  TF-IDF  tanpa normalisasi dalam penelitian ini.
Gambar 1. Alur Penelitian
Gambar 2. Alur Preprocessing
JURNAL ILMU KOMPUTER DAN TEKNOLOGI Vol. 4, No. 2, November 2023, pp. 27-32
6) Klasifikasi Algoritma
Klasifikasi algoritma pada dataset menggunakan lexicon , pembobotan  TF-IDF.  Kemudian,  algoritma regresi logistik , SVM, dan peningkatan gradient diproses.
Hasil  dari  klasifikasi  algoritma  berdasarkan  sentimen lexicon yaitu tingkat akurasi akan dibandingkan dari masing- masing  algoritma  yang  menggunakan  parameter  kinerja algoritma, yaitu recall , fl - measure, presisi dan akurasi.
B. Pembagian Data
Dalam  pembagian  data  terdapat  data  uji  dan  data  latih adalah  dua  bagian  dari  data  yang  diolah  oleh  pengajaran mesin.  Data  latihan  melatih  model  klasifikasi,  dan  data  uji untuk  pengujian.  Gambar  3  menunjukkan  70%  data klasifikasi dan 30% pengujian.

## C. Klasifikasi Model
1) Regresi Logistik
Dengan menggunakan regresi logistik, dapat menemukan bagaimana  variabel  respons  dichotomus—yaitu  variabel dengan skala nominal atau ordinal yang termasuk dalam dua kategori—berhubungan  dengan  satu  atau  lebih  prediktor berskala kategori atau kontinu. [11]. Kepekatan peluang (fkp) untuk  variabel  distribusi  logistik  random  seperti  yang ditunjukkan pada persamaan (2).
𝑓(𝑥) = exp { 𝑥 − 𝜇 𝜏 } 𝜏[1 + exp { 𝑥 − 𝜇 𝜏 }] 2 , −∞ ≤ 𝑥 ≤ ∞; 𝜏 > 0          (2)
dengan mean 𝜇 dan variansi 𝜎 2 = 𝜋2𝜏2 3
Regresi  logistik  biner  mencakup  regresi  logistik  dengan respon  biner,  dll.  Teknik  analisis  data  yang  bertujuan  untuk mengidentifikasi  hubungan  antara  variabel  respons  (y)  yang biner  atau dichotomous dan  variabel  prediktor  (x)  yang kategorik atau kontinu.
2) Support Vector Machine
Akurasi pengenalan pola SVM sangat tinggi. Prinsip kerja SVM  adalah  memisahkan  dua  kategori  di  ruang  input  dan mencari  titik  maksimal.  Sementara  kekurangan  SVM membuatnya  sulit  digunakan  dalam  masalah  jumlah  sample besar  [12].  Penelitian  ini  akan  berkonsentrasi  pada penggunaan linier dalam kelompok dua kategori negatif dan positif.  Fungsi  mencari  hyperplane  digambarkan  dalam persamaan (3), dan garis tepi hyperplane untuk membagi kelas positif dan negatif digambarkan dalam persamaan (4).
(𝑤. 𝑥) + 𝑏 = 0                                                                            (3) (𝑤. 𝑥) + 𝑏  = +1 (untuk kelas positif) (4) (𝑤. 𝑥) + 𝑏  = −1 (untuk kelas negatif)
3) Gradient Boosting
Algoritma gradient boosting untuk  digunakan  dalam klasifikasi,  algoritma  peningkatan  gradient  termasuk pembelajaran  yang  diawasi  berbasis  pohon  keputusan. Keputusan  dari  berbagai  mesin  pembelajaran  digabungkan, dan ensemble memprediksi kelas mana yang akan menerima mayoritas "suara". Ini adalah gambaran sederhana dari konsep kelompok.  Pokok  peningkatan  progresif  dimulai  dengan pohon  klasifikasi  awal,  yang  kemudian  disesuaikan  dengan mengurangi  fungsi  kerugian  untuk  pohon  baru  [13]. Persamaan (5) rumus algoritma gradient boosting.
− log 𝐿1 = − ∑ 𝑦 𝑖 log(𝑜𝑑𝑑𝑠) + log(1 + 𝑒 𝑙𝑜𝑔(𝑜𝑑𝑑𝑠) )     (5)
𝑁 𝑖=1
D. Evaluasi Model
Parameter recall,  fl-measure,  presisi ,  dan  akurasi  yaitu beberapa parameter pengukuran kinerja algoritma yang dapat diketahui berdasarkan matrix confusion pada Tabel 1 [14].
Tabel 1. Tabel Confusion Matrix
Rumus  untuk  menghitung  ketepatan  ditunjukkan  dalam persamaan (6). Persamaan (7) rumus menghitung recall, dan persamaan  (8)  rumus  menghitung  F- measure .  Rumus  untuk mengukur ketepatan menggunakan persamaan (9).
𝑝𝑟𝑒𝑐𝑖𝑠𝑖𝑜𝑛 = 𝑇𝑃 𝑇𝑃+𝐹𝑃 (6)
𝑟𝑒𝑐𝑎𝑙𝑙 = 𝑇𝑃 𝑇𝑃+𝐹𝑁 (7) 𝐹 − 𝑚𝑒𝑎𝑠𝑢𝑟𝑒 = 2 ×𝑟𝑒𝑐𝑎𝑙𝑙×𝑝𝑟𝑒𝑐𝑖𝑠𝑖𝑜𝑛 𝑟𝑒𝑐𝑎𝑙𝑙+𝑝𝑟𝑒𝑐𝑖𝑠𝑖𝑜𝑛 (8)
𝐴𝑐𝑐𝑢𝑟𝑎𝑐𝑦 = 𝑇𝑃+𝑇𝑁 𝑇𝑃+𝑇𝑁+𝐹𝑃+𝐹𝑁 (9)
dimana  FP  ( False  Positive ),  TP  ( True  Positve) ,  TN  ( True Negative ) dan FN ( False Negative ).
Nilai tertinggi adalah 1 dan nilai terendah adalah 0. Salah satu perhitungan yang sering digunakan untuk mengevaluasi kinerja  sebuah  algoritma  adalah  akurasi,  yang  dihitung dengan  membandingkan  rasio  jumlah  data  yang  diprediksi secara  akurat  oleh  algoritma dengan  jumlah  total data yang ada dalam dataset.

## III. H ASIL DAN P EMBAHASAN
Berdasarkan  analisis  pada  data  siswa  menggunakan regresi  logistik,  gradient  boosting,  dan  SVM  dibahas. Penelitian  ini  menggunakan  aplikasi  DITA  dan  mengolah data  dengan  Jupyter  Notebook  dan  mengumpulkan  data komentar siswa.
Label atau kelas Positif Negatif Positif True Positive False Positive
Negatif
False Negative True Negative
Gambar 3. Pembagian Data
JURNAL ILMU KOMPUTER DAN TEKNOLOGI Vol. 4, No. 2, November 2023, pp. 27-32
Setelah  data  komentar  dikumpulkan,  label  sentimen digunakan secara manual untuk mengklasifikasikan sentimen yaitu netral, positif, dan negatif. Ini ditunjukkan pada Gambar 4 dalam format CSV.
Data  676  komentar  akan  diproses,  dengan  isi  data berdasarkan  nomor  induk  siswa,  komentar,  dan  klasifikasi, Seperti yang ditunjukkan pada Gambar 5.
Data  banyak  mengandung  suara  dan  tidak  memiliki informasi  penting  untuk  proses  klasifikasi  sentimen,  seperti simbol,  tanda  baca,  angka,  dan  penggunaan  bahasa  asing, tahap preprocessing diperlukan. Tahapan Preprocessing case folding, tokenization, stopword, normalization , dan stemming .
Tahapan case  folding huruf  besar  mengubah  menjadi huruf  kecil  atau  besar  menjadi  huruf  kecil,  Anda  dapat menggunakan  cara  case  folding.  Contoh  "Mungkin"  diubah menjadi  "mungkin",  dan  ini  adalah  contoh  holding  case pseudocode .
Deklasrasi variabel : Komentar = “Mungkin” Proses lower case Cetak Komentar Komentar_lower =”mungkin”
Tahapan tokenization menghapus karakter yang memengaruhi proses klasifikasi sentimen. Ini termasuk baca titik  (.), koma (,),  simbol, dan karakter huruf  dan angka. Ini juga menghapus. Tokenisasi pseudocode
Deklasrasi variabel : Komentar_lower = “mungkin bisa ” Proses tokenization Cetak Komentar_token Komentar_token =”[mungkin, bisa]”
Tahapan stopword untuk  menghilangkan  kata-kata  yang tidak perlu . Berikut pseudocode stopword.

## Deklasrasi variabel :
Komentar_token = “[materi, mudah, di, pahami] ” Proses stopword Cetak Komentar_token_stopword Komentar_token_stopword =[materi, mudah, pahami]
Tahapan normalization digunakan  untuk  mengubah  kata yang  memiliki noise menjadi  kata  baku. Pseudocode normalization .

## Deklasrasi variabel :
Komentar_token_stopword = “[materi, yg, pahami] ” Proses normalization Cetak Komentar_normalization Komentar_normalization =[materi, yang, pahami]
Tahapan stemming digunakan untuk mengembalikan kata. Contoh  “Tugasnya”  menjadi  “tugas”.  Berikut pseudocode stemming .
Deklasrasi variabel : Komentar_normalization = “[Tugasnya] ” Proses stemming Cetak Komentar_stemming Komentar_stemming =[tugas]
Preprocessing pada Gambar 6 menunjukkan hasil dari tahapan dan akhirnya menjadi komentar baru setelah selesai.
Lexicon based mengkategorikan sentimen dan membedakan  sentimen  netral,  positif,  dan  negatif.  Nilai polarity menunjukkan bahwa nilainya kurang dari 0 negatif, nilainya lebih dari 0 sentimen netral, dan jika nilainya lebih dari 0 positif, dilihat pada Gambar 7.
Gambar 4. Data Komentar Labelling Data Manual
Gambar 5. Tampilan Data Awal
Gambar 6. Proses reprocessing
Berdasarkan  klasifikasi  berbasis lexicon ,  didapat  tiga kelompok,  dengan  komentar  siswa  yang  paling  banyak masuk  ke  kelompok  netral  (95,12%)  dan  kelompok  negatif paling rendah 0,89%.
Hasil  klasifikasi  yang  didasarkan  pada lexicon dilengkapi  dengan  hasil  visualisasi  disusun  berdasarkan kelompok. Gambar 9 menunjukkan kata-kata yang termasuk dalam kelompokan sentimen [15] tersebut. Sentimen positif (a), negatif (b), dan netral (c)
Menggabungkan  hasil  visualisasi  yang  ditampilkan berdasarkan  hasil  kelompok.  Gambar  9  menunjukkan  kata- kata  yang  berasal  dari  kelompokan  sentimen  [15]  tersebut, yang disebut sebagai positif (a), negatif (b), dan netral (c).
Setelah  proses  klasifikasi  berbasis lexicon ,  proses pembobotan  TF-IDF  melakukan  komentar  baru.  Kode program dan tampilannya ditunjukkan pada Gambar 10.
Gambar 10 menunjukkan hasil pembobotan TF-IDF, yang menunjukkan  bahwa  ada  424  kata  atau  term  dari  676 komentar. Nilai TF-IDF dari hasil kode program.
Hasil  evaluasi  algoritma  regresi  logistik,  SVM,  dan peningkatan gradient didapatkan dengan menggunakan 70% data uji dan 30% data uji sebagai berikut:
Gambar  11  menunjukkan  hasil  dari  algoritma  regresi logistik.
Gambar 11 menunjukkan hasil algoritma regresi logistik, yang  menghasilkan  nilai  akurasi  0,96  persen  dan menunjukkan confusion matrix.
Gambar 12 hasil SVM yaitu 0,95 % ditunjukkan dalam confusion matrix.
Gambar 7. Klasifikasi Proses Lexicon Based Gambar 9 Visualisai Lexicon based Gambar 10. Hasil Pembobotan TFIDF Gambar  11. Hasil Regresi Logistik Gambar  12. Hasil SVM Gambar 8. Klasifikasi Lexicon based
Gambar 9. Kelompok sentimen
JURNAL ILMU KOMPUTER DAN TEKNOLOGI Vol. 4, No. 2, November 2023, pp. 27-32
Gambar  13  hasil  gradient  boosting  dengan  nilai  akurasi yaitu 0,975 % ditunjukkan confusion matrix.
Dengan  menggunakan  70  persen  data  uji  dan  30  persen data  uji,  hasil  algoritma  regresi  logistik,  SVM,  dan peningkatan  gradient  dapat  dilihat.  Ini  juga  memungkinkan untuk  mengetahui  seperti presisi , recall , fl - measure ,  dan akurasi.  Perbandingan  algoritma  regresi  logistik,  SVM,  dan peningkatan gradient dapat dilihatkan pada Tabel 2.

## Tabel 2. Hasil Perbandingan
No Nama Algoritma Nilai Akurasi 1 Regresi Logistik 96 %. 2 SVM 95 % 3 Gradient Boosting 97,5 %
Seperti  yang  ditunjukkan  dalam  Tabel  2,  ada  hasil perbandingan  akurasi  dari  algoritma  regresi  logistik,  SVM, dan  gradient  boosting.  Algoritma  gradient  boosting menunjukkan tingkat akurasi tertinggi, yaitu 97,5%, sehingga dapat  disimpulkan  bahwa  menggunakan  algoritma  ini  lebih baik  untuk  mengklasifikasikan  data  analisis  sentimen komentar siswa.

## IV. K ESIMPULAN
Berdasarkan  hasil  pengujian  menggunakan  dengan pelatihan sebesar 70% dan data pengujian sebesar 30%, hasil pengujian  menggunakan  regresi  logistik,  SVM,  dan peningkatan gradient ditemukan bahwa ketepatan klasifikasi menggunakan  metode  regresi  logistik  mencapai  96% ketepatan,  96%  ketepatan,  96%  recall,  dan  96%  skor  f1. Secara keseluruhan, hasil ketepatan klasifikasi dengan metode gradient boosting menunjukkan hasil yang lebih baik daripada metode regresi logistik, SVM, dan gradient boosting. Hasilnya menunjukkan  ketepatan  sebesar  97,5%,  keakuratan  sebesar 97%, keakuratan sebesar 98%, dan skor f1_sebesar 97%.

## R EFERENSI
[1] J.  A.  Septian,  T.  M.  Fachrudin,  and  A.  Nugroho,  “Analisis
Sentimen  Pengguna  Twitter  Terhadap  Polemik  Persepakbolaan Indonesia  Menggunakan  Pembobotan  TF-IDF  dan  K-Nearest Neighbor,” J. Intell. Syst. Comput. , vol. 1, no. 1, pp. 43–49, 2019.
[2] T.  Arifin,  “Implementasi  Algoritma  PSO  Dan  Teknik  Bagging Untuk Klasifikasi  Sel  Pap  Smear,” J.  Inform. ,  vol.  4,  no.  2,  pp.
155–162, 2017.
[3] N.  R.  Muntiari  and  K.  H.  Hanif,  “Klasifikasi  Penyakit  Kanker Payudara  Menggunakan  Perbandingan  Algoritma  Machine
Learning,” J. Ilmu Komput. dan Teknol. , vol. 3 (1), pp. 1–6, 2022,
[4] M.  R.  Fauzaan  and  T.  A.  Hermawan,  “Klasifikasi  Pengguna
Internet  berdasarkan  Aktifitas  Akses  Internet  Advertisement dengan  Menggunakan  Metode  Regresi  Logistik,” Annu.  Res.
Semin. vol. 4, no. 1, pp. 978–979, 2019.
[5] I.  Komputer,  I.  Pengetahuan,  U.  L.  Mangkurat,  J.  Jenderal,  A. Yani,  and  K.  Selatan,  “Perbandingan  Metode  Extreme  Gradient Boosting Dan,” pp. 373–382, 2019.
[6] Y. Wang, G. Huang, J. Li, H. Li, Y. Zhou, and H. Jiang, “Refined Global  Word  Embeddings  Based  on  Sentiment  Concept  for Sentiment Analysis,” IEEE Access , vol. 9, no. 1, pp. 37075–37085, 2021, doi: 10.1109/ACCESS.2021.3062654.
[7] M. K. Anam, B. N. Pikir, and M. B. Firdaus, “Penerapan Na ̈ıve Bayes  Classifier, K-Nearest  Neighbor  (KNN) dan  Decision  Tree untuk Menganalisis Sentimen pada Interaksi Netizen danPemeritah,” MATRIK    J.  Manajemen,  Tek.  Inform.  dan Rekayasa Komput. , vol. 21, no. 1, pp. 139–150, 2021.
[8] M.  Alfi,  R.  Reynaldhi,  and  Y.  Sibaroni,  “Analisis  Sentimen Review  Film  pada  Twitter  menggunakan  Metode  Klasifikasi Hybrid SVM, Naïve Bayes, dan Decision Tree,” vol. 8, no. 5, pp. 10127–10137, 2021.
[9] K. A. Rokhman, B. Berlilana, and P. Arsi, “Perbandingan Metode Support  Vector  Machine  Dan  Decision  Tree  Untuk  Analisis Sentimen Review Komentar Pada Aplikasi Transportasi Online,”
J. Inf. Syst. Manag. , vol. 3, no. 1, pp. 1–7, 2021.
[10] N.  N.  Wilim  and  R.  S.  Oetama,  “Sentiment  Analysis  About Indonesian  Lawyers  Club  Television  Program  Using  K-Nearest Neighbor,  Naïve  Bayes  Classifier,  And  Decision  Tree,” IJNMT (International  J.  New  Media  Technol. ,  vol.  8,  no.  1,  pp.  50–56, 2021, doi: 10.31937/ijnmt.v8i1.1965.
[11] A.  R.  S.  Darwanto,  Taza  Luzia  Viarindita,  and  Yekti Widyaningsih, “Analisis Regresi Logistik Binomial dan Algoritma
Random  Forest  pada  Proses  Pengklasifikasian  Penyakit  Ginjal Kronis,” J. Stat. dan Apl. , vol. 5, no. 1, pp. 1–14, 2021.
[12] A.  Budianto,  R.  Ariyuana,  and  D.  Maryono,  “Perbandingan  K- Nearest  Neighbor  (Knn)  Dan  Support  Vector  Machine  (Svm) Dalam  Pengenalan  Karakter  Plat  Kendaraan  Bermotor,” J.  Ilm. Pendidik.  Tek.  dan  Kejuru. ,  vol.  11,  no.  1,  p.  27,  2019,  doi: 10.20961/jiptek.v11i1.18018.
[13] S.  E.  Suryana, B.  Warsito, and  S.  Suparti,  “Penerapan  Gradient Boosting  Dengan  Hyperopt  Untuk  Memprediksi  Keberhasilan Telemarketing Bank,” J.  Gaussian ,  vol.  10,  no.  4,  pp.  617–623, 2021, doi: 10.14710/j.gauss.v10i4.31335.
[14] W. Li, P. Liu, Q. Zhang, and W. Liu, “An improved approach for text sentiment classification based on a deep neural network via a sentiment  attention  mechanism,” Futur.  Internet ,  vol.  11,  no.  4, 2019, doi: 10.3390/FI11040096.
[15] I. Hilmy Khairi Idris, Mochammad Ali Fauzi, “Klasifikasi Teks Baha sa Indonesia  pada  Dokumen  Pengaduan  Sambat  Online Menggunakan  Metode  K-Nearest  Neighbors  Dan  Chi-square”, Syst. Inf. Syst. Informatics J., vol. 3, no. 1 pp. 25–32, 2017.
Gambar  13. Hasil Gradient Boosting