Pengklasteran k rata-rata

Pengklasteran k rata-rata () adalah algoritma untuk membagi n pengamatan menjadi k kelompok sedemikian hingga tiap pengamatan termasuk ke dalam kelompok dengan rata-rata terdekat (titik tengah kelompok). Hasilnya adalah pembagian pengamatan ke dalam sel-sel Voronoi. Pengklasteran k rata-rata meminimalkan ragam dalam klaster (kuadrat jarak Euklides, bukan jarak Euklides biasa).

Permasalahan ini sulit secara komputasi (NP sulit). Namun, algoritma heuristik yang efisien dapat mencapai optimum lokal dengan cepat.

Algoritma ini memiliki hubungan yang renggang dengan algoritma k tetangga terdekat, algoritma pemelajaran mesin yang cukup terkenal dan sering disalahartikan dengan k rata-rata karena kemiripan namanya. Penerapan pengklasifikasi 1 tetangga terdekat ke titik tengah kelompok yang didapatkan oleh k rata-rata dapat mengelompokkan data baru ke dalam kelompok yang sudah ada. Cara ini disebut sebagai pengklasifikasi sentroid terdekat atau algoritma Rocchio.

 Penjelasan 
Diberikan himpunan pengamatan (x1, x2, ..., xn) dengan tiap pengamatan berupa vektor riil berdimensi d. Pengklasteran k rata-rata bertujuan untuk membagi n pengamatan ke dalam k (≤ n) kelompok S = {S1, S2, ..., Sk} sedemikian hingga ragam dalam kelompok minimum. Secara matematis, tujuan algoritma ini adalah



dengan μi adalah titik tengah (rata-rata) dalam himpunan Si.

 Sejarah 
Algoritma K rata-rata ditemukan oleh beberapa orang: Lloyd (1957, 1982), Forgey (1965), Friedman dan Rubin (1967), serta McQueen (1967). Ide pengklasteran pertama kali ditemukan oleh Lloyd pada tahun 1957. Namun, hal tersebut baru dipublikasikan pada tahun 1982. Pada tahun 1965, Forgey juga memublikasikan teknik yang sama sehingga terkadang dikenal sebagai Lloyd–Forgy pada beberapa sumber.

 Algoritma 
Algoritma pengklasteran k rata-rata adalah sebagai berikut.
 Pilih k buah titik tengah secara acak.
 Kelompokkan data sehingga terbentuk k buah kelompok dengan titik tengah tiap kelompok merupakan titik tengah yang telah dipilih sebelumnya.
 Perbarui nilai titik tengah tiap kelompok.
 Ulangi langkah 2 dan 3 sampai titik tengah semua kelompok tidak lagi berubah.

Proses pengklasteran data ke dalam suatu kelompok dapat dilakukan dengan cara menghitung jarak terdekat dari suatu data ke sebuah titik tengah. Perhitungan jarak Minkowski dapat digunakan untuk menghitung jarak antara 2 buah data.

Pembaruan titik tengah dapat dilakukan dengan rumus berikut:



dengan µk adalah titik tengah kelompok ke-k, Nk adalah banyak data dalam kelompok ke-k, dan xj adalah data ke-j dalam kelompok ke-k.

 Kelebihan dan kekurangan 
Algoritma k rata-rata memiliki kelebihan berikut:
 Mudah untuk diimplementasikan dan dijalankan;
 Membutuhkan waktu relatif singkat;
 Mudah diadaptasi; serta
 Mmum digunakan.


Algoritma k rata-rata memiliki kekurangan berikut:
 Sebelum algoritma dijalankan, k buah titik diinisialisasi secara acak sehingga pengklasteran data yang dihasilkan dapat berbeda-beda. Jika nilai acak untuk inisialisasi kurang baik, hasil pengklasteran pun menjadi kurang optimal.
 Algoritma ini dapat terjebak dalam masalah yang disebut curse of dimensionality (kutukan dimensi). Hal ini dapat terjadi jika data pelatihan memiliki dimensi yang sangat tinggi (jumlah dimensi adalah jumlah atribut sederhananya).
 Jika hanya terdapat beberapa titik sampel data, cukup mudah untuk menghitung dan mencari titik terdekat dengan k titik yang diinisialisasi secara acak. Namun, jika terdapat banyak sekali titik data (misal satu miliar buah data), perhitungan dan pencarian titik terdekat akan membutuhkan waktu yang lama. Proses tersebut dapat dipercepat dengan struktur data yang lebih rumit seperti pohon kD atau hashing.

Batasan k rata-rata adalah model pengklasterannya. Model ini menanggap bahwa tiap kelompok berbentuk bola yang terpisah sehingga rata-ratanya bergerak menuju titik tengah bola (kelompok). Tiap kelompok dianggap memiliki ukuran yang mirip agar pengklasteran bisa benar (berhasil). Seperti algoritma pengklasteran lainnya, hasil k rata-rata menggunakan anggapan tertentu. Algoritma ini bekerja baik untuk set data tertentu, tetapi bisa bekerja buruk untuk set data lain.

 Penerapan 
Sebagai algoritma pengklasteran, algoritma k rata-rata memiliki banyak penerapan. Menurut tujuannya, penerapan algoritma k rata-rata dibagi menjadi dua sebagai berikut.

 Pengklasteran untuk memahami 
Pengklasteran untuk pemahaman bertujuan menghasilkan kelompok-kelompok yang terdiri dari objek-objek dengan ciri-ciri yang serupa, seperti halnya manusia mengelompokkan objek-objek.

 Penerapan dalam biologi
 Algoritma k rata-rata dapat digunakan untuk mengelompokkan gen berdasarkan polanya. Hal ini diperlukan untuk menemukan gen yang memiliki fungsi serupa.

 Penerapan dalam bisnis
 Algoritma k rata-rata dapat digunakan untuk melakukan segmentasi pasar. Segmentasi pasar adalah pengelompokan pelanggan sesuai ciri-ciri mereka (misalnya gaya hidup dan kebutuhan). Algoritma ini juga dapat digunakan dalam sistem pemberi rekomendasi untuk mengelompokkan objek-objek yang saling terkait.

 Penerapan dalam temu balik informasi
 Algoritma k rata-rata dapat digunakan untuk mengelompokkan dokumen sehingga memudahkan temu balik dokumen berdasarkan topiknya.

 Pengklasteran sebagai alat 
Pengklasteran bertujuan untuk mengelompokkan himpunan data yang besar untuk memudahkan analisis data atau pengolahan data lebih lanjut. Untuk tujuan ini, titik tengah kelompok memegang peran lebih berarti.

 Kompresi data multimedia
 Algoritma k rata-rata dapat digunakan untuk kompresi data multimedia (citra, audio, dan video). Setiap objek dalam data (misalnya piksel dari citra) direpresentasikan dengan titik tengah kelompok yang memuat objek tersebut. Teknik kompresi ini disebut juga kuantisasi vektor.

 Rangkuman data
 Algoritma k rata-rata dapat digunakan untuk mengelompokkan data sebelum menerapkan teknik analisis data lainnya seperti regresi, tetangga terdekat, atau PCA. Algoritma ini dapat digunakan terlebih dahulu untuk mengelompokkan data ke dalam kelompok-kelompok. Kemudian, teknik analisis data hanya perlu diterapkan pada titik tengah tiap kelompok sehingga lebih efisien dalam penggunaan waktu dan ruang.

 Variasi 
Terdapat beberapa algoritma yang merupakan pengembangan/variasi dari algoritma k rata-rata.

 k rata-rata++
 Algoritma untuk memilih nilai awal algoritma k rata-rata. Algoritma ini digunakan untuk mengurangi dampak buruk algoritma k rata-rata yang sangat tergantung dari nilai awalnya.

 k medoid
 Algoritma pengklasteran yang menggunakan medoid (titik dengan ketidakmiripan yang merata untuk semua titik dalam kelompok) alih-alih rata-rata seperti yang dipakai k rata-rata.

 Pengirisan biner k rata-rata
 Ide dasarnya adalah menggunakan k rata-rata dengan membagi dua suatu kelompok. Awalnya, setiap hasil pengamatan tergabung dalam satu kelompok. Pada tiap iterasi, pilih satu kelompok untuk dibagi dua menggunakan k rata-rata. Hal ini dilakukan hingga terbentuk k kelompok. Algoritma ini bekerja lebih cepat daripada k rata-rata karena mengurangi jumlah objek yang dibandingkan pada setiap iterasi.

 Referensi 

 Bacaan lanjutan 



Kategori:Algoritme