Pengklasteran k rata-rata

**Pengklasteran ''k'' rata-rata** () adalah algoritma untuk membagi *n* pengamatan menjadi *k* kelompok sedemikian hingga tiap pengamatan termasuk ke dalam kelompok dengan rata-rata terdekat (titik tengah kelompok). Hasilnya adalah pembagian pengamatan ke dalam sel-sel Voronoi. Pengklasteran *k* rata-rata meminimalkan ragam dalam klaster (kuadrat jarak Euklides, bukan jarak Euklides biasa).

Permasalahan ini sulit secara komputasi (NP sulit). Namun, algoritma heuristik yang efisien dapat mencapai optimum lokal dengan cepat.

Algoritma ini memiliki hubungan yang renggang dengan algoritma ''k'' tetangga terdekat, algoritma pemelajaran mesin yang cukup terkenal dan sering disalahartikan dengan *k* rata-rata karena kemiripan namanya. Penerapan pengklasifikasi 1 tetangga terdekat ke titik tengah kelompok yang didapatkan oleh *k* rata-rata dapat mengelompokkan data baru ke dalam kelompok yang sudah ada. Cara ini disebut sebagai pengklasifikasi sentroid terdekat atau algoritma Rocchio.

## Penjelasan
Diberikan himpunan pengamatan (*x*1,&nbsp;*x*2,&nbsp;...,&nbsp;*x<sub>n</sub>*) dengan tiap pengamatan berupa vektor riil berdimensi *d*. Pengklasteran *k* rata-rata bertujuan untuk membagi *n* pengamatan ke dalam *k* (≤&nbsp;*n*) kelompok **S**&nbsp;=&nbsp;{*S*1,&nbsp;*S*2,&nbsp;...,&nbsp;*S*k} sedemikian hingga ragam dalam kelompok minimum. Secara matematis, tujuan algoritma ini adalah

: \underset{\mathbf{S}} {\operatorname{arg\,min}} \sum_{i = 1}^{k} \sum_{\mathbf x \in S_i} \left\| \mathbf x - \boldsymbol\mu_i \right\|^2 = \underset{\mathbf{S}} {\operatorname{arg\,min}} \sum_{i = 1}^k |S_i| \operatorname{Var} S_i

dengan **''μ**i* adalah titik tengah (rata-rata) dalam himpunan *Si*.

== Sejarah ==
Algoritma *K* rata-rata ditemukan oleh beberapa orang: Lloyd (1957, 1982), Forgey (1965), Friedman dan Rubin (1967), serta McQueen (1967). Ide pengklasteran pertama kali ditemukan oleh Lloyd pada tahun 1957. Namun, hal tersebut baru dipublikasikan pada tahun 1982. Pada tahun 1965, Forgey juga memublikasikan teknik yang sama sehingga terkadang dikenal sebagai Lloyd–Forgy pada beberapa sumber.

== Algoritma ==

Algoritma pengklasteran *k* rata-rata adalah sebagai berikut.
# Pilih *k* buah titik tengah secara acak.
# Kelompokkan data sehingga terbentuk *k* buah kelompok dengan titik tengah tiap kelompok merupakan titik tengah yang telah dipilih sebelumnya.
# Perbarui nilai titik tengah tiap kelompok.
# Ulangi langkah 2 dan 3 sampai titik tengah semua kelompok tidak lagi berubah.

Proses pengklasteran data ke dalam suatu kelompok dapat dilakukan dengan cara menghitung jarak terdekat dari suatu data ke sebuah titik tengah. Perhitungan [[jarak Minkowski]] dapat digunakan untuk menghitung jarak antara 2 buah data.

Pembaruan titik tengah dapat dilakukan dengan rumus berikut:

: <math>\mu_k = \frac{1}{N_k} \sum_{j = 1}^{N_k} x_j</math>

dengan *µk* adalah titik tengah kelompok ke-*k*, *Nk* adalah banyak data dalam kelompok ke-*k*, dan *xj* adalah data ke-*j* dalam kelompok ke-*k*.

<gallery class="center" widths="150px" caption="Peragaan algoritma *k* rata-rata biasa (naif)">
Gambar:K Means Example Step 1.svg|1. *k* "rata-rata" awal (dalam kasus ini, *k*&nbsp;=&nbsp;3) ditaruh secara acak dalam domain data (ditunjukkan berwarna).
Gambar:K Means Example Step 2.svg|2. *k* kelompok dibuat dengan memasukkan tiap pengamatan ke dalam kelompok dengan rata-rata terdekat. Pembagian ini menunjukkan [[diagram Voronoi]] dari rata-rata tersebut.
Gambar:K Means Example Step 3.svg|3. Titik tengah tiap kelompok menjadi rata-rata baru.
Gambar:K Means Example Step 4.svg|4. Langkah 2 dan 3 diulangi sampai konvergensi tercapai.
</gallery>

== Kelebihan dan kekurangan ==
Algoritma *k* rata-rata memiliki kelebihan berikut:
* Mudah untuk diimplementasikan dan dijalankan;
* Membutuhkan waktu relatif singkat;
* Mudah diadaptasi; serta
* Mmum digunakan.



Algoritma *k* rata-rata memiliki kekurangan berikut:
* Sebelum algoritma dijalankan, *k* buah titik diinisialisasi secara acak sehingga pengklasteran data yang dihasilkan dapat berbeda-beda. Jika nilai acak untuk inisialisasi kurang baik, hasil pengklasteran pun menjadi kurang optimal.
* Algoritma ini dapat terjebak dalam masalah yang disebut *curse of dimensionality* (kutukan dimensi). Hal ini dapat terjadi jika data pelatihan memiliki dimensi yang sangat tinggi (jumlah dimensi adalah jumlah atribut sederhananya).
* Jika hanya terdapat beberapa titik sampel data, cukup mudah untuk menghitung dan mencari titik terdekat dengan *k* titik yang diinisialisasi secara acak. Namun, jika terdapat banyak sekali titik data (misal satu miliar buah data), perhitungan dan pencarian titik terdekat akan membutuhkan waktu yang lama. Proses tersebut dapat dipercepat dengan [[struktur data]] yang lebih rumit seperti pohon *kD* atau *hashing*.

Batasan *k* rata-rata adalah model pengklasterannya. Model ini menanggap bahwa tiap kelompok berbentuk bola yang terpisah sehingga rata-ratanya bergerak menuju titik tengah bola (kelompok). Tiap kelompok dianggap memiliki ukuran yang mirip agar pengklasteran bisa benar (berhasil). Seperti algoritma pengklasteran lainnya, hasil *k* rata-rata menggunakan anggapan tertentu. Algoritma ini bekerja baik untuk set data tertentu, tetapi bisa bekerja buruk untuk set data lain.

== Penerapan ==
Sebagai algoritma pengklasteran, algoritma *k* rata-rata memiliki banyak penerapan. Menurut tujuannya, penerapan algoritma *k* rata-rata dibagi menjadi dua sebagai berikut.

=== Pengklasteran untuk memahami ===
Pengklasteran untuk pemahaman bertujuan menghasilkan kelompok-kelompok yang terdiri dari objek-objek dengan ciri-ciri yang serupa, seperti halnya manusia mengelompokkan objek-objek.

* Penerapan dalam biologi
: Algoritma *k* rata-rata dapat digunakan untuk mengelompokkan gen berdasarkan polanya. Hal ini diperlukan untuk menemukan gen yang memiliki fungsi serupa.

* Penerapan dalam bisnis
: Algoritma *k* rata-rata dapat digunakan untuk melakukan segmentasi pasar. [[Segmentasi pasar]] adalah pengelompokan pelanggan sesuai ciri-ciri mereka (misalnya gaya hidup dan kebutuhan). Algoritma ini juga dapat digunakan dalam sistem pemberi rekomendasi untuk mengelompokkan objek-objek yang saling terkait.

* Penerapan dalam temu balik informasi
: Algoritma *k* rata-rata dapat digunakan untuk mengelompokkan dokumen sehingga memudahkan temu balik dokumen berdasarkan topiknya.

=== Pengklasteran sebagai alat ===


Pengklasteran bertujuan untuk mengelompokkan himpunan data yang besar untuk memudahkan [[analisis data]] atau pengolahan data lebih lanjut. Untuk tujuan ini, titik tengah kelompok memegang peran lebih berarti.

* [[Kompresi data]] multimedia
: Algoritma *k* rata-rata dapat digunakan untuk kompresi data [[multimedia]] (citra, audio, dan video). Setiap objek dalam data (misalnya piksel dari citra) direpresentasikan dengan titik tengah kelompok yang memuat objek tersebut. Teknik kompresi ini disebut juga [[kuantisasi vektor]].

* Rangkuman data
: Algoritma *k* rata-rata dapat digunakan untuk mengelompokkan data sebelum menerapkan teknik analisis data lainnya seperti regresi, [[Algoritme k tetangga terdekat|tetangga terdekat]], atau PCA. Algoritma ini dapat digunakan terlebih dahulu untuk mengelompokkan data ke dalam kelompok-kelompok. Kemudian, teknik analisis data hanya perlu diterapkan pada titik tengah tiap kelompok sehingga lebih efisien dalam penggunaan waktu dan ruang.

== Variasi ==
Terdapat beberapa algoritma yang merupakan pengembangan/variasi dari algoritma *k* rata-rata.

* *k* rata-rata++
: Algoritma untuk memilih nilai awal algoritma *k* rata-rata. Algoritma ini digunakan untuk mengurangi dampak buruk algoritma *k* rata-rata yang sangat tergantung dari nilai awalnya.

* *k* medoid
: Algoritma pengklasteran yang menggunakan medoid (titik dengan ketidakmiripan yang merata untuk semua titik dalam kelompok) alih-alih rata-rata seperti yang dipakai *k* rata-rata.

* Pengirisan biner *k* rata-rata
: Ide dasarnya adalah menggunakan *k* rata-rata dengan membagi dua suatu kelompok. Awalnya, setiap hasil pengamatan tergabung dalam satu kelompok. Pada tiap [[iterasi]], pilih satu kelompok untuk dibagi dua menggunakan *k* rata-rata. Hal ini dilakukan hingga terbentuk *k* kelompok. Algoritma ini bekerja lebih cepat daripada *k'' rata-rata karena mengurangi jumlah objek yang dibandingkan pada setiap iterasi.

## Referensi

## Bacaan lanjutan
* 
*