K-평균 알고리즘

DISPLAYTITLE:*k*-평균 알고리즘 머신 러닝 막대 **k-평균 알고리즘**(K-means clustering algorithm)은 주어진 데이터를 k개의 클러스터로 묶는 알고리즘으로, 각 클러스터와 거리 차이의 분산을 최소화하는 방식으로 동작한다. 이 알고리즘은 자율 학습의 일종으로, 레이블이 달려 있지 않은 입력 데이터에 레이블을 달아주는 역할을 수행한다. 이 알고리즘은 EM 알고리즘을 이용한 클러스터링과 비슷한 구조를 가지고 있다.
# 도입

## 역사
"k-평균"에 대한 개념은 1957년 후고 스테인하우스에 의해 소개되었으나,language=프랑스어 용어 자체는 1967년에 제임스 매퀸(James MacQueen)에 의해 처음 사용되었다.zbl=0214.46201 현재 사용되고 있는 표준 알고리즘은 1957년에 스튜어트 로이드(Stuart Lloyd)가 펄스 부호 변조(PCM)를 목적으로 처음으로 고안 하였으나 1982년이 되어서야 컴퓨터 과학 매거진에 처음 공개되었다.year=1957 Published in journal much later: doi=10.1109/TIT.1982.1056489 알고리즘이 공개되기 이전인 1965년에 E. W. Forgy 또한 같은 알고리즘을 제안하였다.year=1965 차후 1975년과 1979년에 Hartigan과 Wong에 의해 거리 계산이 필요하지 않은 좀 더 효율적인 방법이 소개 되었다.publisher=John Wiley & Sons, Inc.jstor = 2346830
## 개요
k-평균 클러스터링 알고리즘은 클러스터링 방법 중 분할법에 속한다. 분할법은 주어진 데이터를 여러 파티션 (그룹)으로 나누는 방법이다. 예를 들어 n개의 데이터 오브젝트를 입력받았다고 가정하자. 이 때 분할법은 입력 데이터를 n보다 작거나 같은 k개의 그룹으로 나누는데, 이 때 각 그룹은 클러스터를 형성하게 된다. 다시 말해, 데이터를 한 개 이상의 데이터 오브젝트로 구성된 k개의 그룹으로 나누는 것이다. 이 때 그룹을 나누는 과정은 거리 기반의 그룹간 비유사도 (dissimilarity) 와 같은 비용 함수 (cost function) 을 최소화하는 방식으로 이루어지며, 이 과정에서 같은 그룹 내 데이터 오브젝트 끼리의 유사도는 증가하고, 다른 그룹에 있는 데이터 오브젝트와의 유사도는 감소하게 된다.pages=451 k-평균 알고리즘은 각 그룹의 중심 (centroid)과 그룹 내의 데이터 오브젝트와의 거리의 제곱합을 비용 함수로 정하고, 이 함수값을 최소화하는 방향으로 각 데이터 오브젝트의 소속 그룹을 업데이트 해 줌으로써 클러스터링을 수행하게 된다.
## 목표
n개의 d-차원 데이터 오브젝트 (**x**1, **x**2, …, **x***n*) 집합이 주어졌을 때, k-평균 알고리즘은 n개의 데이터 오브젝트들을 각 집합 내 오브젝트 간 응집도를 최대로 하는 k(\leq n) 개의 집합 **S** = {*S*1, *S*2, …, *S**'k*}으로 분할한다. 다시 말해, ***μ**'**i*가 집합 *S**'i*의 중심점이라 할 때 \underset{\mathbf{S {\operatorname{arg\,min \sum_{i=1}^{k} \sum_{\mathbf x \in S_i} \left\| \mathbf x - \boldsymbol\mu_i \right\|^2 각 집합별 중심점~집합 내 오브젝트간 거리의 제곱합을 최소로 하는 집합 **S'''를 찾는 것이 이 알고리즘의 목표다. 이 목적 함수의 전역 최솟값 (global minimum) 을 찾는 것은 NP-난해 문제이므로, 언덕 오르기 (hill climbing) 방식으로 목적 함수의 오차를 줄여나가며 지역 최솟값 (local minimum) 을 발견했을 때 알고리즘을 종료함으로써 근사 최적해를 구한다.
# 알고리즘

## 표준 알고리즘
i번째 클러스터의 중심을 \mu_i, 클러스터에 속하는 점의 집합을 S_i라고 할 때, 전체 분산은 다음과 같이 계산된다. ::V = \sum_{i=1}^{k} \sum_{x_j \in S_i} |x_j - \mu_i |^2 이 값을 최소화하는 S_i을 찾는 것이 알고리즘의 목표가 된다. 알고리즘은 우선 초기의 \mu_i를 설정하는 것으로 시작한다. 이후 다음의 두 단계를 반복한다. * **클러스터 설정**: 각 데이터로부터 각 클러스터들의 \mu_i 까지의 유클리드 거리를 계산하여, 해당 데이터에서 가장 가까운 클러스터를 찾아 데이터를 배당한다. ::S^{(t)}_i = \\{ x_p : |x_p - \mu_i^{(t)}|^2 \leq |x_p - \mu_j^{(t)}|^2 \forall j, 1 \leq j \leq k \\} * **클러스터 중심 재조정**: \mu_i를 각 클러스터에 있는 데이터들의 무게중심 값으로 재설정해준다. ::\mu^{(t+1)}_i = \frac{1}{|S^{(t)}_i|} \sum\limits_{x_j \in S^{(t)}_i} x_j :: 만약 클러스터가 변하지 않는다면 반복을 중지한다. 맨 처음, 각 점들을 k개 집합으로 나눈다. 이때 임의로 나누거나, 어떤 휴리스틱 기법을 사용할 수도 있다. 그 다음 각 집합의 무게 중심을 구한다. 그 다음, 각각의 점들을 방금 구한 무게중심 가운데 제일 가까운 것에 연결지음으로써 새로이 집합을 나눌 수 있다. 이 작업을 반복하면 점들이 소속된 집합을 바꾸지 않거나, 무게중심이 변하지 않는 상태로 수렴될 수 있다. kmeans_animation 파일:K Means Example Step 초기 *k* "평균값" (위의 경우 *k*=3) 은 데이터 오브젝트 중에서 무작위로 뽑힌다. (색칠된 동그라미로 표시됨). 파일:K Means Example Step *k* 각 데이터 오브젝트들은 가장 가까이 있는 평균값을 기준으로 묶인다. 평균값을 기준으로 분할된 영역은 보로노이 다이어그램으로 표시된다.. 파일:K Means Example Step *k*개의 클러스터의 중심점을 기준으로 평균값이 재조정된다. 파일:K Means Example Step 수렴할 때까지 2), 3) 과정을 반복한다. {| class="wikitable" |- | 입력값 # k: 클러스터 수 # D: n 개의 데이터 오브젝트를 포함하는 집합 출력값: k 개의 클러스터 알고리즘 # 데이터 오브젝트 집합 D에서 k 개의 데이터 오브젝트를 임의로 추출하고, 이 데이터 오브젝트들을 각 클러스터의 중심 (centroid)으로 설정한다. (초기값 설정) # 집합 D의 각 데이터 오브젝트들에 대해 k 개의 클러스터 중심 오브젝트와의 거리를 각각 구하고, 각 데이터 오브젝트가 어느 중심점 (centroid) 와 가장 유사도가 높은지 알아낸다. 그리고 그렇게 찾아낸 중심점으로 각 데이터 오브젝트들을 할당한다. # 클러스터의 중심점을 다시 계산한다. 즉, **2**에서 재할당된 클러스터들을 기준으로 중심점을 다시 계산한다. # 각 데이터 오브젝트의 소속 클러스터가 바뀌지 않을 때까지 **2**, **3** 과정을 반복한다. |} **2**는 위의 클러스터 설정 단계에 해당하고, **3** 과정이 위의 클러스터 중심 재조정 단계에 해당한다.
## 초기화 기법

### 무작위 분할 (Random Partition)
무작위 분할 알고리즘은 가장 많이 쓰이는 초기화 기법으로url=http://ac.els-cdn.com/S0167865599000690/1-s2.0-S0167865599000690-main.pdf?_tid=29c303d4-e5bf-11e4-8715-00000aab0f6c&acdnat;=1429357173_d3a58a731988def6112d8c2c53e9ffe0url=http://ac.els-cdn.com/S0167865599000690/1-s2.0-S0167865599000690-main.pdf?_tid=29c303d4-e5bf-11e4-8715-00000aab0f6c&acdnat;=1429357173_d3a58a731988def6112d8c2c53e9ffe0, 각 데이터들을 임의의 클러스터에 배당한 후, 각 클러스터에 배당된 점들의 평균 값을 초기 \mu_i 로 설정한다. 무작위 분할 기법의 경우 다른 기법들과는 달리 데이터 순서에 대해 독립적이다. 무작위 분할의 경우 초기 클러스터가 각 데이터들에 대해 고르게 분포되기 때문에 각 초기 클러스터의 무게중심들이 데이터 집합의 중심에 가깝게 위치하는 경향을 띈다. 이러한 특성 때문에 k-조화 평균이나 퍼지 k-평균에서는 무작위 분할이 선호된다.
### Forgy
Forgy 알고리즘은 1965년 Forgy에 의해 고안되었으며publisher=Academic Press 현재 주로 쓰이는 초기화 기법 중 하나로, 데이터 집합으로부터 임의의 k개의 데이터를 선택하여 각 클러스터의 초기 \mu_i 로 설정한다. 무작위 분할 기법과 마찬가지로 Forgy 알고리즘은 데이터 순서에 대해 독립적이다. Forgy 알고리즘의 경우 초기 클러스터가 임의의 k개의 점들에 의해 설정되기 때문에 각 클러스터의 무게중심이 중심으로부터 퍼져있는 경향을 띈다. 이러한 특성 때문에 EM 알고리즘이나 표준 k-평균 알고리즘에서는 Forgy 알고리즘이 선호된다.url-status=dead
### MacQueen
1967년 MacQueen에 의해 고안된 MacQueen 알고리즘은 Forgy 알고리즘과 마찬가지로 데이터 집합으로부터 임의의 k개의 데이터를 선택하여 각 클러스터의 초기 \mu_i 로 설정한다. 이후 선택되지 않은 각 데이터들에 대해, 해당 점으로부터 가장 가까운 클러스터를 찾아 데이터를 배당한다. 모든 데이터들이 클러스터에 배당되고 나면 각 클러스터의 무게중심을 다시 계산하여 초기 \mu_i 로 다시 설정한다. MacQueen 알고리즘의 경우 최종 수렴에 가까운 클러스터를 찾는 것은 비교적 빠르나, 최종 수렴에 해당하는 클러스터를 찾는 것은 매우 느리다.url-status=
### Kaufman
1990년에 Kaufman과 Rousseeuw에 의해 고안된 Kaufman 알고리즘publisher=Wiley, Canada 은 전체 데이터 집합 중 가장 중심에 위치한 데이터를 첫번째 \mu_i 로 설정한다. 이후 선택되지 않은 각 데이터들에 대해, 가장 가까운 무게중심 보다 선택되지 않은 데이터 집합에 더 근접하게 위치한 데이터를 또 다른 \mu_i 로 설정하는 것을 총 k개의 \mu_i 가 설정될 때까지 반복한다. 무작위 분할과 마찬가지로, Kaufman 알고리즘은 초기 클러스터링과 데이터 순서에 대해 비교적 독립적이기 때문에 해당 요소들에 의존적인 다른 알고리즘들 보다 월등한 성능을 보인다.
# 복잡도
k-평균 알고리즘의 계산 복잡도에 크게 영향을 미치는 요소 두가지는 유클리드 공간 d와 클러스터의 수 k이다. 클러스터의 수가 작더라도, 일반적인 유클리드 공간 d에서 k-평균 알고리즘의 최적 해를 찾는 것은 NP-난해이다.doi=10.1007/s10994-009-5103-0arxiv=0805.1390 반대로 낮은 차원의 유클리드 공간일지라도, k개의 클러스터에 대해 최적 해를 찾는 것 또한 NP-난해이다.doi=10.1007/978-3-642-00202-1_24 이러한 이유로 k-평균 알고리즘에서는 위와 같은 휴리스틱 기법을 주로 사용한다. Lloyd 알고리즘의 경우, 시간 복잡도는 클러스터의 수, 데이터 벡터의 차원, 데이터 벡터의 수에 각각 비례한다. 또한 알고리즘이 해가 수렴하기까지 반복되므로, 알고리즘이 반복된 횟수에도 비례한다. 즉, n개의 d-차원 데이터 벡터들을 i번의 반복을 통해 k개의 클러스터로 묶는데 걸리는 시간은 O(nkdi)이다. 보통 데이터 오브젝트의 개수보다 클러스터의 개수가 훨씬 적으므로 k \ll n이고, 알고리즘 반복 횟수 역시 데이터 오브젝트 개수보다 훨씬 적으므로 i\ll n이다. 따라서, k-평균 알고리즘은 많은 환경에서 빠르게 수렴하고, 대규모 데이터를 처리하는데 적합하므로 널리 사용된다. * Smoothed analysis 경우의 복잡도는 다항 시간이다. [0, 1]^d내의 임의의 n개의 점들의 집합에 대해, 집합 내의 각 점들이 평균 0, 분산\sigma^2의 정규분포를 이룬다면, 해당 집합을 k개의 클러스터로 묶는데 걸리는 시간이 O(n^{34}k^{34}d^8\log^4(n)/\sigma^2)임이 증명된 바 있다.booktitle=Proceedings of the 50th Symposium on Foundations of Computer Science (FOCS) * 다항을 넘는(superpolynomial) 시간(2^{\Omega(\sqrt{n})})이 걸리는 경우도 존재한다.doi=10.1007/s00454-011-9340-1 * 공간 복잡도의 경우, 알고리즘은 각 클러스터의 무게중심 벡터들에 대한 정보를 추가로 저장해야 하고, 이 무게중심 벡터들은 매 반복마다 독립적이기 때문에, k-평균 알고리즘은 O((n+k)d)의 공간 복잡도를 가진다.
# 한계점
k-평균 알고리즘은 몇 가지 한계점을 가지고 있다. * 클러스터 개수 k값을 입력 파라미터로 지정해주어야 한다. 이 알고리즘은 k값에 따라 결과값이 완전히 달라진다. 예를 들어, 실제 데이터 4개 의 클러스터를 가지고 있는데, k=3으로 입력했다고 가정하자. 그러면 아래와 같은 결과가 나올 수 있다. k가 작을 때 이는 실제 클러스터의 수 보다 k값이 작을 때 발생하는 현상이다. 반대로, 실제 클러스터가 5개인데 k=8을 입력했다고 가정하자. 결과는 아래와 같다. k가 클 때 따라서, k값을 어떻게 주느냐에 따라 클러스터링의 결과가 극명하게 달라지며, 좋지 못한 결과를 보여줄 가능성이 있다. * 알고리즘의 에러 수렴이 전역 최솟값이 아닌 지역 최솟값으로 수렴할 가능성이 있다. 이 알고리즘은 초기값을 어떻게 주느냐에 따라 최적화의 결과가 전역 최적값 (global optimum) 이 아닌 지역 최적값 (local optimum)으로 빠질 가능성이 있다. 예를 들어, 실제 데이터는 3개의 클러스터를 가지고 있고, k도 3이라고 하자. 데이터와 초기 중심값의 분포는 아래와 같다. 초기 상태 그러나 알고리즘을 수행하면서 비용 함수 최소화를 진행하면 아래와 같이 지역 최솟값에 빠져 그대로 수렴하게 된다. 결과 즉, 비용 함수의 함수 공간에서 최적화를 시행할 때, 에러가 줄어드는 방향으로 최적해를 찾아가게 되는데, 전역이 아닌 지역 최솟값에 도달해도 알고리즘의 수렴 조건을 만족하게 되므로 더 이상 최적화를 진행하지 않게 된다. 따라서, 사용자가 기대한 결과를 얻지 못하게 되는 것이다. 이를 방지하기 위해 담금질 기법 (Simulated Annealing) 을 수행하여 의도적으로 에러가 줄어드는 방향을 피하는 방식을 이용하거나, 서로 다른 초기값으로 여러 번 시도해본 뒤 가장 에러값이 낮은 결과를 사용하는 기법 등을 이용함으로써 이 문제를 완화할 수 있다. * 이상값 (outlier) 에 민감하다. k-평균 알고리즘은 이상값 (outlier) 에 민감하게 반응한다. 이상값이란 다른 대부분의 데이터와 비교했을 때 멀리 떨어져 있는 데이터를 의미한다. 이러한 이상값은 알고리즘 내에서 중심점을 갱신하는 과정에서 클러스터 내의 전체 평균 값을 크게 왜곡시킬 수 있다. 따라서 클러스터의 중심점이 클러스터의 실제 중심에 있지 않고 이상값 방향으로 치우치게 위치할 수 있다. 아래의 경우를 살펴보면 클러스터에서 크게 멀어진 중심점 실제 데이터 클러스터는 오른쪽 중간에 위치해있는데 반해 클러스터의 중심은 클러스터로부터 왼쪽으로 상당히 떨어진 지점에 위치한다. 이는 실제 클러스터 외부에 퍼져 있는 이상값들이 중심점 계산에 있어 그 값을 크게 왜곡시켰기 때문이다. 이를 방지하기 위해 k-평균 알고리즘을 실시하기 전에 이상값을 제거하는 프로세스를 먼저 실행하거나, 분할법의 일종인 k-대푯값 알고리즘 (k-medoids algorithm) 을 이용하면 이상값의 영향을 줄일 수 있다. * 구형 (spherical) 이 아닌 클러스터를 찾는 데에는 적절하지 않다. k-평균 알고리즘은 비용 함수를 계산할 때 중심점과 각 데이터 오브젝트간의 거리를 계산하게 된다. 이 때 사용하는 거리는 유클리드 거리이다. 따라서, 알고리즘 수행 시 중심점으로부터 구형으로 군집화가 이루어지게 된다. 만약 주어진 데이터 집합의 분포가 구형이 아닐 경우에는 클러스터링 결과가 예상과 다를 수 있다. 아래의 경우를 살펴보자. 비구형 클러스터 위의 경우에는 총 4개의 클러스터가 존재하는데, 구형인 클러스터는 2개만 존재한다. 위와 같은 경우 클러스터링을 시행하면 중심점으로부터 가까이 있는 데이터 오브젝트들을 한 그룹으로 묶게 되는데, 그러면 얼굴 형상의 데이터 분포를 고르게 4 조각으로 자르는 형상이 나오게 된다. 이는 알고리즘 사용자가 원하는 결과와는 크게 다르다. 위와 같은 경우에는 비슷한 밀도를 가진 데이터 군집을 하나의 클러스터링으로 묶는 방법인 DBSCAN (Density-Based Spatial Clustering of Applications with Noise) 알고리즘이나 mean-shift 클러스터링 알고리즘을 사용하면 원하는 결과를 얻을 수 있다.
# 클러스터의 수
주어진 데이터 집합에서 구하고자 하는 클러스터의 숫자를 설정할 때 다음의 방법론들을 이용할 수 있다.
## Rule of thumb
가장 간단한 방법으로, 데이터의 수가 *n*이라 할 때, 필요한 클러스터의 수는 다음과 같이 계산될 수 있다.year = 1979365 : k \approx \sqrt{n/2}
## Elbow Method
클러스터의 수를 순차적으로 늘려가면서 결과를 모니터링 한다. 만약 하나의 클러스터를 추가했을 때 이전보다 훨씬 더 나은 결과를 나타내지 않는다면, 이전의 클러스터의 수를 구하고자 하는 클러스터의 수로 설정한다.
## 정보 기준 접근법 (Information Criterion Approach)
클러스터링 모델에 대해 가능도를 계산하는 것이 가능할 때 사용하는 방법으로, 베이지안 정보 기준 등이 있다. k-평균 클러스터링 모델의 경우 가우시안 혼합 모델에 가깝기 때문에, 가우시안 혼합 모델에 대한 가능도를 만들어 정보 기준 값을 설정할 수 있다. url-status = dead see especially Figure 14 and appendix.
# 클러스터링 평가 척도
클러스터링이 얼마나 잘 되었는가를 측정하는 방법으로 내부 평가 혹은 외부 평가, 크게 2가지 방법론을 이용할 수 있다.
## 내부 평가
내부 평가 (internal evaluation) 은 데이터 집합을 클러스터링한 결과 그 자체를 놓고 평가하는 방식이다. 이러한 방식에서는 클러스터 내 높은 유사도 (high intra-cluster similarity)를 가지고, 클러스터 간 낮은 유사도 (low inter-cluster similarity)를 가진 결과물에 높은 점수를 준다. 이와 같은 평가 방법은 오로지 데이터를 클러스터링한 결과물만을 보고 판단하기 때문에, 평가 점수가 높다고 해서 실제 참값 (ground truth) 에 가깝다는 것을 반드시 보장하지는 않는다는 단점이 있다.isbn = 978-0-521-86571-5
### Davies-Bouldin index
Davies-Bouldin index는 아래의 식으로 계산된다. : DB = \frac {1} {n} \sum_{i=1}^{n} \max_{j\neq i}\left(\frac{\sigma_i + \sigma_j} {d(c_i,c_j)}\right) n은 클러스터의 개수, c_x는 클러스터 x의 중심점, \sigma_x는 클러스터 x내의 모든 데이터 오브젝트로부터 중심점 c_x까지 거리의 평균값이며 d(c_i,c_j)는 중심점 c_i와 중심점 c_j간의 거리이다. 높은 클러스터 내 유사도를 가지고 낮은 클러스터간 유사도를 가지는 클러스터들을 생성하는 클러스터링 알고리즘은 낮은 Davies-Bouldin index 값을 가지게 된다. 따라서, 이 지표가 낮은 클러스터링 알고리즘이 좋은 클러스터링 알고리즘으로 평가된다.
### Dunn index
Dunn index는 밀도가 높고 잘 나뉜 클러스터링 결과를 목표로 한다. 이 지표는 클러스터간 최소 거리와 클러스터간 최대 거리의 비율로 정의된다. 각 클러스터에 대하여, Dunn index를 아래의 식으로 계산할 수 있다.doi = 10.1080/01969727408546059 : D = \frac{\min_{1 \leq i MAX_ITERATIONS: return True return oldCentroids == centroids

클러스터 설정 함수

def getLabels(dataSet, centroids): dataSet.label = reassignToNearestCentroid(dataSet, centroids) return dataSet.label

중심점 재계산 함수

def getCentroids(dataSet, labels, k): newCentroids = computeCentroids(dataSet, labels, k) return newCentroids

# 변형

## k-평균++
k-평균 클러스터링은 초기 값을 어떻게 선택 하는가에 따라 성능이 크게 달라지는 성질을 가지고 있다. 2007년 David Arthur와 Sergei Vassilvitskii은 이러한 성질로 인한 피해를 줄이기 위해 k-평균++을 제안하였다.url-status= k-평균++ 알고리즘은 k-평균 클러스링 알고리즘의 초기 값을 선택하는 알고리즘이다. {| class="wikitable" |- | # 데이터 집합으로부터 임의의 데이터를 하나 선택하여 첫 번째 중심으로 설정한다. # *k*개의 중심이 선택될 때까지 다음의 단계를 반복한다. ## 데이터 집합의 각 데이터에 대해서, 해당 데이터와 선택된 중심점들 중 가장 가까운 중심과의 거리 **D(x)**를 계산한다. ## 확률이 **D(x)**^2에 비례하는 편중 확률 분포를 사용하여 임의의 데이터를 선택한 후, *n*번째 중심으로 설정한다. # 선택된 *k*개의 중심들을 초기 값으로 하여 k-평균 클러스터링을 수행한다. |} k-평균++ 알고리즘은 초기 값을 설정하기 위해 추가적인 시간을 필요로 하지만, 이후 선택된 초기 값은 이후 k-평균 알고리즘이 O(log k)의 시간 동안 최적 k-평균 해를 찾는 것을 보장한다. 일반적으로 데이터 마이닝에서 사용된다.
## k-중간점
k-중간점은 클러스터의 무게중심을 구하기 위해 데이터의 평균 대신 중간점을 사용하며, k-평균 알고리즘과 다르게 유클리드 거리뿐 아니라 임의의 거리 함수에 대해서도 동작한다. k-중간점 알고리즘은 1987년 Kaufman과 Rousseeuw에 의해 고안되었다.year=1987 가장 일반적인 예로 중간점 주변 분할 알고리즘이 있다. {| class="wikitable" |- | # 데이터 집합으로부터 임의의 *k*개의 데이터를 선택하여 중간점(medoid)로 설정한다. # 선택된 중간점들이 바뀌지 않을 때까지 다음의 단계를 반복한다. ## 선택되지 않은 데이터들을 가장 가까운 중간점과 묶는다. 이때 유클리드 거리 뿐 아니라 다른 거리 함수도 사용 가능하다. ## 선택되지 않은 각 데이터들에 대해, 해당 데이터를 자신이 포함된 집합의 새로운 중간점으로 가정하여 거리 비용을 계산한다. ## 기존의 중간점들에 대한 거리 비용과 새로 제안된 중간점들에 대한 거리 비용을 비교하여, 비용이 낮아질 경우 중간점을 교체한다. |} k-중간점 알고리즘의 경우 데이터 간의 거리를 계산하기 위해 대부분의 시간을 소비한다. 때문에 데이터간 거리 값을 미리 계산하여 저장하거나 휴리스틱 기법 등을 이용하여 알고리즘의 속도를 빠르게 할 수 있다.year=2009
## k-중앙값 클러스터링
k-중앙값 클러스터링year=1988pages=368–374 은 각 클러스터의 무게중심을 구하기 위해 평균을 사용하는 대신 중앙값을 사용한다. L_2 거리를 최소화하는 k-평균과는 달리, k-중앙값 클러스터링은 L_1 거리를 최소화 한다.
## 퍼지 C-평균 클러스터링
퍼지 C-평균 클러스터링의 경우 k-평균 알고리즘과는 다르게 각 점이 완전히 하나의 클러스터에 속하는 것이 아니라, 해당 클러스터에 속한 정도를 나타내는 수치를 갖는다. 그러므로 각 클러스터의 무게중심은 해당 클러스터에 속한 정도를 비중두어 모든 점들의 평균을 계산한 값이 된다.postscript = {| class="wikitable" |- | # 각 데이터에 대해 편중 계수를 임의의 값으로 초기화 한다. # 계산된 편중 계수의 변화가 주어진 \varepsilon보다 작을 때까지 다음 단계를 반복한다. ## 계산된 편중 값을 적용하여 각 클러스터의 무게중심을 계산한다. ## 데이터가 각 클러스터에 속한 정도를 계산하여 새로운 편중 계수로 설정한다. |} 퍼지 C-평균 클러스터링은 k-평균 알고리즘의 완화 버전(soft version)이라고 할 수 있다.