色の量子化
これは元の画像の色とパレットにある色を比較し、パレットにある色で最も元の画像に近い色を量子化した際の画像の色とすることである。ここで、色の「近さ」は「距離」を用いて定義できる。「距離」は次のように定義される。まずそれぞれの画像のRGBの値を測り、それぞれ ( r 1 , g 1 , b 1 ) {\displaystyle (r_{1},g_{1},b_{1})} および ( r 2 , g 2 , b 2 ) {\displaystyle (r_{2},g_{2},b_{2})} とする。このとき、以下の式で示されるユークリッド距離を最短にする色が「最も近い色」となる
( r 1 − r 2 ) 2 + ( g 1 − g 2 ) 2 + ( b 1 − b 2 ) 2 . {\displaystyle {\sqrt {(r_{1}-r_{2})^{2}+(g_{1}-g_{2})^{2}+(b_{1}-b_{2})^{2}}}.}
このようにして効率的に色の立方体を、パレットにある色が点として描かれているボロノイ図に圧縮することができる。またボロノイ図を計算し、どの場所に色がないか決めるために計算幾何学から生まれた効率的なアルゴリズムも存在する。しかし実際は、指定されるパレットはとても小さいため、多くの場合見逃されてしまう。
色の量子化はグラデーションを量子化したときに色の帯が見えるカラーバンディング(英語版)など不要なデジタルアーティファクト(英語版)を取り除くディザと組み合わせられることが多い。