אלגוריתם לויד-מקס

אלגוריתם לויד-מקס הוא אלגוריתם הקרוי על שמו של סטוארט לויד למציאת חלוקה לקבוצות של נקודות במרחב אוקלידי לתאים קמורים. בדומה לאלגוריתם k-מרכזים, האלגוריתם מוצא נקודות מרכז לכל קבוצה בחלוקה, ואחר כך מחלק את הנקודות בהתאם לקרבתן למרכזים. בהקשר זה פעולת המיצוע על הנקודות מוחלפת באינטגרל על שטח המרחב, ופעולת מציאת המרכזים הקרובים יוצרת דיאגרמת וורונוי.

את האלגוריתם ניתן להפעיל במרחב אוקלידי, אך אלגוריתמים דומים יכולים להיות מופעלים על מרחבים מממד גבוה יותר או למרחבים לא אוקלידים.

בקוונטיזציה, האלגוריתם מאפשר למזער את השגיאה הריבועית הממוצעת.

== קוונטיזציה אחידה ושגיאת קוונטיזציה ==
בקוונטיזציה אחידה, בהינתן N, מספר הרמות שאליהן אנו מחלקים את הטווח, מספיק לקבוע את רמת הקוונטיזציה הראשונה ואת ההפרש בין הרמות, וכך הקוונטיזציה נקבעת חד-חד-ערכית. אולם, הדבר מגביל אותנו מבחינת שגיאת הקוונטיזציה שאותה ניתן להשיג. נרצה להשיג חופש גדול יותר בבחירת מדרגות הקוונטיזציה וערכיהן בשביל לקבל שגיאה נמוכה יותר.

<math>
\mathrm{MSE} = \int\limits_{-\infty}^{a1} (x-x_1)^2 f_x(x)dx+\textstyle \sum_{i=2}^N\int\limits_{a_{i-2}}^{a_i}(x-x_i)^2 f_x(x)dx+ \int\limits_{a_{N-1}}^{\infty} (x-x_N)^2 f_x(x)dx+\textstyle \displaystyle </math>

נחשב את <math>
x_i </math> ו- <math>
a_i </math> האופטימליים:

עבור <math>
a_i </math>, נגזור ונשווה ל-0:

<math>
{dMSE \over da_i}=f_x(a_i) [(a_i-x_i)^2 -(a_i-x_{i+1})^2]=0 </math>

(שכן, <math>
{d \over db}\int\limits_{a}^{b} g(x)dx=g(b), \qquad {d \over da}\int\limits_{a}^{b} g(x)dx=g(a) </math> )

ואזי, נקבל <math>
a_i </math> האופטימלי:

<math>
a_i= {x_i+x_{i+2} \over 2} </math>

עבור <math>
x_i </math>, נגזור ונשווה ל-0:

<math>
{dMSE \over da_i}=2\int\limits_{a_{i-1}}^{a_i}(x_i-x) f_x(x)dx=0 </math>

<math>
x_i\int\limits_{a_{i-1}}^{a_i} f(x)dx= \int\limits_{a_{i-1}}^{a_i}xf(x)dx </math>

ואזי, נקבל <math>
x_i </math> האופטימלי:

<math>
x_i= { \int\limits_{R_i}xf(x)dx \over \int\limits_{R_i}f(x)dx } </math>

כאשר: <math>
R_i\in \left \{ {a_{i-1}},{a_i} \right \} </math>

== אלגוריתם לויד-מקס ==
- קבע בצורה שרירותית ואחידה את <math>
R_i </math> עבור <math>
i= 1,...,N </math>.

- בצע בצורה איטרטיבית עד התכנסות:
# <math>
x_i= \int\limits_{R_i}xf(x)dx / \int\limits_{R_i}f(x)dx ,\qquad i=1,...,N </math>
# <math>
 a_i= {x_i+x_{i+2} \over 2},\qquad i=1,...,N </math>
* לא בהכרח מתכנס למינימום מוחלט (יכולים להיתקע במינימום מקומי)
* כאמור, אלגוריתם זה נותן קוונטיזציה <math>
 (a_i, x_i) </math> 
* ישנן טבלאות עבור התפלגות גאוסית <math>
 N(0,1) </math> עבור ערכי N שונים.
** במקרים שהתוחלת היא <math>
 \mu </math>, אזי: <math>
 \widehat{a_i}= a_i+ \mu \qquad \widehat{x_i}= x_i+ \mu </math>
** ובמקרים שהשונות היא <math>
 \sigma^2 </math>, אזי: <math>
 \widehat{a_i}= a_i\sigma \qquad \widehat{x_i}= x_i\sigma </math> 
** ובמקרה הכללי: <math>
 \widehat{a_i}= a_i\sigma + \mu \qquad \widehat{x_i}= x_i\sigma+ \mu \qquad \widehat{MSE}= \sigma^2\cdot MSE
 </math>

== דוגמאות ==

הפונקציה הראשונה

דוגמה להתכנסות אלגוריתם לויד- מקס למינימום לוקלי:

נניח N=2. בתמונה משמאל ניתן לראות את <math>
 f_x(x) </math>. 
<math>
a_1= {x_1+x_2 \over 2} </math>, וכן מתקיימים התנאים לLloyd Max. הפונקציה השנייהלמרות שקיימנו את תנאי Lloyd Max, קיבלנו מינימום לוקלי.

פתרון טוב יותר היה הפונקציה התחתונה:

לפי תנאי 1 באלגוריתם, מקבלים את הערך של <math>
x_2 </math> והוא יהיה יותר קרוב למלבן הרחב בציור הראשון.

== ראו גם ==
* קוונטיזציה (עיבוד אותות)
*טעות ריבועית ממוצעת

==לקריאה נוספת==
<div class="mw-content-ltr">

</div>
== קישורים חיצוניים ==

*[http://www.quantize.maths-fi.com/lloyds_animation אנימציה הממחישה את התקדמות האלגוריתם]

קטגוריה:אלגוריתמים