רשת בייסיאנית

רשת ביסיאנית (באנגלית: Bayesian network) היא מודל הסתברותי גרפי, המייצג קבוצה של משתנים מקריים כמו גם את תלותם המותנית, באמצעות גרף מכוון חסר מעגלים. הרשת הינה כלי מתחום הלמידה חישובית ממשפחת מסווגים הסתברותיים ("Probabilistic classifier") פשוטים המבוססים על יישום חוק בייס עם השערות בלתי תלויות חזקות (נאיביות) בין התכונות. הרשת מורכבת מגרף מכוון חסר מעגלים וטבלאות של הסתברויות מותנות. כל קודקוד בגרף מסמל משתנה מקרי, אליו צמודה טבלה המפרטת את ההסתברות המותנית שלו ביחס להוריו בגרף. רשתות בייסיאניות משמשות לתוכנות הדורשות הסקה סטטיסטית, ולתוכנות הלומדות מדוגמאות. סיווג טקסט (שיוך מסמכים כשייכים לקטגוריה אחת או אחרת כגון: דואר זבל או לגיטימי, ספורט או פוליטיקה, וכו'), אנליזה רפואית ומחקר של ביואינפורמטיקה, הם תחומים בהם נעשה שימוש ברשתות בייסיאניות. במילים פשוטות, רשת בייסיאנית מניחה שהערך של תכונה מסוימת אינו קשור לנוכחות או היעדר כל תכונה אחרת, בהינתן משתנה הקבוצה. לדוגמה: פירות יכולים להיחשב תפוח אם זה אדום, עגול ובקוטר של 7 ס"מ. הרשת רואה כל אחת מהתכונות הללו כתורם באופן בלתי תלוי להסתברות שהפרי הזה הוא תפוח, ללא קשר בנוכחות או היעדר של תכונות האחרות. עבור סוגים מסוימים של מודלי הסתברויות, ניתן לאמן רשתות בייסיאניות ביעילות רבה באמצעות למידה מונחית. ביישומים שימושיים רבים, משתמשים בשיטה של סבירות מרבית להערכת פרמטרים עבור מודלים בייסיאנים נאיביים. במילים אחרות, אפשר לעבוד עם רשת בייסיאנית בלי לקבל הסתברות לפי חוק בייס או באמצעות כל השיטות הבייסיאניות האחרות. למרות המבנה הנאיבי וככל הנראה ההשערות הפשטניות, רשתות בייסיאניות עבדו די טוב בהרבה מצבים מורכבים במציאות. ב-2004, ניתוח בעיית הסיווג הבייסיאני הראה כי יש נימוקים תאורטיים מבוססים ליעילות בלתי סבירה לכאורה של המסווגים הבייסיאני הנאיביים. ובכל זאת, השוואה מקיפה עם אלגוריתמי סיווג אחרים ב-2006 הראתה כי הסיווג הבייסיאני הוא בעל ביצועים טובים יותר מאשר מודלים אחרים, כגון עצי שיפרה (אנ') או יערות אקראיים (אנ'). היתרון של רשת בייסיאנית הוא שנדרשת רק כמות קטנה של נתונים על מנת להעריך את הפרמטרים (ממוצעים, סטיות תקן ושונות של המשתנים) הנדרשים לסיווג. מכיוון שרק המשתנים הבלתי תלויים משוערים, יש להגדיר רק את השונות של המשתנים עבור כל קבוצה ולא את כל מטריצת השונות המשותפת. המונח "רשתות בייסיאניות" הוטבע על ידי יהודה פרל בשנת 1985 על מנת להדגיש שלושה היבטים: לרוב מידע הקלט הוא סובייקטיבי. הסתמכות על התניית חוק בייס כבסיס לעדכון מידע. הבחנה בין מצבי חשיבה לוגית סיבתיים לראייתיים, שמדגיש מאמרו של תומאס בייס ב-1763 שפורסם לאחר מותו. בסוף 1980 כתבי העט "חשיבה הסתברותית במערכות חכמות" של יהודה פרל ו"חשיבה הסתברותית במערכות מומחה" של ריצ'רד אי. נפוליטני סיכמו את כלל המאפיינים בנושא של רשתות בייסיאניות, והנושא הוקם כתחום לימודים. גרסאות לא רשמיות של רשתות כאלה היו בשימוש לראשונה על ידי המשפטן ג'ון הנרי וויגמור (אנ'), בצורה של תרשימי וויגמור (אנ'), על מנת לנתח ראיות משפטיות ב-1913. גרסאות אחרות, שנקראו דיאגרמות נתיב (אנ'), פותחו על ידי הגנטיקאי סיוול רייט (אנ') והשתמשו בהם בתחום של מדעי החברה והתנהגות. באופן מופשט, מודל ההסתברות לרשת בייסיאנית הוא מודל מותנה p ( C | F 1 , … , F n ) {\displaystyle p(C\vert F_{1},\dots ,F_{n})\,} עם משתנה תלוי C {\displaystyle C} בקבוצה עם מספר קטן של תוצאות או קבוצות, מותנה באמצעות מספר משתני תכונה F 1 {\displaystyle F_{1}} עד F n {\displaystyle F_{n}} . הבעיה היא כאשר מספר התכונות n {\displaystyle n} הוא גדול או כאשר תכונה מכילה מספר גדול של ערכים, לא מעשי לבסס את המודל על טבלאות הסתברות. לפיכך, ננסח מחדש את המודל כדי להפוך אותו ליותר "צייתן" (קל יותר לשלוט או להשפיע עליו). על ידי שימוש בחוק בייס המודל יראה בצורה הבאה: p ( C | F 1 , … , F n ) = p ( C )   p ( F 1 , … , F n | C ) p ( F 1 , … , F n ) {\displaystyle p(C\vert F_{1},\dots ,F_{n})={\frac {p(C)\ p(F_{1},\dots ,F_{n}\vert C)}{p(F_{1},\dots ,F_{n})}}\,} תוך שימוש בטרמינולוגיית הסתברות בייסיאנית ניתן לכתוב את המשוואה הנ"ל כך: posterior = prior × likelihood evidence {\displaystyle {\mbox{posterior}}={\frac {{\mbox{prior}}\times {\mbox{likelihood}}}{\mbox{evidence}}}\,} בפועל, בשבר הנ"ל, יש עניין רק במונה, מכיוון שהמכנה לא תלוי ב- C {\displaystyle C} והערכים של התכונות F i {\displaystyle F_{i}} נתונים, כך שהמכנה הוא למעשה קבוע. המונה הוא שווה ערך למודל ההסתברות המשותפת (אנ') p ( C , F 1 , … , F n ) {\displaystyle p(C,F_{1},\dots ,F_{n})\,} אשר ניתן להציגו תוך שימוש בכלל השרשרת תוך יישומים חוזרים ונשנים של ההגדרה של ההסתברות מותנית: p ( C , F 1 , … , F n ) = p ( C )   p ( F 1 , … , F n | C ) = p ( C )   p ( F 1 | C )   p ( F 2 , … , F n | C , F 1 ) = p ( C )   p ( F 1 | C )   p ( F 2 | C , F 1 )   p ( F 3 , … , F n | C , F 1 , F 2 ) = p ( C )   p ( F 1 | C )   p ( F 2 | C , F 1 )   p ( F 3 | C , F 1 , F 2 )   p ( F 4 , … , F n | C , F 1 , F 2 , F 3 ) = p ( C )   p ( F 1 | C )   p ( F 2 | C , F 1 )   … p ( F n | C , F 1 , F 2 , F 3 , … , F n − 1 ) {\displaystyle {\begin{aligned}p(C,F_{1},\dots ,F_{n})&=p(C)\ p(F_{1},\dots ,F_{n}\vert C)\\&=p(C)\ p(F_{1}\vert C)\ p(F_{2},\dots ,F_{n}\vert C,F_{1})\\&=p(C)\ p(F_{1}\vert C)\ p(F_{2}\vert C,F_{1})\ p(F_{3},\dots ,F_{n}\vert C,F_{1},F_{2})\\&=p(C)\ p(F_{1}\vert C)\ p(F_{2}\vert C,F_{1})\ p(F_{3}\vert C,F_{1},F_{2})\ p(F_{4},\dots ,F_{n}\vert C,F_{1},F_{2},F_{3})\\&=p(C)\ p(F_{1}\vert C)\ p(F_{2}\vert C,F_{1})\ \dots p(F_{n}\vert C,F_{1},F_{2},F_{3},\dots ,F_{n-1})\end{aligned}}} כעת ההשערות הבלתי תלויות המותנות "נאיביות" נכנסות למשחק: נניח שכל תכונה F i {\displaystyle F_{i}} היא בלתי תלויה בכל תכונה אחרת F j {\displaystyle F_{j}} כאשר j ≠ i {\displaystyle j\neq i} בהינתן משתנה C {\displaystyle C} . משמעות הדבר היא: p ( F i | C , F j ) = p ( F i | C ) {\displaystyle p(F_{i}\vert C,F_{j})=p(F_{i}\vert C)\,} p ( F i | C , F j , F k ) = p ( F i | C ) {\displaystyle p(F_{i}\vert C,F_{j},F_{k})=p(F_{i}\vert C)\,} p ( F i | C , F j , F k , F l ) = p ( F i | C ) {\displaystyle p(F_{i}\vert C,F_{j},F_{k},F_{l})=p(F_{i}\vert C)\,} וכך הלאה, כאשר i ≠ j , k , l {\displaystyle i\neq j,k,l} . לפיכך, המודל המשותף בא לידי ביטוי כך: p ( C | F 1 , … , F n ) ∝ p ( C , F 1 , … , F n ) ∝ p ( C )   p ( F 1 | C )   p ( F 2 | C )   p ( F 3 | C )   ⋯ ∝ p ( C ) ∏ i = 1 n p ( F i | C ) {\displaystyle {\begin{aligned}p(C\vert F_{1},\dots ,F_{n})&\varpropto p(C,F_{1},\dots ,F_{n})\\&\varpropto p(C)\ p(F_{1}\vert C)\ p(F_{2}\vert C)\ p(F_{3}\vert C)\ \cdots \\&\varpropto p(C)\prod _{i=1}^{n}p(F_{i}\vert C)\,\end{aligned}}} משמעות דבר היא כי על פי ההשערות הבלתי תלויות לעיל, התפלגות המותנית על משתנה הקבוצה C {\displaystyle C} היא: p ( C | F 1 , … , F n ) = 1 Z p ( C ) ∏ i = 1 n p ( F i | C ) {\displaystyle p(C\vert F_{1},\dots ,F_{n})={\frac {1}{Z}}p(C)\prod _{i=1}^{n}p(F_{i}\vert C)} שבו הראיה Z = p ( F 1 , … , F n ) {\displaystyle Z=p(F_{1},\dots ,F_{n})} היא מקדם קנה מידה התלוי רק ב- F 1 , … , F n {\displaystyle F_{1},\dots ,F_{n}} , כלומר, קבוע אם הערכים של משתני התכונה ידועים. עד כה בוצעה נגזרת של מודל התכונה הבלתי תלוי, שזה בעצם, מודל הסתברות בייסיאנית "הנאיבי". מסווג בייסיאני נאיבי משלב מודל זה עם כלל החלטה (אנ'). הכלל המשותף הוא לבחור את ההשערה הסבירה ביותר. כלל זה ידוע גם בשם "הערכה מקסימלית בדיעבד" או בקיצור כלל MAP (אנ'). המסווג הבייסיאני הוא הפונקציה c l a s s i f y {\displaystyle \mathrm {classify} } המוגדרת באופן הבא: c l a s s i f y ( f 1 , … , f n ) = argmax c   p ( C = c ) ∏ i = 1 n p ( F i = f i | C = c ) {\displaystyle \mathrm {classify} (f_{1},\dots ,f_{n})={\underset {c}{\operatorname {argmax} }}\ p(C=c)\displaystyle \prod _{i=1}^{n}p(F_{i}=f_{i}\vert C=c)} כל הפרמטרים במודל (כלומר, מקדמי הקבוצות והתפלגויות של התכונה) ניתנים להערכה/אומדן עם שכיחות יחסית מקבוצת נתוני האימון. אלה הם ההערכות עם סבירות מרבית של ההסתברויות. ניתן לחשב את מקדם הקבוצה בהנחה שהקבוצות שווי הסתברות (כלומר, מקדם = 1 / (מספר הקבוצות)), או על ידי חישוב אומדן להסתברות הקבוצה מקבוצת נתוני האימון (כלומר, מקדם של הקבוצה הנתונה = (מספר האיברים בקבוצה) / (מספר כולל של האיברים)). כדי לאמוד את הפרמטרים להתפלגות של התכונה, יש להניח התפלגות או ליצור מודלים א-פרמטריים לתכונות מקבוצת נתוני האימון . ההנחות על התפלגויות של התכונות נקראות מודלים פרטיים של מסווג הבייסיאני הנאיבי. לתכונות בדידות כאלה הנזכרות בסיווג מסמכים (כולל סינון דואר זבל), התפלגות מולטינומית וברנולי הן התפלגויות פופולריות. הנחות אלה מובילות לשני מודלים שונים, אשר לפעמים מתבלבלים ביניהם. כאשר מתמודדים עם נתונים רציפים, ההנחה הטיפוסית היא שהערכים הרציפים משויכים לכל קבוצה מתפלגים לפי התפלגות גאוס. לדוגמה, נניח שקבוצת נתוני האימון, מכילה תכונה רציפה x {\displaystyle x} . דבר ראשון מפלחים את הנתונים לקבוצות, לאחר מכן מחשבים את הממוצע והשונות של x {\displaystyle x} בכל קבוצה. μ c {\displaystyle \mu _{c}} הוא הממוצע של הערכים בתכונה x {\displaystyle x} השייכים לקבוצה c ו- σ c 2 {\displaystyle \sigma _{c}^{2}} הוא השונות של הערכים בתכונה x {\displaystyle x} השייכים לקבוצה c. הצפיפות של ערך כלשהו בקבוצה P ( x = v | c ) {\displaystyle P(x=v|c)} , תחושב על ידי חיבור של v {\displaystyle v} למשוואת התפלגות הנורמלית עם הפרמטרים μ c {\displaystyle \mu _{c}} ו - σ c 2 {\displaystyle \sigma _{c}^{2}} . כלומר, המשוואה תיראה כך: p ( x = v | c ) = 1 2 π σ c 2 e − ( v − μ c ) 2 2 σ c 2 {\displaystyle p(x=v|c)={\frac {1}{\sqrt {2\pi \sigma _{c}^{2}}}}\,e^{-{\frac {(v-\mu _{c})^{2}}{2\sigma _{c}^{2}}}}} טכניקה נוספת הנפוצה לטיפול בערכים רציפים היא להשתמש בדיסקרטיזציה (אנ') לערכי התכונה, כדי לקבל סט חדש של תכונות המתפלגות לפי התפלגות ברנולי. באופן כללי, שיטת ההתפלגות היא בחירה טובה יותר אם יש כמות קטנה של נתוני אימון, או אם ההתפלגות המדויקת של הנתונים ידועה. שיטת הדיסקרטיזציה פועלת טוב יותר אם יש כמות גדולה יותר של נתוני אימון מכיוון שהשיטה תלמד להתאים את ההתפלגות לנתונים. במודל המולטינומי, איברים (וקטורי התכונה) מייצגים את השכיחות שבה מקרים מסוימים נוצרו על ידי ההתפלגות המולטינומית ( p 1 , … , p n ) {\displaystyle (p_{1},\dots ,p_{n})} כאשר p i {\displaystyle p_{i}} זה ההסתברות שמקרה i מתרחש (או k במקרה מרובה קבוצות). מודל זה משמש בדרך כלל לסיווג מסמכים (אנ'). ערכי התכונה הם שכיחויות האיברים, שנוצרו על ידי ההתפלגות המולטינומית שמפיק מספר מסוים של מילים (דוגמת הנחת שק-מילים – (אנ')). הסבירות הנצפית של וקטור התכונה (היסטוגרמה) F מתקבלת על ידי המשוואה: p ( F | C ) = ( ∑ i F i ) ! ∏ i F i ! ∏ i p i F i {\displaystyle p(F|C)={\frac {(\sum _{i}F_{i})!}{\prod _{i}F_{i}!}}\prod _{i}{p_{i}}^{F_{i}}} מסווג מולטינומי הבייסיאני הנאיבי הופך למסווג ליניארי (אנ') כאשר הוא מבוטא בסולם לוגריתמי: log ⁡ p ( C | F ) = log ⁡ ( p ( C ) ∏ i = 1 n p ( F i | C ) ) = log ⁡ p ( C ) + ∑ i = 1 n log ⁡ p ( F i | C ) = b + w C T F {\displaystyle {\begin{aligned}\log p(C|F)&=\log \left(p(C)\prod _{i=1}^{n}p(F_{i}\vert C)\right)\\&=\log p(C)+\sum _{i=1}^{n}\log p(F_{i}\vert C)\\&=b+\mathbf {w} _{C}^{\mathsf {T}}\mathbf {F} \end{aligned}}} כאשר b = log ⁡ p ( C ) {\displaystyle b=\log p(C)} וגם w C i = log ⁡ p ( F i | C ) {\displaystyle w_{Ci}=\log p(F_{i}\vert C)} . אם הקבוצה הנתונה וערך התכונה, אף פעם, לא מופיעים יחד בנתוני האימון, השכיחות המבוססת על אומדן הסתברותי תהיה שווה לאפס. תוצאה זו בעייתית מכיוון שהיא תמחק את כל המידע בהסתברויות האחרות כאשר אלה מוכפלות. לכן, לרוב רצוי לשלב תיקון למספר איברים קטן, הנקרא פאסיו-דוקאונט (אנ'), כך שבכל הערכות ההסתברות, אף הסתברות לא תהיה אפס בדיוק. דרך זו של רגולריזציה (אנ') של המסווג הבייסיאני הנאיבי נקראת החלקת תוסף (אנ') כאשר פאסיו-דוקאונט שווה אחד, והחלקת אבן-דרך (אנ') במקרה הכללי. ג'ייסון רני ועמיתיו דנים בבעיות שיש להנחה המולטינומית בהקשר של סיווג מסמכים ודרכים אפשריות כדי להקל על בעיות אלה, כולל שימוש במשקולות ti-idf (אנ') במקום שכיחות אותיות ונרמול אורך המסמך, כדי ליצור מסווג בייסיאני נאיבי שיתחרה עם מחולל תמיכה וקטורית (אנ'). במודל ברנולי בעל המשתנים הרבים, התכונות הם משתנים בוליאניים (אנ') בלתי תלויים המתארים את נתוני הקלט. מודל זה פופולרי לסיווג מסמכים כאשר נעשה שימוש בתכונות בעלי איברים בינאריים במקום שכיחויות האיברים. אם F i {\displaystyle F_{i}} הוא משתנה בוליאני המבטא את התרחשותו או היעדרו של האיבר ה-i' מאוצר המילים, אז הסבירות של המסמך בהינתן קבוצה C נתונה על ידי המשוואה: p ( F 1 , … , F n | C ) = ∏ i = 1 n [ F i p ( w i | C ) + ( 1 − F i ) ( 1 − p ( w i | C ) ) ] {\displaystyle p(F_{1},\dots ,F_{n}\vert C)=\prod _{i=1}^{n}\left[F_{i}\,p(w_{i}\vert C)+(1-F_{i})(1-p(w_{i}\vert C))\right]} שבה p ( w i | C ) {\displaystyle p(w_{i}\vert C)} זו ההסתברות של קבוצה C שמניבה/יוצרת את האיברים. המודל פופולרי במיוחד לסיווג טקסטים קצרים. יש לו את היתרון של מידול (אנ') האיברים הנעדרים בצורה מפורשת. שימו לב שמסווג בייסיאני נאיבי עם מודל ברנולי לא זהה למסווג בייסיאני נאיבי עם מודל מולטינומי הכולל ספירת שכיחויות הקטומות לאחד. למרות העובדה כי הנחות בלתי תלויות מרחיקות לכת הן לעיתים קרובות לא מדויקות, למסווג הבייסיאני הנאיבי יש מספר תכונות שהופכות אותו לשימושי באופן מפתיע בפרקטיקה (תרגול). בפרט, בצימוד של התפלגויות מותנות של תכונה בקבוצה, זה אומר שכל התפלגות יכולה להיות מוערכת באופן בלתי תלוי כהתפלגות חד-ממדית. זה מקל על בעיות הנובעות מקללת הממד (אנ'), כגון צורך בערכות נתונים בקנה מידה אקספוננציאלי עם מספר התכונות. בעוד המסווג הבייסיאני הנאיבי, לעיתים קרובות, לא מצליח לייצר הערכה טובה לקבוצות הסתברויות המדויקות, לכן אין לו דרישה/ביקוש ליישומים רבים. למשל, מסווג בייסיאני הנאיבי יעשה את הסיווג הנכון על פי כלל החלטה MAP (אנ') כל עוד הקבוצה הנכונה היא סבירה יותר מכל קבוצה אחרת. זה נכון ללא קשר לשאלה אם אומדן ההסתברות הוא מעט, או אפילו לא מדויק בעליל. באופן זה, מסווג הכללי יכול להיות חזק מספיק על מנת להתעלם מליקויים חמורים במודל ההסתברות הנאיבי הבסיסי שלה. סיבות נוספות להצלחה שנצפתה של מסווג בייסיאני הנאיבי נדונות בספרות המצוטטת להלן. בעיה - לסווג האם אדם מסוים הוא זכר או נקבה על בסיס התכונות שנמדדו. התכונות - גובה, משקל, ומידת נעליים. להלן סט נתוני האימון: המסווג שנוצר מקבוצת נתוני האימון באמצעות הנחת התפלגות גאוס יהיה (השונות הנתונה זאת שונות המדגם (אנ')): נגיד שיש לנו קבוצות שוות הסתברות כך ש - 0.5=(זכר-male)P = (נקבה-female)P. מקדם התפלגות זה עשוי להיות מבוסס על הידע שלנו משכיחות באוכלוסייה הגדולה יותר, או בשכיחות קבוצת נתוני האימון. להלן דגימה שתסווג כזכר או נקבה: Domingos, Pedro; Pazzani, Michael (1997). "On the optimality of the simple Bayesian classifier under zero-one loss". Machine Learning. 29: 103–137. Rish, Irina (2001). An empirical study of the naive Bayes classifier (PDF). IJCAI 2001 Workshop on Empirical Methods in Artificial Intelligence. Hand, D. J.; Yu, K. (2001). "Idiot's Bayes — not so stupid after all?". International Statistical Review. 69 (3): 385–399. ISSN 0306-7734. Webb, G. I.; Boughton, J.; Wang, Z. (2005). "Not So Naive Bayes: Aggregating One-Dependence Estimators". Machine Learning. Springer. 58 (1): 5–24. Mozina, M.; Demsar, J.; Kattan, M.; Zupan, B. (2004). Nomograms for Visualization of Naive Bayesian Classifier (PDF). Proc. PKDD-2004. pp. 337–348. Maron, M. E. (1961). "Automatic Indexing: An Experimental Inquiry". JACM. 8 (3): 404–417. Minsky, M. (1961). Steps toward Artificial Intelligence. Proc. IRE. Vol. 49. pp. 8–30. Book Chapter: Naive Bayes text classification, Introduction to Information Retrieval Naive Bayes for Text Classification with Unbalanced Classes Benchmark results of Naive Bayes implementations Hierarchical Naive Bayes Classifiers for uncertain data (an extension of the Naive Bayes classifier). Software Naive Bayes classifiers are available in many general-purpose machine learning and NLP packages, including Apache Mahout, Mallet, NLTK, Orange, scikit-learn and Weka. IMSL Numerical Libraries Collections of math and statistical algorithms available in C/C++, Fortran, Java and C#/.NET. Data mining routines in the IMSL Libraries include a Naive Bayes classifier. Winnow content recommendation Open source Naive Bayes text classifier works with very small training and unbalanced training sets. High performance, C, any Unix. An interactive Microsoft Excel spreadsheet Naive Bayes implementation using VBA (requires enabled macros) with viewable source code. jBNC - Bayesian Network Classifier Toolbox Statistical Pattern Recognition Toolbox for Matlab. ifile - the first freely available (Naive) Bayesian mail/spam filter NClassifier - NClassifier is a.NET library that supports text classification and text summarization. It is a port of Classifier4J. Classifier4J - Classifier4J is a Java library designed to do text classification. It comes with an implementation of a Bayesian classifier. תלות בין מאורעות אשר קיימת רק בהינתן שמאורע מסוים התרחש ובלעדי התרחשותו היו המאורעות בלתי תלויים זה בזה Ruggeri, Fabrizio; Kenett, Ron S.; Faltin, Frederick W., eds. (2007-12-14). Encyclopedia of Statistics in Quality and Reliability (1 ed.). Wiley. p. 1. doi:10.1002/9780470061572.eqr089. ISBN 978-0-470-01861-3. Zhang, Harry. "The Optimality of Naive Bayes" (PDF). {{cite journal}}: Cite journal requires |journal= (עזרה) Caruana, R.; Niculescu-Mizil, A. (2006). An empirical comparison of supervised learning algorithms. Proceedings of the 23rd international conference on Machine learning. Pearl, J. (1985). "Bayesian Networks: A Model of Self-Activated Memory for Evidential Reasoning" (UCLA Technical Report CSD-850017): 329–334. נבדק ב-2009-05-01. {{cite journal}}: Cite journal requires |journal= (עזרה) Bayes, T.; Price, Mr. (1763). "An Essay towards solving a Problem in the Doctrine of Chances An Essay towards solving a Problem in the Doctrine of Chances". Philosophical Transactions of the Royal Society. 53: 370–418. doi:10.1098/rstl.1763.0053. Pearl, J. Probabilistic Reasoning in Intelligent Systems. San Francisco CA: Morgan Kaufmann. p. 1988. ISBN 1558604790. Neapolitan, Richard E. (1989). Probabilistic reasoning in expert systems: theory and algorithms. Wiley. ISBN 978-0-471-61840-9. Wright, S. (1921). "Correlation and Causation" (PDF). Journal of Agricultural Research. 20 (7): 557–585. John, George H.; Langley, Pat (1995). "Estimating Continuous Distributions in Bayesian Classifiers 1=". Morgan Kaufmann: 338–345. {{cite journal}}: Cite journal requires |journal= (עזרה) McCallum, Andrew; Nigam, Kamal (1998). A comparison of event models for Naive Bayes text classification. Vol. 752. Metsis, Vangelis; Androutsopoulos, Ion; Paliouras, Georgios (2006). Spam filtering with Naive Bayes—which Naive Bayes?. Vol. 17. Rennie, J.; Shih, L.; Teevan, J.; Karger, D. (2003). Tackling the poor assumptions of Naive Bayes classifiers (PDF). ICML.