לכל אורך ההיסטוריה של תורת ההסתברות היא הייתה בעלת השפעה גדולה על ענפי מדע שונים. בתחילה היא השפיעה על ענפים כמו דמוגרפיה, אפידמיולוגיה ואסטרונומיה, בהמשך התרחבה השפעתה גם על מתמטיקה וסטטיסטיקה, במידה ניכרת גם על אלגוריתמיקה ומדעי המחשב, וכן על ענפי מדעי הטבע, כמו פיזיקה ובפרט פיזיקה סטטיסטית ומכניקת הקוונטים. להתפתחות תורת ההסתברות הייתה השפעה מכריעה על התפתחותם של תחומים יסודיים בתוך כל ענפי המדע הללו, ותמצית השפעתה הייתה המסגרת הפורמלית שהיא סיפקה כדי לכמת גדלים שאינם ידועים; גדלים נצפים, גדלים חישוביים וגדלים תאורטיים. במקרים רבים גם לענפי המדע הללו הייתה השפעה על התפתחותה של תורת ההסתברות.
המחקר על אודות ההיסטוריה של תורת ההסתברות ידוע עוד מאמצע המאה ה-19. כך בשנת 1865 פרסם המתמטיקאי וההיסטוריון של המתמטיקה אייזיק טודהאנטר את הספר "היסטוריה של התאוריה המתמטית של הסתברות מזמנו של פסקל ועד זמנו של לפלס".
עבודות מוקדמות.
ניסיון להתייחס לבעיה הכוללת רכיב אקראי כאל בעיה מתמטית, נעשה בשנת 1494 על ידי המתמטיקאי האיטלקי לוקה פאצ'ולי בספרו שכונה בקיצור "סיכום". פאצ'ולי טיפל בבעיה שכונתה בעיית הניקוד: שתי קבוצות משחקות זו נגד זו. כדי שקבוצה תנצח עליה לצבור 60 נקודות, ואז היא זוכה ב-22 דוקטים. מסיבה בלתי צפויה המשחק נפסק לפני שאף אחת משתי הקבוצות הצליחה לצבור 60 נקודות, והמצב היה שקבוצה formula_1 זכתה ב-50 נקודות וקבוצה formula_2 זכתה ב-30 נקודות. פתרונו של פאצ'ולי היה לחלק את הכסף ביחס של formula_3 בין הקבוצות, בהתאם למספר הנקודות שצברו. פתרון זה מניח כי היחס בין הסיכוי לניצחון של קבוצה formula_1 לבין הסיכוי לניצחון של קבוצה formula_2 נקבע על ידי ההיסטוריה של הניצחונות, בה היחס עמד על formula_3. אך פתרון זה שגוי, שכן בהנחה כי יש אי-תלות בין המשחקים, הרי שהיחס בין סיכויי הניצחונות של הקבוצות נקבע על ידי מספר המשחקים העתידיים שנדרשים כדי לנצח. כך לפי ההיגיון של פאצ'ולי, אם לקבוצה formula_1 הייתה נקודה אחת ולקבוצה formula_2 לא היו נקודות כלל, קבוצה formula_1 הייתה צריכה לזכות בכל הדוקטים, אך בוודאי קיימת הסתברות חיובית כלשהי לניצחון של קבוצה formula_2.
תובנה פילוסופית-תאולוגית הנוגעת להבחנה הסתברותית, פורסמה בשנת 1577 על ידי ברתולומיאו דה-מדינה, תאולוג ספרדי. דה-מדינה קבע כי ניתן לבצע בחירה מוסרית שלתוצאותיה הטובות יש הסתברות חיובית כלשהי (במובן האינטואיטיבי של הסתברות), אפילו אם ההסתברות של האלטרנטיבה גבוהה יותר. כך למשל אם אדם מחזיק בדעה המנוגדת לדעתה של הכנסייה הקתולית, מותר לו לבחור לפעול בהתאם לדעתו שלו, על אף שלדעת דה-מדינה ההסתברות לכך שהצדק עם הכנסייה גבוהה מההסתברות שהצדק עמו.
המתמטיקאי ג'ירולמו קרדנו היה הראשון שהגדיר באופן פורמלי את ערך ההסתברות להתרחשות של מאורע מסוים. בחיבורו "ספר על משחקי מזל" (בלטינית: "Liber de ludo aleae"), אותו כתב בשנות ה-60 של המאה ה-16, כמעין מדריך למהמר, הוצג לראשונה טיפול שיטתי בבעיות של הסתברות. בספר הובאו טבלאות להדגמת האפשרויות השונות בזריקת שתיים או שלוש קוביות יחד ואת ההסתברות לקבל צירופים שונים. למשל, בשלוש קוביות יש 6 אפשרויות לשלושה מספרים זהים, 30 אפשרויות לשני מספרים זהים ואחד שונה, בשלושה סידורים שונים - ובסך הכל 90 אפשרויות. 20 אפשרויות לשלושה מספרים שונים זה מזה בשישה סידורים שונים, ובסך הכל 120 אפשרויות. סך האפשרויות הכללי הוא formula_11. קרדנו הציג הגדרה כללית להסתברות להתרחשות תוצאה אחת מבין תוצאות שונות שלכולן סיכויים שווים, וקבע כי היא "מספר האפשרויות לקבל את התוצאה, לחלק למספר האפשרויות לקבל את כל התוצאות". כדוגמה הוא מביא זריקת קוביית משחק הוגנת ובעלת שש פאות, וכותב כי ההסתברות להתרחשות קבלת מספר מסוים (למשל 2), היא formula_12.
קרדנו אף ערך חישוב מורכב בעזרת ממצאיו. תחילה חישב את ההסתברות לקבל 6 לפחות באחת מהקוביות, שהיא: formula_13, ואחר כך חישב את הסיכויים בהימור שייצא 6 בכל אחת משלוש זריקות של שלוש קוביות. קרדנו הראה שיחס הסיכויים הוא:
formula_14
קרדנו, אשר בעבודותיו חישב מספר אפשרויות נפרדות לקבלת מספרן המשולב, קבע בעצם את "כלל החיבור" (אם כי לא ניסח את הכלל האמור במפורש): אם ההסתברות למאורע formula_1 היא formula_16 וההסתברות למאורע formula_2 היא formula_18, אזי ההסתברות להתרחשות המאורע formula_19 היא formula_20 (כלל זה תקף רק כאשר המאורעות formula_21 זרים). למען השלמות ניתן בספרו ניתוח של משחקים בקוביות דמיוניות שלהן פחות משש פאות. בנוסף, קרדנו ניתח בספרו את המושג "סיכוי", ומגדירו כיחס שבין מספר האפשרויות לזכות ומספר האפשרויות להפסיד. בהיקף קטן הוא עסק גם במשחקי קלפים.
קרדנו טיפל אף הוא בבעיית הניקוד, ונמנע מהטעות שביצע לפניו פאצ'ולי. הוא היה הראשון שהבין שצריך להתייחס למספר המשחקים שנותרו לכל קבוצה כדי לנצח כמפתח לחלוקה, ולא למשחקים שכל קבוצה כבר ניצחה. עם זאת קרדנו לא הגיע לנוסחה כללית לפתרון בעיית הניקוד.
ספר זה נדפס רק ב-1663, באיחור של כמעט 100 שנים, מה שמנע מקרדנו את הבכורה בייסוד תורת ההסתברות. אך גם כך הגיעו תוצאות עבודתו בדרכים אחרות לידיעת המתמטיקאים של דורו ושל הדורות הבאים.
הולדת הקומבינטוריקה ותורת ההסתברות הנאיבית.
המקדם הבינומי.
תוצאה שקרדנו הציג השייכת לתחום הקומבינטוריקה והתפרסמה מחוץ לספרו האמור, עוסקת במספר תתי הקבוצות בגודל formula_22 איברים מתוך קבוצה בגודל formula_23 איברים. קרדנו פתר את הבעיה באופן הבא: קבוצה טיפוסית מגודל formula_22 מורכבת מאיבר ראשון, עבורו יש formula_23 אפשרויות בחירה, מאיבר שני, עבורו יש formula_26 אפשרויות בחירה, וכן הלאה, עד האיבר ה-formula_22, עבורו יש formula_28 אפשרויות בחירה. ובסך הכל ישנן formula_29 אפשרויות לבנות תת-קבוצה בגודל formula_22. עם זאת, במקרה בו סדר האיברים בתת-הקבוצה אינו משנה יש להקפיד לא לספור פעמיים קבוצות זהות המתקבלות זו מזו על ידי שינוי סדר. מספר המיקומים הפנימיים השונים של formula_22 איברים כלשהם בתוך קבוצה בגודל formula_22 הם: formula_22 מיקומים לאיבר הראשון, formula_34 מיקומים לאיבר לשני, וכן הלאה, עד האיבר ה-formula_22 שמיקומו יחיד, formula_36. בסיכום, מספר האפשרויות לבנות תת-קבוצה כמבוקש שבה הסדר הפנימי אינו חשוב, הוא הנוסחה המפורסמת:
formula_37
תוצאה זו, קומבינטורית באופיה, חיונית לחישובים הסתברותיים בסיסיים. היא התגלתה עוד קודם לכן על ידי לוי בן גרשון (המכונה הרלב"ג), במאה ה-14, אך לא נודעה ברבים בזמנה, והקרדיט עבור הגילוי ניתן למתמטיקאי הצרפתי בלז פסקל שהציג אותה בצורה הפופולרית ביותר — משולש פסקל:
1 שורה 0
1 1 שורה 1
1 2 1 שורה 2
1 3 3 1 שורה 3
1 4 6 4 1 שורה 4
ערך כל איבר במשולש הוא סכום שני אילו שמעליו. האיבר ה-formula_22, כאשר formula_39, בשורה ה-formula_23, נותן את הפתרון. למשל, ישנן 6 אפשרויות — האיבר השני (השמאלי ביותר הוא כזכור האיבר ה-0) בשורה הרביעית — לקחת שני עצמים מתוך ארבעה. בנוסף לכך, פסקל הוכיח כ-20 טענות שונות בקשר למשולש זה.
בשנים 1636–1637 מצא מרן מרסן הכללה לנוסחה עבור מקרה בו הסדר הפנימי דווקא משנה. מרסן תיאר את מספר האפשרויות ללקיחת formula_41 עצמים מסוג אחד, formula_42 עצמים מסוג שני עד formula_43 מסוג formula_44, מתוך formula_23 עצמים, כאשר הסדר הפנימי בתוך כל תת-קבוצה אינו משנה:
formula_46
ב-1678 טבע תומאס סטרוד את המושג "פרמוטציה" (בעברית: "תמורה") ויישם את נוסחת מרסן לחישוב הסתברות. תחילה חישב סטרוד את מספר הצורות לחלק קבוצה בת formula_23 איברים ל-formula_44 תת-קבוצות בגדלים formula_49 כך שמתקיים formula_50, ולפי נוסחת מרסן מצא כי מספר זה הוא:
formula_51 באמצעות תוצאה קומבינטורית זו פתר סטרוד את הבעיה הבאה: בהינתן formula_44 קוביות הוגנות כך שהקוביה ה-formula_53 היא בעלת formula_54 פאות (ממוספרות formula_55), מהי ההסתברות שבהטלה של כולן יחד, סכום המספרים יהיה formula_23.
פסקל ופרמה.
ידוע כי עבודות של האסטרונומים יוהאנס קפלר וגלילאו גליליי שילבו אלמנטים הסתברותיים, אולם למרות זאת בקרב היסטוריונים של המתמטיקה מקובל לתארך את לידתה של תורת ההסתברות הנאיבית לשנת 1654. בשנה זו פנה אציל צרפתי בשם שבליה דה מרה למתמטיקאי הצרפתי בלז פסקל בנוגע למשחק קוביות והציג שאלה שזכתה לשם "בעיית הניקוד": נניח ששני שחקנים משחקים משחק מזל בו בכל תור אחד מהם מקבל נקודה באופן אקראי (למשל לפי תוצאת הטלת קוביות), ומי שמגיע למספר נקודות מסוים זוכה בפרס שנקבע מראש. אם המשחק הופסק לפני סיומו, איך צריך לחלק את הפרס בין השחקנים?
בעקבות פנייה זו החלה להתנהל תכתובת בין פסקל לבין פייר דה פרמה, ובה עסקו שני המתמטיקאים בבעיות הקשורות למשחקי מזל. בין השאר מצאו פתרון הוגן עבור בעיית הניקוד, כפי שיתואר להלן. התכתובת בין פסקל לפרמה פורסמה רק ב-1679 (לאחרי פרסומו של הויגנס, ראו להלן).