Ιστορία της τυχαιότητας

Στην αρχαία ιστορία οι έννοιες της τύχης και της τυχαιότητας διαπλέκονταν με αυτήν της μοίρας. Πολλοί αρχαίοι λαοί έριχναν ζάρια ώστε να καθορίσουν την μοίρα, και αυτό αργότερα εξελίχθηκε σε παιχνίδια τύχης. Οι περισσότεροι αρχαίοι πολιτισμοί χρησιμοποίησαν διάφορες μεθόδους μαντείας σε μία προσπάθεια να παρακάμψουν την τυχαιότητα και την μοίρα. 
Οι Κινέζοι ήταν πιθανότατα ο πρώτος λαός που τυποποίησε τις πιθανότητες και την τύχη πριν 3.000 χρόνια. 
Οι Έλληνες φιλόσοφοι μελέτησαν την τυχαιότητα σε βάθος, αλλά μόνο σε μη ποσοτικές μορφές. 
Μόλις τον δέκατο έκτο αιώνα άρχισαν οι Ιταλοί μαθηματικοί να τυποποιούν τις πιθανότητες που σχετίζονταν διάφορα τυχερά παιχνίδια. 
Η εφεύρεση του σύγχρονου απειροστικού λογισμού είχε θετική επίδραση στην τυπική μελέτη της τυχαιότητας. Τον 19ο αιώνα παρουσιάστηκε μία απόδειξη για την τυχαιότητα των ψηφίων του αριθμού π.
Στις αρχές του εικοστού αιώνα συνέβη ραγδαία ανάπτυξη της τυπικής ανάλυσης της τυχαιότητας, καθώς εισήχθησαν διάφορες προσεγγίσεις για την μαθηματική θεμελίωση των πιθανοτήτων. 
Στα μέσα προς τέλη του εικοστού αιώνα ιδέες της αλγοριθμικής θεωρίας πληροφοριών εισήγαγαν νέες διαστάσεις στο πεδίο μέσω της έννοιας της αλγοριθμικής τυχαιότητας.
Παρόλο που η τυχαιότητα για πολλούς αιώνες θεωρούνταν συχνά εμπόδιο και μπελάς, τον εικοστό αιώνα οι επιστήμονες υπολογιστών άρχισαν να συνειδητοποιούν ότι η επιτηδευμένη εισαγωγή τυχαιότητας σε υπολογισμούς μπορεί να είναι αποτελεσματικό εργαλείο για τον σχεδιασμό καλύτερων αλγορίθμων. 
Μερικές περιπτώσεις, όπως οι τυχαιοποιημένοι αλγόριθμοι, επιτυγχάνουν καλύτερα αποτελέσματα από τις καλύτερες ντετερμινιστικές μεθόδους.

Από την αρχαιότητα έως τον Μεσαίωνα

Στην αρχαία ιστορία, η έννοιες της τύχης και της τυχαιότητας ήταν συνυφασμένες με αυτήν της μοίρας. 
Οι προχριστιανικοί λαοί κατά μήκος της Μεσογείου έριχναν ζάρια για να καθορίσουν την μοίρα, πρακτική που εξελίχθηκε σε τυχερά παιχνίδια. Υπάρχουν ακόμα στοιχεία για τυχερά παιχνίδια που παίζονταν από τους αρχαίους Αιγύπτιους, Ινδούς και Κινέζους, που χρονολογούνται στο 2100 π.Χ. Οι Κινέζοι χρησιμοποίησαν ζάρια πριν τους Ευρωπαίους και έχουν μακρά ιστορία τυχερών παιχνιδιών.
Πάνω από 3000 πριν, τα προβλήματα που σχετίζονται με το στρίψιμο διαφόρων νομισμάτων μελετήθηκαν στο Βιβλίο των Αλλαγών (I Ching), ένα από τα παλαιότερα Κινέζικα μαθηματικά κείμενα που χρονολογείται πιθανότατα στο 1150 π.Χ. 
Τα δύο βασικά στοιχεία γιν και γιανγκ συνδυάζονται στο I Ching σε διάφορες μορφές ώστε να παραγάγουν συνδυασμούς κορώνα ή γράμματα του τύπου ΚΚ, ΚΓ, ΓΚ, ΓΓ κτλ. ενώ οι Κινέζοι φαίνεται να είχαν υπόψη τους το τρίγωνο του Πασκάλ πολύ πριν την τυποποίησή του από τους Ευρωπαίους τον 17ο αιώνα. Ωστόσο, η δυτική φιλοσοφία ήταν επικεντρωμένη στην μη μαθηματική διάσταση της τυχαιότητας μέχρι τον 16ο αιώνα.
Η ανάπτυξη της έννοιας της τύχης κατά την διάρκεια της ιστορίας υπήρξε σταδιακή. Οι ιστορικοί έχουν αναρωτηθεί γιατί η πρόοδος στο πεδίο της τυχαιότητας υπήρξε τόσο αργή, δεδομένου ότι οι άνθρωποι ήταν αντιμέτωποι με την τύχη από την αρχαιότητα. Η Ντέμπορα Μπένετ προτείνει ότι οι απλοί άνθρωποι αντιμετώπισαν εγγενή δυσκολία στην κατανόηση της τυχαιότητας, παρόλο που η έννοια συχνά λαμβάνεται ώς προφανής και αυταπόδεικτη. Αναφέρει μελέτες του Kahneman και του Tversky που κατέληξαν στο συμπέρασμα ότι οι στατιστικές αρχές δεν μαθαίνονται από την καθημερινή εμπειρία επειδή οι άνθρωποι δεν δίνουν σημασία στην αναγκαία λεπτομέρεια για την απόκτηση αυτής της γνώσης.
Οι Έλληνες φιλόσοφοι ήταν οι πρώτοι δυτικοί στοχαστές που ασχολήθηκαν με την τύχη και την τυχαιότητα. Γύρω στο 400 π.Χ. ο Δημόκριτος παρουσίασε μια αντίληψη ενός κόσμου που κυβερνώταν από μονοσήμαντους νόμους τάξης και θεωρούσε την τυχαιότητα υποκειμενική έννοια η οποία πήγαζε από την ανικανότητα των ανθρώπων να κατανοήσουν την φύση των συμβάντων. Χρησιμοποίησε το παράδειγμα δύο ανθρώπων που επρόκειτο να στείλουν τους υπηρέτες τους να φέρουν νερό την ίδια στιγμή ώστε να συναντηθούν. Οι υπηρέτες που δεν γνώριζαν του σχέδιο θα θεωρούσαν την συνάντηση τυχαία.  
Ο Αριστοτέλης θεώρησε την τύχη και την αναγκαιότητα ως αντίθετες δυνάμεις. Ισχυρίστηκε ότι η φύση είχε πλούσια και σταθερά μοτίβα τα οποία δεν θα μπορούσαν να είναι αποτέλεσμα απλώς της τύχης, αλλά αυτά τα μοτίβα δεν παρουσίαζαν την μηχανιστική ομοιομορφία του αναγκαίου ντετερμινισμού. Θεώρησε την τυχαιότητα ως αυθεντικό μέρος, αλλά ταυτόχρονα υποτελή της αναγκαιότητας και της τάξης. Ο Αριστοτέλης ταξινόμησε τα ενδεχόμενα σε τρεις κατηγορίες: βέβαια ενδεχόμενα τα οποία συμβαίνουν αναγκαία, πιθανά ενδεχόμενα που συμβαίνουν τις περισσότερες φορές, και μη προβλέψιμα ενδεχόμενα που συμβαίνουν από καθαρή τύχη. Θεώρησε το αποτέλεσμα των τυχερών παιχνιδιών ως μη προβλέψιμο.
Περί το 300 π.Χ ο Επίκουρος εισηγήθηκε το ότι η τυχαιότητα υπάρχει αφεαυτής, ανεξάρτητα από την ανθρώπινη γνώση. Πίστευε ότι στον ατομικό κόσμο, τα άτομα θα εκτρέπονταν τυχαία από τις τροχιές τους, φέρνοντας την τυχαιότητα σε υψηλότερα επίπεδα. 
Για αρκετούς αιώνες μετά, η ιδέα της τύχης εξακολούθησε να είναι συνυφασμένη με αυτή της μοίρας. Η μαγεία εξασκούνταν σε πολλούς πολιτισμούς, χρησιμοποιώντας διάφορες μεθόδους. Οι Κινέζοι ανέλυαν τις ρωγμές στα κελύφη χελωνών, ενώ οι Γερμανοί, σύμφωνα με τον Τάκιτο, που είχαν μεγάλη εκτίμηση στους κλήρους και τους οιωνούς, χρησιμοποιούσαν λωρίδες φλοιού των δέντρων. Στην Ρωμαϊκή Αυτοκρατορία η τύχη ήταν προσωποποιημένη στην θεότητα Fortuna. Οι Ρωμαίοι λάμβαναν μέρος σε τυχερά παιχνίδια ώστε να προσομοιώνουν τις αποφάσεις της Fortuna. Το 49 π.Χ, ο Ιούλιος Καίσαρας λέγεται ότι έλαβε την καθοριστική απόφαση να διαβεί τον Ρουβικώνα αφού έριξε ζάρια. 
Η ταξινόμηση του Αριστοτέλη των γεγονότων σε τρεις κατηγορίες: βέβαια, πιθανά και απίθανα υιοθετήθηκε από τους Ρωμαίους φιλόσοφους, αλλά έπρεπε να την συμβιβάσουν με τις ντετερμινιστικές χριστιανικές διδασκαλίες, στις οποίες ακόμη και ενδεχόμενα άγνωστα στους ανθρώπους θεωρούνταν προκαθορισμένα από τον Θεό. Γύρω στο 960 ο Επίσκοπος Wibold του Cambrai απαρίθμησε σωστά τα 56 πιθανά αποτελέσματα, χωρίς τις μεταθέσεις, από το ρίξιμο τριών ζαριών. Δεν έχει βρεθεί καμία αναφορά για παίξιμο χαρτιών στην Ευρώπη πριν το 1350. Η Εκκλησία δίδασκε ενάντια στην χαρτοπαιξία, και έτσι διαδόθηκε πολύ πιο αργά από ότι τα παιχνίδια με βάση τα ζάρια. Η χριστιανική εκκλησία απαγόρευε ειδικά την μαντεία και οπουδήποτε διαδόθηκε ο χριστιανισμός αυτή έχασε την παλαιότερη σημασία της.  
Με το πέρασμα των αιώνων, πολύ χριστιανοί λόγιοι πάλεψαν με την σύγκρουση μεταξύ της πίστης στην ελεύθερη βούληση και την υπονοούμενη από αυτή τυχαιότητα, και την ιδέα ότι ο Θεός γνωρίζει τα πάντα εκ των προτέρων. Ο Αυγουστίνος και ο Ακινάτης προσπάθησαν να συμβιβάσουν την πρόγνωση του Θεού και την ελεύθερη βούληση, αλλά ο Λούθηρος διαφώνησε με την τυχαιότητα και διατύπωσε την άποψη ότι η παντογνωσία του Θεού καθιστά τις ανθρώπινες πράξεις αναπόφευκτες και καθορισμένες. Τον 13ο αιώνα, ο Θωμάς ο Ακινάτης θεώρησε την τυχαιότητα όχι ως αποτέλεσμα ενός μοναδικού αιτίου, αλλά διαφόρων αιτίων που καθορίζονταν όλα από την τύχη. Ενώ πίστευε στην ύπαρξη της τυχαιότητας, δεν την δεχόταν ως κατευθυντήρια αρχή της φύσης, καθώς είδε πολλά μοτίβα στην φύση τα οποία δεν θα μπορούσαν να παραχθούν στην τύχη.
Οι Έλληνες και οι Ρωμαίοι δεν είχαν παρατηρήσει τα μεγέθη των σχετικών συχνοτήτων στα τυχερά παιχνίδια. Για αιώνες η τύχη μελετώνταν στην Ευρώπη χωρίς μαθηματικό υπόβαθρο μέχρι τον 16ο αιώνα όταν Ιταλοί μαθηματικοί άρχισαν να μελετούν τα αποτελέσματα των τυχερών παιχνιδιών με λόγους. Στο έργο του Liber de Lude Aleae, που δημοσιεύτηκε μετά τον θάνατό του, ο Τζιρόλαμο Καρντάνο έγραψε ένα από τα πρώτα δοκίμια που ανέλυεαν τις πιθανότητες νίκης σε διάφορα τυχερά παιχνίδια.

Από τον 17ο έως τον 19ο αιώνα

Περί το 1620 ο Γαλιλαίος έγραψε την διατριβή Περίς μιας ανακάλυψης σχετικής με τα ζάρια η οποία χρησιμοποιούσε ένα πρώιμο πιθανολογικό μοντέλο για να απαντήσει σε συγκεκριμένα ερωτήματα. Το 1654, παροτρυνόμενος από το ενδιαφέρον για τον τζόγο του Σεβαλιέ ντε Μερέ, ο Μπλεζ Πασκάλ ξεκίνησε να αλληλογραφεί με τον Πιέρ ντε Φερμά, στην οποία αλληλογραφία τέθηκε μεγάλο μέρος των θεμελίων της θεωρίας πιθανοτήτων. Το στοίχημα του Πασκάλ είναι αξιοσημείωτο για την πρώιμη χρήση της έννοιας του άπειρου, και την πρώτη επίσημη χρήση της θεωρίας αποφάσεων. Το έργο του Πασκάλ και του Φερμά επηρέασαν το έργο του Λάιμπντιτς στον απειροστικό λογισμό, το οποίο με την σειρά του έδωσε έναυσμα στην ανάλυση πιθανοτήτων και της τυχαιότητας. 
Η πρώτη γνωστή πρόταση για την θεώρηση της τυχαιότητας με όρους πολυπλοκότητας έγινε από τον Λάιμπνιτς σε ένα ασαφές έγγραφο του 17ου αιώνα που ανακαλύφθηκε μετά τον θάνατό του. Ο Λάιμπνιτς αναρωτήθηκε πως μπορεί κανείς να γνωρίζει αν ένα σύνολο σημείων σε ένα χαρτί επιλέχτηκαν τυχαία (π.χ. πιτσιλώντας μελάνι) ή όχι. Δεδομένου ότι για οποιοδήποτε σύνολο πεπερασμένων σημείων υπάρχει πάντα μια εξίσωση που μπορεί να τα περιγράψει, το ερώτημα εστιάζεται στον τρόπο με τον οποίο τα σημεία περιγράφονται μαθηματικώς. Ο Λάιμπνιτς θεωρούσε τα σημεία τυχαία αν η εξίσωση που τα περιέγραφε ήταν υπερβολικά πολύπλοκη. Τρεις αιώνες μετά αυτή η σύλληψη τυποποιήθηκε ως αλγοριθμική τυχαιότητα από τους Chaitin και Κολμπογκόροφ ως το μέγεθος ενός προγράμματος υπολογιστή που απαιτούνταν για να περιγράψει μία πεπερασμένη συμβολοσειρά ως τυχαία.
Ενώ η μαθηματική ελίτ έκανε προόδους στην κατανόηση της τυχαιότητας κατά τον 17ο αιώνα, ο λαός εξακολούθησε να βασίζεται σε μάντεις με την ελπίδα να δαμάσει την τύχη. Αυτό γίνονταν με διάφορους τρόπους στην Ανατολή και στην Ευρώπη από τσιγγάνους και άλλους. Αγγλικές πρακτικές, όπως το διάβασμα αυγών που ρίχνονταν σε ένα ποτήρι, μεταφέρθηκαν από τις κοινότητες των Πουριτανών στην Βόρεια Αμερική.
Η προσέγγιση των πιθανοτήτων από άποψη συχνότητας αναπτύχθηκε για πρώτη φορά από τον Ρόμπερτ Έλις και τον Τζον Βεν στα τέλη του 19ου αιώνα. Στην έκδοση του 1888 του βιβλίου του, The Logic of Chance (Η λογική της τύχης), ο Τζον Βεν έγραψε ένα κεφάλαιο πάνω στην «σύλληψη της τυχαιότητας» και παρουσίασε αποδείξεις για την τυχαιότητα των ψηφίων του αριθμού π, χρησιμοποιώντας τα για να κατασκευάσει ένα τυχαίο περίπατο (random walk) σε δύο διαστάσεις.  
Από τον καιρό του Ισαάκ Νιούτον μέχρι περίπου το 1890, ήταν γενικώς αποδεκτή η άποψη ότι αν κανείς γνωρίζει την αρχική κατάσταση ενός συστήματος με μεγάλη ακρίβεια, και αν όλες οι δυνάμεις που δρουν σε αυτό μπορούν να υπολογιστούν με ανάλογη ακρίβεια, είναι δυνατόν θεωρητικά να γίνουν προβλέψεις για την κατάστασή του για άπειρο χρονικό διάστημα στο μέλλον. Τα όρια τέτοιων προβλέψεων στα φυσικά συστήματα έγιναν ξεκάθαρα το 1893 όταν ο Henri Poincaré έδειξε ότι στο σύστημα των τριών σωμάτων στην αστρονομία μικρές αλλαγές στην αρχική κατάσταση έχουν ως αποτέλεσμα μεγάλες αλλαγές στις τροχιές κατά την αριθμητική ολοκλήρωση των εξισώσεων. Κατά την διάρκεια του 19ου αιώνα, καθώς η θεωρία πιθανοτήτων τυποποιήθηκε και κατανοήθηκε καλύτερα, η αντίληψη της τυχαιότητας ως εμποδίου άρχισε να αμφισβητείται. Ο Γκαίτε έγραψε:
ο ιστός του κόσμου
είναι χτισμένος από αναγκαιότητες και τυχαιότητα
η διάνοια του ανθρώπου τοποθετεί τον εαυτό της μεταξύ των δύο
και τα ελέγχει
μελετά την αναγκαιότητα
και την αιτία της ύπαρξή της
ξέρει πως η τυχαιότητα μπορεί
να διαχειριστεί, να ελεγχθεί, να χρησιμοποιηθεί.
Τα λόγια του Γκέτε αποδείχθηκαν προφητικά όταν τον 20ό αιώνα ανακαλύφθηκαν οι τυχαιοποιημένοι αλγόριθμοι ως ισχυρότατα εργαλεία.

20ος αιώνας

Κατά την διάρκεια του 20ου αιώνα οι πέντε κύριες ερμηνείες των πιθανοτήτων, κλασική, λογική, συχνοτήτων, τάσης, και υποκειμενική έγιναν καλύτερα κατανοητές, μελετήθηκαν, συγκρίθηκαν και αντιπαραβληθούν. Αναπτύχθηκε ένας σημαντικός αριθμός πεδίων εφαρμογής, από τα οικονομικά ως την φυσική. Το 1900 ο Louis Bachelier έκανε εφαρμογή της κίνησης Μπράουν για να αποτιμήσει τα stock options, θεσπίζοντας έτσι τα πεδία των οικονομικών μαθηματικών και της στοχαστικών διεργασιών
Στις αρχές του 20ου αιώνα, ο Ρίχαρντ φον Μίσες έκανε σημαντική πρόοδο, συνεχίζοντας στο έργο του Τζον Βεν, στην μελέτη της θεωρίας συχνοτήτων με όρους, όπως ο ίδιος αποκάλεσε, συλλογικοτήτων (the collective) δηλαδή δειγμάτων. Ο φον Μίσες θεωρούσε την τυχαιότητα των δειγμάτων ως εμπειρικό νόμο, καθιερωμένο από την εμπειρία. Συσχέτισε την «αταξία» ή τυχαιότητα ενός δείγματος με την έλλειψη επιτυχιών σε τυχερά συστήματα. Αυτή η προσέγγιση τον οδήγησε στο να προτείνει ένα ορισμό για την τυχαιότητα ο οποίος βελτιώθηκε αργότερα και έγινε πιο αυστηρός από μαθηματική άποψη, από τον Αλόνσο Τσέρτς την δεκαετία του 1940 με την χρήση υπολογίσιμων συναρτήσεων. Ο φον Μίσες συνέδεσε την αρχή της απιθανότητας των τυχερών συστημάτων (gambling system) με την αρχή διατήρησης της ενέργειας, μία αρχή που δεν μπορεί να αποδειχθεί θεωρητικά ωστόσο έχει αποδειχτεί επανειλημμένα πειραματικά.
Το 1940 στην διατριβή του "On the concept of random sequence" ο Αλόνσο Τσερτς πρότεινε ότι οι συναρτήσεις που χρησιμοποιούνταν για την διάταξη στον χώρο στον φορμαλισμό του φον Μίσες να είναι αναδρομικές παρά αυθαίρετες συναρτήσεις των αρχικών τμημάτων της ακολουθίας επικαλούμενος την υπόθεση Τσερτς-Τιούρινγκ της αποτελεσματικότητας.
Στις αρχές της δεκαετίας του 1940 η θεωρία συχνοτήτων ήταν από δεκτή από τον Κύκλο της Βιέννης αλλά την δεκαετία του 1950 ο Καρλ Πόπερ πρότεινε την θεωρία των τάσεων. Δεδομένου ότι η προσέγγιση με βάσει τις συχνότητες δεν μπορεί να αντιμετωπίσει ένα απλό στρίψιμο νομίσματος, και μπορεί να εφαρμοστεί μόνο σε μεγάλα σύνολα ΄ή δείγματα, οι μεμονωμένες πιθανότητες αντιμετωπίζονταν ως τάσεις. Η έννοια της τάσης καθοδηγήθηκε επίσης και από την επιθυμία να χειριστούν περιπτώσεις πιθανοτήτων στην κβαντομηχανική, π.χ. η πιθανότητα της αποσύνθεσης ενός συγκεκριμένου ατόμου σε μία συγκεκριμένη στιγμή. Σε πιο γενικούς όρους η προσέγγιση βάσει συχνοτήτων δεν μπορεί να αντιμετωπίσει την περίπτωση θανάτου ενός συγκεκριμένου ατόμου, δεδομένου ότι ο θάνατος δεν μπορεί να επαναληφθεί πολλές φορές για το ίδιο άτομο. Ο Καρλ Πόπερ απηχώντας τις ίδιες αντιλήψεις με τον Αριστοτέλη στην θεώρηση της τυχαιότητας ως κατώτερη από την τάξη έγραψε ότι «η έννοια της τύχης δεν μπορεί να τεθεί στην έννοια του νόμου» στην φύση, δεδομένου ότι κανείς λαμβάνει υπόψη του τους νόμους της τύχης.
Η ανάπτυξη της θεωρίας των πληροφοριών από τον Claude Shannon το 1948 αποτέλεσε το έναυσμα για την θεώρηση της τυχαιότητας από την σκοπιά της εντροπίας. Από αυτή την άποψη η τυχαιότητα είναι το αντίθετο από τον ντετερμινισμό σε μία στοχαστική διεργασία. Έτσι αν ένα στοχαστικό σύστημα έχει εντροπία μηδέν τότε δεν έχει τυχαιότητα ενώ οποιαδήποτε αύξηση της εντροπίας αυξάνει την τυχαιότητα.
Η εφαρμογή της υπόθεσης του τυχαίου περιπάτου στην οικονομική θεωρία προτάθηκε για πρώτη φορά από τον Maurice Kendall το 1953. Αργότερα αναπτύχθηκε από τους Eugene Fama και Burton Malkiel. 
Οι τυχαίες συμβολοσειρές μελετήθηκαν για πρώτη φορά την δεκαετία του 1960 από τους Κολμογκόροφ, Chaitin και Martin-Löf. Η αλγοριθμική τυχαιότητα μιας συμβολοσειράς καθορίζονταν ως το ελάχιστο μέγεθος ενός προγράμματος (π.χ. σε bit) που εκτελούμενο σε υπολογιστή παράγει την συμβολοσειρά. 
Κατά την διάρκεια του 20ου αιώνα τα όρια στον χειρισμό της τυχαιότητας έγιναν περισσότερο κατανοητά. Το πιο γνωστό παράδειγμα θεωρητικού αλλά και επιχειρισιακού ορίου στην προβλεψιμότητα είναι η πρόγνωση του καιρού, απλώς επειδή μοντέλα πρόβλεψης χρησιμοποιήθηκαν σε αυτό το πεδίο από την δεκαετία του 1950. Οι προβλέψεις του καιρού και του κλίματος είναι αναγκαστικά αβέβαιες. Οι παρατηρήσεις του καιρού και του κλίματος είναι αβέβαιες και ημιτελής, και τα μοντέλα στα οποία τροφοδοτούνται τα δεδομένα είναι αβέβαια. Το 1961, ο Έντουαρντ Λόρεντζ παρατήρησε ότι μία πολύ μικρή αλλαγή στα αρχικά δεδομένα που δίνονταν σε ένα πρόγραμμα υπολογιστή για την προσομοίωση του καιρού μπορούσε να οδηγήσει σε εντελώς διαφορετικά αποτελέσματα. Αυτό έγινε αργότερα γνωστό ώς το φαινόμενο της πεταλούδας, συχνά παραφραζόμενο ως ερώτηση: «μπορεί το τίναγμα των φτερών μιας πεταλούδας στην Βραζιλία να προκαλέσει τυφώνα στο Τέξας;». Ένα βασικό παράδειγμα των σοβαρών πρακτικών ορίων της προβλεψιμότητας είναι στην γεωλογία, όπου η ικανότητα πρόβλεψης σεισμών είτε σε μοναδική είτε σε στατιστική βάση παραμένει απώτερη προσδοκία για το μέλλον.
Στα τέλη της δεκαετίας του 1970 και στις αρχές της δεκαετίας του 1980, οι επιστήμονες υπολογιστών άρχισαν να συνειδητοποιούν ότι η εσκεμμένη εισαγωγή τυχαιότητας σε υπολογισμούς  είναι αποτελεσματικό εργαλείο για τον σχεδιασμό καλύτερων αρλορίθμων. Σε κάποιες περιπτώσεις, όπως αυτή των τυχαιοποιημένων αλγορίθμων, υπάρχουν καλύτερα αποτελέσματα από ότι στις καλύτερες ντετερμινιστικές μεθόδους.