Εντροπία πληροφοριών

Η εντροπία στη θεωρία πληροφορίας  είναι ένα «μέτρο αβεβαιότητας» που διακατέχει ένα σύστημα.

Ο όρος εντροπία χρησιμοποιήθηκε αρχικά στη θερμοδυναμική (βλ. εντροπία).
Στη θεωρία πληροφορίας εισήχθη από τον Κλωντ Σάνον το 1948 και γι' αυτό ονομάζεται και εντροπία του Σάννον. Η χρήση του ίδιου όρου με τη θερμοδυναμική εντροπία, παρότι μπορεί να προκαλέσει σύγχυση, υιοθετήθηκε από τον Σάνον μετά και από παρότρυνση ενός άλλου σπουδαίου μαθηματικού, του Τζον φον Νόιμαν, ο οποίος φέρεται ότι είχε πει στον ΣάνονL. Floridi, 2010, Information. A very short introduction.:

«Πρέπει να το ονομάσεις εντροπία για δύο λόγους: Πρώτον, η συνάρτηση αυτή χρησιμοποιείται ήδη στη θερμοδυναμική με το ίδιο όνομα. Δεύτερο, και σημαντικότερο, ο περισσότερος κόσμος δεν γνωρίζει τι πραγματικά είναι η εντροπία, και αν χρησιμοποιείς τον όρο εντροπία σε ένα αντεπιχείρημα θα κερδίζεις πάντα».

Η εντροπία της θερμοδυναμικής μπορεί να αντιστοιχιστεί με την εντροπία στη θεωρία πληροφορίας.

 Ορισμός 

Έστω ένα πείραμα τύχης με n πιθανά αποτελέσματα. Θεωρούμε την τυχαία μεταβλητή  και τα απλά ενδεχόμενα  που πραγματοποιούνται με πιθανότητες  και  αντίστοιχα. 

Η εντροπία ορίζεται ως:
,
με την σύμβαση .

 Παραδείγματα 

 Δοκιμή Bernoulli 


Έστω μία δοκιμή Bernoulli με πιθανότητα επιτυχίας . Συγκεκριμένα μπορούμε να θεωρήσουμε ένα δοχείο με  μπάλες,  από τις οποίες είναι λευκές και  μαύρες από το οποίο επιλέγουμε τυχαία μία μπάλα. Η εντροπία της δοκιμής δίνεται από τον τύπο
.

Αν όλες οι μπάλες είναι λευκές ή όλες είναι μαύρες ( ή  αντίστοιχα), τότε ξέρουμε με σιγουριά το αποτέλεσμα του πειράματος και η εντροπία είναι . Τη μέγιστη αβεβαιότητα για το αποτέλεσμα την έχουμε όταν οι μισές μπάλες είναι λευκές και οι μισές μαύρες, .

 Ισοπίθανα γεγονότα 

Έστω η τυχαία μεταβλητή  μπορεί να πάρει  τιμές που είναι ισοπίθανες μεταξύ τους, δηλαδή . Η εντροπία τότε είναι:
.
Έτσι σε μια πηγή πληροφορίας χωρίς μνήμη (η εμφάνιση ενός συμβόλου δεν εξαρτάται από την εμφάνιση κάποιου άλλου συμβόλου) και στην οποία όλα της τα σύμβολα είναι ισοπίθανα τότε έχουμε μέγιστη τιμή εντροπίας .

Παρατηρούμε ότι η εντροπία αυξάνει με τον αριθμό των καταστάσεων.

Παραπομπές

 Shigeru Furuichi, Flavia-Corina Mitroi-Symeonidis, Eleutherius Symeonidis, On some properties of Tsallis hypoentropies and hypodivergences, Entropy, 16(10) (2014), 5377-5399; DOI:10.3390/e16105377
 Shigeru Furuichi, Flavia-Corina Mitroi, Mathematical inequalities for some divergences, Physica A 391 (2012), pp. 388-400, DOI:10.1016/j.physa.2011.07.052; ISSN 0378-4371
 Shigeru Furuichi, Nicuşor Minculete, Flavia-Corina Mitroi, Some inequalities on generalized entropies, J. Inequal. Appl., 2012, 2012:226. DOI: 10.1186/1029-242X-2012-226

Κατηγορία:Θεωρία της Πληροφορίας