Entropia

Le **entropia** es un mesura del disordine de un systema. Un systema tende a transformar se spontaneemente de un stato de ordine, o de basse entropia, ad un stato de maxime disordine, o de alte entropia. Le entropia de un systema es connexe al quantitate de information que illo contine. Un systema multo ordinate pote esser describite con minus de bits de information que un systema disordinate. Per exemplo, un serie continente dece 0s (zeros) pote esser describite usante un codice tanto simple como (0,10). Ma un serie de symbolos qualcunque, e.g. bits o typos, esserea plus difficile, si non impossibile, a comprimer de iste maniera. Per exemplo, un serie continente tres 1s e septe 0s requirerea additional etiquettas pro esser codificate, assi (0011001000) esserea codificate in (0,2,1,2,1,2,1,1,1,2) con nulle avantage. Isto es assi proque il ha solmente un combination pro le prime serie, e.g. (0000000000), ma il ha \frac{10!}{3!7!} = 120 combinationes pro le secunde serie, e.g. (1110000000), (1101000000), etc.

Le formula de Shannon

 S(M) = - \log_2 p(M) 

da le entropia S(M) de un message M in bits, essente p(M) le probabilitate del message M. Assi, le probabilitate del message prime M_1' constituente de un serie de dece 0s es equal al unitate e S(M_1)=\log_2 (1) = 0. Le probabilitate del message M_2 constituite de tres 1s e septe 0s es p(M_2)={1 \over 120}, e le entropia de iste message es S(M_2)=-\log_2\left(\frac{1}{120}\right)=6,9.

*In un verso traditional anglese, [[Humpty Dumpty]] es un ovo anthropomorphe que non pote esser restaurate a un stato de ordine post un cadita*

## Thermodynamica
Le entropia thermodynamic S, simplemente appellate “le entropia” in le contexto de chimia e thermodynamica, es un mesura del amonta de energia in un physic systema que non pote esser usate pro facer travalio. Illo es anque un mesura del disordine presente in le systema.

Rudolf Clausius, in 1865, introduceva le concepto de entropia. Ille definiva le cambio dS in entropia de un thermodynamic systema, durante un processo reversibile

dS = \frac{dQ}{T} 

ubi dQ es le amonta de calor infinitesimal excambiate durante le tempore dt in que le instantanee absolute temperatura es T.

Clausius dava al quantitate S le nomine "entropia", ab le parola grec **τρoπή**, "transformation". Nota que iste equation involve solmente un cambio in entropia, dunque le entropia es solmente definite usque un constante additive. A sequer, un definition statistic alternative de entropia essera discutite que unicamente lo defini.

In 1877, Boltzmann realisava que le entropia de un systema pote esser connexe al numero de possibile "microstatos" (statos microscopic) consistente con su thermodynamic proprietates. Considera, per exemplo, un ideal gas in un receptaculo. Un microstato es specificate con le positiones e momentos de cata atomo constituente. Consistentia require considerar solmente ille microstatos proque (i) le positiones de omne le particulas son locate intra le volumine del receptaculo,(ii) le summa del energia cinetic del atomos es equal al energia total del gas, e assi in avante. Boltzmann alora postulava que

S = k \ln \Omega

ubi k es cognoscite como le constante de Boltzmann e \Omega es le numero de microstatos que son consistente con le date macroscopic stato. Iste postulato, que es cognoscite como le principio de Boltzmann, pote esser considerate como le fundamento del statistic mechanica, que describe systemas thermodynamic usante le comportamento statistic de su constituentes. Illo relata un proprietate microscopic del systema \Omega con un de su proprietates thermodynamic, le entropia S. Sub le definition de Boltzmann, le entropia es clarmente un function de stato. In plus, proque \Omega es juste un numero natural(1,2,3,...), le entropia debe esser positive (isto es simplemente un proprietate del logarithmo.)

Nos pote vider \Omega como un mesura de le disordine in un systema. Iste es rational, proque o que nos pensa como systemas "ordinate" tende a haber minus de possibilitates configurational, e systemas "disordinate" tende a haber plus de possibilitates configurational. Considera, per exemplo, un collection de 10 numismas, cata un de illos es o capites in alto o caudas in alto. Le plus "ordinate" macroscopic statos son 10 capites o 10 caudas; in ambe casos, il ha exactemente un configuration que pote producer le resultato. In contrasto, le plus "disordinate" stato consiste de 5 capites e 5 caudas, e ha \frac{10!}{5!5!}=252 camminos pro producer iste resultato (vide analyses combinatori). Sub le definition statistic de entropia, le secunde lege del thermodynamica affirma que le disordine in un systema isolate tende a augmentar. Iste pote esser comprendite usante nostre exemplo con numismas. Suppone que nos initia con 10 capites, e jecta in aere un numisma al hasardo cata minuta. Si nos examina le systema post longe tempore, il es possibile que nos totevia videra 10 capites, o etiam 10 caudas, sed isto non es multo probabile; il es plus probabile que nos videra approximativemente tante capites como caudas.

Postea ille discoperiva le idea que le tendentia del disordine a augmentar ha essite le foco de un grande quantitate de pensamento, alicun de illos confuse. Un principal puncto de confusion es le facto de que le resultato \Delta S \ge 0 se applica solmente pro systemas isolate; notabilemente, le Terra non es un systema isolate proque illo recipe constantemente energia in le forma de lumine del sol. Nonobstante, il ha essite observate que le universo pote esser considerate un systema isolate, assi su disordine total deberea augmentar constantemente. Il ha essite speculate que le universo es destinate a un morte thermic in que omne le energia finirea como un distribution de energia thermic homogenee, dunque nulle additional travalio poterea esser extrahite ab alicun fonte.