אנטרופיה

במערכות פיזיקליות מרובות חלקיקים, אֶנְטְרוֹפּיה (מסומנת לרוב באות S) היא תכונה מדידה, המתארת את המידה בה מתקיים במערכת הכלל לפיו לא ניתן להמיר את כל אנרגיית החום של מערכת סגורה לאנרגיה מכנית (החוק השני של התרמודינמיקה). לאור הרחבת המושג במכניקה הסטטיסטית, מקובל לחשוב על האנטרופיה כעל מידת האי־סדר של המערכת, או כעל מידת האקראיות בה. אנטרופיה היא מושג בסיסי בפיזיקה, ובמיוחד בתרמודינמיקה, במכניקה סטטיסטית, במכניקה קוונטית, ובתורת האינפורמציה הקלאסית והקוונטית, ויש לה גם שימושים בשטחים רבים נוספים.

מושג האנטרופיה הורחב מהפיזיקה לתחומים מדעיים שונים, ובהם הוא מזוהה לרוב עם מצב כאוטי, חסר סדר ואקראי.

מבוא 
פירוש המילה היוונית אנטרופיה (ביוונית: έντροπία) הוא תהליך או טרנספורמציה. הפיזיקאי-מתמטי הגרמני רודולף קלאוזיוס הכניס את המונח לתורת התרמודינמיקה כתיאור כמותי של מידת האי-סדר במערכת פיזיקאלית.  אנטרופיה היא פונקציית מצב המסייעת לתאר מעברי חום. כמו כן, מהחוק השני של התרמודינמיקה נובע כי תהליך אדיאבטי (כלומר, תהליך בו המערכת לא מחליפה חום עם הסביבה) המתקיים במערכת הוא הפיך אם ורק אם האנטרופיה של המערכת נשארת קבועה.

במכניקה הסטטיסטית, האנטרופיה מוגדרת עבור מצב מקרוסקופי מסוים כלוגריתם טבעי של מספר המצבים המיקרוסקופיים השונים בהם הוא מתקיים. הגדרה זו מספקת הסבר הסתברותי לחוק השני של התרמודינמיקה, היות שעבור מערכות גדולות מספיק, שתי ההגדרות לאנטרופיה מתלכדות. בהקשר הסטטיסטי, מקובל להבין אנטרופיה כמידת חוסר הסדר במערכת. עם זאת, הגדרה זו אינה מדויקת מספיק כדי לתאר את המושג כהלכה (ראו להלן).

אנטרופיה היא גודל אקסטנסיבי – הוא פרופורציונלי לכמות החומר במערכת אותה הוא מתאר. כלומר, אם שתי מערכות זהות יאוחדו, ערך האנטרופיה של המערכת החדשה יהיה כפול מערך האנטרופיה של כל אחת מהמערכות המקוריות. למושג יש ייחודיות ויישומים בענפים מדעיים רבים.

בתרמודינמיקה
מושג האנטרופיה קשור למעבר חום, ולכן בתרמודינמיקה הקלאסית מוגדר השינוי  בכמות האנטרופיה של מערכת, בעזרת כמות החום  שהמערכת מקבלת (או מאבדת, בהתאם לסימן), והטמפרטורה המוחלטת של המערכת :

אם החום עובר בין שתי מערכות באותה טמפרטורה, האנטרופיה שהמערכת הראשונה מוסרת שווה לאנטרופיה שהמערכת השנייה מקבלת, והתהליך הוא הפיך (רברסבילי). אולם לרוב החום זורם ממערכת בטמפרטורה גבוהה , למערכת בטמפרטורה נמוכה . לכן האנטרופיה שהמערכת בטמפרטורה הנמוכה מקבלת:

גדולה מהאנטרופיה שהמערכת בטמפרטורה הגבוהה מאבדת:

כלומר האנטרופיה הכוללת גדלה:

זהו למעשה החוק השני של התרמודינמיקה, שקובע שסה"כ האנטרופיה במערכת מבודדת יכולה להישאר קבועה או לגדול. משמעותו של חוק זה היא שחום לא יכול לזרום באופן ספונטני ממערכת בטמפרטורה נמוכה למערכת בטמפרטורה גבוהה. הבנה יותר עמוקה של הסיבות לכך, כמו גם של מושג האנטרופיה עצמו, הושגה רק עם פיתוח המכניקה הסטטיסטית.

מושג האנטרופיה והחוק השני נותנים את ההגבלה על היעילות של מנוע חום, שניתנת על ידי חוק קרנו.

במכניקה סטטיסטית
מושג האנטרופיה עומד בבסיס המכניקה הסטטיסטית.
לודוויג בולצמן קשר אותה למספר המצבים המיקרוסקופיים השונים  שיכולים לתת אותו מצב מקרוסקופי:

כאשר kB הוא קבוע בולצמן.

לדוגמה, ניתן להסתכל על ארבעה מטבעות ממוספרים שיכולים להיות ב"עץ" או ב"פלי". כל מצב מקרוסקופי יאופיין על ידי מספר המטבעות שנמצאים ב"עץ". מצב מיקרוסקופי יאופיין על ידי איזה צד כל אחד מהמטבעות נמצא בו:

באופן אינטואיטיבי, אנו מרגישים שבמצב המקרוסקופי "2 עץ, 2 פלי" יש יותר "אי סדר" מאשר במצב "0 עץ 4 פלי". ההגדרה של בולצמן לאנטרופיה מכמתת הרגשה זו.

המכניקה הסטטיסטית עוסקת במערכות בעלות מספר חלקיקים גדול הרבה יותר, בסדר גודל של מספר אבוגדרו. אולם, אפשר להשתמש בדוגמה פשוטה זו כדי להדגים את החוק השני של התרמודינמיקה, על ידי שניקח שתי מערכות כאלה ונחבר אותן. אם שתי המערכות היו מלכתחילה כל אחת במצב המקרוסקופי "2 עץ, 2 פלי", הרי עכשיו המערכת המאוחדת תהיה במצב המקרוסקופי "4 עץ, 4 פלי".

.

זו דוגמה למצב בו האנטרופיה לא השתנתה (השינוי הקטן שקיים, הוא מפני שכאמור המערכות בדוגמה לא מספיק גדולות).

לעומת זאת, אם חיברנו מערכת במצב "0 עץ 4 פלי" למערכת במצב "4 עץ 0 פלי", שוב נקבל מערכת מאוחדת במצב "4 עץ, 4 פלי". אולם הפעם:

.

כלומר האנטרופיה גדלה. יתר על כן, השינוי הזה הוא בלתי הפיך, כי אם ניקח עכשיו את המערכת הגדולה ונחלק אותה חזרה לשתי מערכות קטנות באופן אקראי, רוב הסיכויים שבכל אחת מהמערכות הקטנות נקבל את המצב בו האנטרופיה היא מקסימלית. בדוגמה שלפנינו יש סיכוי של 1:16 לקבל בחזרה את המצב המקורי, לעומת 6:16 לקבל בכל אחד מצב "2 עץ, 2 פלי". במערכות גדולות יותר, בהן יש למשל 2N מטבעות, מירב הסיכויים הם לקבל בצורה כזו  מטבעות "עץ" לערך.

דוגמה יותר ריאליסטית היא של שני מכלי גז בטמפרטורות שונות. נחבר ביניהם, וניתן למערכת להגיע לשיווי משקל. אי אפשר יהיה על ידי חלוקה של המערכת לשניים בחזרה להגיע להפרש הטמפרטורות, אלא אם כן ישב שד מקסוול במעבר ביו שני חלקי המערכת וייתן רק למולקולות איטיות לעבור מימין לשמאל, ורק למהירות לעבור משמאל לימין.

מצבים עם הסתברויות שונות 
הדוגמה לעיל הציגה מקרה שבו לכל המיקרו-מצבים הסתברויות שוות. עם זאת, המצב הנפוץ במכניקה הסטטיסטית הוא שלמצבים השונים של המערכת יש הסתברויות שונות. לדוגמה, אטום בו האלקטרון יכול להיות בכל אחת מרמות האנרגיה של האטום. הסיכוי להיות במצב  נתון על ידי . כדי לחשב את האנטרופיה של המערכת צריך לחשוב על צבר של  מערכות זהות (כאשר  גדול מאוד). מספר המערכות  שנמצאות במצב  הוא:

על פי הגדרת האנטרופיה במכניקה הסטטיסטית, האנטרופיה של הצבר כולו תחושב על פי מספר האפשרויות השונות בו ניתן לסדר אותו כך שאכן בכל מצב יהיו Nr מערכות:

על ידי שימוש בקירוב סטירלינג:

מתקבל הביטוי שמביע את האנטרופיה של המערכת על ידי הסיכוי שלה להיות בכל אחד מהמצבים:

האנטרופיה היא אפס כאשר המערכת נמצאת בוודאות במצב אחד, והיא הגבוהה ביותר כאשר הסיכוי להיות בכל מצב הוא שווה.

על ידי פונקציית החלוקה 
דרך אחרת לחשב את האנטרופיה של מערכת משתמשת בפונקציית החלוקה שלה: מקשרי מקסוול ידוע כי אם F היא האנרגיה החופשית של הלמהולץ של המערכת ו-T היא הטמפרטורה שלה, אז מתקיים . ניתן לבטא את האנרגיה החופשית בעזרת פונקציית החלוקה של המערכת, , ומתקבלת הנוסחה

כאשר  הוא קבוע בולצמן.

על ידי סימולציה

שיטה סטנדרטית 
ממכניקה סטטיסטית אנו יודעים כי  כאשר אנו מצומדים לאמבט חום. מכך ניתן לקבל את קיבול החום.

כעת ניתן לבצע סימולציה של המערכת, למדוד תנודות (פלקטואציות) באנרגיה, להעריך את קיבול החום, לחזור על פעולה זאת בטמפרטורת שונות, ולבסוף לחשב את

וכך לקבל את האנטרופיה.

שיטה זאת דורשת חישובים רבים.

שיטות מתקדמות 
בשיטות מתקדמות לחישובי אנטרופיה מסימולציה משתמשים באנטרופיה של שאנון. באלגוריתמי כיווץ (כגון ZIP) מחפשים קטעים שחוזרים על עצמם ועל ידי חזרה זאת מקטינים את הקובץ, מכיוון שאנטרופיה היא מדד ל"אי סדר", באופן כללי ככל שקובץ של תוצאות של סימולציית מחשב מכווץ יותר האנטרופיה תהיה קטנה יותר. קיים קשר בין גודל הקובץ המכווץ של הסימולציה לאנטרופיה של המערכת הפיזיקלית.

בשיטות מתקדמות שונות משתמשים בעיקרון זה ובאלגוריתמי כיווץ על מנת להעריך את האנטרופיה של מערכות פיזיקליות מורכבות, וזאת בקלות רבה, מכיוון שאלגוריתם כיווץ הוא דבר פשוט ונפוץ.

גישות להבנת אנטרופיה

סדר ואי-סדר 
פונקציית האנטרופיה S היא פונקציית מצב בתרמודינמיקה, והיא מוגדרת לפי הדיפרנציאל שלה, 

פונקציית האנטרופיה היא אקסטנסיבית, שכן היא תלויה בגודל המערכת דרך התלות בכמות החום.

האנטרופיה מוגדרת לפי הדיפרנציאל שלה, במילים אחרות, היא לא מוגדרת באופן מוחלט, ומוגדרים רק הפרשי האנטרופיה לפי תהליך בין מצב A למצב B:

אם  אז התהליך נקרא הפיך, ואם  אז התהליך הוא תהליך בלתי הפיך, כלומר לא ניתן להפוך אותו למצבו ההתחלתי.

הפיזיקאי הגרמני רודולף קלאוזיוס (1862) קשר בין נושא ההפיכות של המערכת ושל האנטרופיה לסידור החלקים בגוף עובד, או במערכת עובדת.

שנים אחריו, ניסה הפיזיקאי האוסטרי לודוויג בולצמן לתרגם את השינויים בסדרים אלה להסתברות של סדר ואי סדר במערכות מולקולריות במצב גז, במילים אחרות הוא חשב על הסיכויים למצוא סדר מסוים במערכת הנמצאת במצב כלשהו.

אחת המשוואות הפשוטות של סדר ואי סדר האנטרופיה פותחה בשנת 1984 על ידי הפיזיקאי פיטר לנדסברג המבוססת על טענות מתרמודינמיקה ומתורת האינפורמציה, משוואה זו מתארת את כמות האי סדר במערכת המכילה n מצבים מובחנים לפי: , כאשר  לא ידוע.

בשילוב שתי מערכות זהות מבודדות למערכת אחת,  יוחלף ב-, משום שכל מצב מהמערכת הראשונה יכול להשתלב עם כל מצב מהמערכת השנייה, ואת האנטרופיה

.

מתוך הצבה ב- מתקבל:

לעומת זאת, כמות האי-סדר צפויה להיות משתנה אינטנסיבי, כלומר: השילוב של שתי מערכות זהות בעלות אותו אי סדר  גורר שהמערכת המתקבלת גם היא בעלת אותו סדר, כלומר . ממשוואות אלו נובע כי . בהתאם לכך ולעובדות אחרות, המדענים הסיקו שמתקיים , כאשר C קבוע.

מהצבה ב- נובע:

באשר הקבוע C נבחר להיות קבוע בולצמן לקבלת משוואה ללא ממדים, ו-.

אנטרופיה בתורת האינפורמציה 
בתורת האינפורמציה כאשר מסתכלם על פונקציית צפיפות של התפלגות כלשהי מגדירים את האנפורמציה של ההתפלגות

מכיוון שהסתברות היא מספר בין 0 ל-1, מתקבל שהאינפורמציה היא מספר בין 0 לאין סוף כך שככל שההסתברות שמשהו יקרה היא קטנה כך האינפורמציה של המאורע גדלה לאינסוף.

האנטרופיה מוגדרת כתוחלת על האינפומציה

למעשה זהו מדד הקובע כמה אינפורמציה יש בממוצע בפילוג הנתון.

בנוסף, ניתן להסתכל על אנטרופיה סטטיסטית מזווית קצת שונה. אם אנו מסתכלים על מספר מאורעות בלתי תלויים וזרים מתקיים השוויון

וכאשר ממשקלים את ההסתברות בערך המאורעות עצמם מתקבלת התוחלת של המשתנה המקרי

מנקודת מבט זו ניתן לראות את התוחלת על משתנה מקרי i.i.d כמדד כללי שמייחס להסתברות שאחד מהמאורעות יקרה. 

לעומת זאת אנטרופיה היא מדד להסתברות שכל המאורעות יקרו ביחד  וזאת בשל העובדה שפונקציית הלוגריתם הופכת כפל לסכום.

שזהו למעשה ממוצע הנדסי משוקלל על ההסתברות.

אנטרופיה בתהליכים אדיאבטים 
תהליך אדיאבטי בתרמודינמיקה הוא תהליך המתרחש בתוך מערכת ללא מעבר חום או חומר לסביבה.

כלומר . אם מציבים זאת בהגדרת הפרש האנטרופיה, מתקבל

נמצא כי בתהליכים הפיכים , ובתהליכים בלתי הפיכים  משום שמתקיים .

ולכן, בתהליכים המתרחשים במערכת אדיאבטית , לפיכך, אין שום תהליך במערכת אדיאבטית שבו מתרחש . במילים אחרות, האנטרופיה לעולם לא פוחתת.

האנטרופיה של מערכת אדיאבטית בתהליך הפיך גדלה עד הגעת המערכת לשיווי משקל, ומכאן שבשיווי משקל האנטרופיה מרבית במערכת אדיאבטית, ובתהליך ספונטני האנטרופיה גדלה, כאשר תהליך ספונטני הוא שינוי בזמן של מערכת המתרחש ללא צורך השקעת אנרגיה במערכת.

האנטרופיה במכניקת הקוונטים 
במכניקה סטטיסטית קוונטית, האנטרופיה של מערכת מוגדרת על ידי מטריצת הצפיפות שלה, , בנוסחה:

כאשר Tr היא פעולת העקבה. ביטוי זה פותח על ידי המתמטיקאי ההונגרי-אמריקאי ג'ון פון נוימן בשנת 1948, ולכן הוא ידועה גם בשם אנטרופיית פון נוימן.

ביטוי זה שווה ערך להגדרה הקלאסית של האנטרופיה:

אנטרופיה והאנרגיה הפוטנציאלית הכובדית 
האנטרופיה של גז היא מקסימלית כשהאטומים מתפלגים הומוגנית, אך ההתפלגות ההומוגנית הזו איננה משתלטת באוויר הפלנטות כמו ההאטמוספירה של כדור הארץ, אשר השדה הגרביטציוני משפיע על צפיפות שכבות האטמוספירה, ומתקבל שהשכבות הנמוכות יותר הן בעלות צפיפות יותר גבוהה מזו של השכבות העליונות.

בעקבות זאת תתקבל סתירה בין שתי המסקנות הבאות:
 האנרגיה הפוטנציאלית שואפת להיות מינימלית בעקבות ההתקהלות המולקולרית על פני הפלנטה.
 האנטרופיה שואפת להיות מקסימלית בעקבות הפצת מולקולות בנפח גדול (בחלל).

במקרה כזה ייתכן רק מצב אחד, או מקסימום אנטרופיה או מינימום אנרגיה.

מכאן, ניתן להגדיר את האנרגיה החופשית:

כאשר  היא האנרגיה הפוטנציאלית, T הטמפרטורה ו-S היא האנטרופיה.

ואז אנרגיה זו תהיה מינימלית, והטמפרטורה היא הגודל הדומיננטי.

בטמפרטורות גבוהות 
בגבול של טמפרטורות גבוהות האנרגיה הפוטנציאלית באנרגיה החופשית ניתנת להזנחה ו-F תהיה במינימום שלה משום שהאנטרופיה S תהיה מקסימלית. ולכן האטמוספירה של כוכבי לכת חמים תפוזר בחלל. בפרט, למרקורי (כוכב חמה) – כוכב הלכת החם ביותר – אין כלל אטמוספירה.

בטמפרטורות נמוכות 
בגבול של טמפרטורות נמוכות, האנטרופיה S ניתנת להזנחה, ו-F תגיע למינימום משום ש-U במינימום. כוכבי הלכת הקרים, שנמצאים רחוק מהשמש שמרו את כל הגזים שלהם, אפילו גז המימן הקל.

אנטרופיה של חורים שחורים 
גם לחור שחור צריכה להיות אנטרופיה. אחרת, אפשר יהיה לזרוק לתוכו חומר שלו אנטרופיה גבוהה, ובכך להוריד את האנטרופיה הכוללת ביקום, בניגוד לחוק השני של התרמודינמיקה. הפיזיקאי הישראלי יעקב בקנשטיין היה הראשון שהציע בשנת 1970 לייחס אנטרופיה לחור שחור. הוא הציע, על סמך הגילוי של סטיבן הוקינג כי השטח הכולל של אופק האירועים כתוצאה ממיזוג בין חורים שחורים לא יכול לקטון, שהאנטרופיה של חור שחור היא פרופורציונלית לשטח אופק האירועים שלו.

בתחילה, התקבלה טענתו בביטול בקהילייה המדעית, כולל מצד הוקינג עצמו, שכן אם לחור שחור יש אנטרופיה, אמורה להיות לו גם טמפרטורה, ואז הוא צריך לקרון כמו גוף שחור. אולם ב־1975 גילה הוקינג כי חור שחור יכול לפלוט קרינה, כתוצאה מזוגות חלקיקים וירטואליים הנוצרים קרוב לפני אופק האירועים שלו. קרינה זו נקראת קרינת הוקינג, וחישובים מתאימים הראו שקרינה זו אכן מתאימה לקיומה של אנטרופיה הפרופורציונלית לשטח החור השחור. בעקבות גילוי זה, נעשה הרעיון למקובל, ואנטרופיה זו מכונה אנטרופיית בקנשטיין-הוקינג.

ראו גם 
 אנטרופיה (סטטיסטיקה)
 מדד שאנון-ויבר

קישורים חיצוניים

הערות שוליים

גדלים פיזיקליים
תרמודינמיקה
פיזיקה סטטיסטית