克勞德艾爾伍德夏農（，），美國數學家、電子工程師和密碼學家，被譽為資訊理論的創始人。夏農是密西根大學學士，麻省理工學院博士。 1948 年，夏農發表了劃時代的論文 《》，奠定了現代資訊理論的基礎。不僅如此，夏農還被認為是數字計算機理論和數位電路設計理論的創始人。1937 年，21 歲的夏農是麻省理工學院的碩士研究生，他在其碩士論文中提出，將布林代數應用於電子領域，能夠構建並解決任何邏輯和數值關係，被譽為有史以來最具水平的碩士論文之一。二戰期間，夏農為軍事領域的密碼分析 密碼破譯和保密通訊 做出了很大貢獻。 生平 夏農出生於密歇根州佩託斯基 。父親克勞德（18621934）與他的姓名完全相同，是新澤西州早期移民的後裔，曾自主創業經商，也擔任過稽核遺囑的法官。母親瑪貝爾沃夫夏農（18901945）是德國移民的女兒，職業是語言學教師，曾長期擔任密歇根州蓋洛德高中的校長。夏農人生的前 16 年都是在蓋洛德度過，他在那兒接受了公立學校教育，並於 1932 年從蓋洛德高中畢業。夏農對機械和電氣電子錶現出了極大愛好。他最優秀的學科就是科學和數學，並在家中製作了模型飛機、無線電控制的模型船和一個可與半英里內的朋友家聯絡的無線電報系統。大一點的時候，他做過西聯匯款的投遞員。 布林理論和二戰前研究 1932 夏農進入密歇根大學學習，在大學的一門課程中接觸到了喬治布林的理論。1936 年大學畢業時，夏農獲得了兩個學士學位：電子工程學士和數學學士。不久，夏農進入麻省理工學院開始研究生學習，參與了萬尼瓦爾布什的微分分析機（Differential Analyzer）的相關工作。微分分析機是一種模擬計算機，是現代電腦的鼻祖。 在研究微分分析機的自組織（ad hoc）電路時，夏農發現引入布林理論的概念會帶有很大的好處。在 1937 年碩士論文的基礎上，夏農在 1938 年發行的 Transactions of the American Institute of Electrical Engineers 上發表了著名論文 A Symbolic Analysis of Relay and Switching Circuits Claude Shannon A Symbolic Analysis of Relay and Switching Circuits unpublished MS Thesis Massachusetts Institute of Technology August 10 1937。由於這篇論文，夏農於 1940 年被授予美國 Alfred Noble 協會美國工程師獎。哈佛大學的哈沃德加德納稱夏農的碩士論文 可能是本世紀最重要、最著名的碩士學位論文。 在這篇論文中，夏農證明了布林代數和二進位制算術可以簡化當時在電話交換系統中廣泛應用的機電繼電器的設計。然後，夏農擴充套件了這個概念，證明了基於機電繼電器的電路能用於模擬和解決布林代數問題。 用電子開關模擬布林邏輯運算是現代電子計算機的基本思路，夏農的工作成為數位電路設計的理論基石，完全取代了之前盛行的 ad hoc 方法。Vannevar Bush 建議夏農將類似的數學方法應用於孟德爾遺傳學，夏農接受了這個建議，寫出了 An Algebra for Theoretical Genetics。憑此論文，夏農於 1940 年獲得麻省理工學院博士學位。 1940 年，夏農成為普林斯頓高等研究院的研究員。在那裡夏農有很多機會與當時有影響力的科學家和數學家交流，比如阿爾伯特愛因斯坦、赫爾曼外爾和約翰馮諾伊曼，現代資訊理論的思想逐漸在他腦海中成型。 二戰期間的研究 二戰期間，夏農加入貝爾實驗室，研究火力控制系統和密碼學，相關課題直屬國防研究委員會領導。 在貝爾實驗室，夏農遇到了擔任數值分析員的 Betty。兩人於 1949 年結婚。 1943 年，夏農有機會和英國數學家和密碼學家艾倫圖靈合作。圖靈被派到華盛頓和美國海軍交流破譯德國的北大西洋潛艇艦隊密碼的成果，並在貝爾實驗室待了一段時間。夏農和圖靈在一個自助餐廳見面。圖靈向夏農介紹了現在被稱為 通用圖靈機 的概念。夏農對此很感興趣，因為圖靈機的概念和夏農自己的很多想法相吻合。 1945 年，戰爭進入尾聲，國防研究委員會 NDRC 的使命即將結束。在正式解散之間，NDRC 決定將重要研究成果整理成冊，其中有一篇論文 火力控制系統的資料平滑和資料預測 是夏農和、亨德里克韋德波德一起寫的，它的思路和 通訊系統中將訊號和噪聲相分離 David A Mindell Between Human and Machine Feedback Control and Computing Before Cybernetics Baltimore Johns Hopkins University Press 2004 pp 319320 ISBN 9780801880575 是類似的，也就是說，夏農在火力控制系統研究中已經發現了後來成為資訊理論的基本概念和框架體系。 戰時夏農在密碼學領域的研究與通訊領域的關係更加密切。1945 年，夏農向貝爾實驗室提交了一份備忘錄，題目是 密碼學的一個數學理論，之後在 1949 年以 保密系統的通訊理論 的標題在 Bell System Technical Journal 正式發表，包含了很多在 通訊的一個數學理論 出現的概念和數學公式。夏農說，戰時對通訊理論和密碼學的研究使他認識到 兩者密不可分。quoted in Kahn The Codebreakers p 744 還是在貝爾實驗室，夏農證明了一次性金鑰（cryptographic onetime pad）是無法被破譯的。夏農同時證明了一個無法被破譯的密碼系統的金鑰必須有以下特徵：完全隨機；不能重複使用；保密；和明文一樣長。Shannon Claude 1949 Communication Theory of Secrecy Systems Bell System Technical Journal 28 4 656715 戰後的貢獻 1948 年，劃時代的 通訊的一個數學理論 分成兩部分，在 7 月和 10 月的 Bell System Technical Journal 發表。文章系統論述了資訊的定義，怎樣數量化資訊，怎樣更好地對資訊進行編碼。在這些研究中，機率理論是夏農使用的重要工具。夏農同時提出了資訊熵的概念，用於衡量訊息的不確定性。 1949 年，夏農和沃倫韋弗合著了 通訊的數學理論，包含了夏農 1948 年的論文 通訊的一個數學理論 和韋弗為非專業人士寫的介紹通訊理論的內容。韋弗指出，在資訊理論中 information 這個詞不是指 你說了什麼，而是指 你能夠說什麼，也就是說，資訊表示人們可有多少選擇。之後，約翰羅賓森皮爾斯在 Symbols Signals and Noise 這本書中也對夏農的概念作了通俗的介紹。 1951 年，夏農寫了 Prediction and Entropy of Printed English，說明資訊基礎理論能夠應用於自然語言和計算機語言，計算了英語這門語言的熵，從而為從統計的角度分析語言打下了基礎。而且，夏農認為如果把空格當作英語字母表上的第 27 個字母，能夠降低提取英語處理的不確定性。 數字通訊的基礎理論 抽樣分析理論 的提出也有夏農的貢獻。抽樣分析理論將連續的模擬訊號抽樣成離散的數字訊號，為 20 世紀 60 年代之後數字通訊的興起奠定了基礎。 1956 年，夏農返回 MIT。 愛好和發明 除了學術研究，夏農愛好雜耍、騎獨輪腳踏車和下棋。夏農發明了很多用於科學展覽的裝置，比如火箭動力飛行光碟、一個電動彈簧高蹺和一個噴射小號。夏農的辦公桌上放著一個他稱之為 終極機器 的盒子，這是夏農眾多好玩的發明之一，是根據人工智慧研究的先驅、數學家馬文閔斯基提出的想法而做出來的。這個盒子外表平淡無奇，只是在一側有一個開關，彈一下開關，盒蓋就會開啟，一個機械手會伸出來；將開關復原，機械手就縮回盒子。夏農還做了一個裝置能夠復原魔方。 夏農還被認為和愛德華索普一起發明了第一個佩戴式計算機，這個佩戴式計算機用於提高輪盤賭的獲勝機率。 獲獎與榮譽 美國科學院院士、倫敦皇家科學院院士、利奧波第那科學院院士（德國） 美國 Alfred Noble 協會美國工程師獎（1940 年） （1949 年） 耶魯大學首席科學家（1954 年） （1955 年） 研究合作獎（1956 年） 密歇根大學榮譽博士（1961 年） 萊斯大學榮譽獎章（1962 年） 普林斯頓大學榮譽博士（1962 年） 梅文J凱利獎章（1962 年） 愛丁堡大學榮譽博士（1964 年） 匹茲堡大學榮譽博士（1964 年） IEEE 榮譽獎章（1966 年） 美國國家科學獎章（1966 年） 金盤獎（1967 年） 美國西北大學榮譽博士（1970 年） （1972 年） 牛津大學榮譽博士（1978 年） 約瑟夫雅卡爾獎（1978 年） （1978 年） 東英吉利亞大學榮譽博士（1982 年） 卡內基梅隆大學榮譽博士（1984 年） 美國聲頻技術協會金獎（1985 年） 京都獎（1985 年） 塔夫斯大學榮譽博士（1987 年） 賓西法尼亞大學榮譽博士（1991 年） （1991 年） 參見 夏農 範諾編碼 夏農 哈特雷定律 奈奎斯特 夏農取樣定理 夏農容量 夏農極限 夏農對局 率失真理論 資訊學原理 混淆和擴散 一次活頁加密演算法 參考文獻 克勞德艾爾伍德夏農：《通訊的數學理論》（A mathematical theory of communication）貝爾系統技術月刊 l27 卷，379423623656 頁，1948 年 7 月，10 月 克勞德艾爾伍德夏農和 Warren Weaver《通訊的數學理論》伊利諾伊大學出版社，Urbana 伊利諾伊，1949 年 ISBN 9780252725487 外部連結 夏農的生活和生涯 《保密系統通訊理論》（Communication Theory of Secrecy Systems）：Scanned JPEG images，PDF，PDF site 通訊的數學理論 麻省理工訃告 Obituary Royal Netherlands Academy of Sciences in Dutch 在密歇根大學的回顧 Notes on ComputerGenerated Text 夏農的貢獻 夏農的判別理論和判別機器人 夏農的關於計算機下象棋的論文，文字 夏農的關於計算機下象棋的論文，PDF 夏農的關於計算機下象棋的論文，文字，原稿 《資訊科學技術概論》附錄 1《資訊理論的奠基人 夏農》 Category 美國計算機科學家 Category 美國電子工程師 Category 美國數學家 Category 資訊理論 Category 密歇根州人 Category 密西根大學校友 Category 麻省理工學院校友 Category 密歇根大學榮譽博士 Category 愛丁堡大學榮譽博士 Category 匹茲堡大學榮譽博士 Category 牛津大學榮譽博士 Category 卡內基梅隆大學榮譽博士 Category 賓夕法尼亞大學榮譽博士 Category 麻省理工學院教師 Category 塔夫茨大學榮譽博士 Category 美國國家科學獎獲獎者 Category 京都獎獲得者 Category 克勞德E夏農獎獲得者 Category 約翰弗裡茨獎得主