克劳德·香农

克劳德·艾尔伍德·香农（英語：Claude Elwood Shannon，1916年4月30日—2001年2月24日），美国数学家、电子工程师和密码学家，被誉为信息论的创始人。香农是密西根大學學士，麻省理工學院博士。 1948年，香农发表了划时代的论文——《通訊的數學理論（英语：A Mathematical Theory of Communication）》，奠定了现代信息论的基础。不仅如此，香农还被认为是数字计算机理论和数字电路设计理论的创始人。1937年，21岁的香农是麻省理工學院的硕士研究生，他在其硕士论文中提出，将布尔代数应用于电子领域，能够构建并解决任何逻辑和数值关系，被誉为有史以来最具水平的硕士论文之一。二战期间，香农为军事领域的密碼分析——密码破译和保密通信——做出了很大贡献。 香农出生于密歇根州佩托斯基 。父亲克劳德（1862–1934）与他的姓名完全相同，是新泽西州早期移民的后裔，曾自主创业经商，也担任过审核遗嘱的法官。母亲玛贝尔·沃夫·香农（1890–1945）是德国移民的女儿，职业是语言学教师，曾长期担任密歇根州盖洛德高中的校长。香农人生的前16年都是在盖洛德度过，他在那儿接受了公立学校教育，并于1932年从盖洛德高中毕业。香农对机械和电气电子表现出了极大爱好。他最优秀的学科就是科学和数学，并在家中制作了模型飞机、无线电控制的模型船和一个可与半英里内的朋友家联系的无线电报系统。大一点的时候，他做过西联汇款的投递员。 1932香农进入密歇根大学学习，在大学的一门课程中接触到了乔治·布尔的理论。1936年大学毕业时，香农获得了两个学士学位：电子工程学士和数学学士。不久，香农进入麻省理工学院开始研究生学习，参与了万尼瓦尔·布什的微分分析机（Differential Analyzer）的相关工作。微分分析机是一种模拟计算机，是现代电脑的鼻祖。 在研究微分分析机的自组织（ad hoc）电路时，香农发现引入布尔理论的概念会带有很大的好处。在1937年硕士论文的基础上，香农在1938年发行的Transactions of the American Institute of Electrical Engineers上发表了著名论文“A Symbolic Analysis of Relay and Switching Circuits”。由于这篇论文，香农于1940年被授予美国Alfred Noble协会美国工程师奖。哈佛大学的哈沃德·加德纳称香农的硕士论文“可能是本世纪最重要、最著名的硕士学位论文”。 在这篇论文中，香农证明了布尔代数和二进制算术可以简化当时在电话交换系统中广泛应用的机电继电器的设计。然后，香农扩展了这个概念，证明了基于机电继电器的电路能用于模拟和解决布尔代数问题。 用电子开关模拟布尔逻辑运算是现代电子计算机的基本思路，香农的工作成为数字电路设计的理论基石，完全取代了之前盛行的ad hoc方法。Vannevar Bush建议香农将类似的数学方法应用于孟德尔遗传学，香农接受了这个建议，写出了An Algebra for Theoretical Genetics。凭此论文，香农于1940年获得麻省理工学院博士学位。 1940年，香农成为普林斯顿高等研究院的研究员。在那里香农有很多机会与当时有影响力的科学家和数学家交流，比如阿尔伯特·爱因斯坦、赫尔曼·外尔和约翰·冯·诺伊曼，现代信息论的思想逐渐在他脑海中成型。 二战期间，香农加入贝尔实验室，研究火力控制系统和密码学，相关课题直属国防研究委员会领导。 在贝尔实验室，香农遇到了担任数值分析员的Betty。两人于1949年结婚。 1943年，香农有机会和英国数学家和密码学家艾伦·图灵合作。图灵被派到华盛顿和美国海军交流破译德国的北大西洋潜艇舰队密码的成果，并在贝尔实验室待了一段时间。香农和图灵在一个自助餐厅见面。图灵向香农介绍了现在被称为“通用图灵机”的概念。香农对此很感兴趣，因为图灵机的概念和香农自己的很多想法相吻合。 1945年，战争进入尾声，国防研究委员会NDRC的使命即将结束。在正式解散之间，NDRC决定将重要研究成果整理成册，其中有一篇论文“火力控制系统的数据平滑和数据预测”是香农和雷夫·畢比·布萊克曼（英语：Ralph Beebe Blackman）、亨德里克·韋德·波德一起写的，它的思路和“通信系统中将信号和噪声相分离”是类似的，也就是说，香农在火力控制系统研究中已经发现了后来成为信息论的基本概念和框架体系。 战时香农在密码学领域的研究与通信领域的关系更加密切。1945年，香农向贝尔实验室提交了一份备忘录，题目是“密码学的一个数学理论”，之后在1949年以“保密系统的通信理论”的标题在Bell System Technical Journal正式发表，包含了很多在“通信的一个数学理论”出现的概念和数学公式。香农说，战时对通信理论和密码学的研究使他认识到“两者密不可分”。 还是在贝尔实验室，香农证明了一次性密钥（cryptographic one-time pad）是无法被破译的。香农同时证明了一个无法被破译的密码系统的密钥必须有以下特征：完全随机；不能重复使用；保密；和明文一样长。 1948年，划时代的“通信的一个数学理论”分成两部分，在7月和10月的Bell System Technical Journal发表。文章系统论述了信息的定义，怎样数量化信息，怎样更好地对信息进行编码。在这些研究中，概率理论是香农使用的重要工具。香农同时提出了信息熵的概念，用于衡量消息的不确定性。 1949年，香农和沃倫·韋弗合著了“通信的数学理论”，包含了香农1948年的论文“通信的一个数学理论”和韦弗为非专业人士写的介绍通信理论的内容。韦弗指出，在信息论中"information"这个词不是指“你说了什么”，而是指“你能够说什么”，也就是说，信息表示人们可有多少选择。之后，约翰·罗宾森·皮尔斯在“Symbols, Signals, and Noise”这本书中也对香农的概念作了通俗的介绍。 1951年，香农写了"Prediction and Entropy of Printed English"，说明信息基础理论能够应用于自然语言和计算机语言，计算了英语这门语言的熵，从而为从统计的角度分析语言打下了基础。而且，香农认为如果把空格当作英语字母表上的第27个字母，能够降低提取英语处理的不确定性。 数字通信的基础理论——抽样分析理论——的提出也有香农的贡献。抽样分析理论将连续的模拟信号抽样成离散的数字信号，为20世纪60年代之后数字通信的兴起奠定了基础。 1956年，香农返回MIT。 除了学术研究，香农爱好杂耍、骑独轮脚踏车和下棋。香农发明了很多用于科学展览的设备，比如火箭动力飞行光盘、一个电动弹簧高跷和一个喷射小号。香农的办公桌上放着一个他称之为“终极机器”的盒子，这是香农众多好玩的发明之一，是根据人工智能研究的先驱、数学家马文·闵斯基提出的想法而做出来的。这个盒子外表平淡无奇，只是在一侧有一个开关，弹一下开关，盒盖就会打开，一个机械手会伸出来；将开关复原，机械手就缩回盒子。香农还做了一个设备能够复原魔方。 香农还被认为和爱德华·索普一起发明了第一个佩戴式计算机，这个佩戴式计算机用于提高轮盘赌的获胜几率。 美国科学院院士、伦敦皇家科学院院士、利奥波第那科学院院士（德国） 美国Alfred Noble协会美国工程师奖（1940年） IEEE莫里斯·N·利布曼紀念獎（英语：IEEE Morris N. Liebmann Memorial Award）（1949年） 耶鲁大学首席科学家（1954年） 斯圖亞特·巴蘭汀獎章（英语：Stuart Ballantine Medal）（1955年） 研究合作奖（1956年） 密歇根大学荣誉博士（1961年） 莱斯大学荣誉奖章（1962年） 普林斯顿大学荣誉博士（1962年） 梅文·J·凱利獎章（1962年） 爱丁堡大学荣誉博士（1964年） 匹兹堡大学荣誉博士（1964年） IEEE荣誉奖章（1966年） 美国国家科学奖章（1966年） 美國成就學院（英语：Academy of Achievement）金盤獎（1967年） 美国西北大学荣誉博士（1970年） 哈維獎（英语：Harvey Prize）（1972年） 牛津大学荣誉博士（1978年） 約瑟夫·雅卡爾奖（1978年） 哈羅德·彭德獎（英语：Harold Pender Award）（1978年） 东英吉利亚大学荣誉博士（1982年） 卡内基梅隆大学荣誉博士（1984年） 美国声频技术协会金奖（1985年） 京都奖（1985年） 塔夫斯大学荣誉博士（1987年） 宾西法尼亚大学荣誉博士（1991年） Eduard Rhein Prize（英语：Eduard Rhein Foundation）（1991年） 香农-范诺编码 香农-哈特雷定律 奈奎斯特-香农采样定理 香农容量 香农极限 香农对局 率失真理論 信息学原理 混淆和扩散 一次活页加密算法 Ioan James. Claude Elwood Shannon 30 April 1916 — 24 February 2001. Biographical Memoirs of Fellows of the Royal Society. 2009-12-01, 55: 257–265 [2018-04-02]. ISSN 0080-4606. doi:10.1098/rsbm.2009.0015. （原始内容存档于2017-07-03） （英语）.  Bell Labs website: "For example, Claude Shannon, the father of Information Theory, had a passion...". [2013-05-21]. （原始内容存档于2011-06-05）.  Poundstone, William. Fortune's Formula : The Untold Story of the Scientific Betting System That Beat the Casinos and Wall Street. Hill & Wang. 2005. ISBN 978-0-8090-4599-0.  Robert Price. Claude E. Shannon, an oral history. IEEE Global History Network. IEEE. 1982 [14 July 2011]. （原始内容存档于2012-10-10）.  Claude Shannon, "A Symbolic Analysis of Relay and Switching Circuits," （页面存档备份，存于互联网档案馆） unpublished MS Thesis, Massachusetts Institute of Technology, August 10, 1937. Turing, A.M., On Computable Numbers, with an Application to the Entscheidungsproblem, Proceedings of the London Mathematical Society, 2 42, 1936, 42: 230–651937, doi:10.1112/plms/s2-42.1.230  Turing, A.M., On Computable Numbers, with an Application to the Entscheidungsproblem: A correction, Proceedings of the London Mathematical Society, 2 43 (6), 1938, 43 (6): 544–61937, doi:10.1112/plms/s2-43.6.544  David A. Mindell, Between Human and Machine: Feedback, Control, and Computing Before Cybernetics, (Baltimore: Johns Hopkins University Press), 2004, pp. 319-320. ISBN 978-0-8018-8057-5. quoted in Kahn, The Codebreakers, p. 744. Shannon, Claude (1949). "Communication Theory of Secrecy Systems". Bell System Technical Journal 28 (4): 656–715. The Invention of the First Wearable Computer Online paper by Edward O. Thorp of Edward O. Thorp & Associates (PDF). [2012-11-05]. （原始内容存档 (PDF)于2008-05-28）.  克劳德·艾尔伍德·香农：《通信的数学理论》（A mathematical theory of communication）贝尔系统技术月刊l,27卷,379-423,623-656页, 1948年7月,10月 克劳德·艾尔伍德·香农和Warren Weaver:《通信的数学理论》伊利诺伊大学出版社, Urbana,伊利诺伊,1949年. ISBN 978-0-252-72548-7 香农的生活和生涯 《保密系统通讯理论》（Communication Theory of Secrecy Systems）：Scanned JPEG images，PDF（页面存档备份，存于互联网档案馆），PDF site. 通信的数学理论（页面存档备份，存于互联网档案馆） 麻省理工讣告（页面存档备份，存于互联网档案馆） Obituary Royal Netherlands Academy of Sciences (in Dutch) 在密歇根大学的回顾 Notes on Computer-Generated Text 香农的贡献 香农的判别理论和判别机器人 香农的关于计算机下象棋的论文，文本（页面存档备份，存于互联网档案馆） 香农的关于计算机下象棋的论文,PDF（页面存档备份，存于互联网档案馆） 香农的关于计算机下象棋的论文，文本，原稿（页面存档备份，存于互联网档案馆） 《信息科学技术概论》附录1《信息论的奠基人—香农》（页面存档备份，存于互联网档案馆）