Claude Shannon

Talambuhay

Si Shannon ay ipinanganak sa Petoskey, Michigan. Ang kanyang amang si Claude Sr (1862–1934) na inapo ng sinaunang mga nananahan sa New Jersey ay isang negosyante at sa isang panahon ay hukom ng probate. Ang kanyang inang si Mabel Wolf Shannon (1890–1945) na anak ng mga imigranteng Aleman ay isang guro ng wika at sa ilang mga taon ay prinsipal ng Gaylord High School, Michigan. Ang unang 16 na taon ng buhay ni Shannon ay ginugol sa Gaylord, Michigan kung saan siya dumalo sa paaralang publiko mula sa Gaylord High School noong 1932. Si Shannon ay nagpakita ng inklinasyon sa mga bagay mekanikal. Ang pinakamahusay niyang mga paksa ng pag-aaral ang agham at matematika at sa bahay ay lumikha ng mga kasangkapan gaya ng mga modelo ng eroplano, isang kinokontrol ng radyong modelo at isang walang kableng sistemang telegrapo sa bahay ng kanyang kaibigan na kalahating milya ang layo. Habang lumalaki, siya ay nagtrabaho bilang isang mensahero para sa Western Union. Ang kanyang bayani sa kanyang kabataan ay si Thomas Edison na kanyang kalaunang nalaman na isang malayong pinsan. Sila ay parehong mga inapo ni John Ogden na isang leader ng kolonyo at ninuno ng maraming mga natatanging tao.

Teoriyang Boolean

Noong 1932, si Shannon ay pumasok sa University of Michigan kung saan siya kumuha ng kurso na nagpakilala sa kanya sa mga akda ni George Boole. Siya ay nagtapos noong 1936 na may dalawang batsilyer na digri na ang isa ay sa inheryeryang elektrikal at ang isa ay sa matematika. Kalaunan ay nagsimula siya mga pag-aaral pagkatapos ng kolehiyo sa Massachusetts Institute of Technology (MIT) kung saan siya nagtrabaho sa taga-analisang diperensiya ni Vannebar Bush na isang kompyuter na analog.
Habang kanyang pinag-aaral ang komplikadong mga sirkitong ad hok ng taga-analisang diperensiyal, nakita ni Shannon na ang mga konsepto ni Boole ay maaaring labis na magamit. Ang isang papel na hinugot sa kanyang masters tesis noong 1937 na A Symbolic Analysis of Relay and Switching Circuits, ay inilimbag sa 1938 isyu ng Transactions of the American Institute of Electrical Engineers. Ito ay nagbigay rin kay Shannon ng It also earned Shannon the Alfred Noble American Institute of American Engineers Award noong 1940. Si Howard Gardner ng Harvard University ay tumawag sa tesis ni Shannon na "posibleng pinakamahalaga at pinakasikat na master's tesis ng siglo".
Si Victor Shestakov ng Moscow State University ay mas maagang nagmungkahi ng isang teoriya ng mga switch na elektriko batay sa lohikang Boolean kesa kay Shannon noong 1935 ngunit ang unang publikasyon ng resulta ni Shestakov ay nangyari noong 1941 pagkatapos ng publikasyon ng tesis ni Shannon.
Sa akdang ito, pinatunayan ni Shannon na ang alhebrang Boolean at binaryong aritmetika ay maaaring gamitin upang pasimplehin ang kaayusan ng mga relay na elektromekanikal na sa panahong ito ay ginagamit sa mga nagrurutang switch ng telepono at pagktapos ay pinalawig ang konsepto at pinatunayan na dapat posibleng gumamit ng mga kaayusan ng relay upang lutasin ang mga problema ng alhebrang Boolean. Ang paggamit ng katangiang ito ng mga switch na elektrikal upang magsagawa ng lohika ang basikong konsepto na pinagsasaligan ng lahat ng mga elektonikong kompyuter na dihital. Ang akda ni Shannon ay naging saligan ng praktikal na disenyong sirkitong dihital nang ito ay naging malawak na nakilala sa pamayanang inhinyerya sa panahon at pagkatapos ng Ikalawang Digmaang Pandaigdig. Ang teoretikal na rigor ng akda ni Shanon ay kumpletong pumalit sa ad hoc na mga paraan na nakaraang nanaig.
Si Vannevar Bush ay nagmungkahi kay Shannon na nanabik sa kanyang tagumpay na gumawa sa kanyang disertasyon sa Cold Spring Harbor Laboratory na pinondohan ng Carnegie Institution na pinamunuan ni Bush upang bumuo ng parehong matematikal na mga ugnayan para sa henetikang Mendelian na nagresulta sa PhD tesis ni Shannon sa MIT noong 1940 na An Algebra for Theoretical Genetics.
Noong 1940, si Shannon ay naging National Research Fellow sa Institute for Advanced Study sa Princeton, New Jersey. Sa Princeton, si Shannon ay nagkaroon ng oportunidad upang talakayin ang kanyang mga ideya kasama ng mga maimpluwensiya (influential) na siyentipiko at matematiko gaya nina Hermann Weyl atJohn von Neumann at nagkaroon pa ng misang enkwentro kay Albert Einstein. Malayang nagtrabaho si Shannon sa iba't ibang mga disiplina at nagsimulang hugisin ang mga ideya na naging teoriya ng impormasyon.

Pagsasaliksik sa panahon ng digmaan

Pagkatapos nito ay lumahok si Shannon sa Bell Labs upang gumawa sa mga sistemang kontrol ng apoy at kriptograpiya sa panahon ng Ikalawang Digmaang Pandaigdig sa ilalim ng kontrata sa seksiyong D-2 (Control Systems section) ng National Defense Research Committee (NDRC).
Kanyang nakilala ang kanyang asawang si Betty nang ito ay isang analistang numerikal sa Bell Labs. Sila ay nagpakasal noong 1949.
Sa dalawang buwan sa simula nang 1943, si Shannon ay nakipag-ugnayan sa nangungunang Briton na kriptanalista at matematikong si Alan Turing. Si Turing ay inilagay sa Washington upang makisalo sa serbisyong kriptanalitiko ng US Navy ng mga paraan na ginamit ng British Government Code and Cypher School sa Bletchley Park upang basagin ang mga siperong ginamit ng mga U-boat na Aleman sa Hilagang Atlantiko. Siya ay naging interasdo rin sa pagsisipero ng pagsasalita at upang makamit ito ay gumugol ng panahon sa Bell Labs. Sina Shannon at Turing at nagkakilala sa panahon ng pagtatsaa sa kapeterya. Ipinakita ni Turing kay Shannon ang kanyang 1936 na seminal na papel na naglalarawan na ngayon ay kilalang "Unibersal na makinang Turing" na nagpahanga dito dahil marami sa mga ideyang ito ay komplementaryo sa kanyang mga ideya.
Noong 1945, habang ang digmaan ay papapatapos na, ang NDRC ay nag-iisyu ng buod ng mga ulat teknikal bilang huling hakbang bago ang pagwawakas nito. Sa loob ng bolyum sa kontrol ng apoy, ang isang espesyal na sanaysay na pinamagatang Data Smoothing and Prediction in Fire-Control Systems na kapwa sinulat nina Shannon, Ralph Beebe Blackman, at Hendrik Wade Bode ay pormal na tumrato sa problema ng pagkikinis ng datos sa kontrol ng apoy sa analohiya ng "problema ng paghihiwalay ng isang signal mula sa nanghihimasok na ingay sa mga sistemang komunikasyon". Sa ibang salita, ito ay nagmodelo ng problema sa mga termino ng datos at pagpoproseso ng signal at kaya ay naghudyat ng paparating na panahon ng impormasyon.
Ang kanyang akda sa kriptograpiya ay mas malapit na kaugnay sa kanyang mga kalaunang publikasyon tungkol sa teoriya ng komunikasyon. Sa pagtatapos ng digmaan, siya ay naghanda ng isang sikretong memorandum para sa Bell Telephone Labs na may pinamagatang "A Mathematical Theory of Cryptography," na pinetsahang Setyembre, 1945. Ang isang hindi na sikretong bersiyon ng papel na ito ay kalaunang inilimbag noong 1949 bilang "Communication Theory of Secrecy Systems" sa Bell System Technical Journal. Ang papel na ito ay nagsama ng maraming mga konsepto at mga pormulasyong matematikal na lumitaw rin sa kanyang A Mathematical Theory of Communication. Sinaaad ni Shannon ang kanyang mga kabatiran sa teoriya ng komunikasyon at kriptograpiya sa panahon ng digmaan ay sabay na nabuo at "ang mga ito ay labis na magkaugnay na hindi mo ito mapaghihiwalay". In a footnote near the beginning of the classified report, Shannon announced his intention to "develop these results ... in a forthcoming memorandum on the transmission of information."
Habang siya ay nasa Bell Labs, kanyang pinatunayan na ang isang panahong pad ay hindi mababasag sa kanyang pagsasaliksik noong Ikalawang Digmaang Pandaigdig na kalaunang inilimbag noong Oktubre 1949. Kanya ring pinatunayan na ang anumang hindi mababasag na sistema ay dapat may likas na parehong mga katangian sa isang panahong pad: ang susi ay dapat talagang randoma na kasing laki ng plaintext na hindi kailanman muling ginamit ng buo o sa bahagi at pinanatiling sikreto.

Mga ambag pagkatapos ng digmaan

Noong 1948, ang ipinangakong memorandum ay lumitaw bilang "A Mathematical Theory of Communication" na artikulo sa dalawang bahagi sa mga isyu nang Hulyo at Oktubre ng Bell System Technical Journal. Ang akdang ito ay tumutuon sa porblema kung paanong mahusay na makokodigo ang impormasyon na nais ipadala ng nagpapadala. Sa pundamental na akdang ito, siya ay gumamit ng mga kasangkapan sa teoriya ng probabilidad na binuo ni Norbert Wiener na nasa simulang mga yugto ng paglalapat sa teoriya ng komunikasyon sa panahong ito. Binuo ni Shannon ang entropiya ng impormasyon bilang sukat ng kawalang katiyakan sa isang mensahe habang likas na iniimbento ang larangan ng teoriya ng impormasyon.
Ang aklat na kapwa isinulat ni Warren Weaver na The Mathematical Theory of Communication ay muling naglimbag ng 1948 artikulo ni Shannon at pagpapasikat ni Weaver nito na makukuha ng mga hindi espeysalita. Ang mga konsepto ni Shannon ay pinasikat rin ayon sa kanyang pagtutuwid sa Symbols, Signals, and Noise ni John Robinson Pierce.
Ang pundamental na kontribusyon ng teoriya ng impormasyon sa pagpoproseso ng natural na wika at linguistikang komputasyonal ay karagdagang napatunayan noong 1951 sa kanyang artikulong "Prediction and Entropy of Printed English" na nagpapakita ng mataas at mababang mga pagtatakda sa estadistika ng Ingles na nagbibigay ng isang statistikal na saligan sa analisis ng wika. Sa karagdagan, kanyang napatunayan na ang pagtatrao ng puting espasyo bilang ika-27 letra ng alpabeto ay aktuwal na nagpapababa ng kawalang katiyakan sa isinulat na wika na nagbibigay ng isang maliwanag na ugnayang makakwantipika sa pagitan ng pagsasanay na kultural at kognisyong probabilistiko.
Ang isa pang kilalang papel na inilimbag noong 1949 ang "Communication Theory of Secrecy Systems" na hindi na sikretong bersiyon ng kanyang akda noong digmaan tungkol sa teoriyang matematikal na kriptograpiya kung saan kanyang pinatunayan na ang lahat ng teoretikal na mababasag na mga sipero ay dapat may parehong mga hinihingi gaya na sa isang panahong pad. Siya ay binigyan rin ng kredito sa kanyang pagpapakilala sa teoremang pagsasampol na Nyquist-Shannon na nauukol sa pagkakatawan ng isang tuloy tuloy na panahong signal mula sa isang (pantay) na diskretong hanay ng mga sampol. Ang teoriyang ito ay mahalag sa pagpapayag ng mga telekomunikasyon na lumipat mula sa analog tungol sa transmisyong dihital noong mga dekada 60 at pagkatapos nito. Siya ay bumalik sa MIT upang panghawakan ng ipinagkaloob na opisina noong 1957.