موضوع مقاله: روند پیدایش نظریه اطلاعات | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # روند پیدایش نظریه اطلاعات | مقدمه: روند رویدادهای مرتبط با نظریه اطلاعات ، نظریه اطلاعات کوانتومی و فیزیک آماری ، فشرده‌سازی داده‌ها ، کدهای تصحیح‌کنندۀ خطا، و موضوعات دیگر. | ## بخش 1: روند پیدایش نظریه اطلاعات | 1872 - لودویگ بولتس‌مان، قضیۀ H، و با آن، فرمول را برای آنتروپی یک ذرۀ گاز پیش می‌نهد. 1878 - ویلارد گیبس، آنتروپی گیبس را تعریف می‌کند؛ احتمالات در فرمول آنتروپی، دیگر به عنوان احتمالات وضعیت کل سیستم در نظر گرفته می‌شود. 1924 - هری نایکویست، سنجش اطلاعات و سرعت انتقال اطلاعات در یک سیستم مخابراتی را پیش می‌کشد. 1927 - جان فُون‌ نُویمان، آنتروپی فون‌نویمان را تعریف می‌کند، و آنتروپی گیبس را به مکانیک کوانتومی می‌گسترد. 1928 - رالف هارتلی، اطلاعات هارتلی را به‌عنوان لگاریتم تعداد پیام‌های ممکن، پیش می‌نهد. برپایه تعریف او، درصورتی اطلاعات مخابره می‌شود که گیرنده بتواند یک دنباله از سمبل‌ها را از هر دنباله دیگری از سمبل‌ها (صرف‌نظر از اینکه سمبل‌ها، چه معنی دهند) تشخیص دهد. 1929 - لئو زیلارد، آزمایش فکری شیطانک ماکسوِل را تجزیه‌وتحلیل می‌کند و نشان می‌دهد که چگونه موتور زیلارد گاهی می‌تواند اطلاعات را به کار مفید تبدیل کند. 1940 - آلن تورینگ، بان و دِسی‌بان را به‌عنوان واحدی برای اطلاعاتی که از تنظیمات ماشین رمزنگاری انیگما از راه فرآیند بان‌بوریسموس (Banburismus) به‌دست آمده‌است، پیش می‌نهد. 1949 - کلود شانون، انتقال داده‌ها در حضور نویز را منتشر می‌کند؛ نظریه نمونه‌برداری نایکویست-شانون و قانون شانون-هارتلی. | ## بخش 2: روند پیدایش نظریه اطلاعات | 1949 - رابرت فانو، کتاب انتقال اطلاعات، از انتشارات دانشگاه MIT، کِیمبریج، ماساچوست را منتشر می‌کند. 1951 - دیوید هافمَن، کد هافمن را اختراع می‌کند: روشی برای یافتن کدهای پیش‌وند بهینه در فشرده‌سازی بی‌اتلاف داده‌ها. 1953 - آگوست ساردیناس و جورج پاترسون، الگوریتم ساردیناس-پاترسون را طرح ریختند؛ روشی برای تصمیم‌گیری دربارۀ این‌که آیا یک کد با طول متغیر مشخص را می‌توان منحصربه‌فرد کدگشایی کرد. 1959 - الکسیس هاکینگِم، و سال بعد، راج بوس و کومار رای-چودوری، کد BCH را پیش می‌نهند. 1962 - رابرت گالاگِر، کد LDPC را پیش می‌نهد؛ که به‌سبب محدودیت‌های فنی، ۳۰ سال بی‌استفاده می‌ماند. 1966 - فومیتادا ایتاکورا و شوزو سایتو، کدگذاری پیش‌بین خطی (LPC) را پیش می‌نهند؛ روشی برای کدگذاری گفتار. 1967 - اَندرو ویتربی، الگوریتم ویتربی را پیش می‌نهد، که کدگذاری کانوُلوشِنال را عملی می‌کند. - دیوید اِسلِپیان و جک وُولف، حد کدگذاری اسلیپیان-وولف را برای کدگذاری توزیع‌شدۀ منبع کشف و ثابت می‌کنند. 1976 - گوتفرید اونگِربِک، نخستین مقاله‌اش را درباره مدولاسیون کدشدۀ داربستی (تِرِلیس) منتشر می‌کند. | ## بخش 3: روند پیدایش نظریه اطلاعات | توضیح مفصل‌تری از آن در 1982، به افزایش سرعت مودم خط تلفن آنالوگ از 9.6 کیلوبیت‌برثانیه به 33.6 کیلوبیت‌برثانیه می‌انجامد. 1976 - ریچارد پاسکو و یورما ریسانِن، تکنیک‌های مؤثر کدگذاری حسابی را گسترش می‌دهند. 1989 - فیل کاتس، فرمت .zip را که شامل تکنیک فشرده‌سازی DEFLATE (LZ77 + کد هافمن) می‌شود، منتشر می‌کند، که بعدها، پرکاربردترین روش فشرده‌سازی فایل‌ها می‌شود. 1994 - مایکل باروُز و دیوید ویلر، تبدیل باروز-ویلر را پیش می‌نهند، که بعدها در bzip2 به‌کار می‌رود. 1995 - بنجامین شومِیکِر، اصطلاح کیوبت را پیش می‌نهد و قضیه کدگذاری بی‌نویز کوانتومی را ثابت می‌کند. 2003 - دیوید مَک‌کِی، ارتباط نظریه اطلاعات، استنباط آماری و یادگیری ماشینی را در کتابش نشان می‌دهد. 2006 - یاروسلاو دودا، کدگذاری آنتروپی به روش سیستم‌های عددی نامتقارن را پیش می‌کشد. | ## جمع‌بندی | 2008 - اِردال آریکان، کد قطبی را پیش می‌نهد؛ نخستین کد که برای برخی کانال‌های مخابراتی، در عمل به ظرفیت کانال دست می‌یابد.