質問: シャノンの第二基本定理(通信路符号化定理)について 質問no.51617の周波数と情報伝送量の関係から、通信路符号化定理にまで話が発展し、定理の解釈について2つの見解があり、収束しません。 専門家の方の解説をお願いしたいと思います。 論点は、通信路符号化定理が「誤り訂正符号を前提としたものである」という見解と、「誤り訂正符号でない別の符号体系を前提としている」という見解のどちらが正かということです。よろしくお願いします。 http://www.okweb.ne.jp/kotaeru.php3?qid=51617 http://oshiete1.goo.ne.jp/kotaeru.php3?qid=51617 http://www.okweb.ne.jp/iwedding/kotaeru.php3?q_id=51617
回答: ymmasayannさん、そしてmotsuanさんstomachmanさんこんにちは。早速議論が進んでいますね。 stomachmanさんのご説明に私も納得しました。(「本当に分かっているのか?」と突っ込まれると困ってしまいますが・・・(笑)) この議論における本質は冗長度であり、誤り訂正符号は「第二基本定理の教える符号化法よりはさらに冗長度が必要になる場合もあるが、誤りの検出と訂正をより効率的に行える方法」と理解しました。 ランダムエンコードについては証明の中で確か、「最善の符号化法を用いた時の誤り率を評価したいが、最善の符号の何たるかが全く分からない。そこで取りあえずランダムなものでまず上界を押さえる」てな登場の仕方をしていたようです。で、「最善なやつはそれよりはマシのはず=それよりマシな符号化法が少なくとも一つ存在する」てな進め方だったと記憶しています。 なんだかまとまらないコメントになってしまい恐縮ですが、当初の問題(shannonの第二基本定理の「最適な符号化」とは誤り訂正符号なのか?)という問題については私も大いに勉強になりまた納得しております。コメント下さったstomachmanさん、motsuanさん、そして新しい質問として提起して下さったymmasayanさん、ありがとうございました。