「現代情報理論」「確率・情報・エントロピー」の目次

# これは何？  
有本卓先生の書かれた以下の 2 冊の目次が Web 上では見つけられなかったので，ここに記載させてください。  
- 現代情報理論(情報とシステムシリーズ)，1978年 第 2 版，電子通信学会発行　
(ちなみにアカウント登録が必要ですが，国立国会図書館のサイトでWeb上で閲覧することができます。[リンク](https://dl.ndl.go.jp/pid/12628168))
- 確率・情報・エントロピー，1980 年 第 1 版，森北出版

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/251390/69ac0453-771b-42c5-9745-85421ba2a675.jpeg", width=350>


## 現代情報理論 (情報とシステムシリーズ)
1978年 第 2 版，電子通信学会発行　

第 1 章 情報理論の体系と歴史  
    1.1 情報理論の発展経過  
    1.2 情報理論の体系  

第 2 章 情報量と相互情報量 (離散値)  
    2.1 情報量の定義  
    2.2 シャノンのエントロピーの代数的性質  
    2.3 シャノンのエントロピーの解析的性質  
    2.4 条件付エントロピー，相互情報量  
    2.5 実験と観測，データ処理  
    2.6 エントロピー関数の公理的構成  
    2.7 定常情報源とエントロピー  
    2.8 マルコフ情報源とエントロピー  
    2.9 固定長情報源符号化定理  

第 3 章 相互情報量 (連続値)  
    3.1 相互情報量の定義  
    3.2 最大エントロピー定理  
    3.3 正規確率変数に対する相互情報量  
    3.4 正規白色雑音が加法的に入る通信路  
    3.5 並列通信路に対する相互情報量，容量  
    3.6 連続時間通信路に対する相互情報量，容量  

第 4 章 情報源符号化定理 (雑音の無い場合)  
    4.1 情報源符号化の問題点  
    4.2 木による符号化法  
    4.3 一意的に復号化可能な符号  
    4.4 可変長情報源符号化定理  
    4.5 最適符号化法  
    4.6 定常情報源とマルコフ情報源に対する符号化定理  

第 5 章 通信路符号化定理 (雑音がある場合)  
    5.1 信頼できる情報伝送と符号化  
    5.2 ランダム符号化と誤り確率の上界  
    5.3 符号化の第二基本定理  
    5.4 符号化の逆定理  
    5.5 誤り確率の上界の改良  
    5.6 二元対称通信路と高雑音通信路  
    5.7 誤り確率の下界  
    5.8 誤り確率の下界の改良  

第 6 章 連続通信路  
    6.1 加法的ガウス性白色雑音のあるディジタル通信路モデル  
    6.2 ディジタル通信路モデルの符号化と誤り確率の上界  
    6.3 ディジタル通信路モデルに対する直行符号化  
    6.4 ディジタル通信路モデルに対する等エネルギー符号化  
    6.5 連続通信路に対する符号化定理  
    6.6 入力拘束のある連続通信路  
    6.7 記憶のない加法的ガウス雑音通信路  
    6.8 周波数帯域制限のある連続時間通信路  

第 7 章 Rate-Distortion 理論  
    7.1 情報源符号化とひずみ  
    7.2 源符号化定理  
    7.3 Rate-distortion 関数の基本的性質  
    7.4 Rate-distortion 関数のパラメトリック表現  
    7.5 二次情報源と対称情報源  
    7.6 アナログ情報源  

第 8 章 通信路容量，信頼性関数，Rate-distortion 関数の計算法
    8.1 相互情報量と通信路容量  
    8.2 簡単な通信路に関する通信路容量  
    8.3 任意の通信路に対する通信路容量の計算法  
    8.4 信頼性関数の計算法  
    8.5 Rate-distortion 関数の計算法  

付録 A 凸関数の性質  
付録 B 確率論の基礎  
付録 C 確率過程の基礎  

文献案内  
参考文献  
索引  

## 確率・情報・エントロピー
1980 年 第 1 版，森北出版　

第 1 章 確率モデルと確率変数  
    1.1 確率の意味，確率モデル  
    1.2 確率論の公理系  
    1.3 条件付き確率，ベイズの定理  
    1.4 確率変数，期待値，分布関数  
    1.5 積確率空間，独立性  
    1.6 収束の定義  
    1.7 測度，確率，分布  

第 2 章 大数の法則とエントロピー  
    2.1 ポアッソンの小数法則  
    2.2 ベルヌーイの定理とエントロピー  
    2.3 ラプラスの定理  
    2.4 統計力学とエントロピー  
    2.5 チェビシェフの不等式と大数の法則  
    2.6 中心極限定理  

第 3 章 エントロピーと条件つきエントロピー  
    3.1 エントロピー関数の性質  
    3.2 条件つきエントロピー  
    3.3 エントロピー関数の公理的構成  
    3.4 定常情報源とエントロピー  
    3.5 マルコフ情報源とエントロピー  
    3.6 マルコフ連鎖とエントロピー   

第 4 章 情報とエントロピー  
    4.1 相互情報量の定義  
    4.2 観測とエントロピー  
    4.3 パラメーター推定理論とエントロピー  
    4.4 探索理論とエントロピー  
    4.5 木符号とエントロピー  
    4.6 可変長符号化定理とエントロピー  
    4.7 相互情報量の定義 (連続値をとる場合)   

第 5 章 符号化とエントロピー  
    5.1 ティピカル列とエントロピー  
    5.2 固定長情報源符号化定理とエントロピー  
    5.3 相関のある複数個の情報源に対する符号化定理  
    5.4 定常エルゴード的情報源に対する符号化定理Ⅰ  
    5.5 データ圧縮とエントロピー  
    5.6 ベルヌーイ変換とエントロピー   

第 6 章 情報伝送理論  
    6.1 信頼できる情報伝送と通信路符号化  
    6.2 通信路符号化定理  
    6.3 通信路符号化の逆定理と通信路容量  
    6.4 誤り確率の評価  
    6.5 ユニバーサルな通信路符号化  

第 7 章 データ圧縮理論  
    7.1 忠実度規範とデータ圧縮  
    7.2 忠実度規範のある情報源符号化定理Ⅰ  
    7.3 量子化によるデータ圧縮  
    7.4 忠実度規範のある情報源符号化定理Ⅱ  
    7.5 定常エルゴード的情報源に対する符号化定理Ⅱ  

第 8 章 独立無限系列とエントロピー  
    8.1 半無限系列のエントロピー  
    8.2 オートマトンによるデータ処理とエントロピー  
    8.3 独立系列に関する符号化定理  
    8.4 忠実度規範のある符号化定理  

付録 A スターリングの公式  
付録 B 凸関数と凸計画法  
付録 C 不等式  

文献案内  
参考文献  
索引