第1章 熱力学的エントロピーと情報論的エントロピー |
1.1 Clausiusエントロピー 1 |
1.2 Boltzmannエントロピー 3 |
1.3 完全事象系とShannonエントロピー 6 |
1.4 Shannonエントロピーの特徴付け 10 |
1.5 ShannonエントロピーとBoltzmannエントロピー 14 |
第2章 Kolmogorov-Sinaiエントロピー |
2.1 確率論からの準備 16 |
2.2 有限分割のエントロピー 20 |
2.3 Kolmogorov-Sinaiエントロピー 23 |
第3章 相対エントロピー |
3.1 相対エントロピーの導入 32 |
3.2 相対エントロピーの諸性質 36 |
3.3 十分性と相対エントロピー 38 |
第4章 種々のエントロピー |
4.1 Renyiエントロピー 45 |
4.2 微分エントロピー 47 |
4.3 ε-エントロピー 50 |
4.4 位相エントロピー 54 |
4.5 fuzzyエントロピー 57 |
第5章 通信における数理解析 |
5.1 メッセージ空間と情報源 65 |
5.2 情報源のエントロピーとMcMillanの定理 71 |
5.3 チャンネルと平均作用素 79 |
5.4 チャンネルのエルゴード特性 84 |
5.5 相互エントロピーと伝送容量 87 |
5.6 符号化の定理 93 |
第6章 信号解析 |
6.1 Fourier変換 97 |
6.2 信号解析 104 |
6.3 Karhunen-Loeve展開 110 |
6.4 不確定性関係 117 |
付章 数学的基礎 |
1. 集合と代数 125 |
1.1 集合 125 |
1.2 写像 126 |
1.3 同値関係 126 |
1.4 濃度 127 |
1.5 順序 128 |
1.6 群 129 |
1.7 環と体130 |
1.8 同型写像130 |
1.9 束131 |
2. 位相空間 132 |
2.1 近傍系 132 |
2.2 開集合族,位相 132 |
2.3 位相の比較,強・弱 133 |
2.4 閉集合,集積点,閉包 133 |
2.5 部分空間,相対位相 135 |
2.6 収 束 135 |
2.7 連続写像と同相写像 135 |
2.8 分離公理 136 |
2.9 コンパクト性 136 |
2.10 コンパクト化とTychonoffの定理 137 |
2.11 連結性,不連結性 138 |
2.12 距離空間 138 |
2.13 距離空間の完備化,その他の諸定理 139 |
3. 測度と績分 140 |
第1章 熱力学的エントロピーと情報論的エントロピー |
1.1 Clausiusエントロピー 1 |
1.2 Boltzmannエントロピー 3 |