| はじめに ⅲ |
| 第0章 「統計的モデリング」と「情報理論と学習理論」 1 |
| テーマ1 統計的モデリング 小西貞則 7 |
| 第1章 線形回帰モデル 9 |
| 1.1 2変数間の関係を捉える 9 |
| 1.2 多変数間の関係を捉える 13 |
| 1.3 確率ベクトルに関する基本的事項 20 |
| 1.4 幾何学的考察 21 |
| 第2章 非線形回帰モデル 24 |
| 2.1 回帰モデルとは 24 |
| 2.2 複雑な非線形構造を捉えるモデル 26 |
| 2.3 基底展開法 30 |
| 2.4 正則化法 33 |
| 2.5 モデルの評価と選択 37 |
| 第3章 ロジスティックモデル 39 |
| 3.1 2値反応データとモデル 39 |
| 3.2 多重ロジスティックモデル 41 |
| 3.3 非線形ロジスティック回帰 43 |
| 第4章 モデルの評価と選択 47 |
| 4.1 情報量規準 47 |
| 4.2 ベイズ型モデル評価基準 51 |
| 第5章 ベイズ判別 54 |
| 5.1 ベイズの定理 54 |
| 5.2 線形・2次判別 55 |
| 5.3 ロジスティック判別 58 |
| 第6章 文献ガイド 62 |
| テーマ2 情報理論と学習理論 竹内純一 63 |
| 第1章 情報源符号化 65 |
| 1.1 モールス符号 66 |
| 1.2 情報源符号化の枠組み 67 |
| 1.3 固定長符号化 69 |
| 1.4 可変長符号化 69 |
| 1.5 語頭符号 70 |
| 1.6 クラフト（Kraft）の不等式 72 |
| 1.7 情報源符号化定理 74 |
| 1.8 ブロック符号化 76 |
| 1.9 文献紹介 78 |
| 第2章 算術符号とユニバーサル符号 79 |
| 2.1 算術符号の原型 79 |
| 2.2 ユニバーサル符号 84 |
| 2.3 文献紹介 87 |
| 第3章 学習理論とMDL原理 88 |
| 3.1 基本的な機械学習問題 89 |
| 3.2 教師つき学習 89 |
| 3.3 MDL原理 92 |
| 3.4 MDL原理とオッカムの剃刀 102 |
| 3.5 MDL基準の性質 104 |
| 3.6 教師なし学習 110 |
| 3.7 確率的コンプレキシティ 111 |
| 3.8 文献紹介 113 |
| 第4章 情報理論と学習理論の他の接点 115 |
| 4.1 文献紹介 116 |
| 索引 117 |
| はじめに ⅲ |
| 第0章 「統計的モデリング」と「情報理論と学習理論」 1 |
| テーマ1 統計的モデリング 小西貞則 7 |
図書
図書
