まえがき |
1 相転移と平均場理論 1 |
1.1 Ising模型 1 |
1.2 秩序パラメータと相転移 4 |
1.3 平均場理論 5 |
1.3.1 平均場理論 5 |
1.3.2 状態方程式 6 |
1.3.3 自由エネルギーとLandau理論 7 |
1.4 無限レンジ模型 8 |
2 スピングラスの平均場理論 11 |
2.1 スピングラスとEdwards-Anderson模型 11 |
2.1.1 Edwards-Anderson模型 12 |
2.1.2 クエンチ系と配位平均 13 |
2.1.3 レプリカ法 14 |
2.2 Sherrington-Kirkpatrick模型 14 |
2.2.1 SK模型 14 |
2.2.2 分配関数のレプリカ平均 15 |
2.2.3 Gauss積分による一体問題化 16 |
2.2.4 鞍点評価 16 |
2.2.5 秩序パラメータ 17 |
2.3 レプリカ対称解 19 |
2.3.1 レプリカ対称解 19 |
2.3.2 相図 20 |
3 レプリカ対称性の破れ 23 |
3.1 レプリカ対称解の安定性とAT線 23 |
3.1.1 ヘシアン 24 |
3.1.2 ヘシアンの固有値(1) 26 |
3.1.3 ヘシアンの固有値(2) 28 |
3.1.4 ヘシアンの固有値(3) 29 |
3.1.5 AT線 30 |
3.2 レプリカ対称性の破れ 31 |
3.2.1 Parisi解 32 |
3.2.2 第1段階のRSB 34 |
3.2.3 第1段階のRSBの安定性 36 |
3.3 完全なRSB解 36 |
3.3.1 qのべきの和の積分表現 37 |
3.3.2 Parisi方程式 37 |
3.3.3 転移点付近での秩序パラメータ 40 |
3.3.4 相境界の垂直性 42 |
3.4 レプリカ対称性の破れの意味 43 |
3.4.1 多谷構造 43 |
3.4.2 qEAとq 44 |
3.4.3 谷の重なりの分布 45 |
3.4.4 秩序変数のレプリカ表示 46 |
3.4.5 超計量性 47 |
3.5 TAP方程式 48 |
4 スピングラスのゲージ理論 51 |
4.1 有限次元系の相図 51 |
4.2 Edwards-Anderson模型のゲージ変換 52 |
4.3 内部エネルギーの厳密解 53 |
4.3.1 ゲージ変換の適用 53 |
4.3.2 内部エネルギーの厳密解 55 |
4.3.3 相図との関連 55 |
4.4 比熱の上限 57 |
4.5 局所エネルギーの分布関数 58 |
4.6 自由エネルギーの下限 59 |
4.7 相関関数と相図の構造 60 |
4.7.1 相関等式と相関不等式 61 |
4.7.2 相図に対する制約条件 62 |
4.8 フラストレーションのエントロピー 63 |
4.9 スピン配向の非単調性 65 |
4.10 修正±J模型 66 |
4.10.1 物理量の期待値 67 |
4.10.2 修正±J模型と相図の構造 68 |
4.10.3 修正±J模型におけるスピングラス相の存在証明 69 |
4.11 ゲージグラス 71 |
4.12 動的相関関数 73 |
5 誤り訂正符号 77 |
5.1 誤り訂正符号 77 |
5.1.1 情報の伝達 77 |
5.1.2 スピングラスとの類似性 78 |
5.1.3 Shannonの限界 80 |
5.1.4 有限温度復号 82 |
5.2 スピングラス表現 82 |
5.2.1 条件付き確率 83 |
5.2.2 Bayesの公式 84 |
5.2.3 MAPと有限温度復号 85 |
5.2.4 Gauss通信路 86 |
5.3 重なりのパラメータ 86 |
5.3.1 復号化の尺度 86 |
5.3.2 重なりの上限 87 |
5.4 無限レンジ模型 89 |
5.4.1 無限レンジ模型 89 |
5.4.2 レプリカ計算 90 |
5.4.3 レプリカ対称解 92 |
5.4.4 重なりのパラメータ 93 |
5.5 レプリカ対称性の破れ 94 |
5.5.1 第1段階のRSB 95 |
5.5.2 ランダムエネルギー模型 96 |
5.5.3 ランダムエネルギー模型のレプリカ解 98 |
5.5.4 γ=3の状態方程式の解 101 |
6 画像修復 103 |
6.1 確率論を用いた画像修復 103 |
6.1.1 劣化2値画像とBayes推定 103 |
6.1.2 MAPと有限温度修復 105 |
6.1.3 重なりのパラメータ 105 |
6.2 無限レンジ模型 107 |
6.2.1 レプリカ計算 107 |
6.2.2 重なりの温度依存性 109 |
6.3 シミュレーション 110 |
6.4 平均場アニーリング 111 |
6.4.1 平均場近似 112 |
6.4.2 アニーリング 113 |
6.5 パラメータ推定 114 |
7 連想記憶 117 |
7.1 連想記憶 117 |
7.1.1 ニューロンのモデル化 117 |
7.1.2 記憶と安定な固定点 119 |
7.1.3 ランダムなIsing模型の統計力学 120 |
7.2 有限個のパターンの埋め込み 122 |
7.2.1 自由エネルギーと状態方程式 122 |
7.2.2 状態方程式の解 124 |
7.3 多数のパターンを埋め込んだHopfield模型 125 |
7.3.1 分配関数のレプリカ表示 126 |
7.3.2 想起されないパターンの寄与 126 |
7.3.3 自由エネルギーと秩序パラメータ 128 |
7.3.4 レプリカ対称解 129 |
7.4 SCSNA 131 |
7.4.1 アナログニューロンの定常状態 131 |
7.4.2 信号と雑音の分離 132 |
7.4.3 状態方程式 134 |
7.4.4 2値ニューロンの例 134 |
7.5 ダイナミクス 136 |
7.5.1 同期的ダイナミクス 136 |
7.5.2 重なりの時間変化 137 |
7.5.3 分散の時間発展 138 |
7.5.4 甘利・馬被ダイナミクスの適用限界 140 |
7.6 パーセプトロンと結合空間の体積 141 |
7.6.1 単純パーセプトロン 142 |
7.6.2 パーセプトロン学習 143 |
7.6.3 パーセプトロンの容量 144 |
7.6.4 レプリカ表現 145 |
7.6.5 レプリカ対称解 146 |
7.6.6 非単調パーセプトロンの容量 149 |
8 学習の理論 153 |
8.1 学習と汎化誤差 153 |
8.1.1 学習とは 153 |
8.1.2 汎化誤差 154 |
8.2 バッチ学習 156 |
8.2.1 最小誤りアルゴリズム 156 |
8.2.2 レプリカ計算 157 |
8.2.3 最小誤りアルゴリズムの汎化誤差 159 |
8.2.4 学習不可能な課題の汎化誤差 160 |
8.2.5 学習不可能な課題のバッチ学習 162 |
8.3 オンライン学習 164 |
8.3.1 学習則 164 |
8.3.2 学習方程式 165 |
8.3.3 パーセプトロン学習 165 |
8.3.4 Hebb学習 166 |
8.3.5 アダトロン学習 167 |
8.3.6 学習不可能な課題のオンライン学習 168 |
9 最適化問題 171 |
9.1 組み合わせ最適化問題と統計力学 171 |
9.2 グラフ分割問題 173 |
9.2.1 グラフ分割問題とは 173 |
9.2.2 目的関数 174 |
9.2.3 レプリカ表現 175 |
9.2.4 目的関数の最小値 176 |
9.3 ナップサック問題 177 |
9.3.1 ナップサック問題と線形計画法 177 |
9.3.2 緩和法 178 |
9.3.3 レプリカ計算 179 |
9.4 シミュレーテッド・アニーリング 181 |
9.4.1 シミュレーテッド・アニーリング 182 |
9.4.2 温度制御と一般化された遷移確率 183 |
9.4.3 一様でないMarkov鎖 184 |
9.4.4 一般化された遷移確率による弱エルゴード性 187 |
9.4.5 目的関数の緩和 190 |
9.5 1次元ポテンシャル中の拡散 192 |
9.5.1 1次元での拡散と緩和 192 |
参考文献 197 |
あとがき 201 |
索引 203 |