$\kappa _4>0$ の場合

真の分布は 3 個の正規分布の混合分布をとった．

$$q(x) = \sqrt{C_3\over\pi}\Bigl[ 0.8\exp\left\{-C_3x^2\right\}$$

$$+ 0.1\exp\left\{-C_3(x-C_4)^2\right\} + 0.1\exp\left\{-C_3(x-C_4)^2\right\}\Bigr],$$ (4.9)

ただし， $C_3 = 50.0, C_4=2.22486$ で $q(x)$ の分散が 1.0 になるように とった． この分布の 4 次のキュムラントは約 1.96 である． 最尤解の例と経験尤度，テストサンプルを用いて推定した汎化バイアスを それぞれ図4.5，図4.6，図4.7に示す． この場合も定理 6 の結果が定性的に観察される． また前節同様，仮定 2 から大きく外れた解が 最尤解になる場合には，非単調性が観測されない場合もあった．

図 4.5: $\kappa _4>0$ のときの最尤解． 横軸: $\log(\beta)$; 縦軸: $w$ および $x$. 点は各温度での最尤解右端の `$-$' が学習サンプルをあ らわす

図 4.6: $\kappa _4>0$ のときの経験尤度． 横軸: $\log(\beta)$; 縦軸: 経験尤度; 破線 : $\beta _c$ の経験値

図 4.7: $\kappa _4>0$ のときのバイアスの推定値の振舞い． 横軸: $\log(\beta)$; 縦軸: バイアスと訓練サンプルの数の積; 破線 : $\beta _c$ の経験値