事前知識の利用から適応的獲得へ

exploration と exploitation を両立するために，もし関数に関する 事前知識があればそれを用いることができる． 例えば，上に書いたように $\cal X$ に位相が入っていて，$x_t$ の近傍 にある点の $f(x)$ は $f(x_t)$ に近い値をとるという知識があったとすると， $q(x_{t+1}\mid x_t)$ は近傍の点にジャンプするような確率分布を 構成することが有効となる． exploration をするためには，近傍系を できるだけ大きく取ればよいが，逆に大きく取りすぎると事前知識の 範囲からはみ出してしまう．

それ以外にも，例えば関数が滑らかで凹な関数であるときに，微分(離散の場合 は差分)に関する情報が 使えれば，その勾配を下る最急降下方向に重点的に候補を出せばよい． もっとも，厳密にその条件が成り立つならば MCMC の必要もないので，あくまで 大まかな事前情報というぐらいのイメージである．

こうして考えていくと，事前情報が得られない場合にも，関数に関する 知識をサンプルからの「学習」によって獲得することによって，それを 提案分布の設計に生かすことができないかというのが，EDA などに至る 流れであると考えられるが，その話は一旦後回しにする．