重点サンプリング法

MCMC では，ある極限分布 $p(x)$ に関する期待値を計算するための重要な 方法に重点サンプリング (importance sampling) 法がある．

今，$p(x)$ の代わりに，$r(x)$ に従う $N$ 個のサンプル $x_1,\ldots,x_N$ が得られたとしよう． $x_i$ は必ずしも独立である必要はない． 一般に期待値を計算するためのサンプルは独立である必要はないという事実は 重要である⁶． MCMC のように時間の前後でサンプル間に相関があってもちゃんと期待値を 計算できるのもそこに理由がある． さて，この $N$ 個のサンプルに重み $w_i = p(x_i) / r(x_i)$ を定義して，重み付き平均を計算すると，

$$\langle x \rangle_w= \frac{\sum_{i=1}^N w_i x_i}{\sum_{i=1}^N w_i}$$ (12)

は $N$ が大きくなるに従って，確率変数 $x$ の $p(x)$ に関する期待値に 確率収束する．

重点サンプリング法を使えば，必ずしも $p(x)$ に従うサンプルが得られない 場合でも$w_i$ さえ計算できれば $p(x)$ に関する期待値を計算できる． さらに，$w_i$ は相対的な大きささえわかればよいので，この場合も正規化定数 $Z$ の計算は必要ない．

一般に MCMC は収束するまでに時間がかかるので実時間計算が必要な 時系列フィルタリングなどの用途にはそのままでは適さないが， 重点サンプリングを使うことにより対処できる． 実際，逐次モンテカルロ法 (sequential Monte Carlo)あるいは パーティクルフィルタ (particle filter) [3,7]と呼ばれる手法では，重点サンプリングと 次節のリサンプリングを組み合わせることによって高速にフィルタリングを 行う方法を与える．