確率最適化が必要なほど難しい問題では, が時系列,文字列,木,グラフなど複雑な構造を持ったものである ことが多い. このような空間では例えば列の長さやノードの個数といった ものが変化するので,確率変数の次元が一定でない. そのような場合もそれら全体の空間に確率構造を入れてやることによって, 基本的には同じ枠組みで議論できる. 例えば をアルファベットとする時系列全体は という確率過程全体に確率測度を入れてやればよい.
このような でのランダム探索では次元の異なるところへと ジャンプする必要があり,確率変数の生成・消滅という5.2 節で述べたのと似た過程が現れ,興味深い. このようなジャンプを 提案分布として使った MCMC は ジャンプ拡散 (jump diffusion) MCMC と呼ばれ研究されている.