next up previous
次へ: 謝辞 上へ: 有限混合分布モデルの学習に関する研究 (Web 版) 戻る: 構造抽出


結 論

本章では,本論文を総括し,残された課題についてまとめる.

複雑な環境下における学習モデルとして組合せ構造を持つグラフィカルモデル が重要であり,その中でも最も基本的な有限混合分布モデルについて その学習に関して,理論と応用の側面から考察を行った.

2 章と第 3 章では混合分布および 学習に関する総括的なまとめを行い,混合分布のもつ特殊性や一般的なモデル との関連性を述べた. その中でも,汎化と学習アルゴリズムの問題が 計算論的な学習理論の中核をなす重要な研究であることを示した.

4 章では,あるクラスの正規混合分布を取り上げ, そのモデルの複雑度が連続パラメータによって制御でき, その制御によって分岐現象が観測できることを示した. また,その分岐点について汎化能力を調べ, 汎化のバイアスが通常考えられているようにモデルパラメータの数に 対して単調に増加するのとは異なる振舞いを示すことを理論的に示した. 実際に理論的に明らかになったのは,分岐点から少し離れた近傍であり, 分岐点そのものの解析には理論的な困難が残されており,本研究で解決する ことはできなかった. 実験的にはそれほど病的な問題は起きなかったが 今後の課題として残されている.

5 章では,確率分布の位置・尺度・回転パラメータの 学習という一般的な問題に対し,正規混合分布を用いた ECM アルゴリズムを 用いると各ステップが 2 次方程式の解として与えられることを示した. これは EM アルゴリズムが一般に難しい問題を簡単にすることができる 可能性を示す例である. また,閉じた形のアルゴリズムにより尤度の単調性を保証し,安定した アルゴリズムを導くことができた. ただし,実験を行った物体認識などへの応用では位置・尺度・回転パラメータだけ では不十分なことも考えられ,その扱いは今後の課題として 残されている. さらに,EM アルゴリズムは ICA (独立成分分析)や因子分析といった多変量 解析手法への応用も盛んになされている[21]. 著者らは第 6 章の研究とも関連し, 複数情報源に対する ICA についての研究も進めて おり[12,7],今後研究を進めて行く予定である.

6 章では,複数情報源からの属性概念獲得という, マルチモーダル対話システムや発達心理学において重要な課題に対して, 混合分布による統計的な枠組みを設定し,その有効性を検討した. 正準相関分析と混合分布は共に線形モデルに基づいたものを用いており, 学習がバッチ処理で行われるなど,実用的には不十分な面もあるが, 枠組み自体の有効性を示すには十分な 結果が得られた. 今後は,6.7 でも述べたように, それぞれの要素技術を高度化し,更に課題自体もより現実的なものへと 検討していく必要がある. MIT の Roy は最近,同様のマルチモーダル学習の枠組を単語獲得課題に 適用し有効性を示しており[76],今後もこれらの研究が人工知能や 対話システムの研究において発展していくことが期待できる.

以上の結果から,それぞれ今後検討すべき課題は残されているものの, 混合分布による統計的な枠組みが人工知能やパターン認識 における複雑な学習課題に有効であることを示すという本論文の目的は ある程度達成されたものと考える.



Shotaro Akaho 平成15年7月22日