次へ:
序 論
有限混合分布モデルの学習に関する研究 (Web 版)
赤穂 昭太郎
2001 年 3 月 15 日学位授与(博士(工学))
序 論
研究の背景と位置づけ
論文の構成
有限混合分布とその基本的性質
定義
モジュール性
階層ベイズモデルとの関係
パラメトリック性とノンパラメトリック性
RBF ネットワークとの関係
学習における汎化と EM アルゴリズム
最尤推定
汎化と竹内の情報量規準 (TIC)
汎化バイアス
竹内の情報量規準 (TIC)
冗長性と特異性
EM アルゴリズム
一般的な特徴
一般的な定式化
独立なサンプルが与えられた時の混合分布の学習
独立な要素分布の場合
サンプルに重みがある場合
EM アルゴリズムの一般化
EM アルゴリズムの幾何学的解釈
正規混合分布の汎化バイアスの非単調性について
はじめに
Radial Basis Boltzmann Machine (RBBM)
RBBM の分岐点
分岐点より温度が高い場合
分岐点より温度が低い場合
汎化バイアスの非単調性
分岐点より温度が高い場合
分岐点より温度が低い場合
特異性に関する考察
実験
の場合
の場合
の場合
本章のまとめ
確率分布の位置, 尺度, 回転パラメータの学習法
はじめに
位置・尺度・回転パラメータ
Type I モデル
Type II モデル
正規混合分布による近似
Type I モデルの場合
Type II モデルの場合
学習アルゴリズム
Type I モデルの場合
Type II モデルの場合
実験
人工データ
実画像
画像取り込み
特徴抽出
物体モデルの学習
実験結果
考察
本章のまとめ
複数情報源からの属性概念獲得
はじめに
複数情報源からの属性概念獲得
正準相関分析による次元圧縮
混合分布と EM アルゴリズム
混合分布によるモデル化
パラメータの初期値
収集データと特徴抽出
画像データ
画像特徴量
音声データ
音声特徴量
実験
実験の手順
結果
本章のまとめ
結 論
謝辞
文献目録
正規混合分布の汎化バイアスの非単調性についての付録
分岐に関する特徴づけについての定理の証明
分岐点以下の汎化バイアス
分岐点を超えた部分での汎化バイアス
確率分布の位置, 尺度, 回転パラメータの学習法についての付録
Type I モデルの EM 法の導出
Type II モデルの EM 法の導出
この文書について...
Shotaro Akaho 平成15年7月22日