Major publication of S.Akaho

EM アルゴリズムと混合分布 (マルチモーダルも参照)

• 赤穂: アテンション領域における EM アルゴリズム
  We consider the learning in which data points are restricted in an attention region. The learning is treated as a maximum likelihood estimation with missing values. We present an EM algorithm for the learning in an attention region and show its effectiveness by some simple simulation results.
• 赤穂: EM アルゴリズムの幾何学
  
• 赤穂: 連続値ボルツマンマシンの分岐現象の解析
  Radial Basis Boltzmann Machine (RBBM) と呼ばれる 連続値ボルツマンマシンの学習について解析を行なう. RBBM では温度パラメータを変化させていくことにより学習結果が相転移を起こし, 階層的クラスタリングに対応する分岐現象が 見られる. 本論文ではまず, 分岐現象が学習する分布関数の正規性によって特徴づけ られることを示す. さらに連続値ボルツマンマシンの平均学習曲線について調べ, 分岐点付近で有効パラメータ数(NIC)が非単調な振舞いを見せることを示す.
• 赤穂: モジュール学習 --- Finite Mixture と EM ---
  In this paper, we review some theoretical results for modular learning. Modularity is effective especially to solve complicated problems, and mixture modelling is a simple implementation of modularity. In oder to train the mixture models, the EM algorithm is often applied to optimize model parameters because of its simplicity and robustness.
• 麻生、赤穂、本村: 統計的推論とAIの推論
  
• 栗田, 赤穂: 画像理解における統計的手法
  
• 赤穂: ECM法を用いた確率分布の位置、尺度、回転パラメータの推定法
  任意の形の確率分布が与えられた時に，その位置・尺度等を調整して データにもっともあてはまるようなパラメータを推定する方法を提案する． あらかじめその確率分布を任意に必要な精度で正規混合分布で近似しておき， 対象データに対して，EM (Expectation-Maximization)法の一種である ECM (Expectation-Conditional Maximization)法を用いてパラメータを推定する． EM 法を用いることによって，単調にゆう度が増加する安定した 推定法が得られる． また，一般に，独立でないパラメータをもつ混合分布では EM 法の各繰り返し ステップが複雑になってしまうが，正規混合モデルの形に適切な制限を おき，ECM 法を併用することによって各ステップを閉じた形で求めることができる．

ICA (独立成分分析)

• 西森、赤穂: 幾何学的最適化法による独立成分分析
  
• 西森、赤穂: 等質空間上の幾何学的最適化法
  
• 西森、赤穂: 幾何学的最適化法による独立成分分析
  
• 梅山，赤穂，菅生: 教師付き独立成分分析の提案とその顔画像分析への 応用について
  
• 梅山，栗田，赤穂: 教師付き独立成分分析の提案とその顔画像分析への 応用について
  
• 赤穂、梅山： 正準相関分析への独立成分分析の拡張
  Canonical correlation analysis (CCA) extracts features from multiple information source (multi-modality). However, CCA assumes the joint distribution of data is Gaussian. In this article, we propose MICA (multimodal independent component analysis) which generalizes CCA from information-theoretical viewpoint. MICA extracts independent features which maximize mutual information between the modalities. Mutual information between two variables are approximated by 2-D Gram-Charlier expansion and a stochastic gradient method is derived based on a natural gradient. We also show a simple simulation result.
• 赤穂:相互情報量最大化に基づくモダリティ間の独立成分抽出
  We propose a new method to extract features from different types of inputs. The algorithm is based on the idea of maximizing the mutual information between the outputs of different network modules. Since the amount of the mutual information does not change by nonsingular transformation, there are infinite number of candidates of feature sets. Among those candidates, the algorithm finds a set of `independent' features.
• 赤穂，梅山:マルチモーダル独立成分分析 ---複数情報源からの共通特徴抽出法---
  

正則化とカーネル法

• 赤穂: 正則化法によるニュ−ラルネットの学習について
  
• 赤穂: 相関学習における結合荷重の最適な減衰率について
  Associative memory cannot store items more than its memory capacity. When new items are given one after another, connection weights should be decayed so as not to exceed the memory capacity. This report presents the optimal decay rate that maximizes the number of stored items.
• 赤穂: カーネル正準相関分析
  Canonical correlation analysis is a technique to extract common features from a pair of multivariate data. In complex situations, however, it does not extract useful features because of its linearity. On the other hand, kernel method used in support vector machine is an efficient approach to improve such a linear method. In this paper, we investigate the effectiveness of applying kernel method to canonical correlation analysis.

VC 次元，記憶容量

パターン認識, 特徴抽出

• 赤穂, 佐藤, 関田, 梅山, 大津: 高次自己相関関数を用いた図形の位置・大小および回転不変な特徴量の構成
  高次自己相関関数は画像の平行移動に関して不変な特徴であり, 局 所自己相関マスクによる画像の走査により高速に値を得ることがで きるなど応用上有効な特徴量であると考えられるが, 画像の大小や 回転に対しては不変でないという問題点を持っていた. 本稿では局 所自己相関マスクによって得られる局所的かつ離散的な高次自己相 関に基づいて, 大小および回転不変な特徴量を解析的に構成する. またその不変性を確認した実験結果を示す.

生体模倣ビジョン

• 赤穂, 後藤, 溝口, 栗田: フィードバック誤差学習による機械の眼の追従眼球運動
  

マルチモーダル

• 赤穂, 速水, 長谷川, 吉村, 麻生: EM法を用いた複数情報源からの概念獲得
  

事情通ロボット

その他

• 関田, 宮川, 野崎, 赤穂, 栗田, 大津: 不確かな逐次推論における質問選択基準 --- 手法の提案 ---
  
• 新田, 赤穂, 秋山, 古谷: 複素バックプロパゲーション・ネットワークにおける重みパラメータと 決定表面の構造
  
• 栗田, 麻生, 梅山, 赤穂: 多層パーセプトロンの学習における中間層に付加したノイズの影響と ネットワークの構造化
  
• 本村, 赤穂, 麻生: ベイジアンネット学習の知能システムへの応用
  

別刷り請求・お問い合わせ・ご質問は下記までどうぞ
s . a k a h o @ a i s t . g o . j p