久々の更新である． まあろくすっぽ研究してなかったので書くことも あまりなかった． 今回は４月のはじめにソルトレイクシティー (saltlake city) 郊外の スキーリゾートにあるスノーバード (snowbird) で開かれた learning workshop の報告． この会議は NIPS などの元になった machine learning 系の由緒ある ワークショップで，NIPS なんかに出るより前の hot な話が聞けると 評判のレベルの高い国際会議である（そうだ）． 過去にも甘利先生が invite されたり，池田思朗さんや福水さんなども 参加している． しかし今年は事前情報で日本人は私一人ということで， 英語力・ディスカッション力・度胸の３拍子の欠如した私としては， 非常にびびっていた． 行動力のない私が，以前の NISS にしろ，learning workshop にしろ， 参加してしまうというのは岡田さんにも言われたが自分でも不可解である．
参加者は，最後にオーガナイザが言っていたが，コミティメンバーの 参加率が低かった． プログラムを見て，知り合いでは Jordan と Kappen は来るかな と思っていたら二人とも来なかった． ということで余計に孤独感を味わう． 学生っぽい人も結構いたが， 結構背負っちゃってるやつとか，就職活動に関係なさそうな私のような人間 は無視して，偉そうな先生にはべっているやつとかが多かった． まあそれだけ厳しい世界ということなのだろうか． うちのグループで呼んで確か寿司も一緒に食べに行った Tishby もいたのだが， 私はそんなことすっかり忘れていて声もかけなかった．まあ偉い先生はそもそも 取り巻きがすごい多いからなー．
さて，オーラルセッションはいくつかのテーマごとに まとめられていた． 最初は「確率的データベースモデル」みたいな話で，いろんなモデルが 提案されていたが今ひとつピンとこなかったが，最後の話は Kappen の ところの学生さん？みたいな人がグラフィカルモデルの話を少ししていて， 現実のグラフィカルモデルで BP がどれぐらいうまくいくかを調べるために， グラフのクラスを定義して，複雑度を変えたときに BP のパフォーマンスの 落ち具合を見ていた． 聴衆からはじゃあ現実のグラフィカルモデルは結局 どうなの？というツッコミが入っていた．
初日の招待講演は P.Indyk という人で点対応の話を数学的にいろいろやって いた．
二日目のセッションは「物体認識」． まず，招待講演で，A. Zisserman という人が，物体の特徴的な部分を EM みたいな 方法で学習して，それを使って認識するという手法の紹介． そのほかのトークでもリアルデータを使っていろいろな話があったが， ほとんど記憶に残っていない．このセッションの中で出てきた， convolution network というニューラルネットの話 (オーガナイザの LeCun がやっている) が多かったのが特徴的だった． MLP = (SVM)^2 というショッキングなタイトルをつけた話は，まあ 対したことなくて，MLP だっていろいろ工夫してやれば SVM みたいなことが できますよという話である． まあそもそも SVM だって MLP に工夫を 加えたようなもんだからなー． もう一人 Ullman という人の招待講演があったが内容を忘れてしまった． それにしても招待講演者をほとんど知らないというのは 私が無知なのか，今年の招待講演者がしょぼいのか．
二日目の晩にポスター発表．内容は ibis とかで話したし， ijcnn でも 話す予定の情報幾何を使って次元圧縮するという話． ちょっと張るのが遅くて場所的にはあまりよくなかった．聴衆は 「情報幾何すごい！」みたいな人と「なんだかわからんので近寄らないでおこう」 という２種類に大別された． 甘利先生の本輪講してます，みたいなロボット 研究者が結構面白がってくれた． ポスターセッションは NIPS みたいに夜 遅くまでやっていたのでへろへろになる． 同じセッションの中では Rangarajan というやたらアクティブな研究者が 非常に丁寧に説明してくれた微分同相な点パターンマッチング写像を 行うという話でカーネルスペースが自然に定義できるみたいできれいな 話だった． それから，Langford という若い人が PAC とかよりも仮定を少なくした学習理論の 構築の試みみたいな話をしていた．
三日目のセッションテーマは「バイオインフォマティクス」． この日はポスターセッション疲れとスキー疲れでもうふらふらであるが， とりあえず最初は数少ない知り合いである Jean-Philippe Vert 氏の 招待講演ということで朝ちゃんと早起きして聞く． ちょうどカーネル法の解説を書いているところだったので非常に参考になる． 次の発表は例題として画像処理を挙げていたが，そこで出てきた epitome というのが面白い概念で，epitome （エピトミと読む）というのは圧縮された 画像のようなものなのだが，元の画像の任意のパッチを切り出してきたときに epitome のどこかによくマッチするというものである．役に立つかどうかは よくわからないが，いろんな画像の epitome を見るとなかなか奥が深そうである． その後，グラフィカルモデルなんかを使ってバイオインフォマティクスに 使ったという話が続いた． グラフィカルモデルといえば， associative Markov network とか，conditional random field (Lafferty) という 新たなキーワードが流行っていた．
その日の晩のポスターは疲労困憊だったが，おいしい地ビールがあったので， それを頼りになんとか一通り見る． 情報幾何に詳しい Texas 大の Banerjee が Rate distortion と ML estimate の関係なんかを調べて，KL divergence で得られた結果を Bregman divergence に一般化していた．
金曜日はコンピュータビジョン，ロボットなどだったかな？ もうあんまり覚えていない． 最後に Eric Baum による joke session "What is thought"． これは彼の同名の著書の宣伝活動である． タイトルを見るとトンデモ本か？と一瞬期待させるが，実はそうでもなく， まあありきたりの話が書いてあるらしい． thought について知りたいならこれを買っても無駄でしょう． というわけで無事に？参加終了し，帰ってきた． 参加者に e-commerce がらみで Google, yahoo, microsoft なんかの人たちが いたのも特徴的と言えるだろう． 盛況は盛況でしたが，だんだんベクトルが違う方向を向いていっているのは 確かなようだ．
今後参加される方へのアドバイス． 私のような脱力研究者には少々きついワークショップだが， 日本語一切無し，第一線研究者と対等にディスカッションする修行の場としては 結構いいかも． 食事もまあまあだし，スキーも上級者ならかなり楽しめる． 私はスキーでは必ずしもリフト券代の元を取れたとは言い難いかな．
SCI04 報告
2004 年５月に開かれた
システム制御情報学会の全国大会の報告．
自分の出たチュートリアル講演にしか出る予定がなかったので，
あまり中身はない．
ただ，その前のセッションの岡田さんの招待講演
「統計力学による信号処理システムの解析ー CDMA マルチユーザ復調器
の場合」は非常に面白く，勉強になった．
岡田さんたちがバリバリやっているのでもう私にはあまりできそうなことはないが，
なんとなく連想記憶とかの話は私の原点的な部分でもあるので，
郷愁を誘われるものがある．
私のしゃべったセッションは「アイサイ問答セレクション」というもので，
同学会に短いＳＶＭのチュートリアルを書いた因果でしゃべる羽目になってしまっ
た． 岡田さんと違ってしゃべりが下手でいやになるが，
なぜかお客さんが多くて結構びびる． 私の後にしゃべった人たちは
結構しゃべりが上手で余計にへこむ． やはり関西でしゃべるときは
もっと受けをねらわないとだめだな．
IJCNN2004 報告
2004 年７月ハンガリーのブダペストで開かれた
IJCNN2004 の報告．
あまり他のセッションには出なかったのでこれも自分の周りの報告だけ．
幸い私のしゃべった Information based clustering は INNS の会長の
Jose Principe という大御所がいたため，かなりの盛況であった．
私は最近やっている分布のパラメータの次元圧縮の話．
これが意外に受けて，統数研に来ているという Jean-Vert Phillippe の
所の研究者の人とか NIPS とかでよく会う James Kwok, あと奈良先端の
石井先生，早稲田の松山先生などその他多数から話を聞かれた．
また，座長の Seungjin Choi にもポスターセッションでつかまって
いろいろ質問された． また，同じホテルに泊まっていることもあり，
朝理研にいたときの話とかいろいろ雑談もするなど，引っ込み思案の
私にしてはまあ上出来だったろうか． ただ，基本的には三重大の
萩原さんとか知り合いの人と行動を共にすることが多かった．
Snowbird で会った Alippi にも会った．
この仕事もはやくやっつけないと．
IJCNN 2005 は次回は北米に戻って
カナダ・モントリオールで開催予定．
ICA2004 報告
2004 年９月スペインのグラナダで開かれた
ICA2004 の報告．
はっきり言って，この会議のオーガナイズはかなり悪かった．
会議自体のオーガナイズよりも昼食・夕食に気合いが入りすぎていて，
みんな会議に集中できなかったと言った方がいいかも．
ともかく最初の Plumbley の話は易しい幾何学的最適化入門
という話でわかりやすかった．
私自身は藤木君筆頭の話のポスター発表だったが，
ポスターセッション自体３０分しかなく，しかもお客さんは結構
怪しい内容に警戒して近寄らず，結局日本人に説明して終わってしまった．
ここに内容を一応書いておくと，複数画像から３次元復元する
因子分解法という方法があって，その復元は世界座標の取り方に関して
回転の自由度が出る． これを何らかの規準で決めてやると言う話にすると，
S(3) とか SO(3) という非線形 ICA/PCA という話になる．
結構面白いと思うのだが，今のところ役には立たなさそうなのが
ちょっと弱い．
会議全体の印象として，ちょっと ICA もサチッてきたかなという感じ．
甘利先生も Hyvarinen も来てなかったし．．．
次回は２００６年３月に上記 IJCNN の Principe がオーガナイズして
アメリカ・フロリダで開催予定である．
IBIS2004報告
IBIS は私にとって居心地の良いワークショップであるが，
今年の IBIS は論文を出さなかったことと，スケジュールの都合で
全日程３日のうち最初の二日間だけ出席した．
今年から査読システムが多少変わって，ロングペーパーとショートペーパー
に分かれていた． ただ，これもありがちな話だが，質的には必ずしも
ロングペーパー＞ショートペーパーという関係にはない気がした．
最近多方面で査読システムについて論議があるようだが，査読のシステムも
破綻の寸前という感じがする． 内外問わず査読の量が増えているし，
それに伴って，自分も含め査読の質が相当下がってきている．
なんとか合理的な解決策はないだろうか．
ちょっと脱線してしまったが，IBIS も一時期のような盛り上がりに欠けている ように感じたのは気のせいだろうか． 発表も，岡田グループ，樺島グループ， 渡辺澄夫グループの３大グループに，石井グループ，ＮＥＣグループが続くという ようにかなり偏りがある． 招待講演では Vapnik がメインだったが， インパクトには少し欠けた． 個人的にはもっと若くて元気な人の方が楽しい． まあ Vapnik ももう見納めかもしれないから貴重な講演だったかもしれない． 一般講演では，石井先生のところの超球面情報処理が，今やっているテーマに 関係していて興味深かった． あと，これは完全に素人的な興味で， 交通関係の応用 (ITS とか) の発表はおもしろかった． 理論では，渡辺先生関係の一連の発表，竹内さんや金森さんなんかも面白い 発表をしていた．
IBIS は異分野の相互交流の場である． が，今年はあまりそういうことは 意識せず，むしろ淡々とそれぞれの発表が行われていた． 相互交流が十分進んだという証拠かもしれない． しかし，私のような 未熟者では，話を聞いていても違う分野の話を聞くのはなかなか難しい． いろいろ調べようと思って web で情報論的学習理論と引いたが， あまりたくさんはひっかっかってこないようだ． それならというわけで， 私家版非公式ポータルサイトを自分のホームページの下に作ってしまった． 名づけて朱鷺の杜． 安易なネーミングだが，まあ少しずつ充実させたいと思う．
NOLTA2004報告
博多で行われた NOLTA2004 の報告．
行ったのが初日の夕方だったので，最初の岡田先生たちが発表していた
脳関係の特別セッションは見られず．
やはり NOLTA は非線形ダイナミクスの研究がいろいろあり，
話が全然わからないセッションとかもあったが，新たな知見も得られた．
我々はシミュレーションと最適化のセッションで，MCMC の高速化の話をした．
これは UAI に落とされたネタを復活させたもので，基本的なアイディアは，
できるだけもとの状態にとどまらないように積極的に状態を変えるという話．
普通は状態を変えすぎると詳細つりあい条件を満たすために rejection rate
を上げなければならないが，うまく調節してやると，rejection rate を
低くできるという話である． 後日統数研の伊庭さんとかに聞いた雰囲気では，
そういうのは実際にはあんまり効かないということや，MCMC 高速化については
いろんな分野でそれぞれ山のように蓄積があるのでちょっとしたアイディアだと
かなりやられている可能性が高そうではある． というわけでもっと勉強しないと．
この分野はあまり知っている人がいないが，合原先生，石井先生など何人かの 知り合いの先生にもお会いできた． 最終日は Learning のセッションの座長を 仰せつかった． 大して予習をしてこなかったら，なかなか内容が理解できず， 質問も考え付かなかったが，石井先生とかにだいぶ助けられた． 内容的には石井先生のところの文字切り出しの話がおもしろかったが， 時間がなくてあまり質問ができなかった．
お問い合わせ・ご質問は下記までどうぞ
s . akaho @ aist . go . jp