はじめに: 平均場理論を用いた情報処理の最近の動向

Slides:



Advertisements
Similar presentations
1 宇宙は何からできてくるか ? 理学部 物理 森川雅博 宇宙を満たす未知のエネルギー:暗黒エネル ギー 局在する見えない未知の物質:暗黒物質 銀河・星・ガス 何からできているか … 2006/7/25.
Advertisements

ソーラス符号の パーシャルアニーリング 三好 誠司 上江洌 達也 岡田 真人 神戸高専 奈良女子大 東大,理研
自己重力多体系の 1次元シミュレーション 物理学科4年 宇宙物理学研究室  丸山典宏.
グループ研究1班 第一章 経営戦略とは何か 雨森 彩 大嶋 健夫 小沢 博之.
身近にある曲線や曲面の数理的構造に興味を持ったら,
第1回応用物理学科セミナー 日時: 5月19日(月) 15:00ー 場所:葛飾キャンパス研究棟8F第2セミナー室 Speaker:鹿野豊氏
クラスター変分法と確率的情報処理 --Belief Propagation と画像処理アルゴリズム--
確率モデルによる 画像処理技術入門 --- ベイズ統計と確率的画像処理 ---
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月12日前半
流体のラグランジアンカオスとカオス混合 1.ラグランジアンカオス 定常流や時間周期流のような層流の下での流体の微小部分のカオス的運動
人工知能特論2007 東京工科大学 亀田弘之.
東京大学空間情報科学研究センターを 中心とした空間情報データベースの整備
課題研究 Q11 凝縮系の理論  教授  川上則雄 講師 R. Peters 准教授 池田隆介  助教 手塚真樹  准教授 柳瀬陽一.
遺伝的アルゴリズムへの 統計力学的アプローチ 大阪大学 大学院理学研究科 鈴木譲 CISJ2005 於早稲田大学理工学部
正規分布における ベーテ近似の解析解と数値解 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
背 景 多数の「スピン」とそれらの「相互作用」という二種類の変数を有する系の解析においては,相互作用の方は固定されておりスピンだけが 変化するモデルを考える場合が多い.   (例:連想記憶モデル) 「スピン」よりもゆっくりと「相互作用」も変化するモデル(パーシャルアニーリング)の性質は興味深い.
領域ベースの隠れ変数を用いた画像領域分割
NTTコミュニケーション科学基礎研究所 村山 立人
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
確率伝搬法と量子系の平均場理論 田中和之 東北大学大学院情報科学研究科
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月14日後半
ベイジアンネットと確率推論 変分原理からの再帰的確率推論アルゴリズムの解説
物理フラクチュオマティクス論 Physical Fluctuomatics 第9回 確率伝搬法 9th Belief propagation
量子系における 確率推論の平均場理論 田中和之 東北大学大学院情報科学研究科
科研費特定領域研究 「確率的情報処理への統計力学的アプローチ」平成16年度第2回公開シンポジューム “確率推論の数理”
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
千葉大学とJSPS北京研究連絡センターとの共同シンポジウム
確率的情報処理の最近の動向 東北大学 大学院情報科学研究科 田中 和之
物理フラクチュオマティクス論 Physical Fluctuomatics 第9回 確率伝搬法 9th Belief propagation
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
確率を手なづける秘伝の計算技法 ~古くて新しい確率・統計モデルのパラダイム~ その2:ベイジアンネットと確率推論の数理
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
ガウシアン確率伝搬法の 近似精度に対する理論解析
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
若手研究者・学生向けに,最新技術をわかりやすく紹介する講演会 確率的情報処理としての移動体通信技術
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 4 (2015年4月)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
物理フラクチュオマティクス論 応用確率過程論 (2006年5月9日)
確率の生み出す新しい情報処理技術 東北大学 大学院情報科学研究科 田中 和之
東北大 情報科学 田中和之,吉池紀子 山口大 工 庄野逸 理化学研究所 岡田真人
確率モデルを用いた 情報通信技術入門 ー誤り訂正符号を中心にー
水素の室温大量貯蔵・輸送を実現する多孔性材料の分子ダイナミクスに基づく解明と先導的デザイン
科学研究費補助金 特定領域研究 確率的情報処理への 統計力学的アプローチ 平成14年度研究成果発表会
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 5 (2012年4月)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
若手研究者・学生向けに最新技術をわかりやすく紹介する講演会 確率的アルゴリズムによる情報処理
ポッツスピン型隠れ変数による画像領域分割
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
ガウス分布における ベーテ近似の理論解析 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
課題研究 P4 原子核とハドロンの物理 (理論)延與 佳子 原子核理論研究室 5号館514号室(x3857)
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月14日前半
第3回応用物理学科セミナー 日時: 7月10日(木) 16:10 – 17:40 場所:葛飾キャンパス研究棟8F第2セミナー室
領域ベースの隠れ変数を用いた決定論的画像領域分割
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
文部科学省・科学研究費補助金「特定領域研究」 「情報統計力学の深化と展開」
ゆらぎが生み出す新しい情報処理技術 確率伝搬法と確率的画像処理
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 5 (2013年4月)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 1(2013年4月)
Q状態イジング模型を用いた多値画像修復における 周辺尤度最大化によるハイパパラメータ推定
ガウシアングラフィカルモデルにおける一般化された確率伝搬法
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 4 (2012年4月)
2008年度 情報数理 ~ 授業紹介 ~.
2012年度 情報数理 ~ 授業紹介 ~.
分子生物情報学(0) バイオインフォマティクス
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2019年4月)
Presentation transcript:

はじめに: 平均場理論を用いた情報処理の最近の動向 領域11シンポジューム: 確率的情報処理の生み出す平均場理論の新展開 はじめに: 平均場理論を用いた情報処理の最近の動向 東北大学 大学院情報科学研究科 田中 和之 kazu@statp.is.tohoku.ac.jp http://www.statp.is.tohoku.ac.jp/~kazu/ 参考文献 田中和之,田中利幸,樺島祥介:確率的情報処理 ---確率モデルと統計力学を用いた情報処理の新展開--- 数理科学2004年11月号 日本物理学会 (2004年9月12日)

統計力学と確率的情報処理の接点 情報処理の確率モデル と古典スピン系との 数理構造の類似性 スピングラス理論 がシステムの 統計的性能評価 に有効 平均場理論が アルゴリズム設計 に有効 日本物理学会 (2004年9月12日)

確率的情報処理における平均場理論 要請2: 多様なデータに耐えうる推論システム ゆらぎを系統的に扱える理論の必要性 平均場理論の出番 ベイズの公式 確率モデル グラフィカルモデル 確率的情報処理 要請1:アルゴリズム設計の体系的方法論 物理モデルとの 共通の数理 要請2: 多様なデータに耐えうる推論システム ゆらぎを系統的に扱える理論の必要性 平均場理論の出番 日本物理学会 (2004年9月12日)

画像処理 確率的画像処理手法 確率的画像修復 → 空間的非一様外場と最近接格子点対の相互作用をもつ古典スピン系 劣化画像(ガウス雑音) 確率的画像修復 → 空間的非一様外場と最近接格子点対の相互作用をもつ古典スピン系 劣化画像(ガウス雑音) 確率的画像処理手法 日本物理学会 (2004年9月12日)

そのまま多体相互作用をもつ物理モデルに対応づけられる 平均場理論・転送行列法と同じ枠組みが人工知能では確率伝搬法として独自に発展 確率推論システム 日本物理学会 (2004年9月12日)

統計力学の歴史は常にシステムサイズ無限大との戦いの歴史である. 平均場理論が何故情報処理に有効? 多くの情報処理は大規模確率モデル 計算困難の問題 近似で良いから,現実的計算時間で 近い結果が得られれば満足. 統計力学の歴史は常にシステムサイズ無限大との戦いの歴史である. 豊富な経験 日本物理学会 (2004年9月12日)

本シンポジュームの 関連分野の歴史的変遷 50年代~80年代:物性の解明としての平均場理論の深まり. 有効場理論(ベーテ近似,クラスター変分法)の発展 TAP方程式をはじめとするスピングラス理論の深まり コヒーレント異常法の発見に伴う 新しい平均場理論(超有効場理論)の開発 90年代初頭:統計力学と確率的情報処理系との構造的な類似性の指摘. 情報幾何の立場からの平均場理論の解釈 90年代後半~:平均場理論の応用範囲が情報科学全般へ急速に拡大(日本人の貢献大). 画像処理,誤り訂正符号,移動体通信, 学習理論,パケット流のルーティング さて,それに対して学術面からのプロジェクトの背景を述べます. 70年代から80年代において磁性体を中心とする物性の研究に焦点をおいたスピングラスの研究が盛んに行われ,強力な計算技法を有する強固な体系として整備された. 90年代初頭,スピングラス理論と情報科学の理論的構造の類似性が指摘され, スピングラス理論も新たな局面を向かえた. その後,試行錯誤が数年間続けられたが,90年代後半から現在にかけて, 構造的類似性に基づきスピングラス理論を情報科学の様々な問題に応用する 動きが急速に拡大している.この動向は「情報統計力学」と呼ばれ 世界的にも本プロジェクトメンバーの貢献が大きい. 現在はまさに我々のグループが世界的な核を形成しようとしている 重要な局面である. 日本物理学会 (2004年9月12日)

進化する平均場理論 様々の情報処理への平均場理論の応用 確率伝搬法(確率推論の手法として発展したアルゴリズム)とベーテ近似の等価性 M. Opper and D. Saad (eds), Advanced Mean Field Methods ---Theory and Practice, MIT Press, 2001. 確率伝搬法(確率推論の手法として発展したアルゴリズム)とベーテ近似の等価性 Y. Kabashima and D. Saad, Belief propagation vs. TAP for decoding corrupted messages, Europhys. Lett. 44, 668 (1998). クラスター変分法による確率伝搬法の一般化の提案 J. S. Yedidia, W. T. Freeman and Y. Weiss, Generalized belief propagation, Advances in Neural Information Processing Systems, 13, 689 (2001, MIT Press). 日本物理学会 (2004年9月12日)

確率的情報処理の生み出す平均場理論の新展開 講演者(敬称略) 相転移と情報伝達 ――高度に一般化された平均場方法―― 東京理科大物理 鈴木増雄 平均場近似と情報幾何学 ――確率推論を中心に―― 理研脳科学総合研究センター 甘利俊一 情報処理における平均場近似の有用性 東北大(院)情報科学 堀口剛 日本物理学会 (2004年9月12日)