確率の生み出す新しい情報処理技術 東北大学 大学院情報科学研究科 田中 和之

Slides:



Advertisements
Similar presentations
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
Advertisements

クラスター変分法と確率的情報処理 --Belief Propagation と画像処理アルゴリズム--
確率モデルによる 画像処理技術入門 --- ベイズ統計と確率的画像処理 ---
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月12日前半
確率モデルによる画像処理における統計的学習理論
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2014年4月)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎 第1部講義(2009年4月)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2012年4月)
正規分布における ベーテ近似の解析解と数値解 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
はじめに: 平均場理論を用いた情報処理の最近の動向
電気・通信・電子・情報工学実験D 確率的情報処理の基礎 第1部講義(2008年4月15日,4月22日,5月6日)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
確率伝搬法と量子系の平均場理論 田中和之 東北大学大学院情報科学研究科
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月14日後半
確率的情報処理と確率伝搬法によるアルゴリズム設計の数理構造
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 2(2014年4月)
ベイジアンネットと確率推論 変分原理からの再帰的確率推論アルゴリズムの解説
物理フラクチュオマティクス論 Physical Fluctuomatics 第9回 確率伝搬法 9th Belief propagation
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2013年4月)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎 第1部講義(2007年4月16日,4月17日,4月24日,5月10日)
量子系における 確率推論の平均場理論 田中和之 東北大学大学院情報科学研究科
-画像処理(空間フィルタリング)- 画像処理(空間フィルタリング)のモデルとその基本操作 雑音除去・平滑化への適用
電気・通信・電子・情報工学実験D 確率的情報処理の基礎 第1部講義(2006年4月17日,4月18日,4月25日,5月9日)
科研費特定領域研究 「確率的情報処理への統計力学的アプローチ」平成16年度第2回公開シンポジューム “確率推論の数理”
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
確率的情報処理の最近の動向 東北大学 大学院情報科学研究科 田中 和之
物理フラクチュオマティクス論 Physical Fluctuomatics 第9回 確率伝搬法 9th Belief propagation
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
統計解析 第1回 条件付き独立性と確率的グラフィカルモデル 本講義の全体像
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
確率を手なづける秘伝の計算技法 ~古くて新しい確率・統計モデルのパラダイム~ その2:ベイジアンネットと確率推論の数理
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2015年4月)
ガウシアン確率伝搬法の 近似精度に対する理論解析
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
若手研究者・学生向けに,最新技術をわかりやすく紹介する講演会 確率的情報処理としての移動体通信技術
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 4 (2015年4月)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
物理フラクチュオマティクス論 応用確率過程論 (2006年5月9日)
確率的画像処理アルゴリズム入門 東北大学 大学院情報科学研究科 田中 和之
東北大 情報科学 田中和之,吉池紀子 山口大 工 庄野逸 理化学研究所 岡田真人
確率モデルを用いた 情報通信技術入門 ー誤り訂正符号を中心にー
科学研究費補助金 特定領域研究 確率的情報処理への 統計力学的アプローチ 平成14年度研究成果発表会
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 5 (2012年4月)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
若手研究者・学生向けに最新技術をわかりやすく紹介する講演会 確率的アルゴリズムによる情報処理
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 3 (2013年4月)
ポッツスピン型隠れ変数による画像領域分割
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
ガウス分布における ベーテ近似の理論解析 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月14日前半
領域ベースの隠れ変数を用いた決定論的画像領域分割
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
ゆらぎが生み出す新しい情報処理技術 確率伝搬法と確率的画像処理
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 5 (2013年4月)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 1(2013年4月)
Q状態イジング模型を用いた多値画像修復における 周辺尤度最大化によるハイパパラメータ推定
ガウシアングラフィカルモデルにおける一般化された確率伝搬法
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 4 (2012年4月)
2008年度 情報数理 ~ 授業紹介 ~.
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2019年4月)
Presentation transcript:

確率の生み出す新しい情報処理技術 東北大学 大学院情報科学研究科 田中 和之 kazu@statp.is.tohoku.ac.jp 田中 和之 kazu@statp.is.tohoku.ac.jp http://www.statp.is.tohoku.ac.jp/~kazu/ 豊田中央研究所2003年11月27日

スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 豊田中央研究所2003年11月27日

共通の数理 確率的情報処理への統計力学的アプローチ たくさんが関連 統計力学 情報科学 ベイズ統計 情報の抽出・加工 物性の理解・予言 豊田中央研究所2003年11月27日

スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 豊田中央研究所2003年11月27日

確率の知識(1) 事象Aの起こる確率 事象Aと事象Bの結合確率 条件付き確率と結合確率 A B 豊田中央研究所2003年11月27日

確率の知識(2) ベイズの公式 A B 豊田中央研究所2003年11月27日

スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 http://www.statp.is.tohoku.ac.jp/~kazu/SMAPIP-KazuKazu/ 豊田中央研究所2003年11月27日

画像修復の確率モデル 雑音 通信路 原画像 劣化画像 豊田中央研究所2003年11月27日

ベイズの公式と確率的画像処理 事前確率 劣化過程 原画像 劣化画像 画素 事後確率 豊田中央研究所2003年11月27日

画像処理の直感的理解 劣化画像には原画像の情報が残っている. 周りが白ければ自分も白い. よく見ると猿の顔に見えるな! 周りが白ければ自分も白い. ごみかな? できるだけ白い固まりと黒い固まりの多い画像の中で劣化画像に近い画像を探す. 豊田中央研究所2003年11月27日

確率伝搬法 固定点方程式 反復法 豊田中央研究所2003年11月27日 The reducibility conditions can be rewritten as the following fixed point equations. This fixed point equations is corresponding to the extremum condition of the Bethe free energy. And the fixed point equations can be numerically solved by using the natural iteration. The algorithm is corresponding to the loopy belief propagation. 固定点方程式 反復法 豊田中央研究所2003年11月27日

反復法 固定点方程式 反復法 繰り返し出力を入力に入れることにより,固定点方程式の解が数値的に得られる. 豊田中央研究所2003年11月27日

画像修復の劣化過程と事前確率 劣化過程 事前確率 豊田中央研究所2003年11月27日

確率伝搬法を用いた画像修復(白色ガウス雑音) 原画像 劣化画像 確率伝搬法 MSE: 1512 MSE: 325 平滑化フィルター ウィーナーフィルター メジアンフィルター MSE: 411 MSE: 545 MSE: 447 豊田中央研究所2003年11月27日

確率伝搬法を用いた画像修復(一様分布) 原画像 劣化画像 確率伝搬法 MSE: 3469 MSE: 371 平滑化フィルター メジアンフィルター ウィーナーフィルター MSE: 784 MSE:1169 MSE: 477 豊田中央研究所2003年11月27日

スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 豊田中央研究所2003年11月27日

ベイジアンネットと統計力学 たくさんのノードが関連しあって集まっている. 要請: 多様なデータに耐えうる推論システム ベイズの公式 確率モデル グラフィカルモデル 確率推論 医療診断 故障診断 ベイジアンネット 確率伝搬法 たくさんのノードが関連しあって集まっている. 要請: 多様なデータに耐えうる推論システム 共通の数理 確率的情報処理 の出番 ゆらぎを系統的に扱える理論の必要性 豊田中央研究所2003年11月27日

簡単なベイジアンネットの例 問題 芝生がぬれているのは何故でしょうか? 雨が降ったせいでしょうか? それともスプリンクラーを動かしたせいでしょうか? 豊田中央研究所2003年11月27日

簡単なベイジアンネットの例 回答:芝生がぬれているのは雨が降ったせいだと考えられます. 豊田中央研究所2003年11月27日

より複雑なベイジアンネット 1 2 3 4 5 6 7 8 豊田中央研究所2003年11月27日

確率伝搬法 1 2 3 4 5 6 7 8 1 2 3 4 6 豊田中央研究所2003年11月27日

固定点方程式と反復法 固定点方程式 反復法 繰り返し出力を入力に入れることにより,固定点方程式の解が数値的に得られる. 豊田中央研究所2003年11月27日

数値実験 豊田中央研究所2003年11月27日

スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 豊田中央研究所2003年11月27日

本講演で取り上げなかったトピックス (符号理論・移動体通信) の参考文献 樺島祥介 “物理の世界/学習と情報の平均場理論”, 岩波書店, 2002. 樺島祥介 “コトの物理学 ---誤り訂正符号を例として---”,日本物理学会誌, vol.58, no.4, pp.239-246, 2003. 田中利幸, ``移動体通信技術とスピングラスとの意外な関係”, 日本物理学会誌, vol.56, no.9, pp. 660-666, 2001. 豊田中央研究所2003年11月27日

これから参入したい方のために 西森,樺島,田中他著, “特集/知識情報処理の統計力学的アプローチ”, 数理科学1999 年 12 月号. 西森秀稔, “新物理学選書/スピングラス理論と情報統計力学” 岩波書店, 1999. H. Nishimori, “Statistical Physics of Spin Glasses and Information Processing: An Introduction”, Oxford University Press, 2001. 田中・樺島編, “ミニ特集/ベイズ統計・統計力学と情報処理”, 計測自動制御学会誌「計測と制御」2003年8月号 豊田中央研究所2003年11月27日

What is SMAPIP? 文部科学省 科学研究費補助金 特定領域研究 2002年4月-2006年3月 http://www.smapip.eei.metro-u.ac.jp./ 文部科学省 科学研究費補助金 特定領域研究 2002年4月-2006年3月 豊田中央研究所2003年11月27日