東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)

Slides:



Advertisements
Similar presentations
PRML読書会第11回 8.4 グラフィカルモデルによる推論 SUHARA YOSHIHIKO (id:sleepy_yoshi)
Advertisements

クラスター変分法と確率的情報処理 --Belief Propagation と画像処理アルゴリズム--
確率モデルによる 画像処理技術入門 --- ベイズ統計と確率的画像処理 ---
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月12日前半
確率モデルによる画像処理における統計的学習理論
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2014年4月)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
非エルミート 量子力学と局在現象 羽田野 直道 D.R. Nelson (Harvard)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2012年4月)
正規分布における ベーテ近似の解析解と数値解 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
はじめに: 平均場理論を用いた情報処理の最近の動向
領域ベースの隠れ変数を用いた画像領域分割
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
古典論 マクロな世界 Newtonの運動方程式 量子論 ミクロな世界 極低温 Schrodinger方程式 ..
確率伝搬法と量子系の平均場理論 田中和之 東北大学大学院情報科学研究科
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月14日後半
確率的情報処理と確率伝搬法によるアルゴリズム設計の数理構造
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 2(2014年4月)
ベイジアンネットと確率推論 変分原理からの再帰的確率推論アルゴリズムの解説
物理フラクチュオマティクス論 Physical Fluctuomatics 第9回 確率伝搬法 9th Belief propagation
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2013年4月)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
量子系における 確率推論の平均場理論 田中和之 東北大学大学院情報科学研究科
科研費特定領域研究 「確率的情報処理への統計力学的アプローチ」平成16年度第2回公開シンポジューム “確率推論の数理”
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
確率的情報処理の最近の動向 東北大学 大学院情報科学研究科 田中 和之
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
物理フラクチュオマティクス論 Physical Fluctuomatics 第9回 確率伝搬法 9th Belief propagation
統計解析 第1回 条件付き独立性と確率的グラフィカルモデル 本講義の全体像
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
確率を手なづける秘伝の計算技法 ~古くて新しい確率・統計モデルのパラダイム~ その2:ベイジアンネットと確率推論の数理
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2015年4月)
今井 浩 東京大学情報理工学系研究科 コンピュータ科学専攻 ERATO今井量子計算機構プロジェクト,JST
ガウシアン確率伝搬法の 近似精度に対する理論解析
ベイジアンネットワーク概説 Loopy Belief Propagation 茨城大学工学部 佐々木稔
「データ学習アルゴリズム」 第3章 複雑な学習モデル 報告者 佐々木 稔 2003年6月25日 3.1 関数近似モデル
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 4 (2015年4月)
物理フラクチュオマティクス論 応用確率過程論 (2006年5月9日)
確率的画像処理アルゴリズム入門 東北大学 大学院情報科学研究科 田中 和之
確率の生み出す新しい情報処理技術 東北大学 大学院情報科学研究科 田中 和之
東北大 情報科学 田中和之,吉池紀子 山口大 工 庄野逸 理化学研究所 岡田真人
確率モデルを用いた 情報通信技術入門 ー誤り訂正符号を中心にー
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 5 (2012年4月)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 3 (2013年4月)
ポッツスピン型隠れ変数による画像領域分割
原子核物理学 第7講 殻模型.
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
ガウス分布における ベーテ近似の理論解析 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
物理フラクチュオマティクス論 応用確率過程論 (2006年4月11日)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月14日前半
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
ゆらぎが生み出す新しい情報処理技術 確率伝搬法と確率的画像処理
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 5 (2013年4月)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 1(2013年4月)
Orientifolding of IIB matrix model
目次 はじめに 収束性理論解析 数値実験 まとめ 特異値計算のための dqds 法 シフトによる収束の加速
Q状態イジング模型を用いた多値画像修復における 周辺尤度最大化によるハイパパラメータ推定
ガウシアングラフィカルモデルにおける一般化された確率伝搬法
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 4 (2012年4月)
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Practice (2019年4月)
Time Reversal E-Text: pp.80-83(PDF: pp.49-50) FM08002 太神 諭
Presentation transcript:

東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka) 物理フラクチュオマティクス論 Physical Fluctuomatics 第12回 量子力学からみた確率的情報処理 12th Quantum-mechanical extensions of probabilistic information processing 東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka) kazu@smapip.is.tohoku.ac.jp http://www.smapip.is.tohoku.ac.jp/~kazu/ July, 2009 物理フラクチュオマティクス論(東北大)

Contents はじめに 量子系の概説 Suzuki-Trotter 公式による古典系との対応 量子系のクラスター変分法からの確率伝搬法の定式化 確率推論への量子統計力学的アプローチ まとめ July, 2009 物理フラクチュオマティクス論(東北大)

量子ホップフィールドモデル (H. Nishimori) 量子アニーリング (H. Nishimori) 多体系の量子統計力学を用いた情報処理 量子ホップフィールドモデル (H. Nishimori) 量子アニーリング (H. Nishimori) ゲージ理論による量子誤り訂正符号 (H. Nishimori) 量子確率場による大規模情報処理への展開 July, 2009 物理フラクチュオマティクス論(東北大)

My works of Information Processing by using in Quantum Statistical Mechanics 画像処理に対する量子平均場アニーリング K. Tanaka and T. Horiguchi: Quantum Statistical-Mechanical Iterative Method in Image Restoration, IEICE Transactions (A), J80-A (1997). 画像処理における量子ライン場の導入 K. Tanaka: Image Restorations by using Compound Gauss-Markov Random Field Model with Quantized Line Fields, IEICE Transactions (D-II), J84-D-II (2001). July, 2009 物理フラクチュオマティクス論(東北大)

確率伝搬法の深化と展開 確率伝搬法の情報幾何的解釈 確率伝搬法と平均場理論の類似性の指摘 Y. Kabashima and D. Saad, Belief propagation vs. TAP for decoding corrupted messages, Europhys. Lett. 44 (1998). M. Opper and D. Saad (eds), Advanced Mean Field Methods ---Theory and Practice (MIT Press, 2001). クラスター変分法による一般化された確率伝搬法への拡張 J. S. Yedidia, W. T. Freeman and Y. Weiss: Constructing free-energy approximations and generalized belief propagation algorithms, IEEE Transactions on Information Theory, 51 (2005). 確率伝搬法の情報幾何的解釈 S. Ikeda, T. Tanaka and S. Amari: Stochastic reasoning, free energy, and information geometry, Neural Computation, 16 (2004). July, 2009 物理フラクチュオマティクス論(東北大)

確率推論: 2N 重の多重和の計算 量子確率場: 2N 行 2N 列の行列の対角化 確率推論と量子確率推論 一部の特殊な場合を除いて厳密な数値対角化は一般には困難 July, 2009 物理フラクチュオマティクス論(東北大)

確率分布と確率伝搬法 確率伝搬法の数理的基盤 量子系では同じ取り扱いは難しい!! 行列 A, B に対して は一般には成り立たない July, 2009 物理フラクチュオマティクス論(東北大)

1次元鎖または木構造のグラフ上の量子系の難しさ 量子系に対する確率伝搬法の定式化 本講演の主題 1次元鎖または木構造のグラフ上の量子系の難しさ 量子系に対する確率伝搬法の定式化 July, 2009 物理フラクチュオマティクス論(東北大)

Contents はじめに 量子系の概説 Suzuki-Trotter 公式による古典系との対応 量子系のクラスター変分法からの確率伝搬法の定式化 確率推論への量子統計力学的アプローチ まとめ July, 2009 物理フラクチュオマティクス論(東北大)

1 1 1ノードの量子状態 古典状態として可能なのは2つの状態のみ 2次元空間の2つの位置ベクトル July, 2009 1 2次元空間の2つの位置ベクトル July, 2009 物理フラクチュオマティクス論(東北大)

1 1 1ノードの量子状態 量子状態は 古典状態は 2次元空間 2次元空間 の任意の点 の2点 量子状態は2つの古典状態の重合せにより 表されるすべての可能な状態を想定 1 1 #係数は複素数でもかまわない July, 2009 物理フラクチュオマティクス論(東北大)

1ノードの量子状態 直交性 July, 2009 物理フラクチュオマティクス論(東北大)

1ノードの量子状態とパウリ演算子 July, 2009 物理フラクチュオマティクス論(東北大)

1ノードの量子状態とパウリ演算子 July, 2009 物理フラクチュオマティクス論(東北大)

1ノードの量子状態とパウリ演算子 July, 2009 物理フラクチュオマティクス論(東北大)

2ノードの量子状態 量子状態は4次元空間の任意の点 # 一般に N ノードの量子状態は 2N 次元空間の任意の点 古典状態を考えた場合は4次元空間の4点 量子状態は4次元空間の任意の点 # 一般に N ノードの量子状態は 2N 次元空間の任意の点 July, 2009 物理フラクチュオマティクス論(東北大)

2ノードの量子状態の遷移行列 同じ状態の積をとると対応する対角成分の1つが1になる 異なる状態の積をとると対応する非対角成分の1つが1になる July, 2009 物理フラクチュオマティクス論(東北大)

遷移行列と密度行列 ハミルトニアン 密度行列 July, 2009 物理フラクチュオマティクス論(東北大)

密度行列と確率分布 確率分布 P(a1,a2) H が対角行列であり,対角成分が確率分布により与えられる場合,量子確率モデルは確率分布と簡単に関係づけられる. July, 2009 物理フラクチュオマティクス論(東北大)

密度行列の計算 ハミルトニアンを対角化することで初めて統計量の計算が始まる. July, 2009 物理フラクチュオマティクス論(東北大)

確率分布と密度行列 確率分布の最大値を与える状態 古典的 な状態 古典的な 密度行列の最大固有値 状態の に対応する固有ベクトル 重合せ July, 2009 物理フラクチュオマティクス論(東北大)

周辺確率と縮約密度行列 周辺確率 i 番目を除くすべてのノードに対する確率変数の和 縮約密度行列 July, 2009 物理フラクチュオマティクス論(東北大)

縮約密度行列 (Reduced Density Matrix) ノード1の状態を固定したもとでの部分対角和 July, 2009 物理フラクチュオマティクス論(東北大)

縮約密度行列 (Reduced Density Matrix) ノード2の状態を固定したもとでの部分対角和 July, 2009 物理フラクチュオマティクス論(東北大)

2 ノードの量子 Heisenberg モデル July, 2009 物理フラクチュオマティクス論(東北大)

2ノードの量子 Heisenberg モデル July, 2009 物理フラクチュオマティクス論(東北大)

2ノードの量子 Heisenberg モデルの固有状態 July, 2009 物理フラクチュオマティクス論(東北大)

2ノードの量子 Heisenberg モデルの密度行列の計算 July, 2009 物理フラクチュオマティクス論(東北大)

2 ノードの Ising モデルの例に対する密度行列の解釈 密度行列の対角成分 がIsingモデルの 各状態の確率分布 に対応する. July, 2009 物理フラクチュオマティクス論(東北大)

2 ノードの横磁場 Ising モデル (Transverse Ising Model)に対する 密度行列の解釈 July, 2009 物理フラクチュオマティクス論(東北大)

3ノードの場合の密度行列 23x23 Matrix July, 2009 物理フラクチュオマティクス論(東北大)

3ノードの場合の密度行列 July, 2009 物理フラクチュオマティクス論(東北大)

3ノードの場合の密度行列 July, 2009 物理フラクチュオマティクス論(東北大)

Contents はじめに 量子系の概説 Suzuki-Trotter 公式による古典系との対応 量子系のクラスター変分法からの確率伝搬法の定式化 確率推論への量子統計力学的アプローチ まとめ July, 2009 物理フラクチュオマティクス論(東北大)

確率分布と確率伝搬法 そこで同じ操作が量子系でも可能か? July, 2009 物理フラクチュオマティクス論(東北大)

量子系の難しさ 指数関数の加法定理が成り立たない July, 2009 物理フラクチュオマティクス論(東北大)

Σ Suzuki-Trotter公式 n: Trotter 数 3xn の梯子格子上のグラフィカルモデルの確率伝搬法 密度行列 July, 2009 物理フラクチュオマティクス論(東北大)

Suzuki-Trotter公式 n: Trotter 数 July, 2009 物理フラクチュオマティクス論(東北大)

Suzuki-Trotter公式 n: Trotter 数 July, 2009 物理フラクチュオマティクス論(東北大)

Σ Suzuki-Trotter公式 確率分布 n: Trotter 数 密度行列 ST 公式 July, 2009 物理フラクチュオマティクス論(東北大)

Σ Suzuki-Trotter公式 3ノードからなる1次元鎖グラフ上の量子系 3xn の梯子格子上のグラフィカルモデルの確率伝搬法から統計量の厳密な数値を求めることができる. 確率分布 Σ ST 公式 密度行列 July, 2009 物理フラクチュオマティクス論(東北大)

Contents はじめに 量子系の概説 Suzuki-Trotter 公式による古典系との対応 量子系のクラスター変分法からの確率伝搬法の定式化 確率推論への量子統計力学的アプローチ まとめ July, 2009 物理フラクチュオマティクス論(東北大)

クラスター変分法(Cluster Variation Method) 古典系のクラスター変分法   R. Kikuchi: A theory of cooperative phenomena, Phys. Rev., 81 (1951). T. Morita: Cluster variation method of cooperative phenomena and its generalization I, J. Phys. Soc. Jpn, 12 (1957). 量子系のクラスター変分法 T. Morita: Cluster variation method of cooperative phenomena and its generalization II, Quantum Statistics, J. Phys. Soc. Jpn, 12 (1957). T. Morita: An Approximation Scheme of the Cluster Variation Method for Quantum Lattice Gases, Progress of Theoretical Physics, 92 (1994). July, 2009 物理フラクチュオマティクス論(東北大)

ギブス分布と 自由エネルギー最小原理 July, 2009 物理フラクチュオマティクス論(東北大)

密度行列と縮約密度行列 i はノード 縮約密度行列 (Reduced Density Matrix) Reducibility ij は i と j を結ぶリンク B は与えられたグラフ すべてのリンクの集合 縮約密度行列 (Reduced Density Matrix) Reducibility Condition Normalization Condition July, 2009 物理フラクチュオマティクス論(東北大)

クラスター変分法における近似自由エネルギー Consistency Conditions July, 2009 物理フラクチュオマティクス論(東北大)

近似自由エネルギーの変分 July, 2009 物理フラクチュオマティクス論(東北大)

近似縮約密度行列と有効場 k から i への有効場 July, 2009 物理フラクチュオマティクス論(東北大)

量子系における確率伝搬法の有効場伝搬規則 有効場伝搬方程式 j i Output July, 2009 物理フラクチュオマティクス論(東北大)

Contents はじめに 量子系の概説 Suzuki-Trotter 公式による古典系との対応 量子系のクラスター変分法からの確率伝搬法の定式化 確率推論への量子統計力学的アプローチ まとめ July, 2009 物理フラクチュオマティクス論(東北大)

確率推論と従来の確率伝搬法 閉路を持たないグラフ上の確率モデルに対して厳密な結果を与える. 閉路を持つグラフ上の確率モデルでは近似アルゴリズムとなる. July, 2009 物理フラクチュオマティクス論(東北大)

閉路を持つグラフ上の 確率モデルの結合確率 無向グラフ 有向 グラフ July, 2009 物理フラクチュオマティクス論(東北大)

確率推論の密度行列 無向グラフ July, 2009 物理フラクチュオマティクス論(東北大)

閉路を持つグラフ上の 量子系の密度行列 無向グラフ July, 2009 物理フラクチュオマティクス論(東北大)

閉路を持つグラフ上の 量子系の密度行列 無向グラフ July, 2009 物理フラクチュオマティクス論(東北大)

閉路を持つグラフ上の 量子系の密度行列 無向グラフ July, 2009 物理フラクチュオマティクス論(東北大)

確率推論の密度行列 への拡張の一例 July, 2009 物理フラクチュオマティクス論(東北大)

閉路を持つグラフ上の 量子系の密度行列の数値実験 Exact 無向グラフ Quantum CVM July, 2009 物理フラクチュオマティクス論(東北大)

線形応答理論 (人為的に小さなゆらぎを与えてその応答を見ることで詳細を知ることができる.) July, 2009 物理フラクチュオマティクス論(東北大)

閉路を持つグラフ上の 量子系の密度行列の数値実験 Exact 無向グラフ Quantum CVM July, 2009 物理フラクチュオマティクス論(東北大)

Contents はじめに 量子系の概説 Suzuki-Trotter 公式による古典系との対応 量子系のクラスター変分法からの確率伝搬法の定式化 確率推論への量子統計力学的アプローチ まとめ July, 2009 物理フラクチュオマティクス論(東北大)

まとめ 従来型のCVMによる量子系の取扱い 確率推論のグラフィカルモデルにおける量子確率伝搬法としてのアルゴリズム 今後の課題 量子確率推定への情報統計力学的アプローチ July, 2009 物理フラクチュオマティクス論(東北大)