東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka) 物理フラクチュオマティクス論 Physical Fluctuomatics 応用確率過程論 Applied Stochastic Process 第10回 確率的画像処理と確率伝搬法 10th Probabilistic image processing by means of physical models 東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka) kazu@smapip.is.tohoku.ac.jp http://www.smapip.is.tohoku.ac.jp/~kazu/ 物理フラクチュオマティクス論(東北大)

今回の講義の講義ノート 田中和之著: 確率モデルによる画像処理技術入門，森北出版，第６章-第９章，2006． 田中和之編著: 数理科学臨時別冊 SCG ライブラリ「確率的情報処理と統計力学　---様々なアプローチとそのチュートリアル---」，pp.101-108，サイエンス社，2006． 田中和之: 大規模確率場における予測と推論，電子情報通信学会誌，Vol.88, No.9, pp.698-702, September 2005. 物理フラクチュオマティクス論(東北大)

アプリケーション：Photo Shop, Paint Shop, etc. 画像処理 画像処理の基本操作 画像の移動，回転，コピー，貼付け ノイズの除去 ぼけた画像からの輪郭線強調 画像の拡大 画像をコンピュータで加工 アプリケーション：Photo Shop, Paint Shop, etc. 物理フラクチュオマティクス論(東北大)

コンピュータは数値は扱えるが光そのものは扱えない． 画像の基礎知識 画像を使いこなすには画像がどのような形式で数値データとして保存されているかを理解することが必要!!→画像表示 P3 640 480 255 192 209 190 202 219 200 213 201 221 218 206 226 210 209 215 211 210 216 211 208 217 211 208 217 210 203 210 217 210 217 216 210 220 217 211 221 218 213 219 218 ……………… コンピュータは数値は扱えるが光そのものは扱えない． 物理フラクチュオマティクス論(東北大)

画像表示の基礎 画素の場所→位置ベクトル 約３０万画素 基本単位は画素（ピクセル） 物理フラクチュオマティクス論(東北大)

画像表示の基礎（モノクロ画像） 基本単位は画素（ピクセル） 画像は各画素ごとの強さの異なる光により表される． 光の強さは０から２５５までの２５６段階 基本単位は画素（ピクセル） ０が真っ黒，２５５が真っ白 各画素にその光の強さに応じて整数値（0,1,2,…,255）を割り当て， データとして保存し，加工する． 物理フラクチュオマティクス論(東北大)

画像表示の基礎（モノクロ画像） PGM 形式 物理フラクチュオマティクス論(東北大)

画像表示の基礎 (モノクロ画像） PGM 形式 P2 # kazu 8 8 255 0 200 50 125 56 255 255 0 0 200 50 125 56 255 255 0 220 210 100 25 255 156 125 125 125 125 105 30 215 100 135 75 105 125 256 200 125 56 255 255 34 210 230 125 56 125 255 125 0 145 145 105 126 30 215 67 125 100 200 25 156 0 225 45 0 126 60 0 56 47 155 160 物理フラクチュオマティクス論(東北大)

画像を手なずけるための確率の基礎知識（１） 事象 B の周辺確率 A B C D 周辺化 物理フラクチュオマティクス論(東北大)

画像を手なずけるための確率の基礎知識（２） ベイズの公式 (Bayes Formula) 事前確率 (A Priori Probability) A B 事後確率 (A Posteriori Probability) Bayes 規則 (Bayes Rule) とも言う． ベイジアンネットワーク 物理フラクチュオマティクス論(東北大)

画像修復の確率モデル 雑音 通信路 原画像 劣化画像 物理フラクチュオマティクス論(東北大)

画像修復の事前確率分布 ２値画像の例 (fi=0,1) E：すべての最近接画素対の集合 α=1.76… 付近で ゆらぎが大きくなる． マルコフ連鎖モンテカルロ法によるサンプリング E：すべての最近接画素対の集合 Paramagnetic Ferromagnetic α=1.76… 付近で ゆらぎが大きくなる． V：すべての画素の集合 物理フラクチュオマティクス論(東北大)

２元対称通信路 (Binary Symmetric Channel) 劣化過程 ２元対称通信路 (Binary Symmetric Channel) V：すべての画素の集合 物理フラクチュオマティクス論(東北大)

加法的白色ガウス雑音 (Additive White Gaussian Noise) 劣化過程 加法的白色ガウス雑音 (Additive White Gaussian Noise) V：すべての画素の集合 物理フラクチュオマティクス論(東北大)

計算困難 ベイズ統計・最尤推定と画像処理 事前確率 原画像 劣化画像 事後確率 加法的白色ガウス雑音 または２元対称通信路 画素 各画素ごとの周辺事後確率 物理フラクチュオマティクス論(東北大)

画像処理とベイズ統計の事後確率 2元対称通信路 加法的白色ガウス雑音 物理フラクチュオマティクス論(東北大)

E：すべての最近接画素対の集合 V：すべての画素の集合 確率的画像処理とベイジアンネットワーク 事後確率 ベイジアンネットワーク 閉路のあるグラフ上の確率モデル V：すべての画素の集合 E：すべての最近接画素対の集合 物理フラクチュオマティクス論(東北大)

マルコフ確率場 マルコフ確率場 ：画素 i のすべての最近接画素の集合 物理フラクチュオマティクス論(東北大)

E：すべての最近接画素対の集合 V：すべての画素の集合 確率伝搬法 閉路のあるグラフ上の確率モデル ３ ４ １ ２ ５ 物理フラクチュオマティクス論(東北大)

閉路のあるグラフ上の確率モデル 閉路のあるグラフ上でも局所的な構造だけに着目してアルゴリムを構成することは可能． ２ １ ３ ４ ５ 閉路のあるグラフ上でも局所的な構造だけに着目してアルゴリムを構成することは可能． ただし，得られる結果は厳密ではなく近似アルゴリズム メッセージに対する固定点方程式 物理フラクチュオマティクス論(東北大)

確率伝搬法による２値画像の画像修復アルゴリズム Step 1: 8L 個のメッセージについての連立非線形方程式 を反復法により数値的に解く． ２ １ ３ ４ ５ ２ １ ３ ４ ５ Step 2: 得られたメッセージを に代入し，原画像の推定値を により求める． 具体的なアルゴリズムは 田中和之: 統計力学を用いた確率的画像処理アルゴリズムの基礎 -- 確率伝搬法と統計力学 --, ミニ特集「ベイズ統計・統計力学と情報処理」, 計測と制御, vol.42, no.8, pp.631-636, 2003. などを参照． 物理フラクチュオマティクス論(東北大)

Binary Image Restoration by Gaussian Graphical Model MSE p=0.1 0.07072 0.28981 0.07902 p=0.2 0.11864 0.38206 0.17184 Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. MSE p=0.1 0.04761 0.41097 0.04857 p=0.2 0.08319 0.39216 0.13290 物理フラクチュオマティクス論(東北大)

Binary Image Restoration by Gaussian Graphical Model 原画像 劣化画像 修復画像 物理フラクチュオマティクス論(東北大)

Image Restoration by Gaussian Graphical Model (α,σ) の推定値 は統計的学習理論により劣化画像から決定 MSE Belief Propagation 327 0.000611 36.302 Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. MSE Belief Propagation 260 0.000574 33.998 物理フラクチュオマティクス論(東北大)

Image Restoration by Gaussian Graphical Model and Conventional Filters Degraded Image MSE Belief Propagation 327 Lowpass Filter (3x3) 388 (5x5) 413 Median Filter 486 445 Original Image Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. Belief Propagation (3x3) Lowpass (5x5) Median 物理フラクチュオマティクス論(東北大)

Image Restoration by Gaussian Graphical Model and Conventional Filters Degraded Image MSE Belief Propagation 260 Lowpass Filter (3x3) 241 (5x5) 224 Median Filter 331 244 Original Image Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. Belief Propagation (5x5) Lowpass (5x5) Median 物理フラクチュオマティクス論(東北大)

Gray-Level Image Restoration (Spike Noise) Original Image Degraded Image Belief Propagation Lowpass Filter Median Filter Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. MSE: 2075 MSE: 244 MSE: 217 MSE:135 MSE: 3469 MSE: 371 MSE: 523 MSE: 395 物理フラクチュオマティクス論(東北大)

ハイパパラメータa, s は周辺尤度最大化で決定．解析的に扱えるモデルでは良好 カラー画像の確率的画像修復 原画像 劣化画像 修復画像 ハイパパラメータa, s は周辺尤度最大化で決定．解析的に扱えるモデルでは良好 物理フラクチュオマティクス論(東北大)

ハイパパラメータa, sは周辺尤度最大化で決定．解析的に扱えるモデルでは良好 カラー画像の確率的画像修復 原画像 劣化画像 修復画像 ハイパパラメータa, sは周辺尤度最大化で決定．解析的に扱えるモデルでは良好 物理フラクチュオマティクス論(東北大)

結合ガウス・マルコフ確率場モデル ライン場についての事前情報 V(u) 物理フラクチュオマティクス論(東北大)

量子力学的に拡張されたライン場を導入した確率場モデル 結合ガウス・マルコフ確率場モデル ライン場のない確率場モデル 原画像 劣化画像 ライン場を導入した確率場モデル 量子力学的に拡張されたライン場を導入した確率場モデル 物理フラクチュオマティクス論(東北大)

量子力学的に拡張されたライン場を導入した確率場モデル 結合ガウス・マルコフ確率場モデル ライン場のない確率場モデル 原画像 劣化画像 ライン場を導入した確率場モデル 量子力学的に拡張されたライン場を導入した確率場モデル 物理フラクチュオマティクス論(東北大)

確率的画像処理としてのベイジアンネットワーク 確率伝搬法によるアルゴリズム化 まとめ 画像処理の基礎 確率的画像処理としてのベイジアンネットワーク 確率伝搬法によるアルゴリズム化 さらなる詳細は 田中和之著: 確率モデルによる画像処理入門， 森北出版，2006 を参照． 付録にお試しプログラムを掲載． 物理フラクチュオマティクス論(東北大)

ZPosterior は規格化定数，Eはすべての最隣接頂点対の集合， は画素 i のすべての最近接画素の集合を表す． 演習問題10－1 確率場 F=(F1,F2,…,F|V|)T および G=(G1,G2,…,G|V|)T およびその状態ベクトル変数f=(f1,f2,…,f|V|)T および g=(g1,g2,…,g|V|)Tから定義される事後確率 に対して が成り立つことを説明し，その上で次の等式が成り立つことを示せ． ZPosterior は規格化定数，Eはすべての最隣接頂点対の集合， ここで は画素 i のすべての最近接画素の集合を表す． 物理フラクチュオマティクス論(東北大)

演習問題10－2 各画素の階調値が 0 または 1 をとる２階調の画像 f =(f1,f2,…,f|V|)T を読み込み各画像ごと独立に確率 p （0<p<0.5）の２元対称通信路 により劣化画像 g=(g1,g2,…,g|V|)T を生成するプログラムを作成し，数値実験を実行せよ． p=0.2 の数値実験例 物理フラクチュオマティクス論(東北大)

演習問題10－3 各画素の階調値が 0 ,1,…Q-1 をとるQ階調の画像 f =(f1,f2,…,f|V|)T を読み込み各画像ごと独立に平均0，分散s2の加法的白色ガウスノイズ により劣化画像 g=(g1,g2,…,g|V|)T を生成するプログラムを作成し，数値実験を実行せよ．ここで，Vはすべての画素からなる集合である． 物理フラクチュオマティクス論(東北大)

演習問題10－4 各画素の階調値が 0 または 1 をとる2階調の画像 g =(g1,g2,…,g|V|)T を読み込み，これを劣化画像として原画像 f =(f1,f2,…,fL)T の事後確率 に対する確率伝搬法によりノイズを除去する（画像修復の）プログラムを作成し，数値実験を実行せよ．ZPosterior は規格化定数である． 具体的なアルゴリズムは 田中和之著: 確率モデルによる画像処理技術入門，森北出版，2006． 田中和之: 統計力学を用いた確率的画像処理アルゴリズムの基礎 -- 確率伝搬法と統計力学 -- (解説), ミニ特集「ベイズ統計・統計力学と情報処理」, 計測自動制御学会誌「計測と制御」, Vol.42, No.8 (August 2003), pp.631-636. などを参照． 物理フラクチュオマティクス論(東北大)

演習問題10－4 のヒント Step 1: 4L 個のメッセージについての連立非線形方程式 を反復法により数値的に解く． ２ １ ３ ４ ５ に代入し，原画像の推定値を により求める． 物理フラクチュオマティクス論(東北大)

演習問題10－5 各画素の階調値が 任意の実数値 をとる画像 g =(g1,g2,…,g|V|)T を読み込み，これを劣化画像として原画像 f =(f1,f2,…,f|V|)T の事後確率 に対する確率伝搬法によりノイズを除去する（画像修復の）プログラムを作成し，数値実験を実行せよ．ZPosterior は規格化定数である． 具体的なアルゴリズムは 田中和之著: 確率モデルによる画像処理技術入門，森北出版，2006． を参照． 物理フラクチュオマティクス論(東北大)