確率的画像処理アルゴリズム入門 東北大学 大学院情報科学研究科 田中 和之 kazu@smapip.is.tohoku.ac.jp http://www.smapip.is.tohoku.ac.jp/~kazu/ 共同研究者 D. M. Titterington (University of Glasgow, UK) 28 July, 2008 PIP-MIRU2008 (Karuizawa）

Contents 本講演の参考文献 序論 確率的画像処理の計算モデル 確率伝搬法 確率的画像処理アルゴリズム まとめ 田中和之著: 確率モデルによる画像処理技術入門，森北出版，2006年9月 ． 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率的画像処理 確率的画像処理手法によるノイズ除去 基本単位は画素 画素上の数字は ディスプレイの 光の強度 最も簡単な既存のフィルター 192 202 190 192 202 190 202 219 120 202 173 120 100 218 110 100 218 110 信号処理の知見をもとにした画像処理の確率モデル化 マルコフ確率場モデル 確率的画像処理 アルゴリズム化 28 July, 2008 PIP-MIRU2008 (Karuizawa）

Contents 序論 確率的画像処理の計算モデル 確率伝搬法 確率的画像処理アルゴリズム まとめ 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率的画像処理の計算モデル 仮定１: 劣化画像は各画素ごと独立に生成されたノイズが原画像に加えられることで作り出されている. ノイズ 仮定２: 原画像は事前確率の高い確率を与える画像のひとつである. ノイズ 転送路 原画像 劣化画像 Bayes の公式 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率的画像処理の計算モデル Bayes Formulas 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率的画像処理の計算モデル 事後確率 ベイジアンネットワーク 閉路のあるグラフ上の確率モデル 28 July, 2008 PIP-MIRU2008 (Karuizawa）

Contents 序論 確率的画像処理の計算モデル 確率伝搬法 確率的画像処理アルゴリズム まとめ 28 July, 2008 PIP-MIRU2008 (Karuizawa）

扱いやすい確率モデルのグラフ表現 扱いやすい確率モデルの数理構造 扱いやすくない確率モデルの数理構造 A D B C 木構造をもつグラフ表現 別々に和を計算できる A 扱いやすくない確率モデルの数理構造 B C 閉路を含むグラフ表現 別々に和を計算することが難しい 28 July, 2008 PIP-MIRU2008 (Karuizawa）

1 2 3 4 5 確率伝搬法 パスはひとつ 漸化式 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率伝搬法 Tree Step 3 3 2 1 4 3 1 3 2 1 2 1 4 1 4 One Output Two Inputs 木構造をもつグラフ上の確率モデルの平均などの統計量の計算はいくつかのステップに分解して，木の端から順番に計算することができる． 3 1 Step 1 Step 3 3 2 1 2 1 4 1 Step 2 4 One Output Two Inputs 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率伝搬法 木構造をもつグラフ上では端から順番に計算して平均，分散，共分散を厳密に計算することができる． 28 July, 2008 PIP-MIRU2008 (Karuizawa）

Belief Propagation for Bayesian Networks 閉路をもつグラフ上の 確率伝搬法は 繰り返し計算を含む 収束するまで 計算を繰り返す 28 July, 2008 PIP-MIRU2008 (Karuizawa）

Belief Propagation for Bayesian Networks 正方格子上の確率伝搬法も作れる. 3 2 1 5 4 各ステップは３入力１出力. 各ノードの隣接ノードの個数が４. 28 July, 2008 PIP-MIRU2008 (Karuizawa）

Contents 序論 確率的画像処理の計算モデル 確率伝搬法 確率的画像処理アルゴリズム まとめ 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率的画像処理の計算モデル 事後確率 ベイジアンネットワーク 閉路のあるグラフ上の確率モデル 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率伝搬法による画像処理アルゴリズム Step 1: 2|E| 個のメッセージ更新規則を収束するまで繰り返す． ２ １ ３ ４ ５ ２ １ 具体的なアルゴリズムは 田中和之著: 確率モデルによる画像処理技術入門，森北出版，2006年9月． などを参照． 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率的画像処理における 確率伝搬法アルゴリズムの基本構造 ４近傍の場合は3入力1出力の更新式 ひとつの画素ごとに４種類の更新パターン 画素上での 動作の様子 の一例 28 July, 2008 PIP-MIRU2008 (Karuizawa）

周辺尤度(Marginal Likelihood) 確率的画像処理の統計的学習 ハイパパラメータ a, s は周辺尤度 Pr{Y|a,b} の最大化により与えられたデータから推定する. In the image restoration, we usually have to estimate the hyperparameters alpha and p. In statistics, the maximum likelihood estimation is often employed. In the standpoint of maximum likelihood estimation, the hyperparameters are determined so as to maximize the marginal likelihood defined by marginalize the joint probability for the original image and degraded image with respect to the original image. The marginal likelihood is expressed in terms of the partition functions of the a priori probabilistic model and the a posteriori probabilistic model. We can calculate these partition functions approximately by using the Bethe approximation. 劣化画像 原画像 周辺化(Marginalize) 周辺尤度(Marginal Likelihood) 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率的画像処理アルゴリズムの構造 確率的画像処理アルゴリズムのハイパパラメータ推定はInner Loop とOuter Loop の2重構造の繰り返し計算. 28 July, 2008 PIP-MIRU2008 (Karuizawa）

ガウシアングラフィカルモデルを用いた確率的画像処理の一例 MSE 確率伝搬法 327 平滑化 フィルター (3x3) 388 (5x5) 413 メジアンフィルター 486 445 原画像 劣化画像 Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. 確率伝搬法 平滑化フィルター メジアンフィルター 28 July, 2008 PIP-MIRU2008 (Karuizawa）

確率的画像処理の一例 (Spike Noise) 原画像 劣化画像 確率伝搬法 平滑化フィルター メジアンフィルター Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. MSE: 2075 MSE: 244 MSE: 217 MSE:135 MSE: 3469 MSE: 371 MSE: 523 MSE: 395 28 July, 2008 PIP-MIRU2008 (Karuizawa）

Bayesian Network Output Input 確率的画像処理の一例 M. Yasuda, J. Ohkubo and K. Tanaka: Proceedings of CIMCA&IAWTIC2005. 28 July, 2008 PIP-MIRU2008 (Karuizawa）

Contents 序論 確率的画像処理の計算モデル 確率伝搬法 確率的画像処理アルゴリズム まとめ 28 July, 2008 PIP-MIRU2008 (Karuizawa）

ベイズ統計をつかった画像処理の計算モデル 確率伝搬法の基礎 確率的画像処理アルゴリズム 確率的画像処理アルゴリズム入門 ベイズ統計をつかった画像処理の計算モデル 確率伝搬法の基礎 確率的画像処理アルゴリズム 28 July, 2008 PIP-MIRU2008 (Karuizawa）

References K. Tanaka: Statistical-Mechanical Approach to Image Processing (Topical Review), J. Phys. A, 35 (2002). A. S. Willsky: Multiresolution Markov Models for Signal and Image Processing, Proceedings of IEEE, 90 (2002). C. M. Bishop: Pattern Recognition and Machine Learning, Springer, 2006. 28 July, 2008 PIP-MIRU2008 (Karuizawa）