電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 4 (2012年4月) 本実験DのWebpage: http://www.smapip.is.tohoku.ac.jp/~kazu/ECEI-ExperimentD/2012/ 東北大学 大学院情報科学研究科 田中 和之 kazu@smapip.is.tohoku.ac.jp http://www.smapip.is.tohoku.ac.jp/~kazu/ April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 本講義の参考文献 田中和之著: 確率モデルによる画像処理技術入門, 森北出版, 2006. 田中和之著: ベイジアンネットワークの統計的推論の数理, コロナ社, 2009. 田中和之編著: 臨時別冊・数理科学SGCライブラリ「確率的情報処理と統計力学 ---様々なアプローチとそのチュートリアル」, サイエンス社，2006. 安田宗樹, 片岡駿，田中和之共著 (分担執筆): ---CVIMチュートリアルシリーズ--- コンピュータビジョン最先端ガイド3(八木康史，斎藤英雄編), 第6章．大規模確率場と確率的画像処理の深化と展開，pp.137-179, アドコム・メディア株式会社, December 2010. Kazuyuki Tanaka: Statistical-mechanical approach to image processing (Topical Review), Journal of Physics A: Mathematical and General, vol.35, no.37, pp.R81-R150, 2002. C. M. Bishop: Pattern Recognition and Machine Intelligence, Springer, 2007. M. Opper and D. Saad: Advanced Mean Field Method, MIT Press, 2001. H. Nishimori: Statistical Physics of Spin Glasses and Information Processing, ---An Introduction---, Oxford University Press, 2001. M. J. Wainwright and M. Jordan: Graphical Models, Exponential Families, and Variational Inference (Foundations and Trends® in Machine Learning), Now Publishers, 2008. M. Mezard and A. Montanari: Information, Physics, and Computation, Oxford University Press, 2009. April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] Contents 序論：確率的情報処理とベイジアンネットワーク 確率の基礎知識 確率的計算技法の基礎 ---マルコフ連鎖モンテカルロ法と確率伝搬法--- 確率的画像処理とベイジアンネットワーク ---マルコフ確率場と確率伝搬法--- 確率推論とベイジアンネットワーク---グラフィカルモデルと確率伝搬法--- まとめ April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

画像処理 画像処理の基本操作 ノイズの除去 ぼけた画像からの輪郭線強調 画像の拡大 画像をコンピュータで加工 アプリケーション：Photo Shop, Paint Shop, etc. April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

画像を使いこなすには画像がどのような形式で数値データとして保存されているかを理解することが必要!!→画像表示 画像の基礎知識 画像を使いこなすには画像がどのような形式で数値データとして保存されているかを理解することが必要!!→画像表示 P3 640 480 255 192 209 190 202 219 200 213 201 221 218 206 226 210 209 215 211 210 216 211 208 217 211 208 217 210 203 210 217 210 217 216 210 220 217 211 221 218 213 219 218 ……………… コンピュータは数値は扱えるが光そのものは扱えない． April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像表示の基礎 画素の場所→位置ベクトル 約３０万画素 基本単位は画素（ピクセル） April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像表示の基礎（モノクロ画像） 画像は各画素ごとの強さの異なる光により表される． 光の強さは０から２５５までの２５６段階 基本単位は画素（ピクセル） ０が真っ黒，２５５が真っ白 各画素にその光の強さに応じて整数値（0,1,2,…,255）を割り当て， データとして保存し，加工する． April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像表示の基礎（モノクロ画像） PGM 形式 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像表示の基礎 (モノクロ画像） PGM 形式 P2 # kazu 8 8 255 0 200 50 125 56 255 255 0 220 210 100 25 255 156 125 125 125 125 105 30 215 100 135 75 105 125 256 200 125 56 255 255 34 210 230 125 56 125 255 125 0 145 145 105 126 30 215 67 125 100 200 25 156 0 225 45 0 126 60 0 56 47 155 160 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像表示の基礎（カラー画像） 画像は各画素ごとの赤、緑、青の光の３原色のそれぞれの 強さの異なる光により表される． 赤の光の強度 緑の光の強度 青の光の強度 基本単位は 画素（ピクセル） 各画素に各色の光の強さに応じて３つの整数値を割り当て， データとして保存し，加工する． April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像表示の基礎(カラー画像） 赤の光の強度 緑の光の強度 青の光の強度 PPM 形式 P3 # kazu 3 3 255 220 210 100 25 255 156 125 125 25 125 125 105 30 215 80 135 75 54 105 125 256 200 125 56 55 255 156 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（１） 平滑化フィルター f(x-1,y-1) f(x,y-1) f(x+1,y-1) f(x-1,y) f(x,y) f(x+1,y) f(x-1,y+1) f(x,y+1) f(x+1,y+1) 平均値 g(x,y) April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（１） 平滑化フィルター 1/9 f(x-1,y-1) f(x,y-1) f(x+1,y-1) f(x-1,y) f(x,y) f(x+1,y) f(x-1,y+1) f(x,y+1) f(x+1,y+1) April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 1/9 モノクロ画像の加工（１） 平滑化フィルター April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（１） 平滑化フィルター 1/9 1/25 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（２） 微分は差分に置き換える ラプラシアン April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（２） ラプラシアンフィルター f(x-1,y-1) f(x,y-1) f(x+1,y-1) f(x-1,y) f(x,y) f(x+1,y) f(x-1,y+1) f(x,y+1) f(x+1,y+1) 1 -4 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（２） 1 -4 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（２） 1 1 -4 -1 5 - ー April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（線形フィルター） 様々の線形フィルター の設計が可能 f(x-1,y-1) f(x,y-1) f(x+1,y-1) f(x-1,y) f(x,y) f(x+1,y) f(x-1,y+1) f(x,y+1) f(x+1,y+1) a(x-1,y-1) a(x,y-1) a(x+1,y-1) a(x-1,y) a(x,y) a(x+1,y) a(x-1,y+1) a(x,y+1) a(x+1,y+1) April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（３） 192 209 190 202 219 120 100 218 110 f(x-1,y-1) f(x,y-1) f(x+1,y-1) f(x-1,y) f(x,y) f(x+1,y) f(x-1,y+1) f(x,y+1) f(x+1,y+1) = 192 209 190 202 219 120 100 218 110 100 110 120 190 192 202 209 218 219 ソーティング April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（３） (3x3) メジアンフィルター April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（３） (3x3) メジアンフィルター (5x5) メジアンフィルター April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像の加工（３） メジアンフィルター (3x3) メジアン フィルター (5x5) メジアン フィルター April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] カラー画像の加工 平滑化フィルター 1/9 f(x-1,y-1) f(x,y-1) f(x+1,y-1) f(x-1,y) f(x,y) f(x+1,y) f(x-1,y+1) f(x,y+1) f(x+1,y+1) April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] カラー画像の加工 平滑化フィルター 1/9 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像の様々の加工技術 ベクトルメジアンフィルター ウィナーフィルター 拘束条件付き最小自乗フィルター その他 各自インターネットで調べてみよう April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] ノイズ（モノクロ画像） 加法的ノイズ ノイズ 劣化画像 原画像 乱数 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] ノイズ（カラー画像） 加法的ノイズ ノイズ 劣化画像 原画像 乱数 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像のノイズ除去（１） 平滑化フィルター 1/9 1/25 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] モノクロ画像のノイズ除去（２） メジアンフィルター (3x3) メジアン フィルター (5x5) メジアン フィルター April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] カラー画像のノイズ除去 平滑化フィルター 1/9 1/25 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像修復の確率モデル 雑音 通信路 原画像 劣化画像 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像修復の事前確率分布 ２値画像の例 (fi=0,1) マルコフ連鎖モンテカルロ法によるサンプリング E：すべての最近接画素の集合 Paramagnetic Ferromagnetic α=1.76… 付近でゆらぎがおおきくなる． V：すべての画素の集合 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

２元対称通信路 (Binary Symmetric Channel) 劣化過程 ２元対称通信路 (Binary Symmetric Channel) V：すべての画素の集合 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

劣化過程 加法的白色ガウス雑音 (Additive White Gaussian Noise) V：すべての画素の集合 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] ベイズ統計・最尤推定と画像処理 事前確率 加法的白色ガウス雑音 または２元対称通信路 劣化画像 原画像 画素 事後確率 計算困難 各画素ごとの周辺事後確率 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 画像処理とベイズ統計の事後確率 2元対称通信路 加法的白色ガウス雑音 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 確率的画像処理と ベイジアンネットワーク 事後確率 ベイジアンネットワーク 閉路のあるグラフ上の確率モデル V：すべての画素の集合 E：すべての最近接画素対の集合 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] マルコフ確率場 マルコフ確率場 ：画素 i のすべての最近接画素の集合 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 確率伝搬法 閉路のあるグラフ上の確率モデル V：すべての画素の集合 E：すべての最近接画素対の集合 ２ １ ３ ４ ５ April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] 閉路のあるグラフ上の確率モデル ２ １ ３ ４ ５ 閉路のあるグラフ上でも局所的な構造だけに着目してアルゴリムを構成することは可能． ただし，得られる結果は厳密ではなく近似アルゴリズム メッセージに対する固定点方程式 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

確率伝搬法による２値画像の画像修復アルゴリズム Step 1: 8L 個のメッセージについての連立非線形方程式 を反復法により数値的に解く． ２ １ ３ ４ ５ ２ １ ３ ４ ５ Step 2: 得られたメッセージを に代入し，原画像の推定値を により求める． 具体的なアルゴリズムは 田中和之: 統計力学を用いた確率的画像処理アルゴリズムの基礎 -- 確率伝搬法と統計力学 --, ミニ特集「ベイズ統計・統計力学と情報処理」, 計測と制御, vol.42, no.8, pp.631-636, 2003. などを参照． April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

Binary Image Restoration by Gaussian Graphical Model MSE p=0.1 0.07072 0.28981 0.07902 p=0.2 0.11864 0.38206 0.17184 Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. MSE p=0.1 0.04761 0.41097 0.04857 p=0.2 0.08319 0.39216 0.13290 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

Binary Image Restoration by Gaussian Graphical Model 原画像 劣化画像 修復画像 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

Image Restoration by Gaussian Graphical Model (α,σ) の推定値 は統計的学習理論により劣化画像から決定 MSE Belief Propagation 327 0.000611 36.302 Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. MSE Belief Propagation 260 0.000574 33.998 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

Image Restoration by Gaussian Graphical Model and Conventional Filters Original Image Degraded Image MSE Belief Propagation 327 Lowpass Filter (3x3) 388 (5x5) 413 Median Filter 486 445 Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. Belief Propagation (3x3) Lowpass (5x5) Median April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

Image Restoration by Gaussian Graphical Model and Conventional Filters MSE Belief Propagation 260 Lowpass Filter (3x3) 241 (5x5) 224 Median Filter 331 244 Original Image Degraded Image Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. Belief Propagation (5x5) Lowpass (5x5) Median April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

Gray-Level Image Restoration (Spike Noise) Original Image Degraded Image Belief Propagation Lowpass Filter Median Filter Finally, we show only the results for the gray-level image restoration. For each numerical experiments, the loopy belief propagation ca give us better results than the ones by conventional filters. MSE: 2075 MSE: 244 MSE: 217 MSE:135 MSE: 3469 MSE: 371 MSE: 523 MSE: 395 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]

電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4] まとめ 画像処理の基礎 確率的画像処理としてのベイジアンネットワーク 確率伝搬法によるアルゴリズム化 April, 2012 電気・通信・電子・情報工学実験D [Kazuyuki Tanaka Part 4]