わかりやすいパターン認識 第7章:部分空間法  7.1 部分空間法の基本  7.2 CLAFIC法                  6月13日(金)                  大城 亜里沙.

Slides:



Advertisements
Similar presentations
はじめてのパターン認識 第1章 第4グループ 平田翔暉. パターン認識 パターン認識 o 観測されたパターンを、あらかじめ定められ たクラスに分類すること クラス o 硬貨: 1 円玉、 5 円玉、 10 円玉、 50 円玉、 100 円玉、 500 円玉 o アルファベット: 26 種類 o 数字:
Advertisements

Absolute Orientation. Absolute Orientation の問題 二つの座標系の間における剛体 (rigid body) 変換を復元す る問題である。 例えば: 2 台のステレオカメラから得られた3次元情報の間の関 係を推定する問題。 2 台のステレオカメラから得られた3次元情報の間の関.
『わかりやすいパターン認 識』 第 5 章 特徴の評価とベイズ誤り確率 5.4 ベイズ誤り確率と最近傍決定則 発表日: 5 月 23 日(金) 発表者:時田 陽一.
Determining Optical Flow. はじめに オプティカルフローとは画像内の明る さのパターンの動きの見かけの速さの 分布 オプティカルフローは物体の動きの よって変化するため、オプティカルフ ローより速度に関する情報を得ること ができる.
主成分分析 主成分分析は 多くの変数の中を軸を取り直すことで より低い次元で表現できるようにする。 データがばらついている方向ほど
データ解析
HOG特徴に基づく 単眼画像からの人体3次元姿勢推定
「わかりやすいパターン認識」 第1章:パターン認識とは
Extremal Combinatorics 14.1 ~ 14.2
芦田尚美*,髙田雅美*,木目沢司†,城和貴* *奈良女子大学大学院 †国立国会図書館
上坂吉則 尾関和彦 文一総合出版 宮崎大輔2003年6月28日(土)
第3章 重回帰分析 ー 計量経済学 ー.
確率・統計輪講資料 6-5 適合度と独立性の検定 6-6 最小2乗法と相関係数の推定・検定 M1 西澤.
主成分分析                     結城  隆   .
      線形写像  線形写像 U,V:R上のベクトル空間 T:UからVへの写像 (1)T(u+v)=T(u)+T(v)  (u,v∈U),
透視投影(中心射影)とは  ○ 3次元空間上の点を2次元平面へ投影する方法の一つ  ○ 投影方法   1.投影中心を定義する   2.投影平面を定義する
回帰モデル・クラス分類モデルを 評価・比較するための モデルの検証 Model validation
発表日:平成15年4月25日 担当者:時田 陽一 担当箇所:第3章 誤差評価に基づく学習 3.1 Widrow-Hoffの学習規則
サポートベクターマシン によるパターン認識
Fuzzy c-Means法による クラスター分析に関する研究
独立成分分析 1.問題は何か:例:解法:全体の見通し 2007/10/17 名雪 勲.
7. 音声の認識:高度な音響モデル 7.1 実際の音響モデル 7.2 識別的学習 7.3 深層学習.
Bottom-UpとTop-Down アプローチの統合による 単眼画像からの人体3次元姿勢推定
第5章:特徴の評価とベイズ誤り確率 5・3:ベイズ誤り確率とは
人工知能特論 9.パーセプトロン 北陸先端科学技術大学院大学 鶴岡 慶雅.
第14章 モデルの結合 修士2年 山川佳洋.
独立成分分析 5 アルゴリズムの安定性と効率 2007/10/24   名雪 勲.
第5章 特徴の評価とベイズ誤り確率 5.5 ベイズ誤り確率の推定法 [1] 誤識別率の偏りと分散 [2] ベイズ誤り確率の上限および下限
第6章 特徴空間の変換 6.1 特徴選択と特徴空間の変換 6.2 特徴量の正規化 平成15年5月23日(金) 発表者 藤井 丈明
「R入門」  5.7 行列に対する諸機能  10月23日 (木) 発表者 大城亜里沙.
第7章 疎な解を持つカーネルマシン 修士2年 山川佳洋.
独立成分分析 (ICA:Independent Component Analysis )
知能システム論I(13) 行列の演算と応用(Matrix) 2008.7.8.
予測に用いる数学 2004/05/07 ide.
主成分分析 Principal Component Analysis PCA
多変量解析 ~主成分分析~ 1.主成分解析とは 2.適用例と解析の目的 3.解析の流れ 4.変数が2個の場合の主成分分析
変換されても変換されない頑固ベクトル どうしたら頑固になれるか 頑固なベクトルは何に使える?
Data Clustering: A Review
パターン認識特論 担当:和田 俊和 部屋 A513 主成分分析
1-Q-9 SVMとCARTの組み合わせによる AdaBoostを用いた音声区間検出
部分的最小二乗回帰 Partial Least Squares Regression PLS
プロセスデータ解析学5 -主成分分析- 担当:長谷部伸治     金 尚弘.
Fourier 変換 Mellin変換 演習課題
Number of random matrices
資料 線型変換のイメージ 固有値、固有ベクトル 平賀譲(209研究室) 資料
第4章 識別部の設計 4-5 識別部の最適化 発表日:2003年5月16日 発表者:時田 陽一
4. システムの安定性.
「データ学習アルゴリズム」 第3章 複雑な学習モデル 報告者 佐々木 稔 2003年6月25日 3.1 関数近似モデル
楽器音を対象とした音源同定: 音高による音色変化を考慮する識別手法の検討
第3章 線形回帰モデル 修士1年 山田 孝太郎.
B03 量子論理回路の 最適化に関する研究 西野哲朗,垂井淳,太田和夫,國廣昇 電気通信大学 情報通信工学科.
x2+y2+z2+u2=1 上の初等幾何 -直投影&スライスして見る-
「ICAによる顔画像特徴量抽出とSVMを用いた表情認識」
川崎浩司:沿岸域工学,コロナ社 第4章(pp.58-68)
回帰分析(Regression Analysis)
第9章 学習アルゴリズムとベイズ決定側 〔3〕最小2乗法とベイズ決定側 発表:2003年7月4日 時田 陽一
HMM音声合成における 変分ベイズ法に基づく線形回帰
原子核物理学 第7講 殻模型.
ガウス分布における ベーテ近似の理論解析 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
1ーQー18 音声特徴量抽出のための音素部分空間統合法の検討
わかりやすいパターン認識 第3章 誤差評価に基づく学習 3.3 誤差逆伝播法.
4.プッシュダウンオートマトンと 文脈自由文法の等価性
パターン認識特論 カーネル主成分分析 和田俊和.
わかりやすいパターン認識 第6章 特徴空間の変換 6.5 KL展開の適用法 〔1〕 KL展開と線形判別法 〔2〕 KL展開と学習パターン数
CSP係数の識別に基づく話者の 頭部方向の推定
線形符号(10章).
グラフ-ベクトル変換を用いたグラフ構造表現による一般物体認識
Fourier 変換 Mellin変換 演習課題
ランダムプロジェクションを用いた音響モデルの線形変換
空間図形の取り扱いについて.
Presentation transcript:

わかりやすいパターン認識 第7章:部分空間法  7.1 部分空間法の基本  7.2 CLAFIC法                  6月13日(金)                  大城 亜里沙

部分空間法の基本 前章 特徴空間を線形変換することにより特 徴選択を行う方法。後段に識別機を設 けることにより認識系が構成される。 前章   特徴空間を線形変換することにより特      徴選択を行う方法。後段に識別機を設      けることにより認識系が構成される。 本章   特徴選択と識別を分離することなく、特      徴空間の線形変換そのものを利用して      識別する手法。    部分空間法

部分空間法(subspace method) 部分空間法とは,各クラスごとにそのクラスを表現する低次元の部分空間を用意し、未知パターンがどの部分空間で最もよく近似表現できるかを比較することにより未知パターンを識別する手法。   (部分空間は,学習パターンからKL展開などに  より各クラスごとに独立に求める。)

CLAFIC法 (CLAss-Featuring Information Compression) CLAFIC法では、クラスごとにKL展開により部分空間を作成し、この部分空間を用いて未知パターンを識別する。特徴ベクトルがクラスごとに異なる低次元部分空間で近似できるとすれば、CLAFIC法により入力パターンが識別できるわけである。

次元特徴空間から 次元部分空間への変換 ー :クラス に着目し、 次元特徴空間から 次元部分 空間への変換を表す行列 正規直交性より  次元特徴空間から  次元部分空間への変換 ー  :クラス  に着目し、 次元特徴空間から  次元部分  空間への変換を表す行列  正規直交性より          が成り立つ。

元の空間から部分空間への変換 元の空間から部分空間 への変換は直交射影行列 によって表すことができる。 が成り立つ。 元の空間から部分空間  への変換は直交射影行列 によって表すことができる。 が成り立つ。         次元特徴ベクトル   を元の  次元空間でみると となる。

の部分空間 への正射影 の部分空間 への正射影は であり、 その長さの二乗 は この長さは未知ベクトル とクラス との類似度とみなす  の部分空間  への正射影   の部分空間  への正射影は   であり、 その長さの二乗     は この長さは未知ベクトル  とクラス  との類似度とみなす ことができる。

類似度 ー :類似度 この類似度を用いると、識別規則は次式のように表される。 特徴ベクトルは最大の射影成分を持つ  類似度 ー    :類似度 この類似度を用いると、識別規則は次式のように表される。        特徴ベクトルは最大の射影成分を持つ          部分空間のクラスに識別される。 式(2.3)                             識別関数 と比較することにより、式(7.11)の     が識別関数として使えること がわかる。

部分空間法の計算 実際の部分空間法の計算は射影行列を使うよりかは正規直交ベクトルを利用するほうが効率的に行うことができる。 式(7.8)は              この値が最大となるクラスに識別することになる。

各クラスの次元設定 部分空間法において、各クラスの次元をどのように設定するかは重要な問題!!  自己相関行列  の(大きい順に並べたときの)固有値   は、  が 大きくなるに従って徐々にゼロに近づくので、部分空間の次元を適当な 値で打ち切ってもよい。     ― 次元をあまり低くすると、各クラスを表現できる近似精度は低下する。 ― 次元をあまり高くすると、クラス間で部分空間同士の重なりが増加し 識別力が低下する。          最適な次元数は実験に頼るしかない。

最適な次元数 クラス ごとに異なる次元数 で打ち切って最適な次元数を 求める場合 を決定する一つの方法に累積寄与率を用いる方法があり クラス   ごとに異なる次元数   で打ち切って最適な次元数を 求める場合   を決定する一つの方法に累積寄与率を用いる方法があり すべてのクラスに対して共通なパラメータ  を選んで となる次元数  を各クラスごとに選択する手法である。

リジェクトの導入法(1) 未知ベクトルがどのクラスにも属さないと判定しなくてはならない場合がある。 この判定をリジェクトと呼ぶ。 未知ベクトルがどのクラスにも属さないと判定しなくてはならない場合がある。     この判定をリジェクトと呼ぶ。  式(7.11)ではリジェクト判定がないのでリジェクトを導入することを考  える。   ノルムで正規化したベクトル  をすべての部分空間へ射影し、その長さの最大値   があるしきい値よりも小さいときにリジェクトと判定する方法。

リジェクトの導入法(2) 2クラス問題の場合では,もし ならば、 は に属すると判定し ならば、  は   に属すると判定し ならば、  は   に属すると判定し、それ以外ならばリジェクトするとい う方法。  (  :忠実度(fidelity value) と呼ぶ。)