PCAからICAへ? 狩野裕+清水昌平 (大阪大学人間科学部) 日本行動計量学会:東京大学 平成12年10月.

Slides:



Advertisements
Similar presentations
生物統計学・第 5 回 比べる準備をする 標準偏差、標準誤差、標準化 2013 年 11 月 7 日 生命環境科学域 応用生命科学 類 尾形 善之.
Advertisements

『わかりやすいパターン認 識』 第 5 章 特徴の評価とベイズ誤り確率 5.4 ベイズ誤り確率と最近傍決定則 発表日: 5 月 23 日(金) 発表者:時田 陽一.
計量的手法入門 人材開発コース・ワークショップ (IV) 2000 年 6 月 29 日、 7 月 6 ・ 13 日 奥西 好夫
放射線の計算や測定における統計誤 差 「平均の誤差」とその応用( 1H) 2 項分布、ポアソン分布、ガウス分布 ( 1H ) 最小二乗法( 1H )
1 徹底討論「主成分分析 vs 因子分析」 主成分分析は因子分析ではない ! 狩野裕 (大阪大学) 日本行動計量学会第 30 回大会 於:多摩大学.
グラフィカル多変量解析 ----目で見る共分散構造分析----
白井ゼミ 豊田秀樹(2008)『データマイニング入門』 (東京図書)。4章
アレー信号処理を用いた ブラインド音源分離の基礎
確率・統計Ⅰ 第12回 統計学の基礎1 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
コメント 「ファセット・アプローチの 魅力とパワー」
多変量解析とその行方 狩野 裕 大阪大学人間科学部
ウェーブレットによる 信号処理と画像処理 宮崎大輔 2004年11月24日(水) PBVセミナー.
音響尤度を用いた マルチスピーカ音響エコーキャンセラの検討
分布の非正規性を利用した行動遺伝モデル開発
土木計画学 第5回(11月2日) 調査データの統計処理と分析3 担当:榊原 弘之.
「データ学習アルゴリズム」 第3章 複雑な学習モデル 3.1 関数近似モデル ….. … 3層パーセプトロン
日本行動計量学会第29回大会 於:甲子園大学 (2001/9/14-16)
大阪工業大学 情報科学部 情報システム学科 宇宙物理研究室 B 木村悠哉
雑音重み推定と音声 GMMを用いた雑音除去
「データ学習アルゴリズム」 第2章 学習と統計的推測 報告者 佐々木 稔 2003年5月21日 2.1 データと学習
確率・統計輪講資料 6-5 適合度と独立性の検定 6-6 最小2乗法と相関係数の推定・検定 M1 西澤.
ワークショップ ユーザーとメーカーの公開相談会
3次キュムラントのバイスペクトラムと PCAによる音声区間検出
回帰モデル・クラス分類モデルを 評価・比較するための モデルの検証 Model validation
脳活動に関するデータ データの種類 データの特徴 脳波・脳磁図・fMRI画像 脳活動とパフォーマンスの関係はきわめて冗長。
相関分析.
独立成分分析 1.問題は何か:例:解法:全体の見通し 2007/10/17 名雪 勲.
7. 音声の認識:高度な音響モデル 7.1 実際の音響モデル 7.2 識別的学習 7.3 深層学習.
正規分布における ベーテ近似の解析解と数値解 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
教師なしデータ 学習データ  X1, X2, …, Xn   真の情報源 テストデータ  X  .
混合ガウスモデルによる回帰分析および 逆解析 Gaussian Mixture Regression GMR
広瀬啓吉 研究室 4.音声認識における適応手法の開発 1.劣条件下での複数音源分離 5.音声認識のための韻律的特徴の利用
音高による音色変化に着目した音源同定に関する研究
細胞の形と変形のための データ駆動型解析手法
T2統計量・Q統計量 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
第14章 モデルの結合 修士2年 山川佳洋.
独立成分分析 5 アルゴリズムの安定性と効率 2007/10/24   名雪 勲.
音響伝達特性を用いた単一マイクロホンによる話者の頭部方向の推定
指標の数と信頼性・ 内容的妥当性 指標の数は多いほうがよい.
音色空間の音高依存性を考慮した 楽器音の音源同定
Specmurtを利用した調波構造行列による 混合楽音解析の検討
独立成分分析 (ICA:Independent Component Analysis )
標本分散の標本分布 標本分散の統計量   の定義    の性質 分布表の使い方    分布の信頼区間 
主成分分析 Principal Component Analysis PCA
変換されても変換されない頑固ベクトル どうしたら頑固になれるか 頑固なベクトルは何に使える?
再討論 狩野裕 (大阪大学人間科学部).
パターン認識特論 担当:和田 俊和 部屋 A513 主成分分析
1-P-25 3次キュムラントバイスペクトラム特徴とReal AdaBoostによる音声区間検出
部分的最小二乗回帰 Partial Least Squares Regression PLS
プロセスデータ解析学5 -主成分分析- 担当:長谷部伸治     金 尚弘.
対応のある共分散分散行列の同時分析 ーー 震災ストレスデータの同時分析 ーー
早稲田大学大学院商学研究科 2014年12月10日 大塚忠義
Fourier 変換 Mellin変換 演習課題
データの型 量的データ 質的データ 数字で表現されるデータ 身長、年収、得点 カテゴリで表現されるデータ 性別、職種、学歴
わかりやすいパターン認識 第7章:部分空間法  7.1 部分空間法の基本  7.2 CLAFIC法                  6月13日(金)                  大城 亜里沙.
楽器音を対象とした音源同定: 音高による音色変化を考慮する識別手法の検討
第3章 線形回帰モデル 修士1年 山田 孝太郎.
「ICAによる顔画像特徴量抽出とSVMを用いた表情認識」
重みつきノルム基準によるF0周波数選択を用いた Specmurtによる多重音解析
高次元データにおける2次形式の近似について
確率と統計2007(最終回) 平成20年1月17日(木) 東京工科大学 亀田弘之.
1ーQー18 音声特徴量抽出のための音素部分空間統合法の検討
音響伝達特性を用いたシングルチャネル音源方向推定
制約付き非負行列因子分解を用いた 音声特徴抽出の検討
わかりやすいパターン認識 第6章 特徴空間の変換 6.5 KL展開の適用法 〔1〕 KL展開と線形判別法 〔2〕 KL展開と学習パターン数
心理学研究の自己点検(6): 心理学研究における 探索的因子分析の基本問題 企画・講演:堀 啓造氏
CSP係数の識別に基づく話者の 頭部方向の推定
Fourier 変換 Mellin変換 演習課題
ランダムプロジェクションを用いた音響モデルの線形変換
混合ガウスモデル Gaussian Mixture Model GMM
Presentation transcript:

PCAからICAへ? 狩野裕+清水昌平 (大阪大学人間科学部) 日本行動計量学会:東京大学 平成12年10月

ICAとは (1) Independent Component Analysis (独立成分分析) Jutten-Herault(1991):2つの音声を分離 情報検索によると  ICA:PCA=1:8(日本)  ICA:PCA=1:4(海外) 日本 海外 ICA 23 2877 PCA 176 11514 日本行動計量学会:東京大学 平成12年10月

ICAとは (2) 成分が独立な多次元信号sを線型混合した 観測値 v から,s を再生するための方法 v からAを推定し,s を再生する 日本行動計量学会:東京大学 平成12年10月

BSS と ICA BSS Blind Source Separation 独立 音源Sn 音源S1 観測V1 観測Vm 日本行動計量学会:東京大学 平成12年10月

カクテルパーティー効果 周りの雑音に関係なく、会話できる。 どっかーん ♪ ♪ ♪ 日本行動計量学会:東京大学 平成12年10月

カクテルパーティー効果とICA 音源の物理的な位置・音響路の差異などの特性が違う 観測される信号の重なり方が左右の耳で違う 人間 音源2 音源1 障害物 右耳 左耳 音源の物理的な位置・音響路の差異などの特性が違う 観測される信号の重なり方が左右の耳で違う その違いから,ふたつの 信号を復元する ICAでは独立性を利用 日本行動計量学会:東京大学 平成12年10月

実際のカクテルパーティー効果は 選択的注意 話のコンテックスト 欠落音の補完 ある情報を選択的に自覚した意識状態 音の冗長性を利用 断片情報から全体を復元 日本行動計量学会:東京大学 平成12年10月

ICAの仮定 正規分布に従う独立成分は高々1つ m≧n 混合行列 A は full column rank その他 s が正規分布だと分離不可能 非正規性に依拠する方法 m≧n 観測変数の次元の方が大きい そうでないモデルもある 混合行列 A は full column rank その他 E(s) = 0, V(s) = In, モーメント存在の条件    これらの下で A を一意に決定できる 日本行動計量学会:東京大学 平成12年10月

主成分の回転 PCA....分散の大きな成分を抽出 ICA....非正規性を最大にする成分を抽出 ICAは高次統計量を用いた因子回転の一種 なぜ,独立成分の抽出と非正規性最大化が 対応するのか? 日本行動計量学会:東京大学 平成12年10月

独立成分の抽出と非正規性最大化 日本行動計量学会:東京大学 平成12年10月

独立成分の抽出と射影追跡 尖度の最大化 => 非正規独立成分の同定 独立成分の和は非正規性を小さくする この同値性が独立成分抽出と非正規性 最大化を結ぶ ICAとPP(射影追跡)を結ぶ 日本行動計量学会:東京大学 平成12年10月

射影追跡(PP) データの興味深さ・面白さ(interestingness)を表す軸(超平面 wTv)を同定 Freedman の指標・Hallの指標が有名 岩崎(1991)を参照 日本行動計量学会:東京大学 平成12年10月

ICAのプロセス ICAでは,非正規性の尺度を定めると, それを最大化する wTMv によって独立 成分を同定することができる 2番目の独立成分は,s を取り除いてから同プロセスを繰り返す 日本行動計量学会:東京大学 平成12年10月

非正規性の尺度 尖度や高次キュムラント Entropy 最小化 Mutual Information 最小化 外れ値に弱い Entropy 最小化 Mutual Information 最小化 PPで提案されている非正規性の尺度 日本行動計量学会:東京大学 平成12年10月

Entropy 最小化 日本行動計量学会:東京大学 平成12年10月

Negentropy の近似 日本行動計量学会:東京大学 平成12年10月

Mutual Information 最小化 日本行動計量学会:東京大学 平成12年10月

Noisy ICA (IFA) 測定に誤差が伴う場合 日本行動計量学会:東京大学 平成12年10月

セミパラメトリックモデル Amari-Cardoso(1997), 川鍋-村田(2000) 日本行動計量学会:東京大学 平成12年10月

モデル間の関係 非正規データ 高次統計量 正規データ 2次統計量 noisy モデル v = As+u noisy ICA IFA FA noise-free モデル v = As PP noise-free ICA PCA 川鍋-村田(1999)より 日本行動計量学会:東京大学 平成12年10月

ICA と PP 両者とも観測変数の線型結合の中で 非正規性を最大にするものを探す 日本行動計量学会:東京大学 平成12年10月

例1.一様分布 PPがICAになる場合 V2 S2 V1 S1 ICA or PPによって変換した変数の分布 球状化した観測変数の分布 日本行動計量学会:東京大学 平成12年10月

例2.混合正規分布 PPがICAにならない場合 V1 V2 S1 S2 ICA or PPによって変換した変数の分布 球状化した観測変数の分布 日本行動計量学会:東京大学 平成12年10月

応用 BSS 脳磁図・脳電図の分析 いままでPCAないしはFAで分析していた 対象をICAで分析してみたという例が多い 社会科学への応用は今から 日本行動計量学会:東京大学 平成12年10月

まとめ (noise-free or noisy) ICAは軸の変換である 独立成分同定 ⇔ 非正規性最大化 PCAは分散が大きくなるよう軸を変換 ICAは独立成分を同定するよう軸を変換 独立成分同定 ⇔ 非正規性最大化 ICA ⇔ PP ICA・PPは独立成分が隠れているとそれを同定 FAとの関連では,ICAは新しい直交回転解を与える 独立性が一番大きくなるように回転 日本行動計量学会:東京大学 平成12年10月

PCAからICAへ? PCAとICAはまったく異なり,一方が他方を 凌駕するというものではない 目的によって使い分ける 分散最大化 vs 非正規性最大化(独立成分の同定) 2次統計量 vs 高次統計量 方法論の研究に関しては,ICAが“燃えている” ICAの社会科学での適用可能性は未知 日本行動計量学会:東京大学 平成12年10月