変換されても変換されない頑固ベクトル どうしたら頑固になれるか 頑固なベクトルは何に使える?

Slides:



Advertisements
Similar presentations
Mathematica による固有値計算の高速化 Eigenvalue calculation speed by Mathematica 情報工学部 06A2055 平塚翔太.
Advertisements

社会統計 第 14 回 主成分分析 寺尾 敦 青山学院大学社会情報学部
Absolute Orientation. Absolute Orientation の問題 二つの座標系の間における剛体 (rigid body) 変換を復元す る問題である。 例えば: 2 台のステレオカメラから得られた3次元情報の間の関 係を推定する問題。 2 台のステレオカメラから得られた3次元情報の間の関.
1 線形代数学. 2 履修にあたって 電子情報システム学科 必修 2005 年度1セメスタ開講 担当 草苅良至 (電子情報システム学科) 教官室: G I 511 内線: 2095 質問等は上記のいずれかに行なうこと。 注意計算用のノートを準備すること。
1 運動方程式の例2:重力. 2 x 軸、 y 軸、 z 軸方向の単位ベクトル(長さ1)。 x y z O 基本ベクトルの復習 もし軸が動かない場合は、座標で書くと、 参考:動く電車の中で基本ベクトルを考える場合は、 基本ベクトルは時間の関数になるので、 時間で微分して0にならない場合がある。
放射線の計算や測定における統計誤 差 「平均の誤差」とその応用( 1H) 2 項分布、ポアソン分布、ガウス分布 ( 1H ) 最小二乗法( 1H )
0章 数学基礎.
主成分分析 主成分分析は 多くの変数の中を軸を取り直すことで より低い次元で表現できるようにする。 データがばらついている方向ほど
データ解析
コンピュータプログラミングIII ベクトルと行列の演算
数理統計学(第四回) 分散の性質と重要な法則
第8章 ベクトル・行列の基礎 Rによるベクトル・行列の表現と計算法.
電子情報工学科5年(前期) 7回目(21/5/2015) 担当:古山彰一
確率・統計Ⅰ 第11回 i.i.d.の和と大数の法則 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
Finger patternのブロック化による 陰的wavelet近似逆行列前処理の 高速化
4.3 連立1次方程式   Ax = b   (23) と書くことができる。
ファーストイヤー・セミナーⅡ 第8回 データの入力.
第三回 線形計画法の解法(1) 標準最大値問題 山梨大学.
★どんな2次方程式でも解けるようになろう! ★公式を覚えよう! ★これは覚えんばいかんぞ!
スペクトル法による数値計算の原理 -一次元線形・非線形移流問題の場合-
Extremal Combinatorics 14.1 ~ 14.2
AllReduce アルゴリズムによる QR 分解の精度について
「データ学習アルゴリズム」 第3章 複雑な学習モデル 3.1 関数近似モデル ….. … 3層パーセプトロン
上坂吉則 尾関和彦 文一総合出版 宮崎大輔2003年6月28日(土)
放射線の計算や測定における統計誤差 「平均の誤差」とその応用(1H) 2項分布、ポアソン分布、ガウス分布(1H) 最小二乗法(1H)
次に 円筒座標系で、 速度ベクトルと加速度ベクトルを 求める.
第二回 連立1次方程式の解法 内容 目標 連立1次方程式の掃出し法 初期基底を求める 連立1次方程式を掃出し法を用いてExcelで解析する
線形代数学 4.行列式 吉村 裕一.
確率・統計輪講資料 6-5 適合度と独立性の検定 6-6 最小2乗法と相関係数の推定・検定 M1 西澤.
主成分分析                     結城  隆   .
      線形写像  線形写像 U,V:R上のベクトル空間 T:UからVへの写像 (1)T(u+v)=T(u)+T(v)  (u,v∈U),
方程式と不等式 1次方程式 1次不等式.
透視投影(中心射影)とは  ○ 3次元空間上の点を2次元平面へ投影する方法の一つ  ○ 投影方法   1.投影中心を定義する   2.投影平面を定義する
(ラプラス変換の復習) 教科書には相当する章はない
電気回路Ⅱ 演習 特別編(数学) 三角関数 オイラーの公式 微分積分 微分方程式 付録 三角関数関連の公式
3次元での回転表示について.
第6章 カーネル法 修士2年 藤井 敬士.
合成伝達関数の求め方(1) 「直列結合 = 伝達関数の掛け算」, 「並列結合 = 伝達関数の足し算」であった。
独立成分分析 1.問題は何か:例:解法:全体の見通し 2007/10/17 名雪 勲.
スペクトル法の一部の基礎の初歩への はじめの一歩
主成分分析 (Principle Component Analysis)
独立成分分析 5 アルゴリズムの安定性と効率 2007/10/24   名雪 勲.
第6章 特徴空間の変換 6.1 特徴選択と特徴空間の変換 6.2 特徴量の正規化 平成15年5月23日(金) 発表者 藤井 丈明
6. ラプラス変換.
「R入門」  5.7 行列に対する諸機能  10月23日 (木) 発表者 大城亜里沙.
独立成分分析 (ICA:Independent Component Analysis )
3次元での回転表示について.
システム制御基礎論 システム工学科2年後期.
知能システム論I(13) 行列の演算と応用(Matrix) 2008.7.8.
主成分分析 Principal Component Analysis PCA
多変量解析 ~主成分分析~ 1.主成分解析とは 2.適用例と解析の目的 3.解析の流れ 4.変数が2個の場合の主成分分析
パターン認識特論 担当:和田 俊和 部屋 A513 主成分分析
プロセスデータ解析学5 -主成分分析- 担当:長谷部伸治     金 尚弘.
資料 線型変換のイメージ 固有値、固有ベクトル 平賀譲(209研究室) 資料
4. システムの安定性.
「データ学習アルゴリズム」 第3章 複雑な学習モデル 報告者 佐々木 稔 2003年6月25日 3.1 関数近似モデル
わかりやすいパターン認識 第7章:部分空間法  7.1 部分空間法の基本  7.2 CLAFIC法                  6月13日(金)                  大城 亜里沙.
第3章 線形回帰モデル 修士1年 山田 孝太郎.
データ解析 静岡大学工学部 安藤和敏
1:Weak lensing 2:shear 3:高次展開 4:利点 5:問題点
行列式 方程式の解 Cramerの公式 余因数展開.
度数分布表における平均・分散 (第1章 記述統計の復習 補足)
原子核物理学 第7講 殻模型.
◎小堀 智弘,菊池 浩明(東海大学大学院) 寺田 真敏(日立製作所)
電気回路学Ⅱ 通信工学コース 5セメ 山田 博仁.
行列 一次変換,とくに直交変換.
パターン認識特論 カーネル主成分分析 和田俊和.
わかりやすいパターン認識 第6章 特徴空間の変換 6.5 KL展開の適用法 〔1〕 KL展開と線形判別法 〔2〕 KL展開と学習パターン数
ベクトル関数の回転(カール、ローティション)
2008年 7月17日 応用数理工学特論 期末発表 鈴木綾華,程飛
Presentation transcript:

変換されても変換されない頑固ベクトル どうしたら頑固になれるか 頑固なベクトルは何に使える? 固有値と固有ベクトル 変換されても変換されない頑固ベクトル どうしたら頑固になれるか 頑固なベクトルは何に使える?

Googleの検索エンジンはなぜ高精度? 各Webページの重要度を計算している 他 ページからリンクされたページは重要 リンクが重要度を伝播 そのページの重要度を 出力リンク数で割る 入力リンクの重要度の合計が そのページの重要度 重要度のベクトル  , リンクを表わす行列 A とすると リンク伝搬をした後の重要度は リンクがループしているはず 重要度が安定すると,ループしてきても 同じ重要度 この性質を使って重要度を計算

が意味するものは? を展開して として変換後の は      が意味するものは? を展開して として変換後の       は と表現でき, は  と  の線形結合で,  と  が張る空間内の任意の点となるはず.変換後に元のベクトルの定数倍になるのは特別.これを 固有ベクトル(eigenvector) という. 線形変換しても元のベクトルの定数倍,つまり,元のベクトルに 平行 なベクトル 通常は任意の点

固有方程式(characteristic equation)と 固有値(eigenvalue ) を変形して 左辺に移項して が逆行列を持つと,左からかけて つまり, これは矛盾.よって は存在しない. Aがn次正方行列なら上式はλ のn次方程式になる.この式を 固有方程式, λを 固有値 という.

2次行列での固有方程式の例 行列 の固有値と固有ベクトルは? だから を解いて のとき に値を当てはめ を展開 双方の式から となり,固有ベクトルでは常に xの(-1)倍が y の値.つまり,固有値 の固有ベクトルは

のとき 2つの式から となり,この固有ベクトルでは常 に xの3/2倍が yの値.つまり,固有値 の固有 ベクトルは 固有ベクトルは単位ベクトルにすると,後の計算が簡単. の2つで代表させる. 当然ながら だから 変換後の は λ1=-1倍 変換後の は λ2= 4倍 1 2 3

行列Aによる座標変換 前例は固有ベクトルを新しい座標軸とみなすことを意味する 固有ベクトル を斜交する 座標系の単位ベクトルとする. をAで変換後のベクトル について,適当な x, y , x’, y’があり と表現できる. であり, と比較すると 返還前後で固有ベクトルは向き不変で,固有値は元の座標成分に関する 比例定数 になる.

行列の対角化 固有値のご利益 の固有値α,βが存在したとき,それぞれに 対する固有ベクトルを とすると 2つの式の列ベクトルを1つの行列にまとめると 右辺を変形すると だから

固有ベクトルを列ベクトルとする行列 を考えると,前の結果は 両辺に左からP-1をかけると だから 固有ベクトルからできる行列Pを使ってAを上式のように対角行列にすることを,行列の 対角化 という. n次行列Aからn個の固有ベクトル が得られれば だから で対角化できる Dとおく Pとおく

対称行列と固有ベクトル 統計で用いるのは分散共分散行列のように,対称行列がほとんど 対称行列Aの固有値λi, λk (λi ≠ λk)に対応する固有ベクトルを    とする.   はn行1列の行列(縦ベクトル)   は1行n列の行列(横ベクトル) 対称行列だから 固有ベクトルだから 上記③の結果を使って   一方,左辺は②を使い ① BtAt=(AB)t ② ③ (AB)t=BtAt ② (AB)t=BtAt

対称行列の固有ベクトルは直交 前記④の結果から λi ≠ λkなので とすると つまり,内積 で,ベクトル は直交

対称行列の固有ベクトルでつくる 行列は直交行列 n次の対称行列 A の固有値λ1 , λ2 , …, λn に対応する大きさ1の固有ベクトルを        とする. は互いに直交.しかも大きさは1         がつくる行列 P は正規直交行列 Aは P-1AP で対角化できるが,P は直交行列だから P-1=Pt  となり, PtAPで対角化できる. P-1の計算は大変だが,Ptの計算は単純

スペクトル分解 とおくと となる. 左からP,右からPtをかけると だから 固有ベクトルを縦ベクトルとして,これを書くと さらに展開して とおくと        となる. 左からP,右からPtをかけると       だから 固有ベクトルを縦ベクトルとして,これを書くと さらに展開して 次ページへ続く

この式を対称行列Aの スペクトル分解 という (これを展開した結果は次の補足スライド) よって,Aは以下のように書ける この式を対称行列Aの  スペクトル分解  という

補足スライド

固有値の数値的解法(累乗法) 対称行列の固有ベクトルが直交するので,その固有値を数値的解法で求めることができる もっとも有名な累乗法(べき乗法)を紹介 n×n行列Aの固有値がλ1,λ2,....λnとすべて異なる場合で,絶対値の大きい順に並べたとする. これらに対する正規直交固有ベクトルをそれぞれ         とする 任意のn次元ベクトル  は と書ける

最大の固有値に着目 両辺にAを左からかけると, だから 次々とAをかけていくと λ1は絶対値が最大の固有値なので,kを増やしていくと 成分以外は 小さく なっていく

内積 を考えると,固有ベクトルは正規直交ベクトルだから となり, よって, 行列演算をk+1回実施したベクトルと,同じくk+1回実施したベクトルとの内積が分子 行列演算をk+1回実施したベクトルと,今度はk回だけ実施したベクトルとの内積が分母 この結果はλに近づく でもk回とか,k+1回実施するのは大変

もう少し単純な方法 大きさ1の初期ベクトル にAをかけ をつくる. で を計算 としてλの近似値を計算 としλが収束するまで①~③を繰り返す      で  を計算      としてλの近似値を計算     としλが収束するまで①~③を繰り返す 行列演算を実施した後のベクトル同士の内積が分子, 行列演算を実施した後と前のベクトルの内積が分母, これも,いずれはλに近づくから,これを収束するまで繰り返す.

2番目の固有値に対する固有ベクトル 対象行列Aはスペクトル分解で と書ける.最大の固有値λ1が計算できたとき, とすると, も対称行列だから,対称行列どうしの差をとる左辺も対称行列. よって, を新しいA とみなし,いままでと同じ手法を適用すれば,λ2が算出可能.

レポート [注] 途中の計算式も書くこと 対称行列 の固有値α, βを求めよ 固有値に対応する,大きさ1の固有ベクトルを求めよ 対称行列           の固有値α, βを求めよ 固有値に対応する,大きさ1の固有ベクトルを求めよ 固有ベクトルが直交していることを示せ 大きさ1の固有ベクトルからなる正規直交行列をPとする.             となることを,行列の掛け算で示せ. 学生証番号            氏名              .