博士たちの愛する線形代数 徳山 豪 東北大学 Linear algebra that professors love

Slides:



Advertisements
Similar presentations
Mathematica による固有値計算の高速化 Eigenvalue calculation speed by Mathematica 情報工学部 06A2055 平塚翔太.
Advertisements

1 線形代数学. 2 履修にあたって 電子情報システム学科 必修 2005 年度1セメスタ開講 担当 草苅良至 (電子情報システム学科) 教官室: G I 511 内線: 2095 質問等は上記のいずれかに行なうこと。 注意計算用のノートを準備すること。
データ解析
画像処理工学 2012年2月2日 担当教員 北川 輝彦.
・力のモーメント ・角運動量 ・力のモーメントと角運動量の関係
det(tA)=Σ sgn(σ)aσ(1)1aσ(2)2・・・aσ(n)n
離散数学入門 (集合論、ベン図) 情報システム学科 中田豊久.
    有限幾何学        第8回.
数理科学コース・ 倉田 和浩 2007/11/3 大学祭オープンラボ
Extremal Combinatorics 14.1 ~ 14.2
    有限幾何学        第5回.
Probabilistic Method.
    有限幾何学        第12回.
論理式の表現を数学的に取り扱いやすくするために代数学の助けを借りる.
デジタル信号処理①
Paper from PVLDB vol.7 (To appear in VLDB 2014)
線形代数学 4.行列式 吉村 裕一.
    有限幾何学        第13回.
Probabilistic Method 6-3,4
      線形写像  線形写像 U,V:R上のベクトル空間 T:UからVへの写像 (1)T(u+v)=T(u)+T(v)  (u,v∈U),
データ構造とアルゴリズム 第6回の2 木 ~ データ構造(3)~.
5.5 The Linear Arboricity of Graphs (グラフの線形樹化数)
3次元での回転表示について.
博士たちの愛する幾何 徳山 豪 東北大学 Geometry that professors love
博士たちの愛する素数 徳山 豪 東北大学 Prime numbers that professors love
徳山 豪 東北大学 Geometry that professors love 博士たちの愛する幾何.
中学校2年生 数学科 図形の性質.
2. 論理ゲート と ブール代数 五島 正裕.
5 図形と相似 1章 図形と相似 §4 平行線と線分の比         (5時間).
計算の理論 I -Myhill-Nerodeの定理 と最小化-
ディジタル回路 2. ブール代数 と 論理ゲート 五島 正裕.
画像処理工学 2013年1月23日 担当教員 北川 輝彦.
7.4 Two General Settings D3 杉原堅也.
Basic Tools B4  八田 直樹.
「R入門」  5.7 行列に対する諸機能  10月23日 (木) 発表者 大城亜里沙.
線 形 代 数 (linear algebra) linear ・・・ line(直線)の形容詞形 直線的な、線形の、一次の
3次元での回転表示について.
b f c a d e g h a b c d e f g 図1 図2 2012年度 有限幾何学 期末試験
中3数 三平方の定理の利用 内 容 2つの三角定規の3辺の比 平面図形への利用 座標平面上の2点間の距離を求める。
A First Course in Combinatorial Optimization Chapter
変換されても変換されない頑固ベクトル どうしたら頑固になれるか 頑固なベクトルは何に使える?
三角錐の体積(積分学まで待たねばならないか?)
パターン認識特論 担当:和田 俊和 部屋 A513 主成分分析
部分的最小二乗回帰 Partial Least Squares Regression PLS
5 Recursions 朴大地.
今井 浩 東京大学情報理工学系研究科 コンピュータ科学専攻 ERATO今井量子計算機構プロジェクト,JST
進化ゲームと微分方程式 第15章 n種の群集の安定性
2016年度 有限幾何学 中間試験 問1 次のグラフを描け.(描けない場合は理由を述べよ) 各20点
資料 線型変換のイメージ 固有値、固有ベクトル 平賀譲(209研究室) 資料
4. システムの安定性.
形式言語とオートマトン 中間試験解答例 2016年11月15実施 中島毅.
東京大学大学院工学系研究科 計数工学専攻 松井知己
わかりやすいパターン認識 第7章:部分空間法  7.1 部分空間法の基本  7.2 CLAFIC法                  6月13日(金)                  大城 亜里沙.
論理回路 第4回
    有限幾何学        第5回.
富山大学 公開講座 2008 「QRコードを作ろう!」 ~ ハミング距離 ~.
行列式 方程式の解 Cramerの公式 余因数展開.
ORの手法ゲームの理論3 (Excelによるゲーム理論実習)
Max Cut and the Smallest Eigenvalue 論文紹介
人工知能特論II 第8回 二宮 崇.
A02 計算理論的設計による知識抽出モデルに関する研究
論理回路 第5回
博士たちの愛する円周率 徳山 豪 東北大学 “PI” that professors love
行列 一次変換,とくに直交変換.
卒業研究 Treedecompositionを生成するヒューリスティックアルゴリズムの幅に関する評価実験
博士たちの愛する組合せ論 徳山 豪 東北大学 Combinatorics that professors love
問2 次の問に答えよ. (ただし,握手補題,オイラーの定理,Oreの定理 は授業で紹介したものとする) (1) 握手補題を書け.
線形符号(10章).
2008年度 情報数理 ~ 授業紹介 ~.
2012年度 情報数理 ~ 授業紹介 ~.
Presentation transcript:

博士たちの愛する線形代数 徳山 豪 東北大学 Linear algebra that professors love Mathematics that the professor loved 徳山 豪 東北大学 Linear algebra that professors love 博士たちの愛する線形代数

グラフと線形代数 線形代数: 今日のテーマ: 数学の多様さと「広い知識」の必要性 注意: 集中しないと落ちこぼれるテーマです。 線形代数:  皆さん教養課程で学ぶ数学 線形代数なしには現代の工学、理学はありえない 力学、電磁気、量子力学、理論化学その他全て 今日のテーマ: 線形代数の威力: そのグラフ理論への利用 情報理論→グラフ理論→線形代数の筋道 数学の多様さと「広い知識」の必要性 注意: 集中しないと落ちこぼれるテーマです。

誤りのない情報伝達 Claude Shannon (1916-2001) 情報の定量的な評価=情報理論の生みの親 ノイズによる情報ロスのある情報通信(通信チャネル)で、情報を伝達したい。 ロスを防ぐ方法: 符号化 (誤り訂正など) モデル: M通りの電気信号を用いて通信を行う。 そのうちのいくつかは、ノイズによって他と混同される可能性がある。 目的: 「伝達した情報量」と「伝達に要する通信量」の比(情報伝達比, information rate)の最大化

シャノンの問題(1956) 5通りの電気信号を用いよう。 ノイズで混同される可能性のある信号の対を辺で結んだ「混同グラフ」GがC5とする。 このとき、誤謬のない通信を行う符号化での最適なInformation rate を求めよ。 アイデア1. aとdは混同されないので、この2通りの信号だけを用いて通信を行おう。 a e b 「独立集合」 (independent set): 集合内の頂点を結ぶ辺のない頂点集合  左のグラフの最大独立集合は2つの頂点からなる d c

シャノンの5角形問題 a e b アイデア1. aとdは混同されないので、この2通りの信号だけを用いて通信を行おう。 d c アイデア2. 2文字の組を用いて通信しよう。 aa,bc,ce,db,ed は混同されない。 長さLの通信で、アイデア1だと2L=4L/2通り、アイデア2だと5L/2通り、つまりアイデア2のほうが通信効率が良い。 Information rate: R=情報量の(2を底にした)対数/ 通信長 アイデア1なら R=1   アイデア2なら R=(log2 5)/2 > 1 多くの自然言語は複数文字を組み合わせた「単語」を利用してノイズによる混同を排除している。

アイデア2をグラフの言葉にする G=(V, E), H=(W, F) 2つのグラフの直積グラフ G×H =( V×W, E×F) : vwとv’w’は、e=(v, v’)がGの辺、f=(w,w’)がHの辺であるときに辺で結ばれる。 G2 = (V2, E2) = G×G、  Gk=G×G×…×G aa ab ac ad ae aa ab ac ad ae ba bb bc bd be

G=C5のときのグラフG2 ae ab ac ad aa be bb bc bd ba ce cb cc cd ca de db dc dd ee eb ec ed ea

G2 の最大独立集合 ae ab ac ad aa be bb bc bd ba ce cb cc cd ca de db dc dd da ee eb ec ed ea

G2 の最大独立集合 ae ab ac ad aa be bb bc bd ba ce cb cc cd ca de db dc dd da ee eb ec ed ea

グラフの独立集合とチャネル容量 α(G): Gの最大独立集合の要素数 α(Gk): Gkの最大独立集合の要素数  Information rate: R = log ( α(Gk) 1/k )   Θ(G) = sup k≧1(α(Gk))1/k   混同グラフGを持つ(誤謬無し)通信でのチャネル容量  α(C52)=5なので、Θ(C5) ≧ 51/2 =2.2362 問題:Θ(C5)を求めよ.(23年間未解決)  シャノン自身の成果: Θ(C5) ≦ 2.5  グラフのクリーク(完全部分グラフ)を利用

Lovaszの解法(1979) 定理: Θ(C5)= 51/2 証明が非常にエレガント グラフGを、ベクトル集合を用いて表示する  代数学(リー環論)では、「ルート系」と呼ばれるベクトル集合をグラフで表す手法(ディンキン図形)の歴史があり、その逆を利用している。  最大独立集合の要素数をベクトルの長さで評価  Gk に対して、ベクトルの「テンソル積」を利用して解析を行う。

Lovaszの解法(1979) グラフGの直交表現 (注意:以下、太字はベクトル) 頂点に長さ1のベクトルを対応させる  辺で結ばれないベクトルは互いに直交する つまり、内積値がゼロ たとえば、(1,0,0), (0,1,0),   (0,0,1), (1,1,1)/31/2 は右の木の直交表現  T = {v1, v2, v3,.., vn }の重心をuとする。 σT =<u, u> とする <u, vi> が iに依存しないとき、重心平衡な直交表現 このとき、<u, vi>= σT 目的とする定理: Θ(G)≦σT-1

Θ(G)≦σT-1 の利用法 C5の中心平衡な直交表現{v1, v2, v3, v4, v5}で、 逆向きの不等号は前に示したので、等号で成立 正5角形を底辺とする5角錐 ベクトルの長さ(稜線の長さ)は1 隣接しないベクトル(赤と青)の角度が90度 この角錐の高さ=重心ベクトルの長さ 高さの二乗の逆数を計算すると、51/2 LovaszのUnbrella ピタゴラスの定理+中学の幾何で出来ます。演習問題にします

定理: Θ(G)≦σT-1 の証明(1) (α(Gk) )1/k ≦ σT-1 を全てのkで示せばよい v1,v2,..vnの非負線形和で係数和が1であるものを考える。  x= x1v1+x2v2+…+xnvn, ∑xi =1 μT(G)=|x|2 の最小値 μT(G)≦ 1/α  独立集合に入るviでxi=1/α、残りは0にする 一方、中心平衡だと、 μT(G)=σT  一般にはCaucy-Schwarzの不等式を利用して証明 よって、α(G)≦ σT-1

定理: Θ(G)≦σT-1 の証明(2) (α(Gk) )1/k ≦ σT-1 を示せばよい Gの直交表現Tと Hの直交表現Sがあるとき、 ベクトルのテンソル積 Gの直交表現Tと Hの直交表現Sがあるとき、  はG ×Hの直交表現になる。 中心平衡性も保たれる 重心を考えると、σT×S=σTσS  Tk= T×T×…×TはGkの直交表現 α(Gk) ≦ (σTk)-1 σTk =(σT)k なので、定理を得る。

Lovaszの傘の一般論 一般の混同グラフGのときの「傘」は? 良い(小さい)σT-1 の見つけ方 半正定値対称行列(SDM)の主軸分解を利用  PCA(principal component analysis):  現在のデータ処理の主要な手法  データマイニング、テキストマイニング、テキスト検索、画像検索 固有値が全て非負である対称行列は、ベクトル集合の内積を表現する。 そのベクトル集合を求める手法が主軸分解 Gの隣接行列 A=A(G)からSDM行列Mを作る Mの主軸分解でTが求まる (重心平衡性はGに依存) σT-1 自体は、より簡単にもとまる場合がある。

行列の隣接行列とSDM G=(V, E) : V={v1,v2,..,vn} Gの隣接行列Aは、0と1を値に持つ対称行列で、 線形代数の知識 aij= 1 ⇔ (vi, vj) ∈E 線形代数の知識 その1: 対称行列の固有値は実数  その2: 固有値の和はトレース(対角成分和) Aのトレースは0なので、最小固有値は負 = - p  M= p I + A はSDM (Iは単位行列) 他にAから作るSDMとして、「ラプラシアン」が有名 ベクトル v1,v2,..,vn の内積行列がMになる

特別な場合 Gがn頂点のサイクルCnの場合 行列Aは“循環行列” 全ての固有ベクトル、固有値が簡単に計算できる  全ての固有ベクトル、固有値が簡単に計算できる  最小固有値 -pは -2cos π/n  T1は中心平衡 ここからσT = (1 + (cos π/n ) -1 )/n  Θ(Cn)= ? 計算してみてください n =5 なら、先に出した値 5½