相関行列の 群論的一般化について IBM東京基礎研究所 井手 剛 １）ポスターボードの大きさ 会場に用意されるポスターボードは、横120cm x 縦 180cm （床から上端まで）です。この大きさにあわせて、ポスターをご作成ください。ポスターをとめるためのピンはご用意いたします。 ２）発表時間 　一般ポスター発表セッションの発表時間は１時間３０分の予定です。最終スケジュールを来週早々に IBIS2005ホームページに掲載いたしますので、ご確認ください。 ３）ポスタープレビュー 　ポスターセッションに先立ちまして、ポスタープレビューのセッションを行い、１件あたり２分以内で簡単な内容紹介をしていただく予定です。紹介用資料をご用意ください。当日は、書画カメラを利用してプレゼンを行っていただく予定ですので、印刷したものをお持ちください。 | 2005/11/09 | IBIS 2005

要約： 非線形相関を認識するために、共分散（相関係数）の定義を一般化する。 その土台となるのが二つの理論的性質。 二つの理論的属性 一般化 2体の交差キュムラント 交差キュムラントの1次結合から、C4v群の既約表現となるものを作る。 それを一般化相関係数として採用。 C4v群のB2既約表現 パターン認識への新しいアプローチ ご利益 非線形相関を有限個の自然なパターンに分類できる それぞれの相関の度合いを定量的に記述できる | 2005/11/09 | IBIS 2005

背景の説明： 例えば、ある機械の不調を解析したい時 ──非線形に絡み合う多変量系の相関を定量的に記述するのは簡単ではない x y 例えば2変数 x、y を持つ多変量系において、状態AとBを定量的に比較するためにはどうすべきだろう？ 通常の相関係数では殆ど差は出ない 相関のあり方がほぼわかっていれば、それを捉えられるようなカーネル関数を工夫できるが．．． 必然的に定義はアドホック パラメターの決め方にかなりの任意性 状態A 各データ x y 状態B アドホックな仕方ではなく、 非線形相関をとらえる 普遍的な枠組みが欲しい。 | 2005/11/09 | IBIS 2005

最低次の交差キュムラントとしての共分散（1/3）： 多変量系の相関を表す特徴量として、キュムラントに注目する。キュムラントは便利な性質を持っている。 n 変数系の振舞いを、その確率密度関数 p で記述 p の特徴量としてキュムラントを採用 それらを出発点にして共分散の一般化を考える 2次のキュムラントは分散-共分散行列の要素と一致する 正規分布について3次以上のキュムラントはすべてゼロである 独立な変数対を含む交差キュムラントはゼロになる 高次の交差キュムラントが、共分散の一般化になることを示唆 高次の交差キュムラントを考えることは、必然的に正規分布モデルの拡張になっている 実データの多様性をある程度吸収してくれる ノイズに比較的頑強 | 2005/11/09 | IBIS 2005

最低次の交差キュムラントとしての共分散（2/3）： 多変数キュムラントの定義。 具体的な計算はモーメントを介して行うことができる。 キュムラント母関数の定義 具体的にはモーメントを用いて計算できる キュムラントの定義 引数s についての展開係数がキュムラント。 （平均をゼロにした場合の関係＝以下同じ） ※多変数キュムラントを下記の記号で表す （ について 次、 について 次、… のキュムラント） | 2005/11/09 | IBIS 2005

最低次の交差キュムラントとしての共分散（3/3）： 高次の交差キュムラントは無限種類ありえるが、「2体」のものに限定。 キュムラント母関数の展開式において下記の項だけに注目 一般化共分散の候補として、2体のキュムラント（の組合わせ）を考える この近似の意味：「疎相関」の近似 変数の絡み合いが比較的弱い時は、2体のキュムラントだけで相関を十分な精度で記述できる。 そうでないときにも、2体の交差キュムラントは、正規分布に対する最低次の補正項になっている。 | 2005/11/09 | IBIS 2005

数学的準備。共分散の幾何学的性質を調べるために、位置固有状態で張られるヒルベルト空間を準備する。ディラック記法を用いるのが あとあと便利。 位置固有状態の定義 位置固有状態の全体で張られるヒルベルト空間 の時 など。 位置演算子 状態 の定義： x y ただし は(x,y)についての周辺分布 状態ベクトル の定義 についてのモーメントの表記 を と表す。 p(r) の定義域 D | 2005/11/09 | IBIS 2005

C4v群の既約表現としての共分散 (1/3) ：普通の共分散は、＜p | xy＞と書ける。 そこで、状態 | xy＞ の幾何学的性質を調べたい。 状態ベクトルにどういう操作を施すかを、モレなくダブリなく選ぶ必要 対称操作が群をなすように決めるのがひとつの自然な方法 最も一般的なものは C4vという群 どういう群がよい？ xyの2次元平面で定義される対称操作を含む xとyの入れ替えのような操作を含む | 2005/11/09 | IBIS 2005

C4v群の既約表現としての共分散 (2/3) ： C4v群の定義。「モレなくダブりなく」の条件は、群の公理により自動的に保証される。 C4 ： z軸周りの90度回転 C43： z軸周りの270度回転 C2 ： z軸周りの180度回転 ： zx面に対する鏡映 : yz面に対する鏡映 : ξz面に対する鏡映 : ζz面に対する鏡映 I ：何もしない 上記8つの操作は群をなす。すなわち群の公理を満たしている （1）閉包（積演算に対し閉じている）、（2）結合律、 （3）単位元の存在、(4)逆元の存在 いわば「閉じた小宇宙」をなしている 「モレなくダブりなく」の条件を満たしている Hの元に対するC4vの演算子の作用は、位置固有状態を介して定義される | 2005/11/09 | IBIS 2005

パターンの認識を既約表現の探索として実行できる可能性を示唆 C4v群の既約表現としての共分散 (3/3) ： 状態ベクトル|xy＞は、C4v群のB2表現となっている。これは共分散の自然な一般化の方法を示唆する。 群論の帰結： 「不変部分空間」の存在 既約な不変部分空間は互いに重なりがない 異なる既約表現に属する基底同士の内積は、ゼロになる 状態ベクトル |xy＞ のC4v群の群元に対する反応 すなわち|xy＞は1次元表現を張っている 指標を調べることによりB2表現の基底であることがわかる モーメントとキュムラントの関係を考えて、右の定理を得る パターンの認識を既約表現の探索として実行できる可能性を示唆 通常の共分散は、C4v群のB2表現を張る 他の既約表現を見つければ共分散を自然に一般化できることを示唆 | 2005/11/09 | IBIS 2005

一般化共分散の定義 ─ C4v的に対称化された2体交差キュムラントとして定義 5つの一般化共分散を作ることができる キュムラントの次数が上がるにつれ、複雑な図形に対応するが、逆に、ノイズに敏感になるので、4次まででやめておく 注意点 数係数には任意性がある スケール不変性を保証するために、x、yなどはあらかじめ分散1に規格化することが望ましい | 2005/11/09 | IBIS 2005

実験（1/2） ： 解析的に解ける模型で一般化共分散を計算してみる。このモデルの軌道（トラジェクトリ）はリサジュー図形としてよく知られている。 強く相関した時系列対のモデル → 時刻 t については一様分布を仮定 明らかに、平均はゼロ 分散も計算可能で、1となる このモデルでは厳密に一般化相関行列が計算できる p(x,y)によるx,yの積分が、単に時刻 t についての積分になる。 基本公式は など が特別な有理数の時にのみ相関が非ゼロとなる 半端な値だと、無限時間後には軌道がxy面を埋め尽くすので、事実上無相関になるということ x y | 2005/11/09 | IBIS 2005

実験（2/2）： 通常の相関係数（B2）では非線形性を記述できないが、一般化相関係数は非線形相関を定量的にとらえている。 逆相関なので通常の相関係数はマイナス1 通常の相関係数がゼロになる代表的な例 A1が非線形相関の存在をとらえている 通常の相関係数はゼロだが、E1とE2が非線形相関の存在をとらえている 通常の相関係数はゼロだが、A2が非線形相関の存在をとらえている | 2005/11/09 | IBIS 2005

まとめ 二つの理論的性質を足場にして、共分散概念を拡張することを試みた 1．（通常の）共分散は2体の交差キュムラントである 2．（通常の）共分散はC4v群のB2既約表現である 特に、有限群の既約表現を相関パターンの分類に使うことができることを示した 機械学習の分野では、おそらく斬新な手法だと思われる 一般化相関係数を定義し、解析的に解ける模型で実験を行った xy空間内での相関パターンの感受性にはそれぞれ特色がある A1相関係数は、原点対称の非線形相関を主にとらえる A2相関係数は卍型のようなパターンに反応しやすい E1、E2相関係数は、左右非対称な分布を主にとらえる B2相関係数は線形相関に敏感に反応する これらの性質を、異常検知等の応用に使うことができる | 2005/11/09 | IBIS 2005