京大院情報学研究科 Graduate School of Informatics, Kyoto University

Slides:



Advertisements
Similar presentations
効率的に計算可能な 加法的誤りの訂正可能性 安永 憲司 九州先端科学技術研究所 SITA 2012 @ 別府湾ロイヤルホテル
Advertisements

『わかりやすいパターン認 識』 第 5 章 特徴の評価とベイズ誤り確率 5.4 ベイズ誤り確率と最近傍決定則 発表日: 5 月 23 日(金) 発表者:時田 陽一.
Lesson 9. 頻度と分布 §D. 正規分布. 正規分布 Normal Distribution 最もよく使われる連続確率分布 釣り鐘形の曲線 -∽から+ ∽までの値を取る 平均 mean =中央値 median =最頻値 mode 曲線より下の面積は1に等しい.
土木計画学 第3回:10月19日 調査データの統計処理と分析2 担当:榊原 弘之. 標本調査において,母集団の平均や分散などを直接知ることは できない. 母集団の平均値(母平均) 母集団の分散(母分散) 母集団中のある値の比率(母比率) p Sample 標本平均 標本分散(不偏分散) 標本中の比率.
放射線の計算や測定における統計誤 差 「平均の誤差」とその応用( 1H) 2 項分布、ポアソン分布、ガウス分布 ( 1H ) 最小二乗法( 1H )
●母集団と標本 母集団 標本 母数 母平均、母分散 無作為抽出 標本データの分析(記述統計学) 母集団における状態の推測(推測統計学)
データ解析
ソーラス符号の パーシャルアニーリング 三好 誠司 上江洌 達也 岡田 真人 神戸高専 奈良女子大 東大,理研
セキュアネットワーク符号化構成法に関する研究
数理統計学(第四回) 分散の性質と重要な法則
確率と統計 平成23年12月8日 (徐々に統計へ戻ります).
多変量解析 -重回帰分析- 発表者:時田 陽一 発表日:11月20日.
菊池自由エネルギーに対する CCCPアルゴリズムの拡張
ウェーブレットによる 信号処理と画像処理 宮崎大輔 2004年11月24日(水) PBVセミナー.
確率・統計Ⅰ 第11回 i.i.d.の和と大数の法則 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
統計学 11/13(月) 担当:鈴木智也.
統計解析 第9回 第9章 正規分布、第11章 理論分布.
Bassモデルにおける 最尤法を用いたパラメータ推定
多数の疑似システムを用いた システム同定の統計力学 三好 誠司 岡田 真人 神 戸 高 専 東 大, 理 研
Reed-Solomon 符号と擬似ランダム性
放射線の計算や測定における統計誤差 「平均の誤差」とその応用(1H) 2項分布、ポアソン分布、ガウス分布(1H) 最小二乗法(1H)
IT入門B2 ー 連立一次方程式 ー.
統計学 11/19(月) 担当:鈴木智也.
「データ学習アルゴリズム」 第2章 学習と統計的推測 報告者 佐々木 稔 2003年5月21日 2.1 データと学習
確率モデルによる 画像処理技術入門 --- ベイズ統計と確率的画像処理 ---
確率・統計輪講資料 6-5 適合度と独立性の検定 6-6 最小2乗法と相関係数の推定・検定 M1 西澤.
統計解析 第10回 12章 標本抽出、13章 標本分布.
ガウス過程による回帰 Gaussian Process Regression GPR
応用数理工学特論 期末発表 西口健太郎 渡邉崇充
正規分布における ベーテ近似の解析解と数値解 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
背 景 多数の「スピン」とそれらの「相互作用」という二種類の変数を有する系の解析においては,相互作用の方は固定されておりスピンだけが 変化するモデルを考える場合が多い.   (例:連想記憶モデル) 「スピン」よりもゆっくりと「相互作用」も変化するモデル(パーシャルアニーリング)の性質は興味深い.
タップ長が一般化された 適応フィルタの統計力学
センサーネットワークでも 「More is different」
NTTコミュニケーション科学基礎研究所 村山 立人
第9章 混合モデルとEM 修士2年 北川直樹.
教師なしデータ 学習データ  X1, X2, …, Xn   真の情報源 テストデータ  X  .
極大ノイズを除去する情報量最小化 学習アルゴリズム
混合ガウスモデルによる回帰分析および 逆解析 Gaussian Mixture Regression GMR
モデルの逆解析 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
P3-12 教師が真の教師のまわりをまわる場合のオンライン学習 三好 誠司(P)(神戸高専) 岡田 真人(東大,理研,さきがけ)
複数の相関のある情報源に対するベイズ符号化について
独立成分分析 (ICA:Independent Component Analysis )
標本分散の標本分布 標本分散の統計量   の定義    の性質 分布表の使い方    分布の信頼区間 
超幾何分布とポアソン分布 超幾何分布 ポアソン分布.
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
様々な情報源(4章).
電磁気学Ⅱ Electromagnetics Ⅱ 6/9講義分 電磁場の波動方程式 山田 博仁.
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
平面波 ・・・ 平面状に一様な電磁界が一群となって伝搬する波
早稲田大学大学院商学研究科 2014年12月10日 大塚忠義
「データ学習アルゴリズム」 第3章 複雑な学習モデル 報告者 佐々木 稔 2003年6月25日 3.1 関数近似モデル
BPSK,CDMA後の波形 直交符号 通信ネットワーク特論(スペクトル拡散).
第3章 線形回帰モデル 修士1年 山田 孝太郎.
クロスバリデーションを用いた ベイズ基準によるHMM音声合成
最尤推定・最尤法 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
確率モデルを用いた 情報通信技術入門 ー誤り訂正符号を中心にー
数理統計学 西 山.
人工知能特論II 第8回 二宮 崇.
ポッツスピン型隠れ変数による画像領域分割
ガウス分布における ベーテ近似の理論解析 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
プログラミング言語論 第10回 情報工学科 篠埜 功.
1.基本概念 2.母集団比率の区間推定 3.小標本の区間推定 4.標本の大きさの決定
制約付き非負行列因子分解を用いた 音声特徴抽出の検討
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
「データ学習アルゴリズム」 第3章 複雑な学習モデル 報告者 佐々木 稔 2003年8月1日 3.2 競合学習
確率的フィルタリングを用いた アンサンブル学習の統計力学 三好 誠司 岡田 真人 神 戸 高 専 東 大, 理 研
Q状態イジング模型を用いた多値画像修復における 周辺尤度最大化によるハイパパラメータ推定
確率的フィルタリングを用いた アンサンブル学習の統計力学 三好 誠司 岡田 真人 神 戸 高 専 東 大, 理 研
混合ガウスモデル Gaussian Mixture Model GMM
Presentation transcript:

京大院情報学研究科 Graduate School of Informatics, Kyoto University 第29回情報理論とその応用シンポジウム 2006年11月29日 スパースな拡散符号を持つ CDMAマルチユーザー復調器の解析 Analysis of Sparsely-Spread CDMA via Statistical Mechanics 吉田実加  Mika Yoshida 奈良女大人間文化 Graduate School of Humanities and Sciences, Nara Women’s University 田中利幸  Toshiyuki Tanaka     京大院情報学研究科 Graduate School of Informatics, Kyoto University 上江洌達也 Tatsuya Uezu

発表の流れ 目的 モデル化 レプリカ解析    モデル    レプリカ解析    レプリカ対称解 数値計算 まとめと課題

目的 1.周波数ホッピング方式のモデル化を行う →スパースな拡散符号を持つ直接拡散CDMAモデル としてモデル化する。   としてモデル化する。 2.モデルの性能評価指標をレプリカ法を用いて導出する。

モデル化 周波数ホッピング(FH)CDMA方式を スパースな拡散符号を持つ直接拡散(DS)CDMAモデル としてモデル化する。 直接拡散(DS)方式  Direct Sequence ・・・ 大システム極限でのDS-CDMA モデル解析 D. Guo and S. Verdu, Randomly spread CDMA : Asymptotic via statistical physics, IEEE Trans. Info. Theory, vol. 51, no. 6, pp. 1983-2010 2005. T. Tanaka, A statistical-mechanics approach to large-system analysis of CDMA multiuser detectors IEEE Trans. Info. Theory, vol. 48, no. 11, pp. 2888-2910 2002.

周波数ホッピングCDMA(FH-CDMA)方式 Frequency Hopping Code Division Multiple Access M値シフトキーイングで変調する場合 G-1 G ユーザー数 : K (k=1,・・・,K) 拡散符号のチップ数 : G  (g=1,・・・,G) キャリア周波数の数: M (m=1,・・・,M) ユーザーkの拡散符号 : {skg ; g=1,・・・,G } 加法的ノイズ:{ng; g=1,・・・,G}  受信信号 : { yg; g=1,・・・,G }

チップ数をN=MGとして1次元的に書き直す。 2次元で表される拡散符号を チップ数をN=MGとして1次元的に書き直す。 ユーザーkの拡散符号 :{skm ;μ=1,・・・,N } N個のチップのうち、G個が0以外の値を持つ。 このとき、受信信号は次のように表される。 M が大きいとき →  拡散符号がスパースな K ユーザー DS-CDMAモデル スパースな拡散符号を持つDS-CDMAモデルは 時間ホッピングCDMA方式の簡単なモデルにもなっている

レプリカ解析 スパースな拡散符号を持つDS-CDMAモデルにおける 復調結果の性能を評価する指標をレプリカ法を用いて 導出する。

モデル スパースな拡散符号を持つDS-CDMAモデル モデル  スパースな拡散符号を持つDS-CDMAモデル ユーザー数 : K (k=1,・・・,K)      拡散符号のチップ数 : N  (m=1,・・・,N) ユーザーkの情報シンボル : x0k ユーザーkの拡散符号    : {skm ; μ=1,・・・,N } 加法的ノイズ      : {nμ ; μ=1,・・・,N }  受信信号 : { yμ; μ=1,・・・,N } 拡散符号系列 {skm ; μ=1,・・・,N } の中で0以外の値を持つチップの数は ρ個とする。 キャリア周波数の数がM、ホップ回数がGの時との対応は、N=MG, G=ρ。 このとき、受信信号は次のように表される。

仮定 拡散符号の0でないチップは、N個の中からランダムにr個選ばれるとする。 拡散符号のチップの値は以下の分布関数に従って与えられるとする。 ノイズは、平均0、分散σ02 の加法的白色ガウスノイズとする。 情報シンボルは、1と-1からなるビットとし、 それぞれの値が等確率で出現する一様分布に従って発生させるとする。 以下の表記を導入

x0 の条件のもとでの y の分布は次のようになる。 ガウスノイズを仮定しているので、 x0 の条件のもとでの y の分布は次のようになる。 復調の結果得られる、x0 の推定値を x とする。 x の条件のもとでの y の分布: s2 はガウスノイズの分散の推定値 事前分布

情報シンボル x と受信情報 yとの相互情報量 情報シンボルの復調の性能を評価するため 相互情報量を計算する。 情報シンボル x と受信情報 yとの相互情報量  ここで p0(x ,y)=p0(y|x)p0(x) , p(x,y)=p(y|x)p(x) 相互情報量 I(x;y) は次式のように分解できる H(y) :エントロピー H(y|x) :条件付きエントロピー

ガウスノイズのエントロピー H(n) と等しいので次のように表せる。 条件付きエントロピーは ガウスノイズのエントロピー H(n) と等しいので次のように表せる。 yのエントロピーは 解析的に計算するのは困難。 自己平均性を仮定し 大システム極限で、拡散符号S について平均をとった 1ユーザー当たりのエントロピーを計算する。

大システム極限 自己平均性の仮定 エントロピーH(y) の値は拡散符号S に依存してばらつく。 ばらつきは小さくなる。 ここで自己平均性を仮定すると     は大システム極限で S について平均をとった1ユーザー当たりのエントロピーHと一致する。 Es(・) :拡散符号S についての平均

レプリカ解析 拡散符号S について平均をとった1ユーザー当たりのエントロピーHを 大システム極限で評価する。 解析計算を続けるために、レプリカ法を用いる。 恒等式 より、Hは次のように変形する。

ここで、Xn は n個のレプリカ変数 xa=(xa1,・・・,xaK)T, a=1,・・・,n を導入する。 N個の拡散符号チップ中、r個のみ0以外の値を持つ場合のXn は、次のようになる。 ただし

ここで

極限limK→∞ とlimn→0 の順番の入れ替えが可能であると仮定して、 limK→∞ を先に評価すると Varadhanの定理より、Xnは次のように表される。 R. S. Ellis, Entropy, Large Deviations, and Statistical Mechanics, ser. A series of comprehensive studies in mathematics. New York: SpringerVerlag, 1985, vol.271..

レプリカ対称解

鞍点方程式

ここで

1ユーザー当たりのy のエントロピーの平均H は

ビット誤り率 スペクトル効率 大システム極限のスペクトル効率

数値計算 拡散符号のチップの値は次の分布関数に従う バイナリの場合を考える。 p(s) を次のようにとる。

s02=s2でのビット誤り率 :b=1, r=2 の解析結果の数値計算結果 :b=1 (K=N=200), r=2, サンプル数50のモンテカルロシミュレーション

まとめと課題 まとめ 周波数ホッピング方式を拡散符号がスパースな直接拡散CDMAモデルとして表した。 スパースな拡散符号を持つ直接拡散CDMAモデルをレプリカ法を用いて解析し、レプリカ対称解におけるスペクトル効率とビット誤り率を導出した。 ビット誤り率について、解析結果から得られた数値解とモンテカルロ法を用いたシミュレーション結果を比較し、良く一致することが分かった。

今後の課題 スペクトル効率についても数値解とシミュレーション結果の比較を行う。 バイナリ以外の拡散符号の値を与えた場合について数値計算を行う。 FH方式のシミュレーションを行い、求めた解析結果との比較を行う。

前回(ISIT2006)との違い 前回:拡散符号の0でない要素の数を平均r個として、 事前分布がガウス分布に従う場合で、     事前分布がガウス分布に従う場合で、 近似(Effective Medium Approximation)計算で     性能評価指標を導出した。 今回: 拡散符号の0でない要素の数を厳密にr個として、     バイナリの一様な事前分布の場合について解析を行った。