分枝カット法に基づいた線形符号の復号法に関する一考察

Slides:



Advertisements
Similar presentations
組合せ最適化輪講 2.3 連結性 川原 純. 2.3 連結性 内容 – グラフ上の節点をすべてたどるアルゴリズム 計算機上でのグラフの表現 – 強連結成分を求めるアルゴリズム トポロジカル順序を求める方法も – k- 連結、 k- 辺連結について – 2- 連結グラフの耳分解について.
Advertisements

©2008 Ikuo Tahara探索 状態空間と探索木 基本的な探索アルゴリズム 横形探索と縦形探索 評価関数を利用した探索アルゴリズム 分岐限定法 山登り法 最良優先探索 A ( A* )アルゴリズム.
効率的に計算可能な 加法的誤りの訂正可能性 安永 憲司 九州先端科学技術研究所 SITA 2012 @ 別府湾ロイヤルホテル
List decoding for Reed-Muller codes and its application to polar codes 安永 憲司 東京工業大学 大学院情報理工学研究科 数理・計算科学専攻 1.
A Simple Constant Time Enumeration Algorithm for Free Trees 中野 眞一 宇野 毅明 群馬大学 情報学研究所 2003 年 9 月 19 日 アルゴリズム研究会.
数当てゲーム (「誤り訂正符号」に関連した話題)
セキュアネットワーク符号化構成法に関する研究
極小集合被覆を列挙する 実用的高速アルゴリズム
ラベル付き区間グラフを列挙するBDDとその応用
近似アルゴリズム 第10章 終了時刻最小化スケジューリング
データ構造とアルゴリズム論 第6章 探索のアルゴリズム
[復習]通信路符号化の限界 通信路符号化定理(Shannonの第2符号化定理)
Finger patternのブロック化による 陰的wavelet近似逆行列前処理の 高速化
On the Enumeration of Colored Trees
整数計画法を用いた スリザーリンクの解法 杉村 由花 (東京大学)
An Algorithm for Enumerating Maximal Matchings of a Graph
AllReduce アルゴリズムによる QR 分解の精度について
Reed-Solomon 符号と擬似ランダム性
神奈川大学大学院工学研究科 電気電子情報工学専攻
遺伝アルゴリズムによる NQueen解法 ~遺伝補修飾を用いた解探索の性能評価~
整数計画法を用いた ペグソリティアの解法 ver. 2.1
ランダムウォークに関するいくつかの話題 ・ランダムウォークの破産問題 ・ランダムウォークの鏡像原理 1 小暮研究会Ⅰ 11月12日
クラスター変分法と確率的情報処理 --Belief Propagation と画像処理アルゴリズム--
マイクロシミュレーションにおける 可変属性セル問題と解法
第 七 回 双対問題とその解法 山梨大学.
Probabilistic Method 6-3,4
安永憲司 大阪大学 大学院情報科学研究科 2005年12月7日 大阪市立大学文化交流センター
第11講: 平成18年12月 8日 (金) 4限 E352教室 グラフ (1).
階層的境界ボリュームを用いた 陰関数曲面の高速なレイトレーシング法
(ラプラス変換の復習) 教科書には相当する章はない
演算/メモリ性能バランスを考慮した マルチコア向けオンチップメモリ貸与法
変更文の移動を可能にした 静的単一代入形式上の部分冗長性除去
二分探索木によるサーチ.
7-3.高度な木 (平衡木) AVL木 平衡2分木。回転操作に基づくバランス回復機構により平衡を保つ。 B木
遺伝的アルゴリズムへの 統計力学的アプローチ 大阪大学 大学院理学研究科 鈴木譲 CISJ2005 於早稲田大学理工学部
第25章 単一始点最短路 3節 Bellman-Fordのアルゴリズム
定兼邦彦 今井浩 東京大学理学系研究科 情報科学専攻
NTTコミュニケーション科学基礎研究所 村山 立人
グラフアルゴリズムの可視化 数理科学コース 福永研究室 高橋 優子 2018/12/29.
統計的機械翻訳における フレーズ対応最適化を用いた 翻訳候補のリランキング
人工知能概論 第2回 探索(1) 状態空間モデル,基本的な探索
6. ラプラス変換.
複数の相関のある情報源に対するベイズ符号化について
第7章 疎な解を持つカーネルマシン 修士2年 山川佳洋.
25. Randomized Algorithms
A Simple Algorithm for Generating Unordered Rooted Trees
2009年12月4日 ○ 前田康成(北見工業大学) 吉田秀樹(北見工業大学) 鈴木正清(北見工業大学) 松嶋敏泰(早稲田大学)
連続領域におけるファジィ制約充足問題の 反復改善アルゴリズムによる解法 Solving by heuristic repair Algorithm of the Fuzzy Constraint Satisfaction Problems with Continuous Domains 北海道大学.
ファジィ制約充足問題への 連続領域の導入 Introducing continuous domains to
Webコミュニティ概念を用いた Webマイニングについての研究 A study on Web Mining Based on Web Communities 清水 洋志.
9.通信路符号化手法1 (誤り検出と誤り訂正の原理)
適応的近傍を持つ シミュレーテッドアニーリングの性能
盗聴・改ざんに対して耐性を持つ ネットワーク符号化について
ベイジアンネットワーク概説 Loopy Belief Propagation 茨城大学工学部 佐々木稔
生物情報ソフトウェア特論 (2)たたみ込みとハッシュに 基づくマッチング
ナップサック問題 クマさん人形をめぐる熱いドラマの結末.
第3章 線形回帰モデル 修士1年 山田 孝太郎.
HMM音声合成における 変分ベイズ法に基づく線形回帰
パターン認識 ークラスタリングとEMアルゴリズムー 担当:和田 俊和 部屋 A513
``Exponentiated Gradient Algorithms for Log-Linear Structured Prediction’’ A.Globerson, T.Y.Koo, X.Carreras, M.Collins を読んで 渡辺一帆(東大・新領域)
人工知能特論II 第8回 二宮 崇.
アルゴリズムとデータ構造 2011年6月16日
情報工学概論 (アルゴリズムとデータ構造)
ガウス分布における ベーテ近似の理論解析 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
実験計画法 Design of Experiments (DoE)
コストのついたグラフの探索 分枝限定法 A*アルゴリズム.
アルゴリズムとデータ構造 2013年6月20日
線形符号(10章).
Q q 情報セキュリティ 第7回:2005年5月27日(金) q q.
プログラミング論 バイナリーサーチ 1.
Presentation transcript:

分枝カット法に基づいた線形符号の復号法に関する一考察 堀井 俊佑 松嶋 敏泰 平澤 茂一 早稲田大学

無記憶通信路に対する2元線形符号の最尤復号 研究背景 対象とする問題 無記憶通信路に対する2元線形符号の最尤復号 LDPC符号・ターボ符号に対しては,確率伝搬法が幅広く用いられている 近年,線形計画法に基づいた復号法に関する研究が盛ん(LP復号法) LP復号法の性能 整数解が得られれば最尤であることが保証される 計算量は一般的に,確率伝搬法より多い 復号誤り率も,確率伝搬法より劣ることが多い ⇒復号アルゴリズムを改良する研究が多く存在

分枝カット法に基づく復号という形で一般化 関連研究と本研究の目的 Adaptive LP (ALP) 復号     [Taghavi et al.] LPの計算量削減 逐次的に不等式を問題に組み込む 不等式の候補を増やすことで, 復号誤り率が改善 分枝限定法に基づく復号      [Yang et al.] 分枝限定法を利用 逐次的に等式制約を問題に組み込む 最尤復号が保証される 組合せ 本研究 分枝カット法に基づく復号という形で一般化 分枝限定法とALPの組合せ. 逐次,等式制約・不等式制約を問題に組み込む. 最尤復号が保証される. [Draper et al.] によって提案されている復号法も分枝カット法の1つと見ることができる

線形符号の最尤復号問題 (通信路は無記憶を仮定.AWGN等) 最尤復号問題 (1) 最適化問題の形に変換 (2)

得られた解が整数解ならば,その解は最尤解である. 従来研究:LP復号法   LP 復号法 (6)          得られた解が整数解ならば,その解は最尤解である.

従来研究:Adaptive LP 復号法 必要な不等式を逐次問題に組み込んでいく Adaptive LP (切除平面法) 不等式が見つかる 新たな不等式が無い. 最後に解いた最適化問題の最適解を出力 ※途中で見つかった不等式をカット(切除平面)と呼ぶ. 探索する不等式の範囲が(6)式であれば,出力はLP復号法と同じ.

[Taghavi et al.]によるRPCの探索アルゴリズム 従来研究:Adaptive LP 復号法 不等式の探索範囲を広げることで, 新たなカットが見つかれば,復号誤り率が改善される場合がある. ただし,計算量も増大する. 符号の場合,パリティ検査式の排他的論理和をとることで,冗長なパリティ検査式(RPC)を構成できる. [Taghavi et al.]によるRPCの探索アルゴリズム Step1: ALPの結果得られた解を とする Step2:タナーグラフから,整数解のノードを取り除く Step3:得られたグラフ上でランダムウォークもしくは探索によりサイクルを見つける Step4:サイクルに含まれるパリティ検査式の排他的論理和をとる Step5:パリティ検査式がカットを生成すれば終了.そうでなければStep3に戻る. 上記を決められた回数だけ行う.回数が多ければカットが見つかる確率が大きくなるが,計算量が多くなる.

従来研究:分枝限定法に基づく復号 LP decoder の出力が,非整数ならば,等式制約を加えて解きなおす. 復号の過程は,木で表現できる. 各ノードは,LPとその解,目的関数値を保持.根ノードには(6)のLP.その他のノードは,親ノードのLPに等式制約を1つ加えたLPが対応する. 分枝限定法 Step.1: Step.2: Step.3: Step.4:

従来研究:分枝限定法に基づく復号 復号過程の例: 最尤符号語

分枝限定法の計算戦略 探索の仕方には,幾つかの選択肢がある 深さ優先探索 幅優先探索 評価値優先探索 ヒューリスティック探索 etc 子問題を生成する際に,どのビットに整数制約を入れるか(分枝変数の選択)によってもアルゴリズムの性能は大きく変化する. 親ノードのLPの最適解において,値が0.5に最も近いビット 対数尤度比が最も大きいビット ループが多く解消されるビット etc. ※[Yang et al.]では,深さ優先・幅優先のみ ※[Yang et al.]では,(6)のLPの最適解が,0.5に近い順.これだと,子ノードのLPが親ノードのLPと変わらない場合が生じる.

分枝カット法に基づいた復号 分枝限定法にカットの探索を組み込む Step.1: Step.2: Step.3: Step.4:

分枝カット法の計算戦略 分枝限定法と同様,探索の仕方・子問題の選択に自由度がある. その他に,「カットの候補となる不等式の集合」の取り方に関する自由度がある. 不等式の集合を多く取っておけば,1つ1つのLPを解く時間が大きくなるが,探索ノード数の減少が見込める. 符号語であることを保証するためには,全ての不等式を満たす整数ベクトルが符号語であることが条件 以下のようにすると,[Draper et al.]のアルゴリズムが復元される 探索方法は,幅優先探索 子問題の生成は, 「親ノードの最適解が0.5に近いビット」に等式制約を入れる. 不等式の探索範囲は(6)式

実験 探索の仕方の違いによる,探索ノード数の差を見る 分枝限定法・子問題の生成法は[Draper et al.]のもの (60,30)-正則LDPC符号を使用 評価値優先探索が一番少ない.

実験 評価値優先探索では,リストのソート作業が入るので,ノード数の比較だけでは公平でない.計算時間で比較. グラフの形が,探索ノード数と殆ど変わらない.ソートにかかる時間に比べて,LPを解く時間の方が支配的.

実験 分枝変数の選択戦略の違いによる差を見る. 分枝カット法.探索方法は評価値優先探索

実験 分枝限定法と分枝カット法の違い 探索方法は評価値優先探索.子問題の生成法は[Draper et al.]のもの.カットの候補となる不等式集合は元のLP(分枝限定法と同じ探索) 分枝カット法のほうが早い(LPとALPの差が出ているのみ.)

実験 分枝カット法におけるカット探索範囲の違い 探索方法は評価値優先探索.子問題の生成法は[Draper et al.]のもの. [Taghavi et al.]のRPC探索アルゴリズムを使用.(最大繰り返し回数10回)

まとめと今後の課題 分枝カット法に基づいた復号法というアルゴリズムの枠組みを提案した. いくつかの従来の復号法がこの枠組みに含まれることを示した. ノードの選択・分枝変数の選択・不等式の探索範囲などを変更することで,より良いアルゴリズムが得られることを示した. 符号の構造を活用したより良い計算戦略の提案が今後の課題である.

付録 (6)式の制約を満たさない⇒符号語にならない 符号語でない整数ベクトル⇒(6)式を満たさない 符号語が(6)式を満たさないとする ⇒N(j)において,Sに含まれるビットは1,それ以外のビットは0 ⇒対応するベクトルはj行目のパリティ検査式を満たさず,符号語にならない. 符号語でない整数ベクトル⇒(6)式を満たさない 符号語で無ければ,パリティ検査式を満たさない行jが存在する. ⇒以下を満たすVが存在する.