10.通信路符号化手法2 (誤り検出と誤り訂正符号)

Slides:



Advertisements
Similar presentations
HBSP モデル上での 行列積を求めるアルゴリ ム 情報論理工学 吉岡健太.
Advertisements

効率的に計算可能な 加法的誤りの訂正可能性 安永 憲司 九州先端科学技術研究所 SITA 2012 @ 別府湾ロイヤルホテル
List decoding for Reed-Muller codes and its application to polar codes 安永 憲司 東京工業大学 大学院情報理工学研究科 数理・計算科学専攻 1.
1 線形代数学. 2 履修にあたって 電子情報システム学科 必修 2005 年度1セメスタ開講 担当 草苅良至 (電子情報システム学科) 教官室: G I 511 内線: 2095 質問等は上記のいずれかに行なうこと。 注意計算用のノートを準備すること。
0章 数学基礎.
プログラミング言語論 第10回(演習) 情報工学科 木村昌臣   篠埜 功.
第2章 第2節 情報通信の効率的な方法 1 情報の容量と伝送の特性 2 データの圧縮 3 エラー検出とエラー訂正
第四章 情報源符号化の基礎 4・1 情報量とエントロピー 4・2 エントロピー符号化 4・3 音声符号化 4・4 画像符号化.
コンピュータの予備知識 ネットワークシステムⅠ 第4回.
富山大学 公開講座 2008 「QRコードを作ろう!」 ~ QRコードを作ろう! ~.
数当てゲーム (「誤り訂正符号」に関連した話題)
パスカルの三角形  ~3次元への拡張~ 立命館高校 2年 池内 正剛.
近似アルゴリズム 第10章 終了時刻最小化スケジューリング
情報エレクトロニクス学科共通科目・2年次・第1学期〔必修科目〕 講義「情報理論」(クラスC)
情報科指導法Ⅰ 第11回 年間授業計画表.
[復習]通信路符号化の限界 通信路符号化定理(Shannonの第2符号化定理)
4.3 連立1次方程式   Ax = b   (23) と書くことができる。
5.チューリングマシンと計算.
5.チューリングマシンと計算.
Extremal Combinatorics 14.1 ~ 14.2
第三章 ディジタル符号変換の基礎 3・1PCMパルス符号変換 3・2符号変換 3・3通信路符号形式 3・4スクランブル.
論理式の表現を数学的に取り扱いやすくするために代数学の助けを借りる.
プログラミング論 II 2008年9月25日 誤り検出,訂正符号 ハミング符号
 Combinations(2)        古川 勇輔.
第3章 重回帰分析 ー 計量経済学 ー.
共通鍵と公開鍵 暗号のしくみ 情報、数学ハイブリッド版.
2012年度 情報数理 ~ QRコードを作ろう!(1) ~.
2008年度 情報数理 ~ QRコードを作ろう!(1) ~.
線形代数学 4.行列式 吉村 裕一.
9.NP完全問題とNP困難問題.
Probabilistic Method 6-3,4
ワイヤレス通信におけるMIMO伝送技術.
情報エレクトロニクス学科共通科目・2年次・第1学期〔必修科目〕 講義「情報理論」
ML 演習 第 7 回 新井淳也、中村宇佑、前田俊行 2011/05/31.
2010年度 情報数理 ~ QRコードを作ろう!(1) ~.
ネットワークでかわる社会 第2節 ネットワークのしくみ②
第3回: 今日の目標 平均情報量を説明し、計算できる シャノンの通信モデルを説明できる 情報源符号化の条件を示せる
ディジタル回路 3. 組み合わせ回路 五島 正裕 2018/11/28.
プログラミング言語論 第3回 BNF記法について(演習付き)
第25章 単一始点最短路 3節 Bellman-Fordのアルゴリズム
形式言語の理論 5. 文脈依存言語.
Basic Tools B4  八田 直樹.
巡回冗長検査CRC32の ハード/ソフト最適分割の検討
岡村耕二 ビット誤りと訂正 岡村耕二 情報ネットワーク.
様々な情報源(4章).
9.通信路符号化手法1 (誤り検出と誤り訂正の原理)
モバイル通信システム(10) 「誤り訂正技術と等化技術」 水野.
Hoffman符号 2011/05/23.
2007年度 情報数理学.
生物情報ソフトウェア特論 (2)たたみ込みとハッシュに 基づくマッチング
4. システムの安定性.
富山大学 公開講座 2008 「QRコードを作ろう!」 ~ ハミング距離 ~.
行列式 方程式の解 Cramerの公式 余因数展開.
5.チューリングマシンと計算.
クローン検出ツールを用いた ソフトウェアシステムの類似度調査
エラー訂正符号を含むシステム CD, DAT, MD, DVD, ディジタルVTR等 ディジタル(衛星)TV放送 ディジタル・セルラ
プログラミング言語論 第10回 情報工学科 篠埜 功.
11.動的計画法と擬多項式時間アルゴリズム.
4.プッシュダウンオートマトンと 文脈自由文法の等価性
パターン認識特論 カーネル主成分分析 和田俊和.
情報処理Ⅱ 2007年12月3日(月) その1.
情報生命科学特別講義III (3)たたみ込みとハッシュに 基づくマッチング
線形符号(10章).
岡村耕二 ビット誤りと訂正演習 岡村耕二 情報ネットワーク.
オブジェクト指向言語における セキュリティ解析アルゴリズムの提案と実現
CSS符号を用いた量子鍵配送の安全性についての解析
2008年度 情報数理 ~ 授業紹介 ~.
2012年度 情報数理 ~ 授業紹介 ~.
2012年度 情報数理 ~ ハミング距離 ~.
2010年度 情報数理 ~ ハミング距離 ~.
Presentation transcript:

10.通信路符号化手法2 (誤り検出と誤り訂正符号)

誤り検出符号 パリティ検査符号 誤り訂正符号 垂直水平パリティ符号 ハミング符号

誤り検出符号 (パリティ検査符号)

通信路符号と冗長性 ここからは、通信路符号化において、主に2元符号を考察していく。通信路アルファベットを とする。 ここからは、通信路符号化において、主に2元符号を考察していく。通信路アルファベットを        とする。 (定義)情報ビットと検査ビット 通信路符号語は、情報源符号語に加えて意識的に冗長部分を付加して構成される。情報を表す記号列を情報部分といい、冗長性を表す記号列を冗長部分という。特に、2元符号の場合、情報部分を情報ビット、冗長部分を検査ビットという。

通信路符号の数学的表現 (通信路)符号語=情報部分+冗長部分 ただし、

パリティ(遇奇性) (定義)パリティ 符号語 に対して、次式が成り立つとき、偶数パリティを持つという。 符号語                  に対して、次式が成り立つとき、偶数パリティを持つという。 また、次式が成り立つとき、奇数パリティを持つという。

例 次の符号が偶数パリティを持つか、奇数パリティを持つかを判定せよ。 略記法 符号に現れる1の個数が偶数 よって、偶数パリティを持つ。 これ以降では、        を省略することもある。

練習 次の式を計算せよ。 (1) (2) (3) (4) (5) (6)

練習 次の符号が偶数パリティを持つか、奇数パリティを持つかを判定せよ。 (1) (2) (3) (4) (5) (6)

パリティ検査(符号) まず、1番単純な通信路符号としてパリティ検査について考える。パリティ検査は1誤り検出符号になっている。 パリティ検査符号は以下の符号語の形式になる。 情報ビット 冗長ピット これらに関係する概念を順にみていく。

パリティ検査(符号)の定義 (定義)パリティ検査(符号) 1ビットの検査ビット(パリティビット)      を持ち、偶数パリティだけを符号語とするような符号を(偶数)パリティ検査符号という。情報ビットを                  とすると次式が成り立つ。 偶数パリティ検査では、 情報ビットが偶数パリティを持てばパリティビットは0で、 奇数パリティを持てばパリティビットは1。

例 次の情報源符号語から、偶数パリティ検査符号を構成せよ。 (1) よって、以下のように通信路符号語が得られる。 略記法 (2)

練習 以下のような情報源記号が与えられているとき、偶数パリティ検査符号を求めよ。 (1) (2) (3) (4) (5) (6)

偶数パリティ符号における符号語 :符号語

:符号語

練習 情報ビットが4ビット      で、パリティビットが1ビット    の偶数パリティ符号       を考える。この符号語になりえるハイパーキューブ        上頂点を図示せよ。

パリティ検査符号の誤り検出原理 性質:パリティ検査符号語間のハミング距離 偶数パリティ検査符号 において、 偶数パリティ検査符号    において、 各符号語                       のハミング距離で以下が成り立つ。 証明 各符号語           は全て偶数パリティを持つので、ハミング距離が             となることは無い。また、異なる符号語では、             となることも無い。

パリティ検査符号の情報伝送速度 情報ビットが で、検査ビットが1ビットの ビットのパリティ検査符号 の情報速度 は次式で表わされる。 情報ビットが      で、検査ビットが1ビットの    ビットのパリティ検査符号 の情報速度     は次式で表わされる。 情報ビット長 情報速度= 符号長

誤り訂正符号

代表的誤り訂正符号 垂直水平パリティ符号 パリティ検査符号の拡張による誤り訂正符号 ハミング符号 誤りベクトルの考察による誤り訂正符号

垂直水平パリティ符号

垂直水平パリティ符号 1ビット誤り検出可能な符号であるパリティ検査符号の考え方を拡張し、1ビット誤り訂正可能な符号を構成できる。 まず、情報ビット4ビット、冗長ビット5ビットからの9ビットの垂直水平パリティ符号の構成法を示す。

行に関する 冗長ビット 情報ビット 列に関する 冗長ビット 全体の 冗長ビット ただし、冗長ビットは次式で定める。

垂直水平パリティ符号における誤り訂正の原理   行の誤り検出 誤っている      要素を特定→1ビット誤り訂正   列の誤り検出

垂直水平パリティ符号における誤り訂正能力 2ビット誤りを検出可能であるが、丸と四角のどちらの組が誤りかはを判定できない。 2ビット誤りを検出可能である。行は特定できるが、どの列がは特定不能。 2ビット誤りを検出可能である。列は特定できるが、どの行かは特定不能。

一般的な垂直水平パリティ符号 一般に、情報ビットが     であるとき、 符号ビットを               として構成できる。 したがって冗長ビットは          である。

例 の垂直水平パリティ符号を考える。このとき、次の情報ビットから垂直水平符号を求めよ。

練習 の垂直水平パリティ符号を考える。このとき、次の情報ビットから垂直水平パリティ符号を求めよ。 (1) (2) (3) (4)

誤り訂正例 の垂直水平パリティ符号を考える。このとき、次の符号から誤りを訂正せよ。 パリティの検査から、 が誤っていることが判明する。    が誤っていることが判明する。 行ベクトル毎、列ベクトル毎にパリティ検査を行い、誤りっている行と列の交差している箇所が誤りである。 誤りベクトルと、正しい符号は以下である。

練習 の垂直水平パリティ符号を考える。このとき、このとき、次の符号から誤りを訂正せよ。 (1) (2) (3) (4)

垂直水平パリティ符号の符号語間距離 で定義される垂直水平パリティ符号のの各符号語間の距離において、次式がなりたつ。 において、 のとき、行と列の検査1ビットづつ異なる。               のとき、少なくとも行と列のどちらかが、検査ビットが2か所異なる。

垂直水平パリティ符号の情報速度 で定義される2×2の情報ビットを持つ垂直水平パリティ符号の情報速度 は、次式で表わされる。 で定義される2×2の情報ビットを持つ垂直水平パリティ符号の情報速度            は、次式で表わされる。 より一般に、      の情報ビットを持つ垂直水平パリティ符号の情報速度           は、次式で表らわされる。

ハミング符号

ハミング符号 垂直水平パリティ符号より効率的に冗長ビットを作り出す方法が知られている。 まず、情報ビット4ビット、冗長ビット3ビットからの7ビットのハミング符号の構成法を示す。(これを(7,4)ハミング符号という。) ハミング符号という。 符号 符号総長 情報ビット長

(7,4)ハミング符号 冗長ビットを次の規則で定める。 での演算。 は省略する。

検査方程式 に対して、冗長ビットの決め方から次の関係式が成り立つ。 この関係式を検査方程式という。誤りが混入しなければ、検査方程式を満足するはずである。

シンドローム 検査方程式から、誤りの位置を特定するための情報を抽出することができる。受信語が                であるとき、受信語から次式で定義される3ビット     をシンドロームという。 受信語の誤り位置を診断するための情報 検査方程式の右辺で、送信記号   を受信記号     に置き換える。

誤りベクトルとシンドローム 通信路により誤りの混入 検査方程式より

ハミング符号の誤り訂正原理 7ビットからなる符号には、1ビット誤りベクトルは7個しかない。 正しい場合を含めて8通りを区別できれば良い。 各列がシンドロームの定義式に対応する。 各行の誤りベクトルに2進数を割り当てる。

例                 、  次のように冗長ビットを定める(7,4)ハミング符号を考える。 このとき、次の情報ビットに対して符号語を求めよ。

練習 、 に対して、 次のように冗長ビットを定める(7,4)ハミング符号を考える。 このとき、次の情報ビットに対して符号語を求めよ。 (1)                 、      に対して、 次のように冗長ビットを定める(7,4)ハミング符号を考える。 このとき、次の情報ビットに対して符号語を求めよ。 (1) (2) (3) (4)

例 、 に対して、次のように冗長ビットを定める(7,4)ハミング符号を考える。 このとき、次の受信語に対して誤り訂正を行え。                 、       に対して、次のように冗長ビットを定める(7,4)ハミング符号を考える。 このとき、次の受信語に対して誤り訂正を行え。 まず、シンドロームを求める。

よって、シンドローム               より、誤りベクトルが一意に                         と特定できる。したがって、次のように誤り訂正できる。 

練習 、 に対して、次のように冗長ビットを定める(7,4)ハミング符号を考える。 このとき、次の受信語に対して誤り訂正を行え。 (1)                 、       に対して、次のように冗長ビットを定める(7,4)ハミング符号を考える。 このとき、次の受信語に対して誤り訂正を行え。 (1) (2) (4) (3)

一般のハミング符号 ハミング符号 符号長: 情報ビット長: 冗長ビット長: シンドローム長: ちなみに、符号 は、 となり、 ちなみに、符号              は、                となり、 (3、1)ハミング符号。

練習 2ビットのシンドロームを持つ、 ハミング符号を定義せよ。

ハミング符号の符号語間距離 、 に対して、次のように冗長ビットを定める(7,4)ハミング符号を考える。 このとき、次式が成り立つ。                 、    に対して、次のように冗長ビットを定める(7,4)ハミング符号を考える。 このとき、次式が成り立つ。 において、           のとき、定義より少なくとも冗長ビットが2ビットは異なる。(例えば、  が異なれば、   と   も異なる。)              のとき、定義より少なくとも冗長ビットが 1ビット異なる。(例えば、  と  が異なれば、   も異なる。)

ハミング符号の情報速度 で定義される(7,4)ハミング符号の情報速度 は、次式で表わされる。 で定義される(7,4)ハミング符号の情報速度            は、次式で表わされる。 より一般に、シンドローム長が   のハミング符号は、情報ビットが、    冗長ビットが の                ハミング符号になり、情報速度は次式表わされる。