7.4 Two General Settings D3 杉原堅也.

Slides:



Advertisements
Similar presentations
組合せ最適化輪講 2.3 連結性 川原 純. 2.3 連結性 内容 – グラフ上の節点をすべてたどるアルゴリズム 計算機上でのグラフの表現 – 強連結成分を求めるアルゴリズム トポロジカル順序を求める方法も – k- 連結、 k- 辺連結について – 2- 連結グラフの耳分解について.
Advertisements

Probabilistic Method 7.7
データ解析
3.2.3~3.3 D3 川原 純.
黒澤 馨 (茨城大学) 情報セキュリティ特論(4) 黒澤 馨 (茨城大学) 2017/3/4 confidential.
近似アルゴリズム 第10章 終了時刻最小化スケジューリング
確率・統計Ⅰ 第11回 i.i.d.の和と大数の法則 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
    有限幾何学        第8回.
半順序集合ゲーム周期性定理の拡張 京都大学情報学研究科 ○後藤順一 伊藤大雄.
統計解析 第9回 第9章 正規分布、第11章 理論分布.
Extremal Combinatorics 14.1 ~ 14.2
黒澤 馨 (茨城大学) 情報セキュリティ特論(6) 黒澤 馨 (茨城大学) 2017/3/13 confidential.
    有限幾何学        第5回.
Probabilistic Method.
Extremal Combinatrics Chapter 4
Approximation of k-Set Cover by Semi-Local Optimization
8.クラスNPと多項式時間帰着.
    有限幾何学        第12回.
論理式の表現を数学的に取り扱いやすくするために代数学の助けを借りる.
10.Private Strategies in Games with Imperfect Public Monitoring
Natural Semantics 実行過程の、最初と最後の状態(state)の関係を考える。
「データ学習アルゴリズム」 第2章 学習と統計的推測 報告者 佐々木 稔 2003年5月21日 2.1 データと学習
応用統計学の内容 推測統計学(inferential statistics)   連続型の確率分布   標本分布   統計推定   統計的検定.
Probabilistic Method 6-3,4
A path to combinatorics 第6章前半(最初-Ex6.5)
最尤推定によるロジスティック回帰 対数尤度関数の最大化.
Probabilistic method 輪講 第7回
電気回路学Ⅱ エネルギーインテリジェンスコース 5セメ 山田 博仁.
s a b f c e d 2016年度 有限幾何学 期末試験 問1:15点
5.5 The Linear Arboricity of Graphs (グラフの線形樹化数)
Selfish Routing and the Price of Anarchy 第2回
計算量理論輪講 岩間研究室 照山順一.
情報学研究科 通信情報システム専攻 小野寺研究室 M1 奥村 佳弘
第3回 確率変数の平均 確率・統計Ⅰ ここです! 確率変数と確率分布 確率変数の同時分布、独立性 確率変数の平均 確率変数の分散
線形代数学 谷津 哲平 第1章 ベクトル 1.1 ベクトル空間 1.2 ベクトルの一次独立性 1.3 部分ベクトル空間
シャノンのスイッチングゲームにおけるペアリング戦略について
第25章 単一始点最短路 3節 Bellman-Fordのアルゴリズム
確率・統計Ⅰ 第3回 確率変数の独立性 / 確率変数の平均 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
Probabilistic Method 2007/11/02 岩間研究室M1 市場孝之.
第5章 特徴の評価とベイズ誤り確率 5.5 ベイズ誤り確率の推定法 [1] 誤識別率の偏りと分散 [2] ベイズ誤り確率の上限および下限
Basic Tools B4  八田 直樹.
計算量理論 1. マトロイドと貪欲アルゴリズム 1. Matroids and the Greedy Algorithm
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
25. Randomized Algorithms
Selfish Routing and the Price of Anarchy 4.3
計算量理論輪講 chap5-3 M1 高井唯史.
Structural operational semantics
母分散の信頼区間 F分布 母分散の比の信頼区間
2016年度 有限幾何学 中間試験 問1 次のグラフを描け.(描けない場合は理由を述べよ) 各20点
14. The Basic Method M1 太田圭亮 14.3 Spaces of polynomials
生物情報ソフトウェア特論 (2)たたみ込みとハッシュに 基づくマッチング
4. システムの安定性.
Selfish Routing 4章前半 岡本 和也.
    有限幾何学        第5回.
5.3, 5.4 D2 岡本 和也.
第5回 確率変数の共分散 確率・統計Ⅰ ここです! 確率変数と確率分布 確率変数の同時分布、独立性 確率変数の平均 確率変数の分散
Max Cut and the Smallest Eigenvalue 論文紹介
人工知能特論II 第8回 二宮 崇.
確率と統計2007(最終回) 平成20年1月17日(木) 東京工科大学 亀田弘之.
7.8 Kim-Vu Polynomial Concentration
4.プッシュダウンオートマトンと 文脈自由文法の等価性
2017年度 有限幾何学 期末試験 注意:ループと多重辺がないグラフのみを扱う. 問1 次の定理と,その証明の概略を読み,各問に答えよ.
電気回路学Ⅱ 通信工学コース 5セメ 山田 博仁.
Chapter5 Systems of Distinct Representatives
問2 次の問に答えよ. (ただし,握手補題,オイラーの定理,Oreの定理 は授業で紹介したものとする) (1) 握手補題を書け.
図2 x11 図1 x6 x10 x12 x3 x5 x7 x9 x13 x2 x4 x8 x14 (0,0) (1,0) x1 x15
情報生命科学特別講義III (3)たたみ込みとハッシュに 基づくマッチング
計算の理論 I ー ε-動作を含むNFA ー 月曜3校時 大月 美佳.
グラフの帯域幅連続多重彩色 を求めるアルゴリズム (Bandwidth Consective Multicolorings of Graphs) 西関研究室 西川和秀.
Time Reversal E-Text: pp.80-83(PDF: pp.49-50) FM08002 太神 諭
Presentation transcript:

7.4 Two General Settings D3 杉原堅也

7.4 節の内容 定理 7.4.1 定理 7.4.2 定理 7.4.3   この節でやることを大雑把に言うと,   ランダムグラフ G(n, p) を一般化したもの(正確にはもっと一般的なものを扱う)を対象として、マルチンゲールを定義し、2つの不等式を紹介する.

定義 1 A = {0, 1} B = {vw, wx, xv} A, B をある集合とし, を関数 g : B → A の集合とする. 例: A = {0, 1}, B をグラフG (節点数n) の節点ペアの集合, とすれば, g ∈ AB は n節点のグラフとみなせる.  A = {0, 1} B = {vw, wx, xv} v g(vw)=1 g(wx)=1 g(xv)=0 w x 全ての節点ペア b ∈ B で p1b = p, p0b = 1- p とすれば, g はランダムグラフ G(n, p).

定義 2 gradation を固定, を汎関数(e.g., クリーク数)とする. マルチンゲール を次のように定義. B1 定義 2 B2 B3 B4 gradation      を固定,          を汎関数(e.g., クリーク数)とする. マルチンゲール          を次のように定義. b ∈ Bi で g(b)=h(b) = E[L(g)] : 定数. (h) = L(h) . b ∈ Bi+1 で g(b)=h(b) Xi(g) の値は g(b) が「公開される」につれて L(g) に近づく.

定義 2 gradation を固定, を汎関数(e.g., クリーク数)とする. マルチンゲール を次のように定義. B1 定義 2 B2 B3 B4 gradation      を固定,          を汎関数(e.g., クリーク数)とする. マルチンゲール          を次のように定義. b ∈ Bi で g(b)=h(b) b ∈ Bi+1 で g(b)=h(b) Xi の値は b ∈ Bi だけが寄与する. Xi+1 の値は b ∈ Bi+1- Bi の寄与が新たに加わる.

リプシッツ条件 汎関数 L の,gradation   に関するリプシッツ条件.   全ての       に対し,   h, h’ が 上でのみ異なる

定理 7.4.1 定理 7.4.1   L が                に関するリプシッツ条件を満足するとき,対応するマルチンゲールは   全ての           で,

系 7.2.2 (前回のスライド) X0,…,Xm をマルチンゲール、X0 = c とし、 |Xi+1–Xi| ≦ 1 が 0 ≦ i < m について成り立つとする。 このとき、次が成り立つ。

定理 7.4.1(証明) H wh’ を条件付き確率とすると H: b ∈ Bi+1 で h’(b) = h(b) となる   h’ ∈ AB の集合. H wh’ を条件付き確率とすると (条件は,b ∈ Bi+1 で h(b) = g(b)), (つまり,                            )

定理 7.4.1(証明) H H[h’] H: b ∈ Bi+1 で h’(b) = h(b) となる h’ ∈ AB の集合. qh* を以下の条件付き確率とすると,

定理 7.4.1(証明) h’ と h* は Bi+1-Bi 上でのみ異なるので, 仮定からリプシッツ条件            が成立.

定理 7.4.2 定理 7.4.2           とおく.   L がリプシッツ条件を満足するとき,   全ての    で,

定理 7.2.1(前回のスライド) X0,…,Xm をマルチンゲール、X0 = 0 とし、 |Xi+1–Xi| ≦ 1 が 0 ≦ i < m について成り立つとする。 l > 0 を任意に選ぶとき、次が成り立つ。 (Azumaの不等式)

系 7.2.2 (前回のスライド) X0,…,Xm をマルチンゲール、X0 = c とし、 |Xi+1–Xi| ≦ 1 が 0 ≦ i < m について成り立つとする。 このとき、次が成り立つ。 ※初期値が 0 でない場合に拡張しただけ。

準備 Alonら(1997)による本発表2つ目の設定. 確率空間を有限で独立な Yes/No choice とする.indexを i ∈ I. choice i は確率 pi で Yes. この確率空間上の確率変数 Y が与えられる. ・ I: 質問の有限集合. ・ 質問 i ∈ I をオラクルに投げると確率 pi で Yes. (choice) ・ 各質問の答えがYes/Noとなる確率は互いに独立. ・ 質問の答えによって決まる値が Y.

準備 i 以外の質問の答えを固定した時,質問 i の答えが反転しても Y は高々 ci だけ増減するとする. ci を i の effect と呼ぶ. C を全ての ci の上界とする.      を choice i の分散とよぶ.

Solitaire Game ソリティアゲーム - 1人で遊ぶゲーム (e.g., パズル,クロンダイク) Paul はある値 Y を見つけるため,(いつも正しく答えを返す)オラクルに質問 i ∈ I を投げる.    - Paul は前の質問に依存した質問を選んでよい.    - Paul の戦略は決定木で表せる. root 3 Yes 1つのパスに対してY の値が1つ決まる No 2 1 Yes No パス(line of questioning)が含むchoice i の分散の合計を そのline of questioning の分散とよぶ. 3 4 Yes ・・・ Yes No

定理 7.4.3 定理 7.4.3 全てのε> 0 に対し,以下が成り立つようなδ> 0 が存在する.   全てのε> 0 に対し,以下が成り立つようなδ> 0 が存在する.   Paul の戦略において,任意のline of questioningの分散が高々 σ2 のとき,全ての α> 0 に対し, ただし,α (> 0) は            を満たす.

定理 7.4.3 の応用 ε= δ = 1とする.   C = O(1) のとき,α→∞ かつ α= o(σ) とすれば,   右辺は

定理 7.4.3 の応用 たいてい Paul は全ての i ∈ I を質問するので,   ランダムグラフ G(n, p) 上で枝リプシッツ条件を満たす Y を考える.ただし,p = p(n) → 0 とする. I を      個の節点ペアに枝があるかない(Yes/No)とし,   全ての pi = p (ランダムグラフ), C = 1 (リプシッツ条件)なので,   このとき,α→ ∞,          ならば,右辺は

グラフ特徴量のリプシッツ条件 (前回のスライド) グラフ上の特徴量 f について、枝 1 本だけ異なる 2 つのグラフ H,H’ において | f(H)–f(H’)| ≦ 1 が成り立つとき、f は枝リプシッツ条件を満たすという。同様に、頂点 1 個だけ異なる 2 つのグラフ H,H’ において上式が成り立つとき、頂点リプシッツ条件を満たすという。

定理 7.4.3 (再褐) 定理 7.4.3 全てのε> 0 に対し,以下が成り立つようなδ> 0 が存在する.   全てのε> 0 に対し,以下が成り立つようなδ> 0 が存在する.   Paul の戦略において,任意のline of questioningの分散が高々 σ2 のとき,全ての α> 0 に対し, ただし,α (> 0) は            を満たす.

定理 7.4.3 (証明) 簡単のため E[Y] = 0 とする. また,upper tailを示す.つまり, を示す. とおくと, は .               は      . 以降,                      を示せばよい. なぜなら, Markov Bound

定理 7.4.3 (証明) まず次のことを示す. 全てのε> 0 に対し,δ> 0 が存在して,   全てのε> 0 に対し,δ> 0 が存在して,   0 ≦ p ≦ 1 と |a|≦ δ に対し, 左辺を a に関してテイラー展開. (左辺) = 1 + 0 + a2p(1-p)/2 + ・・・ aj ( j ≧3 ) の係数は,高々 δを, |a| ≦δが          を満たすように取ると, 1 + x ≦ ex を使って右辺を得る.

定理 7.4.3 (証明) 決定木の深さに関する数学的帰納法で(7.2)を示す. M = 0 のとき,Y は定数なので成立. Paul の最初の質問に対して,   p: 確率,c: effect,v = p(1-p)c2 を分散とする.   また,μy, μn を最初のオラクルがYes/Noを返すときの Y の条件付き期待値とする.   ・ E[Y] = 0 なので,0 = pμy + (1-p)μn.   ・ effect の定義から,|μy -μn|≦ c.   ・ パラメータ b (|b| ≦ c) を用いて,    μy = (1-p)b, μn = -pb とかく. root Yes No μy μn Yes No Yes ・・・ Yes No No

定理 7.4.3 (証明) μy = (1-p)b, μn = -pb. 先に示した から, μy μn ・・・ root Yes No 先に示した から, root Yes No μy μn Yes No Yes ・・・ Yes No No

定理 7.4.3 (証明) Ay をオラクルがYesを返したときの e λ(Y-μy) の条件付き期待値とする.(E[ Y-μy | Yes ] =0.) An をオラクルがNoを返したときの e λ(Y-μn) の条件付き期待値とする.(E[ Y-μn | No ] =0.) Yes/Noが帰ってきたとき,部分木に関して Y の分散は高々σ2- v,深さは M-1. 帰納法の仮定から, root Yes No μy μn Yes No Yes ・・・ Yes No No

定理 7.4.3 (証明) root Yes No μy μn Yes No Yes ・・・ Yes No No