数理統計学(第六回） 最尤推定とは？ 浜田知久馬 数理統計学第６回.

Presentation on theme: "数理統計学(第六回） 最尤推定とは？ 浜田知久馬 数理統計学第６回."— Presentation transcript:

1 数理統計学(第六回） 最尤推定とは？ 浜田知久馬 数理統計学第６回

2 数理統計学第６回

3 数理統計学第６回

4 数理統計学第６回

5 ダーウィンの例 母数推定の前提 自家受精群と他家受精群 に別々の正規分布をあてはめ
ダーウィンの例　母数推定の前提 自家受精群と他家受精群 に別々の正規分布をあてはめ ｎ個（ｎ＝１５）の確率変数Ｙｉが互いに独立に同一の正規分布にしたがう Ｙ１ ,Ｙ２ ,Ｙ３ ,・・・，Ｙｎ ～Ｎ(μ,σ２) i.i.d.（independent identically distributed） 数理統計学第６回

6 正規分布の確率密度関数 σ２は既知 ｎ個Ｙ１ ，・・・，Ｙｎ のｎ個のデータの得られる確率ｆ
f＝ｆ(y１) ・ｆ(y2) ・・・ｆ(yｎ) ＝Πｆ(yi) 数理統計学第６回

7 対数尤度(log likelihood) 数理統計学第６回

8 対数尤度(log likelihood) Lはμについての2次関数 尤度ｆの最大化⇒ 対数尤度Lの最大化 ⇒ｄL/ｄμ＝0となるμを探す.
数理統計学第６回

9 スコア統計量 Ｒａｏの有効スコア統計量 （efficiency score function） 対数尤度をパラメータで微分した統計量
自家受精群： ，他家受精群： 数理統計学第６回

10 尤度の計算プログラム data mle;set mle; do m=15 to 25 by 0.1;s=3;
f=1/(2* *s**2)**.5*exp(-(y1-m)**2/s**2/2); l=log(f); output;end; proc sort;by m; proc summary data=mle ;var l;output out=out sum=;by m; data out;set out;f=exp(l); proc gplot; plot (f l)*m/href=17.708;symbol1 i=spline;run; 数理統計学第６回

11 尤度関数(自家受精群） 数理統計学第６回

12 対数尤度関数(自家受精群） 数理統計学第６回

13 スコア統計量の性質を導くために 利用すること
＾ E[U]=0，V [U]=E[U2]= E[-U']=I =1/V[θ] 1) 確率密度関数の和は１ ∫ｆ(ｙ,θ) ｄｙ=1 2) 　 ３）　微分と積分の交換可能性 ４）　（ｆ・ｇ）'＝ ｆ'・ｇ+ｆ・ｇ' ５）　（ｆ/ｇ）'＝ (ｆ'・ｇ-ｆ・ｇ')/ｇ2 ６）　V[X]＝E[X2]－E[X]2 　 数理統計学第６回

14 スコア統計量の性質 ｆ（ｙ；θ）：確率変数Yの確率密度関数 L（θ；ｙ）＝logｆ（ｙ；θ）：対数尤度関数 数理統計学第６回

15 スコア統計量の性質 E[U]=0，V [U]=E[U2]= E[-U’]=I
数理統計学第６回

16 Uボートで尤度の　　　　　　山を一周したら 数理統計学第６回

17 スコア統計量の性質 数理統計学第６回

18 スコア統計量の性質 Ｅ[U’] +Ｅ[U 2 ]＝0 V [U]＝E[U2]‐ E[U] 2＝ E[U2]＝ E[-U’]：情報量
数理統計学第６回

19 どちらの対数尤度の山の方が登りやすいだろうか？
情報量が小さい場合 情報量が 大きい場合 数理統計学第６回

20 2項分布の場合 数理統計学第６回

21 2項分布の場合 数理統計学第６回

22 2項分布の場合 数理統計学第６回

23 2項分布の場合 数理統計学第６回

24 ＾ ＾ V[θ]≒1／I[θ] 中心極限定理と 大数の法則が 適用できる． 分散は 1/情報量 数理統計学第６回

25 平均値の法則 大数の法則 平均値はｎを大きくすると，真の値に収束する. 平均値→E(X)＝μ （ｎ→∞） limP（|平均値－μ|≧ε）＝0
平均値の法則 　 大数の法則 平均値はｎを大きくすると，真の値に収束する. 平均値→E(X)＝μ　（ｎ→∞） limP（|平均値－μ|≧ε）＝0 ｎ→∞ 中心極限定理 ｎを大きくすると，平均値の分布は正規分布になる. 数理統計学第６回

26 まとめ　スコア統計量とMLEの性質 数理統計学第６回

27 MLEの性質 １）ｎが大きくなれば，MLEは真値に近づく(一致性） ← 大数の法則
２）最尤推定量の分布は，漸近的に正規分布にしたがう(漸近正規性） 　　　　　　　 ←　中心極限定理 ３）最尤推定量の分散は，漸近的にFisherの情報量の逆数となり,Cramer-Raoの下限を達成する（有効性） 数理統計学第６回

28 ダイオキシン 　　ベトナム戦争時に使用された枯葉剤（２，４，５－Ｔ）に、不純物として含まれていた毒性物質として有名。ベトナムにおける流産や先天異常児の多発、ベトナム帰還米兵のガンの多発などは、この影響であると指摘されている。 　ダイオキシンは廃棄物焼却や金属精錬の際に発生したり、農薬等各種の化学物質を製造する際に副生するなどの例が知られているが、中でも廃棄物焼却が最大の原因であると言われている。ところが、最近になって、これまで知られていた発ガン性を示すレベルの量よりも更に微量のダイオキシンが、子宮内膜症とそれに伴う不妊症の原因ではないかと疑われるようになり、社会的な関心が一層高まっている。 数理統計学第６回

29 ベトナム戦争で散布された枯葉剤により枯れたマングローブの林
数理統計学第６回

30 ダイオキシン類の特徴 ４塩化物以上に毒性が強い 2,3,7,8－ＴＣＤＤの毒性が最も強い 水に難溶性。脂肪に溶けやすい
　　　2,3,7,8－ＴＣＤＤの毒性が最も強い 水に難溶性。脂肪に溶けやすい 極めて安定　７００℃でも分解しない 副産物として生成される 　　　除草剤、殺菌剤の製造過程、焼却、 　　　漂白、自動車の排ガス等 数理統計学第６回

31 2,3,7,8-Tetrachlorodibenzo-p-dioxin (2,3,7,8-TCDD) の構造
塩素のつく数と位置による同族体と異性体が多数あり、このうち毒性発現から７種、またポリ塩化ジベンゾフラン10種、PCB12種に対して毒性等価係数が付与されている） 数理統計学第６回

32 測定単位 mg （ﾐﾘｸﾞﾗﾑ　＝千分の１ｸﾞﾗﾑ） μg （ﾏｲｸﾛﾘｸﾞﾗﾑ ＝百万分の１ｸﾞﾗﾑ） ng （ﾅﾉｸﾞﾗﾑ＝十億分の１ｸﾞﾗﾑ) pg （ﾋﾟｺｸﾞﾗﾑ＝一兆分の１ｸﾞﾗﾑ） 　1g中に1 μg →　ｐｐｍ 　1g中に1 ng →　ｐｐｂ 　1g中に1 pg →　ｐｐｔ 　　(100m×100m×100mの水槽に１ｇ） 数理統計学第６回

33 ダイオキシンの毒性 毒性 症 状 実験動物 ＮＯＡＥＬ＊ 発ガン性 肝細胞への影響 肝臓ガン発生 ラット ラット
症　　　状 実験動物 ＮＯＡＥＬ＊ 発ガン性 肝細胞への影響 肝臓ガン発生 ラット ラット 1 ng/1kg 体重/1日 10ng/1kg 体重/1日 免疫毒性 感染防御機能低下 マウス ５ng /1kg 体重/1日 催奇形性 口蓋裂、腎盂拡張 100ng /1kg 体重/1日 その他の 慢性毒性 体重増加抑制等 ラット 1 ng/1kg 体重/1日 数理統計学第６回

34 性比の経年変化　男/女 数理統計学第６回

35 問題の背景 1) ダイオキシンの人間に対する毒性用量は判明している. 2）ダイオキシン濃度がある濃度を越えた個体の割合を推定したい.
3)1998年については個別データがあるが，後の年については，平均値しかわからない 4）ダイオキシン濃度の分布は対数正規分布 　にしたがうことが経験的に判明している． 数理統計学第６回

36 セベソ事件 セベソ事件とは，北イタリア，ミラノの北約 20 Km のところにある農薬工場が，2,4,5-トリクロロフェノール製造中に爆発事故を起こし，セベソを中心とする周辺地域をダイオキシンを含む大量の化学物質が汚染した． ・1976 年 7 月 10 日爆発事故発生 ・最終的に，２０万人以上の住民が被害を受ける. ･性比を1%減らす濃度(129 pg/g） 5%(146) 10%(160） 数理統計学第６回

37 モーメント法による 対数正規分布の母数推定
N=467　（単位：pg/g　fat) 平均値：25.5 SD：14.5　 変動係数：14.5/25.5＝56.9％ 対数正規分布のパラメータ μ,σ 数理統計学第６回

38 対数正規分布 μ,σを推定したい 対数変換すると正規分布にしたがう. ｘ＝log(ｙ) ⇒ ｄｘ＝1/ｙｄｙ
ｆ(ｙ) ＝ｄＦ(ｙ) /ｄｙ＝ｄＦ(ｙ) /ｄｘ　×ｄｘ/ｄｙ μ,σを推定したい 数理統計学第６回

39 対数正規分布 E［ｙ］＝exp(σ２/2＋μ） V［ｙ］＝E［ｙ］２ ( exp(σ２)－1)
SD ＝ E［ｙ］( exp(σ２)－1)0.5 　　 CV＝SD/E［ｙ］＝ ( exp(σ２)－1)0.5 　　変動係数はμに関係なく一定 数理統計学第６回

40 モーメント法による推定 標本平均：25.5 標本SD：14.5 E［ｙ］＝exp(σ２/2＋μ)＝標本平均
V［ｙ］＝E［ｙ］２ ( exp(σ２)－1)＝標本分散 になるように， σとμを推定 標本平均：25.5　標本SD：14.5　 exp(σ２)－1＝14.5２/25.5２⇒σ=0.5293 exp(σ２/2＋μ)＝25.5 　⇒ μ＝3.0986 数理統計学第６回

41 推定された対数正規分布の 確率密度関数 数理統計学第６回

42 対数正規乱数の発生 data data; cv=0.5686;mean=25.5; s=(log(1+cv**2))**.5;
m=log(mean)-s**2/2; do i=1 to 10000; x=exp(m+s*rannor(4989));y=log(x);output; end; proc means;var x y; proc gchart;vbar x/space=0; 数理統計学第６回

43 正規乱数のヒストグラム 数理統計学第６回

44 対数正規分布の％点 log(ｙ)が正規分布するのを利用して α％点：ｅxp(μ+Ｚασ) Ｚα：正規分布のα％点 Ｚ50：0
　　　Ｚ50：0 　　　Ｚ25： 　Ｚ75：0.6745 数理統計学第６回

45 ％点の比較 実測値 対数正規分布 25％点 15.2 15.5 50％点 21.7 22.2 75%点 31.3 31.7
　　　　　　実測値　　　対数正規分布 25％点　　 50％点　　 75%点　　 %点からは対数正規分布がよくあてはまっていると考えられる. 変動係数が一定になるように各年度のＳＤを推定 数理統計学第６回

46 カットオフ値を越える確率 （単位：pg/g） year 平均 σ μ 推定SD BMD1% BMD5% BMD10%
　　　　　　　　　　　　　　　　　　（129） （146) （160） 　 数理統計学第６回

47 カットオフ値を越える確率 　 （単位：pg/g） 　　year　 平均 σ μ 推定SD BMD1%　　 BMD5% 　 BMD10% 　　　　　　　　　　　　　　　　　　（129） （146) （160） 　 数理統計学第６回

48 問題 ある大学で，100人の学生の血液型について，調べた結果，A型41人，B型22人，O型27人，AB型10人となった．血液型の人数の分布は次のように確率Lが示される多項分布に 　したがうと考えられる． XA,･･･,XAB：各血液型の人数である． XA+XB+XO+XAB＝N 数理統計学第６回

49 問題 Lを母数, πA , πB , πO , πABの関数を考えてLが最大になるようにパラメータを推定したい．ただしπA+πB +πO + πAB=1 という制約が存在する． 1)対数尤度を示すこと． 2)対数尤度をπAで微分すること． 3) πA , πB , πO , πABの最尤推定値を計算すること 数理統計学第６回

50 Lagrange の未定乗数法 p 次元ベクトル x について，等式制約：g(x) = 0 の下で，ある目的関数：f(x) の最大（小）値を求める問題の一つの解法に，ラグランジュの未定乗数法がある． を解くと，この連立方程式の解の中に求める解がある．　 数理統計学第６回