確率統計学 (データ解析学) 書き込み式ノート(Ver.1) 担当教員:綴木 馴.

Slides:



Advertisements
Similar presentations
1 小暮研究会2 第1章ベイジアンアルゴリズ ム 2値選択 ベルヌーイ試行 尤度原理 同一性 交換可能性 尤度についてのまとめ 環境情報学部3年 渡邊洋一.
Advertisements

5 章 標本と統計量の分布 湯浅 直弘. 5-1 母集団と標本 ■ 母集合 今までは確率的なこと これからは,確率や割合がわかっていないとき に, 推定することが目標. 個体:実験や観測を行う 1 つの対象 母集団:個体全部の集合  ・有限な場合:有限母集合 → 1つの箱に入っているねじ.  ・無限な場合:無限母集合.
『わかりやすいパターン認 識』 第 5 章 特徴の評価とベイズ誤り確率 5.4 ベイズ誤り確率と最近傍決定則 発表日: 5 月 23 日(金) 発表者:時田 陽一.
1 線形代数学. 2 履修にあたって 電子情報システム学科 必修 2005 年度1セメスタ開講 担当 草苅良至 (電子情報システム学科) 教官室: G I 511 内線: 2095 質問等は上記のいずれかに行なうこと。 注意計算用のノートを準備すること。
統計学 第3回 西山. 第2回のまとめ 確率分布=決まっている分布の 形 期待値とは平均計算 平均=合計 ÷ 個数から卒業! 平均=割合 × 値の合計 同じ平均値でも 同じ分散や標準偏差でも.
2 年 確率の導入 指導手順 身の回りの生活の中の確率の話をする。 10 円玉の表と裏を確認する。 本時の課題を提示する。 ( シート 4) 実験をする。 準備物 ワークシート、 10 円玉 ×2× 生徒数 結果をエクセルに入力 グラフから言えるこ とを発表する。 確率についてまとめる。 教科書の練習問題をする。
統計学第2回 「確率と確率分布」 受講者の数学ができる程度について の 度数分布図。先週のアンケート結果 を, R を使って x
0章 数学基礎.
総和記号 Σ(サメーション,シグマ) n Σ xi = x1 + x2 + ・・・ + xn i=1 @ATSUTO NISHIO
第1回 確率変数、確率分布 確率・統計Ⅰ ここです! 確率変数と確率分布 確率変数の同時分布、独立性 確率変数の平均 確率変数の分散
第6章 数え上げ理論と確率 B4 酒井 隆行.
確率と統計 平成23年12月8日 (徐々に統計へ戻ります).
第2章 確率と確率分布 統計学 2010年度.
確率・統計Ⅰ 第12回 統計学の基礎1 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
全加算回路 A, Bはそれぞれ0または1をとるとする。 下位桁からの繰り上がりをC1とする。(0または1)
近似アルゴリズム 第10章 終了時刻最小化スケジューリング
Q.サイコロを5回投げたときに,少なくとも1回3 の目が出る確率は? 「確率」と「統計」 確率屋さん「サイコロの各目が出る確率は1/6で
統計学 10/25(木) 鈴木智也.
確率・統計Ⅰ 第11回 i.i.d.の和と大数の法則 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
Microsoft Excel 2010 を利用した 2項分布の確率計算
Generating Functions (前半) B4 堺谷光.
アルゴリズムイントロダクション第5章( ) 確率論的解析
論理式の表現を数学的に取り扱いやすくするために代数学の助けを借りる.
確率・統計Ⅱ 第7回.
第2章補足Ⅱ 2項分布と正規分布についての補足
初級ミクロ経済学 -ゲーム理論入門- 2014年12月15日 古川徹也 2014年12月15日 初級ミクロ経済学.
 Combinations(2)        古川 勇輔.
6 確率 1章 確率 §3 確率の求め方         (4時間).
第7回 二項分布(続き)、幾何分布 確率・統計Ⅰ ここです! 確率変数と確率分布 確率変数の同時分布、独立性 確率変数の平均 確率変数の分散
第2章 確率と確率分布 統計学 2006年度.
寺尾 敦 青山学院大学社会情報学部 atsushi [at] si.aoyama.ac.jp
確率・統計輪講資料 6-5 適合度と独立性の検定 6-6 最小2乗法と相関係数の推定・検定 M1 西澤.
Probabilistic Method 6-3,4
A path to combinatorics 第6章前半(最初-Ex6.5)
統計数理 石川顕一 10/17 組み合わせと確率 10/24 確率変数と確率分布 10/31 代表的な確率分布
橋本 保健統計演習への準備.
正規性の検定 ● χ2分布を用いる適合度検定 ●コルモゴロフ‐スミノルフ検定
10.通信路符号化手法2 (誤り検出と誤り訂正符号)
5.5 The Linear Arboricity of Graphs (グラフの線形樹化数)
第Ⅱ部 協力ゲームの理論 第9章 シャープレイ値.
第3回 確率変数の平均 確率・統計Ⅰ ここです! 確率変数と確率分布 確率変数の同時分布、独立性 確率変数の平均 確率変数の分散
中学数学1年 1章 正の数・負の数 §3 乗法と除法 (9時間).
確率・統計Ⅰ 第3回 確率変数の独立性 / 確率変数の平均 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
確率論の基礎 「ロジスティクス工学」 第3章 鞭効果 第4章 確率的在庫モデル 補助資料
7.4 Two General Settings D3 杉原堅也.
Basic Tools B4  八田 直樹.
第2日目第1時限の学習目標 順列、組み合わせ、確率の入門的知識を学ぶ。 (1)順列とは? (2)組み合わせとは? (3)確率とは?
電気・通信・電子・情報工学実験D 確率的情報処理の基礎技術 Part 2(2014年4月)
超幾何分布とポアソン分布 超幾何分布 ポアソン分布.
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
確率と統計 -確率2回目- 平成23年10月27日.
25. Randomized Algorithms
Selfish Routing and the Price of Anarchy 4.3
変換されても変換されない頑固ベクトル どうしたら頑固になれるか 頑固なベクトルは何に使える?
様々な情報源(4章).
9.通信路符号化手法1 (誤り検出と誤り訂正の原理)
母分散の信頼区間 F分布 母分散の比の信頼区間
A path to combinatorics 第3章後半(Ex3.8-最後)
統計数理 石川顕一 10/17 組み合わせと確率 10/24 確率変数と確率分布 10/31 代表的な確率分布
第3章 線形回帰モデル 修士1年 山田 孝太郎.
データ解析 静岡大学工学部 安藤和敏
第5回 確率変数の共分散 確率・統計Ⅰ ここです! 確率変数と確率分布 確率変数の同時分布、独立性 確率変数の平均 確率変数の分散
物理フラクチュオマティクス論 応用確率過程論 (2006年4月11日)
確率と統計2007(最終回) 平成20年1月17日(木) 東京工科大学 亀田弘之.
4.プッシュダウンオートマトンと 文脈自由文法の等価性
確率と統計 確率編- 平成20年10月29日(木).
確率と統計 確率編- 平成19年10月25日(木) 確率と統計2007.
回帰分析入門 経済データ解析 2011年度.
Microsoft Excel 2010 を利用した 2項分布の確率計算
Time Reversal E-Text: pp.80-83(PDF: pp.49-50) FM08002 太神 諭
Presentation transcript:

確率統計学 (データ解析学) 書き込み式ノート(Ver.1) 担当教員:綴木 馴

●順列 一般に, 個の異なるものから,任意に 個とって, 1列に並べる順列の数は で与えられ,「パーミュテーション , 」 一般に,   個の異なるものから,任意に  個とって, 1列に並べる順列の数は で与えられ,「パーミュテーション   ,   」 または「      」と読む. 特に    のとき,すなわち 異なる  個のものを全部1列に並べるときの順列の数は, である.   は   の階乗という.この記号を使うと と書くことができる.ただし,   と定義する.

●組み合わせ 与えられた複数個のものから,順序付けはしないでいくつか選んだ組を, 組み合わせ(combination)という. 一般に,  個の異なるものから,任意に  個とった組み合わせの数は で与えられ,「コンビネーション    」または「      」と読む. コンビネーションについては以下が成り立つ

●確率に使う語句の定義 1. 測定する操作を と言う. 2. 試行による結果を と言う. 3. 起こりうる結果の全体を と言う. 1. 測定する操作を     と言う. 2. 試行による結果を     と言う. 3. 起こりうる結果の全体を        と言う. 4. 標本空間でそれ以上にわけられない事象を          と言う. 5. 二つ以上の根元事象を含むものを        と言う. 例えば,サイコロ振りの場合,事象「一つの目が出る」は根元事象であり, 事象「偶数目が出る」は3通りあるから結合事象である.

●確率の定義 ある試行において,標本空間の大きさが で, どの根元事象も同程度に確からしく起こるとする. 標本空間の中で,ある事象 をとり, 標本空間の中で,ある事象   をとり,    の起こる場合の数が   であるとき,    の確率     を と定義する. この確率を         という.

例題1 5枚の100円玉を投げて,3枚が表,2枚が裏となる確率を求めよ. ただし,表が出るのも裏が出るのも同様に確からしいと考えて良い. (解) 5枚投げるというのは,2個の異なるもの(表と裏)を繰り返しを許して 5回投げることと同じだから,起こりうる全ての場合は, となる. 3枚表になるのは,5個の異なるもの(5回の試行)から任意に 3個(5回のうち3回)とったときの組み合わせの数に等しいので 通り. 数学的確率の定義を使うと,問題の確率は となる.

●経験的確率 野球の打率では,多くの試合の成績から,安打の出る確率をおしはかるのである. この様な場合には,確率を次のように定義する.   回試行を行った結果,ある事象  が  回起こったとする.   を大きくしていくとき,   が一定の値  に近づけば,   の確率   を, とする. この確率を経験的確率または統計的確率という.実際は試行を無限界行うことは 不可能である.しかし,  が十分大きいとき,   を確率    としても, その誤差はかなり小さいと期待して良い.これを大数の法則という.

例題2 打率0.333≒1/3のバッターが,ある試合の第1,第2打席で凡退した. 第3打席でヒットを打つ確率はいくらであるか答えよ. (解) 2回凡退したからといって3回目で必ずヒットを打つわけでは無い. 打率は若干下がっているが,やはり   程度であるのに変わりは無い. よって,ヒットを打つ確率は約    である.

確率の公理 公理とは,その他の命題を導きだすための 前提として導入される最も基本的な仮定 サイコロを振って,いつ6の目が出るかという試行を考える. この場合,いつ6が出るか分からないから,標本空間の大きさは 無限である. すなわち,第  回目に6の目が出るという事象を   とすると, それは       と限りなく存在するのである. この様な加算無限(数えられるが有限個ではない)の場合にも, 確率の規則が当てはまる様にすることを,これから考える.

確率の公理 標本空間を とすると, は1つの集合であり, 事象 は の部分集合になっている. すなわち, と書ける. 標本空間を  とすると,  は1つの集合であり, 事象  は  の部分集合になっている. すなわち,    と書ける.   の中で,  の起こらない事象は余事象といい,  と書く. 決して起こらない事象は空事象といい,  と書く. 事象  または  が起こる事象を和事象といい    と書き,   と  が同時に起こる事象を積事象といい     と書く.

確率の公理 さらに, と が同時に起こらないときは と書く. このとき, と は互いに排反(exclusive)である,という. さらに,  と  が同時に起こらないときは       と書く. このとき,  と  は互いに排反(exclusive)である,という. 例えば,サイコロ振りで  を偶数目,  を3の目とすると,   と  は互いに排反な事象である. また,根元事象はすべて互いに排反である.

確率の公理 標本空間 の各事象 に対して,次の3つの条件を満たす 実数 が存在するとき, を事象 が起こる確率という. 確率の公理 (1) 標本空間  の各事象  に対して,次の3つの条件を満たす 実数    が存在するとき,   を事象  が起こる確率という. 確率の公理 (1)                 ,             が互いに排反な事象のとき,

確率の公理 (1)は確率は0と1の間であらわす,と言う意味. (2)は全てが起こる確率は1で,何も起こらない確率は0である,と言う意味. (3)は,経験的確率の性質を一般的に書いたものである. 例えば,サイコロ振りで偶数目が出るという事象  の起こる確率   は   . 3の目が出る事象  の起こる確率   は   である.    と  は同時に起こらない. 偶数目または3の目の出るという事象    の確率     は    である. 結局,           が成り立っている. (3)では事象の個数が無限であってもよいとしているのである. もちろん,この規則は公理であるから証明のできる様な筋合いのものではない. 要するに,この公理を認めて,これから確率の性質を調べよう!と言う事である.

確率に関する公式 B A E3 E2 E1 図1 ある事象  と  を考える.図1のように, とすると,     は互いに排反であり, と表わせる.

確率に関する公式 確率の公理(3)を使うと また 結局,次の式が成り立つ. 加法公式

確率に関する公式(例題1) よく切ったトランプ53枚(ジョーカーも入っている)から,1枚をとりだして, そのカードがスペードである(A)か,絵札である(B)かの確率を求めよ. ただし,ジョーカーは絵札ではない. 解 スペードである確率は       , 絵札である確率は スペードの絵札である確率は     である. よって,求める確率は

余事象の起こる確率 ある事象  の余事象  を考えると, よって,確率の公理(2)と(3)より, したがって,余事象の起こる確率に対して,

確率に関する公式(例題2) 雨が降る確率が60%のとき,雨が降らない確率を求めよ 雨が降らない確率は すなわち,    である.

確率に関する単調性の性質 図 A A∩B B 図のように,ある事象 と について, のときは, だから, 図のように,ある事象  と  について,    のときは,        だから, と表せる.  と     は共通部分を持たないから確率の公理(3)より, ところが,確率の公理(1)より,      であるので,(次ページに続く)

確率に関する単調性の性質 結局,次の確率に関する単調性の性質が成り立つ. ある事象が起こる確率は,その一部が起こる確率より, 「決して小さくない」という事である.

完全確率の定理 標本空間 が 個の根元事象 から成り立っているとする. すなわち, 根元事象は互いに排反だから,確率の公理(3)から, 標本空間   が  個の根元事象         から成り立っているとする. すなわち, 根元事象は互いに排反だから,確率の公理(3)から, が言える.また確率の公理(2)から,       であるから, が成立する.すなわち,全ての根元事象の確率の和は1である. この性質を完全確率の定理という.

完全確率の定理(例題1) ○×(まるばつ)式の問題が10題あるばあいにおいて, でたらめに印しをつけたとき, 少なくとも1問正解する確率を求めよ. 解 少なくとも1問正解する確率を    とおき, 全て間違う確率を   とすれば,

条件付き確率 2つの事象 , があって, が起こったという条件のもとで が起こると言う事象を であらわす. 2つの事象  ,  があって,  が起こったという条件のもとで   が起こると言う事象を     であらわす. その確率      を,条件  のもとでの  の 条件付き確率(conditional probability)といい, で,定義する.

乗法定理 でなければ,条件 のもとでの の 条件付き確率 も定義出来る.すなわち, 上式と,条件付き確率の分母を払うと,        でなければ,条件  のもとでの  の 条件付き確率      も定義出来る.すなわち, 上式と,条件付き確率の分母を払うと, 次の乗法定理が得られる.

●例題 くじ引きをするときの,引く順番と当たる確率を調べてみる.例えば, 10本中3本の当たりくじがあるとし,最初に引いた人が当たるという事象を  , 2番目に引いた人が当たるという事象を  とする.   が起こる確率は,     .  が起こらない確率は       である.   が起こるのは,2つの場合がある.  が起こったときに,  が起こるのは,   本中  本だから,条件付き確率として,       .   が起こらなかったときに,  が起こるのは  本中  本であるから,        .乗法定理を使うと, 事象     と     は互いに排反であり,            であるから,確率の公理より, 結局,最初に引いても次に引いても確率は同じ.

ベイズの定理 たとえば,いくつかの機械から作られた多数の同種の製品から, 作為なしに1つ取り出して,それが不良品であったとき,その製品が どの機械で作られたのかと言う確率を知りたいときがある. すなわち,ある結果が起こったとき,それがどの原因によるのかを 調べたいのである. →ベイズの定理を使って調べる.

ベイズの定理 いま,機械が3つあるとする.3つの機械をA,B,Cで区別し, 一つの製品がこれらから作られたものであるという事象を  ,  ,  で表す. ただし,機械は製品をそれぞれ,   ,   ,   の割合で作っているとする. 製品を一つ取り出したときに,不良品であるなしにかかわらず, どの製品から作られたかというのは分かっているのである. 不良品である事象を  としたとき,それぞれの機械が不良品を作る確率 も分かっているとする.ある原因によって結果が生じる 因果関係の確率が分かっているのである. このとき,実際に結果  が起こったとき,その結果が  ,  ,  の どの原因によるかという確率       ,      ,      を求める.

ベイズの定理 などは,結果と関係がないので,存在の確率(または事前確率)といい, などは,結果が起こったときの原因を考えているから,     などは,結果と関係がないので,存在の確率(または事前確率)といい,       などは,結果が起こったときの原因を考えているから, 原因の確率(または事後確率)という.   ,  ,  は互いに排反は事象だから,結果  が原因      による 確率の比は,  で  ,  で  ,  で   が起こる確率の比に等しく, となることが直感的にわかるだろう.実際,たとえば      については, 乗法の定理から, であるから, と書ける.

ベイズの定理 ところが, であり, は,それぞれ排反な事象だから, である. やはり乗法定理から, が成り立つので, と書ける.したがって,

ベイズの定理 一般に,ある事象 が, 個の互いに排反で全ての場合をつくす原因, によっているとき,そのうち1つの によって起こる 確率 は, 一般に,ある事象  が,  個の互いに排反で全ての場合をつくす原因,           によっているとき,そのうち1つの  によって起こる 確率      は, で表される.これをベイズ(Bayes)の定理という.

ベイズの定理(例題) 3つの機械のうち,生産量の10%を A,30%を B,60%を C が占めているとする.