自己紹介 & お知らせ

   、、┯、、
   ミ (・)(・)ミ  本スライドはhttp://y-yammt.github.io/intro-cond-prob で見られますぞ、と
  彡 д ミ
  彡  / ̄ ̄ ̄ ̄/
_彡ニつ/  Macc /__
   \/____/

今回の内容

  • 「ベイズの定理」の前準備として、条件付き確率をおさらいしましょう。
  • すぐわかる確率・統計」の1.2「確率」に大体対応しています。

確率の復習

先生
問題を出すわよ。「サイコロを1個投げたとき、1の目が出る確率を求めなさい」。どう?
ケン
1〜6の6通りあるサイコロの目の中で、「1の目」は1つだけだから、答は$\frac{1}{6}$。
先生
そう、答は$\frac{1}{6}$。大切なのは、「対象の部分が起こる場合の数を、全体が起こる場合の数で割った値」というイメージよ。
先生
基本はこれだけ。これが「確率の定義」。
  • さすがに定義が雑なので、もう少し細かく定めることにしましょう。

確率の復習

試行
一定の条件のもとで何回でも繰り返すことができる実験や観察(例: サイコロを1回振る)。
事象
試行を行った結果生じる現象(例: 偶数の目が出る)。
根元事象
ある事象において、もうこれ以上分けることができない事象(2の目が出る、偶数の目が出る → これは事象)。
標本空間
根元事象を全部集めてきたもの($\{1,2,3,4,5,6\}$)。

確率の復習

有限な標本空間$U$をもつ試行について、どの根元事象も同様に確からしく起こるとする。この試行の事象$A$について、
$P(A) = \frac{n(A)}{n(U)}$
を事象$A$の数学的確率と呼ぶ。
  • 統計的確率、公理論的確率については省略します。

簡単な練習問題 その1

サイコロを1回振るとき、出る目が素数である確率を求めよう。
  • 標本空間は$U=\{1,2,3,4,5,6\}$
  • 事象$A$を出る目が素数とすると$A=\{2,3,5\}$
  • よって、$P(A)=\frac{n(A)}{n(U)}=\frac{3}{6}=\frac{1}{2}$

確率の公理

  • 数学的確率は以下の確率の公理を満たしていることに注意しましょう。
    • 標本空間$\Omega$の部分集合である事象$E$に対し、$P(E) \geq 0$
    • $P(\Omega) = 1$
    • 事象$E_1$と$E_2$が互いに排反($E_1 \cap E_2 = \phi$)ならば$P(E_1 \cup E_2) = P(E_1) + P(E_2)$

で、ようやく条件付き確率

事象$E$が起こったという条件のもとで事象$B$が起こるという事象を$B|A$と書くとき、確率$P(B|A)$を、
$P(B|A) =\frac{P(A \cap B)}{P(A)}$
で定義し、$A$のもとでの$B$の条件付き確率という。
  • $A$が起こったもとで、条件$B$ 起きる確率と書いたほうがわかりやすいかも。
  • $P(A \cap B) = P(B|A) P(A)$ の形でもよく使われる。

条件付き確率の説明

  • 標本空間$U$が有限集合の場合についての説明
    • $P(B|A) = \frac{n(A \cap B)}{n(A)}$
    • 分母と分子を$n(U)$で割ると、
    • $P(B|A) = \frac{\frac{n(A \cap B)}{n(U)}}{\frac{n(A)}{n(U)}} = \frac{P(A \cap B)}{P(A)}$となり条件付き確率の定義と合致していることがわかる。

条件付き確率の練習問題

入門ベイズ統計 例: 壺のモデル

条件付き確率の練習問題

入門ベイズ統計 例: 壺のモデル

余談

日本の入門的な統計学の授業では、ベイズ統計はほとんど取り上げていないからな。
アヤ
難しいってことかな?
そんなことはないよ。確率を素直に解釈すれば理解できるよ。
  ,゙  /|   |   .:::|. \|:.:.:.:|   |::l::|/:.:.:.:.:.:j/::
  ! ,' !  ::|    ::::|!. ,ィ|≧ゝl、_.;|::ィ|/_:._/ィllヘ    ┏━┓   ┏┓ ┏┓  ┏┓  ┏┳┓        ┏┓┏┓┏┓
  l ,' │ ::|:..  ::::|く/ {ひlll|::|ヾ|:.N:.::´〃ひlllリ::    ┗━┛   ┃┃ ┃┃┏┛┗┓┗┻┛        ┃┃┃┃┃┃
  ヾ  '、  |\  ::::|:.\\こソ:.:.:.:.:.:.:.:.:.:、、\こソ   ┏━━━┓┏┻┻┛┫┗┓┏╋━━┓┏┳┓  ┃┃┃┃┃┃
       '、 :|  \ :::\:.:._,、__彡 _' -─ 、`゙ー=  ┗━━┓┃┗━┳  ┃  ┃┃┗━━┛┃┃┣┓┃┃┃┃┃┃
       ヾ、/.::>:、:;ヽ、__  /ーァ''"´ ̄ ヽ         ┃┃    ┃┏┛  ┃┃┏┓    ┗┻┫┃┗┛┗┛┗┛
       / .::::::::::::::::ヘ ̄   {|::/       }       ┏━┛┃    ┃┗┓  ┃┃┃┗━┓  ┏┛┃┏┓┏┓┏┓
       /...::::::::::::::::::::::::::\  V      j}.      ┗━━┛    ┗━┛  ┗┛┗━━┛  ┗━┛┗┛┗┛┗┛
  • ...とまでは言いませんが、結構難しいですよね。

モンティ・ホール問題

  • プレーヤーの前に3つのドアがある。
    • 1つのドアの後ろには景品の新車ある。
    • 残り2つのドアの後ろには、はずれを意味するヤギがいる。
  • プレーヤーが1つのドアを選択した後、司会者モンティは必ず残りのドアのうちヤギがいるドアを開けてヤギを見せる。
  • ここでプレーヤーは、最初に選んだドアを、残っている開けられていないドアに変更してもよいといわれる。プレーヤーはドアを変更すべきだろうか?
Monty_open_door

ドアを変えるべきか、変えないべきか?

  • 多くの人 → はずれのドア見せられても (´・ω・`)
  • あくまでもシミュレーション意味ではあるが、プログラムを書けば答えはわかる。
    • バグが出ると悲惨だが・・・

やってみた

1000
新車をもらった回数ヤギをもらった回数箱を変えない or 変える方針のもとで
新車がもらえる確率
箱を変えない戦略
箱を変える戦略

  • 箱を変えたときのほうが新車がもらえる確率が倍になっている?

コードとしてはこんな感じ

          var ncCars, ncGoats, dcCars, dcGoats = 0;
          var mt = new MersenneTwister();
          for (var i = 0; i < trials; ++i) {
            var answer = [false, false, false];
            answer[mt.nextInt(0, 3)] = true;
            var chosen = mt.nextInt(0, 3);
            // non-change policy
            if (answer[chosen]) ++ncCars; else ++ncGoats;
            // do-change policy
            if (answer[chosen]) ++dcGoats; else ++dcCars;
          }
          var ncProb = ncCars / (ncCars + ncGoats);
          var dcPorb = dcCars / (dcCars + dcGoats);
      

詳しく見てみる

箱を変えない戦略

          var ncCars, ncGoats, dcCars, dcGoats = 0;
          var mt = new MersenneTwister();
          for (var i = 0; i < trials; ++i) {
            ...
            // non-change policy
            if (answer[chosen]) ++ncCars; else ++ncGoats;
          }
      
  • 最初に車の場所を言い当てたら箱を変えるとヤギを引き当ててしまう。
  • でも無情報で当たりの箱を言い当てる可能性は低い。

詳しく見てみる

箱を変える戦略

          var ncCars, ncGoats, dcCars, dcGoats = 0;
          var mt = new MersenneTwister();
          for (var i = 0; i < trials; ++i) {
            ...
            // do-change policy
            if (answer[chosen]) ++dcGoats; else ++dcCars;
          }
      
  • 最初に間違えてヤギの場所を言い当てるとドアを変えたあとは車があるドアが開かれる。
  • そして最初に車よりもヤギを引き当てる可能性のほうが高い。

確率的には?

  • 何を事象として表すか?
    • 最初に選択したドアの後ろに何があるか
    • (「必ず箱を変える戦略を取る」か「必ず箱を変えない戦略を取る」か) ← これは入れるとわかりやすいかも
    • 最後に開かれた扉に何があるか
  • $H$: 最初に選択したドアの後ろに車があるという事象 (反対は $H^C$)
    • $P(H) = \frac{1}{3}$, $P(H^C) = \frac{2}{3}$
  • $F$: 最後に開かれたドアの後ろに車があるという事象 (反対は $F^C$)
    • $P(F) = ?$, $P(F^C) = ?$
  • $P(F)$ を求めたい

必ずドアを変えるとしたら...

  • $H$: 最初に選択したドアの後ろに車があるという事象 (反対は $H^C$)
  • $F$: 最後に開かれたドアの後ろに車があるという事象 (反対は $F^C$)
  • $P(F) = P(F,H) + P(F,H^C) = P(F|H)P(H) + P(F|H^C)P(H^C)$
    • 必ずドアを変えるので、最初に車があるドアを言い当てると最終的に車を逃す。つまり、$P(F|H)=0$。
    • 同様に、$P(F|H^C)$ = 1
  • $P(F) = 0 \times \frac{1}{3} + 1 \times \frac{2}{3} = \frac{2}{3}$
  • $P(F^C) = 1 - P(F) = \frac{1}{3}$

必ずドアを変えないとしたら...

  • $H$: 最初に選択したドアの後ろに車があるという事象 (反対は $H^C$)
  • $F$: 最後に開かれたドアの後ろに車があるという事象 (反対は $F^C$)
  • $P(F) = P(F,H) + P(F,H^C) = P(F|H)P(H) + P(F|H^C)P(H^C)$
    • ドアを変えないので、最初に車があるドアを言い当てると必ず車がもらえる。つまり、$P(F|H)=1$。
    • 同様に、$P(F|H^C)$ = 0
  • $P(F) = 1 \times \frac{1}{3} + 0 \times \frac{2}{3} = \frac{1}{3}$
  • $P(F^C) = 1 - P(F) = \frac{2}{3}$

モンティ・ホール問題の結果まとめ

新車がもらえる確率ヤギがもらえる確率
箱を変えない戦略$\frac{1}{3}$$\frac{2}{3}$
箱を変える戦略$\frac{2}{3}$$\frac{1}{3}$
  • ちなみにモンティさんがどのドアの後ろに車があるかを知らない場合(途中で終了がありえる場合)は、プレーヤーが箱を変えても変えなくても確率は変わりません。

まとめ

  • 「ベイズの定理」の前準備として、条件付き確率をおさらいしました。
  • 直感に反する場合があるので慣れが必要ですね。