ベイズの定理の証明!?意外と簡単な確率の計算でした!

教養・趣味・娯楽
Thomas Byayes 1702-1761

ベイズ推定・統計の基本となる、ベイズの定理
この定理、なんだかなじめないという人が、意外と多いんですよね。



Thomas Byayes 1702-1761

Thomas Byayes 1702-1761


ベイズ推定・統計を使いこなす「ベイジアン」になるには、まず、このベイズ確率の基本となる、ベイズの定理を覚えなくてはいけません。

132947この定理の証明は、とても簡単です。
また、意味が分かれば、簡単に覚えてしまいます。

ここでは、そんなベイズの定理の証明を、誰でも分かるように、確率の基礎から丁寧に、解説をしていきます。

勉強ではなく、ゲームの解説でも聞くような気楽な気持ちで、楽しんで見て下さい(笑)


スポンサーリンク

ベイズの定理

さて、まず最初にベイズの定理について、見てみましょう。


ベイズの定理

ベイズの定理


  • P(A) : A が起きる確率
  • P(B) : B が起きる確率(事前確率
  • P(A|B) : B の後でA が起きる確率(条件付き確率、尤度
  • P(B|A) : A の後でB が起きる確率(条件付き確率、事後確率

さて、それではこれを簡単に解説をしていきます。
まずは、ベイズの定理の理解に必要な確率の基本を、簡単におさらいしましょう。


スポンサーリンク

確率の基本

081805ベイズの定理は、覚え難そうに見えますが、確率の基本の乗法定理を組み合わせただけです。

まずは、乗法定理をしっかりと押さえておきましょう。


乗法定理(積の法則)

乗法定理を使う確率の問題は次の様なものがあります。


 確率乗法定理問題と解答

165674さて、この問題を見て分かるとおり、確率1/6 と 1/2のかけ算(乗法・積算)することで、確率が求められています。

でも、なぜ掛け算なんでしょうか?

これは、次の図を見れば分かります。


サイコロ乗法定理図

1回目で、確率1/6のものが、更に2回目で、その確率が半分(1/2)になるので、確率は1/12になります。

ここで、大事な事は、1回目に1、2回目に偶数という、二つの事象が同時に成り立つ確率は、それぞれの確率を掛け合わせればよいということです

164041これを、「同時確率」といいいますが、確率の乗法定理は、この同時確率を、求めるための公式です。

さて、それでは次の問題を見てみましょう。


スポンサーリンク

条件付確率:同時確率との関係


ある喫茶店が、店のニガイコーヒーに合うお菓子アマイーを作った。

1ヶ月間の売上げを見たところ、次の様な結果が出た。


 1ヶ月間の、お客様全員の数  300名 
 アマイーを注文したお客様の数  40名   
 ニガイコーヒーを注文したお客様の数  100名 
 ニガイコーヒーを注文して、アマイーを注文したお客様の数  20名

これを、ベン図で書くと、この様になります。 ベイズの定理ベン図


133946 さて、このデータをもとに、次に来たお客様について考えてみましょう。

ニガイコーヒーとアマイーの両方を注文する確率は、一体、どれくらいでしょうか?

これは、さっきのサイコロと同じで、同時確率を求めれば、いいですよね。


  1. ニガイコーヒーを注文する
  2. アマイーを注文する

この2つの事象が同時に成り立つ時の確率です。

答えは、簡単ですね。

全体の300のうち、両方を注文したお客様は20名なので、BとAの同時確率は、20/300 = 1/15 です。

120185 さて、ここからが、おもしろくなります(笑)


B と A の同時確率

 この同時確率は、次の2つを使って表現することができます。


  1. 全体の中で、ニガイコーヒーを注文したお客様の確率 
  2. ニガイコーヒーを注文したお客様で、アマイーを注文したお客様の確率
  • まず、番からです。
    お客様全員は300名で、その内、ニガイーコーヒーを注文したお客様は100名です。

    従って、確率は 300分の100

  • 続いて、番です。
    ニガイコーヒーを注文したお客様が100名、その中でアマイーも注文したお客様は20名です。

    従って、確率は100分の20

この1番と2番を使って、同時確率(ニガイコーヒーとアマイーの両方を注文する確率)を求めると・・・


約分112224

この100は、ニガイコーヒーを注文したお客様の数です。
一般化する為に、次の様に置き換えます 。


  • アマイー を注文 ⇒  事象A
  • ニガイーコーヒーを注文  ⇒ 事象 B

 ニガイコーヒーを注文する確率
066996B が起こる確立
066996 P(B)

ニガイコーヒーを注文したという条件で、アマイーを注文する確率
066996B が起きた後で A が起きる確率(条件付き確率)
066996P(A|B)

同時確率、これらを、掛け算すればよいので、次の様になります。


BとAの同時確率

 132442ここで、先ほどの、ベイズの定理を、もう一度見てみてください。

この同時確率の式が、そのままベイズの定理の「分子」の部分であることが分かると思います。

さて、それでは、いよいよベイズの定理の証明にいきましょう。


スポンサーリンク

ベイズの定理の証明

証明には、B と A の同時確率は、A と B の同時確率 から導きますが、これらは共に答えは同じです。

念の為、さっきの、ニガイコーヒー(B)と、アマイー(A)の例で見てみましょう。


A と B の同時確率

  1.   全体の中で、アマイーを注文したお客様の確率
  2.   アマイーを注文したお客様で、ニガイコーヒーを注文したお客様の確率
  • まず、番からです。
    お客様全員は、300名で、その内、アマイーを注文したお客様は40名です。

    従って、確率は300分の40

  • 続いて、番です。
    アマイーを注文したお客様は40名で、その中でニガイコーヒーを注文したお客様は20名です。

    従って、確率は40分の20

この1番と、2番を使って、同時確率(ニガイコーヒーとアマイーの両方を注文する確率)を求めると・・・ もう、お分かりですよね。


約分2138148

 この値は、さっきのB と A の同時確率の答えと同じですよね。


証明最終段階

さて、BとAの同時確率 = AとBの同時確率 という事がはっきりとしました。

改めて、この2つの、同時確率の条件付き確率から求める式を見てみましょう。


  • BとAの同時確率 = B の後でAが起きる確率  ×  Bが起きる確率
  • AとBの同時確率 = A の後でB が起きる確率  ×  Aが起きる確率
    150988

左辺同士がイコールなので、右辺同士もイコールですよね。
これを、次の様に一般式で書きます。


ベイズの定理最終


  • P(A) : A が起きる確率
  • P(B) : B が起きる確率(事前確率と呼ぶ)
  • P(A|B) : B の後でAが起きる確率(条件付き確率・尤度と呼ぶ)
  • P(B|A) : A の後でB が起きる確率(条件付き確率・事後確率と呼ぶ)

133951 お疲れ様でした、ベイズの定理の完成です!

ベイズの定理といっても、確率の乗法定理を組み合わせて、変形させただけなんです。

乗法定理の、同時確率が条件付き確率をかけて求めるというところが、分かっていれば、何ということはないですよね。


スポンサーリンク

まとめ

Checkベイズの定理の証明

    同時確率と条件付き確率  

BとAの同時確率 =
B の後で A が起きる確率(条件付き確率) ×  Bが起きる確率

BとAの同時確率 = AとBの同時確率

つまり・・・
B の後で A が起きる確率(条件付き確率) × Bが起きる確率は、
A の後で B が起きる確率(条件付き確率)× Aが起きる確率と同じ。

これを一般式にして、両辺をP(A)で割る


ベイズの定理最終
スポンサーリンク

あとがき

084160ベイズ確率って、最近のトレンドの様に使われているので、少なくとも20世紀後半に誕生したのかと思っていました。

このベイズさんって、1702年生まれなんで驚きました。

実際に、ベイズ確率が広まったのは、その後、ラプラスによって18世紀後半から19世紀にかけてのようですね。

時代が、こう目まぐるしく変化し、次から次へと新製品が出てきたり、新しいシステムが出来たりすると、故障率や、何か経営戦略的な数値を出すのも、従来の頻度に頼る確率・統計では対応できないですよね。

このベイズの定理を元とした、ベイズ推定やベイズ統計などが、本当に今はメジャーですよね。

ベイズの定理については、他にも投稿があるので、よろしければそちらもご覧下さい。
ベイズ推定!例題でモンティ・ホール問題を解いてみた

コメント