アクチュアリーはデータサイエンスの夢を見るか?

Rで保険数理と機械学習をやっています

【ベイズ推定入門】「二度あることは三度ある」確率はXX%

本記事はベイズ推定の入門記事です。ベイズ推定を用いて「二度あることは三度ある」確率を定量的に評価し、どんな場合に「三度目の正直」の方が信頼できるかを明らかにします。

1.ベイズ推定でできること

日本語には「二度あることは三度ある」「三度目の正直」という一見すると矛盾したことわざがあります。国語の授業で勉強した際に、どちらが正しいのか疑問に思った方も多いのではないでしょうか。

これらのことわざは「同じ事象が2度繰り返された」という状況において全く逆の示唆を与えますが、その使い分けは話者にどれだけ自信があるかに依存しています。

例えば、4番打者のAさんが2打席連続で三振したときには、次の打席こそヒットを打つという意味を込めて「三度目の正直」を用いるでしょうし、反対にうっかり者のBさんが2回連続で宿題を忘れていたら「二度あることは三度ある」を使うことになるでしょう。

このように私たちがことわざを使い分ける際には、「4番打者が三振する確率は低い」、「うっかり者は宿題を忘れやすい」といった「主観」をベースに「同じ事象が2度繰り返された」という「情報」を織り込んで確率を評価しています。

このように「主観」「情報」を用いて確率を定量的に評価するのに適しているのがベイズ推定です。

下図は2パターンの「主観」に基づきベイズ推定を行った例になります。

f:id:r_std:20190627075432p:plain
ベイズ推定では「主観」に「情報」を織り込んで確率を評価することができる
上段は平均25%失敗するという「主観」を持つ場合の一例、下段は平均75%失敗するという「主観」を持つ場合の一例を示します。

それぞれの「主観」に2連続で失敗したという「情報」を織り込むと、「主観」を示す水色の分布は右へシフトし、オレンジ色の分布へと変化します。このシフトは失敗する確率が高く評価されるようになったことを意味しています。

上段は平均33%失敗するという「評価」へ、下段は平均78%失敗するという「評価」へ変化しています。このように「主観」の違いによって「評価」が分かれていることが見て取れます。

今回はこのようなベイズ推定を利用して、「二度あることは三度ある」確率と「三度目の正直」となる確率を比較してみます。

2.「二度あることは三度ある」確率

上記の図が示すように、たとえ与えられた「情報」が同じだとしても、前提とする「主観」が異なれば「評価」は大きく異なってしまいます。
ここでは、2種類のパターンを考えてみます。

2.1.全く見当がつかない場合

ここでの「全く見当がつかない」とは、失敗する確率が全く推測できないことを意味します。言い換えれば、失敗する確率が0%から100%のいずれであってもおかしくない場合を仮定します。

この場合、「主観」の分布は平らな分布になります。下の図でみると「主観」を示す水色の分布は一直線となり、山がない状態になっています。

f:id:r_std:20190624071952p:plain
失敗する確率が0%から100%まで等しくあり得るという前提の下でのベイズ推定の例
この前提の下でベイズ推定すると、「二度あることは三度ある」確率は75%となります。平らだった「主観」の分布が「情報」の追加によって、大きく右に偏った「評価」の分布に変化していることが分かります。

2.2.ある程度見当がついている場合

逆のケースとして、失敗する確率にほぼ見当がついている場合を考えてみます。

例えばコイン投げをして裏が出る確率はほぼ50%と考えられますが、たまたま2回連続で裏が出た場合にも、次に裏が出る確率はやはり50%程度のはずです。

この場合、「主観」の分布は尖っている分布になります。下の図でみると「主観」を示す水色の分布は50%近傍で尖っています。

f:id:r_std:20190627072444p:plain
失敗する確率がほぼ50%近傍という前提の下でのベイズ推定の例
尖った「主観」の分布に対して「情報」を追加しても、「評価」の分布は大きく動かないことが分かります。

これらの結果から全く見当がつかない場合には「二度あることは三度ある」確率は75%であることが分かります。

3.ベイズ推定とベイズの定理

ベイズ推定の一例を見ていただいたところで、算出過程を解説します。
f:id:r_std:20190624061800p:plain
これまで、「主観」、「情報」、「評価」と呼んでいたものは、ベイズ統計の言葉に置き換えると、「事前分布」、「観測値(尤度)」、「事後分布」になります。

先ほどの「全く見当がつかない場合」の例に言葉を当てはめると、次の通りになります。
f:id:r_std:20190628053727p:plain


ここでベイズの定理を見てみましょう。
{\displaystyle P(B|A) = \frac{P(A|B)P(B)}{P(A)} \\\ }
今回の連続分布の例に合わせて書き換えると次のように表すことができます。
{\displaystyle f( \theta |x) = \frac{f(x| \theta )f(\theta)}{f(x)} = \frac{f(x| \theta )f(\theta)}{ \int_{\Theta}f(x| \theta )f(\theta)d\theta } \\\ }
この式から、ベイズの定理は事後分布と尤度、事前分布の関係性を示していることが分かります。

これを用いると、先ほどの75%を次の通り導出することができます。
{\displaystyle f(\theta | X_{1}=1, X_{2}=1)=\frac{P(X_{1}=1, X_{2}=1 | \theta )f(\theta)  }{P(X_{1}=1, X_{2}=1)}  \\\ }
{\displaystyle =\frac{P(X_{1}=1, X_{2}=1 | \theta )f(\theta) }{\int ^{1}_{0} P(X_{1}=1, X_{2}=1| \theta) f(\theta) d \theta}  \\\ }
{\displaystyle =\frac{\theta ^{2} \cdot 1 }{\int ^{1}_{0}\theta ^{2} \cdot 1 d \theta}=3 \theta ^{2}  \\\ }

{\displaystyle E \langle \Theta | X_{1}=1, X_{2}=1 \rangle = \int ^{1}_{0} \theta \cdot f(\theta | X_{1}=1, X_{2}=1) d\theta  \\\ }
{\displaystyle = \int ^{1}_{0} \theta \cdot 3 \theta ^{2} d\theta= \frac{3}{4}=75\% \\\ }

4.ベイズの定理の意味するところ

改めてベイズの定理を眺めてみます。
{\displaystyle f( \theta |x) = \frac{f(x| \theta )f(\theta)}{f(x)} = \frac{f(x| \theta )f(\theta)}{ \int_{\Theta}f(x| \theta )f(\theta)d\theta } \\\ }
これを簡略化した書き方は次のようになります。(∝は比例関係を示す記号)
{\displaystyle f( \theta |x) \\\ }{\displaystyle f(x| \theta )f(\theta) \\\ }

この式からは2つの示唆が得られます。

1つ目は、式の通り求めたい事後分布が尤度と事前分布の積に比例すること。すなわち、求めたい分布は「情報」と「主観」から得られるということ

2つ目は、求めたい事後分布が観測値の更新によって変化すること。すなわち、観測したデータが増えて「情報」が更新されると、その都度求めたい分布が洗い替えられるということ。こちらはベイズ更新ともいわれ、前述の例では次の図の通りになります。

f:id:r_std:20200224072026p:plain
ベイズ更新の例:失敗が繰り返された場合
失敗が繰り返された場合、事後分布の更新に伴って分布が右に偏っていくことが見て取れます。

5.「二度あることは三度ある」確率 VS 「三度目の正直」の確率

最後に「三度目の正直」となる確率と「二度あることは三度ある」確率を比較してみます。どのような事前分布を仮定する場合に、「三度目の正直」となる確率の方が大きくなるかを求めます。

「二度あることは三度ある」確率を{\displaystyle P(X_{3}=1 | X_{1}=1, X_{2}=1)  \\\ }とすると、
{\displaystyle P(X_{3}=1 | X_{1}=1, X_{2}=1)=\frac{P(X_{1}=1, X_{2}=1, X_{3}=1 )}{P(X_{1}=1, X_{2}=1)}  \\\ }
{\displaystyle =\frac{\int ^{1}_{0} P(X_{1}=1, X_{2}=1, X_{3}=1 | \theta )  f(\theta) d \theta }{\int ^{1}_{0} P(X_{1}=1, X_{2}=1| \theta ) f(\theta) d \theta}  \\\ }
{\displaystyle =\frac{\int ^{1}_{0} \theta ^{3} f(\theta) d \theta }{\int ^{1}_{0} \theta ^{2} f(\theta) d \theta} =\frac{E \langle \Theta ^{3} \rangle }{E \langle \Theta ^{2} \rangle }  \\\ }となります。

これが50%を下回ればよいので、事前分布が{\displaystyle 2E \langle \Theta ^{3} \rangle - E \langle \Theta ^{2} \rangle <0  \\\ }を満たせば、「三度目の正直」の確率が高いと評価できることが分かります。

この式に定性的な意味づけを与えることは難しいですが、簡単のため「一度あることは二度ある」確率を考えてみると、
{\displaystyle \frac{E \langle \Theta ^{2} \rangle }{E \langle \Theta \rangle }= \frac{\sigma ^{2} + \mu^{2}}{\mu} \\\ }が50%を下回れば「二度目の正直」の確率が高いということになります。

{\displaystyle \Theta \\\ }の真の期待値である{\displaystyle \mu \\\ }だけでなく、分散である{\displaystyle \sigma ^{2} \\\ }も十分に小さい場合、つまり「主観」として持っている失敗する確率が平均もばらつきも十分に小さい場合には「二度目の正直」と言えることが示唆されます。

6.最尤推定との比較とベイズ推定の利用方法

観測データが少ない場合(すなわち「情報」が少ない場合)には、ベイズ推定は利用しやすいと言えます。「二度あることは三度ある」確率 を最尤推定で求めると2/2=100%となってしまいますが、事前分布を設定できるベイズ推定を利用すれば、「主観」を取り入れて柔軟に評価を行うことができます。

ベイズ推定は保険数理においても利用されることがあります。例えば損害保険商品の保険料について、新規契約者と無事故歴の長い契約者との間で較差を設ける際にベイズ統計が利用されることがあります。

ビッグデータの利用が叫ばれる今日ですが、個別ユーザーに関する少量のデータに対しては、ベイズ推定でうまく補完を行うことが重要になるかもしれません。