ベイズの定理
Bayes' Theorem ・ べいずのていり
結果から原因の確率をさかのぼる定理。証拠で信念を更新する計算規則
概要
ベイズの定理は、条件付き確率の向きを逆転させる定理です。「原因があるとき結果が起きる確率」から「結果が観測されたとき、その原因である確率」をさかのぼって計算します。たとえば「病気ならば検査で陽性になる確率」は臨床試験で分かりますが、患者が本当に知りたいのは逆向きの「陽性だったとき、実際に病気である確率」です。この2つは直感に反してまったく別の値になり得ます。その橋渡しをするのがベイズの定理です。
定理の中身を言葉で書くと、「仮説の事後確率は、事前確率 × その仮説のもとで証拠が観測される確率(尤度)に比例する」となります。証拠を見る前の信念(事前確率)に、証拠との整合度(尤度)を掛けて、証拠を見た後の信念(事後確率)へ更新する — つまりベイズの定理は「証拠によって信念を更新する計算規則」だと言えます。
この「更新」という見方が、ベイズの定理を単なる公式以上の存在にしています。迷惑メールフィルタ、医療診断、機械学習の分類器、A/Bテストのベイズ流評価まで、「データを見て考えを改める」あらゆる推論の数学的な骨格がここにあります。
なぜ生まれたか
18世紀までの確率論は「原因から結果へ」の一方通行でした。「歪みのないサイコロを振ったら6が出る確率」のように、仕組み(原因)が分かっている前提で結果を予測することはできても、科学や実生活の問いはたいてい逆向きです。「観測されたデータから、その背後の仕組みについて何が言えるか」— この「逆確率」の問題には計算の枠組みがありませんでした。
イギリスの牧師トーマス・ベイズは、この逆向きの推論を確率の計算に載せる方法を考え、その論文が死後の1763年に発表されました。のちにラプラスが独立に同じ原理へ到達し、一般的な形に整備して天文学の観測データ解析などに応用します。「結果から原因を推し量る」ことが確率計算になったことで、確率論は賭け事の予測から「データにもとづく科学的推論」の道具へと役割を広げました。ただし「事前確率をどう決めるか」に主観が入り得るため、20世紀には頻度主義(確率を長期的な頻度とみなす立場)との間で統計学を二分する論争が続き、計算機の発達した20世紀末以降、ベイズ流の手法は機械学習の隆盛とともに主流の一角へ返り咲きました。
詳細
定理のかたち
記号で書くと P(A|B) = P(B|A) × P(A) ÷ P(B) です。A を仮説(病気である、迷惑メールである)、B を証拠(陽性が出た、特定の単語を含む)と読むと、それぞれの部品には名前が付いています。P(A) が事前確率(証拠を見る前に仮説を信じる度合い)、P(B|A) が尤度(仮説が正しいときにその証拠が観測される確率)、P(A|B) が事後確率(証拠を見た後の信じる度合い)。分母の P(B) は「その証拠があらゆる経路で観測される確率の合計」で、事後確率の合計を1に揃える正規化の役割を果たします。
具体例 — 検査陽性でも病気とは限らない
定理の威力と直感の危うさが最もよく分かるのが、検査の例です。有病率 1%(10,000人に100人)の病気に対し、感度99%(病気なら99%陽性)、偽陽性率5%(健康でも5%は誤って陽性)の検査を考えます。確率のまま計算するより、10,000人の集団に置き換えて数え上げると見通しがよくなります。
「感度99%の検査で陽性」と聞くと99%病気だと感じますが、事後確率は約17%。病気の人が少ない(事前確率が低い)ため、たとえ偽陽性率が5%でも、健康な多数派から出る偽陽性の人数が真陽性を圧倒するのです。事前確率を無視してこの尤度99%に飛びつく誤りは基準率の錯誤と呼ばれ、医療だけでなく異常検知や監査など「まれな事象を探す」あらゆる場面で繰り返されている落とし穴です。
下の部品で有病率・感度・偽陽性率を動かすと、事後確率が「検査の性能」よりも事前確率に強く支配される様子を確かめられます。
陽性者 594人の大半(495人)は健康な多数派から出た偽陽性です。感度99%と聞くと「陽性なら99%病気」と感じますが、事前確率が1%と低いため事後確率は16.7%止まり — これが基準率の錯誤です。
逐次更新 — 事後確率は次の事前確率になる
ベイズの定理の実用上の要は、更新を繰り返せることです。1つ目の証拠で得た事後確率を、2つ目の証拠に対する事前確率として使えば、証拠が届くたびに信念を積み上げ式に精緻化できます。先の例なら、1回目の陽性で 1% → 17% に上がった確率は、独立した2回目の検査も陽性なら約80%まで上がります。迷惑メールフィルタが単語を1つずつ読んで「迷惑メールらしさ」を更新していくのも、この逐次更新そのものです。
ベイズ統計という立場
ベイズの定理自体は条件付き確率から数行で導ける、誰も異論のない数学的事実です。論争的なのは、これを推測統計の原理に据えるベイズ統計という立場です。頻度主義の仮説検定が「仮説を固定してデータの出方を確率で評価する」(p値は「仮説が正しい確率」ではありません)のに対し、ベイズ統計は「パラメータや仮説そのものに確率を与え、データで更新する」ことを許します。その結果「この仮説が正しい確率は92%」という、直感的に欲しかった形の答えが出せる一方、出発点の事前確率の選び方に分析者の判断が入ります。かつては計算の困難さも壁でしたが、モンテカルロ法にもとづく計算手法(MCMC)と計算機の進歩で実用化が進み、現在では頻度主義と並ぶ標準的な選択肢として、A/Bテスト・自然言語処理・医療統計などで広く使われています。
