確率・分布●●●●○

頻度主義とベイズ主義

Frequentist vs Bayesian ・ ひんどしゅぎとべいずしゅぎ

確率を長期の頻度と見るか信念の度合いと見るか。統計学の二大流派の対立軸

✦ 30秒で試す — 航海「効く確率92%」と言える流派と、言えない流派がある真の効果が2〜8にある確率は95%と言える?予想してみる

概要

頻度主義とベイズ主義は、「確率とは何か」という解釈をめぐる統計学の二大流派です。頻度主義は確率を「同じ試行を何度も繰り返したときの長期的な頻度」と捉えます。コインの表が出る確率が0.5であるとは、無限に投げ続ければ表の割合が0.5に収束する、という意味です。一方ベイズ主義は確率を「命題をどれくらい確からしいと信じるかの度合い」と捉えます。この立場なら「明日の降水確率」や「この仮説が正しい確率」のように、繰り返せない一回きりの事柄にも確率を割り当てられます。

この解釈の違いは哲学談義にとどまらず、推測の道具立てをまるごと分けます。頻度主義では母数(母平均などの知りたい真の値)は「固定された未知の定数」であり、確率的に揺れるのはデータの側です。そこから仮説検定や信頼区間といった、20世紀の統計学の標準装備が生まれました。ベイズ主義では逆に、手元のデータは所与とし、母数の側に確率分布を割り当ててベイズの定理で更新していきます。これがベイズ推論の枠組みです。

どちらが正しいかという百年来の論争は、現代では「使い分け」に落ち着きつつあります。両者の前提と答えられる問いの違いを知っておくことは、p値や信頼区間の誤読を避けるうえでも、ベイズ的な手法を適材適所で選ぶうえでも欠かせない教養です。

なぜ生まれたか

歴史的にはベイズ的な発想のほうが先でした。18世紀のベイズと19世紀のラプラスは、「結果から原因の確率を逆算する」逆確率の方法で、母数に確率分布を割り当てる推論を実践していました。しかしこの方法には「データを見る前の確率(事前分布)をどう決めるのか」という急所があります。何も知らないからと一様分布を置いても、母数の表し方を変えれば一様でなくなる。この恣意性が「科学の道具に主観を持ち込むのか」という批判を招きました。

20世紀前半、フィッシャー、ネイマン、ピアソンらはこの批判に応える形で、事前分布を使わない客観的な手続きとして統計学を組み立て直しました。母数は定数とみなし、「データの側の確率」だけで議論する。最尤法、p値を使う有意性検定、信頼区間はいずれもこの路線の産物で、誰が計算しても同じ答えになる再現可能な手順として科学界の標準になりました。

一方で頻度主義は「仮説が正しい確率」を直接語れず、少数データへの弱さや事前知識を活かせない不便さも抱えていました。ベイズ主義は理論の整備が進んでいたものの、事後分布の計算に高次元の積分が必要で、長らく実用の壁がありました。1990年代にMCMCと計算機の性能向上がこの壁を崩したことで、ベイズ的手法は機械学習やデータ分析の現場に本格復帰し、二つの流派が道具として併存する現在の姿になりました。

詳細

何が固定で、何が確率的か

両者の違いを一言で言えば「不確かさをどちら側に置くか」です。頻度主義では、母数θは真の値がただ一つある定数で、確率的なのは標本抽出のたびに変わるデータです。「95%信頼区間」は「同じ手順で区間を作ることを何度も繰り返せば、95%の割合で真のθを含む」という手順の性質であって、目の前の一つの区間にθが95%の確率で入っているという意味ではありません。ベイズ主義では、データは既に観測された事実として固定し、まだ分からないθの側に分布を置きます。だから「θがこの区間にある確率は95%」と、多くの人が直感的に欲しい形の答え(信用区間)を直接言えます。

頻度主義 — θは固定、データが揺れるベイズ主義 — データは所与、θに分布真のθ(未知の定数)標本を取り直して作った区間20本のうち19本(95%)がθを含み、赤の1本が外れる。1本ごとには当否しかないθの事後分布95%θ(確率変数として扱う)手元の1組のデータから、θの分布そのものを得る。「θがこの範囲にある確率は95%」と直接言える
頻度主義とベイズ主義 — 不確かさを「データ側」に置くか「母数側」に置くか

図の左側は、同じ母集団から標本を20回取り直して、そのたびに95%信頼区間を作った様子です。19本は真のθをまたぎ、赤の1本だけが外れています。「95%」はこの本数の割合についての保証であって、自分が手にしている1本がどれかは分かりません。右側のベイズ主義は、手元の1組のデータから、θそのものについての分布を1つだけ作ります。

答えている問いが違う

頻度主義の検定が答えるのは「仮説が正しいとしたら、このデータ以上に極端な結果はどれくらい珍しいか」であり、p値はその珍しさの指標です。「仮説が正しい確率」ではありません。この取り違えはp値の誤用の最大の温床ですが、頻度主義の枠内ではそもそも「仮説の確率」という問いが立てられない(仮説は確率変数ではない)ことを理解すると腑に落ちます。ベイズ主義では事前分布と事後分布の枠組みで「データを見た後、仮説Aと仮説Bのどちらがどれだけ確からしいか」をベイズファクターや事後確率として直接比較できます。欲しい答えの形が、流派の選択を左右するのです。

違いがはっきり出る例が「いつ実験をやめるか」です。同じ「20回中15回成功」というデータでも、「最初から20回と決めていた」場合と「5回失敗するまで続けた」場合とでは、頻度主義のp値は異なります。p値は「実際には起きなかったが起こり得た結果」まで含めた確率なので、実験者の意図(停止規則)に依存するからです。ベイズ主義の事後分布は観測されたデータの尤度だけで決まるため、どちらの場合も同じになります(尤度原理)。これは頻度主義では途中で結果を覗いて止めると誤りが増える理由であり、ベイズ流の逐次判断が好まれる理由でもあります。ただしベイズでも、覗きながら都合のよいところで止めれば、事前分布とモデルの誤りが隠れたまま結論が偏る危険は残ります。

それぞれの強みと弱み

頻度主義の強みは手続きの客観性です。事前分布という入力が不要なため、規制当局への提出や学術論文のように「誰が計算しても同じ結論」が求められる場面で標準であり続けています。大数の法則が働く程度にデータが十分にあれば、性能も安定します。弱みは、少数データで不安定なこと、逐次的にデータが増える状況が苦手なこと(途中経過を何度も検定すると、多重比較と同じ理屈で誤りの確率が膨らむ)、そして先述のとおり「仮説の確率」に答えられないことです。

ベイズ主義の強みは、事前知識を明示的に取り込めること、データが少なくても「不確かさが大きい」という形で誠実な答えを返せること、データが届くたびに事後分布を更新し続ける逐次推論が自然にできることです。弱みは事前分布の選択に説明責任が生じることと、複雑なモデルでは事後分布の計算にMCMCのような重い数値計算が必要になることです。

実務では対立よりも使い分け

現代のデータ分析では、両者は宗派ではなく道具箱の別の引き出しです。臨床試験の主解析や品質管理の定型的な検定は頻度主義、A/Bテストの逐次的な意思決定、グループ構造を持つデータの階層モデル、事前知識が豊富な少数データ問題はベイズ、という住み分けがよく見られます。また最尤法による推定は、平坦な事前分布を置いたベイズ推定の最頻値(MAP推定)と一致するなど、両者は理論的にも地続きです。二つの視点を往復できることは、どちらか一方だけを信じることよりずっと価値がある — それがこの対立軸を学ぶ最大の理由です。

試問

✦ 命題挑戦中

新薬の効果を調べる研究で出てくる8つの言明・手続きを、頻度主義とベイズ主義のどちらの考え方かで仕分けよ

頻度主義母数は定数、確率はデータの側に
ベイズ主義母数に確率分布を置いて更新する

項目を選んでから、入れる箱を選びます