確率・分布●●●●●

ベイズファクター

Bayes Factor ・ べいずふぁくたー

2つの仮説のもとでのデータの起こりやすさの比。ベイズ流の仮説比較指標

✦ 30秒で試す — 航海同じ20回中14回の表が、仮説しだいで賛成にも反対にもなるこの結果をよく予測できていたのは、どちらの仮説?予想してみる

概要

ベイズファクターは、2つの仮説(モデル)を比べるとき、「観測されたデータを、どちらの仮説がどれだけうまく予測していたか」の比で表す指標です。仮説H1のもとでそのデータが得られる確率を、仮説H0のもとでデータが得られる確率で割った値で、たとえばベイズファクターが10なら「このデータはH1のもとでH0の10倍起こりやすかった。データはH1を支持する証拠だ」と読めます。

これはベイズ推論を「パラメータの推定」ではなく「仮説の比較」に使うときの中心的な道具です。頻度論の仮説検定が「帰無仮説を棄却できるか」という非対称な二択で答えるのに対し、ベイズファクターは2つの仮説を対等に扱い、証拠の強さを連続量として返します。「H0を支持する証拠がある」という、頻度論の検定では原理的に言えない結論も出せるのが大きな特徴です。

心理学をはじめとする実験科学でp値への批判が高まって以降、その代替・補完としてベイズファクターを報告する研究が増えており、統計ソフトJASPなどの普及で計算の敷居も下がっています。ただし、事前分布の置き方に結論が左右されるという固有の難しさもあり、「p値の上位互換」として無条件に使える道具ではありません。

なぜ生まれたか

頻度論の仮説検定には、構造的なもどかしさがあります。p値は「帰無仮説が正しいとしたら、このデータ以上に極端な結果が出る確率」であって、本当に知りたい「データを見た今、どちらの仮説がどれくらい確からしいか」には答えてくれません。しかも検定は帰無仮説を棄却するか保留するかの二択で、「差がないことを積極的に支持する」ことができない。さらにデータを増やせばどんな微小な差でもいずれ有意になるため、証拠の強さの尺度としては使いにくいものでした。

1930年代、地球物理学者でもあったハロルド・ジェフリーズは、ベイズの定理を仮説そのものに適用することでこの問題に答えました。仮説の事前の確からしさの比(事前オッズ)に、データがもたらす更新係数を掛ければ、データを見たあとの確からしさの比(事後オッズ)が得られる。この更新係数 — 事前の信念とは独立に「データが証拠としてどちらをどれだけ押すか」だけを取り出した部分 — がベイズファクターです。信念の主観的な部分(事前オッズ)と、データが語る部分(ベイズファクター)を分離できたことが、この指標を論文で報告できるものにしました。1995年にはカスとラフテリーの総説がベイズファクターの計算法と解釈の目安を整理し、応用分野に広める転機になっています。

詳細

事前オッズを更新する係数として

ベイズファクターの位置づけは、オッズ(確からしさの比)で書いたベイズの定理を見ると明快です。データDを観測したあとのH1とH0の事後オッズは、事前オッズにベイズファクターを掛けたものになります。つまり「事後オッズ = ベイズファクター × 事前オッズ」。ベイズファクターは、データが信念の天秤をどちらへ何倍傾けたかを表す係数です。表記は BF₁₀(H1 を分子にしたもの)と BF₀₁(その逆数)の2通りがあるので、どちら向きの比かを必ず明記します。

事前オッズデータを見る前のH1 と H0 の確からしさの比ベイズファクターP データ | H1P データ | H0データが天秤を傾ける倍率事後オッズデータを見たあとの確からしさの比×=主観的な信念の部分と、データが語る証拠の部分を分離できる
ベイズファクターの位置づけ — 事前オッズをデータの証拠で更新して事後オッズを得る

分子と分母に現れる「その仮説のもとでのデータの確率」は周辺尤度(marginal likelihood)と呼ばれます。仮説がパラメータを持つ場合、特定のパラメータ値での尤度ではなく、事前分布で重み付けしてパラメータ全体で平均した尤度を使います。最尤推定のように最も都合のよい1点だけで評価するのではなく、仮説が主張する範囲全体での「平均的な予測の当たり具合」で評価する — これがベイズファクターの本質です。

具体例で見てみます。コインを20回投げて表が15回出たとします。H0「公正なコイン(表の確率 p はちょうど0.5)」のもとで表がちょうど15回になる確率は約0.015です。H1「p は0から1のどこでもありうる(一様な事前分布)」のもとでは、p で平均すると表の回数は0〜20回のどれも等しく 1/21 ≈ 0.048 の確率になります。したがって BF₁₀ ≈ 0.048 ÷ 0.015 ≈ 3.2 で、データはH1を「まずまず」支持します。同じデータの両側p値は約0.041で、5%水準なら「有意」です。p値が有意でも、証拠としてはそれほど強くない — この食い違いは後で見るリンドレーのパラドックスにつながります。

証拠の強さの読み方

ベイズファクターは連続量ですが、解釈の目安としてジェフリーズに由来する慣例的な区分がよく使われます。1〜3は「言及に値する程度」、3〜10は「まずまずの証拠」、10〜30は「強い証拠」、30〜100は「非常に強い証拠」、100超は「決定的」。逆に1未満はH0側を支持し、たとえば0.1は「H0を支持する強い証拠」です。1に近い値は「このデータではどちらとも言えない」を意味し、証拠不足を証拠不足として正直に報告できます。これは検出力不足の実験で「有意でなかった」ことが何も語らないのと対照的です。先のコインで表が10回なら BF₀₁ ≈ 3.7 となり、「公正なコインを支持するまずまずの証拠」と積極的に言えます。

自然に組み込まれたオッカムの剃刀

周辺尤度で比較することには、複雑なモデルが自動的に罰せられるという美しい性質があります。仮説はデータを見る前に「どんな結果が出そうか」に確率を配っていると考えてください。配れる確率の総量は1と決まっているので、「p は何でもありうる」のような融通の利く仮説は、いろいろな結果に確率を薄く配らざるを得ず、実際に観測された特定の結果に割り当てられる確率は小さくなります。予測を絞った仮説は、その予測が当たったときに大きな見返りを得て、外れたときには大きく負けます。「同程度に説明できるなら単純な説明を選べ」というオッカムの剃刀が、外付けの罰則項なしで組み込まれているのです。

下の部品で、観測された表の回数 k を動かして確かめてください。k が10付近ならH0が勝ち、端に寄るほどH1が勝ちます。H1 の範囲を「何でもあり」から0.5〜0.7に絞ると、表が14回前後のときの勝ち方が大きく変わります。

⚡ 体験: 予測の当たり具合を天秤にかける
H1 の範囲
表の確率 p について各モデルが考える範囲00.250.50.751H0: p=0.5 だけ20回投げたときの表の回数 k の予測観測 k=140.037 / 0.048k=14 での証拠の天秤H0H1BF₁₀ = 1.29どちらとも言えない
P(k | H0)0.0370P(k | H1)0.0476BF₁₀ = 比1.29表の割合14/20

表 14/20 は表寄りに見えるのに、BF₁₀ は 1.29。H1 は「何でもあり」と予測を 0〜20 に薄く広げたので、当たっても見返りが小さいのです。上の範囲を0.5〜0.7 に絞ると?

棒 = 各モデルが「表の回数 k」に前もって賭けていた確率(予測分布)。天秤 = 観測した k での2本の棒の比(ベイズファクター)

落とし穴と実務上の注意

最大の注意点は、ベイズファクターが事前分布に敏感なことです。信用区間のような推定はデータが増えれば事前分布の影響が薄れますが、ベイズファクターの分子・分母は事前分布で平均した量なので、対立仮説の事前分布を極端に広く取ると、それだけで対立仮説側の周辺尤度が下がり、帰無仮説が有利になります。とくに「情報がないから」と対立仮説の事前分布を限りなく広くすると、どんなデータでもH0が勝つという極端な結果になります(パラメータ推定では無害な「ほぼ平らな事前分布」が、仮説比較では使えない理由です)。「どんな効果の大きさをもっともらしいと考えるか」の設定が結論を左右するため、事前分布の根拠と感度分析(設定を変えても結論が変わらないかの確認)を添えるのが作法です。

この性質が劇的に表れるのがリンドレーのパラドックス(ジェフリーズ=リンドレーのパラドックス)です。1957年に統計学者デニス・リンドレーが指摘したもので、標本サイズがとても大きいとき、p値がちょうど0.04(5%水準で有意)になるようなデータでも、ベイズファクターはH0を強く支持しうる、というものです。理由は、大標本で p=0.04 になるのは効果がごく小さい(標準誤差の約2倍程度の)ときであり、「大きな効果もありうる」と予測を広げた対立仮説より、「効果はゼロ」と言い切った帰無仮説のほうが、その小さな差をうまく予測していたからです。どちらが正しいというより、2つの指標が別の問いに答えていることを示す例で、p値の「有意」を証拠の強さと読み替えてはいけない理由としてよく引かれます。

計算面では、周辺尤度は高次元の積分であり、MCMCで事後分布を近似するよりさらに難しい問題です。ブリッジサンプリングなどの専用手法や、単純な仮説対では共役事前分布による解析解が使われます。また、ベイズファクターはあくまで「候補に挙げた仮説どうしの相対比較」であり、両方の仮説が的外れなら、大きなベイズファクターも「ましなほう」を指しているに過ぎません。p値と同じく、単独の数字を儀式的に敷居値と比べるのではなく、効果量や推定結果と合わせて解釈することが大切です。

試問

コインを20回投げて、表が14回出ました。この観測は固定です。「表の確率 p はちょうど 0.5」という仮説 H0 と、「p はある範囲のどこか」という仮説 H1 を比べます。ベイズファクター BF₁₀ は、H1 が H0 の何倍この観測をよく予測していたかを表す数です。動かせるのは、H1 が考える p の範囲だけです。

✦ 命題挑戦中

表14回のデータはそのままに、H1 の範囲の置き方だけで、BF₁₀ を 4 以上にも 1/4 以下にもせよ

  • H1 の範囲を置いて、BF₁₀ ≥ 4(H1 が 4 倍以上よく予測していた)にする(いま 1.29)
  • 同じ k=14 のまま、範囲の置き方だけで BF₁₀ ≤ 1/4(H0 が 4 倍以上)にもする
⚡ 体験: 観測 k=14 のまま、H1 の範囲だけを動かす
H1 の範囲
表の確率 p について各モデルが考える範囲00.250.50.751H0: p=0.5 だけ20回投げたときの表の回数 k の予測観測 k=140.037 / 0.048k=14 での証拠の天秤H0H1BF₁₀ = 1.29どちらとも言えない
P(k | H0)0.0370P(k | H1)0.0476BF₁₀ = 比1.29表の割合14/20

表 14/20 は表寄りに見えるのに、BF₁₀ は 1.29。H1 は「何でもあり」と予測を 0〜20 に薄く広げたので、当たっても見返りが小さいのです。上の範囲を0.5〜0.7 に絞ると?

棒 = 各モデルが「表の回数 k」に前もって賭けていた確率(予測分布)。天秤 = 観測した k での2本の棒の比(ベイズファクター)