確率・分布●●●●●

信用区間

Credible Intervalしんようくかん

パラメータがその範囲にある確率を直接語れる、ベイズ版の区間推定

概要

信用区間は、ベイズ推論における区間推定です。データを観測したあとに得られる事後分布(パラメータの「今の信念」を表す確率分布)から、「パラメータがこの範囲に入っている確率が95%」と言える区間を切り出したものです。たとえば新しい施策のクリック率を推定して「95%信用区間は 3.2%〜4.8%」と言えば、それは文字どおり「クリック率がこの範囲にある確率が95%」という意味になります。

この「文字どおりの意味で読める」ことが信用区間の最大の特徴です。頻度論の信頼区間は見た目がよく似ていますが、「95%」の意味がまったく違います。多くの人が信頼区間を読むときに頭に浮かべる解釈 —「真の値がこの範囲にある確率が95%」— は、実は信頼区間では誤りで、信用区間でだけ正しい解釈です。

信用区間は、ベイズ推論の結果を一言で要約する定番の道具です。事後分布そのものは曲線であり情報が多すぎるため、実務では「事後平均(または中央値)と95%信用区間」という形で報告するのが標準的なスタイルになっています。

なぜ生まれたか

区間で推定値の不確かさを表したい、という要求自体は古くからありました。頻度論はこれに信頼区間で答えましたが、その定義は「同じ手続きを何度も繰り返したとき、作られる区間のうち95%が真の値を含む」という、手続きの性能についての回りくどい保証です。目の前の1つの区間について「真の値が入っている確率」を語ることは、頻度論では原理的にできません。パラメータは固定された定数であり、確率を持つ対象ではないからです。この「知りたいことに直接答えてくれない」もどかしさが、常に信頼区間につきまとってきました。

頻度論とベイズの立場の違いのうち、ベイズはパラメータそのものを確率変数として扱います。するとデータを見たあとのパラメータの分布 — 事後分布 — が定義でき、そこから確率95%を占める範囲を直接切り出せます。これが信用区間です。つまり信用区間は新しい発明というより、「区間推定に本来期待されていた素直な解釈」を、ベイズの枠組みが定義として成立させたものだと言えます。長らく計算の困難さから実用が限られていましたが、MCMCの普及で任意のモデルの事後分布からサンプルを取れるようになり、信用区間は日常的に使える道具になりました。

詳細

事後分布から区間を切り出す2つの流儀

信用区間の作り方には代表的な流儀が2つあります。1つ目は等裾区間(equal-tailed interval)で、事後分布の分位数を使い、下側2.5%点から上側2.5%点までを取る方法です。計算が簡単で、MCMCのサンプルがあればソートして両端を切るだけで得られるため、実務ではこちらが最もよく使われます。

2つ目は最高密度区間(HDI: Highest Density Interval)で、「確率95%を含む範囲のうち、幅が最も狭くなる区間」を取る方法です。事後密度が高い点だけを集めるので、区間の内側のどの点も外側のどの点より確からしい、という直感的な性質を持ちます。事後分布が左右対称なら両者はほぼ一致しますが、歪度の大きい非対称な分布では差が出ます。

最高密度区間 HDI — 同じ95%で幅が最も狭い等裾区間 — 両裾から2.5%ずつ切り落とす事後分布95%パラメータの値事後密度
事後分布と95%信用区間 — 非対称な分布では等裾区間とHDIがずれる

信頼区間との決定的な違い

信頼区間の95%は「区間を作る手続き」に付いた数字で、目の前の区間そのものには「真値を含むか含まないか、どちらかである」としか言えません。一方、信用区間の95%は目の前の区間に付いた数字で、「パラメータがこの中にある確率」をそのまま意味します。日常語の感覚に合うのは明らかに後者で、実際、信頼区間の誤読の多くは「信用区間のつもりで読んでしまう」ことから生じています。

ただし、この素直さには代価があります。信用区間は事前分布に依存します。事前分布の置き方が変われば事後分布が変わり、信用区間も動きます。データが十分に多ければ事前分布の影響は薄れ、信用区間と信頼区間は数値的にほぼ一致することが多いのですが、データが少ないときは「どんな事前知識を仮定したか」を明示して報告する誠実さが求められます。

実務での使い方と落とし穴

MCMC確率的プログラミングのツール(Stan、PyMCなど)を使う現代のワークフローでは、信用区間の計算は「事後分布からのサンプルを並べて分位点を取る」だけです。区間だけでなく「クリック率が4%を超える確率」のような任意の確率も同じサンプルから読み取れるのが、点推定より豊かなベイズ流の利点です。

落とし穴は主に2つあります。1つは、信用区間の素直な解釈に安心して、モデルや事前分布の妥当性の検討を省いてしまうことです。「95%の確率で区間内」という主張は、あくまで置いたモデルと事前分布が妥当である限りにおいて成り立ちます。もう1つは、信用区間が0をまたぐかどうかを仮説検定の有意・非有意のように白黒判定に使ってしまうことです。区間推定の利点は効果の大きさと不確かさを連続的に示せることにあり、二値判定に還元してしまうとp値の悪弊をベイズの言葉で再演することになります。仮説の比較そのものをしたい場合は、ベイズファクターという別の道具があります。