カイ二乗分布
Chi-Square Distribution ・ かいにじょうぶんぷ
標準正規の値の二乗和が従う分布。ばらつきの推測とカイ二乗検定の基盤
✦ 30秒で試す — 航海0前後の小さな値でも、二乗して足し続けると10を超えてくる合計が10を超える割合は?予想してみる概要
カイ二乗分布(χ²分布)は、標準正規分布に従う独立な値をいくつか二乗して足し合わせたときに現れる確率分布です。足し合わせる個数を「自由度」と呼び、これが分布の形を決める唯一のパラメータになります。二乗和なので値は必ず0以上で、分布は右に裾を引いた非対称な形をしています。
「なぜ二乗和の分布などが必要なのか」と思うかもしれませんが、統計でよく使う量の多くは、実は「標準化したずれの二乗和」の形をしています。標本の分散は平均からのずれの二乗和ですし、観測した度数と期待される度数の食い違いを1つの数にまとめるときも、ずれを二乗して足します。そうした「ずれの大きさの合計」が偶然だけでどこまで大きくなりうるかを教えてくれるのが、カイ二乗分布です。
具体的な出番は2つあります。ひとつは「ばらつき」の推測 — 標本の分散が母集団の分散からどれくらいずれうるかは、カイ二乗分布で記述されます。もうひとつは、サイコロの目の偏りを調べる適合度検定や、クロス集計表で2つの属性が関係しているかを調べる独立性の検定 — まとめてカイ二乗検定と呼ばれる手法です。アンケートで「性別と回答に関連があるか」を調べるとき、A/Bテストでコンバージョン率の差を検定するとき、その裏でp値を供給しているのがカイ二乗分布です。
なぜ生まれたか
19世紀末の統計学には、「このデータは理論どおりの分布とみなせるか」を客観的に判定する方法がありませんでした。観測度数と理論値のずれを眺めて「だいたい合っている」と主観で判断するしかなく、偶然のゆらぎとして許される範囲の線引きができなかったのです。カール・ピアソンは1900年、各カテゴリの「観測度数と期待度数の差」を二乗し期待度数で割って合計した統計量が、データが理論に従っている限り近似的にカイ二乗分布に従うことを示しました。ずれの大きさが分布のどのあたりに落ちるかを見れば、「このずれは偶然では説明しにくい」と確率の言葉で言えるようになった — 適合度検定の誕生です。分布そのものは、正規分布に従う誤差の二乗和の分布として、1870年代にヘルメルトらがすでに導いていましたが、それを「理論とデータの照合」という汎用の道具に仕立てたのがピアソンでした。
この発明は、後に仮説検定として体系化される考え方の先駆けであり、20世紀の科学に最も影響を与えた統計手法のひとつに数えられます。数値ではなくカテゴリ(性別、支持政党、購入の有無など)のデータに検定の道を開いたことも大きく、社会調査や疫学が「集計表を確率で読む」学問へ進む土台になりました。なお、ピアソンは独立性の検定で自由度の数え方を誤っており、それを1922年に正した(期待度数を推定するのに使った分だけ自由度を減らす)のはフィッシャーです。自由度という概念の重要さを示す逸話でもあります。
詳細
分布の形と自由度
自由度 k のカイ二乗分布は「標準正規分布に従う独立な値 k 個の二乗和」の分布で、平均は k、分散は 2k になります。平均が k になるのは、標準正規の値1つの二乗の期待値がちょうど1(分散の定義そのもの)だからです。山の頂上(最頻値)は k ≥ 2 のとき k − 2 にあり、平均 k より左に来ます。右に長い裾があるぶん、平均が頂上より右へ引っ張られるのです。
自由度1では、0の近くに確率が集中した急峻な形になります。標準正規の値 z は0の近くに出やすく、それを二乗するとさらに0へ押し込まれる(0.5 は 0.25 に、0.1 は 0.01 に)からです。自由度が増えるにつれて山が右へ移動し、左右対称に近づいていきます。二乗和は足し算なので、自由度が大きくなれば中心極限定理が効いて、平均 k・分散 2k の正規分布に近づく — と考えると形の変化が理解しやすくなります。下の部品で、z を2乗した棒が一列につながって χ² の値になり、それが積み上がって分布になる様子を確かめてください。
「1回」を押すと、標準正規分布から k 個の値 z を引きます。それぞれを2乗した長さの棒が一列につながり、その全長が1つの χ² の値として下に落ちます。
上: 標準正規分布と、引いた z。中: 各 z² を長さとする棒を一列につないだもの(全長 = χ²)。下: χ² のヒストグラム(中段と同じ目盛り)と理論の χ²(k) 分布
2乗の効き方にも注目してください。1つの z が 3 に外れただけで、その棒の長さは 9 になり、ほかの小さな z² をまとめて足したよりも長くなります。カイ二乗統計量が「どこか1か所の大きなずれ」に敏感なのは、この2乗のせいです。
適合度検定 — 理論とのずれを測る
ピアソンの適合度検定の手順はシンプルです。サイコロを600回振ったら、公平なら各目の期待度数は100回ずつ。実際の観測度数との差を目ごとに二乗し、期待度数で割って合計します。この統計量は、サイコロが公平である限り自由度5(カテゴリ数6 − 1)のカイ二乗分布に近似的に従うので、観測された値が分布の右裾の稀な領域に落ちれば「この偏りは偶然では説明しにくい」と判断できます。自由度が6ではなく5になるのは、6つの度数の合計が600に決まっているため、5つが決まれば最後の1つは自動的に決まるからです。度数分布さえ作れればどんなカテゴリデータにも適用でき、「データはこのモデルに従っているか」という問いに答える汎用の道具になっています。
独立性の検定 — クロス集計表を確率で読む
実務で最も出番が多いのは独立性の検定です。クロス集計表で「性別 × 商品購入の有無」のような2つの属性を集計したとき、もし2つが独立なら、各セルの期待度数は「行合計 × 列合計 ÷ 総数」で計算できます。観測度数とこの期待度数のずれをカイ二乗統計量にまとめ、自由度(行数 − 1)×(列数 − 1)のカイ二乗分布と照らし合わせる — ずれが偶然の範囲を超えていれば「2つの属性には関連がある」と結論します。2群 × 成功/失敗の2×2表なら、この検定は2つの割合の差を調べる z 検定と同じもので、カイ二乗統計量はちょうど z の2乗になります。A/Bテストのコンバージョン率の比較がカイ二乗検定で行われるのはこのためです。
分散の推測とほかの分布との関係
もうひとつの役割が、ばらつきそのものの推測です。正規分布に従う母集団(分散 σ²)から大きさ n の標本を取り、不偏分散 s² を計算すると、(n − 1)s² / σ² が自由度 n − 1 のカイ二乗分布に従います。自由度が n ではなく n − 1 なのは、ずれを測る基準に真の平均ではなく標本平均を使ったことで、ずれの二乗和が1つ分の「自由」を失うからです(n 個のずれの合計は必ず0になるので、独立に動けるのは n − 1 個)。この性質を使うと、分散の信頼区間や「工程のばらつきが規定値以内か」の検定が組み立てられます。
また、t分布は「標準正規分布に従う量を、カイ二乗分布に従う量を自由度で割った平方根で割ったもの」として定義され、分散の比を扱うF分布もカイ二乗分布同士(をそれぞれの自由度で割ったもの)の比から作られます。正規分布を根とし、カイ二乗分布・t分布・F分布が枝分かれする — この系譜が古典的な推測統計の理論の幹です。
使うときの落とし穴
カイ二乗検定は近似に基づく検定なので、期待度数が小さいセル(目安として5未満)があると近似が崩れます。その場合はカテゴリを併合するか、正確確率検定(フィッシャーの直接確率法)を使うのが定石です。また標本が非常に大きいと、実質的に無意味なほど小さな関連でも「有意」になってしまいます。p値だけを見ず、割合の差やクラメールのVのような効果量を添えて解釈する習慣が、カイ二乗検定を正しく使うコツです。検定が教えてくれるのは関連の「有無」だけで、関連の向きや因果までは語らないことにも注意が必要です。
分散の推測に使う場合の落とし穴は、正規分布の仮定への敏感さです。平均の推測(t分布)は母集団が多少正規分布から外れていても大きく崩れませんが、(n − 1)s²/σ² がカイ二乗分布に従うという性質は、裾の厚い分布ではあっさり崩れ、分散の信頼区間や検定の誤りの率が大きく狂います。ばらつきを検定したいときは、まずデータの分布の形を確かめ、必要ならブートストラップ法のような分布の仮定に頼らない方法を検討してください。
試問
標準正規分布(平均 0・標準偏差 1)から値 z を引いて2乗し、k 個足し合わせた値が χ²(カイ二乗)です。これを何度もくり返して積み上げると、χ² の分布の形が現れます。選べるのは、足し合わせる z² の個数(自由度)k だけです。
「1回」を押すと、標準正規分布から k 個の値 z を引きます。それぞれを2乗した長さの棒が一列につながり、その全長が1つの χ² の値として下に落ちます。
上: 標準正規分布と、引いた z。中: 各 z² を長さとする棒を一列につないだもの(全長 = χ²)。下: χ² のヒストグラム(中段と同じ目盛り)と理論の χ²(k) 分布
