中心極限定理
Central Limit Theorem ・ ちゅうしんきょくげんていり
元の分布が何であれ、標本平均の分布は正規分布に近づくという定理
✦ 30秒で試す — 航海山が二つの分布なのに、平均は谷に集まってくる何個ずつ平均すれば、平均の9割が0.4〜0.6に入る？予想してみる概要
中心極限定理は、「元のデータがどんな分布であっても、そこから取った標本の平均は、標本を大きくしていくと正規分布に近づく」という定理です。サイコロの出目のような平らな分布でも、所得のように大きく偏った分布でも、そこから何個か取り出して平均する、という操作を繰り返すと、平均値たちの分布はあの左右対称の釣鐘型に収束していきます。
これは統計学の中でも特別に強力な結果です。ふつう、何かを予測するには対象のことをよく知っている必要がありますが、この定理は「個々のデータの分布を知らなくても、平均の振る舞いだけは予測できる」ことを保証してくれます。母集団の形が不明でも、標本平均については正規分布の道具立てがそのまま使える — 信頼区間や仮説検定が分野を問わず通用するのは、この定理が土台にあるからです。
また、身長や測定誤差など自然界のさまざまな量が正規分布に従って見えるのはなぜか、という疑問への一つの答えでもあります。多数の小さな独立した要因が足し合わさってできる量は、個々の要因の分布によらず正規分布に近づく — 正規分布が「あちこちに現れる」理由を説明する定理でもあるのです。
なぜ生まれたか
18〜19世紀の天文学者たちは、同じ星を何度も観測して得た値が毎回微妙に食い違うという問題に悩んでいました。どの値を採用すべきか。直感的には「平均を取ればよい」のですが、その平均がどれくらい信頼できるのかを述べる理論がありませんでした。ド・モアブルがコイン投げの回数を増やすと二項分布が釣鐘型に近づくことを発見し（1733年）、ラプラスがそれを一般の分布に拡張して（1810年頃）、「誤差が積み重なった量は正規分布に従う」という誤差論の柱を打ち立てます。これが中心極限定理の原型です。ただし当時の議論は厳密さを欠いており、どんな条件なら成り立つのかが数学的に確定したのは、1901年のリャプノフ、1922年のリンデベルクらの仕事によってです。
20世紀に入ると、この定理は推測統計の存立条件そのものになりました。標本から母集団を推し量るには、「標本平均は真の値からどれくらいずれうるのか」を知る必要があります。母集団の分布を仮定せずにこの問いに答えられるのは、標本平均の分布が（元の分布によらず）正規分布に近づくと保証されているからです。全数調査できない現実と、それでも定量的に語りたいという要請の橋渡しとして、この定理は統計学の中心に据えられました。「中心」極限定理という名前は、1920年にポーヤが「確率論の中心的な極限定理」という意味で名付けたものです。
詳細
定理が言っていること
正確に述べるとこうなります。平均 μ、標準偏差 σ を持つ同じ分布から、互いに独立に n 個の値を取り出して標本平均 x̄ を計算するとします。このとき n を大きくしていくと、x̄ の分布は「平均 μ、標準偏差 σ/√n の正規分布」に近づきます。ポイントは3つあります。第一に、元の確率分布の形は何でもよいこと（分散が存在すれば十分です）。第二に、標本平均の分布の中心は母平均 μ に一致すること。第三に、そのばらつきは σ/√n、つまり標本を大きくするほど √n に反比例して狭くなっていくことです。この σ/√n は「標準誤差」と呼ばれ、推定の精度を表す最重要の量になります。
下の図は、右に大きく歪んだ指数分布（平均 1、標準偏差 1）から n 個を取ったときの標本平均の分布を、同じ横軸で縦に並べたものです。n=4 ではまだ右に裾が残りますが、n=16 では破線の正規分布とほとんど見分けがつきません。同時に、中心は 1 から動かず、幅は 1 → 0.5 → 0.25 と、n が4倍になるたびに半分になっています。精度を2倍にするにはデータが4倍要る、という √n の法則が目に見える形です。
大数の法則との違い
中心極限定理とよく並べられるのが大数の法則です。大数の法則は「n を大きくすると標本平均は母平均 μ に近づく」ことを述べます。これは行き先の話で、ばらつきの幅がゼロに縮んでいくことしか言いません。中心極限定理はその一歩先で、「近づく途中のずれは、どんな形で、どれくらいの大きさか」を述べます。ずれの大きさは σ/√n、形は正規分布です。大数の法則だけでは「1000人調べれば平均はだいたい合う」としか言えませんが、中心極限定理があると「±何ポイントの範囲に95%の確率で収まる」と幅を付けて言えるようになります。信頼区間が作れるのはこちらのおかげです。
サイコロで確かめる
具体例で追ってみます。サイコロ1個の出目は1から6が等確率の、完全に平らな分布です。ところがサイコロを2個振って平均を取ると、3.5付近が出やすい三角形の分布になります。7が出る組み合わせが最も多いのと同じ理屈です。5個の平均なら分布はさらに中央に集まり、30個の平均を何度も記録してヒストグラムを描くと、ほとんど正規分布と見分けがつかない釣鐘型が現れます。平らな分布のどこにも「釣鐘型」の情報は入っていないのに、平均を取るという操作そのものが釣鐘型を作り出す — ここにこの定理の不思議さと美しさがあります。
サイコロに限らず、どんな形の分布でも同じことが起きます。実際に標本を引いて、標本平均のヒストグラムが釣鐘型に育っていくのを確かめてみてください。
上の山から n 個の粒が降り、その平均が金色の1粒にまとまって下に落ちます。まず「1組ずつ」を何度か押して、次に「流す」で積み上げてみてください。
上: 元の分布（母集団）。中: 引いた n 個の値。下: 標本平均のヒストグラム
推測統計の土台として
この定理が実務で効くのは、信頼区間と仮説検定の計算を正当化する場面です。たとえば「標本平均 ± 1.96 × 標準誤差の範囲」で95%信頼区間を作る公式は、標本平均が正規分布に従うことを前提にしています。母集団が正規分布ならこの前提は厳密に成り立ちますが、現実のデータ — アクセス数、購買金額、応答時間 — の多くは歪んだ分布です。それでも標本がある程度大きければ、中心極限定理のおかげで標本平均は正規分布として扱ってよく、同じ公式がそのまま使えます。分野ごとにデータの分布は千差万別なのに、統計的推測の手続きが共通で済むのは、この定理が「分布の違い」を吸収してくれているからです。
経験則と限界
「n が30以上あれば正規分布とみなしてよい」という経験則がよく紹介されますが、これは目安にすぎません。元の分布の歪みが強いほど収束は遅く、所得分布のような極端に裾の重い分布では n=30 ではまったく足りないことがあります。逆に元の分布が対称に近ければ、n=10 程度でも十分よく近似できます。また定理には前提条件があります。各観測が独立であること、そして分散が有限であることです。時系列データのように前後の値が連動している場合や、ごく稀に極端な値が出る裾の重い分布では、定理をそのまま適用すると推定の不確かさを過小評価する危険があります。分散が有限という条件が効く極端な例がコーシー分布です。この分布は裾が非常に重く、分散どころか平均も存在しません。そのためコーシー分布から取った標本平均は、n をいくら増やしても元の分布とまったく同じ広がりのままで、平均を取ることでばらつきが小さくなるという直感が完全に裏切られます。現実のデータでも、ごく少数の巨大な値が合計を支配する量（保険の支払額、バイラルした投稿の閲覧数など）では、平均が安定するまでに想像以上の n が必要になります。
もう1つよくある誤解は、「データを増やせば、データ自体の分布が正規分布に近づく」というものです。中心極限定理が語っているのは、あくまで平均（や合計）の分布です。所得のデータを100万件集めても、所得のヒストグラムは右に歪んだままです。釣鐘型に近づくのは「100万件の平均値」が標本ごとにどうばらつくか、のほうです。「平均を取れば何でも正規分布になる」と機械的に信じるのではなく、何の分布の話をしているのか、独立性と裾の重さという前提は成り立つのかを確認する — それがこの定理を正しく使うための作法です。
試問
0〜1 の値をとる分布から n 個ずつ値を引いて平均をとり、その標本平均を積み上げていきます。元の分布は、0.2 と 0.8 のあたりに山がある「二つの山」から始まります。選べるのは標本サイズ n です。
上の山から n 個の粒が降り、その平均が金色の1粒にまとまって下に落ちます。まず「1組ずつ」を何度か押して、次に「流す」で積み上げてみてください。
上: 元の分布（母集団）。中: 引いた n 個の値。下: 標本平均のヒストグラム