大数の法則
Law of Large Numbers ・ たいすうのほうそく
試行を重ねるほど標本平均が期待値に近づく。確率と現実をつなぐ橋
✦ 30秒で試す — 航海表が10回続いても、裏が「取り返し」には来ないこの割合が0.51まで下がるには、あと何回投げる?予想してみる概要
大数の法則は、「試行の回数を増やすほど、標本平均(観測値の平均)が期待値に近づいていく」という定理です。コインを10回投げただけなら表の割合は7割にも3割にもなりえますが、1万回投げればほぼ確実に5割の近くに落ち着きます。少数の結果は荒れるが、数を重ねれば理論値に収束する — 日常の直感としても知られているこの現象に、厳密な数学的保証を与えたのが大数の法則です。
この定理の役割は、確率という理論上の量と、観測される現実のデータを橋渡しすることです。「サイコロで1が出る確率は6分の1」と言っても、確率そのものは目に見えません。大数の法則は「十分な回数振れば、1が出た割合が6分の1にいくらでも近づく」ことを保証し、確率が測定可能な量であることを裏付けます。統計学が「データから母集団を推測する」学問として成立できるのは、根底にこの保証があるからです。
保険会社が保険料を設計できるのも、カジノが長期的には必ず儲かるのも、世論調査が数千人の標本で語れるのも、すべて大数の法則の応用です。個々の偶然は予測できなくても、大量に集めた平均は驚くほど安定する — この定理は偶然を「集めれば読める」ものに変えました。ただし収束するのは割合や平均であって、「表の枚数 − 裏の枚数」のような差の絶対数ではありません。この区別が、後で見る「ギャンブラーの誤謬」を解く鍵になります。
なぜ生まれたか
17世紀に賭け事の分析から確率論が生まれたとき、大きな未解決問題が残っていました。「確率」という理論上の数と、実際に観測される「頻度」は、本当に対応しているのか。コインの表の確率を2分の1と定義しても、実際に投げたときの割合がそこに近づく保証がなければ、確率論は現実について何も語れない机上の理論にとどまってしまいます。
この橋を最初に架けたのがヤコブ・ベルヌーイです。約20年をかけた研究の成果は死後の1713年に『推測法(Ars Conjectandi)』として出版され、「試行回数を増やせば、観測された割合が真の確率から一定以上ずれる確率をいくらでも小さくできる」ことが初めて証明されました。ベルヌーイ自身がこれを「黄金定理」と呼んだのは、これによって「頻度から確率を逆推定する」道 — つまり推測統計の可能性 — が開けたからです。「大数の法則」という名前は、のちに1830年代にポアソンが付けたものです。その後、チェビシェフが分散を使った一般的な証明を与え、ボレルやコルモゴロフが「ほぼ確実に収束する」というより強い形(強法則)を整備しました。20世紀に確率論が厳密な数学として再構築された際には、大数の法則はその中心的な柱に位置づけられました。
詳細
収束のイメージ
コイン投げで表を1、裏を0として、それまでの平均(=表の割合)を投げるたびに記録していくと、次の図のような軌跡を描きます。序盤は大きく暴れますが、回数が増えるにつれ振れ幅が狭まり、期待値0.5へ吸い寄せられていきます。
数学的に言えば、独立に同じ分布から得た確率変数の平均は、n を大きくすると期待値 μ に確率的な意味で収束します。「確率的な意味で」というのがポイントで、どの n でも偶然大きく外れる可能性はゼロにはなりませんが、その可能性は n とともにいくらでも小さくできます。収束の意味の強さによって「弱法則」(ずれが一定以上になる確率が0に近づく)と「強法則」(1本の試行列の平均が、確率1で最終的に μ に落ち着く)の2つの形があり、実用上の読み方はどちらも同じ —「たくさん集めれば平均は当てになる」— です。
なぜ平均は安定するのか
直感的な理由は、ばらつきの打ち消し合いです。個々の観測値は期待値より上にも下にも外れますが、独立な外れは足し合わせると相殺し合います。定量的には、n 個の合計の分散は n 倍になる(標準偏差は √n 倍にしか増えない)のに対し、平均は合計を n で割るので、標本平均の分散は元の分散の n 分の1、標準偏差は 1/√n になります。この標本平均の標準偏差が標準誤差です。あとはチェビシェフの不等式(平均から k 標準偏差以上離れる確率は 1/k² 以下)を当てはめれば弱法則が示せるので、大数の法則は見た目の壮大さのわりに足場は素朴です。
偏りは取り返されない — 薄まるだけ
この「合計のずれは √n で広がり、平均のずれは 1/√n で縮む」という2つの事実を並べると、大数の法則のいちばん誤解されやすい点が見えてきます。表が10回続いたあと、「そろそろ裏が出てバランスを取るはずだ」と考えるのがギャンブラーの誤謬です。コインは過去を覚えていないので、11回目も表の確率は1/2のままです。それでも割合が0.5に戻っていくのは、最初の +10 枚の偏りがその後の何千回に薄められるからであって、裏が多めに出て取り返されるからではありません。実際、表と裏の枚数差そのものは0に戻るどころか、およそ √n の幅でどんどん広がっていきます。1万回投げれば、表と裏の差が100枚前後あっても何の不思議もないのです。
「再生」でコインを投げ続けます。上は表の割合、下は表と裏の枚数の差。同じコイン列を2通りに見ています。
横軸はどちらも投げた回数(対数目盛り)。上: 表の割合と ±2SE の漏斗(0.5 ± 1/√n)。下: 表の枚数 − 裏の枚数と ±2SD の漏斗(±2√n)
上の部品で「表が10回続いた後から」を選んで再生すると、上段の割合はきちんと0.5へ戻るのに、下段の枚数差は +10 のあたりから出発して、0に引き戻される気配もなく広がっていくのが見えます。「5本同時」で別の世界線を並べると、割合の5本はそろって1点に集まるのに、枚数差の5本は扇のように開いていきます。どちらも同じコイン列の別の見え方です。
中心極限定理との役割分担
大数の法則としばしば並べて語られるのが中心極限定理です。役割分担ははっきりしています。大数の法則は「標本平均がどこへ向かうか」(行き先は期待値)を教え、中心極限定理は「その途中でどれくらい、どんな形でばらつくか」(誤差は正規分布に近く、幅は √n に反比例して縮む)を教えます。世論調査で言えば、「サンプルを増やせば真の支持率に近づく」が大数の法則、「n=2000なら誤差はおよそ±2ポイント」と幅を見積もれるのが中心極限定理です。推測統計はこの2つを両輪として回っています。
実務での意味と落とし穴
実務でこの法則が顔を出す典型例は、平均が「収束するまでの回数」の感覚です。誤差はおおむね √n に反比例して縮むため、精度を10倍にするには試行を100倍にする必要があります。A/Bテストで「あと少しデータを足せばすぐ確定する」と期待して裏切られるのは、この平方根の遅さが原因です。途中経過を何度も覗いて、たまたま差が開いた瞬間に止める運用は、収束を待たずに偶然の揺れを結論にしてしまいます。また、この法則はモンテカルロ法の理論的根拠でもあります — 乱数実験の平均が求めたい値に収束することを保証しているのは、まさに大数の法則です。
落とし穴は、法則の前提が崩れる場合です。第一に、観測が独立でないとき。同じ人の回答を何度も数える、時間的に強く相関したログを別々の観測として扱うといった場合、データの件数ほどには情報が増えず、平均は見かけよりずっと遅くしか安定しません。第二に、分布が途中で変わるとき。季節やユーザー層が入れ替われば、平均が向かう先そのものが動きます。第三に、期待値が存在しないほど裾の重い分布です。極端な外れ値が支配する、べき乗則の裾をもつ分布(たとえば自由度1のt分布=コーシー分布)では、平均はいつまでも安定せず、1件の巨大な値で何度でも跳ね上がります。「数を集めれば必ず収束する」は無条件の魔法ではなく、前提あっての定理です。
試問
公正なコインで、最初に表が10回続いた。この偏りを薄めて、表の割合を 0.51 まで戻すには、あと何回投げればよいか見積もれ(何十回か、何百回か、何千回か)
あと何回投げる?(予想を決めて、その回数で 240 本の世界線を実験します)
