独立性
Independence ・ どくりつせい
一方の結果が他方の確率に影響しない関係。確率計算を単純にする鍵
✦ 30秒で試す — 航海咳の出る人が3割でも、喫煙と無関係かどうかは別の話喫煙と咳の関係は?予想してみる概要
独立性は、「一方の結果を知っても、他方の起こりやすさがまったく変わらない」という事象どうしの関係を指します。コインを2回投げるとき、1回目が表だったと知っても2回目が表の確率は 0.5 のまま — このとき2つの事象は独立です。条件付き確率の言葉では P(A|B) = P(A)、つまり「条件Bを知る前と後で確率が同じ」ことが独立の定義になります。
独立が成り立つと、確率計算は劇的に単純になります。両方が起こる確率が単なる掛け算 P(A∩B) = P(A) × P(B) で済むからです。コインで表が10回連続する確率が 0.5 の10乗と即座に計算できるのは、各回が独立だからにほかなりません。逆に独立でない(従属な)事象では、この掛け算は成立せず、条件付き確率を使った丁寧な計算が必要になります。
独立性は計算の便法であると同時に、統計モデルの根幹をなす「仮定」でもあります。「標本の各データは独立に得られた」「試行は独立に繰り返される」— 推測統計の定理の多くはこの仮定の上に建っており、独立性が成り立つかどうかの見極めは、確率計算の正しさとモデルの妥当性を左右する鍵です。
なぜ生まれたか
確率論の初期の計算対象はサイコロやコインの繰り返しでした。「サイコロを4回投げて少なくとも1回6が出る確率」のような問いに答えるには、「各回の結果は他の回に影響しない」という前提を置いて確率を掛け算する必要があります。この「影響しない」を暗黙の直感のままにせず、P(A∩B) = P(A) × P(B) という検証可能な条件として明文化したことが、独立性という概念の誕生でした。掛け算してよい場面とそうでない場面の境界線が、初めてはっきり引かれたのです。
明文化が重要だったのは、独立の仮定は直感的にもっともらしく見えて、実は破れていることが多いからです。保険数理では「契約者の死亡は互いに独立」とみなして保険料を計算しますが、疫病や災害はこの独立性を壊し、破綻を招きます。金融危機でも「各ローンの債務不履行は独立」という想定が崩れたことが損失を桁違いに膨らませました。独立性は「成り立つと便利な性質」であると同時に「破れを見逃すと危険な仮定」であり、だからこそ定義を明確にして検証の対象にする必要があったのです。
詳細
定義 — 掛け算が成り立つこと
事象AとBが独立であるとは、P(A∩B) = P(A) × P(B) が成り立つことです。条件付き確率の乗法定理 P(A∩B) = P(B) × P(A|B) と見比べると、これは P(A|B) = P(A)、すなわち「Bを知ってもAの確率が動かない」ことと同じだと分かります。トランプから1枚引くとき、「ハートである」と「エースである」は独立です。ハートだと知っても、エースの確率は 4/52 = 1/13 のまま(ハート13枚中エースは1枚で 1/13)だからです。一方「ハートである」と「赤い札である」は独立ではありません。ハートと知った瞬間、赤である確率は 1/2 から 1 に跳ね上がります。
なお「独立」と「排反(同時に起こらない)」はよく混同されますが、ほぼ正反対の概念です。排反なら片方が起きた時点でもう片方の確率は0になる — つまり片方の情報が他方の確率を最大限に変えるので、(確率が0でない限り)排反な事象は決して独立ではありません。
独立かどうかを目で確かめるには、上の図を一般化した「モザイク図」が便利です。横幅で B の有無の割合を、各列の中の高さで「その列で A が起こる割合」を表すと、独立とは2つの列の高さが揃っていることにほかなりません。高さが揃っていれば、左の列の A の面積(P(A∩B))は「列の幅 P(B) × 共通の高さ P(A)」になり、掛け算の定義がそのまま面積として成り立ちます。
左の列が喫煙する人(幅 = P(B))、右の列がしない人。金色の高さが「その列の中で咳が出る割合」です。2本の金色の線をドラッグして、高さを揃えてみてください。
横幅 = 喫煙する/しないの割合、各列の金色の高さ = その中で咳が出る割合。面積 = 全体に占める割合
部品で確かめられるとおり、列の幅(P(B))をどう変えても、高さが揃っている限り独立は崩れません。独立かどうかを決めるのは「B が多いか少ないか」ではなく、「B を知ったときに A の見込みが変わるか」だけです。
独立性が支える定理たち
統計学の骨格をなす定理は、ほとんどが「独立な試行の繰り返し」を前提にしています。表の回数を数える二項分布は各回の独立を仮定して掛け算で組み立てられており、大数の法則は「独立に繰り返せば相対頻度が真の確率に収束する」ことを、中心極限定理は「独立な偶然の足し合わせは正規分布に近づく」ことを述べています。標本抽出で「無作為に独立に抜き出す」ことにこだわるのも、これらの定理を適用できる形でデータを取るためです。裏を返せば、データに独立でない構造(同じ人の繰り返し測定、時間的に連続した観測など)があるとき、独立を前提にした分析は誤った結論を出します。
3つ以上の事象 — 対ごとの独立と相互独立
事象が3つ以上になると、独立の意味は一段ややこしくなります。どの2つを取っても独立(対ごとの独立)なのに、3つまとめると独立でない、ということが起こるからです。公平なコインを2回投げて、A =「1回目が表」、B =「2回目が表」、C =「2回の結果が同じ」とします。どれも確率は 1/2 で、A と B、A と C、B と C はそれぞれ独立です(たとえば A∩C =「表表」で 1/4 = 1/2 × 1/2)。ところが A と B が両方起きれば C は必ず起きるので、P(A∩B∩C) = 1/4 となり、3つの積 1/8 と一致しません。A と B の2つを知れば C が完全に決まってしまうのです。
そこで、3つ以上の事象が「互いに独立(相互独立)」であるとは、2つずつだけでなく、どの組み合わせを取っても確率が積に分解できることと定義します。「コインを10回投げて全部表の確率は 0.5 の10乗」という計算が許されるのは、10回の試行が相互独立だからです。統計モデルで「データは独立」と言うときも、この強い意味の独立を指しています。
条件付き独立 — 何を知っているかで独立は変わる
もうひとつ重要なのが、「C を知った上では A と B が独立」という条件付き独立、P(A∩B|C) = P(A|C) × P(B|C) です。小学生の靴のサイズと読解力には正の関係がありますが、学年(年齢)をそろえて比べると関係は消えます。どちらも年齢に引っぱられていただけで、年齢という条件の下では独立なのです。このように共通の原因が見かけの依存を生む構造は交絡と呼ばれます。
逆向きのことも起こります。もともと独立な2つが、条件で絞ったとたん依存するのです。「才能」と「運」が無関係でも、成功した人だけを見れば「才能が低いのに成功した人は運が良かったはず」という負の関係が現れます。絞り込みそのものが関係を作り出すこの現象は選択バイアスの一種で、どの変数で条件付けると独立が生まれ、あるいは壊れるかは因果ダイアグラムで見通せます。独立は2つの事象だけで決まる性質ではなく、「何を知った上での話か」とセットで語る必要があるのです。なお、スパム判定で使われるナイーブベイズは「クラスが分かった条件の下で、各単語の出現は独立」という大胆な条件付き独立を仮定して、計算を劇的に軽くしています。
確率変数の独立と、相関との関係
事象の独立は確率変数にも拡張され、「一方の値を知っても他方の分布が変わらない」とき2つの変数は独立と言います。2変数の値の出方をまとめた同時分布と周辺分布の言葉では、同時分布が周辺分布の積に分解できることが独立の条件です。独立な変数どうしの共分散は必ず0になり、相関も0になります。ただし逆は成り立ちません。相関係数が測るのは直線的な関係だけなので、U字型の関係のように「無相関だが独立でない」場合があります。独立は無相関より強い条件である — この非対称は実務でも試験でも頻出の要点です。
独立の仮定をどう見極めるか
実務での独立性は「証明するもの」ではなく「吟味する仮定」です。物理的に干渉のしようがないか(別々のコイン投げ)、共通の原因で連動しないか(同じ地域の住宅ローン、同じサーバー上の障害)、時間的な引きずりがないか(昨日の売上と今日の売上)を考え、怪しければ独立を仮定しない分析に切り替えます。データから確かめる手段としては、クロス集計で条件ごとの割合が揃っているかを見る、その差が偶然の範囲かをカイ二乗検定などの仮説検定で調べる、といった方法が定番です。ただし検定で「有意差なし」と出ても、それは独立の証明ではありません。データが少なければ、実在する依存も見逃されます。
落とし穴 — 独立の誤用は二方向に起こる
独立にまつわる失敗は対称的な2パターンがあります。ひとつは従属なのに独立とみなして掛け算する誤りで、冒頭の保険や金融の例のほか、「乳幼児が2人続けて突然死する確率」を単純な2乗で計算した鑑定が冤罪を生んだ英国のサリー・クラーク事件が知られています(兄弟には遺伝・環境という共通要因があり、独立とはみなせません)。もうひとつは独立なのに従属とみなす誤りで、「裏が続いたからそろそろ表」というギャンブラーの誤謬が典型です。どちらの誤りも、「この2つの間に情報の通り道はあるか」を立ち止まって考えることで防げます。独立性とは、突き詰めれば「情報が流れない」ことの数学的表現なのです。
試問
喫煙と咳の関係をモザイク図で表しています。左の列が喫煙する人、右の列がしない人で、列の幅がそれぞれの割合、各列の金色の高さがその中で咳が出る人の割合です。「咳が出る」を A、「喫煙する」を B と書き、喫煙するかどうかを知っても咳の出やすさが変わらないとき、2つは独立だといいます。動かせるのは、2列の金色の高さと、列の幅(喫煙者の割合)です。
左の列が喫煙する人(幅 = P(B))、右の列がしない人。金色の高さが「その列の中で咳が出る割合」です。2本の金色の線をドラッグして、高さを揃えてみてください。
横幅 = 喫煙する/しないの割合、各列の金色の高さ = その中で咳が出る割合。面積 = 全体に占める割合
