推測統計●●●●●

分散分析

Analysis of Variance ・ ぶんさんぶんせき

3群以上の平均差を、群間と群内のばらつきの比で一度に検定する方法

✦ 30秒で試す — 航海平均の差がごくわずかでも、「差あり」と言い切れることがある「有意差あり」と言いやすいのは、どちらの実験?予想してみる

概要

分散分析(ANOVA)は、3つ以上の群の平均に差があるかを一度に調べる仮説検定です。3種類の肥料で作物の収量は違うか、4つの広告案で1人あたりの購入額は違うか——群が3つ以上になると2群比較のt検定では手に負えなくなり、分散分析の出番になります。

名前は「分散」分析ですが、調べたいのはあくまで「平均の差」です。データ全体のばらつき(分散)を「群の平均どうしの違いによるばらつき(群間変動)」と「同じ群の中でのばらつき(群内変動)」に分解し、その比(F値)を見ます。群間のばらつきが群内のばらつきに比べて十分大きければ、群の平均には本物の差があると判断する。ばらつきの分解を通して平均を検定する、という一捻りが名前の由来です。

なぜ生まれたか

素朴に考えると、3群 A・B・C の比較は「AとB」「BとC」「AとC」の3回のt検定でできそうです。しかしこの方法には深刻な欠陥があります。1回の検定で偶然に有意となる確率(第一種の過誤)を5%に抑えても、3回繰り返せば「少なくとも1回は誤る」確率はおよそ14%に膨らみます。群が増えるほど組み合わせは急増し、10群なら45回の検定で、誤検出の確率は約9割に達します。「どれか1つくらいは偶然に有意になる」状態で検定する意味はありません。

この問題を解いたのが、1920年代に英国ロザムステッド農事試験場で農業実験を分析していたロナルド・フィッシャーです。品種・肥料・区画など多くの要因が絡む実験データに対し、全体のばらつきを要因ごとに分解し、「すべての群の平均は等しい」という1つの帰無仮説をたった1回の検定で判定する枠組みを作りました(1925年の『研究者のための統計的方法』で広まります)。検定が1回なら過誤の確率は膨らみません。のちにスネデカーが、この検定で使う分布をフィッシャーの頭文字から F 分布と名づけました。分散分析は実験計画法と対になって発展し、農学・医学・心理学から製造業の品質改善まで、実験データ解析の背骨になりました。

詳細

ばらつきの分解 — 群間と群内

一元配置分散分析(要因が1つの最も基本的な型)の仕組みを追ってみます。まず全データの平均(総平均)からの各データのずれを、2つの成分に分けます。1つは「その群の平均が総平均からどれだけ離れているか」(群間変動)、もう1つは「各データがその群の平均からどれだけ離れているか」(群内変動)です。ずれを2乗して合計した平方和で測ると、全体の平方和はこの2つの平方和の和にぴったり分解できます(全体 = 群間 + 群内)。

群間: 群平均 − 総平均群内: 各点 − 群平均測定値05101520総平均群A(平均7)群B(平均12)群C(平均14)F = 群間の平均平方 ÷ 群内の平均平方金の線が点線に比べて長いほど F は大きく、平均差は偶然では説明しにくい
分散分析の考え方 — 総平均からのずれを「群平均までの距離(群間)」と「群平均からの距離(群内)」に分ける

群間・群内の平方和をそれぞれの自由度で割って「1自由度あたりのばらつき(平均平方)」に直し、その比を取ったものが F 値です。自由度は、k 群・全体 N 個のデータなら群間が k−1、群内が N−k です。もしすべての群の平均が本当に等しいなら、群間の平均平方も群内の平均平方も同じ偶然誤差の大きさを見積もっているだけなので、F 値は1前後になります。逆に群の平均に本物の差があれば、群間の平均平方だけが膨らみ、F 値は1を大きく超えます。この F 値を F 分布(帰無仮説のもとで F 値が従う分布)に照らしてp値を求めるのが F 検定で、分散分析の判定エンジンです。

下の部品で、金の丸(群の平均)をつかんで群を離したり近づけたりしてみてください。金の線(群間)が伸びると F が大きくなります。次にスライダーで群内のばらつきを広げると、平均の位置は同じなのに F が縮み、同じ平均差が「ありふれた差」に変わっていく様子が見えます。分散分析が「平均の差を、群内のばらつきという物差しで測っている」ことが体でわかるはずです。

⚡ 体験: 群間と群内、2つのばらつきの比
総平均群A群B群CF = 群間 ÷ 群内15.7群間4.8群内5%F=3.24
群内のばらつき
F3.24自由度2, 21p 値0.059η²(群で説明できる割合)0.24

金の丸(各群の平均)をつかんで上下させてください。群どうしを離すと金の線(群間)が伸び、右の F が大きくなります。次に下のスライダーで群内のばらつきを広げると……?

金の太線 = 群平均と総平均のずれ(群間)、青緑の細線 = 各点と群平均のずれ(群内)。右: それぞれを自由度で割った平均平方と、その比 F

2群のときの分散分析は、等分散を仮定したt検定とまったく同じ結論になり、F は t の2乗に一致します。分散分析は t 検定を3群以上へ一般化したもの、と見ることもできます。

有意だったら次に何をするか — 多重比較

分散分析が答えるのは「どこかに差がある」ということだけで、「どの群とどの群が違うのか」は教えてくれません。そこで有意になった後に、テューキーの HSD 法やボンフェローニ法といった多重比較の手続きでペアごとの差を調べます。これらは検定を繰り返しても全体の過誤率が5%を超えないように各判定を調整したものです。「まず分散分析で全体を見て、有意なら多重比較で場所を特定する」という2段構えが教科書的な流れですが、テューキー法などはそれ自体で過誤率を制御しているので、分散分析を前置きせず直接使ってもかまいません。逆に、分散分析は有意なのに、どのペアも有意にならないこともあります(差が複数の群に薄く散っているとき)。調べたい比較が事前に決まっているなら、全ペアを総当たりするより、その比較(対比)だけを計画して検定するほうが検出力を無駄にしません。

二元配置と交互作用

要因が2つある実験——たとえば肥料の種類と水やりの頻度——では二元配置分散分析を使います。全体の変動を「肥料の効果」「水やりの効果」、そして「交互作用」に分解できるのがこの型の強みです。交互作用とは、片方の要因の効果がもう片方の水準によって変わること(肥料Aは水やりが多いときにだけ効く、など)で、要因を1つずつ調べる実験では決して見つけられません。交互作用が有意なときは、「肥料の効果」という主効果だけを語るのは誤解のもとで、水準ごとに分けて効果を読む必要があります。

各条件の人数がそろっていない(非釣り合い型の)二元配置では、平方和の分け方が一意に決まらなくなり、ソフトによって既定の計算方式(タイプ I・II・III 平方和)が違うため結果が食い違うことがあります。どの方式で計算したかを確認し、報告に明記するのが安全です。

前提、頑健性、よくある誤用

分散分析の前提は t 検定とほぼ同じで、観測の独立性、各群の母集団のおおよその正規性、そして各群の分散が等しいこと(等分散性)です。正規性のずれには比較的頑健ですが、群ごとの標本サイズが大きく異なるときに等分散性が崩れると、第一種の過誤の率が大きく狂います。等分散を仮定しないウェルチの分散分析は、分散がそろっているときにもほとんど損をしないため、既定の選択にしてよい方法です。分布の歪みや外れ値が深刻なら、順位にもとづくノンパラメトリック検定のクラスカル・ウォリス検定が代替になります。

独立性の破れで最も多いのは、同じ人を複数の条件で測ったデータ(投薬前・1週後・4週後など)を、別々の人の群として一元配置で分析してしまう誤りです。この場合は個人差をモデルに入れる反復測定分散分析や混合効果モデルを使います。また、「有意でなかった=群の平均は等しい」と読むのも典型的な誤解で、検出力が足りなかっただけかもしれません。有意性だけでなく、群の違いが全体の変動の何割を説明するかを表すイータ2乗(η²)などの効果量を添えるのが現代の作法です。η² は標本では大きめに出るので、偏りを補正したオメガ2乗(ω²)を使うこともあります。

回帰分析との地続きの関係

最後に視界を広げると、分散分析は回帰分析と同じ「一般線形モデル」という枠組みの特殊ケースです。群をダミー変数(所属を0/1で表す変数)にした回帰モデルを当てはめると、その全体の F 検定は一元配置分散分析と完全に一致し、η² は回帰の決定係数 R² と同じものになります。歴史的な出自と用語が違うだけで、数学的には地続きなのです。この見方を知っておくと、共変量(年齢などの連続的な調整変数)を加えた共分散分析(ANCOVA)や、正規分布以外の結果を扱う一般化線形モデルへの拡張が自然に理解できるようになります。

試問

3つの群の値が並び、金の丸がそれぞれの群の平均です。分散分析は、3群以上の平均に差があるかを p 値で判定する検定です。金の丸をつかんで群平均を動かすことと、スライダーで群内のばらつき(同じ群の中での値の散らばり)を変えることができます。

✦ 命題挑戦中

3群の平均の差を最大でも 2 以下に抑えたまま、分散分析で p < 0.01(1% 水準で有意)にせよ

  • 群平均の最大と最小の差が 2 以下(いま 2.8)
  • p < 0.01(いま 0.059)
⚡ 体験: 平均をつかんで動かし、群内のばらつきを変える
総平均群A群B群CF = 群間 ÷ 群内15.7群間4.8群内5%F=3.24
群内のばらつき
F3.24自由度2, 21p 値0.059η²(群で説明できる割合)0.24

金の丸(各群の平均)をつかんで上下させてください。群どうしを離すと金の線(群間)が伸び、右の F が大きくなります。次に下のスライダーで群内のばらつきを広げると……?

金の太線 = 群平均と総平均のずれ(群間)、青緑の細線 = 各点と群平均のずれ(群内)。右: それぞれを自由度で割った平均平方と、その比 F