確率・分布●●●○○

べき乗則とロングテール

Power Law ・ べきじょうそくとろんぐてーる

少数が極端に大きく大多数が小さい分布。80:20の法則やアクセス集中の正体

✦ 30秒で試す — 航海人気者がさらに人気を集めると、一握りが独り占めする上位1%のサイトが持つリンクは、全体のどれくらい?予想してみる

概要

べき乗則は、「値が2倍になると、その頻度が一定の比率で減る」という関係が成り立つ確率分布のパターンです。式で書けば、x 以上の値が出る割合が x^(−α) に比例する形で、α を裾指数と呼びます。都市の人口、単語の出現頻度、Webページの被リンク数、書籍の売上、地震の規模 — スケールの大きく異なる現象に、同じ形が繰り返し現れます。代表的なモデルがパレート分布で、「売上の8割は上位2割の顧客から生まれる」という80:20の法則(パレートの法則)は、この分布の性質を言い換えたものです(厳密に 80:20 になるのは α ≒ 1.16 のときで、比率は α しだいで変わります)。

べき乗則に従う世界の風景は、正規分布の世界とはまるで違います。正規分布の世界では平均のまわりに皆が集まり、「典型的な値」が意味を持ちます。べき乗則の世界には典型がありません。大多数はごく小さく、ごく少数が桁違いに大きい。しかもその少数が全体の合計を支配します。人口や売上のランキングを上から並べたとき、1位が突出し、順位が下がるにつれてなだらかに減りながらどこまでも続く — この長く伸びた部分が「ロングテール」です。

Web時代にこの言葉を有名にしたのは、「実店舗ではヒット商品(ヘッド)しか置けないが、ECならニッチ商品(テール)の合計がヒットに匹敵する市場になる」というロングテール論でした。アクセス集中、バイラル、インフルエンサー — 現代のネットで観察される「極端な偏り」の多くは、べき乗則の言葉で記述できます。

なぜ生まれたか

出発点は19世紀末、経済学者ヴィルフレド・パレートによる所得分布の研究です。パレートは複数の国・時代の税務データを調べ、高所得側の分布がどこでも「所得が k 倍になると、その所得以上の人数が一定の比率で減る」という同じ規則に従うことを発見しました。国も制度も違うのに同じ形が現れる — 平均や正規分布を前提とした当時の見方では説明できない規則性であり、「偏りそのものに法則がある」という新しい視点が生まれました。

20世紀に入ると、言語学者ジップが「単語の出現頻度は順位に反比例する」というジップの法則を示し、地震のグーテンベルク・リヒター則、ユールやサイモンによる「すでに多く持つものほど、さらに獲得しやすい」という生成メカニズムの研究へと連なります。1999年にはバラバシとアルバートが、Webのリンク構造がべき乗則に従うことを示し、その原因を「新しいページは、すでにリンクを多く集めているページにリンクを張りやすい(優先的選択)」という単純なルールで説明しました。自己強化のループがあれば、べき乗則は自然に育つ — 偏りは異常ではなく、成長するネットワークの必然的な帰結だと理解されるようになったのです。

詳細

ヘッドとロングテール — 分布の読み方

べき乗則のデータを大きい順に並べると、左端に突出した少数(ヘッド)、右へ長く続く大多数(テール)という特徴的な形になります。重要なのは、テールは「無視できる残りかす」ではないことです。1件あたりは小さくても件数が膨大なため、テールの合計はヘッドに匹敵し、パラメータによってはヘッドを上回ります。品揃え・検索・レコメンドでテールに到達するコストを下げたECやストリーミングが、ヒット依存の商売と別の経済圏を作れたのはこのためです。

順位ごとの大きさ(ふつうの軸)ヘッドロングテール →順位1件は小さくても件数が多く、合計は大きいx 以上の割合(両対数)110100100011/1001/万x(対数目盛り)べき乗則対数正規指数べき乗則だけが、どの桁でも同じ比率で減り続ける(両対数で傾き一定)
左: 順位ごとの大きさ(大きさが順位に反比例する例)。突出した少数のヘッドと長いテール。右: 「x 以上の割合」を両対数で描くと、べき乗則は直線、対数正規分布は下へ曲がり、指数分布は急降下する(曲線は計算値)

ただし、ふつうの軸で見る限り、べき乗則と指数的に減る分布(たとえば指数分布)の違いはほとんど見えません。どちらも「左が高く、右へ行くほどゼロに張り付く」曲線に見えるからです。違いが現れるのは、図の右側のように縦軸も横軸も対数にしたときです。指数的な分布は「値が1増えるごとに一定の比率で減る」ので、対数の横軸の上では加速度的に落ち込みます。べき乗則は「値が2倍になるごとに一定の比率で減る」ので、両対数ではまっすぐな線になります。

豊かな者はさらに豊かに — べき乗則はどう育つか

なぜ多くのネットワークでべき乗則が現れるのか。下の部品は、バラバシ=アルバートの模型をそのまま動かすものです。新しいノードが1つずつ加わり、既存のどれか1つにリンクを張ります。「人気に比例して選ぶ」では、リンクを多く持つノードほど次のリンクを引き寄せ、早く人気を得たノードが雪だるま式にハブへ育ちます。「ランダムに選ぶ」に切り替えると、古いノードが少し有利なだけで、突出したハブは現れません。育てたあとで右のグラフを「両対数」に切り替え、2つのルールの分布の形を比べてください。

⚡ 体験: 人気がさらに人気を呼ぶと、べき乗則が育つ
リンク先の選び方
3 ノード / 3 リンクリンクを k 本以上持つノードの数15100リンク数 k
観測(点)理論(優先的選択): n·2/(k(k+1))
ノード数3最大のリンク数2上位1%(1個)が持つリンク端の割合33.3%平均リンク数2.00

新しいノードが1つずつ加わり、既存のどれか1つにリンクを張ります。まずは「人気に比例して選ぶ」のまま「育てる」を押してみてください。

左: ネットワーク(円の大きさ = リンク数、金色 = 上位1%)。右: リンクを k 本以上持つノードの数(相補累積分布)。破線は理論値

優先的選択で育てた分布は、両対数でほぼ直線(理論的には「k 本以上持つノードの割合」が k^(−2) に比例)になり、上位1%のノードがリンク全体の1割前後を握ります。ランダムな選び方では、リンクが1本増えるごとに該当ノードがほぼ半分になる指数的な減り方で、上位の取り分もずっと小さくなります。ルールの違いは「誰を選ぶかの確率が、今の大きさに比例するかどうか」だけです。この小さな違いが、典型のある世界と典型のない世界を分けます。

スケールフリー — どこを切っても同じ形

べき乗則の数学的な核心は「スケール不変性」です。値を10倍のスケールで見直しても分布の形が変わらない — 年収1000万円以上の中での偏り方と、1億円以上の中での偏り方が同じ相似形になります。このため「典型的なスケール」が存在せず、スケールフリーとも呼ばれます。実用上の目印が、両対数グラフで直線に見えることです。ただしこれは必要条件にすぎず、対数正規分布など他の裾の長い分布も広い範囲で直線に見えるため、「直線に見えた=べき乗則」と即断するのは統計的には危うい推論だと知られています(上の図でも、対数正規分布は2桁ほどの範囲ではほぼ直線です)。

平均が壊れる世界 — ファットテールの帰結

べき乗則の裾は正規分布と比較にならないほど厚く(ファットテール)、これが統計量の振る舞いを根本から変えます。裾指数 α が2以下なら分散が無限大になり、1以下なら期待値すら存在しません。有限のデータで平均を計算することはできますが、標本を増やしてもたった1件の巨大な値で平均が跳ね上がるため、大数の法則による安定が実用的な速さで訪れないのです。平均のまわりの推論を支える中心極限定理の前提も崩れるため、平均±標準偏差という要約が意味を失います。この世界では、平均ではなく中央値や分位数といった頑健な代表値、そして「上位1%が全体の何%を占めるか」といった集中度の指標で語るのが正しい作法です。

外れ値ではなく本体

正規分布の感覚では、平均から大きく離れた値は外れ値として除外を検討する対象です。しかしべき乗則の世界では、極端な値こそが分布の本体であり、合計や平均を支配する主役です。年間アクセスの大半を占めるバズ、被害の大半を占める巨大地震、売上の大半を占める大口顧客 — これらを「異常値」として取り除いた分析は、現象の最も重要な部分を捨てたことになります。データの偏りを見たとき、それが「除くべきノイズ」なのか「分布そのものの性質」なのかを見極めることが、べき乗則を学ぶ最大の実践的意義と言えます。

裾指数を推定するときの注意

「両対数で直線を引いて、その傾きから α を読む」という方法は広く使われてきましたが、推定値に大きな偏りが出ることが知られています。頻度が1や2しかない裾の点が回帰を振り回し、ヒストグラムの区切り方でも傾きが変わるからです。クラウセット、シャリージ、ニューマンは2009年の論文でこの問題を整理し、(1) べき乗則が成り立ち始める下限 x_min をデータから選ぶ、(2) その上で α を最尤推定で求める、(3) 当てはまりの良さを検定し、対数正規分布など対立する分布とも尤度比で比べる、という手順を提案しました。この手順で再検討すると、べき乗則とされてきた実データの多くが「べき乗則とも対数正規とも区別できない」「べき乗則ではない」と判定されています。べき乗則を主張するときは、直線に見えたことではなく、この比較を根拠にするのが現代の作法です。

エンジニアリングでの現れ方

べき乗則は設計上の前提としても頻出します。アクセスは一部のコンテンツに集中するのでキャッシュが効く(人気上位の少数を載せるだけでヒット率が跳ね上がる)一方、負荷も特定のキー・特定のユーザーに集中するのでシャーディングはホットスポットに悩まされます。ソーシャルグラフではフォロワー数が極端に偏るため、平均フォロワー数を前提にした設計は少数の巨大アカウントで破綻します。「一様やランダムを仮定した設計は、べき乗則の現実に裏切られる」 — 一様分布的な直感とのギャップを意識しておくことが、スケールする設計の出発点になります。

試問

新しいノード(点)が1つずつ加わり、すでにあるノードのどれか1つにリンク(線)を張って、ネットワークが育っていきます。リンク先の選び方は「ランダムに選ぶ」と「人気に比例して選ぶ」(リンクを多く持つノードほど選ばれやすい)の2通りで、はじめは「ランダムに選ぶ」になっています。右のグラフは、リンクを k 本以上持つノードの数です。

✦ 命題挑戦中

ほんの一握りのハブがリンクを独占するネットワークを育て、そのリンク数の分布がべき乗則に従うことを確かめよ

  • ノードを 300 個以上に育てる(いま 3)
  • 上位1% のノードが、全リンク端の 9% 以上を持つ(いま 33.3%)
  • 両対数に切り替えて、分布が直線に並ぶのを見る
⚡ 体験: 選び方を決めてネットワークを育てる
リンク先の選び方
3 ノード / 3 リンクリンクを k 本以上持つノードの数15100リンク数 k
観測(点)理論(ランダム): n·(1/2)^(k−1)
ノード数3最大のリンク数2上位1%(1個)が持つリンク端の割合33.3%平均リンク数2.00

新しいノードが1つずつ加わり、既存のどれか1つにリンクを張ります。いまはランダムに選ぶルールです。選び方を決めて「育てる」を押してください。

左: ネットワーク(円の大きさ = リンク数、金色 = 上位1%)。右: リンクを k 本以上持つノードの数(相補累積分布)。破線は理論値