わかる c·t=一定 第 5 回 ／ 短さと当てはまりを、同じ通貨で並べる
記述長ゼロ ── では、そのゼロは何ビットぶんの値打ちがあるのか
短さは、
いくらで買えるのか
第4回で、\(c\cdot t=\text{一定}\) は無次元パラメータ 0 個だと分かりました。
オッカムの剃刀の極限です。ただし当てはまりでは負ける。
この二つを、ビットという一つの通貨に両替します。
第4回の結末は、きれいな対立でした ── \(\Lambda\)CDM は無次元パラメータ 6 個、\(c\cdot t=\text{一定}\) は 0 個。記述長は圧倒的に短い。ところが \(H_0d_L/c\) を比べると \(z\simeq1.1\) で 0.21 等ずれる。短いほうが正しいのか、当たるほうが正しいのか。 この問いは主観ではなく、情報理論がきちんと値段表を持っています。今回は、その値段表を実際に引きます。
01記述長を、二つに割る
モデルとデータをまとめて誰かに送ることを考えます。送るものは二つです ── モデルの説明と、モデルからのズレ。合計の長さがいちばん短い送り方が、いちばん良いモデルだ、というのが最小記述長（MDL）の考え方です。
送る中身
$$\underbrace{L_{\text{全体}}}_{\text{総ビット数}}\;=\;\underbrace{-\log_2 L(\text{データ}\mid\text{モデル})}_{\text{当てはまりの損}}\;+\;\underbrace{\frac{k}{2}\log_2 N}_{\text{パラメータの値段}}$$\(k\) はパラメータの数、\(N\) はデータ点の数。パラメータを1個持つと、その値を送るぶんだけ長くなる ── その料金が右の項です。
右の項の \(2\) 倍を自然対数で書くと \(k\ln N\) ── ベイズ情報量規準（BIC）の罰金そのものです。MDL と BIC は、同じ勘定を違う単位で書いたものでした。
02パラメータ1個の、値段表
いちばん使われる二つの規準を、ビットに直します。
AIC（赤池情報量規準）── 罰金 \(2k\)（自然対数の \(\chi^2\) 単位）
$$\frac{2}{2\ln 2}=\frac{1}{\ln 2}=1.443\ \text{ビット／個}\qquad(\text{データ数に依らない})$$BIC（ベイズ情報量規準）── 罰金 \(k\ln N\)
$$\frac{\ln N}{2\ln 2}=\frac12\log_2 N\ \text{ビット／個}\qquad(\text{データが増えると高くなる})$$| データ点の数 \(N\) | AIC の値段 | BIC の値段 | BIC の \(\Delta\chi^2\) 予算 |
|---|---|---|---|
| 100 | 1.443 bit | 3.32 bit | 4.61 |
| 1000 | 1.443 bit | 4.98 bit | 6.91 |
| 1701（Pantheon+ 規模） | 1.443 bit | 5.37 bit | 7.44 |
| 10000 | 1.443 bit | 6.64 bit | 9.21 |
読み方はこうです ── パラメータを1個節約すると、5.4 ビットぶん得をする。だから当てはまりで 5.4 ビット以内の損なら、短いほうが勝ちます。
03当てはまりの損も、ビットに直す
ガウス誤差なら \(-2\ln L=\chi^2+\text{定数}\) なので、二つのモデルの当てはまりの差はこう換算できます。
これで通貨が揃いました。あとは \(\Delta\chi^2\) を実際に計算するだけです。
04実際に、勘定する
超新星の距離指標で比べます。第4回の閉じた式 \(H_0d_L/c=(1+z)\ln(1+z)\) と、\(\Lambda\)CDM の数値積分の差を等級で書くと ──
| \(z\) | 0.05 | 0.1 | 0.3 | 0.5 | 1.0 | 1.5 | 2.0 |
|---|---|---|---|---|---|---|---|
| \(\Delta\mu\) [mag] | −0.027 | −0.052 | −0.126 | −0.171 | −0.213 | −0.206 | −0.181 |
超新星の絶対等級は未知なので、定数のずれは自由に吸わせられます（これがちょうど「\(H_0\) は次元付きだから数えない」の実務版です）。吸わせたあとに残るのは形の差だけ。Pantheon+ 規模の赤方偏移分布（中央値 \(z=0.27\)、1701 本、1本あたり \(\sigma=0.15\) 等）で計算すると ──
定数項を吸わせたあとの残差
$$\text{RMS}=0.053\ \text{等}\qquad\Longrightarrow\qquad \Delta\chi^2=N\left(\frac{0.053}{0.15}\right)^2=213$$ビットに両替する
$$\text{当てはまりの損}=\frac{213}{2\ln2}=154\ \text{ビット}$$節約したぶん
$$\text{パラメータ1個}=5.4\ \text{ビット}$$この回の勘定書き
得： +5.4 ビット 損： −154 ビット 差引： −149 ビット
パラメータを一つ捨てて得られる短さは、当てはまりで払う額の 約 1/29 しかない。
05逆から見る ── どれだけ当たれば釣り合うのか
予算のほうから逆算すると、要求の厳しさがはっきりします。
| 規準 | \(\Delta\chi^2\) の予算 | 許される残差 RMS | 実際 |
|---|---|---|---|
| AIC | 2 | 5.1 mmag | 53 mmag |
| BIC | 7.44 | 9.9 mmag |
1701 本ぶん平均したあとで、1本あたり 10 ミリ等級まで一致していなければならない ── 超新星の内在的なばらつき（150 ミリ等級）の 1/15 です。実際の食い違いは 53 ミリ等級。桁が足りません。
06では、何本で決着するのか
面白いのはここです。同じ食い違い（53 mmag）のまま、データの本数だけを変えてみます。
| 本数 \(N\) | 当てはまりの損 \(\Delta\chi^2\) | BIC の予算 \(\ln N\) | 勝つのは |
|---|---|---|---|
| 10 | 1.25 | 2.30 | \(c\cdot t=\)一定 |
| 約 26 | 3.26 | 3.26 | 引き分け |
| 100 | 12.5 | 4.61 | \(\Lambda\)CDM |
| 1000 | 125 | 6.91 | \(\Lambda\)CDM |
超新星が 26 本より少なければ、\(c\cdot t=\text{一定}\) のほうが良いモデルです。 これは負け惜しみではなく、情報理論が本当にそう言っています ── データが乏しいとき、短い理論は正しい選択なのです。1998年に加速膨張が見つかったときの超新星は 42 本と 16 本でした。あのころなら、この勝負は際どかった。
図：横軸はデータ点の数、縦軸はビット。パラメータの値段は \(\log N\) でしかふえないのに、当てはまりの損は \(N\) に比例する。だから二本は必ず交差し、その先は二度と逆転しません
ツマミで食い違いを小さくしていくと、臙脂の直線が右へ平行移動し、交点が右へ動きます。それでも 必ず交わります ── 傾きが違うからです。食い違いを 1 mmag まで小さくしても、交点は \(N\simeq10^4\) 台。データを増やし続ければ、短さはいつか必ず負ける。
07種明かし ── オッカムの剃刀には、有効期限がある
図の二本の傾きが、今回のいちばん深い話です。
| ふえ方 | 意味 | |
|---|---|---|
| パラメータの値段 | \(\propto\log N\) | 値を1個送るのに必要な精度は、データが増えるほど上がるが、対数でしか上がらない |
| 当てはまりの損 | \(\propto N\) | 1点ごとに残差を送り直すので、点数に正比例して積み上がる |
今回の一行
短さの利益は \(\log N\)、当てはまりの損は \(N\)。
だからデータが増えれば、短いモデルは必ず負ける ── 当たっていない限り。
オッカムの剃刀は、迷信でも美意識でもなく計算可能な割引券でした。ただし額面が \(\log N\) と小さく、しかもデータが増えるほど相対的に安くなる。「シンプルな理論が良い」というのは、当てはまりが同じくらいならという但し書きつきの定理だったのです。
04節の \(\Delta\chi^2=213\) は、\(\Lambda\)CDM（\(\Omega_m=0.315\)）が正しいと仮定したときの期待値です。実データへのフィットではありません。赤方偏移分布も Pantheon+ 風に作った模擬分布（中央値 0.27）で、実際の分布とは違います。1本あたり \(\sigma=0.15\) 等も内在的ばらつきの代表値で、系統誤差の相関を入れると実効的な本数は減り、\(\Delta\chi^2\) も小さくなります。桁の議論として読んでください。
実データでの比較は、文献のあいだで一致していません。メリアらは「モデル非依存の距離指標では \(R_h=ct\) が好まれる」と主張し、他の解析（Shafer 2015 ほか）は \(\Lambda\)CDM が強く好まれると報告しています。本稿は「\(\Lambda\)CDM が正しければこうなる」という条件つきの勘定であって、実測の判定ではありません。
パラメータの数え方にも議論があります。超新星だけを見るなら \(H_0\) は絶対等級と縮退するので、実質 \(\Lambda\)CDM 1 個（\(\Omega_m\)）対 \(R_h=ct\) 0 個。第4回で挙げた「6 個」は CMB まで含めた \(\Lambda\)CDM 標準基底の話で、比較の土俵が違います。本稿の 5.4 ビットは「1 個ぶん」の値段です。
MDL の \( \frac{k}{2}\log_2 N\) は漸近形で、正確には模型の幾何（フィッシャー情報の体積）に依存する項が付きます。AIC と BIC はそもそも導出の前提が違い（予測誤差の最小化 vs 事後確率の最大化）、どちらを使うべきかは目的次第です ── 「唯一正しい値段表」は存在しません。
練習問題（今回の式だけで解けます）
- \(N=100\) のとき、パラメータ1個の値段は BIC で何ビットか。
答えを見る
\(\tfrac12\log_2 100=3.32\) ビット。\(\Delta\chi^2\) に直せば \(\ln100=4.61\)。データが 17 倍（1701本）になっても、値段は 3.32→5.37 ビットにしか上がりません ── 対数だからです。 - \(\Delta\chi^2=213\) は何ビットぶんの損か。
答えを見る
\(213/(2\ln2)=154\) ビット。パラメータ1個の節約（5.37 ビット）の 約 29 倍。差し引き 149 ビットの負けです。 - AIC の値段がデータ数に依らないのはなぜか。BIC との違いは何を反映しているか。
答えを見る
AIC の罰金は \(2k\) で \(N\) を含まないから。AIC は予測誤差を最小にする規準で、「1個のパラメータを増やすと期待予測誤差が \(\chi^2\) で 2 だけ悪化する」という補正です。BIC は事後確率を最大にする規準で、\(N\) が増えるほど「たまたま合っただけ」の可能性が下がるので罰金が重くなります。目的が違えば値段表も違う。 - 残差 RMS が 20 mmag だったら、何本まで \(c\cdot t=\text{一定}\) が勝つか。
答えを見る
\(\ln N=N(0.020/0.15)^2=0.01778\,N\) を数値で解いて \(N\simeq325\)。食い違いを 1/2.7 に減らすと、勝てる本数は約 12 倍になります。それでも 300 本台止まり ── \(\log N\) 対 \(N\) の勝負は、最初から不利です。 - （やや難）「短い理論のほうが良い」は、どういう条件つきで正しいか。
答えを見る
当てはまりの差が \(\log N\) 程度に収まっている限り、正しい。パラメータの値段は \(\tfrac12\log_2 N\) ビットしかないので、それを超える当てはまりの損（\(\Delta\chi^2>\ln N\)）を出した瞬間に逆転します。そして当てはまりの損は \(N\) に比例するので、データを増やせば必ずどこかで逆転する。オッカムの剃刀は定理ですが、有効期限つきの定理でした。
まとめ 値札は 5.4 ビットだった
「短いほうが正しいのか、当たるほうが正しいのか」── 情報理論はこれに値段表で答えます。記述長は 当てはまりの損 ＋ パラメータの値段 に割れ、後者は \(\tfrac{k}{2}\log_2 N\) ビット。これは BIC の罰金 \(k\ln N\) と同じものです。AIC なら 1.443 ビット／個（データ数に依らない）、BIC なら \(\tfrac12\log_2 N\) ── Pantheon+ 規模（1701 本）で 5.37 ビット。
当てはまりの損は \(\Delta\chi^2/(2\ln2)\) ビット。超新星の距離指標で実際に勘定すると、絶対等級（定数項）を吸わせたあとの残差 RMS が 53 ミリ等級、\(\Delta\chi^2=213\)、すなわち 154 ビットの損。パラメータ1個で得た 5.4 ビットの 約 29 倍を払っています。差し引き 149 ビットの負け。釣り合うには 1本あたり 10 ミリ等級まで一致していなければならず、これは超新星の内在的ばらつきの 1/15 です。
面白いのは本数を振ったときでした ── 26 本より少なければ \(c\cdot t=\text{一定}\) のほうが良いモデルになります。これは負け惜しみではなく、情報理論がそう言っている。1998年に加速膨張が見つかったときの超新星は 42 本と 16 本でした。データが乏しいとき、短い理論は正しい選択なのです。
種明かしは傾きの違いでした ── 短さの利益は \(\log N\)、当てはまりの損は \(N\)。二本は必ず交差し、その先は二度と逆転しない。オッカムの剃刀は迷信でも美意識でもなく計算可能な割引券でしたが、額面は対数でしか増えません。「シンプルな理論が良い」は、当てはまりが同じくらいならという但し書きつきの定理でした。
この文書は「わかる c·t=一定」シリーズ第5回、物理好きの高校生・大学生向け読み物です。最小記述長（MDL）における二部符号 \(-\log_2 L+\tfrac{k}{2}\log_2 N\)、赤池情報量規準 \(\mathrm{AIC}=-2\ln L+2k\)、ベイズ情報量規準 \(\mathrm{BIC}=-2\ln L+k\ln N\)、およびガウス誤差での \(-2\ln L=\chi^2+\text{const}\) は、いずれも標準的な結果です。ビットへの換算（パラメータ1個が AIC で \(1/\ln2=1.443\) ビット、BIC で \(\tfrac12\log_2 N\) ビット、当てはまりの損が \(\Delta\chi^2/(2\ln2)\) ビット）は本稿での書き換えです。04–06節の数値は本稿での計算で、\(\Lambda\)CDM（\(\Omega_m=0.315\), \(\Omega_r=9.2\times10^{-5}\)）が正しいと仮定したときの期待値です ── 実データへのフィットではありません。赤方偏移分布は Pantheon+ 風の模擬分布（\(N=1701\)、中央値 \(z=0.27\)）、1本あたり \(\sigma=0.15\) 等（内在的ばらつきの代表値）を用いており、系統誤差の相関は考慮していません。相関を入れると実効的な本数が減り \(\Delta\chi^2\) は小さくなります。\(R_h=ct\) と \(\Lambda\)CDM の実データによる比較は文献で一致しておらず、Melia らによる \(R_h=ct\) 支持の主張と、\(\Lambda\)CDM が強く好まれるとする解析（Shafer 2015 ほか）が併存しています。超新星のみを用いる場合 \(H_0\) は絶対等級と縮退するため、実質のパラメータ数は \(\Lambda\)CDM 1 個・\(R_h=ct\) 0 個であり、第4回で挙げた \(\Lambda\)CDM の 6 個は CMB を含む標準基底の話です。MDL の \(\tfrac{k}{2}\log_2 N\) は漸近形で、正確にはフィッシャー情報の体積に依存する項が加わります。AIC と BIC は導出の前提（予測誤差の最小化／事後確率の最大化）が異なり、一意に正しい規準は存在しません。1998年の加速膨張の発見に用いられた超新星の本数は、High-z Supernova Search Team が 16 本、Supernova Cosmology Project が 42 本です。学術的な標準はインフレーションを含む \(\Lambda\)CDM モデルです。 ── 印刷する場合はブラウザの「印刷」から「PDF に保存」を（印刷版ではスライダーと解答は静止・非表示になります）。