考える波 第 21 回 / 第 IX 部・情報を波として見る

情報の限界は、全部 帯域幅定理の言い換えだった

ビットレートを積分すると、情報量になる ──
そして情報は、虚軸に住んでいる 速さを積分すると距離になる。ビットレートを積分すると情報量になる。
まったく同じ形です ── 情報にも、階数の梯子があります。
★ そしてシャノンの公式は「帯域幅 × 時間」 ── 第 9 回がそのまま効きます。

必要な道具:第 1, 3, 7, 9, 10, 19, 20 回計算:kenshou/joho.js

この連載はずっと「物理量を波として見る」をやってきました。情報も波として見られます。
やってみたら、情報理論の限界と物理の限界が、一本の式でつながりました。

01情報にも、階数の梯子がある

階数単位中身
0情報量 \(I\)bit★ 定数に見える量(第 3 回)
1ビットレート \(dI/dt\)bit/s通信速度、エントロピー生成率
2\(d^2I/dt^2\)bit/s²情報生成の加速(06節で出ます)

01節 ── 積分定数も、そのまま効く

第 3 回で「積分定数は \(\omega=0\) の成分で、原理的に決められない」と書きました。
情報でも同じです ── 情報量の積分定数 = 初期情報量。

「宇宙は最初に何ビット 持っていたか」は、ビットレートをいくら積分しても決まりません。

02シャノンの公式は「帯域幅 × 時間」だった

情報理論の基本式を、積分する $$C=B\log_2\Bigl(1+\frac{S}{N}\Bigr)\ \text{[bit/s]}\quad\Longrightarrow\quad I=C\,T=\underbrace{B\,T}_{\text{帯域}\times\text{時間}}\cdot\log_2\Bigl(1+\frac{S}{N}\Bigr)$$

02節の中心

情報量 =(帯域幅 × 時間)×(1 サンプルあたりのビット数)

★ 第 9 回の帯域幅定理 \(\Delta t\,\Delta\omega\ge1/2\) が、そのまま出てきます。
ナイキストの標本化定理では、帯域 \(B\)・時間 \(T\) の信号の自由度は \(2BT\) ── これが「1 モード」の数です。

「1 ビット送るには、時間 × 帯域 が要る」。

通信路帯域 \(B\)S/N [dB]容量 \(C\)実際の値
電話回線(音声帯域)3.1 kHz3030.9 kbps★ ダイヤルアップの壁
4G LTE(20 MHz)20 MHz20133 Mbps150 Mbps 級
Wi-Fi(80 MHz)80 MHz35930 Mbps実測 数百 Mbps
光ファイバ C+L 帯10 THz2067 Tbps実用 10〜100 Tbps

電話回線の 30.9 kbps ── 56k モデムがそこで止まったのは、この式が理由でした。S/N を上げても \(\log\) でしか効かないので、帯域を増やすしかない。★ だから光ファイバは 9 桁 速い。

03情報とエネルギーの為替レート ── ランダウアー

1 ビット 消すのに要るエネルギー $$E\ge k_BT\ln2$$

★ 第 7 回で \(\hbar\)・\(c\)・\(k_B\) を「為替レート」と呼びました。ここでは \(k_B\) が情報 ↔ エネルギーのレート

温度1 ビットの値段 [J][eV]
宇宙背景放射 2.725 K\(2.61\times10^{-23}\)\(1.63\times10^{-4}\)
液体窒素 77 K\(7.37\times10^{-22}\)\(4.60\times10^{-3}\)
室温 300 K\(2.87\times10^{-21}\)0.0179
太陽中心 \(1.5\times10^7\) K\(1.43\times10^{-16}\)896

03節 ── 半導体はまだ 1 万倍 上

トランジスタ 1 回 のスイッチング \(\approx\frac12CV^2=3.2\times10^{-17}\) J(\(C=0.1\) fF、\(V=0.8\) V の目安)
ランダウアー限界(300 K)\(=2.87\times10^{-21}\) J

比 \(=1.1\times10^{4}\) 倍

現代の半導体には、まだ 1 万倍 の余裕があります ── 2012 年には、実験でランダウアー限界そのものが確認されました。

04ビットレートの上限 ── 帯域幅定理の言い換え

エネルギーが速さを決める $$\nu\le\frac{2E}{\pi\hbar}\ \text{(マルゴラス=レヴィティン)},\qquad \text{ビットレート}\le\frac{mc^2}{h}=1.356\times10^{50}\ \text{bit/(s·kg)}\ \text{(ブレーメルマン)}$$
質量演算速度の上限 [/s]
電子 1 個\(9.1\times10^{-31}\) kg\(4.9\times10^{20}\)
陽子 1 個\(1.7\times10^{-27}\) kg\(9.1\times10^{23}\)
1 kg(究極のノート PC)1 kg\(5.4\times10^{50}\)
地球\(6.0\times10^{24}\) kg\(3.2\times10^{75}\)

04節 ── 第 9 回がそのまま効いている

1 kg の物質は、毎秒 \(5.4\times10^{50}\) 回 まで状態を変えられます。現代の CPU は \(10^{10}\) 回/秒 ── 40 桁 の余裕

★ 理屈は第 9 回そのものです ── 「速く変わるには広い帯域が要る。広い帯域には高いエネルギーが要る」。
不確定性原理と計算速度の限界は、同じ一つの定理でした。

05情報量の上限 ── ベケンシュタイン

持てる情報量にも上限がある $$I\le\frac{2\pi ER}{\hbar c\ln2}$$
対象質量半径情報量の上限 [bit]
USB メモリ(10 g)0.01 kg2 cm\(5.2\times10^{39}\)
人間70 kg0.5 m\(9.0\times10^{44}\)
地球\(6.0\times10^{24}\) kg6371 km\(9.8\times10^{74}\)
観測可能な宇宙(ホログラフィック)──\(1.3\times10^{26}\) m\(3.0\times10^{122}\)

06★ 宇宙のビットレートを、微分してみる

ホログラフィック限界は面積に比例し、面積は \((ct)^2\) です。だから微分できます。

情報量を時間で微分する $$I(t)=\frac{\pi c^2t^2}{l_P^2\ln2}\quad\Longrightarrow\quad \frac{dI}{dt}=\frac{2I}{t}=1.36\times10^{105}\ \text{bit/s}$$ $$\frac{d^2I}{dt^2}=\frac{2\pi c^2}{l_P^2\ln2}=3.12\times10^{87}\ \text{bit/s}^2\qquad\textbf{★ 一定!}$$
時刻\(ct\) [m]情報量 \(I\) [bit]ビットレート [bit/s]
プランク時間\(1.6\times10^{-35}\)4.53\(1.7\times10^{44}\)
1 秒\(3.0\times10^{8}\)\(1.6\times10^{87}\)\(3.1\times10^{87}\)
元素合成 3 分\(5.4\times10^{10}\)\(5.1\times10^{91}\)\(5.6\times10^{89}\)
晴れ上がり 38 万年\(3.6\times10^{21}\)\(2.2\times10^{113}\)\(3.7\times10^{100}\)
現在\(1.3\times10^{26}\)\(3.0\times10^{122}\)\(1.4\times10^{105}\)

06節の中心 ── 第 20 回とつながる

プランク時間には 4.5 ビット(\(\pi/\ln2\))しかありませんでした。いま \(3\times10^{122}\) ビット ── 122 桁 増えています。

そして「宇宙の情報加速度は一定」── 第 1 回で「等加速度運動は \(x\propto t^2\)」と書いたのと、同じ形です。

★★ ここで第 20 回とつながります ── \(I\propto(ct)^2\) なので:

\(c\cdot t=\) 一定 の座標系とは、
「宇宙の情報量を一定に保つ座標系」でもあった。

第 20 回では「時間を対数目盛りで測ること」と分かりました。情報の言葉では ── 情報量そのものを目盛りにすること。

07★ 情報は虚軸に住んでいる

第 19 回で、実軸(振動)と虚軸(減衰)を分けました。情報量・エントロピーは、どちらでしょうか。

種類性質
振動する量実軸 \(\omega\)エネルギー、位相、振幅可逆。時間反転で戻る
単調に増える量虚軸 \(i\lambda\)★ エントロピー、情報量★ 不可逆。時間の矢
単調に減る量虚軸 \(i\lambda\)放射性核種の数、自由エネルギー同上

07節の中心 ── 三つの「不可逆」が合流する

エントロピーは振動しません。単調に増えるだけ ── つまり虚軸です。これが熱力学第二法則の、波としての言い方でした。

そして、この連載で出てきた三つの「不可逆」が、ここで合流します:

・第 10 回:奇数階の微分 → 時間反転で符号が変わる → 不可逆
・第 19 回:虚軸の周波数 → 単調に増減する → 不可逆
・本回:情報量の増加 → 熱力学第二法則 → 不可逆

「時間の矢」とは、複素周波数平面の虚軸のことだった。

08位相空間のセルを数える ── 1 ビットの大きさ

二つの「これ以上 細かくできない」 $$\text{位相空間のセル}:\ \Delta x\,\Delta p\ge\frac{\hbar}{2},\qquad \text{時間 × 帯域}:\ \Delta t\,\Delta\omega\ge\frac12$$
信号帯域 [Hz]時間 [s]モード数 \(2BT\)情報量 [bit]
電話 1 分310060\(3.7\times10^5\)\(1.9\times10^6\)
CD 1 曲(ステレオ)\(4.0\times10^4\)240\(1.9\times10^7\)\(3.1\times10^8\)
4K 動画 1 秒\(1.0\times10^7\)1\(2.0\times10^7\)\(1.3\times10^8\)

08節の結論

情報量 = モードの数 × 1 モードあたりのビット数

そしてモードの数を決めているのは、帯域幅定理(第 9 回)でした。
ガボール限界も、不確定性原理も、シャノンの公式も、「1 モードの大きさ」を決める同じ一つの定理です。

練習問題

  1. 「S/N を無限に上げれば、どんな細い帯域でも無限の情報が送れる」は正しいか。
    答えを見る
    式の上では正しく、物理的には正しくありません。
    \(C=B\log_2(1+S/N)\) は \(S/N\to\infty\) で発散します。でも \(S\) を上げるにはエネルギーが要り、エネルギーを上げると第 4 節の上限(\(\nu\le2E/\pi\hbar\))に当たります。
    ★ さらに \(N\) には下限があります ── 量子雑音。1 モードあたり最低 \(\hbar\omega/2\) の零点振動があり、これは消せません(第 9 回の帯域幅定理そのもの)。
    だから「帯域を増やすしかない」という結論は、物理的にも正しい。
  2. 情報量が「虚軸に住む」ことの、実用上の意味は。
    答えを見る
    第 19 回と同じ ── 一周期 待たずに測れる、ということです。
    エントロピー生成率は、短時間の観測で決まります(単調だから傾きを見ればいい)。
    ★ 逆に言えば元に戻らない。実軸の量は位相を保存するので巻き戻せますが、虚軸の量は情報を捨てているので戻せません。
    「計算を消すとエネルギーが要る」(ランダウアー)のは、まさにこれ ── 消去は虚軸の操作だから、熱として払うしかない。
  3. \(c\cdot t=\) 一定 と「情報量一定」が同じことだとすると、宇宙の膨張は情報の言葉で何か。
    答えを見る
    「目盛りが増えている」ということです。
    \(I\propto(ct)^2\) なので、地平線が広がるとは区別できる状態の数が増えることでした。
    ★ \(c\cdot t=\) 一定 の座標系は、その増分を単位の変化として繰り込んでいます ── だからその座標系では何も増えず、代わりに時間が対数目盛りになる(第 20 回)。
    判定:これは対応関係の指摘であって、宇宙論の主張ではありません。ホログラフィック限界は上限であって、実際に使われているビット数ではない点にも注意が要ります。

まとめ 情報の限界は、全部 帯域幅定理だった

ビットレート [bit/s] を積分すると情報量 [bit] ── 速さと距離の関係と、まったく同じ形です。そして情報量の積分定数 = 初期情報量で、これは原理的に決まりません(第 3 回)。

シャノンの公式は \(I=BT\log_2(1+S/N)\)、つまり「帯域幅 × 時間」。第 9 回の帯域幅定理そのものでした。電話回線の 30.9 kbps がダイヤルアップの壁の正体で、光ファイバが 9 桁 速いのは帯域が 9 桁 広いから。

ランダウアー限界は室温で 0.0179 eV/bit、現代の半導体はまだ 1 万倍 上。速度の上限(\(5.4\times10^{50}\) 回/秒·kg)も、容量の上限(人間 \(9\times10^{44}\) bit)も、どれも「エネルギーが帯域を決める」という一つの定理の言い換えでした。

宇宙の情報量は \(I\propto(ct)^2\) なので微分できて、いま \(1.4\times10^{105}\) bit/s、そして情報加速度は \(3.1\times10^{87}\) bit/s² で一定。プランク時間には 4.5 ビットしかありませんでした。

★ そして ── \(c\cdot t=\) 一定 の座標系とは、宇宙の情報量を一定に保つ座標系でもありました(第 20 回では「時間を対数目盛りで測ること」)。

★ 情報は虚軸に住んでいる。だから戻らない。
「時間の矢」とは、複素周波数平面の虚軸のことだった。

この文書は「考える波」シリーズ第 21 回です。計算は kenshou/joho.js で行っています。本回の数値について:シャノン容量の表は代表的な帯域と S/N を仮定した理論値で、実際の通信規格は符号化・多重化・多入力多出力(MIMO)などで条件が違います(光ファイバの実用値が計算値を超えるのは、波長多重や偏波多重で実効的な帯域を増やしているためです)。トランジスタのスイッチングエネルギー \(\frac12CV^2\) は世代・設計で桁が変わる目安で、特定の製品の値ではありません。ベケンシュタイン限界とホログラフィック限界は上限であって、実際に使われている情報量ではありません ── 人間が \(9\times10^{44}\) ビットを保持しているという意味ではないことに注意してください。「宇宙の情報加速度が一定」は、ホログラフィック限界を \(I=\pi(ct)^2/(l_P^2\ln2)\) と書いたときの帰結で、地平線の定義(ハッブル半径・粒子的地平線・事象の地平線)の取り方で係数も時間依存も変わります ── 本稿は \(ct\) という最も素朴な取り方をしています。「情報は虚軸に住む」は本稿の整理であり、既存の定理の言い換えです(第二法則そのものの証明ではありません)。 ── 印刷する場合はブラウザの「印刷」から「PDF に保存」を。

印刷 / PDF 化:⌘+P(Windows は Ctrl+P)。「答えを見る」で解答が開きます。