わかる学習論第 9 回 / ランダウアー原理と bits per joule

進化・学習・意識を、ひとつの勾配で読む

生命は、効率よく計算する競争である 情報を1ビット消すだけで、宇宙は最低 \(k_BT\ln 2\) の熱を払わされる。評価も、選択も、神経の発火も計算であり、
計算にはエネルギーが要る。ならば生命とは ── 1ジュールから何ビットの適応を絞り出せるかを競う営みだ。

必要な道具:対数・指数、熱力学のさわり(\(k_BT\)) この回のキー:\(E_{\min}=k_BT\ln 2\)

前回、私たちは生物圏をひとつの巨大な計算機 ── 数十億年まわり続ける GPU ── として眺めました。では、その計算機はタダで動いているのでしょうか。いいえ。物理はもっと厳しい。情報を処理するには、必ずエネルギーが要る。そしてこの「要る」には、宇宙が定めた最低額があります ── ランダウアー原理。1ビットの情報を消すのに、最低でも \(k_BT\ln 2\) のエネルギーが熱として捨てられる。常温ならわずか \(2.9\times10^{-21}\) ジュール、しかしゼロではない。すると生命の姿が一変します。餌をどこで探すか、どの遺伝子を残すか、次の一歩をどう踏み出すか ── そのすべてが「勾配を測る計算」であり、計算である以上、必ず熱力学のコストを負う。だからこそ、自然選択は静かにもう一つの軸で個体を裁いてきました。同じ1ジュールから、より多くの「適応に効く情報」を絞り出せる者が勝ち残る。今回は、この bits per joule ── 1ジュールあたりの情報 ── という物差しで、生命を計算効率の競争として読み直します。

01計算はタダではない

私たちはつい、計算を「頭のなか」の抽象的な出来事だと思いがちです。数式は紙の上で完結し、思考は物理法則の外にある、と。ところが20世紀半ば、物理学者たちは奇妙な問いに突き当たりました ── 計算は、物理的にいくら「かかる」のか。スイッチを切り替え、ビットを書き換え、いらない情報を忘れる。これらはすべて、この宇宙のなかの物理過程です。原子が動き、電子が流れ、熱が生まれる。ならば、そこには必ず値札がついているはずだ。

答えを出したのが、1961年、IBM のロルフ・ランダウアーでした。彼が見つけたのは、計算の値札のうちゼロにはできない最低額です。どんなに賢く設計しても、どんなに未来の技術を使っても、これ以上は安くできないという床(ゆか)。その正体は、意外にも「消す」という操作に潜んでいました。

02ランダウアー原理 ── 忘却には熱が要る

ランダウアーの洞察はこうです。計算のなかで本当にエネルギーを避けられないのは、論理的に非可逆な操作 ── とりわけ情報の消去だ、と。0か1か分からなかったビットを「必ず0にする」ように潰す。この操作は、2通りだった状態を1通りに畳み込む。情報が1ビット減る。すると熱力学第二法則が、その減った分のエントロピーをどこかへ吐き出せと要求します。行き場は周囲の熱浴 ── つまり熱として捨てるしかない。その最低額が次の式です。

ランダウアー原理(1ビット消去の最低エネルギー)
$$E_{\min}\;=\;k_B\,T\,\ln 2$$

ここで \(k_B=1.38\times10^{-23}\ \mathrm{J/K}\) はボルツマン定数、\(T\) は絶対温度、\(\ln 2\approx0.693\) は「2通り→1通り」という2倍の場合の数を情報に翻訳した係数です。温度が高いほど、また消す情報が多いほど、払う熱は増える。常温 \(T=300\,\mathrm{K}\) で数値を入れてみましょう。

やってみよう ── 常温で1ビットいくらか

(1) k_B T ln2 を T=300 K で数値計算する

$$E_{\min}=(1.38\times10^{-23})\times 300 \times 0.693 \;\approx\; 2.9\times10^{-21}\ \mathrm{J}$$

電子ボルトに直すと(1 eV = 1.602×10⁻¹⁹ J)

$$2.9\times10^{-21}\ \mathrm{J}\;\div\;1.602\times10^{-19}\ \mathrm{J/eV}\;\approx\;0.018\ \mathrm{eV/bit}$$

1ビット忘れるのに、常温でおよそ \(2.9\times10^{-21}\) ジュール ── 気の遠くなるほど小さい。だが決してゼロではない。これが「計算の床」です。逆に言えば、\(10^{21}\) ビットも消せば、ようやく数ジュール ── コップの水をほんの少し温める程度の熱になる。塵も積もれば、です。

姉妹シリーズへの橋 ── わかる宇宙論 第10回 まったく同じ \(k_BT\ln 2\) という式が、姉妹シリーズ「わかる宇宙論」第10回にも登場します。あちらの主題は「なぜブラックホールや宇宙全体を情報で語れるのか」── その出発点が、この「1ビット消去 = \(k_BT\ln 2\)」でした。情報と熱力学が地続きだという、20世紀物理最大の発見の一つです。宇宙論では宇宙のスケールでこの式を使い、学習論では生命のスケールで使う。同じ一本の橋を、両側から渡っている ── 情報を消せば必ず熱が出る、という宇宙の掟は、星にも細胞にも等しく効いています。

03生命は情報を処理している ── だからコストを払う

ここで、このシリーズを貫く見方に接続します。第1回から私たちは、学習も進化も「損失という坂を下る=勾配を測って動く」計算だと見てきました。ならば、その計算を実行する生命は、ランダウアーの値札から逃れられないということになります。抽象的な話ではありません。生きものが日々おこなう営みは、そのまま物理的な情報処理です。

そしてこのコストは机上の空論ではなく、生きものの設計に痕跡を残しています。DNA複製の校正(こうせい)機構は、写し間違いを検出して消し、正しい塩基に置き換える ── まさに情報を消去し書き直す装置で、正確さのためにエネルギー(ATP)を余分に燃やしています。神経スパイクの省エネ設計もそうです。脳は情報を運ぶのに、必要最小限のイオンだけを動かすよう、進化のなかで研ぎ澄まされてきた。計算にコストがかかるからこそ、安く計算する工夫が選ばれてきたのです。

04淘汰される計算効率 ── bits per joule

ここまで来れば、自然選択の物差しをもう一本、書き足せます。生き延びるには、環境について「どう動けば適応度が上がるか」という勾配情報を手に入れねばならない。だが情報の取得と処理にはエネルギーが要る。エネルギーは有限です ── 食べられる量には限りがある。すると勝負を分けるのは、こう表せます。

効率の物差し ── 1ジュールあたりの情報
$$\eta_{\text{情報}}\;=\;\frac{\text{獲得した適応に効く情報 [bit]}}{\text{費やしたエネルギー [J]}}\quad(\text{bits per joule})$$

同じ餌の量(同じジュール)から、より多くの「適応に効く情報」を絞り出せる個体は、少ない資源で正しく動ける。その差は、世代をまたいで積もります。だから自然選択は、適応度の高さだけでなく、その適応度を「いくらで」計算したかまで静かに裁いている。速く走る個体ではなく、同じ距離を少ないカロリーで走る個体が選ばれる。同じ判断を、少ない神経活動で下せる脳が選ばれる。計算効率もまた、淘汰の対象なのです。

この視点は、前々回までに見た進化戦略(ES)の弱点を思い出させます。ES は「1サンプル=1個体を実際に生きさせて、その適応度を測る」ことでしか勾配を推定できませんでした。1サンプルのコストは、一つの個体の一生分のエネルギー、そして一つの死です。勾配を1ビット得るために、生命は途方もない量のジュールを燃やしている。この「高すぎる計算」こそ、次回への伏線になります。

05動かしてみる ── 到達コストを比べる

下の図は、ある適応の目標(横軸の「到達度」)に近づくために、戦略が累積で何ジュール燃やすかを描いたものです。縦軸は累積エネルギーを \(k_BT\) 単位の対数で取っています(生物のコストとランダウアー限界は何桁も離れるため、対数でないと同じ図に収まりません)。到達度 \(p\) まで進むのに必要な「適応情報」を \(I(p)=-\log_2(1-p)\) ビットとし、1ビットあたりのコストが戦略ごとに違う、という単純な模型です。

図:目標(到達度90%)に届くまでの累積エネルギー。緑=効率的な戦略(脳的な計算、~10⁶ k_BT/bit)、琥珀=サンプル効率の悪いES(スライダーで変わる)。灰の破線=ランダウアー限界(k_BT ln2/bit、物理の床)。効率的な戦略ほど、同じ到達を下(少ないエネルギー)で達成する
効率的な戦略(学習的) ES(進化・サンプル非効率) ランダウアー限界(床)

スライダーで ES の非効率さ(1ビットあたりコスト)を動かすと、琥珀の曲線が上下します。どんなに効率化しても、どの曲線も灰色の床(ランダウアー限界)にはるか届かない ── これが今回の判決の核心です。同時に、緑(効率的な戦略)は琥珀(ES)よりずっと下を通る。同じ到達度に、桁違いに少ないエネルギーで届く。この「緑と琥珀の差」こそ、自然選択が狙い撃つ余地であり、次回のテーマ ── 学習という安い近道 ── の正体です。

06脳という驚異 ── 限界からは遠く、しかし桁違いに賢い

では、実在する最高の計算機 ── ヒトの脳は、この床からどれくらい離れた場所で動いているのでしょう。脳の消費電力はおよそ \(20\ \mathrm{W}\)、つまり毎秒20ジュールです。もしこの全エネルギーを、ランダウアー限界ぎりぎりの「ビット消去」だけに使えたら、1秒あたり最大で何ビット消せるかを見積もってみます。

やってみよう ── 脳のランダウアー上限と、限界からの距離

(2) 20 W をすべて消去計算に使ったときの、1秒あたりのビット数の上限

$$\frac{20\ \mathrm{J/s}}{2.9\times10^{-21}\ \mathrm{J/bit}}\;\approx\;6.9\times10^{21}\ \mathrm{bit/s}$$

実際の脳の演算数(おおよそ ~10¹⁶ 演算/秒)と比べる

$$\frac{20\ \mathrm{J/s}}{10^{16}\ \text{演算/s}}\;=\;2\times10^{-15}\ \mathrm{J/演算}\;=\;\frac{2\times10^{-15}}{4.14\times10^{-21}}\,k_BT\;\approx\;5\times10^{5}\,k_BT/\text{演算}$$

物理の床が許す上限は毎秒 \(6.9\times10^{21}\) ビット。ところが脳は実際には毎秒 \(\sim10^{16}\) 回ほどの演算しかしていません ── 上限の百万分の一以下。裏を返せば、脳は1演算あたり \(k_BT\ln 2\)(=1ビット分の床)ではなく、その \(10^4\)〜\(10^6\) 倍ものエネルギーを使っている。ランダウアー限界からは、何桁も上にいるのです。矛盾はありません ── 上限が \(6.9\times10^{21}\) bit/s なのに実演算が \(10^{16}\)/s に留まるのは、まさに「1演算に大量の \(k_BT\) を使っている=限界から遠い」ことの別表現です。

それでも、脳は驚異です。1演算 \(\sim10^5\,k_BT\) というのは、現行のデジタル計算機が同種の演算に費やすエネルギーより、しばしば桁で有利だからです。生物としては信じがたく省エネで、物理の床から見れば信じがたく浪費している ── この二つは両立します。生命は限界を飽和(ひたか)してはいない。だが、限界へ向かう方向に、たしかに研かれてきた。校正機構も、省エネな神経も、その研磨の跡です。

◇ ◇ ◇

07判決 ── どこまでが物理で、どこからが物語か

今回は物理の確立した部分と、そこに乗せた解釈とを、はっきり分けて裁きます。混ぜてしまうと、美しい話が嘘になる。

主張中身判決
ランダウアー原理は正しいか 1ビットの論理的に非可逆な消去には最低 \(k_BT\ln 2\) のエネルギーが要る。理論的にも実験的にも確立した物理 ◯ 確立
計算効率は選択圧を受けるか 代謝コストは実在し、校正機構・省エネ神経など効率が研かれた痕跡がある。「効率も淘汰される」という方向性は妥当 ◯ 妥当
生命はランダウアー限界の近傍で動くか 動かない。脳ですら1演算に \(10^4\)〜\(10^6\,k_BT\) を使い、限界から何桁も遠い。「限界を飽和する」は成り立たない × 成り立たない
正直な線 ── 「効率が選ばれる」と「限界を飽和する」は別物

ランダウアー原理は確かな物理です。そして「計算効率が淘汰される」という方向性の主張も妥当 ── 代謝コストは実在し、DNA校正や省エネな神経といった、効率が選ばれてきた具体例があります。ここまでは胸を張って言える。

しかし、そこから一歩踏み込んで「生命は計算論的・熱力学的な最適の近傍で動いている」と言い切るのは、まだ未確立です ── むしろ本文で見たとおり、生物はランダウアー限界から何桁も離れている。だから正直に線を引きます。面白く、そして支持できる主張は「効率が選択される(限界へ向かう方向に研かれる)」であって、「限界を飽和する」ではありません。この二つを取り違えないことが、誠実さの分かれ目です。 ── そして、その「効率」の話は次回へ繋がります。ES(進化)は勾配1ビットに、一つの一生と一つの死を払う。もっと安く同じ勾配を計算する発明はないのか。あります。それが学習です。

練習問題(今回の式と数値だけで解けます)
  1. 温度を \(T=310\ \mathrm{K}\)(ヒトの体温にほぼ相当)にすると、1ビット消去の最低エネルギー \(k_BT\ln 2\) はいくらか。常温 \(300\ \mathrm{K}\) の \(2.9\times10^{-21}\ \mathrm{J}\) と比べてどう変わるか。
    答えを見る
    \(E_{\min}=1.38\times10^{-23}\times310\times0.693\approx2.97\times10^{-21}\ \mathrm{J}\)。約 \(3.0\times10^{-21}\ \mathrm{J}\) で、\(300\ \mathrm{K}\) のときより \(310/300\approx1.03\) 倍、およそ3%大きい。温度に比例するので、暖かいほど1ビットを消す最低コストは上がる。
  2. 1グラムの水の温度を1度上げるのに約 \(4.2\ \mathrm{J}\) 要る。この \(4.2\ \mathrm{J}\) の熱を「ビット消去だけ」で発生させるとしたら、常温で最低何ビット消す必要があるか。
    答えを見る
    \(4.2\ \mathrm{J}\div 2.9\times10^{-21}\ \mathrm{J/bit}\approx1.4\times10^{21}\ \mathrm{bit}\)。1ビットの床が極小でも、\(10^{21}\) ビットも積もれば日常のエネルギーになる ── 情報消去が確かに物理的な熱であることの実感。第5回の脳の上限 \(6.9\times10^{21}\ \mathrm{bit/s}\) とも桁が近いことに注意。
  3. 脳が1演算に約 \(5\times10^{5}\,k_BT\) を使うとする。これはランダウアー限界(1ビット消去 \(=\ln 2\,k_BT\approx0.69\,k_BT\))の何倍か。この数字は「生命が限界の近傍で動く」という主張を支持するか、否定するか。
    答えを見る
    \(5\times10^{5}/0.69\approx7\times10^{5}\)、すなわち約70万倍。限界より5〜6桁も上。したがって「限界の近傍で動く」という強い主張は否定される。支持できるのは「限界へ向かう方向に効率が研かれてきた」という、より弱い(そして正しい)方向性の主張のほう。

第9回まとめ生命とは、1ジュールから情報を絞り出す競争

計算はタダではない(STEP 01)。ランダウアー原理により、1ビットの消去には最低 \(E_{\min}=k_BT\ln 2\) が要り、常温では \(2.9\times10^{-21}\ \mathrm{J}\approx0.018\ \mathrm{eV}\)(STEP 02、姉妹シリーズ「わかる宇宙論」第10回と同じ橋)。評価・選択・神経計算はすべて情報処理であり、生命はこのコストを負う ── DNA校正や省エネ神経はその痕跡(STEP 03)。だから選択は bits per joule という効率の軸でも個体を裁く(STEP 04)。図で見たとおり、効率的な戦略は同じ到達を少ないエネルギーで達成する(STEP 05)。脳は \(20\ \mathrm{W}\)、ランダウアー上限なら毎秒 \(6.9\times10^{21}\) ビット消せるはずが、実際は1演算に \(10^4\)〜\(10^6\,k_BT\) ── 限界から何桁も遠い(STEP 06)。ゆえに判決は、限界は確立(◯)、効率が選ばれる方向性は妥当(◯)、しかし限界の飽和は成り立たない(×)(STEP 07)。

生命は物理の床には届かない。だが、床へ向かう斜面を、確かに下ってきた。次回は、その斜面をいちばん安く下る発明の話です ── 進化は勾配1ビットに一生と死を払う。それより桁違いに安い計算方法が、この宇宙には存在します。

この文書は「わかる学習論」シリーズ第9回、物理・数学・AIに興味のある高校生・大学生向けの読み物です。ランダウアー原理(1ビットの論理的に非可逆な消去に最低 \(E_{\min}=k_BT\ln 2\) のエネルギーが要り熱として散逸する)はR.ランダウアーが1961年に導いた確立した物理で、常温 \(T=300\ \mathrm{K}\) では \(k_BT\ln 2=(1.38\times10^{-23})\times300\times0.693\approx2.9\times10^{-21}\ \mathrm{J}\approx0.018\ \mathrm{eV/bit}\) となります(\(k_B\) はボルツマン定数、1 eV = 1.602×10⁻¹⁹ J)。脳の消費電力 \(\approx20\ \mathrm{W}\) と演算数 \(\sim10^{16}\)/秒、1演算あたり \(10^4\)〜\(10^6\,k_BT\) 程度という見積り、およびランダウアー上限 \(20/2.9\times10^{-21}\approx6.9\times10^{21}\ \mathrm{bit/s}\) は、いずれもオーダー(桁)の目安であり、脳の「演算」の定義や消費電力の取り方によって数字は前後します。本稿の図は説明用の模型で、到達度 \(p\) までの必要情報を \(I(p)=-\log_2(1-p)\) ビット、戦略のコストを「1ビットあたり一定の \(k_BT\) 数」とした単純化であり、効率的戦略 ~10⁶ k_BT/bit・ES 10⁸〜10¹⁸ k_BT/bit といった値は概念を示すための例示です。「計算効率が選択圧を受ける(限界へ向かう方向に研かれる)」という方向性の主張は妥当ですが、「生命が計算論的・熱力学的最適の近傍で動く(限界を飽和する)」という強い主張は未確立であり、実際に生物はランダウアー限界から何桁も離れています。この線引きは本文の判決表・「正直な線」で明示しました。姉妹シリーズ「わかる宇宙論」第10回は同じ \(k_BT\ln 2\) を宇宙のスケールで扱います。進化戦略(ES)と学習の関係は次回(第10回)で正面から扱います。 ── 印刷する場合はブラウザの「印刷」から「PDF に保存」を(印刷版ではスライダーと解答は静止・非表示になります)。

印刷 / PDF 化:⌘+P(Windows は Ctrl+P)。画面では「ES の非効率さ」のスライダーを動かすと、琥珀の曲線(ES の累積エネルギー)が上下します。どこまで効率化しても灰色の床(ランダウアー限界)には届かないこと、緑(効率的な戦略)が常に下を通ることを確かめてください。「答えを見る」で解答が開きます。