進化・学習・意識を、ひとつの勾配で読む
機械が「学習」し、生きものが「進化」する。私たちはこの二つを、まるで別の世界のできごとのように語ります。片方は数学とコンピュータの話、もう片方は太古からの生命の話。ところが第1回で描いた損失地形 ── パラメータ \(\theta\) を横軸に、まずさ \(L(\theta)\) を高さにとったあの風景 ── は、じつは機械学習の発明ではありませんでした。集団遺伝学者シューアル・ライトが1932年に、進化を説明するために描いた適応度地形(adaptive landscape)と、上下をひっくり返しただけの同じ絵なのです。生物学は「高い峰=よく適応した遺伝子型」を、機械学習は「低い谷=損失の小さい重み」を目指す。呼び名と向きが違うだけ。この回では、自然選択が数式のうえで地形を登る勾配上昇そのものであること、そして第1回で出会った「局所最小の罠」が、ここでは局所的な峰への貼りつきとして、そっくり同じ顔で戻ってくることを見ます。80年の時をこえて、進化と学習は同じ地形の上に立っていました。
第1回で、学習を一行で定義しました ── パラメータ \(\theta\) を動かして損失 \(L(\theta)\) を下げること。更新則は \(\theta\leftarrow\theta-\eta\nabla L\)。第2回では、ニューラルネットがその勾配 \(\nabla L\) を連鎖律で自動計算する仕組み(誤差逆伝播, BP)を見ました。ここまでは「機械が学ぶ」話です。
では、生きものの進化はどうでしょう。DNA を微分してくれる神さまはいません。それでも生命は、何十億年ものあいだ環境に適応し続けてきた。もし進化が学習とまったく別の原理なら、このシリーズの背骨は折れます。逆に、もし同じ地形の上で同じ操作をしているなら ── 「学ぶ機械」と「進化する生命」は地続きだと言えます。答えを先に置きましょう。同じです。それを見るために、まずライトの地形を、第1回の地形の隣に並べます。
ライトは、遺伝子型あるいは形質 \(\theta\) を横軸に、その \(\theta\) を持つ個体がどれだけうまく生き延びて子を残すかを高さにとりました。この高さを適応度(fitness) \(F(\theta)\) と呼びます。高い峰ほど「よく適応した \(\theta\)」、低い谷ほど「生き延びにくい \(\theta\)」。進化とは、集団がこの地形の峰へ向かって登っていく営みだ ── これがライトの絵です。
第1回の損失地形と見くらべてください。あちらは「低い谷ほど良い」、こちらは「高い峰ほど良い」。上下が逆なだけで、地形の起伏そのものは同じものです。数式で言えば、両者はたった一本の等式で結ばれています。
損失を下げること(谷下り)は、適応度を上げること(山登り)と、完全に同じ操作です。第1回で \(-\nabla L\) の向きへ進んだのは最急降下でしたが、\(L=-F\) なら \(-\nabla L=+\nabla F\)。つまり適応度の勾配 \(\nabla F\) の向きへ進む勾配上昇(gradient ascent)にほかなりません。方向が逆さまになっただけで、同じ坂を、片方は下り、片方は登っている。
「集団が峰を登る」を、きちんと数式にしましょう。集団の中に型(遺伝子型・戦略)が \(i=1,2,\dots,n\) あり、型 \(i\) が集団に占める頻度を \(x_i\) とします(\(x_i\ge0,\ \sum_i x_i=1\))。型 \(i\) の適応度を \(f_i\)(一個体あたりの平均的な繁殖成功)とすると、集団全体の平均適応度は
自然選択とは何か。平均より優秀な型は増え、平均より劣る型は減る ── それだけです。この一文をそのまま微分方程式にしたものが、レプリケーター方程式(replicator equation)です。
読み方はやさしい。カッコの中 \(f_i-\bar f\) が、型 \(i\) の「平均からの上振れ」です。これが正(平均超)なら \(\dot x_i>0\) で頻度は増え、負(平均未満)なら減る。前についた \(x_i\) は、いまその型がどれだけいるかによる増幅率 ── だから、いま集団にいない型(\(x_i=0\))は、どれだけ優秀でも \(\dot x_i=0\) のまま、勝手には湧いてきません。この一点が、のちの「局所の峰の罠」の伏線になります。
まず、この式が頻度の総和を保つことを確かめましょう(確率分布であり続ける、という健全性チェックです)。
\(\sum_i x_i f_i=\bar f\) と \(\sum_i x_i=1\) を使うだけ。総和の変化率が \(0\) なので、\(\sum_i x_i\) は永遠に \(1\) のまま。選択はパイの取り分を配り替えるだけで、パイ自体は増減しません。
レプリケーター方程式のいちばん美しい帰結はこれです ── 適応度が固定されているかぎり、集団の平均適応度 \(\bar f\) は決して下がらない。しかも、上がる量は集団の中のばらつき(分散)にちょうど等しい。手を動かして導きましょう。
f_i は定数なので、平均 \(\bar f=\sum_j x_j f_j\) を時間で微分すると
$$\frac{d\bar f}{dt}=\sum_i \dot x_i\,f_i=\sum_i x_i(f_i-\bar f)\,f_i$$カッコを展開して、Σx_i f_i = f̄ を使う
$$=\sum_i x_i f_i^2-\bar f\sum_i x_i f_i=\langle f^2\rangle-\bar f^{\,2}$$これは分散の定義そのもの
$$\frac{d\bar f}{dt}=\mathrm{Var}_x(f)=\sum_i x_i\,(f_i-\bar f)^2\;\ge\;0$$分散は二乗の和なので、つねに \(0\) 以上。ゆえに \(\bar f\) は単調に増え続け、全員が同じ適応度になった(分散 \(=0\))ときに止まります。これがフィッシャーの自然選択の基本定理の核心 ── 平均は、ばらつきの分だけ上がる。多様性こそが、進化を進める燃料だったのです。
この関係は、離散的な一歩でもきれいに成り立ちます。次の小さな数値実験で、\(\bar f\) が実際に上がること、そしてその上がり幅が分散にぴったり一致することを、電卓で確かめてみましょう。
型が3つ、適応度は \(f=(1.0,\ 1.2,\ 0.9)\)。初期頻度はどれも同じ \(x=(\tfrac13,\tfrac13,\tfrac13)\)。離散版の更新則 \(x_i\leftarrow x_i\bigl(1+(f_i-\bar f)\bigr)\) を1回だけ回します。
まず平均適応度
$$\bar f=\tfrac13(1.0+1.2+0.9)=\tfrac{3.1}{3}=1.0333$$各型を更新(f_i−f̄ を掛ける)
$$x_1'=\tfrac13(1-0.0333)=0.3222,\quad x_2'=\tfrac13(1+0.1667)=0.3889,\quad x_3'=\tfrac13(1-0.1333)=0.2889$$和は \(0.3222+0.3889+0.2889=1.0000\) ── 総和はぴたり保たれます(STEP 03 の確認どおり、規格化し直す必要すらありません)。優秀な型2が増え、劣る型3が減りました。新しい平均は
$$\bar f'=0.3222\times1.0+0.3889\times1.2+0.2889\times0.9=1.0489$$上がり幅を、分散と見くらべる
$$\Delta\bar f=1.0489-1.0333=0.0156,\qquad \mathrm{Var}_x(f)=\tfrac13\bigl[(-0.0333)^2+(0.1667)^2+(-0.1333)^2\bigr]=0.0156$$ぴたり一致。\(\Delta\bar f=\mathrm{Var}_x(f)\) ── 平均は、ばらつきの分だけ上がる。理屈どおりに数字が動きました。
まとめると、自然選択は第1回の勾配降下の符号を反転した双子です。片方は \(L\) の谷を \(-\nabla L\) で下り、片方は \(F\) の峰を \(+\nabla F\) で登る。集団は、地形の峰へ向かって這い上がっていきます。
下の地形は適応度 \(F(\theta)\) で、峰が二つあります。左が低い峰(局所的な最適)、右が高い峰(大域的な最適)。あいだには深い谷があります。オレンジの点群が集団の個体たち、赤い印がその平均 \(\bar\theta\) です。集団は最初、左の低い峰のふもとにいます。「世代を進める」を押すと、毎世代 ①適応度に応じた選択(優秀な個体ほど多く子を残す)と ②突然変異(子の形質にゆらぎが乗る)が繰り返され、集団が坂を登ります。
まず初期設定(変異 \(\sigma=0.08\))のまま回してください。集団はすいすい左の低い峰へ登り、そこに貼りついて動かなくなります。平均適応度は上がったのに、隣にもっと高い峰があるのに、届かない。次に「世代を進める」をもう一度押す前に、突然変異の幅 \(\sigma\) を \(0.35\) あたりまで上げて回してみてください。個体のばらつきが谷を越えて右斜面に届き、そこで選択が働くと、集団はやがて高い峰へ乗り移ります。選択圧 \(\beta\) を上げると登りは速いが視野が狭くなり、下げると登りは遅いが探索的になります。
いま見た「低い峰に貼りつく」現象は、第1回の局所最小の罠と、まったく同じものです。あちらではボールが浅い谷にはまって出られなかった。こちらでは集団が低い峰に登りきって降りられない。\(L=-F\) で上下をひっくり返せば、局所最小はそのまま局所最大(局所的な峰)になります。同じ地形の、同じ弱点です。
レプリケーター方程式が \(\dot x_i=x_i(f_i-\bar f)\) だったことを思い出してください。頭に \(x_i\) がついている ── いない型は増えない。だから純粋な選択だけでは、集団はいま立っている峰から一歩も動けません。谷を越えて別の峰へ移るには、いまいない場所を試す仕掛け、すなわち突然変異(=地形の探索)が要る。シミュレーションで \(\sigma\) を上げたとき集団が谷を越えられたのは、変異が「隣を試す」役目を果たしたからです。多様性は平均を上げる燃料であると同時に、局所の峰から脱け出す命綱でもあったのです。
このシリーズは毎回、道具の力と限界を正直に裁きます。適応度地形と自然選択について、三つの問いに答えを出しましょう。
| 問い | 適応度地形+自然選択の答え | 判決 |
|---|---|---|
| 自然選択は、第1回の勾配降下と同じ操作か | 同じ。\(L=-F\) のもとで、選択=適応度地形の勾配上昇=損失地形の勾配降下。符号が逆なだけの同型 | 同型 |
| 集団の平均適応度は、必ず上がるか | 下がらない。\(d\bar f/dt=\mathrm{Var}_x(f)\ge0\)(適応度が固定なら単調非減少) | 非減少 |
| いつも一番高い峰(大域最適)に届くか | 届くとは限らない。近くの局所的な峰に貼りつく ── 第1回とまったく同じ弱点 | 保証なし |
適応度地形は進化を見晴らす最高の絵ですが、いくつも理想化を含みます。第一に、実際の地形は静止していません ── 捕食者と獲物の共進化や、頻度依存選択(ある型が増えると得か損かが変わる)のもとでは、集団が動くと地形そのものが波打ちます。「登っている足場が動く」世界では、峰の比喩は素朴すぎます。第二に、ここで見た絵は形質が1次元でしたが、高次元では直観が大きく変わり、局所の峰は思ったより「抜け道」を持ちます。第三に、レプリケーター方程式は無限集団・ノイズなしの近似で、有限集団では偶然の揺らぎ(遺伝的浮動)が効きます。
それでも ── 「選択=地形上の最適化」という構造的な同一性は本物です。学習と進化は、同じ地形の上で、符号だけ違う同じ計算をしている。ここで一つ、鋭い問いが残ります。第1回の勾配降下も第2回のBPも、\(\nabla L\) を計算できることを前提にしていました。ところが自然には微分の神さまがいない。DNA を微分することはできない。では、微分できない自然は、どうやって坂の勾配を知るのか?次回、その答え ── 進化戦略(ES)へ。
ライトの適応度地形 \(F(\theta)\) は、第1回の損失地形と \(L(\theta)=-F(\theta)\) で結ばれた同じ絵(STEP 02)。自然選択はレプリケーター方程式 \(\dot x_i=x_i(f_i-\bar f)\) ── 平均より優秀な型が増え、劣る型が減る(STEP 03)。適応度が固定なら平均適応度は単調に非減少で、その上がり幅は集団の分散に等しい \(d\bar f/dt=\mathrm{Var}_x(f)\ge0\)(STEP 04、フィッシャーの基本定理)。つまり選択は、損失地形の勾配降下と符号だけ違う勾配上昇。だが第1回の局所最小はここで局所的な峰の罠として還り、純粋な選択では谷を越えられない ── 変異という探索が命綱(STEP 06)。
学習と進化は、同じ地形の上で同じ計算をしていました。残る問いはただ一つ ── 微分できない自然は、どうやってその勾配を知るのか。次回、微分を一切使わずに坂を下る方法へ。
印刷 / PDF 化:⌘+P(Windows は Ctrl+P)。画面では「選択圧」と「突然変異の幅」を変えて「世代を進める」を押すと、集団が峰を登ります。変異が小さいと低い峰に貼りつき、大きくすると高い峰へ移る様子を試してみてください。「答えを見る」で解答が開きます。