σ = 1/3 を深堀りする 予言を当てにいくと、外れたところから次の予言が出てくる ── そして Landauer へ

第1回 で、ES のぼかし幅 σ には二つの役目があると書いた。地形をぼかして障壁を下げること（σ が大きいほど抜けやすい）と、推定のノイズで系を熱すること（σ が小さいほど熱い）。その綱引きから「σ = 1/3 で一番閉じ込められる」という予言が出た。雑な近似を外して当てにいくと、予言は半分当たり、半分外れた。外れた理由を追うと、次の予言が出て、それはフィットなしで 10% 以内に当たった。

00先に仕分け表

予言	結果	格付け
σ* ≈ 1/3（ノイズをガウスとした厳密理論）	当たり：ガウスの代理で 0.32、理論と一致	理論は厳密（1 次元拡散）
本物の ES でも σ* ≈ 1/3	外れ：0.28 にずれ、高さは半分	原因は裾の重いノイズ（確認済み）
(C) η/N 固定で N を増やせば理論に近づく	外れ：逆に縮んだ	設計の問題で切り分けられず
(B) 対称差分 ES は対称な峠を越えられない	外れ：100% 脱出、しかも η/N 則が成立	一回の大ジャンプで越えていた
(D) 一回ジャンプの脱出時間、ln τ ∝ (N/η)1/2	当たり：フィットなしで 10% 以内	単一大ジャンプ原理（確率論で既知）の応用
片側 ES = 拡散 + ジャンプ	山の位置は再現、高さは 4 割ずれ	近似が粗い
Landauer：SGD で 1 ビット消去 ≥ kT ln 2	当たり：0.80 kT まで接近、下限は割らない	教科書
余分な仕事 ∝ 1/τ（熱力学的長さ）	外れ：τ−0.75 程度	解釈：エルゴード性の破れ（未検証）

01予言を厳密にする

系は 第1回 と同じ。二重井戸 \(L=(x^2-1)^2\) の上で、片側 ES \(g=\frac{c+L(x+\sigma\epsilon)}{\sigma}\epsilon\)（オフセット \(c\)）で \(x\leftarrow x-\eta\,\bar g\) と動かす。第1回 の予言は二つの近似に乗っていた。

• 推定ノイズの分散を \(c^2/\sigma^2\) として、場所によらないとした。実際は \(L(x+\sigma\epsilon)\) の分だけ、場所と σ で変わる。
• 障壁の高さだけを見て、前因子とノイズの場所依存を無視した。

そこで、ノイズの分散 \(V(x,\sigma)\) をガウス・エルミート求積で厳密に出し（多項式なので誤差なし）、ドリフト \(-\partial_x L_\sigma\)、拡散係数 \(D(x) = \frac{\eta}{N}\frac{V(x)}{2}\) の 1 次元拡散の厳密な平均脱出時間（二重積分の公式）で予言し直した。

02測る：山はあるが、ずれる

ガウスの代理は理論とぴったり合う（山は 0.32、高さ 108.7 vs 110.1）。σ ≈ 1/3 の予言は、ノイズがガウスなら正しい。本物の ES だけがずれる。片側 ES の推定量は \(L(x+\sigma\epsilon)\) が ε の 4 次式なので \(g\propto\epsilon^5\) の裾を持ち、尖度は σ とともに 2 から 332 まで増える。ときどき来る大きな蹴りで谷を飛び越えるので、脱出が早まり、裾が重くなる大きい σ ほど早まる。それで山が小さい側（0.28）にずれる。

03外れた予言（C）と（B）

(C) η/N を固定して N を増やせば、裾が細って理論に近づく。 N 個の平均をとれば尖度は 1/N で減るはず、という予言。

近づかず、逆に縮んだ。N を増やすと裾は細るが、同時に η も大きくなって一歩が粗くなる。この設計では二つの効果を切り分けられなかった。

(B) 対称差分 ES は対称な峠を越えられない。 対称差分 \(g=\frac{L(x+\sigma\epsilon)-L(x-\sigma\epsilon)}{2\sigma}\epsilon\) は、偶関数の地形の峠 \(x=0\) で恒等的に 0 になる。峠のまわりでノイズの分散は \(V\propto x^2\)、運動は幾何ブラウン運動になり、連続極限では 0 に到達できない。だから SDE 理論の脱出時間は無限大で、離散の歩みだけが峠を越えさせる。η/N 則は破れるはず ── と予言した。

全員が脱出し、しかも η/N が同じなら τ も同じ。予言は二重に外れた。

04外れた理由から出た予言（D）：一回の大ジャンプ

対称差分 ES の推定量を書き下すと

$$g(x,\epsilon) = (4x^3-4x)\,\epsilon^2 + 4x\sigma^2\,\epsilon^4$$

大きな ε では \(4x\sigma^2\epsilon^4\) が支配し、左の谷（\(x<0\)）では符号が決まっている。大きな蹴りは必ず右、つまり峠の方向に来る。峠でノイズが 0 でも、谷から一回の大ジャンプで峠を飛び越えられる。

次に、裾の重い量の和は一番大きな一個で決まる（劣指数分布の「単一大ジャンプ原理」）。N 個の平均 \(\bar g\) が \(y\) を超える確率は \(N\,P(g > Ny)\) で近似できる。一歩で峠を越えるには \(\eta\bar g > |x_{\min}|\) が要るので、単位時間あたりの脱出率は

$$k \;=\; \frac{1}{\eta}\,N\,P\!\left(g > \frac{N|x_{\min}|}{\eta}\right) \;=\; \frac1r\,P\!\left(g > \frac{|x_{\min}|}{r}\right),\qquad r=\frac{\eta}{N}$$

片側 ES にも当てはめる

片側 ES のずれを「拡散による脱出 + 一回ジャンプ」の和 \(k = 1/\tau_{\rm SDE} + k_{\rm jump}\) で説明できるか。

山の位置が 0.28〜0.30 に移ることは再現できた。高さはまだ 4 割長い。ジャンプを谷底からだけ数え、谷を少し登ってからの小さめのジャンプを入れていないためと思われる（未確認）。

05Landauer：SGD で 1 ビットを消すコスト

情報と物理の、計算の側からの接点。SGD のノイズ（温度 T、第1回 の η/N）で動く粒子を二重井戸に置き、どちらの谷にいるかを 1 ビットとする。最初は左右五分五分（情報 \(\ln 2\)）。障壁を下げる → 左に傾ける → 障壁を戻す → 傾きを戻す、の手順で消去する（Bérut ら 2012 の実験と同じ）。障壁は \(8kT\)。

$$\langle W\rangle \;\ge\; kT\big[\ln 2 + p\ln p + (1-p)\ln(1-p)\big]\qquad(p:\ \text{成功率})$$

• 下限は守られる。 ゆっくり消すほど ⟨W⟩ は \(\ln 2 = 0.693\,kT\) に近づき、τ = 200 で 0.80 kT。どの τ でも下限を割らない。SGD のノイズ温度で、1 ビットの最低コスト \(kT\ln2\) が見えている。
• 余分な仕事が \(1/\tau\) で減る、という予言は外れた。 1/τ なら最下行は一定のはずだが、6.9 → 37.8 と増え続け、減り方は \(\tau^{-0.75}\) 程度。

解釈（未検証）：熱力学的長さの \(1/\tau\) 則は、系が操作より速く平衡に戻れる線形応答の領域の定理である。ところが障壁が高い間は、谷を越える時間がクラマースの式で \(e^8\approx3000\) 程度になり、どの τ よりずっと長い。ビットを保持するためにわざとエルゴード性を破っているので、遅い操作の領域には決して入らない。τ を伸ばすと成功率が落ちていく（0.999 → 0.983）のは、障壁越しの漏れが効き始めた印と読める。

06換算表：この回の無次元量

量	意味	この回での役
\(\eta/N\)	ノイズの温度	拡散でもジャンプでも、脱出を決める
\(\sigma\)（地形のスケールで測る）	ぼかし幅	障壁を溶かす幅とノイズの源の綱引き、σ* ≈ 0.3
尖度	ノイズの裾の重さ	2 → 332。ガウス理論からのずれを決める
\(|x_{\min}|/(r\sigma^2)\)	一回で越えるのに要る蹴りの大きさ	\(\ln\tau\propto\sqrt{\cdot}\)
\(\Delta U/kT\)	障壁 / 温度	Landauer の障壁 8、ビットの保持
\(W/kT\ln 2\)	消去の仕事 / 1 ビットの最低コスト	τ = 200 で 1.15

07正直な線