学習の仕組み — 重みはどうやって決まるのか

ニューラルネットには 数百万〜数千億のパラメータ（重み） があります。 人間が手で決めるのは絶対無理。これらは 「学習」というアルゴリズム でデータから自動的に決まります。 この章では「学習」とは何かを、数式とインタラクティブなアニメーションで完全に理解します。

この章の全体像

「学習」とは、たった1つの考え方で動いています：

1. 学習とは何か — 出発点

1.1 ニューラルネットの問題設定

第3章 で見たように、ニューラルネットは パラメータ化された関数です：

• $x$ : 入力
• $\theta$ : パラメータ全体（全ての重みとバイアス）
• $y$ : 予測出力

そもそも $\theta$ って何？ — イメージで理解する

$\theta$（シータ）と書くと数学的で難しく見えますが、要は 「ネット内の全部の調整つまみを1つの大きな袋に入れたもの」 です。

θ = (
    w₁₁, w₁₂, w₁₃, ...,    ← 第1層の重み（数千〜数百万個）
    b₁,  b₂,  b₃,  ...,    ← 第1層のバイアス
    w₂₁, w₂₂, w₂₃, ...,    ← 第2層の重み
    b₂,  b₂,  b₃,  ...,    ← 第2層のバイアス
    ...                     ← 全層の重みとバイアス
)

  ↑ これが全部「1つのベクトル」 ＝ θ

問題は、$\theta$ の値（つまみの組み合わせ）をどう決めるか。

1.2 手で決めるのは不可能

NNUEは約1050万個のパラメータを持ちます。1日1個決めても 2万8千年 かかる計算。 ChatGPT級なら 数千億〜兆 個。手作業は完全に論外です。

しかも各パラメータを単独で評価することもできない。「W[1][1] = 0.5237 が良いか？」は、 残りの数千万のパラメータが全部決まって初めて評価できる。

1.3 「学習」を最適化問題として定式化

学習を数学的に書くとこうなります：

この数式の意味を分解する

機械学習の論文や教科書で 必ず登場する 1行。記号ごとに意味を分解しましょう。

ここからは、$L(\theta)$ をどう定義するか（損失関数）と、それをどう最小化するか（勾配降下法）の話になります。

2. 損失関数 — 「正解とのズレ」を数値化する

学習の第1歩は、「予測 $y$ と正解 $t$ がどれくらい違うか」を 1つのスカラー値 で表すこと。これを 損失関数（loss function） と呼びます。

2.1 二乗誤差（MSE） — 回帰の定番

出力が連続値（数値予測）のとき、最も使われる損失関数：

※ 上の式は1点ぶんの二乗誤差（Squared Error）。データセット全体で平均すると本来の MSE になります（§2.3 で扱います）：

具体例：

• 予測 $y = 250$、正解 $t = 280$ → $L = (250 - 280)^2 = 900$
• 予測 $y = 250$、正解 $t = 251$ → $L = 1$（ほぼ正解）
• 予測 $y = 250$、正解 $t = -100$ → $L = 122{,}500$（大ハズレ）

2乗する理由：

1. 符号を消す（$y > t$ と $y < t$ を同等に扱う）
2. 大きなズレほど強くペナルティ（差が10倍になると損失は100倍）
3. 微分しやすい（後の勾配計算で効く）

2.2 交差エントロピー — 分類の定番

d/dx (eˣ) = eˣ              ← e のときだけシンプル！
d/dx (2ˣ) = ln(2) × 2ˣ      ← 余分な係数 ln(2) ≈ 0.693
d/dx (10ˣ) = ln(10) × 10ˣ   ← 同じく ln(10) ≈ 2.303

d/dx ln(x) = 1/x                    ← 自然対数だけシンプル
d/dx log₁₀(x) = 1/(x × ln(10))      ← 余分な係数

import math

# 指数関数
exp_5 = math.exp(5)        # e^5 ≈ 148.4

# その逆（自然対数）
math.log(exp_5)            # 5（元に戻る）

# 性質1の確認
math.log(2 * 3)            # ≈ 1.79
math.log(2) + math.log(3)  # ≈ 1.79（同じ）

出力が確率（0〜1）のとき。NNUEや画像分類でも使われる：

この式全体をグラフで見る

まずは $t = 0$ と $t = 1$ のそれぞれで、$y$ を動かしたときに損失 $L$ がどう変化するか を1つのグラフに重ねて見てみましょう。

この数式を1つずつ分解する

一見複雑ですが、これは 2値分類（正解が 0 または 1）の条件分岐を1行にまとめた ものです。

記号の確認

2つの項に分解

L(y, t) = -[ t · log(y)  +  (1-t) · log(1-y) ]
            └────┬───┘     └──────┬──────┘
              項A:               項B:
            「t=1のとき」用    「t=0のとき」用

ケース1：正解 $t = 1$ のとき

ケース2：正解 $t = 0$ のとき

つまり：t は「スイッチ」

       ┌─ t=1 のとき → -log(y) を使う
L(y,t) ┤
       └─ t=0 のとき → -log(1-y) を使う

• $t=1$ → 項Aだけ生かす、項Bは $0$ で消える
• $t=0$ → 項Aは $0$ で消える、項Bだけ生かす

なぜ1つの式にまとめるのか

1. コードがシンプル：`if t == 1: ... else: ...` という分岐がいらない
2. 微分しやすい：1つの数式として自動微分（PyTorch等）できる
3. 数学的に美しい：場合分けより本質を表現できる

# Pythonでの実装：分岐なしで1行
def binary_cross_entropy(y, t):
    return -(t * math.log(y) + (1 - t) * math.log(1 - y))

この関数は、確率分布の「距離」を測る情報理論的な根拠を持ちます。次のコラムで、なぜ「交差エントロピー」という名前なのか、その由来を解説します。

H(p, q) = − Σᵢ   pᵢ     ·    log qᵢ
                  ↑           ↑
            真の発生確率   その事象を「qで信じた」ときの予測確率
            (現実の世界)   (モデルが思っている確率)

なぜ確率出力では MSE ではなく交差エントロピーを使うのか？

よくある疑問：「数値予測でMSEを使うなら、確率予測でもMSEでよくない？」 実は、確率出力でMSEを使うと 3つの問題 があります。

$-\log(y)$ が「罰」として優れている理由

$-\log(y)$ には決定的な特徴があります：

1. 正解（$y=1$）のとき罰ゼロ — 当然
2. 誤りに近づくほど指数的に罰が増える
3. $y = 0$ で罰が無限大に発散 — 「絶対に許さん」という意思表示

この「無限大に発散する」性質が、「正解と真逆を高確率で予測した誤り」を厳しく罰する ことを可能にします。

理由1：「正解と真逆を高確率で予測した誤り」を強く罰せない（MSEとの比較）

さて、ここで MSE: $(1-y)^2$ と CE: $-\log(y)$ を 同じグラフに重ねて 比較してみましょう。 これで MSE が「弱すぎる罰」だということが目で見て分かります。

数値で確認

MSEは最大でも 1.0 で頭打ち。一方、交差エントロピーは $-\log(y)$ なので $y \to 0$ で 無限大に発散。 これが「確信を持って間違えるな」という強い学習圧力をかける仕組みです。

理由2：勾配消失を防ぐ（実践上もっとも重要）

ニューラルネットの最終層は通常 Sigmoid（0〜1に押し込める）を通します。 その後ろの損失関数として何を使うかで、勾配の流れが激変します。

勾配は「パラメータをどっちに動かすか」を決める情報。 勾配が大きい = 速く学習、勾配が小さい = 学習が止まる、という関係です。

学習中            →  y は連続な確率（0〜1 のなめらかな値）
                     ↓ 損失と勾配はこの連続値の上で計算
推論時(=ラベルを出す時) →  y > 0.5 なら「猫」、それ以外は「犬」 ← ここだけ離散化

y = [0.02, 0.85, 0.01, ..., 0.03]   ← 1000個の確率（合計1）
       犬    猫    鳥    ...   その他
                ↑ 「猫である確率0.85」

使い分けの大原則

2.3 データセット全体の損失

実際は、データ1点ずつではなく、全データの平均を取ります：

ここで $y_i = f(x_i; \theta)$。$L_{\text{total}}$ は パラメータ $\theta$ の関数 として見るのがポイント。 学習は $L_{\text{total}}(\theta)$ を最小化する $\theta$ を見つける 問題になります。

3. 勾配降下法 — 損失の谷を下りる

$L_{\text{total}}(\theta)$ を最小化する $\theta$ を、どう見つけるか？ 勾配降下法（Gradient Descent） という単純で強力なアルゴリズムを使います。

3.1 1次元での直感

まずは1変数で考えます。$L(w)$ のグラフが次のような谷型だとします：

L(w)
  │
  │ ●            ●
  │  ╲          ╱
  │   ╲        ╱
  │    ╲      ╱
  │     ╲    ╱
  │      ╲__╱
  │       ●  ←  ここが最小値（求めたい w*）
  └──────────── w
      w*

現在の点が $w_0$ にあるとき、「坂を下る方向」 に動けば $L$ は減ります。 坂の傾きは 微分 で測れます：

• $\dfrac{dL}{dw} > 0$（右上がり）→ $w$ を 減らす と $L$ が下がる
• $\dfrac{dL}{dw} < 0$（右下がり）→ $w$ を 増やす と $L$ が下がる

まとめると、$w$ を $-\dfrac{dL}{dw}$ の方向に動かせば $L$ は必ず減る。これを式にすると：

ここで $\eta$（イータ）は 学習率（learning rate）。「1ステップでどれくらい動くか」を決める正の小さい数（典型的には 0.001〜0.1）。

「$-\dfrac{dL}{dw}$ の方向」を分解して理解する

この言い回し、最初は混乱しやすいので具体例で確認しましょう。

$L(w) = w^2$ という単純な放物線で実験：

例1：現在地が $w = 2$ のとき

例2：現在地が $w = -2$ のとき

両ケースで言えること

いつでも、$-\dfrac{dL}{dw}$ の方向に動けば $L$ が減る。これが勾配降下法の核心です。

式 $w_{\text{new}} = w_{\text{old}} - \eta \cdot \dfrac{dL}{dw}$ の意味

w_new = w_old - η × dL/dw
        ↑       ↑   ↑
        現在地  学習率(ステップ幅)
                    (-勾配方向に動かす)

• $-\eta \times \dfrac{dL}{dw}$ は「$-\dfrac{dL}{dw}$ の方向に $\eta$ だけ動く」という意味
• これを 何百万回も繰り返す と、徐々に $L$ が小さい場所（=最適な $w$）に到達する

数値で更新を追ってみる

$L(w) = w^2$、現在地 $w=2$、学習率 $\eta=0.1$ で実際に動かしてみると：

$L$ の値が 4 → 2.56 → 1.64 → 1.05 → ... → 0 と着実に減っていく。これが「学習」の正体。

3.2 インタラクティブデモ：勾配降下法を体感する

3.3 多次元への拡張 — 勾配ベクトル

実際のニューラルネットでは、$\theta$ は数百万次元のベクトル。 各パラメータごとに 偏微分 を取ります：

これを 勾配（gradient）、$\nabla L$（ナブラ L）と書きます。 勾配ベクトルは空間の各点で 「$L$ が最も急に増える方向」 を指し、その逆方向 $-\nabla L$ が 最も急に減る方向。

式の形は1次元と同じ。違いは「$\theta$ がベクトルなので、ベクトル全体を一気に更新する」点。

3.4 学習率の重要性

実用上は 学習率を学習中に変化させる のが普通（学習率スケジューリング）。最初は大きめで、徐々に小さくする。

4. 誤差逆伝播法 — 多層NNでの勾配計算

§3で「勾配さえあれば谷を下れる」と言いました。問題は、ニューラルネットは何層にも重なった巨大な合成関数であり、深いところにある重み（例えば1層目の $W_1$）が損失 $L$ にどう影響するかは、間に挟まる全部の層を経由するという点。

これを劇的に効率化するのが 誤差逆伝播法（backpropagation）。1986年に再発見された、深層学習の根本技術です。

4.1 連鎖律（Chain Rule）の復習

合成関数の微分公式。$y = f(g(x))$ のとき：

「外側の微分」×「内側の微分」。3段の合成 $y = f(g(h(x)))$ なら：

ニューラルネットは多層の合成関数なので、連鎖律がそのまま使えます。

4.2 多層NNでの勾配計算 — ドミノ倒しのイメージ

3層NN を例にします（入力 $x$ → 重み $W_1, W_2, W_3$ を通って出力 $y$）：

h_1 = σ(W_1 · x + b_1)        ← 中間層1の出力
h_2 = σ(W_2 · h_1 + b_2)      ← 中間層2の出力
y   = W_3 · h_2 + b_3         ← ネットの最終出力
L   = (y - t)²                 ← 損失（出力と正解とのズレ）

まず「$W_1$ の勾配」は何を意味するか

$\dfrac{\partial L}{\partial W_1}$ は、ひと言で言うと 「1層目の重み $W_1$ をほんの少し動かしたら、最後の損失 $L$ はどれくらい変わるか」。

ところが $W_1$ は $L$ に 直接 影響しません。間に $h_1$、$h_2$、$y$ が挟まっている：

W_1 を動かす
   ↓ (これが h_1 を変える)
h_1 が変わる
   ↓ (これが h_2 を変える)
h_2 が変わる
   ↓ (これが y を変える)
y が変わる
   ↓ (これが L を変える)
L が変わる

連鎖律は、この「リレー」を 各段の影響率を掛け算する ことで効率的に計算する仕組み：

各項の意味を1つずつ言語化すると：

具体例で実感する（簡単な数字で）

仮に各「影響率」が次の値だったとします：

• ① $\dfrac{\partial L}{\partial y} = 2$（$y$ が1増えると $L$ は2増える）
• ② $\dfrac{\partial y}{\partial h_2} = 3$（$h_2$ が1増えると $y$ は3増える）
• ③ $\dfrac{\partial h_2}{\partial h_1} = 0.5$（$h_1$ が1増えると $h_2$ は0.5増える）
• ④ $\dfrac{\partial h_1}{\partial W_1} = 4$（$W_1$ が1増えると $h_1$ は4増える）

すると $W_1$ を1増やしたら、ドミノ倒しでこんな伝わり方をします：

つまり $\dfrac{\partial L}{\partial W_1} = 2 \times 3 \times 0.5 \times 4 = 12$。 連鎖律は 「各段の影響を順番に掛け算するだけ」 のシンプルな操作です。

🎮 インタラクティブデモ：ドミノを動かしてみる

各層の 影響率（傾き）を変えると、最終的な勾配 $\partial L/\partial W_1$ がどう変わるか体感できます：

なぜ「出力側から計算する」のか

「掛ける順番はどっちからでもいいのでは？」 — 数学的には可換ですが、計算の効率が桁違いに変わります。鍵は $\dfrac{\partial L}{\partial h_k}$ を共有して使い回せる こと。

実際の各層の重み $W_k$ の勾配を全部書き出すと：

∂L/∂W_3 = ∂L/∂y · ∂y/∂W_3
∂L/∂W_2 = ∂L/∂y · ∂y/∂h_2 · ∂h_2/∂W_2
                 ↑─同じ
∂L/∂W_1 = ∂L/∂y · ∂y/∂h_2 · ∂h_2/∂h_1 · ∂h_1/∂W_1
                 ↑─同じ ↑─────同じ

共通部分が大量にある。これを毎回ゼロから計算するのは無駄。 出力側から順に 「ここまで分の影響率」 を計算しておけば、各層の勾配は 1掛け算追加するだけ で求まる。

これが 誤差逆伝播法 の中心的アイデア＝「出力で計算した $\dfrac{\partial L}{\partial y}$ を、層を逆順に1段ずつ拡張して伝播していく」。だから 逆 伝播と呼びます。

4.3 順伝播 + 逆伝播の流れ

学習の1ステップは、必ず 「左から右」→「右から左」 の2パス構成になります。

① Forward pass（順伝播）：左から右へ

入力 $x$ を流して、各層の出力 $h_1, h_2, y$ と損失 $L$ を計算します。

x → [W_1] → h_1 → [W_2] → h_2 → [W_3] → y → L
入力      層1      中間      層2      中間      層3    出力   損失

ここで 各層の出力 ($h_1, h_2, y$) を覚えておく のがポイント。逆伝播で再利用します。

② Backward pass（逆伝播）：右から左へ

出力側から順に「ここまでの影響率 $\dfrac{\partial L}{\partial h_k}$」を計算し、その都度 その層の重みの勾配 $\dfrac{\partial L}{\partial W_k}$ を取り出します。

各ステップで何が起きているか、文章でも書くと：

1. Step 1：出力層で $\dfrac{\partial L}{\partial y}$ を計算。これは損失関数を直接微分するだけ。MSEなら $2(y - t)$。
2. Step 2：$\dfrac{\partial L}{\partial h_2} = \dfrac{\partial L}{\partial y} \cdot \dfrac{\partial y}{\partial h_2}$ を計算。ついでに $\dfrac{\partial L}{\partial W_3}$ が決定する。
3. Step 3：$\dfrac{\partial L}{\partial h_1} = \dfrac{\partial L}{\partial h_2} \cdot \dfrac{\partial h_2}{\partial h_1}$ を計算。ついでに $\dfrac{\partial L}{\partial W_2}$ が決定する。
4. Step 4：$\dfrac{\partial L}{\partial W_1} = \dfrac{\partial L}{\partial h_1} \cdot \dfrac{\partial h_1}{\partial W_1}$ を計算。これで 全層の重み勾配が完成。

各層で連鎖律を1ステップずつ適用するだけ。実装上は 行列演算の連続 に落ちます。

🎮 インタラクティブデモ：4ステップで逆伝播を進めてみる

「次へ」ボタンで 1ステップずつ逆伝播 を実行。各層の勾配がどう計算されるかを目で追えます。

4.4 何がすごいのか — 素朴な方法との比較

「順伝播の数倍で勾配が出る」と言われてもピンと来ないので、もし誤差逆伝播がなかったら どう計算するかを並べてみます。

素朴な方法：数値微分

微分の定義に立ち返ると：

つまり「$W_k$ を少しだけ動かして、$L$ がどれくらい変わったか測る」。これを 1つのパラメータごとに やるしかありません。

どれくらい速くなるか — 桁で考える

仮に1回の順伝播が 10ms かかるとすると：

• 素朴な数値微分：10ms × 1050万回 = 約29時間（1データ点の勾配を出すだけで！）
• 誤差逆伝播：10ms × 2 = 約20ms（1データ点の勾配）

その差は 約500万倍。「29時間 vs 20ミリ秒」と並べると衝撃。

なぜまとめて計算できるのか

§4.2 で見たように、各層の勾配は 共通部分 を大量に含んでいました：

∂L/∂W_3 = (∂L/∂y) · ∂y/∂W_3
∂L/∂W_2 = (∂L/∂y · ∂y/∂h_2) · ∂h_2/∂W_2
∂L/∂W_1 = (∂L/∂y · ∂y/∂h_2 · ∂h_2/∂h_1) · ∂h_1/∂W_1
          └─────── 使い回せる部分 ───────┘

逆伝播は この共通部分（カッコ内）をメモリに置いて、1段ずつ右から左に伸ばしていく 戦略。 数値微分は毎回ゼロからやり直すので、同じ計算を1050万回繰り返す羽目になります。

1050万パラメータでも、1データ点あたり数十ms程度で勾配が出る。 これがなければ深層学習はそもそも実用化されていません。

5. 実用上の工夫

純粋な勾配降下法だけでは、現代のディープラーニングは動きません。実用上はいくつかの工夫が必須です。

5.1 ミニバッチ勾配降下法

問題：全データで勾配計算するのは重すぎる

§2.3 で見たように、本当は損失は 全データの平均：

勾配 $\nabla L_{\text{total}}$ も「全データに対する勾配の平均」になります。 これを毎ステップ計算するとどうなるか — 具体例で見てみましょう：

解決策：データから少数だけ抽出して近似する

全データの勾配 ≒ ランダムに選んだ少数データの勾配の平均、で近似してしまおう、というアイデア。

ランダム抽出した $B$ 個のデータの平均勾配 ≒ 全データの平均勾配（統計的に大数の法則で成立）。 これを ミニバッチ勾配降下法（Mini-batch SGD）と呼びます。

3つのモードを比較で理解する

データの使い方には3つの極端があります：

「軌跡」を絵で見ると違いが一目でわかります。下の図は損失の等高線（同じ高さの線）の上を歩く様子：

バッチサイズ・イテレーション・エポックの違い

学習を回すうえで、この3つの用語の関係をはっきりさせておきます：

🎮 インタラクティブデモ：バッチサイズを動かして軌跡を見る

「バッチサイズ」スライダーを動かすと、勾配降下法の 軌跡（ノイズの量）が劇的に変わる のを目で確認できます：

5.2 オプティマイザの進化

純粋な勾配降下法には、2つの困りごと があります：

1. 細長い谷で振動する：勾配の急な方向では行ったり来たり、緩やかな方向では進みが遅い
2. パラメータごとに「進みやすさ」が違う：同じ学習率を全パラメータに使うと、ある方向は急ぎすぎ・ある方向は遅すぎ、になる

これを改善する オプティマイザ が、次のように発明されてきました：

v_0 = 0
v_1 = 0.9 × 0   + 1 = 1     ← ステップ1
v_2 = 0.9 × 1   + 1 = 1.9   ← 速度が大きく育つ
v_3 = 0.9 × 1.9 + 1 = 2.71
v_4 = 0.9 × 2.71+ 1 = 3.44
... →  最終的に v ≈ 10 まで加速（= 同じ向き勾配の累積効果）

v_1 =  1
v_2 = 0.9 × 1  − 1 = −0.1   ← 大きく相殺
v_3 = 0.9 × −0.1+1 = 0.91
... → 振動方向の v はほぼ 0 付近で抑制される

m ← β₁·m + (1−β₁)·∇L          ← Momentum の役割（1次モーメント = 平均）
v ← β₂·v + (1−β₂)·(∇L)²        ← RMSProp の役割（2次モーメント = 分散）
θ ← θ − η · m / (√v + ε)       ← 両方を組み合わせて更新

🎮 インタラクティブデモ：4つのオプティマイザを並べて比較

細長い谷の損失地形で、SGD / Momentum / RMSProp / Adam の4つを並列に走らせて軌跡を比較。 「同じスタート地点・同じ学習率」でも軌跡が劇的に違うのが目で見て分かります：

5.3 過学習と汎化

学習の目的は 「学習データで精度を出すこと」ではなく、「未知データに対しても正しく予測すること」。これを 汎化（generalization） と呼びます。

5.4 過学習対策

• 訓練/検証/テスト分割：データを3分割。検証データで汎化を監視、テストデータで最終評価
• 早期停止（Early Stopping）：検証損失が悪化し始めたら学習を止める
• L2正則化（重み減衰）：パラメータの大きさにペナルティ $L \leftarrow L + \lambda \|\theta\|^2$
• Dropout：訓練時にランダムにニューロンを無効化、特定パスへの依存を防ぐ
• データ拡張：訓練データを人工的に増やす（画像なら左右反転、回転など）

まとめ

1. 学習とは「損失関数 $L(\theta)$ を最小化する $\theta$ を見つける最適化問題」
2. 損失関数は予測と正解のズレを数値化（MSE、交差エントロピー）
3. 勾配降下法：勾配 $-\nabla L$ の方向にパラメータを少しずつ動かす
4. 誤差逆伝播法：連鎖律を使って、出力側から入力側へ勾配を効率的に計算
5. ミニバッチ + Adam：実用上の標準的な学習プロセス
6. 過学習対策：早期停止、L2正則化、Dropout、データ拡張など

次の章

ここまでで 「ネットの中身」と「学習の仕組み」 の基礎が揃いました。 次は、用途別に進化した深いNNの代表アーキテクチャ CNN（画像） と Transformer（自然言語） を見ていきます。 畳み込みカーネルが画像をスライドする様子と、Self-Attentionで単語間の関係が見えるインタラクティブデモ付きです。

→ 第5章「CNN・Transformer」へ進む