第2章

ディープラーニングは機械学習と何が違うのか

ディープラーニングは「機械学習の一種」。でも何かが決定的に違うから、これだけ騒がれている。 その「決定的な違い」が何なのか、歴史と一緒に見ていきます。

この章の全体像

ディープラーニングと機械学習の違いは、ひと言で言えば 「特徴量を誰が設計するか」 です。 この一点が、AIの能力を桁違いに広げました。

1

古典機械学習の限界

特徴量を人間が手で設計しなければならなかった。画像・音声・文章のように複雑なデータでは限界。

2

ディープラーニングの解

特徴量も含めて自動学習。生データを直接入れれば、ネットが特徴抽出から判定まで全部自分で学ぶ。

3

必要だった3つの条件

大量データ + GPU + アルゴリズムの工夫。3つが揃った2012年が革命の起点。

💡 核心: ディープラーニングは「機械学習の手法の一つ」だが、「特徴量設計を人間から機械に移譲した」という点で 革命的でした。これにより、人間が言語化できない複雑なパターン(画像、音声、文章)を扱えるようになりました。

1. 古典的機械学習の決定的な弱点

第1章 で見たように、古典的機械学習には数々の優れた手法がありました。 ランダムフォレスト、XGBoost、SVM、ロジスティック回帰…どれも強力です。

しかし、これら全てに 共通する一つの弱点があります。それは:

⚠️ 古典機械学習の致命的弱点:

「特徴量を人間が設計しなければならない」

1.1 「特徴量設計(feature engineering)」とは

機械学習は、数値の入力を受け取って、何かを予測する仕組みです。 ところが現実のデータは、画像であったり、音声であったり、文章であったりします。これらをどう数値化するか、が問題になります。

例えば「画像から犬と猫を分類する」タスクを古典機械学習で解こうとすると:

画像(28×28×3 = 2352個のピクセル値)
   ↓ 人間が「特徴量」を設計する作業
特徴ベクトル(数十〜数百次元)
   - 「輪郭の数」
   - 「色のヒストグラム」
   - 「コーナーの位置」
   - 「テクスチャ統計量」
   - SIFT / HOG / SURF などの特徴記述子
   ↓
SVM や ランダムフォレストなどに入力 → 予測

この 「人間が特徴量を設計する」 作業が、実は とんでもなく難しい職人芸 でした。

🧠 深掘り:なぜ特徴量設計が難しいか — 3つの理由(クリックで展開)

1.2 なぜ特徴量設計が難しいか

① 「猫らしさ」をどう数値化するか分からない

人間は猫を見れば「猫だ」と分かるのに、それがどんな数値の組み合わせなのかを言語化できない。 耳の形?目の比率?体型?すべてを総合した何か? — 厳密に表現できない。

② ドメイン知識が必須

画像処理なら画像処理の、音声なら音声の、自然言語なら言語学の、専門知識を持った人が時間をかけて特徴量を考案する。 例:SIFT特徴量は 画像処理の研究者が考案した職人技

③ 性能が頭打ちになる

どれだけ特徴量を工夫しても、人間の発想を超えられない。 2010年頃の画像認識のエラー率は約25%で頭打ちになっていた。

1.3 古典機械学習が苦手だった領域

この弱点が顕著に出るのが、非構造化データです:

分野 2010年頃の精度 限界の原因
画像認識 エラー率 ~25% 「画像のどこを見るべきか」の特徴設計が困難
音声認識 エラー率 ~20% 波形から意味のある特徴を取り出すのが困難
機械翻訳 使い物にならない 文の意味をどう数値化するか不明
自然な会話 不可能 文脈の特徴設計が事実上不可能

表データ(売上、顧客情報、医療データなど)では、特徴がもとから数値で揃っているので、古典機械学習は今でも強力です。 しかし、画像・音声・自然言語のような複雑なデータでは、人間の特徴量設計が壁になっていました。

2. ディープラーニングの革命 — 特徴量も自動学習

ディープラーニングは、この壁を 「特徴量も含めて自動学習する」 という発想で乗り越えました。

2.1 アプローチの違い

📊

古典機械学習

生データ(画像、音声)
   ↓
[人間が特徴量を設計]
   - SIFT、HOG等の特徴抽出
   - 専門知識が必要
   ↓
特徴ベクトル
   ↓
[浅いモデル]
   - SVM、RandomForest等
   - 特徴 → 答え
   ↓
予測結果

2段階のうち、1段階目(特徴抽出)が人間の仕事

ディープラーニング

生データ(画像、音声)
   ↓
[深いネットが特徴抽出も自動学習]
   - 第1層: エッジを検出
   - 中間層: 形を検出
   - 深い層: 物体を検出
   ↓
[出力層]
   - 直接答えを出す
   ↓
予測結果

1段階すべて自動学習。これを End-to-End learning と呼ぶ。

2.2 階層的な特徴学習

ディープラーニングが画像認識で何をしているか、層ごとに見ると驚きます:

層の深さ 学習される特徴 例(顔認識の場合)
第1層(最も浅い) エッジ・輝度勾配 縦線、横線、斜め線
中間層 パターン・テクスチャ 目の形、鼻のライン
深い層 部分 目、鼻、口、耳
最終層 全体的な対象 顔全体

誰も「目の形」をプログラミングしていないのに、ネットが学習を通じて自動的に 「目という概念」「顔という概念」を獲得していく。これが革命の正体です。

📚 コラム:Bonanza革命 — 将棋AIでの先行事例(クリックで展開)

2.3 Bonanza革命 — 将棋AIでの先行事例

実は、特徴量設計の自動化は、ディープラーニング以前から段階的に進んでいました。 将棋AIの世界で2006年に起きた Bonanza革命 がその好例です:

Bonanza以前は、「歩=100点、飛車=1000点」のような評価値を 人間が手で決めて いました。プロ棋士の感覚を反映する職人技。

Bonanzaは「プロの指し手を最善とするように、評価関数の重みを自動学習」する仕組みを導入。 結果、駒の点数を含む数千万のパラメータが、データから自動的に決まるようになりました。

これはまだ「特徴量の枠組みは人間が設計」する段階。 NNUE(やねうら王、水匠)でさらに進化しますが、 dlshogi に至って、ようやく 盤面そのまま入力 → ニューラルネットが特徴も学習 という完全自動の境地に達します。

3. 2012年 — 革命の起点

ディープラーニングが 世界に衝撃を与えた瞬間 は、2012年の ImageNet大規模視覚認識チャレンジ(ILSVRC)です。

📅 2012年9月、ImageNet 2012

AlexNet(Krizhevsky, Sutskever, Hinton)が画像認識のエラー率を 26% → 15% へ一気に下げて圧勝。 それまで毎年1%ずつしか進歩していなかった分野が、10ポイント飛んだ。

📊 補足図解:ImageNet年表で見る「10ポイントの飛躍」(クリックで展開)

3.1 何が驚きだったか

前年(2011年)の優勝者は古典機械学習で、エラー率は25.8%。 それが翌年、AlexNet(深い CNN)で15.3%まで下がった。10ポイント以上の飛躍は、機械学習の歴史で類を見ない出来事でした。

優勝モデル エラー率 手法
2010 NEC + UIUC 28.2% 古典手法
2011 XRCE 25.8% 古典手法
2012 AlexNet 15.3% ディープラーニング ← 革命
2013 ZFNet 11.7% ディープラーニング
2014 GoogLeNet 6.7% ディープラーニング
2015 ResNet 3.6% ディープラーニング(人間超え)

2015年には 人間(5%程度)を超え、画像認識は実用域に。これ以降、ディープラーニング以外の選択肢が消えました。

📚 コラム:革命のドミノ倒し — 2012年以降の年表(クリックで展開)

3.2 革命のドミノ倒し

2012年の AlexNet を起点に、各分野で次々とディープラーニングが古典手法を駆逐していきました:

  • 2012: 画像認識(AlexNet)
  • 2014: 物体検出(R-CNN)、生成(GAN)
  • 2015: 画像認識で人間超え(ResNet)
  • 2016: 囲碁で人間超え(AlphaGo)
  • 2017: 機械翻訳(Transformer)
  • 2018: 自然言語処理(BERT, GPT-1)、将棋(NNUE)
  • 2020: 画像生成(Stable Diffusion 系)、LLM(GPT-3)
  • 2022: 一般人にAIが浸透(ChatGPT)

4. なぜ2012年だったのか — 必要だった3つの条件

ディープラーニングのアイデア(多層ニューラルネット)自体は、1986年から知られていました。 ではなぜ 2012年まで開花しなかった のか? 3つの要素が揃う必要があったからです。

条件 1

📦 大量データ

ディープラーニングは データが少ないと過学習します。 深いネットは表現力が高すぎて、訓練データを丸暗記してしまう。

インターネットの普及で、ImageNet(1400万枚のラベル付き画像)のような大規模データセットが作れるようになった。

逆に、表データのように数千行しかない場面では、今でもディープラーニングは古典手法に負ける。

条件 2

⚡ GPU

ディープラーニングの中身は 大量の行列演算。CPU では計算量が膨大で、現実的な時間で学習できなかった。

ところが GPU(元々はゲーム用のグラフィック処理装置) は、行列演算が得意だった。 1台のGPUがCPU 100台分の計算力を持ち、AI研究を救う。

NVIDIA の躍進は、まさにディープラーニングの台頭と表裏一体。

条件 3

🧪 アルゴリズムの工夫

深いネットは「勾配消失問題」で学習が止まる、という長年の問題があった。 これを解くための工夫が次々と発明された:

  • ReLU 活性化: 勾配消失を緩和
  • バッチ正規化: 学習を安定化
  • Dropout: 過学習を抑制
  • Adam: 高速で安定するオプティマイザ
  • 残差接続(ResNet): 100層超えを可能に

この3つが 2010年代に揃った ことで、ディープラーニングが実用化しました。 アイデアだけあっても、ハードウェアとアルゴリズムが揃わなければ動かない、という典型例です。

5. 「浅い」 vs 「深い」 ニューラルネット

「ディープ」とは「層が深い」という意味です。具体的にはどれくらい違うのか?

観点 浅いNN 深いNN
層数 1〜4層 数十〜数百層
パラメータ 少ない(数千〜数万) 桁違いに多い(数百万〜数千億)
計算コスト 軽い 重い(GPU必須)
特徴量設計 人間が必要 自動学習
学習の難しさ 容易 工夫が必要(残差接続など)
代表例 NNUE、古典MLP CNN、Transformer、LLM
📚 補足:ディープラーニングの主要アーキテクチャ(次章の予告)(クリックで展開)

5.1 ディープラーニングの主要アーキテクチャ

「深いNN」と一口に言っても、対象や目的によって 違うアーキテクチャ が使われます:

🔢 MLP(多層パーセプトロン)

最も基本。全結合層を直列に並べたもの。表データ、低次元入力、NNUEはこの形

🖼️ CNN(畳み込みニューラルネット)

画像のように 空間構造のあるデータ に最適化。小さなカーネルが画像上を滑らせて特徴を抽出。 画像認識、dlshogi、AlphaGoの中核技術

📝 RNN / LSTM

時系列・自然言語のような 系列データ を扱う。前の状態を次に持ち越す。 かつての主流。今は Transformer に置き換わりつつある。

✨ Transformer

Attention 機構 が中核。系列内の任意の位置間の関係を直接学習する。 自然言語、画像、音声、何にでも使える万能型。 ChatGPT、Claude、Gemini はすべて Transformer ベース

次の 第3章「ニューラルネットの基礎」 で、これらの中身を詳しく見ていきます。

💭 よくある疑問:深いNNを「DL」と呼ぶなら、浅いNNは何と呼ぶ?

これは用語の混乱しやすいところ。整理すると:

「浅いNN」も立派にニューラルネット。「機械学習」と呼ぶと NN以外も全部含む広い範囲 になってしまうので不正確。
✅ 正式には 「Shallow Neural Network(浅層ニューラルネット)」、口語では 「浅いNN」「小さいNN」 と呼ぶのが普通。

用語の階層を図で整理

用語の包含関係:ML ⊃ NN ⊃ DL 機械学習(Machine Learning, ML) 統計学・古典手法を含む、最も広い概念 ニューラルネット(NN) 深層学習 (DL) 深いNN 浅いNN (Shallow NN) NNUE, 古典MLP ML だが NN ではない例: 線形回帰 / ロジスティック回帰 / 決定木 / SVM / kNN / ランダムフォレスト DL = 深いNN 数十〜数百層

📋 「浅いNN」の呼び方バリエーション

呼び方意味使われ方
浅いNN / 浅層NN 深いNNと対比する一般的な呼称 口語・教科書で最も多い
Shallow Neural Network 英語の正式名 論文・技術文書
MLP(多層パーセプトロン) 具体的なアーキテクチャ名。浅い・深いの両方を含むが、慣習的に 浅いものに使われがち NNUEなど「浅いMLP」と表現
小さいNN / Small NN パラメータ数が少ないNN 論文・実装文書
単純パーセプトロン 1層だけのNN(隠れ層なし) 歴史的文脈(1958年Rosenblatt)
古典的NN / 旧来のNN 2012年以前の浅いNN全般 歴史的文脈
❌ ただの「機械学習」 これは 誤り。MLは線形回帰や決定木など、NN以外を含む広い概念

🎚️ 「浅い」と「深い」の境界は?

実は 明確な定義はありません。慣習的な目安:

「ディープラーニング」という言葉が広まった2012年(AlexNet)以降は、8層以上は深いNN と呼ばれることが多くなりました。

🤔 「NNUEは浅いNNなのに、なぜ"AI"と呼ばれる?」

これも面白い質問。AI(人工知能)はML(機械学習)をも包含する最も広い概念です。 なので:

ただし、本サイトでも引用している 『将棋AIのゆくえ』やねうらお氏が「NNUEはDL系」と言っている場面があります:

やね「NNUEっていう評価関数は、ニューラルネットワークの一種でDL系と同じ仕組みではあります。 ですので、大きく分けるとDL系なのですが、計算をCPUのみで処理するためにそんなに複雑な計算はできない。 NNUE系は、数層からなる浅いネットワークです。要するに小さなニューラルネットだと考えていただいていいかと思います」

ここでは「DL系」と言っていますが、これは 「ニューラルネット系」 という意味の通用的な使い方。 厳密には深層学習ではないが、 ディープラーニングの仕組み(誤差逆伝播による学習)を共有する仲間 という意味で「DL系」と呼んでいるわけです。

💡 1行まとめ「浅いNN」が一番無難な呼び名。具体的なアーキテクチャがMLPなら「浅いMLP」、サイズに着目すれば「小さいNN」。 「機械学習」と呼ぶと範囲が広すぎ、「DL」と呼ぶと厳密には違う。「NN(ニューラルネット)」に「浅い」をつけるのが現代の標準。

🎯 将棋AIの文脈で「NNUE と dlshogi を対比」するときは?

一般論ではなく、NNUE(浅いMLP評価関数)」 vs 「dlshogi(深いCNN+ResNet+MCTS)」 という具体的な対比をする場面では、将棋AI界には 独自の慣用表現 があります:

「NNUE型」 vs 「DL型」(または「NNUE系」 vs 「DL系」)が業界標準。
第8章 §3「現代の2大潮流」『将棋AIのゆくえ』でも、この呼び分けで対比されています。

将棋AI界での慣用呼称まとめ
NNUE側dlshogi側
業界の呼び名 NNUE型 / NNUE系 DL型 / DL系
NNの深さ 浅い(4層程度) 深い(数十〜数百層)
厳密な分類 浅いNN / Shallow MLP 深層学習 / Deep CNN+ResNet
探索 α-β木探索 MCTS(モンテカルロ木探索)
ハードウェア CPU GPU必須
代表例 水匠、Háo、tanuki-、氷彗 dlshogi、AobaZero、ふかうら王
なぜ「NNUE は DL」とも言われるのか

やねうらお氏は 『将棋AIのゆくえ』で「NNUEはニューラルネットワークの一種でDL系と同じ仕組み」と語っています。これは:

💡 結論:将棋AIで dlshogi と対比するなら 「NNUE型(または NNUE系)」 と呼ぶのが業界の通り。 ただし「NNUEもDLの仲間」と言うのも誤りではない(やねうらお氏の表現)。 厳密な技術論なら 「浅いMLP評価関数」、対比なら 「NNUE型」、と覚えておけば困らない。

6. 識別AI vs 生成AI

ディープラーニングが解く問題は、大きく2タイプに分かれます。これを意識すると、現代AIの全体像がスッキリ整理できます。

🎯
識別AI
Discriminative

入力 → 既知のカテゴリ・数値 を出力。

例:
  • 画像 → 「これは猫」
  • メール → 「スパム判定」
  • 局面 → 評価値(NNUE)
  • 音声 → テキスト
生成AI
Generative

入力 → 新しいデータ を生み出す。

例:
  • 「猫の絵を描いて」 → 画像 (DALL-E)
  • 「将棋を解説して」 → 文章 (ChatGPT)
  • 「ジャズ風メロディを作って」 → 音声
  • 「歩く犬」 → 動画 (Sora)

同じディープラーニング技術が、識別タスクにも生成タスクにも使われるのがポイント。 違いは「何を出力するか」だけ。

補足:よくある誤解 — DLは「教師あり学習」に当たるの?

「ディープラーニングって、教師あり学習? それとも強化学習?」とよく聞かれます。 答えは 「どれにも当てはまる。3類型と直交する別の軸」 です。ここで誤解を解いておきましょう。

機械学習には2つの独立した軸がある

第1章 で見た「教師あり / 教師なし / 強化」は データの与え方 の話。 一方、「古典 vs ディープラーニング」は モデルの中身 の話。別の話なので、直交します

機械学習の2つの独立した軸 どちらの軸も自由に選べる ⇒ 6象限のマトリックスができる 軸A:学習タイプ(何を与えるか) 教師あり / 教師なし / 強化学習 正解付きデータ/ラベルなし/報酬最大化 × 直交 軸B:モデルの中身(どう学ぶか) 古典機械学習 / ディープラーニング XGBoost、SVM等/深いニューラルネット

マトリックスで整理

軸Aと軸Bを掛け合わせると、6つの象限ができ、すべての組み合わせが現実に存在します

古典的機械学習 ディープラーニング
教師あり SVM、ランダムフォレスト、XGBoost CNN画像分類、NNUE評価関数、BERT分類
教師なし k-means、PCA、階層的クラスタリング オートエンコーダ、VAE、自己教師あり学習(GPTの事前学習)
強化学習 Q学習(テーブル版)、SARSA DQN、AlphaGo / AlphaZero、ChatGPTのRLHF

どの象限にも実例があります。つまり「ディープラーニングは特定の学習タイプ」ではなく、 「3類型のすべてに使える汎用ツール」です。

📝 具体例で確認:3象限の代表事例(NNUE / GPT事前学習 / AlphaGo)(クリックで展開)

具体例で確認

🎯 教師あり × ディープラーニング — NNUE評価関数

「将棋の局面 → 評価値(深い探索で出した正解付き)」を学ぶ。正解ラベル付きデータから学ぶので教師あり、 中身が浅いMLPなのでディープラーニング。

🔍 教師なし × ディープラーニング — GPTの事前学習

「文の途中まで → 次の単語」を予測。人間がラベル付けしたデータは不要で、 文章自体が「途中までと正解部分」に自動分割される。 これを 自己教師あり学習(self-supervised learning) と呼ぶ。

ChatGPT、Claude、GPT-4 などのLLMは、すべてこの方式でインターネット規模のテキストから学んでいる。

🎮 強化学習 × ディープラーニング — AlphaGo

自己対局を繰り返し、勝敗を報酬として方策を改善する。 囲碁の世界チャンピオンを破った AlphaGo はこの象限。深層強化学習(Deep RL)と呼ばれる。

ChatGPTの最終調整ステップ「RLHF(人間のフィードバックによる強化学習)」も、この象限に属する。

🧠 深掘り:ChatGPTは複数の象限を旅する(クリックで展開)

ChatGPTは複数の象限を旅する

最新のLLMを作る過程は、1つのモデルが学習段階ごとに違う象限を渡り歩く ようになっています:

  1. 段階1: 大量テキストで「次の単語予測」 教師なし × DL(自己教師あり)
  2. 段階2: 人間が書いた良い応答で微調整(SFT) 教師あり × DL
  3. 段階3: 人間の評価を報酬として最終調整(RLHF) 強化学習 × DL

つまり1つのChatGPTを作るのに、3つの学習タイプ全部をディープラーニングで横断している。 これが「ディープラーニングは学習タイプと別の軸」という話の実例です。

💡 ひと言で学習タイプ(教師あり/なし/強化)はデータの与え方、ディープラーニングはモデルの中身。 混ぜずに2軸で考えれば、「LLMって教師あり?強化?」のような疑問にも、「学習段階ごとに違う」と答えられるようになります。

まとめ

  1. ディープラーニングは 機械学習の一種。だが、「特徴量を人間が設計しなくていい」という点で革命的
  2. 古典機械学習は 表データでは今も強力(XGBoost等)。画像・音声・自然言語でディープラーニングが優位
  3. 革命の起点は 2012年のAlexNet。画像認識のエラー率を大きく下げて世界に衝撃
  4. 必要だったのは 大量データ + GPU + アルゴリズムの工夫 の3つ
  5. 「ディープ」とは 「層が深い」 こと。代表アーキテクチャは MLP / CNN / RNN / Transformer
  6. 識別AIと生成AIは、ディープラーニングの中で 出力タスクが違うだけ。LLM(ChatGPT等)は生成AIの代表

次の章

ここまでの話を踏まえて、いよいよ ニューラルネットの中身 を見ていきましょう。 ニューロン1個から始めて、なぜ層を重ねると複雑な関数が表現できるのかを、インタラクティブな図解で確認します。

→ 第3章「ニューラルネットの基礎」へ進む