AI, Machine Learning, Neural Networks, and Deep Learning

statistics
Published

June 4, 2026

Perspective

AI、machine learning、neural networks、deep learning 经常被混着说，但它们不是同一层级的东西。最实用的理解是把它们看成一个包含关系：

Artificial Intelligence
└── Machine Learning
    └── Neural Networks
        └── Deep Learning

先记住一个实用边界：AI 是最大目标，machine learning 是实现 AI 的一类方法，neural networks 是 machine learning 的一类模型，deep learning 是使用多层神经网络的一类方法。

Definition

Artificial intelligence is the broad field of building systems that perform tasks associated with intelligent behavior. Machine learning is a subset of AI where systems learn patterns from data instead of being fully hand-coded. Neural networks are a family of machine learning models inspired by connected units. Deep learning uses neural networks with multiple layers to learn complex representations.

中文理解：AI 是”让机器表现出智能”的大方向；machine learning 是”从数据中学习规律”的方法；neural networks 是一种模型家族；deep learning 是多层神经网络方法。

The Boundary

概念 中文常用名 它是什么 典型问题
Artificial Intelligence 人工智能 最大范围，目标是让系统表现出智能行为 机器能不能推理、感知、规划、对话、决策？
Machine Learning 机器学习 AI 的一个子领域，让模型从数据中学习规律 给定数据，模型能不能预测、分类、发现模式？
Neural Networks 神经网络 ML 的一类模型，用连接的节点和权重表示函数 能不能用大量参数拟合复杂关系？
Deep Learning 深度学习 使用多层神经网络学习复杂表示 能不能从图像、文本、语音等高维数据中自动学表示？

一个关键点：不是所有 AI 都是 machine learning，也不是所有 machine learning 都是 neural networks。

Artificial Intelligence

AI 是最宽的概念。它关注的是系统表现出来的能力，而不是一定用什么算法。

类型 例子 是否一定是 ML？
规则系统 if-else 专家系统、规则推理 不一定
搜索和规划 棋类搜索、路径规划 不一定
机器学习系统 分类器、推荐系统、预测模型 是
生成式系统 LLM、图像生成模型 通常是

早期 AI 很多是规则和搜索：人把规则写进去，机器按规则推理。现代 AI 更多依赖 machine learning，尤其是 deep learning。

Machine Learning

Machine learning 的核心是：不是把所有规则手写出来，而是让模型从数据中学出规律。

监督学习的典型形式是：

训练数据: X + y
目标: 学到 X -> y 的映射

比如：

任务 输入 X 输出 y
房价预测 面积、位置、房龄 价格
疾病分类 检测指标、影像特征 有病/没病
垃圾邮件识别 邮件文本特征 垃圾/非垃圾

Machine learning 包含很多非神经网络模型：

模型 是否神经网络？
Linear regression 否
Logistic regression 否
Decision tree 否
Random forest 否
XGBoost 否
SVM 否
kNN 否
Naive Bayes 否
MLP / CNN / Transformer 是

所以，学习 tidymodels 时看到的很多模型都是 ML，但不是 deep learning。

Neural Networks

Neural network 是 machine learning 中的一类模型。它由很多带权重的计算单元连接起来，通过训练调整权重。

最简单的直觉是：

输入特征 -> 加权组合 -> 非线性变换 -> 输出预测

神经网络的重点不是”像大脑一样工作”，而是它能表示很复杂的函数。

网络类型 常见用途
MLP 表格数据、一般向量输入
CNN 图像、空间结构数据
RNN 序列、时间序列、早期 NLP
Transformer 文本、图像、多模态、LLM

神经网络可以很浅，也可以很深。浅层神经网络也是 neural network，但通常不叫 deep learning。

Deep Learning

Deep learning 是使用多层神经网络的方法。这里的 “deep” 主要指网络有多层表示。

传统机器学习常常依赖人工特征工程：

原始数据 -> 人工设计特征 -> 模型

深度学习更强调表示学习：

原始数据 -> 多层神经网络自动学习表示 -> 输出

这就是为什么 deep learning 在图像、语音、文本上特别强：这些数据很难手工设计完整特征。

数据类型 深度学习常见模型
图像 CNN、Vision Transformer
文本 Transformer、LLM
语音 CNN/RNN/Transformer
多模态 Transformer-based multimodal model
表格数据 MLP，但传统树模型常常仍很强

LLM’s Position

LLM 通常可以放在这个层级里：

AI
└── Machine Learning
    └── Neural Networks
        └── Deep Learning
            └── Transformer
                └── Large Language Models

LLM 是深度学习模型的一类，核心通常是 Transformer。它通过大规模文本预训练获得语言建模能力，再通过 instruction tuning、RLHF/RLAIF、tool use、RAG 等方式变得更适合实际任务。

Common Confusions

说法 是否准确 更准确的说法
AI 就是机器学习 不准确 ML 是 AI 的重要子集，但 AI 还包括规则、搜索、规划等
机器学习就是神经网络 不准确 神经网络只是 ML 的一类模型
深度学习就是所有神经网络 不准确 深度学习通常指多层神经网络
Random forest 是 deep learning 不准确 Random forest 是传统 ML，不是神经网络
LLM 是 AI 可以，但太宽 LLM 更具体地说是 deep learning / Transformer 模型
tidymodels 只做传统 ML 不完全 tidymodels 主要适合常规 ML 工作流，也能通过 engine 接神经网络等模型

Why It Matters

边界清楚以后，读材料时不会把方法层级混在一起：

  • 看到 “AI” 时，先问它具体用了什么方法。
  • 看到 “machine learning” 时，确认是监督、无监督，还是强化学习。
  • 看到 “neural network” 时，确认是哪种网络结构。
  • 看到 “deep learning” 时，关注数据规模、网络结构、训练过程和计算资源。
  • 看到 “LLM” 时，关注 Transformer、预训练、对齐、RAG、工具调用和评估。

Key Points

  • AI 是最大范围，描述让机器表现出智能的目标和系统。
  • Machine learning 是 AI 的子领域，核心是从数据中学习规律。
  • Neural networks 是 machine learning 的一类模型，不等于全部 ML。
  • Deep learning 是多层 neural networks，不等于全部 neural networks。
  • LLM 是 deep learning 中 Transformer 路线的代表，不是所有 AI 的同义词。
  • 常规 tidymodels 学到的 workflow 是 ML 的基础骨架，后面可以扩展到 deep learning、LLM 和 MLOps。

Reading Checks

读到一篇文章或教程时，可以按这个顺序问：

  1. 它说的 AI，具体是规则系统、传统 ML、deep learning，还是 LLM？
  2. 如果是 ML，它是 supervised、unsupervised，还是 reinforcement learning？
  3. 如果是 supervised，目标 y 是连续值还是类别？
  4. 如果用了 neural network，它是哪种网络：MLP、CNN、RNN、Transformer？
  5. 如果叫 deep learning，它深在哪里：层数、表示学习，还是大规模预训练？
  6. 如果是 LLM，它是否涉及 pretraining、fine-tuning、RAG、tool use 或 agents？

Note

对我来说，最有用的记法是：AI 是目标，ML 是学习方式，neural network 是模型家族，deep learning 是多层神经网络路线。把这四层分清楚，后面读 tidymodels、scikit-learn、PyTorch、LLM 和 agents 时，位置感会好很多。

Sources

  • Kuhn & Silge, Tidy Modeling with R
  • Hastie, Tibshirani & Friedman, The Elements of Statistical Learning
  • Goodfellow, Bengio & Courville, Deep Learning