人工智能领域总导航:AI 全景分支 + 机器学习完整知识体系(学习范式、模型分类、数学基础、工程实践与前沿方向)。
目录结构
03 Artificial Intelligence/
├── 01 ML Foundation/ # 机器学习基础
├── 02 Deep Learning/ # 深度学习
├── 03 Diffusion Models/ # 扩散模型
├── 04 Large Language Models/ # 大语言模型
├── 05 Computer Vision/ # 计算机视觉
├── 06 Multimodal/ # 多模态
└── 07 Video Generation/ # 视频生成概论
人工智能的核心目标:让机器模拟人类智能行为(感知、推理、学习、决策)。
机器学习是 AI 最重要的子领域,以数据、模型、优化三要素为核心,通过数据驱动让机器自动学习规律。
| 维度 | AI | ML |
|---|---|---|
| 目标 | 模拟人类智能 | 数据自动学习 |
| 路径 | 规则/数据/神经模拟 | 仅数据驱动 |
| 典型 | 专家系统、ChatGPT | 神经网络、决策树 |
学习范式
| 类型 | 特点 | 典型方法 |
|---|---|---|
| 监督学习 | 数据有标注,假设输入输出服从联合分布 | 分类、回归 |
| 无监督学习 | 数据无标注,学习统计规律或潜在结构 | 聚类、降维 |
| 强化学习 | 与环境交互学习最优策略 | Q-Learning、PPO |
| 半监督学习 | 少量标注 + 大量无标注数据 | 自训练、图模型 |
模型分类
概率模型:可表示为联合概率分布,如贝叶斯网络、马尔可夫随机场、条件随机场。
非概率模型:不一定可表示为联合概率分布,如 SVM、神经网络。
参数化模型:参数量固定。
非参数化模型:参数量随数据增长,如 k-NN、高斯过程。
学习策略
损失函数:衡量单样本预测误差。风险函数:损失函数的期望。
由于联合分布未知,用经验风险近似:
- 经验风险最小化 → 极大似然估计(MLE)
- 结构风险最小化 → 最大后验估计(MAP)
正则化是结构风险最小化的实现,防止过拟合。
数学基础
| 领域 | 核心内容 | 应用场景 |
|---|---|---|
| 线性代数 | 矩阵运算、特征分解、SVD、张量 | 模型参数优化 |
| 概率统计 | 贝叶斯定理、概率分布、统计推断 | 不确定性量化 |
| 优化理论 | 梯度下降、凸优化、正则化 | 损失函数最小化 |
| 信息论 | 熵、交叉熵、KL 散度 | 模型评估 |
入门路径见 机器学习入门。
核心算法
监督学习:逻辑回归、决策树、随机森林、XGBoost、SVM。
无监督学习:K-Means、DBSCAN、PCA、t-SNE、孤立森林。
强化学习:Q-Learning、DQN、PPO、SAC。
深度学习:CNN(图像)、RNN/LSTM(序列)、Transformer(注意力)、GAN、扩散模型。
工程实践
- 数据流程:预处理、特征工程、数据增强
- 框架:PyTorch、TensorFlow、Scikit-Learn
- 评估:准确率/F1/AUC(分类)、MSE/MAE(回归)、K 折交叉验证
PyTorch
PyTorch 是 Meta 开发的开源深度学习框架,以灵活性、易用性和动态计算著称。
前沿方向
- 大模型:GPT-4、多模态统一建模
- 生成式 AI:视频生成、3D 内容创建
- 联邦学习:隐私保护分布式训练
学习路径
- 入门:数学基础 + Python 编程
- 进阶:经典算法实践 + 深度学习框架
- 高阶:NLP(Transformer/BERT)、CV(YOLO/Mask R-CNN)、RL(GYM/PPO)
其他 AI 分支
符号主义/逻辑推理
基于规则和逻辑符号推理,不依赖数据学习。典型:专家系统、定理证明器、Prolog。
知识图谱
形式化存储知识,支撑问答、推荐。典型:谷歌知识图谱。
规划与决策
自动生成动作序列达成目标。典型:A* 路径规划、博弈论。
机器人学
设计、控制、感知与交互。非学习技术:PID 控制、SLAM。
进化计算
模拟生物进化优化。典型:遗传算法、粒子群优化。
模糊逻辑
突破二值逻辑,允许部分为真。应用:家电控制、工业自动化。
人工生命
模拟生命系统演化。典型:群体智能、蚁群算法。
总结
机器学习是当前主流范式,其知识体系由数学基础、核心算法与工程实践支撑;但 AI 还包括符号逻辑、知识图谱、规划决策、进化计算等分支,共同构成完整体系。