总览大图 — AI Infra 概念全景图

发表于 分类于 阅读次数： 本文字数： 665 阅读时长 ≈ 1 分钟

这一页把四份词汇图鉴的所有概念串成一张总图，配两种形式：

  • 本文件的 mermaid 图（GitHub / VS Code + Mermaid 插件 可直接渲染）
  • diagrams/glossary-00-overview.svg（已渲染好的图片，任何编辑器/浏览器可看）

全景图

① 模型在算什么 (glossary-01)

记忆顺序

1
2
3
4
5
6
7
8
9
10
先记住五根柱子：
  ① 模型在算什么 —— 一个token的旅程：文本→数字→概率
  ② 训练怎么并行 —— 显存不够→切（DP切数据/TP切矩阵/PP切层/ZeRO切状态）
  ③ 推理怎么服务 —— 显存大户是KV Cache→分页+批处理；最后RL把②③接成一个环
  ④ GPU怎么工作 —— 计算在SM的Tensor Core上跑，带宽被HBM锁死，跨卡走NVLink
  ⑤ 跨机怎么通信 —— NCCL选路（Ring/Tree/NVLS），RDMA直达显存；千卡集群有多轨拓扑

再记住五根柱子之间的关系：
  ①②③④告诉你算法怎么切、数据怎么流、跑在什么硬件上；⑤告诉你跨机数据怎么传、
  链路带宽和拓扑如何成为训练速度的天花板（MFU 上不去的第二嫌疑）

图怎么用

想干什么 用什么
看整体地图 diagrams/glossary-00-overview.svg（浏览器打开）
逐概念精读 glossary-01/02/03/04/05 的 mermaid 图（GitHub 自动渲染）
千卡集群设计 cluster-design-1000-gpu.md（IDC 落地视角）
复习数字 cheatsheet.md 空格默写
验证掌握 quiz-selfcheck.md 先答再看答案