00 核心概念
本模块收录 AI / 大模型的底层原理：文本怎么变成模型能算的东西、注意力机制怎么工作、模型是怎么练出来的、上下文窗口和计费的边界在哪。它是全知识库的地基——其他模块（应用实践、Agent 工程）遇到”为什么会这样”的问题时，答案通常在这里。
推荐阅读顺序
- 上下文窗口与Token计费.md：先建立”模型一次能看见多少”的直觉，这是后面所有内容的物理边界。
- Transformer.md：所有主流 LLM 的核心架构。
- 注意力机制.md：Transformer 的灵魂，理解模型如何”关注重点”。
- 大模型如何理解文本.md：把”理解”这件事拆到底层机制，揭穿拟人化幻觉。
- 模型训练技术速查.md：预训练 → SFT → RLHF/DPO 的完整流水线。
- Dense与MoE架构对比.md：进入架构选型层，理解 2026 年主流模型的两条路线。
按主题分组
| 分组 | 笔记 |
|---|---|
| 资源边界与成本 | 上下文窗口与Token计费.md |
| 基础架构 | Transformer.md、注意力机制.md |
| 语义与表征 | 大模型如何理解文本.md |
| 训练流程 | 模型训练技术速查.md |
| 架构路线对比 | Dense与MoE架构对比.md |
| 视觉方向 | 计算机视觉与深度学习框架.md |
边缘笔记怎么用
- 计算机视觉与深度学习框架.md：讲的是 CV / OpenCV / PyTorch 四件套，属于深度学习通用基础而非 LLM 主线。做图像相关项目（如影像辅助诊断）前读它，纯做文本 LLM 可以跳过。
- Dense与MoE架构对比.md：读完能直接对接 本地部署模型量化选型——Dense/MoE 的差异直接决定显存占用和部署方案。
跨模块去向
| 读完本模块想继续 | 去哪 |
|---|---|
| 想知道怎么用起来 | 03_应用实践 |
| 想做 Agent | 06_Agent工程 |
| 想看具体模型的实现创新 | 01_模型架构 |
维护提示
- 本模块是原理层，内容比其他模块稳定，但涉及具体模型参数、上下文长度、计费单价的部分会过期——这类段落应标明资料日期。
- 上下文窗口与Token计费.md 是全库入链最多的枢纽笔记之一（仅次于 Harness 那篇），修改时注意别破坏其小节锚点——大量跨模块引用指向它的具体小节。精确入链数可用
python3 _scripts/kb_check.py随时查，此处不写死。
最后更新：2026-08-29