AI 基础知识全景：术语、技术路线、热点与落地（2026 版）
目标：一篇笔记快速建立对 AI 的系统认知框架——搞懂满天飞的术语、看懂技术演进的主线、辨清当前热点技术的成熟度，并对"AI 能干什么、还干不了什么"有清醒判断。面向有技术基础（网络/运维/开发）的读者，不追数学推导，只建知识骨架。写于 2026-11，热点部分依据当年公开报告更新（见文末来源）。
📌 核心概念
0.1 学科层级：一张图定位所有名词
人工智能 AI（1950s 达特茅斯会议起）
└─ 机器学习 ML（1980s 兴起：从数据中学规律，代替手写规则）
└─ 深度学习 DL（2010s 爆发：多层神经网络 + 大数据 + GPU）
└─ 大模型 / 基础模型（2020s：Transformer + 海量参数 + 预训练）
├─ LLM 大语言模型（GPT、Qwen、DeepSeek、Llama…）
├─ 多模态模型（文生图/视频/语音/视觉理解）
└─ 世界模型 / 具身智能（前沿）| 常见说法 | 准确含义 |
|---|---|
| "AI" | 最大的筐，包含一切让机器表现智能的技术 |
| "机器学习" | AI 的主流实现方式：数据驱动学规律 |
| "深度学习" | 机器学习的一个分支：深度神经网络 |
| "大模型 / LLM" | 深度学习的最新形态：超大规模预训练 Transformer |
| "生成式 AI（AIGC）" | 能生成文本/图像/视频/代码的模型（LLM 是其中文本主力） |
| "AGI" | 通用人工智能：达到/超越人类水平的通用智能，目前尚未实现 |
0.2 三次浪潮一分钟史
| 浪潮 | 时期 | 主导思想 | 代表 | 结局 |
|---|---|---|---|---|
| 一 | 1950s~1970s | 符号主义（手写规则推理） | 专家系统 | 规则写不完，寒冬 |
| 二 | 1980s~2000s | 统计学习 | SVM、决策树 | 特征靠人工，天花板低 |
| 三 | 2012~今 | 深度学习（自动学特征） | AlexNet→Transformer→大模型 | 进行中，规模定律驱动 |
0.3 必会术语速查表（20 个，按主题分组）
基础度量类
| 术语 | 一句话解释 |
|---|---|
| Token | 模型处理文本的最小单位，约等于 0.5~1.5 个汉字/0.25 个英文单词；计费、上下文、生成速度都以它计 |
| 参数（Parameter） | 模型内部可学习的"旋钮"数量，7B=70 亿；参数量≈模型容量（但不唯一决定能力） |
| 上下文窗口（Context Window） | 一次对话能"装下"的 Token 上限（如 128K），装不下的内容模型完全不知道 |
| 推理（Inference） | 训练好的模型对外服务、逐 Token 生成回答的过程（与"推理模型"的"推理"含义不同，见 2.4） |
| 温度（Temperature） | 生成随机性旋钮：低温稳定保守，高温发散有创意 |
训练类
| 术语 | 一句话解释 |
|---|---|
| 预训练（Pre-training） | 用互联网级语料"读万卷书"，学会语言与世界知识，成本最高 |
| 微调（Fine-tuning） | 用小规模高质量数据"学做事"，让模型适配特定任务/风格 |
| SFT | 监督微调：拿"问题-标准答案"对来教，微调的主流形式 |
| LoRA | 低成本微调法：冻结原模型、只训练少量外挂矩阵，消费级显卡可跑 |
| RLHF / 对齐（Alignment） | 用人类偏好反馈的强化学习"学做人"：有用、无害、诚实 |
| 蒸馏（Distillation） | 大模型当老师教出小模型，小模型获得接近的能力、成本大降 |
| Scaling Law | 规模定律：数据×参数×算力同步放大 → 能力可预测提升（大模型时代的"摩尔定律"） |
应用类
| 术语 | 一句话解释 |
|---|---|
| Prompt | 提示词：给模型的输入指令，同一模型不同 Prompt 效果差距巨大 |
| Embedding | 把文字/图片变成高维向量，语义相近则向量相近——一切语义搜索/推荐的地基 |
| RAG | 检索增强生成：先查资料再回答，缓解幻觉、知识可实时更新 |
| Agent（智能体） | 让模型自主"规划-调用工具-观察-迭代"完成任务的形态 |
| 幻觉（Hallucination） | 模型一本正经地编造事实——概率生成的固有特性，非 bug |
| MoE | 混合专家：每次只激活一小部分"专家"参数，大容量与低推理成本兼得 |
| 多模态（Multimodal） | 一个模型同时理解/生成文本、图像、音频、视频 |
| 涌现（Emergence） | 规模跨过阈值后突然出现的小模型没有的能力（如复杂推理） |
📖 详细内容
一、技术路线：AI 是怎么走到今天的
1.1 机器学习三范式（一切的根）
| 范式 | 学习方式 | 典型算法 | 典型问题 |
|---|---|---|---|
| 监督学习 | 带标签数据学映射 | 回归/分类、CNN | 垃圾邮件识别、图像分类 |
| 无监督学习 | 无标签找结构 | 聚类、降维、自监督预训练 | 用户分群、预训练（LLM 的根） |
| 强化学习 | 试错 + 奖励信号 | RLHF、下棋/游戏 AI | 对齐、机器人控制 |
大模型的完整路线是三者叠加：自监督预训练（无监督）→ SFT（监督）→ RLHF（强化学习）。
1.2 深度学习为什么行：三个条件
- 神经网络：多层非线性变换自动提取特征，代替人工特征工程；
- 大数据：ImageNet 级语料/图文供给；
- GPU 算力：训练本质是海量矩阵乘法，GPU/TPU 天生擅长（这也是 AI 与数据中心、电力强绑定的原因——运维视角看，大模型时代 = 算力基建时代）。
1.3 大模型诞生链路（记住这条主线）
2017 Transformer《Attention Is All You Need》→ 架构基石
2020 GPT-3(175B) + Scaling Law → "大力出奇迹"被验证
2022.11 ChatGPT → RLHF 对齐成功，对话可用，引爆大众
2023~2024 开源追赶（Llama/Qwen/DeepSeek）、多模态、MoE 普及
2024~2025 推理模型（o1/R1 范式）：让模型"想久一点"，数理/代码大涨
2025~2026 Agent 爆发：从对话工具到自主执行；多智能体/世界模型成前沿1.4 主流技术路线对比（选型必备视角）
| 维度 | 路线 A | 路线 B | 怎么选 |
|---|---|---|---|
| 模型目标 | 判别式（输出标签） | 生成式（输出内容） | 分类检测用 A，内容生成用 B |
| 架构 | Dense（全参数激活） | MoE（稀疏激活） | MoE 是当前旗舰标配：容量大、推理省 |
| 生态 | 闭源 API（GPT/Claude/Gemini） | 开源权重（Qwen/DeepSeek/Llama） | 快速起步/合规敏感→API；可控/私有化→开源自部署 |
| 生成原理 | 自回归（逐 Token，文本） | 扩散模型（从噪声逐步去噪，图像/视频） | 文本走自回归，图/视频走扩散 |
| 部署位置 | 云端大模型 | 端侧小模型（1~8B 蒸馏/量化） | 隐私/离线/低延迟→端侧；复杂任务→云端；常组合使用 |
二、大模型工作原理速懂
2.1 本质：超大规模"下一个词预测"
LLM 每次只做一件事：根据前文，预测下一个 Token 的概率分布，采样输出，再预测下一个。写诗、写代码、答题，都是这个循环的宏观表现。理解这一点，幻觉（概率上合理但事实错误）、温度（采样随机性）、上下文窗口（前文长度上限）等概念全部自然贯通。
2.2 Attention 直觉
注意力机制让模型在生成每个 Token 时，动态决定"最该关注前文哪些词"。比如"苹果发布了新手机"里的"苹果"，模型通过关注"手机"判定它是公司而非水果。多层 Attention 堆叠 + 前馈网络 = Transformer 层，旗舰模型堆上百层。
2.3 训练三阶段（类比育人）
| 阶段 | 类比 | 数据 | 成本 |
|---|---|---|---|
| 预训练 | 读万卷书（学知识） | 万亿 Token 互联网语料 | 千卡月级，最贵 |
| SFT 微调 | 学做事（学指令） | 数万~百万条问答对 | 可小规模 |
| RLHF/对齐 | 学做人（学偏好） | 人类偏好排序数据 | 中等，最影响"手感" |
2.4 普通模型 vs 推理模型（2024 起最重要分叉）
| 普通模型（如 GPT-4o 类） | 推理模型（o1/R1 范式） | |
|---|---|---|
| 思考方式 | 直接作答 | 先输出长"思考链"（CoT）再作答 |
| 擅长 | 常规问答、写作、抽取 | 数学、代码、复杂规划、科学问题 |
| 代价 | 快、便宜 | 慢、Token 消耗大数倍（test-time compute：用推理时间换智能） |
| 误区 | — | 不是所有任务都该用推理模型；日常对话用它=浪费 |
2.5 推理侧关键词（技术人视角）
- KV Cache：推理时缓存已算过的注意力键值，避免重复计算——类比网络设备的会话缓存，是吞吐优化的核心；
- 量化（INT8/INT4，GPTQ/AWQ）：降低参数精度换显存与速度，代价是小幅精度损失，端侧部署必用；
- 推理引擎（vLLM/SGLang 等）：批处理、连续调度，把 GPU 利用率拉满，生产部署标配；
- 生成速度指标：TTFT（首 Token 延迟，体验关键）+ 吞吐（Tokens/s，成本关键）。
三、把模型"用起来"的工程技术栈
模型能力是天花板，工程手段决定你能摸到多高。四层手段按成本递增排列：
3.1 提示工程（Prompt Engineering）——零成本，先穷尽它
核心技巧：明确角色（"你是资深网络工程师"）+ 给上下文与约束 + 少样本示例（给 1~3 个输入输出样例）+ 规定输出格式（JSON/表格）+ 任务分解（复杂任务拆步骤）。90% 的"模型不行"其实是"提示不行"。
3.2 RAG 检索增强生成——企业落地的第一范式
为什么：模型知识停在训练截止日、不知道你的私有数据、让它背又会幻觉。方案：把知识库切块 → Embedding 向量化 → 存向量数据库 → 提问时检索最相关片段 → 塞进 Prompt 让模型"开卷考试"。
用户提问 → 向量化 → 向量库检索 Top-K → （重排序）→ 拼装 Prompt → LLM 生成带出处的回答适用：知识库问答、客服、文档搜索、企业内部助手。工程要点：切分策略、检索质量、重排序决定上限（"垃圾进垃圾出"）。AI 文件夹里的 RAGFlow 正是这条路线的开源引擎。
3.3 微调——当提示和 RAG 都不够时
| 对比项 | RAG | 微调（SFT/LoRA） |
|---|---|---|
| 解决什么 | 知识缺失、时效 | 风格/格式/领域行为固化 |
| 数据要求 | 文档库即可 | 需构造高质量问答对（千条级） |
| 更新成本 | 换文档即生效 | 重新训练 |
| 幻觉控制 | 好（有据可查） | 不解决幻觉 |
| 典型场景 | 企业知识库 | 固定格式抽取、领域术语风格、小模型蒸馏 |
经验顺序：先 Prompt → 再 RAG → 最后微调；三者不互斥，常组合。
3.4 Agent 智能体——从"会说"到"会做"
核心循环：规划（拆任务）→ 工具调用（Function Calling）→ 观察结果 → 反思迭代，配短期记忆（上下文）与长期记忆（外部存储）。标准化关键：MCP（Model Context Protocol）——Anthropic 2024 年提出的工具/数据接入开放协议，正在成为"AI 的 USB 接口"，让工具一次接入、全网通用。进阶形态：多智能体系统（MAS），多个角色分工协作（如"规划者+编码者+审查者"）。风险面也随之放大：权限失控、提示注入、成本失控——Agent 治理是 2026 年的工程热点。
3.5 部署形态速查
| 形态 | 代表 | 适合 |
|---|---|---|
| 云 API | OpenAI/Anthropic/国内大厂 | 快速起步、无 GPU |
| 开源自部署 | Qwen/DeepSeek + vLLM + GPU | 数据不出域、长期成本、深度定制 |
| 端侧 | 1~8B 蒸馏量化模型（Ollama/LM Studio） | 离线、隐私、低延迟 |
| 平台编排 | Dify/n8n/Coze | 不写代码快速搭 AI 应用 |
四、2026 热点技术地图（检索更新）
| 热点 | 是什么 | 成熟度判断 |
|---|---|---|
| Agent 爆发 | 新华社称 2026 为"智能体爆发年"：幻觉/出错率大降、制造成本骤降，从对话工具进化为自主任务执行体；谷歌云发布专门趋势报告 | 🔥 生产落地早期，简单场景已可用，复杂长链路仍需人监督 |
| 推理模型深化 | test-time scaling 成第二条增长曲线，"想得久=想得好" | ✅ 已成旗舰标配，按需选用的成熟技术 |
| 多模态与世界模型 | 从"看懂图"到掌握时空连续性与因果，被智源等机构视为 AGI 共识路径（代表：悟界系列） | 🔬 前沿研究期，视频理解/生成率先商用 |
| 具身智能（机器人） | 大模型装进机器人身体；行业"出清"，从 Demo 迈入工业场景 | 🔬→🏭 工业先行，家庭场景尚早 |
| MoE 架构普及 | 稀疏激活成为旗舰标配，推理成本大幅下降 | ✅ 已是主流架构 |
| 多智能体 MAS | 复杂应用拆成多角色协作 | 🔥 上升期，工程规范仍在沉淀 |
| AI for Science | 蛋白结构、材料发现、气象（攻坚期） | 🏭 垂直领域持续产出 |
| Vibe Coding | 用自然语言对话式开发，AI 成业务任务处理入口 | 🔥 开发范式变化，已成日常 |
| 端侧小模型 | 1~8B 蒸馏+量化模型进手机/PC/车机 | ✅ 快速普及 |
五、落地应用全景
5.1 已规模化的"试金石"场景（信通院口径）
| 场景 | 典型形态 | 成熟度 |
|---|---|---|
| 智能客服 | RAG 知识库 + 意图识别 + 人机协同 | ✅ 规模化 |
| 智能编码 | 补全/对话生成/Agent 自主编程 | ✅ 开发者日常 |
| 数据分析 | 自然语言查数、报表生成 | ✅ 快速普及 |
| 知识库问答 | 企业文档 RAG 助手 | ✅ 企业 AI 第一站 |
| 内容生成 | 营销文案、图像视频素材 | ✅ 常态化 |
| 办公助手 | 邮件/会议/文档/PPT | ✅ 常态化 |
5.2 行业落地速览
- 金融：投研摘要、智能风控、合规审查（强监管下私有化部署为主）；
- 医疗：影像辅助诊断、病历质控、导诊（医生复核为前提）；
- 制造：质检视觉、设备知识库、排产优化；
- 教育：个性化辅导、作业批改；
- 网络运维（与你最相关）：AIOps 告警收敛与根因分析、配置生成与审计、故障处置 Agent、日志语义检索——本质都是"LLM+领域知识库+工具调用"的组合。
5.3 把本文件夹的工具串起来
| 笔记 | 在技术栈中的位置 |
|---|---|
| Dify | 应用编排平台：Prompt/RAG/Agent 工作流低代码搭建 |
| RAGFlow | RAG 引擎：深度文档解析 + 切分 + 检索 |
| n8n | 工作流自动化 + AI 节点：把 Agent 接进现有业务流 |
| Hermes / openclaw | Agent 实操：工具调用、自主执行的具象化 |
读完本篇再回头看这四篇，每篇的位置和边界会非常清晰。
5.4 落地模式选型
| 模式 | 优点 | 代价 |
|---|---|---|
| 云 API 直连 | 最快、免运维、能力最强 | 数据出域、按量付费、依赖厂商 |
| 开源自部署 | 数据不出域、可深度定制、长期成本可控 | GPU 投入 + MLOps 运维能力 |
| 混合（推荐） | 敏感数据走本地小模型/RAG，通用任务走云端 | 架构与路由设计复杂度 |
华为《AI DC 白皮书 2026》的主流建议同样是组合拳：通用大模型 + 领域模型 + 小模型按能力/成本/时延/安全四象限配比，而非一个模型打天下。
六、面临的挑战（清醒剂）
| 挑战 | 本质 | 当前应对 |
|---|---|---|
| 幻觉与可靠性 | 概率生成的固有特性，无法根除只能压制 | RAG 溯源、推理模型自查、引用与人工复核；"AI Ready 必先 Data Ready"已成共识 |
| 算力与成本 | 训练千卡起步，推理随调用量线性增长 | MoE/量化/蒸馏降本、大小模型组合、缓存复用 |
| 数据安全 | 数据出域风险、提示注入、AI 资产失控 | 私有化部署、权限最小化、AI 资产盘点（IDC：传统按单应用防护已失效） |
| 合规监管 | 生成式 AI 管理办法、数据出境、行业准入；监管决定哪些模型/场景/数据可用 | 备案、审计日志、合规团队前置介入 |
| 评测与长尾 | 基准分高 ≠ 业务好用；长尾场景表现骤降 | 业务自定义评测集、灰度+人审上线 |
| 业务集成 | 与流程/权限/数据管道的工程缝合比模型本身难 | 编排平台、MCP 标准化接入、Agent 治理 |
一句话总结 2026 的行业共识：瓶颈正从"模型能力"转向"数据治理 + 安全合规 + 成本优化"的综合治理。
💡 重点难点（易混淆辨析）
- AI ≠ ML ≠ DL ≠ LLM：四层包含关系（见 0.1 图），媒体混用不等于你可以混用；
- 训练 vs 推理：训练是"造模型"（离线、千卡、一次数月），推理是"用模型"（在线、常驻、随调用量扩展）——成本结构和岗位技能都完全不同；
- "推理"一词双义：inference（运行模型）≠ 推理模型的 reasoning（思维链），语境分清；
- Prompt / RAG / 微调 / Agent 解决的是四个不同问题：分别是"问得更好 / 补知识 / 固行为 / 替人执行"，别拿锤子当起子；
- 幻觉是特性不是 bug：来自概率生成本质；宣称"彻底解决幻觉"的产品要警惕；
- 开源权重 ≠ 可自由商用：License 条款（商用限制/署名/衍生品开放）必须逐条读；
- 上下文窗口大 ≠ 记忆好：超长上下文存在"中间遗忘"（lost in the middle），关键信息放首尾、重要状态外置存储；
- 推理模型不是更高级所以都要用：日常任务用它慢且贵，按任务复杂度路由才对；
- 参数量不能跨架构比较：MoE 模型"总参数/激活参数"两个数，激活参数才决定单次推理成本；
- 模型能力是天花板，工程决定下限：同一模型，RAG 做得好坏效果差一档。
🔗 延伸拓展
- 动手路径（结合现有工具）：本机 Ollama 跑 7B 量化模型感受 TTFT/吞吐 → RAGFlow 建知识库 → Dify 搭一个带工具调用的 Agent → n8n 接一个真实业务流；
- 深入专题（可继续在本文件夹成系列）：RAG 工程化（切分/混合检索/重排）、Agent 设计模式与 MCP、私有化部署与推理优化（vLLM/量化/显存测算）、AI 安全（提示注入/越狱/水印）；
- 系统课程：Datawhale happy-llm（从零实现 LLaMA2）、LLM 理论与实践（301 页）、Microsoft LLM 基础；
- 交叉方向：AIOps（智能运维）、网络大模型（配置生成/故障诊断 Agent）——AI 与你网络运维背景的交汇点。
面试/交流高频问答
- AI、ML、DL、LLM 什么关系？ 包含层级：AI⊃ML⊃DL⊃LLM，LLM 是深度学习在语言模态的规模化形态。
- 大模型为什么会产生幻觉？ 本质是逐 Token 概率生成，追求"语言上合理"而非"事实上为真"；训练数据错误/缺失也会放大。缓解靠 RAG、对齐与溯源。
- RAG 和微调怎么选？ 缺知识、要时效 → RAG；固风格/格式、领域行为 → 微调；都不解决对方的问题，常组合。
- Token、参数、上下文窗口的区别？ Token 是处理单位（计费/长度），参数是模型规模（容量），上下文窗口是单次对话记忆上限。
- 什么是 MoE，为什么旗舰都用它？ 每次只激活部分专家参数，容量与推理成本解耦——总参数做大、激活参数做小。
- 推理模型和普通模型区别？ 生成前先产出思维链（CoT），用推理时算力换复杂任务准确率；慢且贵，按需使用。
- Agent 和普通对话应用的区别？ 对话应用"输入→输出"一锤子买卖；Agent 有规划-工具-观察-反思循环，能多步自主执行、改变外部世界状态。
- 企业落地 AI 第一步建议做什么？ 从 RAG 知识库类场景切入（价值直观、风险低、数据治理同步启动），而不是上来就训练模型。
- 开源模型自己部署就一定安全省钱吗？ 安全上仍需管好提示注入/权限/日志；成本上 GPU+运维是隐性大头，小规模下 API 通常更省。
- 2026 年 AI 的主要矛盾是什么？ 模型能力已越过大量商用门槛，瓶颈转向数据治理、安全合规与算力成本的综合治理。
记忆口诀
- 层级：AI 装 ML，ML 装 DL，DL 里长出大模型；
- 训练三部曲：预训练读万卷书，SFT 学做事，RLHF 学做人；
- 手段递进：先提示，再检索（RAG），不够才微调，要执行上 Agent；
- 幻觉：概率生成非检索，一本正经会胡说，开卷考试（RAG）最稳妥；
- 选型：快用 API，密就私有化，穷先小模型，编排交给 Dify。
参考来源
热点与行业趋势（2026 检索）：
| 来源 | 链接 | 价值点 |
|---|---|---|
| 新华社环球杂志：2026 智能体爆发年 | https://www.xinhuanet.com/globe/20260402/39ce4b6b703843a6aef41257f02976e0/c.html | 第四节 Agent |
| Google Cloud：AI Agent Trends 2026 | https://cloud.google.com/resources/content/ai-agent-trends-2026?hl=zh-CN | 第四节 |
| 智源 2026 十大 AI 技术趋势 | https://zhuanlan.zhihu.com/p/1992638846458946060 | 世界模型/具身智能 |
| 腾讯云开发者：AI 技术演进解读 | https://developer.cloud.tencent.com/article/2714909 | MoE/多模态/MAS |
| CSDN：多智能体系统深度解读 | https://blog.csdn.net/weixin_54114441/article/details/156869616 | 第四节 MAS |
落地与挑战：
| 来源 | 链接 | 价值点 |
|---|---|---|
| 爱分析：企业 AI 落地 Data Ready | https://ifenxi.com/research/content/6834 | 第六节 幻觉/数据 |
| 实在智能：AI 落地挑战梳理 | https://www.ai-indeed.com/encyclopedia/18068.html | 第六节 |
基础与系统学习：
| 来源 | 链接 | 价值点 |
|---|---|---|
| 知乎：大模型基础概念扫盲 | https://zhuanlan.zhihu.com/p/1977397410935358208 | 0.3 术语 |
| CSDN：大模型 12 个核心机制 | https://blog.csdn.net/m0_59235945/article/details/165628304 | 第二/三章 |
| Datawhale happy-llm | https://github.com/datawhalechina/happy-llm | 延伸拓展 |
| LLM 理论与实践（LLM-TAP） | https://intro-llm.github.io/chapter/LLM-TAP.pdf | 延伸拓展 |
| Microsoft LLM 基础知识 | https://learn.microsoft.com/zh-cn/agent-framework/journey/llm-fundamentals | 延伸拓展 |
说明：模型产品名与版本迭代极快（月度更新），本文刻意只保留架构级与技术范式级的表述；具体模型选型建议在动手时按当期基准（LMSYS Arena、OpenCompass 等）现查。