Skip to content

AI 基础概念总览

很多 AI 内容一上来就开始讲 AgentRAG、工作流、协议规范,看起来很热闹,但读到后面很容易有一种感觉:

词都认识,放到一条链路里还是容易乱。

问题往往不在后面的概念太复杂,而在前面几块基础没打稳。

这一部分就盯最常见、也最容易混的基础概念。把这一层理顺了,后面再看接口、检索、工具调用和任务编排,会顺很多。

1. 这一层到底在解决什么问题

基础概念层主要解决 3 件事:

  1. 把“模型到底在处理什么”讲清楚
  2. 把“我们平时写的输入,和模型真正看到的东西”分清楚
  3. 把“能力、成本、延迟、截断”这些后面反复出现的问题,先找到源头

如果这一层没先理顺,后面很容易出现这些误解:

  1. Prompt 当成全部上下文
  2. Token 当成“字数统计”
  3. LLM 当成天然知道外部世界的系统
  4. 把“答得不好”全部归因到模型本身

2. 这一层主要看哪些词

这一部分先集中看 4 个词:

  1. LLM
  2. Token
  3. Prompt
  4. Context

这 4 个词不是并列堆在一起的术语,它们其实刚好能串成一条最小生成主线。

3. 把最小生成主线看清楚

mermaid
flowchart LR
    A[任务目标] --> B[组织 Prompt]
    B --> C[拼出完整 Context]
    C --> D[转成 Token 序列]
    D --> E[LLM 生成输出]

顺着这条线往下看,事情大致是这样的:

  1. 业务侧先有一个任务目标
  2. 然后把任务组织成 Prompt
  3. 再和历史消息、检索结果、工具结果一起组成完整 Context
  4. 这些内容进入模型前会先被切成 Token
  5. 最后由 LLM 基于这些输入生成结果

后面很多工程问题,其实都能沿着这条线往回追:

  1. 答非所问,可能是 Prompt 不清楚
  2. 答案缺关键资料,可能是 Context 组织有问题
  3. 成本太高、响应太慢,往往和 Token 规模直接相关
  4. 明明问的是实时信息却答错,很多时候是把 LLM 的边界想大了

4. 🌟 这一层最值得抓住的几个边界

  1. LLM 是生成能力,不是外部世界的事实源
  2. Prompt 是你主动组织给模型的输入,不等于模型本轮拿到的全部材料
  3. Context 往往比 Prompt 更大,因为它还会包含历史消息、检索结果和工具输出
  4. Token 不是装饰性概念,它直接影响上下文长度、成本和延迟

5. 入口

这一层先看:

这一篇会把 4 个词放到一条主线上讲清楚。

基于 VitePress 构建的个人技术笔记。