Appearance
AI 基础概念总览
很多 AI 内容一上来就开始讲 Agent、RAG、工作流、协议规范,看起来很热闹,但读到后面很容易有一种感觉:
词都认识,放到一条链路里还是容易乱。
问题往往不在后面的概念太复杂,而在前面几块基础没打稳。
这一部分就盯最常见、也最容易混的基础概念。把这一层理顺了,后面再看接口、检索、工具调用和任务编排,会顺很多。
1. 这一层到底在解决什么问题
基础概念层主要解决 3 件事:
- 把“模型到底在处理什么”讲清楚
- 把“我们平时写的输入,和模型真正看到的东西”分清楚
- 把“能力、成本、延迟、截断”这些后面反复出现的问题,先找到源头
如果这一层没先理顺,后面很容易出现这些误解:
- 把
Prompt当成全部上下文 - 把
Token当成“字数统计” - 把
LLM当成天然知道外部世界的系统 - 把“答得不好”全部归因到模型本身
2. 这一层主要看哪些词
这一部分先集中看 4 个词:
LLMTokenPromptContext
这 4 个词不是并列堆在一起的术语,它们其实刚好能串成一条最小生成主线。
3. 把最小生成主线看清楚
mermaid
flowchart LR
A[任务目标] --> B[组织 Prompt]
B --> C[拼出完整 Context]
C --> D[转成 Token 序列]
D --> E[LLM 生成输出]顺着这条线往下看,事情大致是这样的:
- 业务侧先有一个任务目标
- 然后把任务组织成
Prompt - 再和历史消息、检索结果、工具结果一起组成完整
Context - 这些内容进入模型前会先被切成
Token - 最后由
LLM基于这些输入生成结果
后面很多工程问题,其实都能沿着这条线往回追:
- 答非所问,可能是
Prompt不清楚 - 答案缺关键资料,可能是
Context组织有问题 - 成本太高、响应太慢,往往和
Token规模直接相关 - 明明问的是实时信息却答错,很多时候是把
LLM的边界想大了
4. 🌟 这一层最值得抓住的几个边界
LLM是生成能力,不是外部世界的事实源Prompt是你主动组织给模型的输入,不等于模型本轮拿到的全部材料Context往往比Prompt更大,因为它还会包含历史消息、检索结果和工具输出Token不是装饰性概念,它直接影响上下文长度、成本和延迟
5. 入口
这一层先看:
这一篇会把 4 个词放到一条主线上讲清楚。