Back to Blog

AI核心概念

LLM (Large Language Model),全称大语言模型,简称大模型。 底层引擎: Transformer 架构 架构提出时间:2017 年 论文出处:Google 团队发布的《Attention Is All You Need》 | 时间 | 里程碑 | 意义 | |------|--------|...

从 LLM 到 Agent Skill:AI 核心概念完全解析

一、LLM(大语言模型)

1.1 定义

LLM(Large Language Model),全称大语言模型,简称大模型。

  • 底层引擎:Transformer 架构
  • 架构提出时间:2017 年
  • 论文出处:Google 团队发布的《Attention Is All You Need》

1.2 发展简史

时间里程碑意义
2017 年Transformer 架构提出Google 发明的”火种”
2022 年 11 月GPT-3.5 发布第一个达到可用级别的大模型
2023 年 3 月GPT-4 发布将 AI 能力天花板拉到新高度
至今GPT-4o/5.4 等持续迭代,业界标杆

1.3 工作原理:文字接龙

大模型本质是一个文字接龙游戏

用户输入 → 模型预测下一个概率最高的词 → 吐出词 → 抓回追加 → 继续预测 → 循环直到结束

具体示例

  1. 用户提问:“khuatcoung怎么样?”
  2. 模型预测下一个词:“特别”
  3. 把”特别”追加到输入后面
  4. 继续预测下一个词:“的”
  5. 把”的”追加到输入后面
  6. 继续预测下一个词:“棒”
  7. 模型输出结束标识符
  8. 最终回答:“特别的棒”

这就是为什么大模型要一个词一个词地输出答案。


二、Token(词元)

2.1 定义

Token 是大模型处理文本的最基本单元

  • 大模型本质是一个庞大的数学函数,内部运行矩阵运算
  • 大模型不认识人类文字,只认识数字
  • Tokenizer(分词器)是人类与大模型之间的”翻译官”

2.2 Tokenizer 的工作流程

编码(文字→数字)                        解码(数字→文字)
用户输入 ──→ Token 切分 ──→ Token ID 映射 ──→ 模型处理 ──→ 输出 Token ID ──→ Token 映射 ──→ 文字输出

编码环节(两步):

  1. 切分:把文本拆成最小的片段
  2. 映射:把每个 Token 对应到一个数字(Token ID)

解码环节

  • 只有一步:把数字转换回文字
  • 不需要切分,因为模型每次只输出一个 Token

2.3 Token 与词的关系

Token ≠ 词,两者没有明确的对应关系。

中文示例

输入文本预期切分实际切分
我的频道叫Khuatcoung工作坊4 个词5 个 Token(“工作坊”被拆成”工作”+“坊”)
程序员1 个词2 个 Token(“程序”+“员”)

英文示例

单词Token 数量说明
hello1 个常见单词恰好对应
going1 个常见单词恰好对应
helpful2 个拆分为”help”+“ful”
对勾符号3 个无显示字符,用 Token ID 更直观

2.4 Token 数量估算

语言类型平均一个 Token 等于
英文单词约 0.75 个
中文汉字约 1.5~2 个

示例

  • 40 万个 Token ≈ 60~80 万个汉字 ≈ 30 万个英文单词

2.5 Token 可视化工具

https://platform.openai.com/tokenizer


三、Context(上下文)与 Context Window

3.1 Context 定义

Context(上下文)= 大模型每次处理任务时接收到的信息总和

可以把它看作大模型的临时记忆体,包含:

  • 用户问题(User Prompt)
  • 对话历史
  • 大模型正在输出的每一个 Token
  • 工具列表
  • System Prompt
  • 其他配置信息

3.2 Context Window 定义

Context Window(上下文窗口)= Context 能够容纳的最大 Token 数量

3.3 主流模型 Context Window 对比

模型Context Window
GPT-4o105 万 Token
Claude 3.1 Pro100 万 Token
Claude Opus 4.6100 万 Token

100 万 Token ≈ 150 万汉字 ≈ 整部《哈利波特》全集

3.4 RAG 技术(扩展知识)

当需要处理超过 Context Window 限制的文档时,使用 RAG(Retrieval-Augmented Generation)技术:

用户问题 → 从长文档中检索最相关的片段 → 只把相关片段发给大模型 → 大模型回答

优点

  • 不受 Context Window 限制
  • 降低成本

四、Prompt(提示词)

4.1 定义

Prompt = 给大模型的具体问题或指令

4.2 Prompt Engineering(提示词工程)

研究如何把话说清楚,让大模型更精准理解意图。

现状:门槛较低 + 大模型能力越来越强 → 这个概念已较少被单独提及

4.3 User Prompt vs System Prompt

类型中文名来源作用
User Prompt用户提示词用户在对话框输入说明具体任务
System Prompt系统提示词开发者在后台配置说明人设和做事规则

示例场景:数学辅导机器人

System Prompt(开发者配置,用户看不到):

你是一个耐心的数学老师,当学生问你数学问题的时候,
不要直接给出答案,而是要一步一步引导学生思考,
帮助他们理解解题思路。

User Prompt(用户输入):

3加5等于几?

大模型的响应(受 System Prompt 影响):

我们可以这样想,你手里有三个苹果,然后又拿了5个,
现在一共有多少个呢?你可以数一数看。

如果没有 System Prompt,大模型可能直接回答”8”。


五、Tool(工具)

5.1 为什么需要 Tool

大模型的弱点:无法感知外界环境,无法获取实时信息。

示例

问:今天上海的天气怎么样?
答:抱歉,我无法获取实时天气信息,我的知识库截止到某年某月...

5.2 Tool 的本质

Tool = 函数(Function)

输入 → Tool(内部操作,如调用 API) → 输出

天气查询工具示例

输入:城市、日期
处理:调用气象局接口
输出:天气信息

5.3 工具调用完整流程

涉及角色:

角色职责
用户发起问题
大模型选择工具、生成参数、归纳总结
平台传话筒,串联整个流程,实际调用工具
工具执行具体操作(如查天气)

流程图

1. 用户问题 → 平台 → 大模型(附带可用工具列表)

2. 大模型分析 → 发现需要天气信息 → 生成工具调用指令(工具名+参数)

3. 工具调用指令 → 平台 → 实际调用工具 → 获取结果

4. 工具结果 → 大模型 → 整理成人话

5. 整理后的回答 → 平台 → 用户

关键点:大模型无法自己调用工具,它只能输出文本告诉平台想调用什么工具,实际调用由平台完成。

5.4 Tool 的两个核心职责

  1. 选择工具:选择需要调用的工具,生成对应参数
  2. 归纳总结:拿到工具执行结果后,做归纳整理

六、MCP(模型上下文协议)

6.1 问题背景

在 Tool 接入平台时,每个平台的规范不同:

平台接入规范
ChatGPTOpenAI 规范
ClaudeAnthropic 规范
GeminiGoogle 规范

问题:同一个工具要写三遍接入代码。

6.2 MCP 解决方案

MCP(Model Context Protocol)= 统一的工具接入标准

作用:工具开发者只需按照 MCP 规范开发一次,该工具即可被所有支持 MCP 的平台使用。

类比:所有手机都用 Type-C 接口,统一标准,方便所有人。

6.3 MCP 全称

Model Context Protocol = 模型上下文协议


七、Agent(智能体)

7.1 Agent 的定义

Agent = 能够自主规划自主调用工具持续工作直到完成用户任务的系统。

7.2 Agent 与 Tool 的区别

概念特点
Tool单次调用
Agent多步规划 + 多次调用 + 持续运作

7.3 Agent 工作示例

用户问题

今天我这里的天气怎么样?如果下雨的话,
帮我查一下附近有没有卖雨伞的店。

可用工具

  • 定位工具(查询经纬度)
  • 天气工具(根据经纬度查天气)
  • 店铺工具(根据经纬度查附近店铺)

Agent 的思考与执行流程

1. 分析:用户问天气 → 需要知道位置 → 调用定位工具

2. 获取经纬度:-74°(经度), 40°(纬度)

3. 分析:有了位置 → 调用天气工具查天气

4. 获取天气:有雨

5. 分析:下雨 + 用户要查雨伞店 → 调用店铺工具

6. 获取结果:附近 100 米有家便利店卖伞

7. 综合所有信息 → 输出最终答案

7.4 主流 Agent 产品

  • Claude Code
  • OpenCode
  • Cursor
  • Codex
  • PI

7.5 Agent 构建模式

经典模式包括:ReAct、Plan-and-Execute 等。


八、Agent Skill(智能体技能)

8.1 问题背景

即使有 Agent,每次使用仍然需要重复输入大量规则和格式要求:

"我马上要出门,该带些什么呢?"

缺失的信息

  • 个人习惯(下雨戴伞、光照强戴帽子、空气差戴口罩、风大穿防风外套、手机必带)
  • 输出格式要求(先总结 + 列出物品清单 + 带原因)
  • 天气查询步骤

8.2 Agent Skill 的本质

Agent Skill = 提前写好的给 Agent 看的说明文档

8.3 Agent Skill 结构

┌─────────────────────────────────────────┐
│            元数据层(Metadata)           │
│  - name: go_out_checklist               │
│  - description: 出门清单...              │
├─────────────────────────────────────────┤
│              指令层(Instructions)       │
│  - 目标                                  │
│  - 执行步骤                              │
│  - 判断规则                              │
│  - 输出格式                              │
│  - 示例                                  │
└─────────────────────────────────────────┘

8.4 Agent Skill 示例

---
name: go_out_checklist
description: 出门清单助手,根据天气提醒用户带好装备
---

# 目标
每次出门前帮用户检查天气并提醒携带物品

# 执行步骤
1. 调用定位工具,获取用户经纬度
2. 调用天气工具,获取天气信息
3. 根据天气数据,按照判断规则整理携带物品
4. 按照输出格式输出结果

# 判断规则
- 下雨 → 戴伞
- 光照强 → 戴帽子
- 空气差 → 戴口罩
- 风大 → 穿防风外套
- 必带 → 手机

# 输出格式
先来一句总结,然后列出物品清单,每个物品带原因

# 示例
用户问题:我马上要出门帮我看看今天要带什么东西
定位工具返回:经度-74,纬度40
天气工具返回:下雨,光照强
期望输出:
"今天天气有点糟糕,记得带这些东西:
- 雨伞(今天有雨)
- 帽子(光照较强)
"

8.5 Agent Skill 部署步骤

1. 创建文件夹

路径:用户目录/.claude/skills/

文件夹名称 = Agent Skill 名称(如 go_out_checklist

2. 创建文件

文件名:skill.md(必须大写,这是硬性规范)

3. 将内容粘贴保存

8.6 Agent Skill 工作机制

用户提问 → Claude Code 检测到问题与 Agent Skill 相关

读取 Agent Skill 完整内容(指令层)

按 Agent Skill 要求执行步骤

输出符合格式要求的结果

九、概念体系总览

┌──────────────────────────────────────────────────────────────────┐
│                        AI 概念层次结构                           │
├──────────────────────────────────────────────────────────────────┤
│                                                                  │
│  ┌─────────┐                                                    │
│  │  Agent  │ ← 能够自主规划、调用工具、持续运作的程序              │
│  └────┬────┘                                                    │
│       │                                                         │
│  ┌────┴─────────────────┐                                       │
│  │    Agent Skill       │ ← 给 Agent 的说明文档                  │
│  └────┬─────────────────┘                                       │
│       │                                                         │
│  ┌────┴────┐     ┌──────────┐                                   │
│  │  Tool   │────→│   MCP    │ ← 统一的工具接入标准               │
│  └────┬────┘     └──────────┘                                   │
│       │                                                         │
│  ┌────┴──────────────────────────┐                               │
│  │         LLM(大模型)          │ ← 所有 AI 技术的核心           │
│  └────┬──────────────────────────┘                               │
│       │                                                         │
│  ┌────┴──────────────────────────┐                               │
│  │      Token(最基本处理单元)    │                               │
│  └────┬──────────────────────────┘                               │
│       │                                                         │
│  ┌────┴──────────────────────────┐                               │
│  │     Context(临时记忆体)      │ ← 包含历史、规则、当前输入     │
│  │  Context Window(容量上限)    │ ← 最大 Token 数量             │
│  └───────────────────────────────┘                               │
│                                                                  │
│  ┌────────────────┐    ┌────────────────┐                        │
│  │  System Prompt │    │  User Prompt   │ ← Prompt 的两种类型      │
│  └────────────────┘    └────────────────┘                        │
│                                                                  │
└──────────────────────────────────────────────────────────────────┘

核心概念速查表

概念英文作用
LLMLarge Language Model大语言模型,AI 核心
TokenToken处理文本的最基本单元
ContextContext大模型的临时记忆体
Context WindowContext WindowContext 的容量上限
PromptPrompt给大模型的具体指令
User PromptUser Prompt用户输入的问题
System PromptSystem Prompt开发者配置的人设规则
ToolTool/Function让大模型感知外部环境
MCPModel Context Protocol统一的工具接入标准
AgentAgent自主规划+持续工作的系统
Agent SkillAgent Skill给 Agent 的说明文档
商业转载请联系站长获得授权,非商业转载请注明本文出处及文章链接,您可以自由地在任何媒体以任何形式复制和分发作品,也可以修改和创作,但是分发衍生作品时必须采用相同的许可协议。本文采用 CC BY-NC-SA 4.0 - 非商业性使用 - 相同方式共享 4.0 国际 进行许可。

Comments

Notes, questions, and follow-ups are welcome here.

Comments are temporarily unavailable because WALINE_SERVER_URL or PUBLIC_WALINE_SERVER_URL is not configured.