AI 极客实战教程日报
🔭 今日 AI 实践观察:昨天中国 AI 开发者在学什么、做什么?
三个清晰信号:① "闭环"取代"直线"成为 Agent 教学新范式——Datawhale All-in-RAG 最新章节把 RAG 从"一次检索一次生成"升级为"规划—检索—评估—改写"的自主循环,智谱官方 Build Log 则用自家 GLM-5.3 驱动 Infra Agent 优化推理基础设施,闭环反馈设计成为共同关键词;② MCP 已默认成为 Agent 的"工具插座"——Qwen-Agent 挂 MCP filesystem 让模型自主整理文件、llm-agents-from-scratch 把 MCP 列为正式章节,教学重心从"MCP 是什么"彻底转向"MCP 怎么接";③ 国产模型成为开源教程的默认底座——海外开源 Agent 教材默认用 Qwen3:14B 本地跑,海外个人 Agent 框架原生支持 GLM / Kimi / MiniMax。Datawhale 系教程(All-in-RAG / Hello-Agents / happy-llm / easy-vibe)已形成从原理到产品的完整学习矩阵。
Datawhale All-in-RAG 新章节:用 LangGraph 手写一个"规划—检索—评估—改写"的 Agentic RAG
原始资料
- 作者原文GitCode 博客:Datawhale All-in-RAG 实战 —— Agentic RAG 架构解析与基于 LangGraph 的最小实现
- 项目 Repogithub.com/datawhalechina/all-in-rag(配套代码在 code/C7/agentic_rag/)
作者是谁
Datawhale(国内最大的开源学习社区之一)All-in-RAG 教程项目组,由社区贡献者以 AtomGit 账号发布在 GitCode 博客。属于教程作者本人发布的一手内容。
教程讲了什么
文章先指出传统 RAG"一次检索、一次生成"的四大局限:无检索质量感知、无法动态调整策略、无工具选择能力、信息融合浅层。随后给出 Agentic RAG 的四大核心能力——查询规划、检索决策、质量自评、迭代改写,并基于仓库 code/C7/agentic_rag/ 中的 LangGraph 完整实现,逐节点拆解状态图、提示词设计与条件路由逻辑,最终跑通一个具备"规划—检索—评估—改写—生成"闭环的自主检索 Agent。
为什么值得收藏
市面上的 RAG 教程大多停在"接个向量库就完事",这篇是目前中文世界里少见的、把"检索质量自评 + 失败自动改写重查"工程化讲透的教程,且代码就在官方仓库里可以直接跑。学会它等于掌握了把任何 FAQ 问答机器人升级成"会自己判断答案靠不靠谱"的检索系统的方法。
技术栈
| 模型 | OpenAI 兼容接口(可替换为 DeepSeek / Qwen / GLM 任意兼容端点) |
| 工具/框架 | LangGraph(状态图编排)、LangChain、向量检索(项目内置) |
| 语言 | Python |
| 代码位置 | all-in-rag 仓库 code/C7/agentic_rag/ |
| 部署环境 | 本地 Python 环境即可,无需 GPU(调云端 API) |
完整 Workflow
手把手复现
- 克隆仓库:
git clone https://github.com/datawhalechina/all-in-rag.git - 进入
code/C7/agentic_rag/目录,按章节 README 安装依赖 - 在环境变量中配置 OpenAI 兼容的 API Key 与 base_url(国内可直接填 DeepSeek 或通义千问的兼容端点)
- 先跑通最小示例,观察状态图中"评估→改写"循环何时被触发
- 把示例知识库换成自己的文档集合,调低评估阈值观察重写次数变化
关键设计点
教程的核心不在代码量,而在两个提示词:评估提示词(让 LLM 给检索结果打相关性分数并说明理由)和改写提示词(基于"为什么不合格"生成下一轮查询)。条件路由边的阈值决定了系统在"答得不准"和"无限重查"之间的平衡点——这是最值得动手调的部分。
踩坑与注意事项
普通人能不能复现
⭐⭐ 有基础用户可复现
需要:Python 基础、一个国产大模型 API Key(DeepSeek/通义均可,按量计费成本极低)、无需 GPU、无需付费软件。
国内替代方案
原文模型层走 OpenAI 兼容协议,国内用户把 base_url 换成 DeepSeek(api.deepseek.com)、通义千问(dashscope 兼容模式)或智谱 GLM 的兼容端点即可,代码无需改动——这正是该教程对国内读者最友好的一点。
如何迁移到其他场景
智谱官方 Build Log:用 GLM-5.3 驱动 Infra Agent,两周把自己的推理基础设施优化到 3 倍吞吐
原始资料
- 官方博客Z.ai 博客《Toward Recursive Self-Improvement: How GLM Built Its Own Inference Infrastructure》(经技术媒体转述核实存在)
- 媒体转述bpdata:Zhipu AI used GLM-5.3 to automate parts of its own infrastructure development
- 相关官方页GLM-5.3 技术报告(z.ai/blog/glm-5.3)
作者是谁
智谱 AI(Zhipu AI / Z.ai)官方工程团队,属于基础设施优化的当事方自述,一手程度最高。注意:文中性能数据均为官方自述,第三方无法独立复现验证。
教程讲了什么
智谱搭建了一个由"工程师 + Infra Agent + 实验环境"组成的优化闭环:工程师定义目标和系统边界,GLM-5.3 驱动的 Infra Agent 负责分析、提出假设、给出代码修改,实验环境提供分层、及时、可验证的反馈。官方自述:闭环运转后 GLM-5.3-Flash 从初始适配到生产可用不到两周,最终端到端吞吐达到初始基线的 3 倍(该数据来自官方自述)。
技术栈
| 模型 | GLM-5.3(智谱自研,驱动 Infra Agent) |
| 系统角色 | 工程师(定义目标与边界)+ Infra Agent(分析/假设/改码)+ 实验环境(反馈) |
| 优化对象 | 推理基础设施(引擎启动参数、Kernel、线程、执行间隔、代码路径) |
| 产出 | GLM-5.3-Flash(更快更低成本的变体,官方称两周内生产可用) |
完整 Workflow
关键方法:反馈设计三原则(可直接照搬)
- 反馈必须足够局部:把反馈绑定到具体的引擎启动参数、代码改动、Kernel 状况、输入配置、线程、执行间隔或代码路径上,Agent 才能缩小问题范围。
- 反馈必须廉价且及时:验证周期越短,Agent 越快修正方向,在无效假设上浪费的工作量越少。
- 反馈必须客观可验证:改动是否正确、性能是否提升,必须由参考实现、测试结果和可对比的实验指标判定,而不是由人或模型"感觉"。
踩坑与注意事项
如何迁移到其他场景
Hermes Agent 完全上手指南:一条命令装一个会自己写技能、越用越懂你的开源个人智能体
原始资料
- 上手指南Hermes Agent: The Complete Beginner's Guide (Sep 2026)
- 项目 Repogithub.com/NousResearch/hermes-agent
- 官方文档hermes-agent.nousresearch.com/docs
教程讲了什么
指南系统讲解了这个项目的核心主张——Harness Engineering:2026 年的关键不是更聪明的模型,而是模型外面更聪明的"套壳"(指令、约束、反馈、记忆、编排五层)。Hermes 常驻在你的电脑或 VPS 上,跨会话记忆,每完成复杂任务就自动把经验写成一个可复用的 Skill(markdown 文件),并通过 CLI / Telegram / Discord / 邮件等 14+ 渠道触达你。
技术栈
| 模型 | 任意 OpenAI 兼容端点;原生支持 Anthropic、OpenAI、MiniMax、Kimi/Moonshot、z.ai/GLM、OpenRouter(200+ 模型)、本地 Ollama |
| 工具 | 40+ 内置工具、Skill 系统(~/.hermes/skills/)、cron 定时、MCP Server 入口、Telegram/Discord/Slack/邮件网关 |
| 语言 | Python(uv 管理,需 Python 3.11) |
| 部署环境 | Linux / macOS / WSL2 / Termux(不支持原生 Windows);MIT 协议 |
手把手复现
# 1. 安装(Linux / macOS / WSL2 / Termux)
curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash
source ~/.bashrc # 或 source ~/.zshrc
# 2. 选择模型(国内用户可选 GLM / Kimi / MiniMax / Ollama 本地模型)
hermes model
# 3. 常用命令
hermes tools # 配置启用的工具
hermes setup # 完整交互式配置向导
hermes gateway # 启动消息平台网关(Telegram / Discord 等)
hermes doctor # 诊断配置问题
hermes update # 升级到最新版
踩坑与注意事项
国内替代方案
模型层:直接用 GLM / Kimi / MiniMax / DeepSeek(OpenAI 兼容),这是官方支持的姿势。框架层:国内同形态的"本地优先 + IM 接入"开源框架可参考 OpenClaw(支持飞书/钉钉/企业微信生态,中文社区更活跃)。
Qwen3.6 + Qwen-Agent + MCP 文件系统:让国产模型自己整理桌面、生成网站并存盘
原始资料
- 官方教程Hyperstack:Step-by-Step Guide to Deploying Qwen3.6 on a GPU Cloud for Agentic Coding
- 相关项目github.com/QwenLM/Qwen-Agent(教程所用官方 Agent 框架)
教程讲了什么
教程先指导在 GPU 云上用 vLLM 部署 Qwen3.6-35B-A3B 并提供 OpenAI 兼容端点,然后用 Qwen-Agent 的 Assistant 类连接该端点(含 enable_thinking 思考模式配置),再把官方 MCP filesystem server 注册为工具。随后演示两个真实任务:让 Agent 自主整理一个杂乱的工作目录,以及让 Agent 生成一个猫咪主题网站并把 index.html 写入磁盘。
技术栈
| 模型 | Qwen/Qwen3.6-35B-A3B(MoE,开启 thinking 模式) |
| 推理 | vLLM(OpenAI 兼容 API,localhost:8000/v1) |
| Agent 框架 | Qwen-Agent(qwen_agent.agents.Assistant) |
| MCP 工具 | @modelcontextprotocol/server-filesystem(官方文件系统 server,npx 启动) |
| 部署环境 | GPU 云(可用任意 vLLM 能跑的环境) |
手把手复现(核心代码,来自原教程)
from qwen_agent.agents import Assistant
# 1. 指向本地 vLLM 部署的 Qwen3.6(OpenAI 兼容端点)
llm_cfg = {
'model': 'Qwen/Qwen3.6-35B-A3B',
'model_type': 'qwenvl_oai',
'model_server': 'http://localhost:8000/v1',
'api_key': 'EMPTY',
'generate_cfg': {
'use_raw_api': True,
'extra_body': {
'chat_template_kwargs': {'enable_thinking': True}
},
},
}
# 2. 通过 MCP 挂载官方文件系统 server(只暴露专用工作目录!)
tools = [{
'mcpServers': {
"filesystem": {
"command": "npx",
"args": [
"-y",
"@modelcontextprotocol/server-filesystem",
"/ephemeral/agent_workspace"
]
}
}
}]
# 3. 初始化并运行
bot = Assistant(llm=llm_cfg, function_list=tools)
messages = [{'role': 'user', 'content':
'Develop a cat website and save it on the /ephemeral/agent_workspace desktop.'}]
for responses in bot.run(messages=messages):
pass
print(responses)
踩坑与注意事项
api_key: 'EMPTY' 只对本地 vLLM 有效,接云端要换真实 Key。
普通人能不能复现
🔴 开发者项目(按原教程需 GPU 云)
降级路线:没有 GPU 的开发者可以把 model_server 指向阿里云百炼的 Qwen 兼容端点或本地 Ollama 跑的小尺寸 Qwen3,MCP 部分代码不变,零 GPU 也能体验完整流程。
llm-agents-from-scratch:不用现成框架,从_tools 到多智能体_手写一本 Agent 开源教材
原始资料
教程讲了什么
全书三部分十章:Part 1 从零构建 LLM Agent(工具、LLM 封装、Agent 类);Part 2 增强你的 Agent(MCP 工具、Skills、记忆、Human-in-the-loop);Part 3 组装多智能体系统(Subagents、A2A 协议互通)。外加 Capstone 项目(蒙特卡洛并行工具调用估算 π)。所有章节是 Jupyter Notebook,默认模型为 Ollama 本地 Qwen3:14B。
为什么值得收藏
绝大多数 Agent 教程教你"调 LangChain/CrewAI 的 API",这本教材反过来:让你亲手写出框架背后的机制——工具调用循环、记忆结构、MCP 客户端、HITL 中断恢复。尤为难得的是默认底座是国产开源模型 Qwen3,国内读者本地即可复现全部章节,没有 API 墙。
技术栈
| 模型 | Qwen3:14B(Ollama 本地,默认);可换 qwen3:4b(小模型工具调用可能不稳) |
| 工具 | Ollama、Jupyter、uv(依赖管理) |
| 语言 | Python 3.10+ |
| 覆盖主题 | 工具调用 / MCP / Skills / 记忆 / HITL / Subagents / A2A / Capstone |
| 硬件要求 | 约 16GB 内存 + 能跑 14B 模型的 GPU;无 GPU 可用 Lightning AI 免费模板 |
手把手复现
# 1. 克隆与安装
git clone https://github.com/nerdai/llm-agents-from-scratch.git
cd llm-agents-from-scratch
uv sync --all-extras --dev
# 2. 拉取默认模型(本地)
ollama pull qwen3:14b
# 3. 启动章节 Notebook
uv run --with jupyter jupyter lab
# 无 GPU?用 Lightning AI 模板,Ollama 与模型已预装
Datawhale Happy-LLM 登上 TRAE 官方社区推荐:从 Tokenizer 到亲手训出 LLaMA2 的中文系统教程
原始资料
- 社区推荐帖TRAE 官方中文社区:【Learn Agent】Happy-LLM —— 从零开始构建大模型
- 项目 Repogithub.com/datawhalechina/happy-llm(Releases 含免费 PDF v1.0.2)
- 配套 PPTgithub.com/HZAI-ZJNU/happy-llm-ppt
教程讲了什么
教程分基础篇(NLP 基础、Transformer、预训练语言模型、大语言模型)与实战篇(动手搭建大模型、训练流程实践、大模型应用、Agentic-RL)。目标读者能亲手复现一个 LLaMA2 级别模型:从 Tokenizer 到预训练到 SFT 全流程。
为什么值得收藏
"会用大模型"和"懂大模型"之间隔着一次亲手训练。这是目前中文世界最完整的"从零训 LLM"开源教程之一,且明确覆盖到当下最前沿的 Agentic-RL。配套 PPT 让它可以直接变成培训课件。
技术栈
| 主题 | Tokenizer / Transformer / 预训练 / SFT / 大模型应用(RAG、Agent)/ Agentic-RL |
| 语言 | Python(PyTorch) |
| 配套资源 | 免费 PDF(v1.0.2)、讲义 PPT、SwanLab 训练可视化记录 |
| 协议 | CC BY-NC-SA 4.0(署名-非商业-相同方式共享) |
手把手上手
git clone https://github.com/datawhalechina/happy-llm.git
cd happy-llm
# 按《学习与环境准备》为对应章节创建独立环境后,
# 再运行该章节代码(官方强烈建议,避免版本冲突)
普通人能不能复现
🔴 开发者项目(前 4 章阅读 ⭐⭐ 可跟)
需要:Python + 深度学习基础;动手训练需 GPU(可租 AutoDL 等按小时计费)。阅读与概念学习完全免费。
把 LLM 塞进 2D 游戏世界:Datawhale《Hello-Agents》赛博小镇实战——NPC 有性格、有记忆、还记得住你
原始资料
教程讲了什么
赛博小镇是一个 2D 像素风虚拟办公室:玩家用 WASD 走动,靠近 NPC 按 E 即可自然语言聊天。架构三层分离——Godot 管感知与表现,FastAPI 后端管决策(记忆检索 + LLM 生成 + 好感度结算),每个 NPC 是一个独立的 SimpleAgent 实例。核心机制:人设提示词定义性格;双层记忆(WorkingMemory 容量 10 条/TTL 120 分钟 + EpisodicMemory 用 SQLite + Qdrant 语义检索 top_k=3);好感度 0–100 连续值,由 LLM 情感分析打分并回写系统提示词。
为什么值得收藏
最精彩的是成本优化手法:N 个 NPC 的背景闲话合并成 1 次 LLM 调用(要求 JSON 输出),只有玩家真正对话时才走专属 Agent——作者自述此举把 LLM 调用成本压到原来的约 1/3。这种"混合模式"对所有多 Agent 系统都有直接借鉴价值。
技术栈
| 模型 | OpenAI 兼容 LLM(可换 DeepSeek/Qwen) |
| 前端/引擎 | Godot(2D 场景、Area2D 感知、气泡对话、四方向动画) |
| 后端 | FastAPI + HelloAgents 框架(SimpleAgent) |
| 记忆 | WorkingMemory(容量 10、TTL 120min)+ EpisodicMemory(SQLite + Qdrant,top_k=3) |
| 关键机制 | 好感度评分(LLM 情感分析)+ 合并调用降本(N→1 次) |
关键设计点
- 一个 NPC 一个 Agent 实例:人格由系统提示词定义,位置/忙闲由后端状态管理器定义,两者解耦。
- 记忆分层:WorkingMemory 管对话连贯,EpisodicMemory 管长期"回忆",语义检索 top_k=3 是实测折中。
- 成本核心手法:背景 NPC 的闲话合并为 1 次 LLM 调用(JSON 数组输出),玩家对话才走专属 Agent。
- 前后端边界切干净:Godot 只管感知与表现,所有"智能"都在后端。
踩坑与注意事项
Datawhale easy-vibe Stage 2:按 PRD 用 Vibe Coding 交付一个"能干活"的旅游规划 Agent 平台
原始资料
教程讲了什么
项目要求围绕一份真实 PRD 构建智能旅游规划 Agent 平台:用户输入出发地、目的地、日期、预算和偏好,系统生成每日行程,支持预算拆分、历史保存、再次生成与导出,并含管理后台。文章的核心命题是:如何让 AI 生成结构化、可执行的行程规划,而不是一大段不可操作的长文本。
为什么值得收藏
大量 Vibe Coding 教程停在"让 AI 写个页面",这篇讲的是产品化:PRD 驱动、结构化输出约束、任务管理、失败任务监控——正是"演示玩具"与"可用工具"的分水岭。
完整 Workflow
踩坑与注意事项
📈 今日 AI 实战技术观察
① Agent 的"闭环化"成为共同语法。Datawhale 把 RAG 升级为"规划—检索—评估—改写"的循环;智谱用"目标—Agent—实验环境"的反馈闭环优化自家推理引擎;Hello-Agents 用"情感打分→好感度→回写提示词"让 NPC 记住玩家。中文实战内容几乎不再教"一次性调用",全部在教循环——这标志 Agent 教学从 Prompt 时代进入控制回路时代。
② MCP 彻底从概念变成默认插座。Qwen-Agent 挂 filesystem server 是 20 行配置的事,llm-agents-from-scratch 把 MCP 列为必修课。教学焦点已从"什么是 MCP"转向"挂什么、怎么挂、边界在哪"。
③ 国产模型成为教学默认底座。海外开源教材默认 Qwen3:14B 本地跑,海外个人 Agent 框架原生支持 GLM/Kimi/MiniMax,智谱用自家模型优化自家 infra。"用国产模型复现"从替代方案变成了第一方案。
④ 教程的终点从 Demo 变成产品。easy-vibe 强调 PRD、失败任务监控和业务闭环;Hermes 强调常驻、记忆和技能沉淀。Datawhale 系(All-in-RAG / Hello-Agents / happy-llm / easy-vibe)已形成原理→实战→产品的完整中文学习矩阵。
🔍 数据来源与真实性说明
本期收录原则执行记录
- 日报日期为 2026-09-28(执行日前一天);优先收录过去 24 小时发布/更新的内容,少数近一周内的高价值内容已用黄色日期标签如实标注(案例 07、08),未包装成"昨日新教程"。
- 检索过程中出现大量 SEO 内容农场站点,已全部剔除,仅保留可追溯到一手作者/官方仓库/官方文档的内容。
- 案例 02 的"3 倍吞吐 / 两周上线"为智谱官方自述,案例 07 的"成本降至 1/3"为笔记作者自述——均已标注"无法独立验证"。
- 本期 8 篇即止,未为凑数降低标准。