- 据 Surfer 2026 趋势报告,Cloudflare Markdown for Agents 可将博客页从 16,180 HTML tokens 压缩至 3,150 Markdown tokens,降幅约 80%。
- WebMCP 让网站以结构化工具的形式向浏览器内智能体暴露能力,单次交互开销可从截图解析的 2,000+ tokens 降至 20-100 tokens。
- 两项技术均处于早期阶段,应以官方规范为准、渐进部署,并保持对人类访客与搜索爬虫的内容一致性。
一、背景:AI 智能体正在成为网站的“新访客”
过去,网站的主要访客是人类与搜索引擎爬虫。2026 年起,越来越多的访问来自代替用户执行任务的 AI 智能体:它们帮用户比价、查询库存、预订服务,甚至完成结账。智能体读取网页的方式与人类完全不同,它们关心的是结构化信息和可调用的动作,而不是视觉排版。
智能体最初只能通过截图或解析完整 HTML 来理解页面,成本高、出错多。据 Surfer 2026 趋势报告,截图解析方式的单次交互开销通常在 2,000 tokens 以上。成本问题直接决定了智能体会优先选择哪些网站:越容易被理解的网站,越可能被纳入任务流程。
二、Cloudflare Markdown for Agents:用内容协商降低 80% Token
Markdown for Agents 的原理是 HTTP 内容协商:当请求头声明 `Accept: text/markdown` 时,边缘节点返回去除导航、脚本与样式后的 Markdown 正文;普通浏览器仍获得完整 HTML。据 Surfer 报告引用的数据,一篇博客从 16,180 HTML tokens 降至 3,150 Markdown tokens,电商页面最高可削减约 95% 的冗余 tokens。
需要注意的是,Markdown 版本必须与 HTML 版本在事实层面保持一致。向不同访客提供实质不同的内容会违背搜索引擎关于隐藏内容的规范,正确做法是“同一内容、不同格式”。
| 访问方式 | 单次 Token 开销 | 降幅 | 数据来源 |
|---|---|---|---|
| 博客页完整 HTML | 16,180 tokens | 基准 | Surfer 2026 / Cloudflare |
| 博客页边缘 Markdown | 3,150 tokens | 约 -80.5% | Surfer 2026 / Cloudflare |
| 电商页边缘 Markdown | 最高削减 95% | 最高 -95% | Surfer 2026 |
| 截图解析式交互 | 2,000+ tokens | 基准 | Surfer 2026 |
| WebMCP 结构化工具调用 | 20-100 tokens | 约 -89% | Surfer 2026 |
三、WebMCP:让网站主动向智能体“递工具”
WebMCP(Web Model Context Protocol)是由 Google 与 Microsoft 推进的浏览器侧协议,Chrome 146 已于 2026 年 2 月提供预览支持。网站可以通过 `navigator.modelContext` 注册若干工具,例如“查询商品规格”“检查库存”“计算运费”,浏览器内的智能体直接调用这些工具获得结构化结果,而无需模拟点击。
配合面向交易流程的 ACP(Agentic Commerce Protocol),智能体可以在用户授权下完成比价与下单。对独立站而言,这意味着竞争维度从“页面是否好看”扩展到“是否能被智能体可靠调用”。由于 WebMCP 仍是预览 API,接口名称与参数可能调整,生产部署应以官方规范为准并做好特性检测。
四、站长现在应该做什么?
短期内,最务实的动作是先保证 AI 爬虫“看得见”:检查 WAF 与 CDN 是否误拦 GPTBot、ClaudeBot、PerplexityBot,确认核心内容不依赖客户端渲染。据 Surfer 报告,`/llms.txt` 目前尚未被主流爬虫实际大规模抓取,建议以服务器日志的真实抓取数据为准,不必盲目跟风。
中期可以在边缘层启用 Markdown 内容协商,并为高价值页面补全 JSON-LD。对于电商与 SaaS 站点,可以选取 2-3 个低风险只读工具(如规格查询、库存查询)试点 WebMCP,观察智能体调用日志后再扩展到加购与结账等写操作。
- 在服务器日志中单独统计主流 AI 爬虫的抓取量与 4xx / 5xx 比例。
- 确认正文内容在禁用 JavaScript 时依然可读。
- 边缘层支持 `Accept: text/markdown`,并保证 Markdown 与 HTML 事实一致。
- WebMCP 先试点只读工具,写操作必须经过用户显式确认。
- 持续关注 Chrome 与 W3C 社区组对 WebMCP 规范的更新。
本文常见问答(FAQ)
向 AI 爬虫返回 Markdown 会被视为隐藏内容吗?
只要 Markdown 与 HTML 在事实与主体内容上保持一致,仅是格式不同,就属于正常的内容协商。若向不同访客展示实质不同的信息,则存在违反搜索引擎规范的风险。
WebMCP 现在可以在生产环境使用吗?
WebMCP 仍处于预览阶段,建议仅在特性检测通过时注册工具,并保留传统交互路径作为兜底。生产部署前应阅读最新官方规范,避免因接口调整导致功能失效。
中小网站是否有必要关注智能体协议?
有必要但无需激进。中小网站可以先完成 AI 爬虫可达性与边缘 Markdown 这类低成本改造,等协议成熟后再通过 siseo Agent Gateway 等工具一键启用 WebMCP。
一键开启边缘 Markdown 与 WebMCP 试点
siseo Agent Gateway 支持 Shopify、WooCommerce 与 WordPress,自动生成边缘 Markdown 规则与 WebMCP 只读工具定义。