一句话:URL 到 AI 答案之间有四个条件,它们严格有序,每一个都会让它后面的全部失效——所以体检和修复都要按顺序,不要并行。
第一闸 —— 取得到
每个点名的代理都能取到页面吗?不是「robots.txt 允许吗」——用每个 User-Agent 各请求一次,比对状态码和返回的字节数。
有两类故障是 robots.txt 查看器永远看不到的:按 User-Agent 拦截的 CDN 规则与 WAF,以及与边缘声明不一致的源站规则。一个站点完全可能 robots.txt 写得极其宽容,同时对每个点名的 AI 代理返回 403。
这一闸上的第二类故障是概念性的:「取不到」和「页面不存在」不是一回事。任何在「取不到」的时候报告「不存在」的工具,都会把你送去优化一个本来就没问题的内容。
第二闸 —— 读得懂
不执行 JavaScript 时,实质内容在 HTML 里吗?多数 AI 爬虫不执行 JS。在现代前端技术栈上,这一闸失败的频率高于其它任何一闸,而且它在浏览器里完全看不见,因为你的浏览器会执行 JS。
按纯 HTML 取一次,读返回的东西。如果 body 是一个带加载态的空壳,那就是模型看到的你的页面的全部。
第三闸 —— 抽得出
能抽出一个自洽的答案吗?找一个对应真实问题的标题,脱离上下文读它下面的头两句,问自己它们是不是一个完整、正确、点明了主语的答案。然后查结构陷阱:藏在折叠块或标签页里的内容、被拆在表格和脚注之间的事实、以及在竞品写出数字的地方打太极。
第四闸 —— 有印证
这条论断在你不拥有的地方出现过吗?这是唯一一道没法从自己代码库里修的闸,也是最慢的一道。把你希望别人替你重复的论断列出来,对每一条找一个不是自有域名的来源。找不到的地方就是要干的活。
顺序,以及为什么它这么要紧
| 闸 | 检测成本 | 修复成本 | 它一关,什么失效 |
|---|---|---|---|
| 一 取得到 | 几分钟 | 几小时 | 全部 |
| 二 读得懂 | 几分钟 | 几天到几周 | 第三、四闸 |
| 三 抽得出 | 几小时 | 几周 | 第四闸的效果 |
| 四 有印证 | 几小时 | 几个月 | — |
成本的不对称就是全部理由。一、二闸检测只要几分钟且不能跳过;第四闸是几个月的工作,而在第一闸关着的时候它产出为零。
每次碰路由或边缘的部署之后重测
这些闸是悄无声息关上的。为防爬虫加的一条 CDN 规则、一次把渲染搬到客户端的框架升级、一次把规范 URL 变成跳转的路由改动——没有哪一个会产生任何人看得见的错误。把这四项检查放进部署之后跑的那个流程里。