做搜索引擎收录查询时,如果发现某个网址该收录却没收录,或收录状态与预期不符,改动页面之前要先保存一份可回溯的原始状态。保存的对象不是整站备份,而是与收录判断直接相关的几类证据:页面当前返回的 HTTP 状态、可被抓取的 HTML 内容、robots 相关响应、以及该网址在收录查询中的当前结果。先记录,再改动,才能在复查时判断变化是改动带来的,还是本来就在波动。
围绕收录查询,至少保存以下四项,缺一项都可能导致后面无法归因:
Content-Type、是否有 X-Robots-Tag、重定向指向。用命令行保存最稳妥,例如 curl -I https://example.com/page,把输出重定向到文件。robots.txt、页面内的 <meta name="robots">。注意 robots.txt 的抓取限制不等于可靠的索引移除,它只影响抓取行为,已收录的网址可能仍留在索引里,所以它必须作为证据保存,而不是当作处理手段。核心原则是保存原始字节,而不是截图或转述。截图无法验证标签是否被注释、状态码是否被中间层改写。
2025-06-01/example.com/page/。curl -sS -D headers.txt -o body.html 网址 一次拿到响应头和正文,分别落盘。robots.txt 和页面里的 robots 元标签单独存一份纯文本,注明抓取时间。如果页面依赖 JavaScript 渲染,还要额外保存渲染后的内容快照,并在记录里注明这是渲染结果,与原始 HTML 区分开。两者不一致时,本身就是一条重要线索。
复查时逐项对比,而不是只看收录结果有没有变。判断顺序建议如下:
noindex,那么未收录是预期结果,不需要继续找其他原因。这里要区分“可能原因”和“已经定位的原因”。收录查询结果变化可能来自抓取延迟、索引更新、页面改动,也可能是查询方式本身不同。只有通过前后两份原始状态对比,排除了状态码和 robots 变化,才能把范围缩小到内容或抓取层面,而不是一开始就断言是某个标签导致的。
保存原始状态时,下面几点经常被忽略,导致记录失去价值:
如果改动涉及多个页面,可以只对出现收录问题的代表性网址做完整记录,其余页面记录状态码和 robots 结论即可,避免记录量过大而难以复查。
下一步:先挑一个当前收录查询结果异常的网址,按上面的目录结构把响应头、原始 HTML、robots 证据和查询结论各存一份,再开始改动。改动完成后用同一套命令重新抓取,逐项对比,把差异写进同一目录的记录里。