灰度流量里收录表现正常,不代表全量发布后所有页面都正常。灰度通常只覆盖少量入口、少量模板或少量地区,而全量发布会把长尾分类页、筛选参数页、历史商品页和分页序列同时暴露出来。真正被暴露的例外,是灰度样本没覆盖到的页面类型,以及这些页面在抓取预算、链接结构和状态码上的差异。
假设一个网店准备调整分类页的链接结构,先对十分之一的分类启用新路径,观察一段时间后发现抓取和收录没有明显波动,于是决定全量发布。全量之后,却出现部分分类页长期停留在“已发现未抓取”,另一些旧路径页面仍被访问,新路径反而没有获得足够入口。
这类矛盾并不罕见。灰度阶段看到的是被选中的样本,样本往往集中在权重较高、内链较多、更新较频繁的分类上。全量发布后,大量低权重、少内链、更新慢的分类页同时进入新结构,问题才会显现。灰度没有暴露它,是因为灰度本身没有覆盖这些页面。
第一种解释是样本偏差。灰度只选了容易抓取的页面,这些页面本来就能被正常发现和收录,所以灰度结果无法代表全量。此时问题不在发布动作本身,而在于验证范围过窄。判断依据是:灰度组和全量组的页面类型、内链数量、历史抓取频率是否存在系统性差异。如果灰度组几乎都是高权重页面,而全量组包含大量长尾页面,那么灰度结论不能直接外推。
第二种解释是结构变化。新路径改变了页面之间的链接关系,导致一部分页面从可达变为不可达,或者从浅层变为深层。此时问题出在发布动作,而不是样本选择。判断依据是:全量发布后,原本能从分类入口点击到达的页面,是否还需要经过更多跳转才能到达;站点地图中的 URL 是否仍与线上可访问 URL 一致;旧路径是否返回了正确的状态码,而不是继续返回正常内容。
要区分是样本偏差还是结构变化,可以对比灰度前后的页面集合,而不是只看总量。具体动作是:从全量发布后的站点地图、分类入口和商品详情页中,各抽取一批 URL,记录它们的入口深度、内链数量、首次发现时间和最近抓取时间,再与灰度期间的同类页面做对照。
如果全量组中问题页面集中在入口深、内链少、历史抓取频率低的类型,而灰度组中同类页面很少,那么样本偏差的解释更成立。下一步应扩大灰度覆盖范围,把长尾页面类型纳入验证,而不是立刻回退发布。
如果问题页面跨越多种类型,且都能追溯到链接结构变化或状态码异常,那么结构变化的解释更成立。下一步应优先修复可达性和状态码,再观察抓取是否恢复。这里要注意,抓取量下降或某段时间抓取归零,不能单独证明是发布动作导致的,也可能是抓取调度波动、站点整体响应变慢或外部链接变化。需要结合服务端日志和页面状态一起判断。
假设某网店把分类页从 /category?id=123 改为 /c/123,灰度只选了十个高流量分类。灰度期间,这十个页面因为内链多、更新频繁,很快被抓取。全量发布后,运营发现部分低流量分类的新路径没有被抓取,旧路径仍被访问。
此时有两个选择。选择一:保留旧路径并让它返回 301 到新路径,同时更新站点地图和主要入口链接。适用条件是旧路径仍有外部链接或用户访问,且新路径已经可以稳定访问。选择二:直接移除旧路径,只保留新路径。适用条件是旧路径没有外部链接、没有用户收藏,且新路径已经进入主要导航和站点地图。
如果旧路径仍有外部链接,直接移除会让这些链接指向无效地址,进一步降低新路径的发现概率。更稳妥的动作是先做 301,再检查新路径是否出现在分类入口和站点地图中。这个动作的结果会直接影响下一步:如果新路径开始被抓取,说明问题主要在发现路径;如果仍未抓取,则需要检查页面本身是否被 robots.txt 限制、是否返回异常状态码,或者是否因为内容质量原因没有被索引。
要让灰度真正暴露全量发布的例外,灰度样本应包含全量发布中占比最高、但最容易被忽略的页面类型。可以按以下顺序选择:
灰度期间不要只看收录总量,而要记录每类页面的发现时间、抓取时间和状态码。全量发布后,先对比同一类页面的表现,再决定是扩大灰度、修复结构,还是回退发布。站点地图不保证收录,robots.txt 的抓取限制也不等于可靠的索引移除,这两点在全量发布后尤其容易造成误判。
全量发布后,第一步是从服务端日志中抽取新路径和旧路径的访问记录,确认抓取是否发生在目标 URL 上。第二步是检查这些 URL 返回的状态码和内容是否与预期一致。第三步是核对站点地图和主要入口链接是否指向新路径。第四步才是判断是否需要回退。
如果日志显示新路径已被抓取但未收录,问题可能在内容质量或重复页面上,回退链接结构未必有效。如果日志显示新路径从未被抓取,而旧路径仍在被抓取,问题更可能在发现路径上,应优先修复入口和站点地图。如果新旧路径同时被抓取且内容相同,问题在重复内容处理上,应明确规范版本并处理旧路径。
灰度不是全量发布的缩小版,它只是全量发布的一个样本。样本选得不对,灰度正常反而会掩盖全量发布后的例外。把灰度样本扩展到长尾页面类型,并在全量发布后按页面类型对照抓取和状态码,才能判断问题出在样本偏差还是结构变化,进而决定是继续发布、修复结构,还是回退到旧路径。