先给结论:不要按“已发现”和“未发现”直接分组,因为发现与否同时受内链、站点地图、抓取预算和外部链接影响。更可靠的做法是先把待迁移的旧URL按“迁移后是否保留同等价值”分成保留组、改写组和退出组,再在每组内部用可观测特征配对,最后只比较同组内被处理方式不同的页面。这样,发现率差异才有解释力,而不是把抓取波动误判成301重定向本身的效果。
批量301重定向上线后,一部分旧URL被目标搜索引擎发现并跟随,另一部分没有。这个结果本身不能证明重定向写错,也不能证明没被发现的页面不重要。常见合理解释包括:旧URL只存在于已下线的导航或合作方页面,内链早已消失;站点地图更新滞后,提交后未及时重新抓取;robots.txt 限制了抓取路径,但抓取限制不等于可靠的索引移除,也不代表页面一定不会被其他信号发现;外部链接集中在少数旧栏目,其余页面几乎没有入口。因此,未发现组里混着“本来就不该被发现”和“应该被发现却没被发现”两类页面,直接对比会失真。
可执行动作:先不要改重定向规则,而是导出全部旧URL,给每个URL标注最近一次内链来源、是否仍在站点地图、是否有外部链接、原页面类型。做完这步再决定分组,否则后续所有比较都建立在混合样本上。
旧内容、旧系统或旧合作关系退出时,不是所有页面都值得同等对待。先做价值判断,再谈技术处理:
这三组不是按发现率划分,而是按业务价值和承接可能性划分。划分完成后,再在组内观察发现情况,才能判断301重定向是否按预期被处理。
假设有1200个旧URL待迁移,其中保留组400个、改写组300个、退出组500个。不要拿“已发现的200个”和“未发现的1000个”对比。正确做法是在每个组内部,按以下特征做配对:
配对后,只比较同一层内“已301到承接页”和“尚未处理”的页面。如果同一层内发现率接近,说明差异主要来自入口和声明方式;如果同一层内已301页面明显更容易被跟随,才值得进一步检查重定向链、目标页状态和响应时间。
短例子(假设):保留组内,内链为0且不在站点地图的80个旧URL,无论是否已设置301,发现率都很低;而内链为4以上且仍在站点地图的60个旧URL,设置301后大多数被跟随。此时优先动作不是批量加301,而是给第一类页面补入口或确认它们是否本就该退出。这个动作的结果会决定下一步:补入口后仍无发现,才考虑退出;补入口后有发现,则继续观察承接页表现。
如果某个子组在被发现数量上接近归零,不要立刻判定301重定向失败。至少核查以下替代解释:目标搜索引擎是否尚未重新抓取该路径;站点地图是否仍指向旧URL;robots.txt 是否限制了抓取,但要记住抓取限制不等于可靠的索引移除;服务器是否对旧路径返回了非预期状态;外部链接是否集中在另一个子组。请求量、抓取量或某项统计归零不能单独证明处理正确,它可能只是抓取周期未到或入口被切断。
可执行动作:对归零子组先做一次小范围入口恢复,例如从仍被频繁访问的页面添加指向旧URL的链接,或把旧URL重新放入站点地图,观察后续抓取是否恢复。若恢复,说明问题在发现路径;若不恢复,再检查301响应链和目标页可访问性。下一步的取舍应基于这个结果,而不是基于全站总量。
对照组的最终用途是支持取舍,不是产出一张漂亮报表。若保留组内配对后确认301页面能被正常跟随,且承接页与原主题一致,就继续保留并逐步清理旧内链;若改写组内发现率低且补入口无效,就把这些页面移入退出组,避免把抓取预算耗在无承接价值的旧URL上;若退出组内出现意外外部链接或用户任务依赖,就暂停退出,先补一个说明页或最小承接页。
整个过程中,301重定向只是处理手段之一。它不能替代价值判断,也不能保证收录或排名。真正决定下一步的是:同一价值层内,处理方式不同的页面是否出现了可解释的发现差异。没有这个前提,分组再细也只是把噪声换了个名字。