改版或迁移时,死链检测方法要核对的核心是:旧URL是否还能被访问、返回什么状态码、是否被其他页面或外部链接指向、以及这些URL最终该保留、重定向还是返回404。处理方案只有两类:能一一对应的旧URL用301重定向;没有对应新页面的旧URL要么保留一个有效页面,要么让它返回404或410。判断依据不是“旧URL多不多”,而是它是否还有可承接的流量入口和等价内容。
要查的是旧站所有可访问过的URL,而不是只查导航里能点到的页面。可以从三处汇总:旧站XML站点地图、服务器访问日志、以及站内链接爬取结果。用爬虫工具或命令行请求每个URL,记录HTTP状态码和最终跳转地址。
要查的是每个旧URL是否被其他站点链接、是否在访问日志中有持续请求。这一步决定重定向的优先级。
要查的是每条301的目标页面是否与旧页面主题一致,以及是否出现多级跳转或循环。
/old-service 已无对应页面,新站有 /new-service,应配置 /old-service 直接301到 /new-service,而不是先跳到栏目页再跳一次。要查的是迁移后robots.txt是否误屏蔽了新路径,站点地图是否只包含可访问的URL,404页面是否给出返回入口。
/robots.txt 看Disallow规则是否覆盖了新目录;打开站点地图,抽查其中URL的状态码;随机访问一个不存在的地址,看404页面是否有导航和搜索入口。方案一:逐条301重定向。适用条件是旧URL与新URL存在一一对应或主题等价关系,且旧URL有外部链接或流量。执行后要复查跳转链、目标状态码和落地页内容是否匹配。
方案二:批量返回404或410,仅对高价值URL做重定向。适用条件是旧内容已整体下线、新旧结构无法对应,或旧URL数量极大而绝大多数没有链接和流量。执行后要确认404页面可用、站点地图已移除失效URL、服务器不再对旧路径返回200空页面。
选择依据可以归结为三点:旧URL是否还有外部链接;新站是否有等价内容承接;重定向后用户看到的是否是同一主题。三项都满足时用方案一,多数不满足时用方案二并对少数高价值URL单独处理。
下一步:先导出旧站URL全量清单,标注每一条的状态码、外链数和日志请求量,再按上面的三项依据逐条决定重定向还是返回404,最后用爬虫复查一遍跳转链和最终状态码。