死链检测方法:改版或迁移时应核对什么,两种处理方案怎么选

📍 WDQWDWQD987AAAAA:216.73.216.110
📱 Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)
🔗 /46de0292b07d.html
📄

死链检测方法:改版或迁移时应核对什么,两种处理方案怎么选

改版或迁移时,死链检测方法要核对的核心是:旧URL是否还能被访问、返回什么状态码、是否被其他页面或外部链接指向、以及这些URL最终该保留、重定向还是返回404。处理方案只有两类:能一一对应的旧URL用301重定向;没有对应新页面的旧URL要么保留一个有效页面,要么让它返回404或410。判断依据不是“旧URL多不多”,而是它是否还有可承接的流量入口和等价内容。

清单第一项:抓取全量旧URL,拿到真实状态码

要查的是旧站所有可访问过的URL,而不是只查导航里能点到的页面。可以从三处汇总:旧站XML站点地图、服务器访问日志、以及站内链接爬取结果。用爬虫工具或命令行请求每个URL,记录HTTP状态码和最终跳转地址。

清单第二项:确认哪些旧URL有外部链接和流量

要查的是每个旧URL是否被其他站点链接、是否在访问日志中有持续请求。这一步决定重定向的优先级。

清单第三项:检查重定向目标是否等价、是否形成链条

要查的是每条301的目标页面是否与旧页面主题一致,以及是否出现多级跳转或循环。

清单第四项:核对robots.txt、站点地图与404页面的配合

要查的是迁移后robots.txt是否误屏蔽了新路径,站点地图是否只包含可访问的URL,404页面是否给出返回入口。

两种处理方案怎么选

方案一:逐条301重定向。适用条件是旧URL与新URL存在一一对应或主题等价关系,且旧URL有外部链接或流量。执行后要复查跳转链、目标状态码和落地页内容是否匹配。

方案二:批量返回404或410,仅对高价值URL做重定向。适用条件是旧内容已整体下线、新旧结构无法对应,或旧URL数量极大而绝大多数没有链接和流量。执行后要确认404页面可用、站点地图已移除失效URL、服务器不再对旧路径返回200空页面。

选择依据可以归结为三点:旧URL是否还有外部链接;新站是否有等价内容承接;重定向后用户看到的是否是同一主题。三项都满足时用方案一,多数不满足时用方案二并对少数高价值URL单独处理。

下一步:先导出旧站URL全量清单,标注每一条的状态码、外链数和日志请求量,再按上面的三项依据逐条决定重定向还是返回404,最后用爬虫复查一遍跳转链和最终状态码。

图1 图2

nginx