要区分访问抓取与索引结果,最直接的方法是看百度搜索资源平台里“抓取诊断”与“索引量”两类数据的差异:抓取诊断成功只说明百度蜘蛛能够请求并拿到页面内容,索引量或 site 查询出现该页面,才说明它进入了百度可检索的候选库。时间有限时,先查“已抓取但未索引”的页面,再处理“未被抓取”的页面,因为前者更接近可被搜索展现的状态。
访问抓取指百度蜘蛛向服务器发出请求并获取 HTML 或资源文件;索引指百度把抓取到的内容分析、去重、质量判断后,存入可供检索的数据库;排名展现则是用户搜索时是否被调出。三者不是一回事。抓取成功不等于被索引,被索引也不等于有排名。你需要分别用不同入口核对,不能只看一个数字。
https://你的域名/robots.txt,确认目标路径没有被 Disallow 挡住。结果说明:被 robots 屏蔽会导致无法抓取,但 robots.txt 的抓取限制不等于可靠的索引移除,页面仍可能因外链等原因出现在索引中,所以它不能当作删除工具。site:你的域名/具体路径 做粗查,并在搜索资源平台的索引量或页面收录相关报告中核对趋势。结果说明:site 查询只作参考,可能不完整;平台报告更接近站点级判断。若抓取正常但长期无索引记录,重点转向内容质量与重复问题。<link rel="canonical"> 是否指向自身或正确版本,检查是否有参数页、打印页、分页重复。结果说明:canonical 指向错误会让百度把权重和索引归到别的 URL,表现为“抓取了 A,索引里却是 B”。如果抓取诊断失败,先修访问层,不要急着改内容;如果抓取成功但索引量不涨,先查 canonical、重复内容和页面是否只有模板文字;如果索引里有页面但搜索不到排名,那是展现与排序问题,不属于本篇的抓取与索引区分范围。时间和人手有限时,按“抓取失败 → 索引异常 → 展现异常”的顺序处理,能最快减少无效改动。
假设某产品页在抓取诊断中返回 200,但 site: 查不到,同时 sitemap 已提交。此时可以判断:访问抓取大概率正常,问题更可能在索引环节。下一步不是反复提交 sitemap,而是检查该页是否与站内其他页高度重复、正文是否过少、canonical 是否指向了列表页。若检查后发现 canonical 指向错误,修正后再观察索引记录变化。这个例子是假设,用于说明判断路径,不代表真实项目结果。
先选 5 个有代表性的 URL,按上面的清单逐项记录“抓取结果、robots 状态、索引查询结果、canonical 指向”,形成一张对照表。哪一列先出现异常,就从那一列对应的环节开始修。