准备收录批量查询之前,最需要先准备的不是工具账号,而是一份边界清楚的URL清单,以及每条URL对应的目标搜索引擎、页面类型和期望状态。常见误解是“把网址凑成一大串就能一次查完”,但批量查询的结果是否可用,取决于你输入的是可核对的具体页面,而不是站点地图或栏目页。若清单里混入参数页、重定向页和已删除页,后续判断会把“未收录”和“不该收录”混为一谈。
批量查询的最小单位应是完整URL,包含协议、主机名、路径和必要参数。只给域名,无法判断某个具体页面是否进入索引;只给栏目页,也无法代表栏目下每篇文章。准备时建议用表格记录四列:完整URL、页面类型(文章、产品、标签、分页)、首次发布时间、希望被哪个搜索引擎收录。若同一内容有多个URL变体,例如带与不带末尾斜杠、http与https、带与不带跟踪参数,应先把它们归组,指定一个规范版本再查询。否则结果会出现“同一页面有的收录有的没收录”,其实是URL变体在互相干扰。
批量查询前要明确你想知道的是“页面是否已进入索引”,还是“搜索引擎是否来抓取过”。两者不是一回事。一个URL可能被抓取但未收录,也可能被收录但近期未重新抓取。特别要注意:robots.txt 的抓取限制不等于可靠的索引移除。如果页面已被收录,后来用 robots.txt 禁止抓取,搜索引擎仍可能保留旧索引一段时间,且因为无法抓取,反而看不到页面上的 noindex 指令。因此准备信息时,应同时记录该URL当前返回的状态码、是否有 noindex、是否被 robots.txt 阻止,以及是否出现在站点地图中。站点地图只帮助发现URL,站点地图不保证收录,它不能替代索引状态查询。
时间和人手有限时,不要把所有URL混在一起查。可以按下面的顺序分批,每批只处理一种页面类型:
短例子(假设):某站点有200篇文章,其中30篇是标签聚合页。若把200个URL一起批量查询,标签页大量未收录会拉低整体判断。正确做法是先把30个标签页单独分组,确认它们是否本来就无需收录,再查170篇文章页。这样得到的未收录比例才对应真实问题。
批量查询结果需要能复查,因此准备信息时应记录查询日期、使用的搜索引擎、查询方式(网页搜索、站长平台或第三方接口)、以及查询时URL返回的状态码。不同搜索引擎支持情况须分别核查;网页搜索结果、站长平台数据和第三方工具的口径也可能不同。若使用HTTPS,也不要把它当成收录或安全的保证:HTTPS 不保证安全无漏洞或排名,它只是传输层的一项条件。把“协议”“状态码”“索引状态”“抓取状态”分开记录,后续才能判断是技术阻碍、内容质量还是重复URL导致的问题。
如果现在就要开始,先建一张只有六列的表格:完整URL、页面类型、目标搜索引擎、HTTP状态码、是否被robots.txt阻止、索引状态。填完前两列再开始批量查询,不要先查后补。对时间有限的团队,优先填核心内容页,标签页和分页可暂缓。填完后,把“未收录且返回200且未被阻止”的URL单独列出,这才是需要进一步处理的第一批对象。