如果页面地址带有可无限组合的查询参数,百度收录不会因为参数多就自动判定它们无效。更可行的做法是:先区分哪些参数真正改变页面内容,再为“内容相同但参数不同”的地址定义一个可执行的归并规则,把无限组合收敛成有限的有效地址集合。这个集合不是靠猜,而是靠页面自身可核对的证据建立。
拿你手里的一个页面做测试:打开不带参数的原始地址,再分别只改一个参数值,观察正文、价格、库存、分页位置、排序结果、筛选结果中哪一项发生变化。只有能稳定改变这些可见内容的参数,才值得进入有效地址集合。
这里有一个容易误判的点:参数组合数量很大,并不等于有效地址集合必须很大。真正决定集合大小的是“内容差异数”,而不是“参数排列数”。
假设某列表页有颜色、尺码、排序三个参数,每个参数有若干取值。直觉上组合数会迅速膨胀,但你可以用下面的证据判断哪些组合应被当作同一地址:
排序,看列表条目集合是否完全一致。若只是顺序不同,条目集合一致,则排序参数可归并。颜色,看列表条目是否从全部商品变为某一颜色商品。若条目集合发生实质变化,颜色参数应保留。颜色和尺码,看结果是否等于两个单条件结果的交集。若交集为空或与单条件页面高度重合,则不必为每个组合都保留独立地址。这些判断依赖页面自身输出,不依赖对百度内部规则的猜测。你不需要知道某个参数在百度那里权重多少,只需要知道它在你的站点上是否产生独立内容。
以你手中的页面为对象,执行以下动作,并记录结果如何影响下一步:
做完这一步后,下一步是核对:用抓取工具或日志抽样,看百度实际抓到的地址是否落在你定义的集合内。如果大量抓取仍落在被归并的组合上,说明站内链接或站点地图还在暴露这些地址,需要回到第 5 步修正。
一个常见误区是:用robots.txt屏蔽参数地址,以为这样就能让百度只收录有效地址。抓取限制不等于可靠的索引移除,被屏蔽的地址仍可能因外部链接而被收录,只是抓取行为受到限制。站点地图也不保证收录,它只是提交候选地址,不决定最终索引结果。
正确顺序是:先定义有效地址集合,再让站内链接、规范标签和站点地图都指向这个集合。站点地图只放你希望被收录的规范地址,而不是把所有参数组合都塞进去。若你已经屏蔽了某些参数,需要另行确认这些地址是否仍出现在搜索结果中;如果出现,说明屏蔽没有达到移除效果,应改用规范归并或页面级处理。
假设某站点有 10 个颜色、5 个尺码、3 种排序,理论组合为 150 个。若排序不改变条目集合,颜色和尺码各自改变条目集合,但交叉组合没有独立内容,则有效地址集合可以定义为:默认列表页 1 个、颜色页 10 个、尺码页 5 个,共 16 个。其余组合归并到最接近的规范地址。这个数字仅用于说明比较方法,不代表任何真实站点的收录结果。
执行后,如果抽样发现百度仍在抓取大量交叉组合地址,先检查站内筛选链接是否直接输出了这些组合,而不是先怀疑百度规则。把筛选链接改为指向规范地址后,再观察抓取分布是否变化;若不变,再检查外部链接和站点地图是否仍在提供这些组合。
最终,有效地址集合是一份你能够解释、能够核对、能够从页面内容变化中推导出来的清单,而不是对参数数量的简单限制。