蓝天算法针对的是页面靠大量低质采集、拼凑内容获取流量的情况。资源有限时,先处理“已经被算法识别为低质聚合”的栏目和页面,而不是先改全站模板或重写所有文章。判断顺序可以概括为:先收缩低质入口,再处理重复内容,最后才做原创补充。
假设某站点有三个内容栏目:A栏目每天自动抓取外部文章,只改标题;B栏目是编辑整理的行业问答,但同一问题有多个版本;C栏目是原创教程,更新慢但访问稳定。站内可投入的人力只有一人、每周约十小时。此时不应平均分配,而应先把A栏目下线或改为只保留经过人工筛选的少量页面,再合并B栏目重复问答,最后把剩余时间投入到C栏目。
原因是蓝天算法主要打击的是靠采集和拼接获取搜索流量的模式。A栏目如果满足“批量抓取、标题改写、正文与来源高度相似”,就属于优先处理对象。B栏目虽然也有重复,但若内容经过整理,处理优先级低于A。C栏目不是当前问题的主要来源,不应在资源紧张时先重写它。
可以用两个维度判断:一是页面是否明显符合低质聚合特征,二是处理它需要多少人力。优先处理“风险高、成本低”的项目。
常见错误是先改全站标题模板、先提交大量URL,或先写新文章。这些动作不能替代对低质页面的收缩。如果低质页面仍在被抓取和索引,新增原创内容很难改变整体判断。
面对低质聚合页面,通常有两种方案:直接删除或设置noindex,以及先合并再保留。选择哪一种,取决于页面是否还有独立价值。
判断结果要看两个检查项:页面是否提供来源之外的信息,以及它是否满足同一搜索需求。两个答案都是“否”,就归入优先处理;有一个是“是”,可以先合并观察。
处理完成后,不要只看后台删除数量。需要核对:低质页面是否已返回404或301;设置noindex的页面是否仍出现在搜索结果中;站内是否还有指向这些页面的内部链接。可以用site:查询做抽样检查,也可以在日志中观察这些URL是否还被频繁抓取。
如果一段时间后抓取量下降、重复页面减少,说明收缩动作生效。如果低质页面仍被大量抓取,先检查内部链接和站点地图是否还在推送它们。这里要区分“可能原因”和“已经定位的原因”:抓取未下降可能是链接未清理,也可能是外部链接仍指向旧页面,需要逐项核对,不能直接断定算法仍在惩罚。
先列出一份页面清单,按“采集比例高、重复度高、有独立价值低”三项打分,从最高分开始处理。每周只处理一个栏目或一组同主题页面,处理完再检查抓取和索引变化,不要同时改动全站结构。