剖析百度蜘蛛抓取频次数量暴增与不收录网站页面的原因

Spider对网站抓取数量突增往往给站点带来很大懊恼，纷纭找平台想要BaiduspiderIP白名单，但实际上BaiduSpiderIP会随时变化，所以并不敢颁布出来，担忧站长设置不及时影响抓取后果。百度是怎么计算分配抓取频次数量的呢？站点抓取频次数量暴增的原因有哪些呢？

总体来说，Baiduspider会依据站点规模、历史上网站每天新产出的链接数量、已抓取网页的综合质量打分等等，来综合计算抓取频次数量，同时统筹站长在抓取频次工具里设置的、网站可蒙受的抓取值。

从目前追查过的抓取频次数量突增的case中，原因可以分为以下几种：

1、Baiduspider发明站内JS代码较多，调用大批资源针对JS代码进行解析抓取

2、百度其他部门（如商业、图片等）的spider在抓取，但频次数量没有节制好，sorry

3、已抓取的链接，打分不够好，垃圾过多，导致spider重新抓取

4、站点被攻击，有人仿冒百度爬虫

如果站长排除了自身问题、仿冒问题，确认BaiduSpider抓取频次数量过大的话，可以通过反馈中心来反馈，切记必定要提供详细的抓取日志截图。

百度不收录页面的原因剖析

目前百度spider抓取新链接的道路有两个，一是自动出击发明抓取，二就是从百度站长平台的链接提交工具中获取数据，其中通过自动推送功效“收”上来的数据受百度spider的欢迎。对于站长来说，如果链接很长时光不被收录，建议尝试使用自动推送功效，尤其是新网站，自动推送首页数据，有利于内页数据的抓取。

那么同窗们要问了，为什么我提交了数据还是迟迟在线上看不到展示呢？那涉及的因素可就多了，在spider抓取这个环节，影响线上展示的因素有：

1、网站封禁：你别笑，真的有同窗一边封禁着百度蜘蛛，一边向百度狂交数据，成果当然是无法收录。

2、质量筛选：百度蜘蛛spider3.0对低质内容的辨认上了一个新台阶，尤其是时效性内容，从抓取这个环节就开端进行质量评估筛选，过滤掉大批过度优化等页面，从内部定期数据评估看，低质网页比之前降落62%。

3、抓取失败：抓取失败的原因很多，有时你在办公室拜访完整没有问题，百度spider却遇到麻烦，站点要随时注意在不同时光地点保证网站的稳固性。

4、配额限制：虽然我们正在逐步放开自动推送的抓取配额，但如果站点页面数量突然爆发式增长，还是会影响到高质链接的抓取收录，所以站点在保证拜访稳固外，也要关注网站安全，防止被黑注入。