知识库

新手一定要知道哪些会影响百度抓取量

来源: 本站    类别: 知识库    日期: 2017/10/9

 

  百度爬虫抓取量是多少?就是百度爬虫对站点一天抓取网页的数目,从百度内部泄漏来说,普通会抓两种网页,其中一个是这个站点发布新的网页,普通中小型站一天时间就能够完成,大型网站可能完成不了,另一种是百度从前抓过的网页,它是需求更新的,比如一个站点曾经被百度收录了5w,那么百度会给出一个时间段,比如30天,然后平均一下,每天到这个站点上面抓5W/30的如许一个数字,但是详细的量,百度有自己的一套算法公式来盘算。

  那么影响百度抓取量的因素有那些?

  1.站点安全

  关于中小型站点,在安全技能上比较薄弱,被黑被窜改的情况十分多见,普通被黑有多见几种状况,一种是主域被黑,一种是标题被窜改,另有一种是在页面里面加 了好多的外链。普通主域被黑便是被劫持,便是主域被进行301的跳转到指定的网站,而假如在百度那里发明跳转后的是一些非常垃圾站,那么你这个站点抓取量会降低。

 

 

  2.内容质量

  假如抓取了10万条,而只要100条建库了,那么抓取量还会降下来,由于百度会以抓取的网页比例很低,那么就没必要去抓取更多,因而要"宁缺毋滥",特殊要留意在建站的时候肯定要留意质量,不要采集一些内容,这是一种潜伏的隐患。

  3.站点呼应速率

  ①网页的大小会影响抓取,百度发起网页的大小在1M以内,固然相似大的流量网站,如新浪另说。

  ②代码质量、机器的功能及带宽等。

  4.同ip上面主域的数目

  百度抓取都是按照ip进行去抓取的,比如在一个ip上一天抓取了1000w个页面,而在这个站点上有40W的站点,那么平均下来抓取每个站点的数目会分的很少,因而在选择服务商的时候,要看一看同ip上面有没有大站,假如有大站的话,可能会被分得的抓取量会很少由于流量都跑大站上面去了。


相关文章


Copyright © 2004 - 2024 CNHWW Inc. All Rights Reserved
石家庄市征红网络科技有限公司版权所有 邮政编码:050051
服务电话:0311-85315152 13931185013 在线客服QQ:81447932 / 81447933 邮箱: cnhww@163.com