本文博采众家之言,与诸位分享百度、谷歌、360、搜狗等搜索引擎蜘蛛的IP段。作为一个SEOER,网站日志应该很清楚,也同时知道他代表的是什么。对于一些常见的比如:GET之类的,应该大家都很清楚,但是对于一些其他的呢?今天就来说一下GET及HEAD的不同之处!当然了包括江湖中传言的降权蜘蛛、沙盒蜘蛛、高权重蜘蛛等,不一而足,搜索引擎的蜘蛛是有分布式抓取策略的。但各位不要因果倒置,是先有什么样的网站,后有什么样的蜘蛛。iseoer将持续更新本文,留取精华,弃舍糟粕。

  常见的HTTP/1.1请求方法种类:

  GET: 请求指定的页面信息,并返回实体主体。

  HEAD: 只请求页面的首部。

  POST: 请求服务器接受所指定的文档作为对所标识的URI的新的从属实体。

  PUT: 从客户端向服务器传送的数据取代指定的文档的内容。

  DELETE: 请求服务器删除指定的页面。(PS.这个假如配合虚拟外链让百度蜘蛛识别,假如 …… DELETE / ……。那将是什么效果你们懂的!)

  OPTIONS: 允许客户端查看服务器的性能。

  TRACE: 请求服务器在响应中的实体主体部分返回所得到的内容。

  PATCH: 实体中包含一个表,表中说明与该URI所表示的原内容的区别。

  MOVE: 请求服务器将指定的页面移至另一个网络地址。

  COPY: 请求服务器将指定的页面拷贝至另一个网络地址。

  LINK: 请求服务器建立链接关系。

  UNLINK: 断开链接关系。

  WRAPPED: 允许客户端发送经过封装的请求。

  Extension-mothed:在不改动协议的前提下,可增加另外的方法。

  GET这个大家应该都知道,获取页面,或者说直白点就是抓取页面。ISEOer也是在看网站日志中发现了下面那样一条:

  110.76.38.189 – – [28/Jan/2013:00:25:57 +0800] “HEAD /bbs.php HTTP/1.1″ 404 – “-” “LWP::Simple/5.805″

  这一条,HTTP/1.1请求的是什么?“HEAD”?好吧,确实是HEAD,也许看起来一些不太熟悉网站日志的站长都会很诧异,其实也不难理解,请求页面首部。或者说一般的命名的head这一部分吧。当然我这个是返回到额404,这个只是做一个普通的理解即可。后面的”LWP::Simple/5.805″你就直接理解为一个函数或者说是一个工具吧,这个就相当于某一个人写了一个工具来查询一下当前站点的头部返回结果,要是有301的话,他就会返回301,得到结果之后返回200,没有结果那么就是当前的404。了解了这些区别还是远远不够的,作为SEOer还要能辨别不同的搜索引擎蜘蛛的喜好,下面简单给大家列一些常见的ip段:

  知识拓展:百度和谷歌搜索引擎蜘蛛IP地址段大全

  百度搜索引擎蜘蛛IP地址段大全

  220.181.108.75~220.181.108.123(百度蜘蛛电信段IP)

  123.125.71.12~123.125.71.117(百度蜘蛛联通段IP)

  220.181.107.*

  220.181.38.177

  220.181.19.*

  159.226.50.*

  202.108.11.*

  202.108.22.*

  202.108.23.*

  202.108.249.*

  202.108.250.*

  61.135.145.*

  61.135.146.*

  百度蜘蛛IP段解析:

  123.125.68.*这个蜘蛛经常来,别的来的少,表示网站可能要进入沙盒了,或被者降权。

  220.181.68.*每天这个IP 段只增不减很有可能进沙盒或K站。

  220.181.7.*、123.125.66.* 代表百度蜘蛛IP造访,准备抓取你东西。

  121.14.89.*这个ip段作为度过新站考察期。

  203.208.60.*这个ip段出现在新站及站点有不正常现象后。

  210.72.225.*这个ip段不间断巡逻各站。

  125.90.88.* 广东电信也属于百度蜘蛛IP 主要造成成分,是新上线站较多,还有使用过站长工具,或SEO综合检测造成的。

  220.181.108.95这个是百度抓取首页的专用IP,如是220.181.108段的话,基本来说你的网站会天天隔夜快照,绝对错不了的,我保证。

  220.181.108.92 同上98%抓取首页,可能还会抓取其他 (不是指内页)220.181段属于权重IP段此段爬过的文章或首页基本24小时放出来。

  123.125.71.106 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  220.181.108.91属于综合的,主要抓取首页和内页或其他,属于权重IP 段,爬过的文章或首页基本24小时放出来。

  220.181.108.75重点抓取更新文章的内页达到90%,8%抓取首页,2%其他。权重IP 段,爬过的文章或首页基本24小时放出来。

  220.181.108.86专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  123.125.71.95 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  123.125.71.97 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  220.181.108.89专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.94专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.97专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.80专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.77 专用抓首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  123.125.71.117 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  220.181.108.83专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  注:以上IP尾数还有很多,123.125.71.*段IP代表抓取内页收录的权重比较低。可能由于你采集文章或拼文章暂时被收录但不放出来。(意思也就是说待定)。

  220.181.108.*段IP主要是抓取首页占80%,内页占30%,这此爬过的文章或首页,绝对24小时内放出来和隔夜快照的,这点我可以保证!

  一般成功抓取返回代码都是 200 0 0返回304 0 0代表网站没更新,蜘蛛来过,如果是 200 0 64别担心这不是K站,可能是网站是动态的,所以返回就是这个代码。

  Google搜索引擎蜘蛛IP地址大全

  216.239.33.*

  216.239.35.*

  216.239.37.*

  216.239.39.*

  216.239.51.*

  216.239.53.*

  216.239.55.*

  216.239.57.*

  216.239.59.*

  64.233.161.*

  64.233.189.*

  66.102.11.*

  66.102.7.*

  66.102.9.*

  66.249.64.*

  66.249.65.*

  66.249.66.*

  66.249.71.*

  66.249.72.*

  72.14.207.*

  谷歌蜘蛛IP段解析

  202.101.43.*、222.73.247.*、66.249.65.* 这三个ip段是最为常规出现的

  66.249.16.*出现的站点均为新站或站点出现无法访问情况后再次出现的ip段

  210.72.225.*这个ip段不间断巡逻各站

 

  203.208.60.*这个ip段出现在新站及站点有不正常现象后

    版权声明:

     本网站的所有文字、图片资料,【未注明转载的】均由作者亲自整理创作,任何媒体、网站或个人未经本人同意和授权不得复制、转载、转贴或以其他方式复制发布/发表,请尊重我的劳动成果,侵权必究,谢谢。

阿沐
1625139774@qq.com

发表评论

电子邮件地址不会被公开。 必填项已用*标注