百度蜘蛛(Baiduspider+)爬行返回代码的含义以及常见的百度蜘蛛IP作用。

向宇峰 发表于 2013-11-23 18:00:39 | 查看: 13225 | 回复: 7

百度蜘蛛(Baiduspider+)爬行返回代码的含义以及常见的百度蜘蛛IP作用。

百度蜘蛛(Baiduspider+)爬行返回代码的含义以及常见的百度蜘蛛IP作用。




拥有自己的博客或网站的人都希望百度能收录自已发表的文章,尤其是对运作网站的站长来说,更是希望百度蜘蛛(Baiduspider)多抓取自己网站的内容,查看服务器日志时我们会发现如200 0 0 17571等代码,这些代码是什么含义你明白吗?
下面,以抓取一家网站的访问日志来作为案例:

Software: Microsoft Internet Information Services 6.0
#Version: 1.0
#Date: 2011-05-28 16:12:15
#Fields: date time s-sitename s-ip cs-method cs-uri-stem cs-uri-query s-port cs-username c-ip cs(User-Agent) sc-status sc-substatus sc-win32-status sc-bytes
2011-05-28 16:31:41 W3SVC854 116.254.252.22 GET /news/1032.html - 80 - 220.181.108.179 Mozilla/5.0+(compatible;+Baiduspider/2.0;++http://www.baidu.com/search/spider.html) 200 0 0 17571

date表示记录访问日期;
time访问时间;
s-sitename表示你的虚拟主机的代称。
s-ip访问者IP;
cs-method表示访问方法,常见的有两种,一是GET,就是平常我们打开一个URL访问的动作,二是POST,提交表单时的动作;
cs-uri-stem就是访问哪一个文件;
cs-uri-query是指访问地址的附带参数,如asp文件?后面的字符串id=12等等,如果没有参数则用-表示;
s-port 访问的端口
cs-username 访问者名称
c-ip 来源ip
cs(User-Agent)访问来源;
sc-status状态,200表示成功,403表示没有权限,404表示打不到该页面,500表示程序有错;
sc-substatus 服务端传送到客户端的字节大小

根据不同的IP我们可以分析网站是个怎样的状态, 以下常见的百度蜘蛛IP:
123.125.68.*这个蜘蛛经常来,别的来的少,表示网站可能要进入沙盒了,或被者降权。
220.181.68.*每天这个IP 段只增不减很有可能进沙盒或K站。
220.181.7.*、123.125.66.* 代表百度蜘蛛IP造访,准备抓取你东西。
121.14.89.*这个ip段作为度过新站考察期。
203.208.60.*这个ip段出现在新站及站点有不正常现象后。
210.72.225.*这个ip段不间断巡逻各站。
125.90.88.* 广东茂名市电信也属于百度蜘蛛IP 主要造成成分,是新上线站较多,还有使用过站长工具,或seo综合检测造成的。
220.181.108.95这个是百度抓取首页的专用IP,如是220.181.108段的话,基本来说你的网站会天天隔夜快照,绝对错不了的,我保证。
220.181.108.92 同上98%抓取首页,可能还会抓取其他 (不是指内页)220.181段属于权重IP段此段爬过的文章或首页基本24小时放出来。
123.125.71.106 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。
220.181.108.91属于综合的,主要抓取首页和内页或其他,属于权重IP 段,爬过的文章或首页基本24小时放出来。
220.181.108.75重点抓取更新文章的内页达到90%,8%抓取首页,2%其他。权重IP 段,爬过的文章或首页基本24小时放出来。
220.181.108.86专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。
123.125.71.95 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。
123.125.71.97 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。
220.181.108.89专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。
220.181.108.94专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。
220.181.108.97专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。
220.181.108.80专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。
220.181.108.77 专用抓首页IP 权重段,一般返回代码是304 0 0 代表未更新。
123.125.71.117 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。
220.181.108.83专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。
注:以上IP尾数还有很多,但段位一样的123.125.71.*段IP 代表抓取内页收录的权重比较低.可能由于你采集文章或拼文章暂时被收录但不放出来.(意思也就是说待定)。
220.181.108.*段IP主要是抓取首页占80%,内页占30%,这此爬过的文章或首页,绝对24小时内放出来和隔夜快照的,这点我可以保证!
一般成功抓取返回代码都是 200 0 0返回304 0 0代表网站没更新,蜘蛛来过,如果是 200 0 64别担心这不是K站,可能是网站是动态的,所以返回就是这个代码。


向宇峰
向宇峰 发表于 2013-12-4 19:01:31
111

回复 显示全部楼层 道具 举报

匿名  发表于 2015-4-10 06:50:58
不错,给楼主32个赞。

回复 道具

匿名  发表于 2015-4-10 23:11:45
找了很久,看了很多文章,终于明白了。

回复 道具

匿名  发表于 2015-4-11 22:23:24
Can I simply say exactly what a relief to get someone who actually knows what theyre dealing with on the internet. You in fact know how to bring a difficulty to light and make it essential. The diet must see this and fully grasp this side on the story. I cant believe youre not more common because you undoubtedly hold the gift.

回复 道具

匿名  发表于 2015-4-13 04:35:07
找了很久,看了很多文章,终于明白了。

回复 道具

匿名  发表于 2015-4-13 05:42:14
找了很久,看了很多文章,终于明白了。

回复 道具

匿名  发表于 2016-3-7 01:30:29
博主分享的这些干货都不错呀😄特别我们这样刚接触seo的,现在明白蜘蛛ip的意思了。

回复 道具

访客可直接回复,无需注册!
高级模式
B Color Image Link Quote Code Smilies @朋友 |上传

楼主 : 向宇峰

  • 收听TA
  • 加好友
  • 发消息
  • 打招呼
关注微信订阅号
    部分文章将会更新至微信订阅号
    微信添加好友搜索:xyfeng168
    或扫描下面二维码
    微信二维码
一直专注于网站优化 - 网络推广 - 网络营销 - 微信运营 - 网站建设

Copyright © 2013 向宇峰博客 版权所有
浙ICP备13033857号

返回顶部