12下一页
返回列表 发新帖

网站频繁出现304状态码及抓取蜘蛛次数较少的原因分析

4,830.9k 28
DeGe 发表于 2013-6-30 13:58:41|湖北 | 查看全部 阅读模式

在我们的论坛上经常会碰到站长们抱怨蜘蛛抓取返回码老是304状态,且抓取的次数越来越少的问题。搜索引擎为了自身的用户体验,会想尽办法来提高检索调用率、准确性、新鲜度,这将导致引擎不得不把主要的精力放在拥有优质内容源的网站上。惟其如此,搜索结果的质量才能更加符合搜索者的体验。

由此我们联想到:搜索引擎爬虫会更加青睐内容源更新频繁的网站。通过特定时间内对网站抓取返回的状态码来调节对该网站的抓取频繁。若网站在一定时间内一直处于[304:没有变化]的状态,那么引擎爬虫可能会降低对网站的抓取次数。相反,若网站变化的频率非常之快,每次抓取都能获取新版本,那么日积月累,爬虫的回访率也会提高。

无论是抓取少还是304,这都是一种现象,并不是问题的原因,假设网站返回的都是200,就能达到提升排名带来流量的目的么?相比之下更应该思考产生304的原因是什么?改304对网站目标能够有什么样的效果?不能忽视整体的目标而强调过程的细节,为了200而去解决304。

304状态是如何产生?

服务器为了提高网站访问速度,对之前访问的部分页面制定缓存机制,当客户端在此对这些页面进行请求,服务器会根据缓存内容判断页面与之前是否相同,若相同便直接返回304,此时客户端调用缓存内容,不必进行二次下载,可以说304从某种角度起到了减少服务器带宽并提高蜘蛛爬行效率的作用。

304状态产生原因?

1、页面更新周期长或不更新; s9 f+ @0 x& j! `1 m
2、纯静态页面或强制生成静态html

304状态处理思路?

1、先对产生304页面进行细分,到底是哪类页面返回了304?这些页面是否应该返回304?
" L; |& b" r; M0 G" o2这些页面生成的方式是怎样的?是否有更新机制?更新机制是否符合蜘蛛对网站的抓取频率?
, }' ^# B7 g4 P$ k5 ^1 s- I2 _3、页面更新区域的位置是否合理?是否位于该页面主要内容的承载区域?

我们论坛的 @李明亮 同学也对此情况做了分析:

304状态码出现过多会造成以下问题:

1、网站快照停止8 i. R7 p) k; g+ k$ c
2、收录减少1 H1 ?) Q: d/ r0 X+ d$ I
3、权重下降

那么如何减少304返回码呢?

据我所知,首先内容更新方面要迎合百度蜘蛛,分析日志,把蜘蛛到访的时间记录下来,可以大致得出蜘蛛到访的频率,然后以此为依据,更新文章:一定是原创+转载,不能纯采集。转载也需要最新最好的优质资源。让蜘蛛这个点过来能有吃的。从而返回更多 200 正常码。

其次呢,最好增加个互动版块,现在大网站基本已经都做了这方面,比如评论、留言等,大网站更新起来变化可能会很小,但是有了这些互动,用户会在上面发些内容,网站会有很多新的东西。如seowhy,就会把最新回复以及问题放在重要位置。

结尾

本期我们着重讨论了关于频繁返回 304 状态以及抓取次数较少的问题,目的是为了让网站充分的被抓取。除了以上达人分析的原因外,小编觉得引擎蜘蛛同样也会参考网站综合权重,对于权重高的网站抓取频率会很频繁,比如 Google 可能会参考 PR 值来决定网站的抓取频率。


( W# ?+ \0 W# C! j0 h

回复|共 28 个

inhidgehila Lv.8 发表于 2014-10-10 18:22:10|中国 | 查看全部
嘿嘿......哈哈......呵呵.....哟~呼
apgckwmm Lv.8 发表于 2014-10-10 18:37:37|中国 | 查看全部
~~~找灭呢吧你.........
xiaoye Lv.9 发表于 2014-10-10 19:07:46|美国 | 查看全部
哎 我我我怎么办啊??
inhidgehila Lv.8 发表于 2014-10-13 10:14:13|英国 | 查看全部
还呕像.....
oxdbw Lv.8 发表于 2014-10-13 10:38:09|INNA | 查看全部
不为楼主的标题所吸引,也不是被贴子的内容所迷惑。
kjlqiyjws Lv.8 发表于 2014-10-13 10:44:59|瑞典 | 查看全部
呵呵 大家好奇嘛 来观看下~~~~
jckie Lv.8 发表于 2014-10-13 11:10:59|上海 | 查看全部
到你的~~贴吧收藏~~~我的发言~`找
ffuip Lv.8 发表于 2014-10-13 11:11:43|美国 | 查看全部
极品可以说是让你馨香满腹,三日不绝!!古人说的好:想要作文章,先要学做人。由作者的文章我们也可以揣测出作者定是成长在一个汗牛充栋,文化氛围浓厚而且精神面貌积 极向上的幸福家庭里面。在现在这个物欲横流,亲情冷淡的时代,能够在这样的家庭里成长可以说已经是很幸福的了。但在另一方面,作者也不是温室里的花*,只能作些鸳鸯蝴蝶 的文章。在前面我已经说过了,这篇文章比形散神聚更胜一筹。诸位见过大风沙没有
effoggikeftor 发表于 2014-12-12 16:42:45|德国 | 查看全部
哈哈 怎么说来眼睛小真的很好 哈 哈哈~~~~
wwdu926a 发表于 2014-12-12 16:42:48|日本 | 查看全部
呵呵,等着就等着....
Acropozelan 发表于 2014-12-12 16:43:30|美国 | 查看全部
这个得知互动技术交流论坛很不错
阴阳小轩 Lv.8 发表于 2014-12-12 16:44:17|美国 | 查看全部
哈哈 小心被她看见哦~~~~
buingeEvineus 发表于 2014-12-12 16:44:25|瑞士 | 查看全部
照你这么说真的有道理哦 呵呵 不进沙子馁~~~
wwdu926a 发表于 2014-12-12 20:29:44|德国 | 查看全部
想骂你.却不知道从何骂起.

回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

得知互动是一个融创意、设计、开发、营销、生活、互联网于一体的专业交流分享平台。
Copyright © 2026 站长技术交流论坛|互联网技术交流平台|Ai技术交流平台 版权所有 All Rights Reserved. Powered by Discuz! X5.0 鄂ICP备15006301号-5|鄂公网安备 42018502006730号
关灯 在本版发帖 扫一扫添加QQ客服 返回顶部
快速回复 返回顶部 返回列表