关灯
开启左侧

[SEO杂谈] 如何分析网站日志文件

[复制链接]
swmozowtfl 发表于 2015-7-19 20:49:26 | 显示全部楼层 |阅读模式 打印 上一主题 下一主题
 
如果你的博客或网站是搭建在付费主机上,如果你是博客或网站的站长,如果你连原始访问日志是什么都不知道,或者对其根本不屑一顾,我只能说你是一个不称职的网站站长,一旦网站出问题,必定是束手无策!相信大家都在自己的网站上安装了网站统计的代码,如Google analytics、量子统计、百度统计、cnzz、51.la等,这些工具可以统计网站的流量,也就是网站**客可以看到的所有页面的访问量,但是这些统计工具都不能统计你主机上资源的原始访问信息,例如某个图片被谁下载了,也不能统计到那些没有添加统计代码的地方,比如后台操作页面。

* r) Y. b3 D! ~, f
绝大多数收费主机都提供原始访问日志,网站服务器会把每一个访客来访时的一些信息自动记录下来,保存在原始访问日志文件中,如果你的主机不提供日志功能,建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息,包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源,同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等,可以说原始访问日志记录了主机的所有资源使用情况。

* }' I" Y- i9 ]3 P5 h2 R/ S4 A/ x1 g1 `* k5 S
分析网站日志有什么作用?
  d4 @4 X* m6 X' w
' E9 P' z  n4 O3 d

) M" P$ F' m' x- n9 O
1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数,可以屏蔽伪蜘蛛(此类蜘蛛多以采集为主,会增加我们服务器的开销)点此识别Baiduspider真伪 ;
, l0 F( h, W1 w/ D7 B, D
2、通过分析网站日志,我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短,我们可以依次有针对性的对我们的网站进行微调 ;
$ R. P$ f1 z4 \8 e
3、http返回状态码,搜索引擎蜘蛛以及用户每访问我们的网站一次,服务器端都会产生类似301,404,200的状态吗,我们可以参照此类信息,对我们出现问题的网站进行简单的诊断,及时处理问题。

, Z9 i; S( E3 J
* \( b0 T: e2 o1 Z: e2 b
网站日志文件存放在什么地方?

* _# v1 V, u* ~) ~0 s" M& c8 G: m! Y

' D. a" s9 I) O- `5 d
: e- n  R6 v* v* o" B4 V
一般的虚拟主机都提供日志文件,但是不同的虚拟主机系统会提供不同的LOG文件存储文件名,笔者使用的是万网的虚拟主机,日志文件存储在wwwlogs文件夹下。
. [$ M1 H$ p' i6 y' _6 Z

如何分析网站日志文件

如何分析网站日志文件
3 \; H- @" _( ~/ F

# l( v: ]/ U) d# ~7 I3 \2 F. p8 U
网站日志文件里面的记录怎么看?
) k3 B# B) n: J% q& }& e: i8 ]$ M

  `' ]4 S( D- W4 q3 @: E2 C. c

* x  n0 G$ t6 |' I9 I
原始访问日志每一行就是类似以下的记录:

: D/ S9 t0 N0 t2 t% x$ V* n116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"+ u7 V* u" t( ]5 ~

& `- H9 b: |9 Q: J0 |7 O6 a, ]! u
% M) P, k% i+ i+ M3 h' B# R% Y  I0 z2 M: l
下面我们来说说这一行记录的意思:
; N4 t; a* I% b) s9 e) s

4 x7 V" m  ~4 @7 {
116.231.220.179
& h' z" o1 b" [$ _; s6 L! {
这是访客(也可能是机器人)的IP

( P- H+ b! `% _9 }, W
$ p6 X* m( a& Y% d. @" p
[25/Mar/2015:11:21:15 +0800]
' {8 z6 ^, X7 Z0 G2 o, A
这是访客访问该资源的时间(Date),+0800是该时间所对应的时区,即与格林威治时间相差+8个小时

" G+ t& h/ P( ?3 C' d1 G* {! N: ^
* a0 E3 [2 A8 u3 a& p' U( M$ F
"GET /blog/article/10.html HTTP/1.1"
3 F, _" _  k* e
请求信息,包括请求方式、所请求的资源以及所使用的协议,该语句的意思就是以GET方式,按照HTTP/1.1协议获取网页/blog/article/10.html,10html为网站上的某个页面。

$ @) I  k0 h' M$ {1 V# E$ n
4 U4 g$ L' s  j+ M7 Z
200 8671

9 J* S9 u2 E* }/ C! B6 ?
200为该请求返回的状态码(Http Code),不同的状态码代表不同的意思,具体请阅读 HTTP 状态代码;8671为此次请求所耗费的流量(Size in Bytes),单位为byte
& k4 Z8 F1 s+ X' b! I; A

& s& L9 s' ], u- _6 I
"htt p://www. weiaipin .cn/"
" F( V- R# c+ ~. Y; ]( p
为访客来源(Referer)。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页,有可能是来自搜索引擎的搜索页等。通过这条来源信息,你可以揪出盗链者的网页。
8 u. o' X1 B" Q1 Y& v
4 r, C' s3 F& T# ~5 f* _- m% `
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"

7 n0 E/ w; f: j# K
为访客所使用的浏览器类型(Agent),这里记录了用户使用的操作系统、浏览器型号等信息。
3 ~) g" D; m4 h! Z4 ?$ ?
  l5 w( h9 v' J' x8 k1 G# R" m4 `
如何分析网站日志中的内容?
% i% k$ h- o+ }6 I# H% X2 O

% C1 @* g* r" a4 h7 X/ O
1 P0 k; z: b# f" q
1、注意那些被频繁访问的资源
+ Z7 p4 v/ r* V7 O; G! j
如果在日志中,你发现某个资源(网页、图片和mp3等)被人频繁访问,那你应该注意该资源被用于何处了!如果这些请求的来源(Referer)不是你的网站或者为空,且状态码(Http Code)为200,说明你的这些资源很可能被人盗链了,通过 Referer 你可以查出盗链者的网址,这可能就是你的网站流量暴增的原因,你应该做好防盗链了。

5 V: m" d- O9 _7 t& @2 d3 W! p$ f8 u9 b6 p  w! U) p
2、注意那些你网站上不存在资源的请求
. e2 c/ q" N. ^3 O
如果某些请求信息不是本站的资源,Http Code不是403就是404,但从名称分析,可能是保存数据库信息的文件,如果这些信息让别人拿走,那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞,通过漫无目的地扫描下载这些已知的漏洞文件,很可能会发现你的网站某个漏洞哦!通过观察,可以发现,这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型,以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问,来达到防止被扫描的目的,具体方法下面再介绍。
0 S; Q, I2 ^/ i4 j- q# i# q6 ?
9 @( d" L. a5 P2 k8 Z
8 {' X, a0 v. p9 r0 `2 K) [4 m/ e
3、观察搜索引擎蜘蛛的来访情况

$ v/ g% C* B0 i  z8 `1 D" f$ F
通过观察日志中的信息,你可以看出你的网站被蜘蛛访问的频率,进而可以看出你的网站是否被搜索引擎青睐,这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下:
  |  D% F& a2 @+ x( g# m' H
Google蜘蛛 :Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
: `) ~! {: b( b. y$ B: u% B, j
Baidu蜘蛛 :Baiduspider+(+http://www.baidu.com/search/spider.htm)
) l* `; v3 i0 a! Z  h% U  W
Yahoo!蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp)
/ R; n# N* E9 E4 c
Yahoo!中国蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)
9 [* S  Y. k' `9 @8 u! X
微软Bing蜘蛛 :msnbot/2.0b (+http://search.msn.com/msnbot.htm)

4 Z4 p. @# B( I. j: C+ e
Google Adsense蜘蛛 :Mediapartners-Google
" U: Q$ P  m; x+ Y0 L7 ^. D2 x2 Z. M
有道蜘蛛 :Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/)

3 }5 N9 W2 D, \; X3 U3 [, L
Soso搜搜博客蜘蛛 :Sosoblogspider+(+http://help.soso.com/soso-blog-spider.htm)
) K" y  {+ m, z3 x
Sogou搜狗蜘蛛 :Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
2 F. J+ j  C9 p4 R
Twiceler爬虫程序 :Mozilla/5.0 (Twiceler-0.9 http://www.cuil.com/twiceler/robot.html)
9 `2 N/ j3 [; x( n% V$ Y+ ~$ J" e
Google图片搜索蜘蛛 :Googlebot-Image/1.0

7 `+ v6 H6 ~% F0 A0 ?
俄罗斯Yandex搜索引擎蜘蛛 :Yandex/1.01.001 (compatible; Win16; I)

2 Y) p6 Q$ n" y! S
Alexa蜘蛛 :ia_archiver (+http://www.alexa.com/site/help/webmasters)

, D$ d: D8 V0 P0 n$ o2 p4 L
Feedsky蜘蛛 :Mozilla 5.0 (compatible; Feedsky crawler /1.0)
  J8 L8 I9 J# ]: ^0 f
韩国Yeti蜘蛛:Yeti/1.0 (NHN Corp.; http://help.naver.com/robots/)
. w  m9 `2 ^0 u# z
9 H! j, N3 ]; w
( T4 k9 B3 Q) a- C5 H% j, ]# k2 o
4、观察访客行为
) C/ a1 o5 v- o7 z7 O2 ~
通过查看格式化后的日志,可以查看跟踪某个IP在某个时间段的一系列访问行为,单个IP的访问记录越多,说明你的网站PV高,用户粘性好;如果单个IP的访问记录希希,你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为,可以为你的网站建设提供有力的参考,哪些内容好,哪些内容不好,确定网站的发展方向;通过分析访客的行为,看看他们都干了些什么事,可以揣测访客的用意,及时揪出恶意用户。

8 I0 E7 H8 a- z& X0 K% a) F: J2 {& n8 h* |
常用网站日志分析软件有哪些?

% M( q) ^8 w& K: e' l- L
' [/ y" I  Z7 P5 n; f
* p( Q6 Y0 ?* v9 N
笔者试用过很多网站日志分析工具,常用的并且功能又比较全面的大概有三款:光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。

8 }8 J- {2 W8 `+ K$ ]. C3 a! F9 n4 @$ u  A% q5 K

! a' _# o3 ]3 T" |
原文出处链接:http://www.weiaipin.cn/blog/article/31.html
* Q( q1 f. V- x, j% f: ^8 D- t得知互动论坛原创作者:品哥. d: H2 d7 B9 E7 w4 W! l& ~, Y  x. R
日期:2015-07-08
 

精彩评论14

正序浏览
Acropozelan 发表于 2015-7-26 13:40:17 | 显示全部楼层
 
@,@..是什么意思呀?
 
tohme 发表于 2015-7-26 13:45:49 | 显示全部楼层
 
这日子没法过了....
 
GoodyFouppy 发表于 2015-7-26 13:49:44 | 显示全部楼层
 
下次有人骂我了...我给他还回去..
 
mwxny 发表于 2015-7-26 13:58:29 | 显示全部楼层
 
这个得知互动技术交流论坛很不错
 
effoggikeftor 发表于 2015-12-8 22:25:50 | 显示全部楼层
 
哎 我我我怎么办啊??
 
bqtklouu 发表于 2015-12-8 22:26:04 | 显示全部楼层
 
今天没事来逛逛
 
GoodyFouppy 发表于 2015-12-8 22:26:14 | 显示全部楼层
 
我在顶贴~!~
 
alapScady 发表于 2015-12-8 22:26:33 | 显示全部楼层
 
到你的~~贴吧收藏~~~我的发言~`找
 
GoodyFouppy 发表于 2015-12-8 22:27:02 | 显示全部楼层
 
本人过去、现在以及将来都不认识楼主,且自古以来与楼主无利益关系。楼主表述之事与本人无关
 
GoodyFouppy 发表于 2017-4-11 14:56:54 | 显示全部楼层
 
我不是来为楼主呐喊加油的,也不是对楼主进行围堵攻击的。
 
tohme 发表于 2017-4-11 14:58:59 | 显示全部楼层
 
感谢党和人民的关爱~~~
 
wwzcdenleclv 发表于 2017-4-11 14:59:14 | 显示全部楼层
 
怎么就没人拜我为偶像那??
 
Mqokjdvq 发表于 2017-4-11 14:59:40 | 显示全部楼层
 
其实今天baidu 又 抽风了
 
GoodyFouppy 发表于 2017-4-11 15:03:51 | 显示全部楼层
 
终于看完了~~~
 
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


0关注

1粉丝

2503帖子

热门图文
热门帖子
排行榜
作者专栏

关注我们:微信订阅号

官方微信

APP下载

全国服务Q Q:

956130084

中国·湖北

Email:956130084@qq.com

Copyright   ©2015-2022  站长技术交流论坛|互联网技术交流平台Powered by©Discuz!技术支持:得知网络  

鄂公网安备 42018502006730号

  ( 鄂ICP备15006301号-5 )