如果你的博客或网站是搭建在付费主机上,如果你是博客或网站的站长,如果你连原始访问日志是什么都不知道,或者对其根本不屑一顾,我只能说你是一个不称职的网站站长,一旦网站出问题,必定是束手无策!相信大家都在自己的网站上安装了网站统计的代码,如Google analytics、量子统计、百度统计、cnzz、51.la等,这些工具可以统计网站的流量,也就是网站**客可以看到的所有页面的访问量,但是这些统计工具都不能统计你主机上资源的原始访问信息,例如某个图片被谁下载了,也不能统计到那些没有添加统计代码的地方,比如后台操作页面。
* r) Y. b3 D! ~, f绝大多数收费主机都提供原始访问日志,网站服务器会把每一个访客来访时的一些信息自动记录下来,保存在原始访问日志文件中,如果你的主机不提供日志功能,建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息,包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源,同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等,可以说原始访问日志记录了主机的所有资源使用情况。
* }' I" Y- i9 ]3 P5 h2 R/ S4 A/ x1 g1 `* k5 S
分析网站日志有什么作用? d4 @4 X* m6 X' w
' E9 P' z n4 O3 d
) M" P$ F' m' x- n9 O1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数,可以屏蔽伪蜘蛛(此类蜘蛛多以采集为主,会增加我们服务器的开销)点此识别Baiduspider真伪 ; , l0 F( h, W1 w/ D7 B, D
2、通过分析网站日志,我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短,我们可以依次有针对性的对我们的网站进行微调 ; $ R. P$ f1 z4 \8 e
3、http返回状态码,搜索引擎蜘蛛以及用户每访问我们的网站一次,服务器端都会产生类似301,404,200的状态吗,我们可以参照此类信息,对我们出现问题的网站进行简单的诊断,及时处理问题。
, Z9 i; S( E3 J
* \( b0 T: e2 o1 Z: e2 b网站日志文件存放在什么地方?
* _# v1 V, u* ~) ~0 s" M& c8 G: m! Y
' D. a" s9 I) O- `5 d : e- n R6 v* v* o" B4 V
一般的虚拟主机都提供日志文件,但是不同的虚拟主机系统会提供不同的LOG文件存储文件名,笔者使用的是万网的虚拟主机,日志文件存储在wwwlogs文件夹下。 . [$ M1 H$ p' i6 y' _6 Z
如何分析网站日志文件
3 \; H- @" _( ~/ F
# l( v: ]/ U) d# ~7 I3 \2 F. p8 U
网站日志文件里面的记录怎么看? ) k3 B# B) n: J% q& }& e: i8 ]$ M
`' ]4 S( D- W4 q3 @: E2 C. c
* x n0 G$ t6 |' I9 I原始访问日志每一行就是类似以下的记录:
: D/ S9 t0 N0 t2 t% x$ V* n116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"+ u7 V* u" t( ]5 ~
& `- H9 b: |9 Q: J0 |7 O6 a, ]! u
% M) P, k% i+ i+ M3 h' B# R% Y I0 z2 M: l
下面我们来说说这一行记录的意思: ; N4 t; a* I% b) s9 e) s
4 x7 V" m ~4 @7 {116.231.220.179 & h' z" o1 b" [$ _; s6 L! {
这是访客(也可能是机器人)的IP
( P- H+ b! `% _9 }, W
$ p6 X* m( a& Y% d. @" p[25/Mar/2015:11:21:15 +0800] ' {8 z6 ^, X7 Z0 G2 o, A
这是访客访问该资源的时间(Date),+0800是该时间所对应的时区,即与格林威治时间相差+8个小时
" G+ t& h/ P( ?3 C' d1 G* {! N: ^
* a0 E3 [2 A8 u3 a& p' U( M$ F"GET /blog/article/10.html HTTP/1.1" 3 F, _" _ k* e
请求信息,包括请求方式、所请求的资源以及所使用的协议,该语句的意思就是以GET方式,按照HTTP/1.1协议获取网页/blog/article/10.html,10html为网站上的某个页面。
$ @) I k0 h' M$ {1 V# E$ n
4 U4 g$ L' s j+ M7 Z200 8671
9 J* S9 u2 E* }/ C! B6 ?200为该请求返回的状态码(Http Code),不同的状态码代表不同的意思,具体请阅读 HTTP 状态代码;8671为此次请求所耗费的流量(Size in Bytes),单位为byte & k4 Z8 F1 s+ X' b! I; A
& s& L9 s' ], u- _6 I"htt p://www. weiaipin .cn/" " F( V- R# c+ ~. Y; ]( p
为访客来源(Referer)。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页,有可能是来自搜索引擎的搜索页等。通过这条来源信息,你可以揪出盗链者的网页。 8 u. o' X1 B" Q1 Y& v
4 r, C' s3 F& T# ~5 f* _- m% `
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
7 n0 E/ w; f: j# K为访客所使用的浏览器类型(Agent),这里记录了用户使用的操作系统、浏览器型号等信息。 3 ~) g" D; m4 h! Z4 ?$ ?
l5 w( h9 v' J' x8 k1 G# R" m4 `
如何分析网站日志中的内容? % i% k$ h- o+ }6 I# H% X2 O
% C1 @* g* r" a4 h7 X/ O 1 P0 k; z: b# f" q
1、注意那些被频繁访问的资源 + Z7 p4 v/ r* V7 O; G! j
如果在日志中,你发现某个资源(网页、图片和mp3等)被人频繁访问,那你应该注意该资源被用于何处了!如果这些请求的来源(Referer)不是你的网站或者为空,且状态码(Http Code)为200,说明你的这些资源很可能被人盗链了,通过 Referer 你可以查出盗链者的网址,这可能就是你的网站流量暴增的原因,你应该做好防盗链了。
5 V: m" d- O9 _7 t& @2 d3 W! p$ f8 u9 b6 p w! U) p
2、注意那些你网站上不存在资源的请求 . e2 c/ q" N. ^3 O
如果某些请求信息不是本站的资源,Http Code不是403就是404,但从名称分析,可能是保存数据库信息的文件,如果这些信息让别人拿走,那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞,通过漫无目的地扫描下载这些已知的漏洞文件,很可能会发现你的网站某个漏洞哦!通过观察,可以发现,这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型,以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问,来达到防止被扫描的目的,具体方法下面再介绍。 0 S; Q, I2 ^/ i4 j- q# i# q6 ?
9 @( d" L. a5 P2 k8 Z
8 {' X, a0 v. p9 r0 `2 K) [4 m/ e
3、观察搜索引擎蜘蛛的来访情况
$ v/ g% C* B0 i z8 `1 D" f$ F通过观察日志中的信息,你可以看出你的网站被蜘蛛访问的频率,进而可以看出你的网站是否被搜索引擎青睐,这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下: | D% F& a2 @+ x( g# m' H
Google蜘蛛 :Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html) : `) ~! {: b( b. y$ B: u% B, j
Baidu蜘蛛 :Baiduspider+(+http://www.baidu.com/search/spider.htm) ) l* `; v3 i0 a! Z h% U W
Yahoo!蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp) / R; n# N* E9 E4 c
Yahoo!中国蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html) 9 [* S Y. k' `9 @8 u! X
微软Bing蜘蛛 :msnbot/2.0b (+http://search.msn.com/msnbot.htm)
4 Z4 p. @# B( I. j: C+ eGoogle Adsense蜘蛛 :Mediapartners-Google " U: Q$ P m; x+ Y0 L7 ^. D2 x2 Z. M
有道蜘蛛 :Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/)
3 }5 N9 W2 D, \; X3 U3 [, LSoso搜搜博客蜘蛛 :Sosoblogspider+(+http://help.soso.com/soso-blog-spider.htm) ) K" y {+ m, z3 x
Sogou搜狗蜘蛛 :Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07) 2 F. J+ j C9 p4 R
Twiceler爬虫程序 :Mozilla/5.0 (Twiceler-0.9 http://www.cuil.com/twiceler/robot.html) 9 `2 N/ j3 [; x( n% V$ Y+ ~$ J" e
Google图片搜索蜘蛛 :Googlebot-Image/1.0
7 `+ v6 H6 ~% F0 A0 ?俄罗斯Yandex搜索引擎蜘蛛 :Yandex/1.01.001 (compatible; Win16; I)
2 Y) p6 Q$ n" y! SAlexa蜘蛛 :ia_archiver (+http://www.alexa.com/site/help/webmasters)
, D$ d: D8 V0 P0 n$ o2 p4 LFeedsky蜘蛛 :Mozilla 5.0 (compatible; Feedsky crawler /1.0) J8 L8 I9 J# ]: ^0 f
韩国Yeti蜘蛛:Yeti/1.0 (NHN Corp.; http://help.naver.com/robots/) . w m9 `2 ^0 u# z
9 H! j, N3 ]; w
( T4 k9 B3 Q) a- C5 H% j, ]# k2 o
4、观察访客行为 ) C/ a1 o5 v- o7 z7 O2 ~
通过查看格式化后的日志,可以查看跟踪某个IP在某个时间段的一系列访问行为,单个IP的访问记录越多,说明你的网站PV高,用户粘性好;如果单个IP的访问记录希希,你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为,可以为你的网站建设提供有力的参考,哪些内容好,哪些内容不好,确定网站的发展方向;通过分析访客的行为,看看他们都干了些什么事,可以揣测访客的用意,及时揪出恶意用户。
8 I0 E7 H8 a- z& X0 K% a) F: J2 {& n8 h* |
常用网站日志分析软件有哪些?
% M( q) ^8 w& K: e' l- L' [/ y" I Z7 P5 n; f
* p( Q6 Y0 ?* v9 N
笔者试用过很多网站日志分析工具,常用的并且功能又比较全面的大概有三款:光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。
8 }8 J- {2 W8 `+ K$ ]. C3 a! F9 n4 @$ u A% q5 K
! a' _# o3 ]3 T" |原文出处链接:http://www.weiaipin.cn/blog/article/31.html
* Q( q1 f. V- x, j% f: ^8 D- t得知互动论坛原创作者:品哥. d: H2 d7 B9 E7 w4 W! l& ~, Y x. R
日期:2015-07-08 |