如果你的博客或网站是搭建在付费主机上,如果你是博客或网站的站长,如果你连原始访问日志是什么都不知道,或者对其根本不屑一顾,我只能说你是一个不称职的网站站长,一旦网站出问题,必定是束手无策!相信大家都在自己的网站上安装了网站统计的代码,如Google analytics、量子统计、百度统计、cnzz、51.la等,这些工具可以统计网站的流量,也就是网站**客可以看到的所有页面的访问量,但是这些统计工具都不能统计你主机上资源的原始访问信息,例如某个图片被谁下载了,也不能统计到那些没有添加统计代码的地方,比如后台操作页面。
9 j1 @, ^' e( H! l+ I6 _绝大多数收费主机都提供原始访问日志,网站服务器会把每一个访客来访时的一些信息自动记录下来,保存在原始访问日志文件中,如果你的主机不提供日志功能,建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息,包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源,同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等,可以说原始访问日志记录了主机的所有资源使用情况。 : q% i# h* c: j$ S7 z8 m* [& v
, M2 R$ M" F* l( D4 f9 ?分析网站日志有什么作用? 5 } ]- `! V' C. x" ~$ c
( [( S1 p- q9 C3 k9 X- m5 b
" G. [5 O' M. a5 A1 n7 l8 e! q& A. s: |. `
1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数,可以屏蔽伪蜘蛛(此类蜘蛛多以采集为主,会增加我们服务器的开销)点此识别Baiduspider真伪 ; 0 I+ G9 Z; P, b3 W! v4 Z. `
2、通过分析网站日志,我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短,我们可以依次有针对性的对我们的网站进行微调 ; $ G% Q2 ]2 i) S7 F
3、http返回状态码,搜索引擎蜘蛛以及用户每访问我们的网站一次,服务器端都会产生类似301,404,200的状态吗,我们可以参照此类信息,对我们出现问题的网站进行简单的诊断,及时处理问题。 6 {2 k \7 k0 ]" y, Y( m, q+ Y; K5 {( H) B
" [2 p+ m3 z& J; P2 ]网站日志文件存放在什么地方? 9 u2 d, m9 ~! T8 l
8 P$ a3 b6 q1 p# ~
- d. Z% J/ ?, D! M% }7 Y, t一般的虚拟主机都提供日志文件,但是不同的虚拟主机系统会提供不同的LOG文件存储文件名,笔者使用的是万网的虚拟主机,日志文件存储在wwwlogs文件夹下。
# V' k9 O M" {& p; w4 m, L
如何分析网站日志文件
4 U, V6 X9 f9 C0 V1 P
% V: {* T6 p R# t7 y6 q2 j9 H! l5 t) Z, J7 h4 Y" w
网站日志文件里面的记录怎么看?
9 o% V- z: Y. u- {+ |
# h8 B1 S& ^# a$ \; E! d' ? 1 O3 k0 n8 q e2 T
原始访问日志每一行就是类似以下的记录:
k L. [( @* r( _5 Z116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"9 S. l8 H: E9 P
2 F1 s& X6 P& g
9 ^3 j$ I8 s. H( f7 N% v
, Y. W7 E, u+ t8 b5 |/ `+ D% j下面我们来说说这一行记录的意思: - N& M# \# q0 ^! W6 M# b
' ?( Z- e) ?, L8 Z Y% {
116.231.220.179
# S2 |( Y: [ [* f0 |这是访客(也可能是机器人)的IP
6 @0 ~4 t2 r- ~3 _/ d( H" |, y6 a4 n* [2 b1 b* C9 n
[25/Mar/2015:11:21:15 +0800]
& ~: J$ c! ~0 I; \ f) d这是访客访问该资源的时间(Date),+0800是该时间所对应的时区,即与格林威治时间相差+8个小时
/ j# m0 h; f3 ^+ }3 i8 M, P' I. ]" x0 j
"GET /blog/article/10.html HTTP/1.1" 6 P! O: n% K' K: T0 w n
请求信息,包括请求方式、所请求的资源以及所使用的协议,该语句的意思就是以GET方式,按照HTTP/1.1协议获取网页/blog/article/10.html,10html为网站上的某个页面。 7 l$ }& L$ Z; E) ?- I O
+ f" U! [" `$ t% h200 8671 2 |! O, t! Q% H* M
200为该请求返回的状态码(Http Code),不同的状态码代表不同的意思,具体请阅读 HTTP 状态代码;8671为此次请求所耗费的流量(Size in Bytes),单位为byte
& ^) M7 `; Y$ e, Y% U( L2 }# x! `3 e7 a; \4 y
"htt p://www. weiaipin .cn/" ; ?5 c- o* w Q: T2 v3 W& u2 }
为访客来源(Referer)。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页,有可能是来自搜索引擎的搜索页等。通过这条来源信息,你可以揪出盗链者的网页。 . ?+ b9 q' q9 I U
: F- Z0 G+ k, p9 @, Q4 f J- A"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
! r/ ?' r. L# R/ W D3 O为访客所使用的浏览器类型(Agent),这里记录了用户使用的操作系统、浏览器型号等信息。 0 x9 m6 j @# c! E$ E+ I9 t% d
. R) ]4 K1 h+ [9 t9 G4 ^; @如何分析网站日志中的内容? * V; o( U# w% }# b; w' c! J% x
/ d: O& w( v3 ?
1 ~- i+ L4 i/ r1、注意那些被频繁访问的资源
4 o0 T( K1 m% t. N5 l如果在日志中,你发现某个资源(网页、图片和mp3等)被人频繁访问,那你应该注意该资源被用于何处了!如果这些请求的来源(Referer)不是你的网站或者为空,且状态码(Http Code)为200,说明你的这些资源很可能被人盗链了,通过 Referer 你可以查出盗链者的网址,这可能就是你的网站流量暴增的原因,你应该做好防盗链了。
- A/ u; q% W- ]- V9 _- c2 D6 p1 }% h2 p3 v
2、注意那些你网站上不存在资源的请求 " I1 {# d! _0 E. G- J1 P
如果某些请求信息不是本站的资源,Http Code不是403就是404,但从名称分析,可能是保存数据库信息的文件,如果这些信息让别人拿走,那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞,通过漫无目的地扫描下载这些已知的漏洞文件,很可能会发现你的网站某个漏洞哦!通过观察,可以发现,这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型,以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问,来达到防止被扫描的目的,具体方法下面再介绍。
1 q v& z- j2 `! X2 h! r) x9 q( z! t% Z" j# Z: }' i5 ]
s: \3 I# ~5 T
3、观察搜索引擎蜘蛛的来访情况 * ~5 }& g7 v+ v) S% M
通过观察日志中的信息,你可以看出你的网站被蜘蛛访问的频率,进而可以看出你的网站是否被搜索引擎青睐,这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下:
2 o% l& ^& U6 M; j" s* eGoogle蜘蛛 :Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
7 X" g( l8 w- {0 u7 M. T, ?1 F/ ZBaidu蜘蛛 :Baiduspider+(+http://www.baidu.com/search/spider.htm)
* S. a. _, d! GYahoo!蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp) & e3 j3 |' r( ] a! _
Yahoo!中国蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html) 9 k; S4 c4 ]; h0 Q) k% L7 B
微软Bing蜘蛛 :msnbot/2.0b (+http://search.msn.com/msnbot.htm)
: _# k9 S" n4 tGoogle Adsense蜘蛛 :Mediapartners-Google
$ b% O$ T+ L' \7 D有道蜘蛛 :Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/) 3 Q5 ^4 n/ C6 Q9 O% w" u; F
Soso搜搜博客蜘蛛 :Sosoblogspider+(+http://help.soso.com/soso-blog-spider.htm) 3 C1 p* D+ N5 {: ~
Sogou搜狗蜘蛛 :Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07) 2 S r) l+ p3 q) G+ o; k8 v
Twiceler爬虫程序 :Mozilla/5.0 (Twiceler-0.9 http://www.cuil.com/twiceler/robot.html) & P* i# t1 b7 x. q8 d) z
Google图片搜索蜘蛛 :Googlebot-Image/1.0 - h) B. d ^- h0 y3 N; a+ b; \1 s; e
俄罗斯Yandex搜索引擎蜘蛛 :Yandex/1.01.001 (compatible; Win16; I) 9 O. k. A5 A" \' o+ _% f! M
Alexa蜘蛛 :ia_archiver (+http://www.alexa.com/site/help/webmasters) 2 W) L/ E( l/ [) W9 G+ `% n( O% C9 k$ a# E
Feedsky蜘蛛 :Mozilla 5.0 (compatible; Feedsky crawler /1.0)
5 p, S% C) b; L0 M3 q, l韩国Yeti蜘蛛:Yeti/1.0 (NHN Corp.; http://help.naver.com/robots/) 6 Z) X$ W. Y6 x9 I a2 V
9 h7 \' i' d8 N3 B
4 d4 h" X: {3 p/ i- x& ]4、观察访客行为
9 K+ j4 q( `% V$ C3 @8 r通过查看格式化后的日志,可以查看跟踪某个IP在某个时间段的一系列访问行为,单个IP的访问记录越多,说明你的网站PV高,用户粘性好;如果单个IP的访问记录希希,你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为,可以为你的网站建设提供有力的参考,哪些内容好,哪些内容不好,确定网站的发展方向;通过分析访客的行为,看看他们都干了些什么事,可以揣测访客的用意,及时揪出恶意用户。
$ R' `4 @8 U# s, f0 T
5 Q) `/ ]7 V! H& r3 n1 R常用网站日志分析软件有哪些?
$ P3 m+ ~3 N* l, u. w- N: _- t% n% J( e! a
/ t5 X$ k$ U/ u6 v# d$ e! w笔者试用过很多网站日志分析工具,常用的并且功能又比较全面的大概有三款:光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。 5 d: I8 e& d9 `! J+ F' U" D8 f
& D5 R8 `5 A% v
" I' P( P# j" c. F" V原文出处链接:http://www.weiaipin.cn/blog/article/31.html( T3 n) r: Z6 Y" D5 B6 b
得知互动论坛原创作者:品哥
' H0 p5 A" U# r0 @+ ~& E日期:2015-07-08 |