如果你的博客或网站是搭建在付费主机上,如果你是博客或网站的站长,如果你连原始访问日志是什么都不知道,或者对其根本不屑一顾,我只能说你是一个不称职的网站站长,一旦网站出问题,必定是束手无策!相信大家都在自己的网站上安装了网站统计的代码,如Google analytics、量子统计、百度统计、cnzz、51.la等,这些工具可以统计网站的流量,也就是网站**客可以看到的所有页面的访问量,但是这些统计工具都不能统计你主机上资源的原始访问信息,例如某个图片被谁下载了,也不能统计到那些没有添加统计代码的地方,比如后台操作页面。
8 c/ N8 L7 k) `3 e9 m( x! @5 r绝大多数收费主机都提供原始访问日志,网站服务器会把每一个访客来访时的一些信息自动记录下来,保存在原始访问日志文件中,如果你的主机不提供日志功能,建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息,包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源,同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等,可以说原始访问日志记录了主机的所有资源使用情况。 # }! A1 h6 t" K6 `3 m; G! n. V" G
( ^+ a, U. v* L2 J分析网站日志有什么作用? 4 ]1 l# P0 g% o# n5 d
% \, S0 {+ \. N, @ + E9 e1 b/ G& X$ m9 h [4 H
1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数,可以屏蔽伪蜘蛛(此类蜘蛛多以采集为主,会增加我们服务器的开销)点此识别Baiduspider真伪 ; 6 s" ?- n( B% q% _9 E9 D2 Y/ d
2、通过分析网站日志,我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短,我们可以依次有针对性的对我们的网站进行微调 ; , N3 x r, l0 C9 _6 ~% }" i
3、http返回状态码,搜索引擎蜘蛛以及用户每访问我们的网站一次,服务器端都会产生类似301,404,200的状态吗,我们可以参照此类信息,对我们出现问题的网站进行简单的诊断,及时处理问题。
% T3 i4 P* R" N" b" a7 P; d/ O3 @( U$ w- h2 z2 w" [; K4 ~8 ~
网站日志文件存放在什么地方?
+ L/ \9 _' `1 K* f2 H% L
* a. t9 n7 V% {* b; S' o+ i$ g
; G( V4 ?: `7 f一般的虚拟主机都提供日志文件,但是不同的虚拟主机系统会提供不同的LOG文件存储文件名,笔者使用的是万网的虚拟主机,日志文件存储在wwwlogs文件夹下。
9 R; t1 r1 X! n" f
如何分析网站日志文件
! R2 D" l/ k/ D4 B" u3 h# o% n% a0 s2 g1 v: F) [; r) Q3 G
8 w4 q4 d2 J5 g4 m) A
网站日志文件里面的记录怎么看? ; ^' L1 t" Q7 M' E
& }& Q$ i* {' I6 W' J 2 B) d# F4 d: B0 k0 X0 a
原始访问日志每一行就是类似以下的记录: ' {* e( |) W% ]
116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"& X8 w# \! I/ q3 }# Q
3 ] ]& Q0 s' C8 E% O9 D! R
2 n: d2 Z% K% V8 O7 q: j
# k1 V! q5 B( ^* O" s& k( T下面我们来说说这一行记录的意思: - s6 z( k" T# ?7 g& r4 p
+ f- l: w1 l4 ?116.231.220.179 0 Z$ O! e# t- R' E `
这是访客(也可能是机器人)的IP
+ H" @/ L3 `3 k) V5 V
; }* Z# D9 U6 o' Z; {% s[25/Mar/2015:11:21:15 +0800] + \7 W1 L$ I/ F) E
这是访客访问该资源的时间(Date),+0800是该时间所对应的时区,即与格林威治时间相差+8个小时 5 L# q* E* S. g
+ X" z/ H K4 q
"GET /blog/article/10.html HTTP/1.1" - U3 I" B9 b g' V. U1 U L
请求信息,包括请求方式、所请求的资源以及所使用的协议,该语句的意思就是以GET方式,按照HTTP/1.1协议获取网页/blog/article/10.html,10html为网站上的某个页面。
) E* S, j4 m( l0 f' O* ~% {5 [; u# ]0 `* h# a
200 8671 $ H8 [4 x0 E+ d
200为该请求返回的状态码(Http Code),不同的状态码代表不同的意思,具体请阅读 HTTP 状态代码;8671为此次请求所耗费的流量(Size in Bytes),单位为byte
9 v/ n' }. }1 ]5 f7 }2 q) E# U. x7 |! p& n7 o
"htt p://www. weiaipin .cn/"
) U; |& q" K% H2 j/ B为访客来源(Referer)。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页,有可能是来自搜索引擎的搜索页等。通过这条来源信息,你可以揪出盗链者的网页。
6 u$ Q. F- Q- n, @9 k# V" e" }4 B6 w. T+ [# g" t" X, L
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)" 1 N; ?# \8 I3 p, f/ e
为访客所使用的浏览器类型(Agent),这里记录了用户使用的操作系统、浏览器型号等信息。
) @3 k {- e/ B$ `& b( ?" ]& x- Q
, s8 ?' N& r0 C! R如何分析网站日志中的内容? / B4 v A% M2 g" t6 g4 W- O
0 W8 D2 n" H7 w; v: O k- E
( P7 N" S* F& m& y1 s1、注意那些被频繁访问的资源 % T$ ] p1 x5 m; @3 X* `
如果在日志中,你发现某个资源(网页、图片和mp3等)被人频繁访问,那你应该注意该资源被用于何处了!如果这些请求的来源(Referer)不是你的网站或者为空,且状态码(Http Code)为200,说明你的这些资源很可能被人盗链了,通过 Referer 你可以查出盗链者的网址,这可能就是你的网站流量暴增的原因,你应该做好防盗链了。
3 w% L/ l, g7 O4 T. z9 H
$ [6 Y8 X0 s$ I: z J$ W2、注意那些你网站上不存在资源的请求
) I+ ?% y }- N3 V如果某些请求信息不是本站的资源,Http Code不是403就是404,但从名称分析,可能是保存数据库信息的文件,如果这些信息让别人拿走,那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞,通过漫无目的地扫描下载这些已知的漏洞文件,很可能会发现你的网站某个漏洞哦!通过观察,可以发现,这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型,以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问,来达到防止被扫描的目的,具体方法下面再介绍。
& |, C# C5 s' U! Y( K) H' d v- w. ^. T
- S/ y3 H: s E4 E! F# |
3、观察搜索引擎蜘蛛的来访情况 / {) m' }( O$ t0 X/ p
通过观察日志中的信息,你可以看出你的网站被蜘蛛访问的频率,进而可以看出你的网站是否被搜索引擎青睐,这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下: # T/ }" o" _: ]& e
Google蜘蛛 :Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html) - X6 ?8 |: R2 A6 {
Baidu蜘蛛 :Baiduspider+(+http://www.baidu.com/search/spider.htm) * E& m6 {' F9 T7 O! N1 _$ n, T
Yahoo!蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp) 3 ]: z" _( G T' ]
Yahoo!中国蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)
6 `# L; V% L% z7 c微软Bing蜘蛛 :msnbot/2.0b (+http://search.msn.com/msnbot.htm) % E* k6 F/ N7 C8 X
Google Adsense蜘蛛 :Mediapartners-Google $ x& f6 e5 W. Y+ w2 C& y( L5 W
有道蜘蛛 :Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/) ' d) K+ b9 o( X, q# _# E# x
Soso搜搜博客蜘蛛 :Sosoblogspider+(+http://help.soso.com/soso-blog-spider.htm) + T* o4 S' L4 ?& @4 }
Sogou搜狗蜘蛛 :Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07) * G1 p. k8 U& n* c& n
Twiceler爬虫程序 :Mozilla/5.0 (Twiceler-0.9 http://www.cuil.com/twiceler/robot.html)
. ?) T6 t3 Q8 wGoogle图片搜索蜘蛛 :Googlebot-Image/1.0
s: {2 o, `6 c# \& U: s( n2 r7 o6 |俄罗斯Yandex搜索引擎蜘蛛 :Yandex/1.01.001 (compatible; Win16; I)
" X+ C' _* P/ Z. H1 [- W5 S, IAlexa蜘蛛 :ia_archiver (+http://www.alexa.com/site/help/webmasters)
b/ k6 T: u$ YFeedsky蜘蛛 :Mozilla 5.0 (compatible; Feedsky crawler /1.0) 8 O. Z A7 I8 o5 W' l7 U
韩国Yeti蜘蛛:Yeti/1.0 (NHN Corp.; http://help.naver.com/robots/)
) G% y) i% q7 e6 [; C& `* w+ E( N* ^7 _+ y# |, T8 P0 g" F
! f5 [+ r: y' d! B4、观察访客行为
2 f7 n' O; D; k通过查看格式化后的日志,可以查看跟踪某个IP在某个时间段的一系列访问行为,单个IP的访问记录越多,说明你的网站PV高,用户粘性好;如果单个IP的访问记录希希,你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为,可以为你的网站建设提供有力的参考,哪些内容好,哪些内容不好,确定网站的发展方向;通过分析访客的行为,看看他们都干了些什么事,可以揣测访客的用意,及时揪出恶意用户。 ! L3 P4 ]( H0 w4 w. B3 x/ T
5 W: h/ O, g& g, g常用网站日志分析软件有哪些?
; [( j. U& j5 E; G+ y+ @% P, H; ]1 \
p* v6 Q* q5 N& f: o笔者试用过很多网站日志分析工具,常用的并且功能又比较全面的大概有三款:光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。
% o3 ] G6 S' r- T/ X1 i# I5 _# \ E1 Y! {( b. n
2 ?4 j0 ~2 G- e% |# ]3 L原文出处链接:http://www.weiaipin.cn/blog/article/31.html
# s7 @$ h: N, z0 h6 d3 u7 {得知互动论坛原创作者:品哥
& _: a: R% A, H0 P日期:2015-07-08 |