如果你的博客或网站是搭建在付费主机上，如果你是博客或网站的站长，如果你连原始访问日志是什么都不知道，或者对其根本不屑一顾，我只能说你是一个不称职的网站站长，一旦网站出问题，必定是束手无策！相信大家都在自己的网站上安装了网站统计的代码，如Google analytics、量子统计、百度统计、cnzz、51.la等，这些工具可以统计网站的流量，也就是网站**客可以看到的所有页面的访问量，但是这些统计工具都不能统计你主机上资源的原始访问信息，例如某个图片被谁下载了，也不能统计到那些没有添加统计代码的地方，比如后台操作页面。 3 x" B' C8 I( ]( e: L7 l! V
绝大多数收费主机都提供原始访问日志，网站服务器会把每一个访客来访时的一些信息自动记录下来，保存在原始访问日志文件中，如果你的主机不提供日志功能，建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息，包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源，同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等，可以说原始访问日志记录了主机的所有资源使用情况。 & @4 m4 A' Y" n- t2 @
! U3 F0 q4 s3 U2 O2 n5 ^% N- o4 a
分析网站日志有什么作用？
1 N! {3 b3 q7 S4 \: I3 V+ d' |
1 E. I' Q' O8 G- C0 R8 v! p; P e
5 m$ H! K+ |+ t3 h! m! j1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛（此类蜘蛛多以采集为主，会增加我们服务器的开销）点此识别Baiduspider真伪 ； . b4 y8 P$ b0 I4 J
2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ；
n! f- \) u: ?1 k) f$ ^7 T3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。
" i) Y3 f; _" W, ^% M
, ^, ]5 C: R6 t+ j \0 r网站日志文件存放在什么地方？ & {7 m& R9 |6 w8 C& c) s5 F
( [9 B5 r& t0 q! k7 K
# N# |2 T/ X: G* s8 E8 L6 |
一般的虚拟主机都提供日志文件，但是不同的虚拟主机系统会提供不同的LOG文件存储文件名，笔者使用的是万网的虚拟主机，日志文件存储在wwwlogs文件夹下。 8 M* h, Y' ]* I8 @( f1 A
如何分析网站日志文件
# X2 Y/ T7 G4 |1 v7 C
; W. {5 {0 k5 i) d
0 h6 J! V# w7 @! y' X% Q网站日志文件里面的记录怎么看？ 5 m3 _) a: a; d& o a, f+ A+ p3 w
5 _& ?+ H+ c: n. ]
/ H' w# C; n) X& _' @# q原始访问日志每一行就是类似以下的记录：
/ `4 j' ?' e" u3 c Z; B) K116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)". t% q) c) Z" s) k% Y) j3 v& N
" K8 T/ e& j! z3 ^; I$ s
: Q: |. R: ?2 ?# v/ p0 q
; g' q% ~9 Y& n, E/ c* |1 Y! _下面我们来说说这一行记录的意思： 8 q' D+ v4 e# J; {1 w4 x! j( P, x! m
) H Y2 V7 m$ [2 [. Y( Z116.231.220.179
: _( s2 U1 N" l! r) u$ [! A& l3 z) i这是访客（也可能是机器人）的IP : C1 C% K9 ]* \7 C
8 _$ B6 i; ~# \" v2 h* E R/ P3 n9 P
[25/Mar/2015:11:21:15 +0800]
8 z4 t! {$ Q2 Z- |" s( w这是访客访问该资源的时间（Date），+0800是该时间所对应的时区，即与格林威治时间相差+8个小时
- ?8 q0 `1 }; L
3 Z- E% `! X9 Y+ d"GET /blog/article/10.html HTTP/1.1"
5 s$ f* q' r; l. _' T. d/ e, q! k2 V5 h请求信息，包括请求方式、所请求的资源以及所使用的协议，该语句的意思就是以GET方式，按照HTTP/1.1协议获取网页/blog/article/10.html，10html为网站上的某个页面。 & y( a! X6 u, E o
2 B; ?/ z' o* n, I* Z9 [* t
200 8671 & X A' v) t( e; j
200为该请求返回的状态码（Http Code），不同的状态码代表不同的意思，具体请阅读 HTTP 状态代码；8671为此次请求所耗费的流量（Size in Bytes），单位为byte 1 Z i5 D6 C. R
' S4 `, g& S# w"htt p://www. weiaipin .cn/"
7 H9 o9 _6 k- A! p! h5 V! x# @为访客来源（Referer）。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页，有可能是来自搜索引擎的搜索页等。通过这条来源信息，你可以揪出盗链者的网页。
$ ^6 K/ t( D5 g$ }6 w: X- |* ]* v$ k2 w, }' [+ N8 [8 W$ h( L
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)" 8 s# q2 t/ E7 ]4 ~" ^
为访客所使用的浏览器类型（Agent），这里记录了用户使用的操作系统、浏览器型号等信息。 ) J( c2 Y; O" o/ a; j) `; `
3 a% c5 Q; B8 }9 p# }+ d7 t如何分析网站日志中的内容？ 8 p" I% p5 t2 j. z6 z
: j% U# [7 {1 v9 n o0 |
% @' ?) l- M' t' t& _* C1、注意那些被频繁访问的资源 , @4 E' G/ I1 e: ~# t7 c
如果在日志中，你发现某个资源（网页、图片和mp3等）被人频繁访问，那你应该注意该资源被用于何处了！如果这些请求的来源（Referer）不是你的网站或者为空，且状态码（Http Code）为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。 + ~4 |+ @) F$ o: D$ D
$ o+ m! h" m, o* o
2、注意那些你网站上不存在资源的请求 4 V4 U4 W( z5 V8 |" }& E8 G
如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦！通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。 - ]7 m; Z1 ~) V5 [: d; u# Q
1 P3 R4 l5 B$ w/ j6 J5 V" [5 t: F
3、观察搜索引擎蜘蛛的来访情况 3 c# C, ^- l Y3 x Z
通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下： / `0 X5 [6 f- N: e: {0 ]8 r B
Google蜘蛛 ：Mozilla/5.0 （compatible; Googlebot/2.1; +http://www.google.com/bot.html） `* w1 X) m7 i, x* f" C6 E
Baidu蜘蛛 ：Baiduspider+（+http://www.baidu.com/search/spider.htm）
* I+ N4 N: [+ i. ]Yahoo！蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp）
8 `7 l I" O" g4 a0 H" [Yahoo！中国蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp China; http://misc.yahoo.com.cn/help.html） : e" V$ `! F$ u8 y, j
微软Bing蜘蛛 ：msnbot/2.0b （+http://search.msn.com/msnbot.htm）
0 E7 a1 T2 E" `$ {$ MGoogle Adsense蜘蛛 ：Mediapartners-Google
/ |0 N0 d/ ]( T0 o! J, h% F有道蜘蛛 ：Mozilla/5.0 （compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/） r& v% k0 z9 @" ~1 ~
Soso搜搜博客蜘蛛 ：Sosoblogspider+（+http://help.soso.com/soso-blog-spider.htm）
' H5 K m1 O6 U% [# gSogou搜狗蜘蛛 ：Sogou web spider/4.0（+http://www.sogou.com/docs/help/webmasters.htm#07） ; O n) c0 q+ C" b& `# B4 o
Twiceler爬虫程序 ：Mozilla/5.0 （Twiceler-0.9 http://www.cuil.com/twiceler/robot.html）
, p5 O; R/ a0 E4 C4 W3 ~Google图片搜索蜘蛛 ：Googlebot-Image/1.0
' Q7 M# U( D# N" \' w% t$ y( f俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 （compatible; Win16; I）
& x5 U/ b% r9 y b2 FAlexa蜘蛛 ：ia_archiver （+http://www.alexa.com/site/help/webmasters）
9 ]4 l- S& h: J* J/ fFeedsky蜘蛛 ：Mozilla 5.0 （compatible; Feedsky crawler /1.0） 6 b; r0 n1 r+ B
韩国Yeti蜘蛛：Yeti/1.0 （NHN Corp.; http://help.naver.com/robots/）
$ I$ p1 S; z# p) P" H
/ j/ {4 o4 D, Q* B8 ]1 T! W+ R4 v9 s# n2 B
4、观察访客行为 * H! S7 Z; }0 H1 T$ O
通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好；如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向；通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。
/ [8 Z: s1 k, U c+ ] g% _. p5 u0 c/ u6 g6 V* u
常用网站日志分析软件有哪些？ 1 M9 T7 L- b: J
9 K9 m- I1 d( C' D
: B0 ?- k8 s# Q) R$ Z/ E% t笔者试用过很多网站日志分析工具，常用的并且功能又比较全面的大概有三款：光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。
; i% J: t) V' `3 C1 N* Q5 r H& j) ]) t8 B) `+ F( s6 ]
* A \) B* ~% m7 @; c/ N3 P
原文出处链接：http://www.weiaipin.cn/blog/article/31.html$ C- n: B0 l/ m9 m; F
得知互动论坛原创作者：品哥& c# e& V7 o0 ~# E! i
日期：2015-07-08 |
Ai优选商家寻找本地地推合作伙伴303求项目与合作
拥抱AI搜索新时代！GEO优化成为企业流量增909网络资讯
GEO优化如何让企业流量翻倍？808网络资讯
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡