如果你的博客或网站是搭建在付费主机上，如果你是博客或网站的站长，如果你连原始访问日志是什么都不知道，或者对其根本不屑一顾，我只能说你是一个不称职的网站站长，一旦网站出问题，必定是束手无策！相信大家都在自己的网站上安装了网站统计的代码，如Google analytics、量子统计、百度统计、cnzz、51.la等，这些工具可以统计网站的流量，也就是网站**客可以看到的所有页面的访问量，但是这些统计工具都不能统计你主机上资源的原始访问信息，例如某个图片被谁下载了，也不能统计到那些没有添加统计代码的地方，比如后台操作页面。 2 V! I$ }' O' I. q
绝大多数收费主机都提供原始访问日志，网站服务器会把每一个访客来访时的一些信息自动记录下来，保存在原始访问日志文件中，如果你的主机不提供日志功能，建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息，包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源，同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等，可以说原始访问日志记录了主机的所有资源使用情况。
; O9 Q& g1 c4 X- F0 y, J& o6 r. e3 @6 S: ^/ x, X
分析网站日志有什么作用？ 4 l- w+ E& i' l4 J
! S8 L$ ^: n( ^# x2 X5 P" y9 c, ^
1 t3 I6 U# n3 m7 q% i) n H7 a! C
1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛（此类蜘蛛多以采集为主，会增加我们服务器的开销）点此识别Baiduspider真伪 ；
( _7 H5 w2 H: J- k- q" \2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ； 6 P0 B* G' Z- m
3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。 5 `2 h6 U. o3 @
# T- K" i- i! h' {, b
网站日志文件存放在什么地方？ 6 N& D( {( ^# C6 T( w
0 V0 A) F5 ~" N5 I& ]+ \/ H0 r" g
# g( O$ F# _- l1 e" k r0 n一般的虚拟主机都提供日志文件，但是不同的虚拟主机系统会提供不同的LOG文件存储文件名，笔者使用的是万网的虚拟主机，日志文件存储在wwwlogs文件夹下。
! s) F& J% o/ O; s
如何分析网站日志文件
$ S0 b; J5 u- N9 g
4 v& H3 {. v8 F8 T; h8 n7 o2 C- t, D5 g9 |6 m. z3 I, d
网站日志文件里面的记录怎么看？ / _, } j" N; z
8 a" a; e7 k0 Z4 h4 y, @. j! c
1 b' i, T% U" W# v% r v) d8 ?原始访问日志每一行就是类似以下的记录：
! Q2 o, ^4 D( x; K3 o: D. t. ?116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
6 W) Q0 B! _* W
0 y" R w. p3 \2 U
: h1 g/ V" s$ x) h. i N% \. R- J% s
下面我们来说说这一行记录的意思：
C1 R z2 _' v' e4 h& ]: }" Y5 I* Z
116.231.220.179
% ~- K* K M0 Z! K5 X+ P3 \9 |这是访客（也可能是机器人）的IP ! _! [8 R' ~1 Z- p2 r
- p+ _$ z& x4 R; C. |! U' a
[25/Mar/2015:11:21:15 +0800] ) @& B* u0 l4 c$ o: l: c6 q- U l7 I
这是访客访问该资源的时间（Date），+0800是该时间所对应的时区，即与格林威治时间相差+8个小时
6 e" h) |" F. \0 `0 b
) I: S+ e2 o& p8 c"GET /blog/article/10.html HTTP/1.1" 5 ^6 Q5 \! y6 Q# X4 T
请求信息，包括请求方式、所请求的资源以及所使用的协议，该语句的意思就是以GET方式，按照HTTP/1.1协议获取网页/blog/article/10.html，10html为网站上的某个页面。
* x, n" X/ Y' I. l4 \0 F6 ^) O9 j% ^2 j6 j' T
200 8671 # _& I& {2 X! v2 B9 q, I
200为该请求返回的状态码（Http Code），不同的状态码代表不同的意思，具体请阅读 HTTP 状态代码；8671为此次请求所耗费的流量（Size in Bytes），单位为byte & P6 @+ e. C# Z. g0 A( I' a
/ u) W6 l0 `: N+ Z j/ X# }; [ l* }6 o- x
"htt p://www. weiaipin .cn/" ( r9 V, k+ g7 G
为访客来源（Referer）。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页，有可能是来自搜索引擎的搜索页等。通过这条来源信息，你可以揪出盗链者的网页。 / \7 T0 G3 j1 O0 I2 l; M0 |: `
6 A3 T, _0 J' C% O
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
' F" p* j5 i% l( I为访客所使用的浏览器类型（Agent），这里记录了用户使用的操作系统、浏览器型号等信息。
5 N; f8 K1 c* q" v4 o! j* \0 G
3 Y8 M( s) H5 t. C. U" [4 ]如何分析网站日志中的内容？
! d! \6 n. @" M, j d
# V4 R; J* K4 N4 L# t+ d. {
3 }! W1 h% S8 K$ B+ E. C
1、注意那些被频繁访问的资源 ; {' M- B" M8 n3 `, ^: I
如果在日志中，你发现某个资源（网页、图片和mp3等）被人频繁访问，那你应该注意该资源被用于何处了！如果这些请求的来源（Referer）不是你的网站或者为空，且状态码（Http Code）为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。 ' T' N) E% n2 Z- Q) h
7 `4 J. i2 z" m8 S2 e2、注意那些你网站上不存在资源的请求
3 ]9 m, q# f8 C3 y/ A6 E# a6 F如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦！通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。
% }# ]. R/ B( D1 p* s+ } h, @9 x" C4 E' H& r# D7 W0 G9 D
2 V1 l; M s5 ?) n0 e+ V
3、观察搜索引擎蜘蛛的来访情况 ( l; l" R. u- ~, k3 L6 y; t$ A. z
通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下： ' r5 g; X3 q3 t1 r, D8 z
Google蜘蛛 ：Mozilla/5.0 （compatible; Googlebot/2.1; +http://www.google.com/bot.html） 0 Q: _4 w" X o5 l+ m k
Baidu蜘蛛 ：Baiduspider+（+http://www.baidu.com/search/spider.htm）
! s8 x7 `. d1 a% K8 zYahoo！蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp）
6 W4 ~, g- a4 P$ a: p' PYahoo！中国蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp China; http://misc.yahoo.com.cn/help.html） $ z! p. s! v3 p7 K* E. y9 A2 c
微软Bing蜘蛛 ：msnbot/2.0b （+http://search.msn.com/msnbot.htm）
4 N: _/ Z/ Y" r7 n- z( I; }# x0 v! QGoogle Adsense蜘蛛 ：Mediapartners-Google ) e& h8 Z3 h V1 r# ?7 J
有道蜘蛛 ：Mozilla/5.0 （compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/）
8 n" x1 O: M# q, B$ x7 ZSoso搜搜博客蜘蛛 ：Sosoblogspider+（+http://help.soso.com/soso-blog-spider.htm）
; `' \9 q6 U& C3 @: E$ J. hSogou搜狗蜘蛛 ：Sogou web spider/4.0（+http://www.sogou.com/docs/help/webmasters.htm#07） ( e' R4 y, W# M7 O* f' u
Twiceler爬虫程序 ：Mozilla/5.0 （Twiceler-0.9 http://www.cuil.com/twiceler/robot.html） 4 }( H/ a8 @5 w& M7 {1 a v
Google图片搜索蜘蛛 ：Googlebot-Image/1.0 9 f; |* t& O3 g1 T$ \
俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 （compatible; Win16; I）
- }; e2 d3 t. O. KAlexa蜘蛛 ：ia_archiver （+http://www.alexa.com/site/help/webmasters） $ j" W( x: \2 w) o ^3 h. n* L
Feedsky蜘蛛 ：Mozilla 5.0 （compatible; Feedsky crawler /1.0） & X, W) b6 ]% X# _9 y. d! b& S* m. G
韩国Yeti蜘蛛：Yeti/1.0 （NHN Corp.; http://help.naver.com/robots/） 9 {6 K( J) _+ ?, |! }3 W
8 o. o, e% ~2 w* l) E1 ~( T
4 ]! s! u7 N# M1 [5 |1 T g5 V4、观察访客行为 $ l1 U7 E0 ?4 S" |5 } P6 h# _: v. d- ^$ c
通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好；如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向；通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。
/ B) i; ]: [4 G0 C+ }0 i# ? X
$ q4 d1 u9 x0 A8 ^' N$ u常用网站日志分析软件有哪些？ $ { y9 G; x! z' z
+ }' }( T3 ]/ a% [; v5 {8 C
! z& o0 w6 N% c4 T# C% p5 E; i2 `
笔者试用过很多网站日志分析工具，常用的并且功能又比较全面的大概有三款：光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。 % @2 ` S) ^: x, C' l6 w1 m
' G5 b7 x4 {, {. s: _; M
& w$ R, Z4 D; {原文出处链接：http://www.weiaipin.cn/blog/article/31.html, A8 e" L7 T% Z8 z P: l" m* t
得知互动论坛原创作者：品哥
/ R6 h; U7 ~: e: \4 n日期：2015-07-08 |
Ai优选商家寻找本地地推合作伙伴303求项目与合作
拥抱AI搜索新时代！GEO优化成为企业流量增909网络资讯
GEO优化如何让企业流量翻倍？808网络资讯
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡