如果你的博客或网站是搭建在付费主机上，如果你是博客或网站的站长，如果你连原始访问日志是什么都不知道，或者对其根本不屑一顾，我只能说你是一个不称职的网站站长，一旦网站出问题，必定是束手无策！相信大家都在自己的网站上安装了网站统计的代码，如Google analytics、量子统计、百度统计、cnzz、51.la等，这些工具可以统计网站的流量，也就是网站**客可以看到的所有页面的访问量，但是这些统计工具都不能统计你主机上资源的原始访问信息，例如某个图片被谁下载了，也不能统计到那些没有添加统计代码的地方，比如后台操作页面。
# P0 R7 |3 J; N1 K: m$ w" `( i绝大多数收费主机都提供原始访问日志，网站服务器会把每一个访客来访时的一些信息自动记录下来，保存在原始访问日志文件中，如果你的主机不提供日志功能，建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息，包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源，同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等，可以说原始访问日志记录了主机的所有资源使用情况。
$ _7 [6 G6 q) D2 }
. v+ E& G$ c3 W, w, `分析网站日志有什么作用？ 8 g) N) z- e$ S, d. P
! g ^# }/ p# d7 D2 S) {
) w0 T$ S q i% i& ]
1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛（此类蜘蛛多以采集为主，会增加我们服务器的开销）点此识别Baiduspider真伪 ； * }3 o. |7 ?0 `/ ~1 O: M4 }
2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ；
$ _0 ]/ i' S. Z5 V4 X2 F3 g0 L; y3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。 8 ~3 \/ C7 v e/ r7 S1 y$ `
, D: g1 H3 x0 W- e网站日志文件存放在什么地方？
e2 R, K( W) m2 Z
7 E7 \- {- u* Z; }. V" R
* v8 c( _9 G( F6 T( t7 E
一般的虚拟主机都提供日志文件，但是不同的虚拟主机系统会提供不同的LOG文件存储文件名，笔者使用的是万网的虚拟主机，日志文件存储在wwwlogs文件夹下。 7 P$ T9 c( h7 }' y" ?) y0 P8 B
如何分析网站日志文件
& H4 W* o6 J8 s& c
% {& _0 c: w6 S5 k8 i; m
/ B2 X( B+ S3 `0 h5 X4 B( Q( d8 R网站日志文件里面的记录怎么看？
, z2 P1 X/ z# Q' V& f2 W j' ]2 y. o. J. f( x8 |3 F
L1 B! Y: [8 E0 ~& M; F原始访问日志每一行就是类似以下的记录：
2 W3 I& x4 B% e116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
- b; y8 o' q" [5 x- M# w
2 I8 Y* d- a- {) W* d% P/ n
# B) y4 H) ~& A7 V1 ]2 C9 N
0 L% f4 v- _8 |! j下面我们来说说这一行记录的意思：
5 x$ M% S, \+ y6 v7 O G" a* L% C; S+ r. w( b
116.231.220.179 & N! b# q2 z" _& `/ g' [. c
这是访客（也可能是机器人）的IP
4 ?8 J$ V0 G2 X% o1 R
* u7 ~# b/ z, e$ f9 J9 ?$ x. X[25/Mar/2015:11:21:15 +0800] $ `, W9 Z; G: x) e; s7 {
这是访客访问该资源的时间（Date），+0800是该时间所对应的时区，即与格林威治时间相差+8个小时 1 ^6 [7 u# A) D
@0 S) P8 R2 h- l, X
"GET /blog/article/10.html HTTP/1.1" # I* x' g) S {& y4 T
请求信息，包括请求方式、所请求的资源以及所使用的协议，该语句的意思就是以GET方式，按照HTTP/1.1协议获取网页/blog/article/10.html，10html为网站上的某个页面。
: C9 {' ^( ?# n7 I
$ a) s7 O- z' h3 [0 S200 8671 2 s5 _ V7 [' { h* {/ d
200为该请求返回的状态码（Http Code），不同的状态码代表不同的意思，具体请阅读 HTTP 状态代码；8671为此次请求所耗费的流量（Size in Bytes），单位为byte
- V. E3 A1 o& }0 H5 G! {3 o1 ?/ Y$ k, X4 z" Q
"htt p://www. weiaipin .cn/"
1 H- P% F8 {7 d$ a, K4 y" A为访客来源（Referer）。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页，有可能是来自搜索引擎的搜索页等。通过这条来源信息，你可以揪出盗链者的网页。
2 E, ]+ c4 \& T% B, `- E2 M' J( \$ x
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
# u! X' M+ t" h' {为访客所使用的浏览器类型（Agent），这里记录了用户使用的操作系统、浏览器型号等信息。 5 J' `" v- K$ B1 x" g5 ^2 c
5 m2 R6 q- H; M, A% D0 L7 `如何分析网站日志中的内容？
; b9 E. s; M- W' }9 @& r6 y
9 H" l8 J; @8 v5 t, R
: c1 I- Y- i8 O0 r2 L9 w8 N1 t
1、注意那些被频繁访问的资源 4 S5 U3 i0 V7 Q; e3 ?, {, D
如果在日志中，你发现某个资源（网页、图片和mp3等）被人频繁访问，那你应该注意该资源被用于何处了！如果这些请求的来源（Referer）不是你的网站或者为空，且状态码（Http Code）为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。 " I. w) n7 d3 s% n2 p; m: P h/ Q
; ?; k0 n. B K' f+ G2 L M
2、注意那些你网站上不存在资源的请求
! P8 W1 k" e$ V: Z6 R如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦！通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。 5 @& ]( M ]8 l6 h
- `) P7 ]% q. A$ O ]4 Y- A0 \
! N4 {% X% S' ~' j
3、观察搜索引擎蜘蛛的来访情况 1 ?, W% `! h; B- L" O7 B, L) \
通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下： $ T$ C+ {0 O$ G+ B0 ]8 p( d% z
Google蜘蛛 ：Mozilla/5.0 （compatible; Googlebot/2.1; +http://www.google.com/bot.html）
7 z( m7 r4 {4 I0 UBaidu蜘蛛 ：Baiduspider+（+http://www.baidu.com/search/spider.htm） . T9 J6 f/ G8 z3 f- X+ Q5 Q9 @7 k/ W
Yahoo！蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp） * U( |# I2 }2 x7 J G
Yahoo！中国蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp China; http://misc.yahoo.com.cn/help.html） : P/ c* U7 v# j( l3 L2 Q% O. m# L. ^
微软Bing蜘蛛 ：msnbot/2.0b （+http://search.msn.com/msnbot.htm）
9 v z; Z1 q9 q$ SGoogle Adsense蜘蛛 ：Mediapartners-Google 3 w, s+ Y5 T5 Z6 s
有道蜘蛛 ：Mozilla/5.0 （compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/） 0 Z* ^9 b, Q& d( P, f
Soso搜搜博客蜘蛛 ：Sosoblogspider+（+http://help.soso.com/soso-blog-spider.htm） 3 K H/ c0 l* @5 o) S. `1 i
Sogou搜狗蜘蛛 ：Sogou web spider/4.0（+http://www.sogou.com/docs/help/webmasters.htm#07） - a9 L' X; u* P" P5 h
Twiceler爬虫程序 ：Mozilla/5.0 （Twiceler-0.9 http://www.cuil.com/twiceler/robot.html）
' I9 I6 S1 k' @$ M1 ~! kGoogle图片搜索蜘蛛 ：Googlebot-Image/1.0
% P) W3 D" o4 ~; N, J+ S俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 （compatible; Win16; I） D/ \$ E5 g" S4 \/ e) R
Alexa蜘蛛 ：ia_archiver （+http://www.alexa.com/site/help/webmasters） 9 {8 P4 @2 d4 ^9 x% H9 G% l5 N
Feedsky蜘蛛 ：Mozilla 5.0 （compatible; Feedsky crawler /1.0）
6 A. I# K' g$ J韩国Yeti蜘蛛：Yeti/1.0 （NHN Corp.; http://help.naver.com/robots/） 2 D5 J6 X4 w$ Q9 Y5 |3 O
- h& g% C) K. Q2 q I
9 L6 O. T/ Y* k5 z) b; F
4、观察访客行为 6 F) I" V, e; l7 J2 p3 F2 O/ y" j
通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好；如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向；通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。 0 a0 e7 S8 n1 R7 k
6 i5 s7 l. h& k3 ?+ s8 Y常用网站日志分析软件有哪些？ $ F& l4 ~( T% R/ U5 b. ?* ^
& l1 ?5 D: C( C2 N5 U" O7 j+ e+ c
5 x, A) X# c* g2 M' w笔者试用过很多网站日志分析工具，常用的并且功能又比较全面的大概有三款：光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。
# t* _- ], W$ w6 N8 ^: f8 R( o$ u1 P6 [4 A7 o
( d9 |# w/ p, p
原文出处链接：http://www.weiaipin.cn/blog/article/31.html
9 o0 A$ c" O* O8 E$ i5 P得知互动论坛原创作者：品哥
/ Y8 b2 }2 A( z( @, ?日期：2015-07-08 |
Ai优选商家寻找本地地推合作伙伴101求项目与合作
拥抱AI搜索新时代！GEO优化成为企业流量增707网络资讯
GEO优化如何让企业流量翻倍？606网络资讯
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡