如果你的博客或网站是搭建在付费主机上，如果你是博客或网站的站长，如果你连原始访问日志是什么都不知道，或者对其根本不屑一顾，我只能说你是一个不称职的网站站长，一旦网站出问题，必定是束手无策！相信大家都在自己的网站上安装了网站统计的代码，如Google analytics、量子统计、百度统计、cnzz、51.la等，这些工具可以统计网站的流量，也就是网站**客可以看到的所有页面的访问量，但是这些统计工具都不能统计你主机上资源的原始访问信息，例如某个图片被谁下载了，也不能统计到那些没有添加统计代码的地方，比如后台操作页面。 & F! g: F; \7 y# c5 ?. m
绝大多数收费主机都提供原始访问日志，网站服务器会把每一个访客来访时的一些信息自动记录下来，保存在原始访问日志文件中，如果你的主机不提供日志功能，建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息，包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源，同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等，可以说原始访问日志记录了主机的所有资源使用情况。
8 s2 n; g ~% X* a4 |8 ?: ~
- w3 D9 S1 \: ]% Y. i" t分析网站日志有什么作用？
9 [2 M% A) K* \; _) `* a5 L) `
2 A; r1 z$ Z- [; K
% t* _8 x+ v2 a5 `' U6 s+ C6 _
1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛（此类蜘蛛多以采集为主，会增加我们服务器的开销）点此识别Baiduspider真伪 ；
$ {: t A) S2 N* p. k$ q0 `3 U2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ； 5 {# Y5 B$ i! n1 }, ~
3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。 1 T; S: |& H. B) x
* d: j9 Z; x3 _, H# X
网站日志文件存放在什么地方？
2 p7 h4 S+ t4 Z- `
A: l0 H0 f) m# V8 l9 K
/ @; z' Y+ h$ v. L% @0 ^6 ^* Z( p一般的虚拟主机都提供日志文件，但是不同的虚拟主机系统会提供不同的LOG文件存储文件名，笔者使用的是万网的虚拟主机，日志文件存储在wwwlogs文件夹下。
* X5 u W7 K/ a; _
如何分析网站日志文件
1 e+ G; | \: x3 q
. U3 j* k& t- z% X: L2 g+ |9 B6 q _* m& d5 u
网站日志文件里面的记录怎么看？ / D! F- m5 B2 g
+ I! T6 T; x% [
. z: n5 @) n1 [) o
原始访问日志每一行就是类似以下的记录： / U$ y) Z" `4 K* X
116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"' P, d1 x- y) k. O4 Z
! b' u2 ~5 k+ G, F+ R1 U7 o
1 {" w. ~" `+ J, i: z; V/ e7 ^( b
7 d+ ?! w+ G1 B下面我们来说说这一行记录的意思：
! Z5 k; f' q. Q+ Q
8 U+ a* @$ i K7 b: Q+ m116.231.220.179
. l; b4 L. B9 q9 M; W这是访客（也可能是机器人）的IP 4 o/ a0 g; I' ^+ c* ?
/ i) l; S/ D# F* g
[25/Mar/2015:11:21:15 +0800] " D2 I" a( z5 _, H3 D* d; A
这是访客访问该资源的时间（Date），+0800是该时间所对应的时区，即与格林威治时间相差+8个小时 9 ] r& A) a2 \; u1 _9 |
; m# N: T1 L ^" r7 H"GET /blog/article/10.html HTTP/1.1" * |; b5 p- g, g5 z
请求信息，包括请求方式、所请求的资源以及所使用的协议，该语句的意思就是以GET方式，按照HTTP/1.1协议获取网页/blog/article/10.html，10html为网站上的某个页面。
- _$ d+ `5 d) x
; H. a i1 m5 i* X4 b& o' C3 E200 8671
: p( v: x8 `% `200为该请求返回的状态码（Http Code），不同的状态码代表不同的意思，具体请阅读 HTTP 状态代码；8671为此次请求所耗费的流量（Size in Bytes），单位为byte ! o U0 Q7 A2 z j
: k2 m! o8 Q# I"htt p://www. weiaipin .cn/"
9 U# b7 k+ D2 \/ N为访客来源（Referer）。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页，有可能是来自搜索引擎的搜索页等。通过这条来源信息，你可以揪出盗链者的网页。 / R$ U# w) h. ]8 X0 E. Q! I$ a) P
, t0 f4 t N' w4 Y) R"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)" 7 c0 b& e. g0 {6 J/ U, Y0 E
为访客所使用的浏览器类型（Agent），这里记录了用户使用的操作系统、浏览器型号等信息。 # Z- D- O# O) c0 f
* Z1 E! U6 ]0 h1 a% r4 ]& Y% g+ o如何分析网站日志中的内容？
, @9 j% F( [* N- `6 d
$ M. y% K" [6 y5 T: M0 y/ C
; c) s B; ]" ~" Y( ?) h% K K1、注意那些被频繁访问的资源
/ _, U) L3 j) Q7 P+ K7 L1 H0 E如果在日志中，你发现某个资源（网页、图片和mp3等）被人频繁访问，那你应该注意该资源被用于何处了！如果这些请求的来源（Referer）不是你的网站或者为空，且状态码（Http Code）为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。
3 T3 F% u; p; t! b8 w* V
4 G$ H. _7 b* C+ q2 H5 m; l2、注意那些你网站上不存在资源的请求
) e; y5 b1 ]- @4 Y3 `如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦！通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。 " D J8 @) U4 L0 I
9 y( |! e3 X! Y ?7 {
; p+ n0 r+ b6 Q8 o3、观察搜索引擎蜘蛛的来访情况 9 U. o) c, f( b( b# N4 G" q$ }
通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下： / X. R7 k1 a' f, S* u6 p
Google蜘蛛 ：Mozilla/5.0 （compatible; Googlebot/2.1; +http://www.google.com/bot.html）
8 {7 `) h6 D! K4 yBaidu蜘蛛 ：Baiduspider+（+http://www.baidu.com/search/spider.htm）
/ M8 B9 H: r" L5 K+ [Yahoo！蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp） ( |' R) l+ g" l# p7 T6 c
Yahoo！中国蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp China; http://misc.yahoo.com.cn/help.html）
; }: g' C+ z* g) O8 O3 X微软Bing蜘蛛 ：msnbot/2.0b （+http://search.msn.com/msnbot.htm）
% C7 B; M$ o; c$ @+ rGoogle Adsense蜘蛛 ：Mediapartners-Google
! L* J, u2 {. k5 ]" b& |( `( N有道蜘蛛 ：Mozilla/5.0 （compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/） 1 _# n! P* `" q9 s$ z! e( M
Soso搜搜博客蜘蛛 ：Sosoblogspider+（+http://help.soso.com/soso-blog-spider.htm）
. k% ~# [% o+ [; ]) E& ZSogou搜狗蜘蛛 ：Sogou web spider/4.0（+http://www.sogou.com/docs/help/webmasters.htm#07）
6 X$ U% \7 U$ y% dTwiceler爬虫程序 ：Mozilla/5.0 （Twiceler-0.9 http://www.cuil.com/twiceler/robot.html） 7 z! o- E# o% J8 a8 \3 F
Google图片搜索蜘蛛 ：Googlebot-Image/1.0
, v p4 ^, w& }/ J$ i, v$ J* ~俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 （compatible; Win16; I）
) z: Y; y Q G! d: ~" Z( `Alexa蜘蛛 ：ia_archiver （+http://www.alexa.com/site/help/webmasters） & r; a2 r; H* P
Feedsky蜘蛛 ：Mozilla 5.0 （compatible; Feedsky crawler /1.0） 0 K' e+ I. b J e. @# v3 ~+ L
韩国Yeti蜘蛛：Yeti/1.0 （NHN Corp.; http://help.naver.com/robots/）
% C0 S# X" ]- M/ A+ O# e$ w' S6 N% F7 g8 E
* s( k) t: @9 R) q, f1 u" K1 y. a2 u$ R* N \7 N `: L/ U
4、观察访客行为 J7 r& {" J( @% B9 j* j3 d
通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好；如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向；通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。
- F- S( e% ~ S% I4 j* Z* S, t8 v; \% R- n, i7 X
常用网站日志分析软件有哪些？
( T% {( S6 l5 ^7 e2 {3 I. W6 |8 F% A
: D, [$ w3 v- a) c
笔者试用过很多网站日志分析工具，常用的并且功能又比较全面的大概有三款：光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。 ' s5 A6 g" J$ K- W- e u: x
; q, A" s4 G$ E
. L: M; ^6 F% |- }6 y原文出处链接：http://www.weiaipin.cn/blog/article/31.html
8 {) a, x/ S; k! Q! K" ~得知互动论坛原创作者：品哥
5 y% m. l7 v5 \8 u7 e/ U日期：2015-07-08 | 
