如果你的博客或网站是搭建在付费主机上，如果你是博客或网站的站长，如果你连原始访问日志是什么都不知道，或者对其根本不屑一顾，我只能说你是一个不称职的网站站长，一旦网站出问题，必定是束手无策！相信大家都在自己的网站上安装了网站统计的代码，如Google analytics、量子统计、百度统计、cnzz、51.la等，这些工具可以统计网站的流量，也就是网站**客可以看到的所有页面的访问量，但是这些统计工具都不能统计你主机上资源的原始访问信息，例如某个图片被谁下载了，也不能统计到那些没有添加统计代码的地方，比如后台操作页面。 . `) E2 a7 ` Y
绝大多数收费主机都提供原始访问日志，网站服务器会把每一个访客来访时的一些信息自动记录下来，保存在原始访问日志文件中，如果你的主机不提供日志功能，建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息，包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源，同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等，可以说原始访问日志记录了主机的所有资源使用情况。 - m! C$ g) C. q1 ^; l% l- S
* g& g" r- ]" C
分析网站日志有什么作用？ . |( B# e/ i2 ^& s
* T. H1 R- ]& A# s
, M. E: H- P6 O* @1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛（此类蜘蛛多以采集为主，会增加我们服务器的开销）点此识别Baiduspider真伪 ； $ K1 t$ ^$ q4 g
2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ；
! b5 o: C" l2 n K( ~3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。
8 v5 j4 H0 H; [9 `# ^0 w% ~
/ `- c# n1 I2 Y网站日志文件存放在什么地方？ $ g" Q0 U! Q- J8 M
. s1 s0 w) v0 Q0 X$ v6 {
; n$ K) Y! z( E& D+ {/ L" @7 _! L
一般的虚拟主机都提供日志文件，但是不同的虚拟主机系统会提供不同的LOG文件存储文件名，笔者使用的是万网的虚拟主机，日志文件存储在wwwlogs文件夹下。 / b4 W% q' `3 i$ b
如何分析网站日志文件
& v2 C0 {: X, M# t
+ R Y( |. x6 K+ l: L v0 k, ~5 A G' |8 x4 N; ^# A
网站日志文件里面的记录怎么看？ ( O& \/ m( H4 ~; n* G
8 { r4 F3 s0 f; e- F
, }! N9 O( T7 u
原始访问日志每一行就是类似以下的记录： * T7 z- Z& B3 I# u# o/ O9 R2 @
116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
& t, I- `4 S; K/ K) ^+ O! U9 U
, |$ ^8 ~6 r8 F' {2 U
( F" W- C) w& v9 i) E
下面我们来说说这一行记录的意思：
" j5 X9 q4 j0 E
! ^/ c/ ~. z9 |$ `& `3 ^116.231.220.179
( O. f% E1 K" |5 h0 b% c5 g这是访客（也可能是机器人）的IP # Z9 {) h( A; \, [
c( n* V) G" \! T4 Y2 h[25/Mar/2015:11:21:15 +0800]
+ z3 H6 c* e5 f9 w这是访客访问该资源的时间（Date），+0800是该时间所对应的时区，即与格林威治时间相差+8个小时 " s3 f$ S1 X/ k- c) F
$ \7 ^3 P% f% R+ B' M
"GET /blog/article/10.html HTTP/1.1" : Q6 M3 n. t3 r$ ~
请求信息，包括请求方式、所请求的资源以及所使用的协议，该语句的意思就是以GET方式，按照HTTP/1.1协议获取网页/blog/article/10.html，10html为网站上的某个页面。
8 A( r$ m* y# d3 P( ?8 g3 n! t# w0 U2 ~ o4 U) {* K
200 8671
8 U# n: d1 x5 V9 M( m. y; N" n7 u5 ~) p200为该请求返回的状态码（Http Code），不同的状态码代表不同的意思，具体请阅读 HTTP 状态代码；8671为此次请求所耗费的流量（Size in Bytes），单位为byte ( a: S D& ]$ O' \- v- S/ ^
8 [3 T% z B# {) {. n3 K"htt p://www. weiaipin .cn/"
, ]* p4 F; N+ m为访客来源（Referer）。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页，有可能是来自搜索引擎的搜索页等。通过这条来源信息，你可以揪出盗链者的网页。 7 X8 H( q; R- S5 j1 S0 T9 z1 Q. V
6 L2 {0 f9 ]) u, A& d
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)" $ n' B0 r% F0 A: @* N( j1 n/ W+ e; h2 F
为访客所使用的浏览器类型（Agent），这里记录了用户使用的操作系统、浏览器型号等信息。
% _# \/ B/ T! w1 A3 t7 j3 T C1 o4 D' }9 K% X" A0 F
如何分析网站日志中的内容？
+ u% y, R, D/ s! j8 n' S) ?/ i6 d e- x5 w3 g$ S E6 A" T$ ~; E
1 U3 H) S. l$ l$ K. L( A1、注意那些被频繁访问的资源
) z x. L% {8 N% I/ l& H如果在日志中，你发现某个资源（网页、图片和mp3等）被人频繁访问，那你应该注意该资源被用于何处了！如果这些请求的来源（Referer）不是你的网站或者为空，且状态码（Http Code）为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。
; `2 B7 y7 G' y7 {$ w8 F" g! L7 e# D: N3 d0 K7 D
2、注意那些你网站上不存在资源的请求 ( O2 d. N' f. b+ X/ ~; y L3 K
如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦！通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。
& n& i7 d6 u. ~: x/ M5 ~4 }* ^' ?8 c& H% b# T
& z' H/ u9 w9 |$ C$ Y3、观察搜索引擎蜘蛛的来访情况 9 w9 V! ]0 \# m4 c5 U
通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下：
' X$ J' O3 [$ j: e3 WGoogle蜘蛛 ：Mozilla/5.0 （compatible; Googlebot/2.1; +http://www.google.com/bot.html） . _1 B# ^( j: G. C1 v" x
Baidu蜘蛛 ：Baiduspider+（+http://www.baidu.com/search/spider.htm） ) Y" D8 f& G5 W) U9 g4 L
Yahoo！蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp） $ q% }4 Z7 J" M3 A
Yahoo！中国蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp China; http://misc.yahoo.com.cn/help.html） 3 Q3 j/ ^/ Y( q: u6 j" K6 j0 J* I
微软Bing蜘蛛 ：msnbot/2.0b （+http://search.msn.com/msnbot.htm） 2 a$ O3 ?( M8 f* e, C
Google Adsense蜘蛛 ：Mediapartners-Google 9 j1 V3 W6 c/ B; J) A
有道蜘蛛 ：Mozilla/5.0 （compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/）
, A" h$ {+ J$ q' ?" p- NSoso搜搜博客蜘蛛 ：Sosoblogspider+（+http://help.soso.com/soso-blog-spider.htm）
, |, ~ m1 c+ S2 p5 ~Sogou搜狗蜘蛛 ：Sogou web spider/4.0（+http://www.sogou.com/docs/help/webmasters.htm#07）
2 K! o) [- {$ u: M$ Q) I4 s. y8 @Twiceler爬虫程序 ：Mozilla/5.0 （Twiceler-0.9 http://www.cuil.com/twiceler/robot.html）
l' @! a8 Y% f" H5 P! gGoogle图片搜索蜘蛛 ：Googlebot-Image/1.0 3 ~: z/ M+ j+ ^: ~" ^4 G
俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 （compatible; Win16; I）
/ J. G) D7 \+ q- f! z/ v! ]' hAlexa蜘蛛 ：ia_archiver （+http://www.alexa.com/site/help/webmasters）
8 A* {( `* G4 B6 E5 C" h/ C9 CFeedsky蜘蛛 ：Mozilla 5.0 （compatible; Feedsky crawler /1.0）
1 D/ H4 J% u* v韩国Yeti蜘蛛：Yeti/1.0 （NHN Corp.; http://help.naver.com/robots/） % d+ n! z% K9 o' u! p
: d! H2 s3 U& C P$ B( T
/ \4 b9 X& M, s8 U0 C* w4 m4、观察访客行为 b) \& k( Z5 K$ v4 f' s
通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好；如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向；通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。
$ R% z# p4 L5 H: V1 T
1 B3 m0 T5 r# t/ i( q0 ^3 h* Y常用网站日志分析软件有哪些？ % K7 R% B+ c) Y# {5 d
1 l8 n% E8 L3 B5 m7 g
; h( {8 a- e4 x4 b3 U9 P
笔者试用过很多网站日志分析工具，常用的并且功能又比较全面的大概有三款：光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。 " c# q8 f$ O4 f; i
. a U* b L% Z- e" b D4 O6 P; n$ u
+ ~/ g7 ?6 b; I5 L' v! I% t5 K$ X原文出处链接：http://www.weiaipin.cn/blog/article/31.html
) N+ y" @& a7 }5 J# {" A得知互动论坛原创作者：品哥
/ j9 `. g, f# K6 Z/ q0 G: z日期：2015-07-08 | 
