如果你的博客或网站是搭建在付费主机上，如果你是博客或网站的站长，如果你连原始访问日志是什么都不知道，或者对其根本不屑一顾，我只能说你是一个不称职的网站站长，一旦网站出问题，必定是束手无策！相信大家都在自己的网站上安装了网站统计的代码，如Google analytics、量子统计、百度统计、cnzz、51.la等，这些工具可以统计网站的流量，也就是网站**客可以看到的所有页面的访问量，但是这些统计工具都不能统计你主机上资源的原始访问信息，例如某个图片被谁下载了，也不能统计到那些没有添加统计代码的地方，比如后台操作页面。 . ]( p( m6 U/ k0 e& B
绝大多数收费主机都提供原始访问日志，网站服务器会把每一个访客来访时的一些信息自动记录下来，保存在原始访问日志文件中，如果你的主机不提供日志功能，建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息，包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源，同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等，可以说原始访问日志记录了主机的所有资源使用情况。
" M J- m L4 I2 Z8 b. }' |
1 o4 k: `* f9 c分析网站日志有什么作用？ $ L6 T6 q! j3 m2 C& x: L0 ~
7 u) o7 e" G2 y1 U" V1 u! r! I3 @
8 s4 A: P6 E h4 A; D7 o1 e1 C
1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛（此类蜘蛛多以采集为主，会增加我们服务器的开销）点此识别Baiduspider真伪 ； : Y6 T; Y+ n$ n- ]% ?
2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ；
# K8 N9 W2 }' i5 V3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。 / Y% B) F, d% r/ y3 R
# B) E9 E+ ~$ r网站日志文件存放在什么地方？ : j$ W0 G8 h" Q& W2 V) H* W
) y! b# E: K' V3 i8 b1 p. ~0 D5 M
- E1 l' U3 b* X0 g1 N一般的虚拟主机都提供日志文件，但是不同的虚拟主机系统会提供不同的LOG文件存储文件名，笔者使用的是万网的虚拟主机，日志文件存储在wwwlogs文件夹下。
) E0 d5 e, \) d4 S: @0 K1 w% W6 G. q
如何分析网站日志文件
( B, e& v$ z3 n" t6 A& t
0 w5 }: a) N1 ?, u4 @; }, ^% M T) L1 n( H( d# Q0 B
网站日志文件里面的记录怎么看？
0 Y+ i; y: b6 v5 z* \+ f. t. b) U, t* ~
/ w) f2 [" u7 x0 s# P( o& w) h% g
' a- ~$ U7 g1 J3 s! ?3 I原始访问日志每一行就是类似以下的记录：
' e3 y+ R: @8 @116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"% ] j/ y7 G5 {& m5 l F2 o
8 ]6 f9 Z, Q: R
t1 l4 M0 _- E" U
+ B0 d Y: P# E# e7 J1 M下面我们来说说这一行记录的意思：
/ @ h+ t* `" H! V) f
4 `* ~) f+ Q z( L! l4 [0 g( E- Y" M116.231.220.179
* l7 q7 a7 Y# o1 w5 d& @这是访客（也可能是机器人）的IP
2 F1 S, ~: j7 r# r8 a; [: z
$ t% h4 V. @1 H& i[25/Mar/2015:11:21:15 +0800] 5 o/ l; A/ I" O+ i4 |* f
这是访客访问该资源的时间（Date），+0800是该时间所对应的时区，即与格林威治时间相差+8个小时 : l) k8 E- ]6 \# K- g) |- G$ w
8 C& X/ p3 f1 A, t
"GET /blog/article/10.html HTTP/1.1" - `% U) E* p6 p; }" f
请求信息，包括请求方式、所请求的资源以及所使用的协议，该语句的意思就是以GET方式，按照HTTP/1.1协议获取网页/blog/article/10.html，10html为网站上的某个页面。
& R4 V, ~, q9 }+ e* ?3 r- n0 X6 O" D' x; K" a5 h [# {7 Y, e, @" E
200 8671
6 v$ f6 p3 F3 [5 H. _) W% w& V200为该请求返回的状态码（Http Code），不同的状态码代表不同的意思，具体请阅读 HTTP 状态代码；8671为此次请求所耗费的流量（Size in Bytes），单位为byte
' ~0 |5 u( U' t, q: ~' [8 s- O6 k
8 @5 L* p; P, P. g, I* @' S"htt p://www. weiaipin .cn/" . V* F9 c, V4 ?% W/ r N; ~
为访客来源（Referer）。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页，有可能是来自搜索引擎的搜索页等。通过这条来源信息，你可以揪出盗链者的网页。 5 ?* V" c) t# G: ^7 e: x9 c
/ h: _+ q9 W3 v, U! ^0 I
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
; c* @; v+ P& H* K2 C为访客所使用的浏览器类型（Agent），这里记录了用户使用的操作系统、浏览器型号等信息。
3 u& P W, }1 y- Y8 C4 |% d3 @! U5 k, Z+ Z
如何分析网站日志中的内容？ T( H: N; \' M3 W) R8 d
' L1 S( m3 ?* I- `' j. s
0 w" M: j3 w: g
1、注意那些被频繁访问的资源
% ]8 `/ r5 t; n如果在日志中，你发现某个资源（网页、图片和mp3等）被人频繁访问，那你应该注意该资源被用于何处了！如果这些请求的来源（Referer）不是你的网站或者为空，且状态码（Http Code）为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。
; Q' g5 p. s$ Z5 {
M( @( M% |2 b& L5 \6 n# H2、注意那些你网站上不存在资源的请求 2 f8 P K) ]) `
如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦！通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。 2 }/ t8 i0 i' b
( W3 @ k) r: ?0 ?' q
g8 b2 @% E) E& f7 [3、观察搜索引擎蜘蛛的来访情况
* o2 a7 G* t9 X5 t: e通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下： & z7 }: ^+ [6 ^% G
Google蜘蛛 ：Mozilla/5.0 （compatible; Googlebot/2.1; +http://www.google.com/bot.html）
5 l' l& \& c0 H& fBaidu蜘蛛 ：Baiduspider+（+http://www.baidu.com/search/spider.htm）
7 e& ]. S- M" [7 t9 b; JYahoo！蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp） / d( A5 S: I$ ~
Yahoo！中国蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp China; http://misc.yahoo.com.cn/help.html） 7 i7 g z# B! W+ f8 V
微软Bing蜘蛛 ：msnbot/2.0b （+http://search.msn.com/msnbot.htm） / Q7 @" ?8 W c7 T/ o; A; W) b
Google Adsense蜘蛛 ：Mediapartners-Google % O6 E% H* ?" E4 Z% U R7 d$ U
有道蜘蛛 ：Mozilla/5.0 （compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/） 3 C! p+ a' D1 o) @ I/ A1 K: k
Soso搜搜博客蜘蛛 ：Sosoblogspider+（+http://help.soso.com/soso-blog-spider.htm）
1 `3 H7 g7 a+ F$ j# rSogou搜狗蜘蛛 ：Sogou web spider/4.0（+http://www.sogou.com/docs/help/webmasters.htm#07） - l8 H& D: X/ v: z0 P; O/ a
Twiceler爬虫程序 ：Mozilla/5.0 （Twiceler-0.9 http://www.cuil.com/twiceler/robot.html） ( I$ v6 } G' k# u U
Google图片搜索蜘蛛 ：Googlebot-Image/1.0
4 R4 V9 p, W% i' ~& e; f T _俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 （compatible; Win16; I） % k. U# n" H$ U$ i
Alexa蜘蛛 ：ia_archiver （+http://www.alexa.com/site/help/webmasters）
& _# u6 ~: F5 ~8 K H& a6 N3 bFeedsky蜘蛛 ：Mozilla 5.0 （compatible; Feedsky crawler /1.0）
$ r$ ]* h0 V: O& D4 f. Q韩国Yeti蜘蛛：Yeti/1.0 （NHN Corp.; http://help.naver.com/robots/）
6 `: X: {( V6 p- S8 X) A$ L8 ]1 |' b' W0 N) }
# j4 X7 @7 D( E4 {
4、观察访客行为
V2 B/ V: w1 M) E, V! ]1 g# y! W9 V通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好；如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向；通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。
# y! \! P. u7 y: Z6 z# W7 s6 n8 V$ O& X( b! n( o8 h
常用网站日志分析软件有哪些？ ; @' r( V7 O% ~8 s" u2 I
( w/ Z' y" _0 _; o' J% o) d
x5 e, @* H( t, L, J- i/ I
笔者试用过很多网站日志分析工具，常用的并且功能又比较全面的大概有三款：光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。
. G6 u* U$ p8 F! ~
- L& `# M4 v7 x3 _% \: K
( s: V6 t) y# d3 x: [原文出处链接：http://www.weiaipin.cn/blog/article/31.html
( q* b" x8 o2 A4 J' R# o' z4 S( {得知互动论坛原创作者：品哥( j) B# p2 L, g' x' T. ]
日期：2015-07-08 |
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
