如果你的博客或网站是搭建在付费主机上，如果你是博客或网站的站长，如果你连原始访问日志是什么都不知道，或者对其根本不屑一顾，我只能说你是一个不称职的网站站长，一旦网站出问题，必定是束手无策！相信大家都在自己的网站上安装了网站统计的代码，如Google analytics、量子统计、百度统计、cnzz、51.la等，这些工具可以统计网站的流量，也就是网站**客可以看到的所有页面的访问量，但是这些统计工具都不能统计你主机上资源的原始访问信息，例如某个图片被谁下载了，也不能统计到那些没有添加统计代码的地方，比如后台操作页面。
3 s, r# I1 W1 u3 W0 h4 ]* h绝大多数收费主机都提供原始访问日志，网站服务器会把每一个访客来访时的一些信息自动记录下来，保存在原始访问日志文件中，如果你的主机不提供日志功能，建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息，包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源，同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等，可以说原始访问日志记录了主机的所有资源使用情况。
$ _' r T& U4 C6 y2 g% l! B0 V$ T0 t
分析网站日志有什么作用？ 2 N9 ~" A5 B6 y4 b) ^0 ]; |
% G, Z% r' f9 B
4 e3 r: e. v" z
1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛（此类蜘蛛多以采集为主，会增加我们服务器的开销）点此识别Baiduspider真伪 ；
9 f& w# `, J( G% ?( S2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ；
( z% U1 ?9 m9 N3 v* X% X# R3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。
0 T8 M2 W4 _& s, ~6 s+ {( w* k: d: Q% G$ I
网站日志文件存放在什么地方？
/ O j. q" x9 C& K7 q$ J8 |! ?! B0 I. g
7 o, V* e3 v& O+ ^. t* Q7 n一般的虚拟主机都提供日志文件，但是不同的虚拟主机系统会提供不同的LOG文件存储文件名，笔者使用的是万网的虚拟主机，日志文件存储在wwwlogs文件夹下。
6 e' t. Z8 Y) t
如何分析网站日志文件
& S) Y1 x' s( p# `
j9 [( q Y" [, W) s
7 S5 E1 A! L2 s. A网站日志文件里面的记录怎么看？
8 p( y4 W$ K* w- F0 p v& u, M% F- r
" H, X- ^1 y7 W: F+ A. r
4 U, H+ A# F$ d" f2 ?+ ^原始访问日志每一行就是类似以下的记录：
+ ?* }. j% L+ Q$ W1 o+ L, X116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"3 J; Q" p7 \' R$ Z ~3 S& \
6 {. E5 N: L9 l2 i
4 ~& }1 e' l& {3 j% q1 s+ C
S4 b1 {) Q$ S" J# _下面我们来说说这一行记录的意思：
8 o0 }) W9 h- C2 {* `1 r Q) ^1 N
* x" r: E* v( A/ r5 z4 y. f116.231.220.179 8 N& G8 J& j n1 N- c! l, z
这是访客（也可能是机器人）的IP $ j5 W$ x; R0 i. p
4 t' ?- `9 M" A+ T4 f3 y[25/Mar/2015:11:21:15 +0800] 2 f& j* A; K0 Z* [6 ?( a; u
这是访客访问该资源的时间（Date），+0800是该时间所对应的时区，即与格林威治时间相差+8个小时 ; f Y& r# ?. B5 p! u! {
" m( D* \9 O# ~ t"GET /blog/article/10.html HTTP/1.1" / p; A5 \7 F) z
请求信息，包括请求方式、所请求的资源以及所使用的协议，该语句的意思就是以GET方式，按照HTTP/1.1协议获取网页/blog/article/10.html，10html为网站上的某个页面。 5 z* Q7 _( _. \; A( n8 Y
% V& _9 U+ D( @% X
200 8671
8 n: n5 U V( H# R9 w V3 ~200为该请求返回的状态码（Http Code），不同的状态码代表不同的意思，具体请阅读 HTTP 状态代码；8671为此次请求所耗费的流量（Size in Bytes），单位为byte w) v1 Q; \" C+ L
+ e4 B6 `' U. w3 p"htt p://www. weiaipin .cn/" u; K& ~0 B8 X6 m( `" W
为访客来源（Referer）。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页，有可能是来自搜索引擎的搜索页等。通过这条来源信息，你可以揪出盗链者的网页。 % O3 ~2 r6 e- e5 z
v. x3 P0 b! U) Q$ T ?5 n/ h"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
1 c' G; |& I+ h' y/ A. t; ~为访客所使用的浏览器类型（Agent），这里记录了用户使用的操作系统、浏览器型号等信息。
* O" L" k1 F$ v( B! `
' @, E+ e% c4 W6 X' I+ q% k如何分析网站日志中的内容？ " V4 }2 @ A4 A+ ~- w" z
2 G) j" Y0 V5 q. s, n( C9 c1 r, k
( B1 w3 X, c5 e: n1、注意那些被频繁访问的资源
; w$ i7 K8 T( N* f: t6 `如果在日志中，你发现某个资源（网页、图片和mp3等）被人频繁访问，那你应该注意该资源被用于何处了！如果这些请求的来源（Referer）不是你的网站或者为空，且状态码（Http Code）为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。
' ]- J4 ?: ]+ q( a
R9 R3 s8 Q) F' X# ]) w& P+ a/ v2、注意那些你网站上不存在资源的请求
' V; v# C& i3 C; r- E: g如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦！通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。 ) }) c! e4 k5 _
) F" ?. Y# M# q. z
& s6 }- H- A/ b( _5 D" Y+ v
3、观察搜索引擎蜘蛛的来访情况
8 H3 s8 u U4 H5 S$ ^通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下： 8 n& \! E) M" B& j6 c
Google蜘蛛 ：Mozilla/5.0 （compatible; Googlebot/2.1; +http://www.google.com/bot.html）
( Q3 S* @; H! V# [Baidu蜘蛛 ：Baiduspider+（+http://www.baidu.com/search/spider.htm） 4 s2 w% E( s, ]/ |, ? T
Yahoo！蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp）
$ t% {" @# B6 H# W: ~) Q @! vYahoo！中国蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp China; http://misc.yahoo.com.cn/help.html）
, o6 V1 j! i) o) i3 g3 B3 Y微软Bing蜘蛛 ：msnbot/2.0b （+http://search.msn.com/msnbot.htm）
" r9 O, s/ P2 d" ~" p( TGoogle Adsense蜘蛛 ：Mediapartners-Google ! ?0 L- T# l% z( A9 s, K& x7 Z
有道蜘蛛 ：Mozilla/5.0 （compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/） . U) f) b$ E9 u) U
Soso搜搜博客蜘蛛 ：Sosoblogspider+（+http://help.soso.com/soso-blog-spider.htm） / o1 \7 f8 W1 W; q; U% G9 n
Sogou搜狗蜘蛛 ：Sogou web spider/4.0（+http://www.sogou.com/docs/help/webmasters.htm#07） 5 @3 I) s, E s7 @& l
Twiceler爬虫程序 ：Mozilla/5.0 （Twiceler-0.9 http://www.cuil.com/twiceler/robot.html）
, q3 F) t, \2 M5 F2 bGoogle图片搜索蜘蛛 ：Googlebot-Image/1.0
( l! ?4 T) b A* V# t/ _俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 （compatible; Win16; I） ! ~% B+ T: ]; P7 \
Alexa蜘蛛 ：ia_archiver （+http://www.alexa.com/site/help/webmasters） 1 s1 [3 {( e2 z7 J" x* t
Feedsky蜘蛛 ：Mozilla 5.0 （compatible; Feedsky crawler /1.0）
# Z. o- v9 v1 Z* @! O4 H( F韩国Yeti蜘蛛：Yeti/1.0 （NHN Corp.; http://help.naver.com/robots/） ) i7 E& Z3 G Z, E8 G1 N# @! h
@" Z0 M2 q& ]8 W: W
) U5 n$ l7 l s' h
4、观察访客行为 # A$ P7 r% Q2 K) C1 E; j$ g
通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好；如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向；通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。 ; j' R( u+ `) \, H! {' {
# v" [/ e9 l3 M# ? |7 y8 `
常用网站日志分析软件有哪些？
* r6 @/ S0 C1 T' n
. x/ }4 l# I4 [& y8 M( s& g
- E1 [; u# h0 ^. w4 `笔者试用过很多网站日志分析工具，常用的并且功能又比较全面的大概有三款：光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。
2 N% p' p( Q5 Z
9 {& `& s! D5 d* B, _* Q- }: ?# W# n! w x( T8 J$ e/ b8 j7 I
原文出处链接：http://www.weiaipin.cn/blog/article/31.html @3 L' N1 K# Z0 M1 h3 I1 x5 y1 A
得知互动论坛原创作者：品哥
, P$ L8 q" r: Q1 f8 f日期：2015-07-08 |
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
