得知互动

标题: 如何分析网站日志文件 [打印本页]
作者: swmozowtfl    时间: 2015-7-19 20:49
标题: 如何分析网站日志文件
如果你的博客或网站是搭建在付费主机上，如果你是博客或网站的站长，如果你连原始访问日志是什么都不知道，或者对其根本不屑一顾，我只能说你是一个不称职的网站站长，一旦网站出问题，必定是束手无策！相信大家都在自己的网站上安装了网站统计的代码，如Google analytics、量子统计、百度统计、cnzz、51.la等，这些工具可以统计网站的流量，也就是网站**客可以看到的所有页面的访问量，但是这些统计工具都不能统计你主机上资源的原始访问信息，例如某个图片被谁下载了，也不能统计到那些没有添加统计代码的地方，比如后台操作页面。

# [! c8 @" y' S# J# c$ S+ V* B
绝大多数收费主机都提供原始访问日志，网站服务器会把每一个访客来访时的一些信息自动记录下来，保存在原始访问日志文件中，如果你的主机不提供日志功能，建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息，包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源，同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等，可以说原始访问日志记录了主机的所有资源使用情况。
# y# m2 U# I+ F& g

+ r$ Y, g- a, x- M) b9 h; E
分析网站日志有什么作用？

8 m, G1 e, y' U% Y( }3 C

* f6 D, L+ N; A. g# E

' `/ t" ?: q, J  e5 p. H8 n9 H: j6 F# v
1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛（此类蜘蛛多以采集为主，会增加我们服务器的开销）点此识别Baiduspider真伪 ；

9 w& y9 [" L4 a* d$ m  r2 B8 U
2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ；

0 o- {# X( z$ c% M8 g
3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。
( D6 a0 {& h- P% H

6 M* y) ?" ^* E7 @0 V  W
网站日志文件存放在什么地方？
! L3 c% W+ z# U8 w: q

' u! Y8 N7 Y1 c$ M1 y

- d" D) J( q5 l1 X6 Q' E3 T1 z7 N" U
一般的虚拟主机都提供日志文件，但是不同的虚拟主机系统会提供不同的LOG文件存储文件名，笔者使用的是万网的虚拟主机，日志文件存储在wwwlogs文件夹下。
/ I# v8 w7 Z7 L- d
(, 下载次数: 12)

2 Q6 t/ r9 z& s2 B' s: ]$ h& L6 n6 B/ C0 @1 x3 [5 y: e  l

4 G! R* @9 g8 B  f3 T& s' A8 N) V
网站日志文件里面的记录怎么看？
, H% c4 q( ]5 i8 ~7 v# f
; X: o$ `2 \' s/ P- z
$ V+ {8 B3 Z; E  ~
原始访问日志每一行就是类似以下的记录：

% [$ x$ K$ U9 ?1 v8 g8 w116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"/ C5 w  w1 ]5 H% X  r3 `
) f5 a- |  `/ g6 ]) [) V  V0 W
: f; n( S6 f! F
. X9 j& E) Z" f5 h6 @0 A, r
下面我们来说说这一行记录的意思：

( j% L8 D4 s* `  n; s- I: ^5 F$ |9 I, k" D5 K9 M
116.231.220.179
1 R) |$ r: c1 q, o
这是访客（也可能是机器人）的IP

1 E3 A* ~* ?5 l9 ?( e8 s3 g. e  {' u3 [2 B8 t
[25/Mar/2015:11:21:15 +0800]

( ^+ `- l1 d" R- Y& O5 m
这是访客访问该资源的时间（Date），+0800是该时间所对应的时区，即与格林威治时间相差+8个小时

- N4 S; P! }2 o- T& M# @2 X# y9 E$ ~3 M
"GET /blog/article/10.html HTTP/1.1"

* u0 P! ?3 x. s6 ?  u( D
请求信息，包括请求方式、所请求的资源以及所使用的协议，该语句的意思就是以GET方式，按照HTTP/1.1协议获取网页/blog/article/10.html，10html为网站上的某个页面。
$ ~5 @  ^, n, R
" ~1 ^% T) {. G# Y/ \
200 8671
( }" i7 p, z* I8 x! q
200为该请求返回的状态码（Http Code），不同的状态码代表不同的意思，具体请阅读 HTTP 状态代码；8671为此次请求所耗费的流量（Size in Bytes），单位为byte
0 J" R* ^1 v$ P! F* n( y) |# b9 T/ N
" S1 [- F; F" P! Z
"htt p://www. weiaipin .cn/"

. H2 A7 z) u7 v8 ^6 O5 Z, X% x# K
为访客来源（Referer）。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页，有可能是来自搜索引擎的搜索页等。通过这条来源信息，你可以揪出盗链者的网页。

$ Y( {: z" r9 L2 J4 f; {! D- r$ m, z( y; f3 J. d: W
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"

$ i8 {/ j# G2 G( j  S4 ?2 |7 a$ ]& T! P4 _
为访客所使用的浏览器类型（Agent），这里记录了用户使用的操作系统、浏览器型号等信息。

: T3 r" {! v( U
' G3 [! d* V" j- O9 d
如何分析网站日志中的内容？
% ?! A' j0 e5 F' F: v  h: g
- }4 `) [; K) w: Y9 l' y. Y

+ q7 Z0 K( s) A  n% }
1、注意那些被频繁访问的资源

  j- ~, n: s& W3 F) X7 @
如果在日志中，你发现某个资源（网页、图片和mp3等）被人频繁访问，那你应该注意该资源被用于何处了！如果这些请求的来源（Referer）不是你的网站或者为空，且状态码（Http Code）为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。

4 M+ Y( k$ ?1 Z! X4 Z! e/ m/ R8 |3 j! a  J4 O
2、注意那些你网站上不存在资源的请求
$ ?8 E0 H% f* v7 O( q9 z
如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦！通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。
* o3 [6 A9 E( D# v7 U

; R/ Z  ^' ]/ D  }  J8 x2 o3 ?( I* s/ r9 h) Q
3、观察搜索引擎蜘蛛的来访情况

7 A3 P0 r/ Y- D$ G$ G; x
通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是SEO所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下：
# C4 D5 Y% y+ Y
Google蜘蛛 ：Mozilla/5.0 （compatible; Googlebot/2.1; +http://www.google.com/bot.html）

( `: @( h7 `0 ^) \1 R
Baidu蜘蛛 ：Baiduspider+（+http://www.baidu.com/search/spider.htm）

5 S, ~0 j2 E9 c( P
Yahoo！蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp）
( I$ Z- L$ ^  r9 Q
Yahoo！中国蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp China; http://misc.yahoo.com.cn/help.html）
7 G8 P. C& Y" u" g$ f
微软Bing蜘蛛 ：msnbot/2.0b （+http://search.msn.com/msnbot.htm）
" Z2 O) s; x; U( Y
Google Adsense蜘蛛 ：Mediapartners-Google

* Z. N. H5 d8 b* W! M( n& R
有道蜘蛛 ：Mozilla/5.0 （compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/）
# V+ Z* X" \! h3 e! n
Soso搜搜博客蜘蛛 ：Sosoblogspider+（+http://help.soso.com/soso-blog-spider.htm）

2 c8 s; M! z2 I3 c
Sogou搜狗蜘蛛 ：Sogou web spider/4.0（+http://www.sogou.com/docs/help/webmasters.htm#07）
2 U: O- r6 I8 `# ?+ k0 G  _
Twiceler爬虫程序 ：Mozilla/5.0 （Twiceler-0.9 http://www.cuil.com/twiceler/robot.html）
2 E! B8 o" Z" o1 N' z7 ~4 }+ P' R, t
Google图片搜索蜘蛛 ：Googlebot-Image/1.0

8 f1 u9 \8 @0 z# I& b
俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 （compatible; Win16; I）
2 P9 ^; f: M  [! j; p
Alexa蜘蛛 ：ia_archiver （+http://www.alexa.com/site/help/webmasters）
  Q8 n8 H7 o; L7 f1 Y
Feedsky蜘蛛 ：Mozilla 5.0 （compatible; Feedsky crawler /1.0）

! T' m, w# g3 y6 P3 b" S9 T
韩国Yeti蜘蛛：Yeti/1.0 （NHN Corp.; http://help.naver.com/robots/）
% C! L5 N! k+ i
" i* i  R4 _9 Z; b/ |
: u# H% X( y" C+ d7 I5 S1 I9 h3 \
4、观察访客行为

) b+ U' H& @# Y+ B$ C. u; r
通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好；如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向；通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。

0 Y& d3 a. P0 ?+ f6 A* a7 u
* V) s3 Z# ^3 i. I/ X0 F
常用网站日志分析软件有哪些？

* }6 s/ M6 K# N. E$ r- j

% w, W+ W$ ~" |* d! e2 L0 Q0 l- V. G1 D" _

& F5 O: Z! c# v0 p4 m* k1 B0 }- @
笔者试用过很多网站日志分析工具，常用的并且功能又比较全面的大概有三款：光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。
  Y8 o8 _6 k/ U+ [% e7 T) l
1 _4 D3 r+ @" K+ {7 J
8 Q. Z& X$ a6 g6 b0 w
原文出处链接：http://www.weiaipin.cn/blog/article/31.html' @- L. A( g  r) F" \) A
得知互动论坛原创作者：品哥& _4 g2 g8 S7 Y; ?# M5 j; [% ?  v; `$ X
日期：2015-07-08
作者: Acropozelan    时间: 2015-7-26 13:40
@,@..是什么意思呀？
作者: tohme    时间: 2015-7-26 13:45
这日子没法过了....
作者: GoodyFouppy    时间: 2015-7-26 13:49
下次有人骂我了...我给他还回去..
作者: mwxny    时间: 2015-7-26 13:58
这个得知互动技术交流论坛很不错
作者: effoggikeftor    时间: 2015-12-8 22:25
哎 我我我怎么办啊??
作者: bqtklouu    时间: 2015-12-8 22:26
今天没事来逛逛
作者: GoodyFouppy    时间: 2015-12-8 22:26
我在顶贴~！~
作者: alapScady    时间: 2015-12-8 22:26
到你的~~贴吧收藏~~~我的发言~`找
作者: GoodyFouppy    时间: 2015-12-8 22:27
本人过去、现在以及将来都不认识楼主，且自古以来与楼主无利益关系。楼主表述之事与本人无关
作者: GoodyFouppy    时间: 2017-4-11 14:56
我不是来为楼主呐喊加油的，也不是对楼主进行围堵攻击的。
作者: tohme    时间: 2017-4-11 14:58
感谢党和人民的关爱~~~
作者: wwzcdenleclv    时间: 2017-4-11 14:59
怎么就没人拜我为偶像那??
作者: Mqokjdvq    时间: 2017-4-11 14:59
其实今天baidu 又 抽风了
作者: GoodyFouppy    时间: 2017-4-11 15:03
终于看完了~~~



欢迎光临 得知互动 (https://bbs.dezhifl.com/) Powered by Discuz! X3.4