得知互动

标题: 百度蜘蛛的爬行和抓取 [打印本页]
作者: sbdw333    时间: 2015-1-16 21:02
标题: 百度蜘蛛的爬行和抓取
爬行和抓取是搜索引擎工作的第一步，完成数据收集的任务。
8 k$ `# v+ }8 |1. 蜘蛛: y. Y# A. R9 Q
    搜索引擎用来爬行和访问而面的程序被称为蜘蛛，也称为机器人
) B/ d# N  O. Q搜索引擎蜘蛛访问网站页面时类似于普通用户使用的浏览器，蜘蛛程序发出页面访问请求后，服务器返回HTML代码，蜘蛛程序把收到的代码存入原始页面数据库，搜索引擎为了提高爬行和抓取速度，都使用多个蜘蛛并发布爬行。
$ s/ _; M) d2 U, n8 y  蜘蛛访问任何一个网站时，都会先访问网站根目录下的robots.txt文件，如果robots.txt文件禁止搜索引擎抓取某些文件或目录，蜘蛛将遵守协议，不抓取被禁止访问的网址。
3 ~& ]# P. \0 o 和浏览器一样，搜索引擎蜘蛛也有标明自已身分的代理名称，站长可以在日志文件中看到搜索引擎的特定代理名称，从而辩别搜索引擎蜘蛛。
6 g# t0 v7 b8 G2 S6 F, i0 d$ m) ?$ E
2. 跟踪链接
, e% T* t3 l# Z0 c) P    为了抓取网上尽量多的页面，搜索引擎蜘蛛会跟踪页面上的链接，从一个页面爬到下一个页面，就好像蜘蛛在蜘蛛网上爬行那样，这也就是搜索引擎蜘蛛这个名称的由来。
, ^, L2 C- f8 f+ ]4 j  h 整个互联网是由相互链接的网站及页面组成的。从理论上来说 ，蜘蛛从任何一个页面出发，顺着链接都可以爬行到网上的所有页面，当然，由于网站及页面链接结构异常复杂，蜘蛛需要采取一定的爬行策略才能遍历网上所有的页面。" @% Z3 G" v. [' c/ m
9 S& b7 R# [# _  o4 ]( r& J
   最简单的爬行遍历策略分为两种，一种是深度优先，另一种是广度优先。
* _" h& I* H9 |* q   所谓深度优先，指的是蜘蛛沿着发现的链接一直向前爬行，直到前面再也没有其他链接，然后返回到第一页面，沿着另一个链接一直往前爬行。: O+ r: N0 p/ V: J0 c  E# r+ D

3 p% \, r2 b9 D2 W* ]! ]0 H  D   如果2－20所示，蜘蛛跟踪链接，从A页面爬行到A1.A2.A3.A4.到A4页面后，已经没有其它链接可以跟踪就返回A页面，顺着页面上的另一个链接，爬行到B1,B2.B3.B4.在深度优先策略中，蜘蛛一直爬到无法再向前，才返回爬另一条线。: i! t7 Q, Z0 D7 n3 P7 M0 f( \

! m  U+ i+ F2 O (, 下载次数: 3)
3 ?) [1 h1 j6 M$ k1 s( h
9 z" y0 l6 f+ z& g5 v& }% T   广度优先是指蜘蛛在一个页面上发现多个链接旮，不是顺着一个链接姨直向前，而是把页面上所有第一层链接都爬一遍，然后再沿着第二层页面上发现的链接爬向第三层页面。
& _  }: i. |/ L% |如图2－21所示，蜘蛛从A页面顺着链接爬行到A1,B1,C1页面，直到A1页面上的所有链接都爬行完，然后再从A1页面发现的下一层链接，爬行到A2.A3.A4.……。页面! r) ^: E3 Q3 j; V
i (, 下载次数: 5)
8 G+ G8 O* o  h/ [5 G% Y+ Q
6 i, Z4 J% a- l) e, R( F5 p
  `; I& t% l1 p4 \. ?1 @, h+ r1 P3 I3 V    从理论上来说，无论是深度优先还是广度优先，只要给蜘蛛足够的时间，都能爬完整个互联网。在实际工作中，蜘蛛的带宽资源，时间都不是无限的，也不可能爬完所有的页面。实际上最大的搜索引擎也只是爬行和收录了互联网的一小部分。9 M: j) k7 Y* b4 A1 I  z  Q
  深度优先和广度优先通常是混合使用的，这样即可以照顾到尽量多的网站（广度优先），也能照顾到一部分网站的内页（深度优先）。, _5 Z/ n# |* D; S/ N7 e

, t/ r; C& b& {/ a, {
作者: bqtklouu    时间: 2015-9-10 15:01
今天没事来逛逛
作者: alapScady    时间: 2015-9-10 15:02
正好你开咯这样的帖
作者: bqtklouu    时间: 2015-9-10 15:02
哈哈 小心被她看见哦~~~~
作者: alapScady    时间: 2015-12-9 19:25
我在顶贴~！~
作者: Acropozelan    时间: 2015-12-9 19:25
注:偶是女滴,千真万确,毋庸置疑!
作者: GoodyFouppy    时间: 2015-12-9 19:25
终于看完了~~~
作者: tohme    时间: 2015-12-9 19:25
哈哈 ok ~~~
作者: wwzcdenleclv    时间: 2015-12-9 19:26
哎 怎么说那~~



欢迎光临 得知互动 (https://bbs.dezhifl.com/) Powered by Discuz! X3.4