返回列表 发新帖

百度蜘蛛的爬行和抓取

357.4k 8
sbdw333 发表于 2015-1-16 21:02:09|湖北 | 查看全部 阅读模式
爬行和抓取是搜索引擎工作的第一步,完成数据收集的任务。* w) N1 |9 r/ d( U
1. 蜘蛛
+ z& b3 l5 w) \9 u( e$ }    搜索引擎用来爬行和访问而面的程序被称为蜘蛛,也称为机器人+ [. G7 _9 ^1 K
搜索引擎蜘蛛访问网站页面时类似于普通用户使用的浏览器,蜘蛛程序发出页面访问请求后,服务器返回HTML代码,蜘蛛程序把收到的代码存入原始页面数据库,搜索引擎为了提高爬行和抓取速度,都使用多个蜘蛛并发布爬行。
8 v0 ~0 n0 p0 B  S8 x- E6 ?  蜘蛛访问任何一个网站时,都会先访问网站根目录下的robots.txt文件,如果robots.txt文件禁止搜索引擎抓取某些文件或目录,蜘蛛将遵守协议,不抓取被禁止访问的网址。& l  C9 D4 c5 c  R7 F
和浏览器一样,搜索引擎蜘蛛也有标明自已身分的代理名称,站长可以在日志文件中看到搜索引擎的特定代理名称,从而辩别搜索引擎蜘蛛。
1 q5 j/ t+ k; U; K: ^% _( N  k3 w* ?1 m: I2 z' }" k
2. 跟踪链接
) b* l% F% H/ O6 x0 G' p, w* w1 [, y    为了抓取网上尽量多的页面,搜索引擎蜘蛛会跟踪页面上的链接,从一个页面爬到下一个页面,就好像蜘蛛在蜘蛛网上爬行那样,这也就是搜索引擎蜘蛛这个名称的由来。, `7 k' V* f/ l) f3 W
整个互联网是由相互链接的网站及页面组成的。从理论上来说 ,蜘蛛从任何一个页面出发,顺着链接都可以爬行到网上的所有页面,当然,由于网站及页面链接结构异常复杂,蜘蛛需要采取一定的爬行策略才能遍历网上所有的页面。
' }* G4 u0 p# _! P2 J( L( m
/ b  Q* x2 v7 i& T/ ^   最简单的爬行遍历策略分为两种,一种是深度优先,另一种是广度优先。1 a( b9 T  `9 \
   所谓深度优先,指的是蜘蛛沿着发现的链接一直向前爬行,直到前面再也没有其他链接,然后返回到第一页面,沿着另一个链接一直往前爬行。
$ }; ]" p) o# B. l
, N, B- Q; r) u9 P   如果2-20所示,蜘蛛跟踪链接,从A页面爬行到A1.A2.A3.A4.到A4页面后,已经没有其它链接可以跟踪就返回A页面,顺着页面上的另一个链接,爬行到B1,B2.B3.B4.在深度优先策略中,蜘蛛一直爬到无法再向前,才返回爬另一条线。
! \4 w0 t" h7 ]; ^7 k1 M' e
2 _6 U) I" n6 h

百度蜘蛛的爬行和抓取

百度蜘蛛的爬行和抓取
4 x+ ]( ?( t0 a2 ]/ v/ M* _

- J& M, u3 E0 @" K   广度优先是指蜘蛛在一个页面上发现多个链接旮,不是顺着一个链接姨直向前,而是把页面上所有第一层链接都爬一遍,然后再沿着第二层页面上发现的链接爬向第三层页面。1 |" t0 Z8 Q. Y
如图2-21所示,蜘蛛从A页面顺着链接爬行到A1,B1,C1页面,直到A1页面上的所有链接都爬行完,然后再从A1页面发现的下一层链接,爬行到A2.A3.A4.……。页面+ l3 q( I" V( B
i

百度蜘蛛的爬行和抓取

百度蜘蛛的爬行和抓取

$ n, _0 w( Y4 z3 W
7 v& M1 b4 C1 S# M& s( O
# b! r- J1 B7 ^( N& T' \    从理论上来说,无论是深度优先还是广度优先,只要给蜘蛛足够的时间,都能爬完整个互联网。在实际工作中,蜘蛛的带宽资源,时间都不是无限的,也不可能爬完所有的页面。实际上最大的搜索引擎也只是爬行和收录了互联网的一小部分。
7 M- I+ ~$ V3 F. }. B  深度优先和广度优先通常是混合使用的,这样即可以照顾到尽量多的网站(广度优先),也能照顾到一部分网站的内页(深度优先)。
9 n$ @& w$ w! O) Q$ }5 e2 I: D0 ?

回复|共 8 个

bqtklouu 发表于 2015-9-10 15:01:28|美国 | 查看全部
今天没事来逛逛
alapScady 发表于 2015-9-10 15:02:42|Reserved | 查看全部
正好你开咯这样的帖
bqtklouu 发表于 2015-9-10 15:02:57|欧洲和中东地区 | 查看全部
哈哈 小心被她看见哦~~~~
alapScady 发表于 2015-12-9 19:25:06|新西兰 | 查看全部
我在顶贴~!~
Acropozelan 发表于 2015-12-9 19:25:07|北美地区 | 查看全部
注:偶是女滴,千真万确,毋庸置疑!
GoodyFouppy 发表于 2015-12-9 19:25:20|英国 | 查看全部
终于看完了~~~
tohme 发表于 2015-12-9 19:25:31|Reserved | 查看全部
哈哈 ok ~~~
wwzcdenleclv 发表于 2015-12-9 19:26:37|美国 | 查看全部
哎 怎么说那~~

回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

得知互动是一个融创意、设计、开发、营销、生活、互联网于一体的专业交流分享平台。
Copyright © 2026 得知互动-专注Ai与站长技术交流社区-Ai交流平台 版权所有 All Rights Reserved. Powered by Discuz! X5.0 鄂ICP备15006301号-5|鄂公网安备 42018502006730号
关灯 在本版发帖 扫一扫添加QQ客服 返回顶部
快速回复 返回顶部 返回列表