如何提高spider抓取网站？提高spider抓取策略（2）
<p>上一篇文章中，给大家简单介绍了提高spider抓取网站策略的两大方法，另外还有五个策略接着给分享给大家。<br></p><p>如果没有浏览上篇文章，可以通过以下链接查看：</p><p>【如何提高spider抓取网站？提高spider抓取策略（1）】</p><p> </p><p>提高spider抓取策略有哪些？</p><p>三、多种URL重定向的识别</p><p>为了让spider能够对多种URL重定向的识别，重定向分别有三类：HTTP 30x重定向、Meta refresh重定向和JS重定向。百度目前也支持Canonical标签。</p><p> </p><p>四、抓取优先级调配</p><p>想让搜索引擎抓取网站全部页面，是没有百分百的。所以需要在抓取系统设计抓取优先级调配。</p><p>抓取优先级调配包含：宽度优先遍历策略、PR优先策略、深度优先遍历策略等等。根据实际情况结合多种策略使用完善抓取效果。</p><p> </p><p>五、重复URL的过滤</p><p>网站出现重复的URL过多，会引发被降权。</p><p>重复页面可以使用301重定向，在服务器端对标准URL进行定义。把不标准的URL都301重定向到标准的URL上。</p><p> </p><p>六、暗网数据的获取</p><p>暗网数据指的是搜索引擎无法抓取的数据。主要因为网站上的数据都在网络数据库中，spider很难抓取中获得完整内容；其次网络环境和网站本身不符合规范等问题，导致搜索引擎无法抓取。</p><p>解决暗网数据的问题，可以通过百度站长平台数据提交的方式来解决。</p><p> </p><p>七、抓取反作弊</p><p>Spider在抓取过程中会抓取到低质量页面或者是被黑的页面。通过分析URL特征、页面的大小等等原因，完善的抓取反作弊。</p><p><br></p><p>阅读本文的人还可以阅读：</p><p>301重定向是什么？301重定向怎么做？</p><p class="fleft">百度链接提交工具--四种提交途径</p>
页:
[1]