中文搜索引擎技术揭密:网络蜘蛛
来源:互联网 发布:探险家时光相册软件 编辑:程序博客网 时间:2024/05/21 09:47
随着搜索经济的崛起,人们开始越加关注全球各大搜索引擎的性能、技术和日流量。作为企业,会根据搜索引擎的知名度以及日流量来选择是否要投放广告等;作为普通网民,会根据搜索引擎的性能和技术来选择自己喜欢的引擎查找资料;作为学者,会把有代表性的搜索引擎作为研究对象……
而作为一个网站的 经营者,其更关心的或许是如何通过网络载体让更多的网民知道自己的网站,进而获得更高的流量和知名度。这其中,搜索引擎已经成了一个重要的且是**的宣传 途径。一方面,搜索引擎会主动出击,寻找网络上的各种网页数据,并在后台按相关条件进行索引;另一方面,各大网站为了能让自己的内容更多的通过搜索引擎向 网民展示,都开始对网站结构进行重大调整,其中包括扁平化结构设计、动态(网页)转静态(网页)、Sitemap等。
这些看来不经意的举动都让我们切身感受到搜索引擎对我们网络使用方式的改变起到了重要作用。并且,正因为搜索引擎的兴起以及社会各界对其重视程 度日渐高涨,还由此创造了一个全新的职位——SEO。实际上,搜索引擎经济的崛起,又一次向人们证明了网络所蕴藏的巨大商机。网络离开了搜索将只剩下空洞 杂乱的数据,以及大量等待去费力挖掘的金矿。
搜索引擎一直专注于提升用户的体验度,其用户体验度则反映在三个方面:准、全、快。用专业术语讲是:查准率、查全率和搜索速度(即搜索耗时)。 其中最易达到的是搜索速度,因为对于搜索耗时在1秒以下的系统来说,访问者很难辨别其快慢了,更何况还有网络速度的影响。因此,对搜索引擎的评价就集中在 了前两者:准、全。中文搜索引擎的“准”,需要保证搜索的前几十条结果都和搜索词十分相关,这需由“分词技术”和“排序技术”来决定;中文搜索引擎的 “全”则需保证不遗漏某些重要的结果,而且能找到最新的网页,这需要搜索引擎有一个强大的网页收集器,一般称为“网络蜘蛛”,也有叫“网页机器人”。
研究搜索引擎技术的文章不少,但大部分讨论的是如何评价网页的重要性,对于网络蜘蛛研究的文章不多。网络蜘蛛技术并不是一项十分高深的技术,但 要做一个强大的网络蜘蛛,却非易事。在目前磁盘容量已经不是瓶颈的时候,搜索引擎一直在扩大自己的网页数量。最大的搜索引擎Googlehttp: //www.google.com)从2002年的10亿网页增加到现在近40亿网页;最近雅虎搜索引擎http: //search.yahoo.com/)号称收录了45亿个网页;国内的中文搜索引擎百度http://www.baidu.com)的中文页面从两年 前的七千万页增加到了现在的两亿多。据估计,整个互联网的网页数达到100多亿,而且每年还在快速增长。因此一个优秀的搜索引擎,需要不断的优化网络蜘蛛 的算法,提升其性能。
或许有些人有疑问,为何搜索引擎需要用网络蜘蛛抓取网站所有的网页,为什么不在搜索者输入关键词后只把那些需要的结果抓取过来?这实际上是效率问题,搜索引擎不可能在搜索时实时去检查每个网页,而是需要把网页先抓取下来,按照关键词建立好索引,每次搜索的结果都会直接从搜索引擎建立好索引的数据库中查找,然后把结果返回给访问者。关于搜索引擎系统架构方面的知识,参考文献[3],本文主要介绍网络蜘蛛的相关技术。
网络蜘蛛基本原理
网络蜘蛛即Web Spider,是一个很形象的名字。把互联网比喻成一个蜘蛛网,那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页,从 网站某一个页面(通常是首页)开始,读取网页的内容,找到在网页中的其它链接地址,然后通过这些链接地址寻找下一个网页,这样一直循环下去,直到把这个网 站所有的网页都抓取完为止。如果把整个互联网当成一个网站,那么网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来。
对于搜索引擎来说,要抓取互联网上所有的网页几乎是不可能的,从目前公布的数据来看,容量最大的搜索引擎也不过是抓取了整个网页数量的百分之四 十左右。这其中的原因一方面是抓取技术的瓶颈,无法遍历所有的网页,有许多网页无法从其它网页的链接中找到;另一个原因是存储技术和处理技术的问题,如果 按照每个页面的平均大小为20K计算(包含图片),100亿网页的容量是100×2000G字节,即使能够存储,下载也存在问题(按照一台机器每秒下载 20K计算,需要340台机器不停的下载一年时间,才能把所有网页下载完毕)。同时,由于数据量太大,在提供搜索时也会有效率方面的影响。
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- 中文搜索引擎技术揭密:网络蜘蛛
- Sqlite中文排序研究
- UIScrollView添加AutoLayout约束的坑
- intent 的URI功能示例总汇
- hdoj ztr loves substring 5677 (多重背包+母函数)好题
- 单击图片刷新验证码
- 中文搜索引擎技术揭密:网络蜘蛛
- Android开发笔记之简易画画板的制作
- MSM搭建(Memcached_Session_Manager)--解决集群session共享
- 数据储存(二)及共享
- 有A,B,C三个学生,一个出生在北京,一个出生在上海,一个出生在广州。他们中一个学物理专业,一个学数学专业,一个学计算机。其中(1)A不是学物理的,B不是学计算机的;(2)学物理的不出生在上海;(3)
- $.ajax({})方法success,error,complete,beforeSend使用例子及解释
- register 类型修饰符
- 心情很乱
- Exercise(18):排列(有限制条件)