基于web搜索引擎的与实现学位论文.docx

基于web搜索引擎的与实现学位论文.docx

《基于web搜索引擎的与实现学位论文.docx》由会员分享，可在线阅读，更多相关《基于web搜索引擎的与实现学位论文.docx（28页珍藏版）》请在冰豆网上搜索。

基于web搜索引擎的与实现学位论文

本科毕业论文（设计、创作）

题目：

基于Web搜索引擎的设计与实现

DesignandImplementationofWeb-basedsearchengine

学生姓名：

杨卫中学号：

0802115

所在院系：

信息与通信技术系专业：

电子信息工程

入学时间：

2008年9月

导师姓名：

雷迎科职称/学位：

博士

导师所在单位：

信息与通信技术系

完成时间：

2012年5月

安徽三联学院教务处制

摘要

网络中的资源非常丰富，但是如何有效的搜索信息却是一件困难的事情。

建立搜索引擎就是解决这个问题的最好方法。

本文首先详细介绍了基于英特网的搜索引擎的系统结构，然后从网络机器人、索引引擎、Web服务器三个方面进行详细的说明。

在次基础上设计并实现了一种快捷高效的新闻搜索引擎，该搜索引擎是从指定的Web页面中按照超连接进行解析、搜索，并把搜索到的每条新闻进行索引后加入数据库,然后通过Web服务器接受客户端请求后从索引数据库中搜索出所匹配的新闻。

关键词：

搜索引擎;网络机器人;索引引擎;Web服务器

Abstact

Thenetworkresourcesareveryrich,buthoweffectivesearchinformationisadifficultthing.Buildasearchengineisthebestwaytosolvetheproblem.ThispaperfirstintroducedtheInternetsearchenginebasedonthestructureofthesystem,andthenfromthenetworkrobots,indexingengine,theWebserverofthethreeaspectsofthedetailedinstructions.Basedonthetimedesignedandrealizedaquickandefficientnewssearchengine,thesearchenginefromtheWebpageinaccordancewithspecifiedintheconnectionforanalytical,search,andthesearchtoeverynewsindexingofaddtothedatabase.ThenthroughtheWebserveracceptclientrequestsfromdatabasesearchindexafterthenewsofthematch.

Keywords:

searchengine;Networkrobot;Indexingengine;Webserver

目录

摘要2

目录4

第一章绪论6

1.1搜索引擎出现的背景及意义6

1.2搜索引擎的发展历史及趋势6

第二章搜索引擎的结构9

2.1系统概述9

2.2搜索引擎的构成9

2.2.1网络机器人9

2.2.2索引与搜索9

2.2.3Web服务器10

2.3搜索引擎的主要指标及分析10

2.4小结10

第三章网络机器人11

3.1什么是网络机器人11

3.2网络机器人的结构分析11

3.2.1如何解析HTML11

3.2.2Spider程序结构12

3.2.3如何构造Spider程序13

3.2.4如何提高程序性能15

3.2.5网络机器人的代码分析16

3.3小结18

第四章基于lucene的索引与搜索19

4.1什么是Lucene全文检索19

4.2Lucene的原理分析19

4.2.1全文检索的实现机制19

4.2.2Lucene的索引效率19

4.2.3中文切分词机制21

4.3Lucene与Spider的结合22

4.4小结25

第五章基于Tomcat的Web服务器26

5.1什么是基于Tomcat的Web服务器26

5.2用户接口设计26

5.2.1客户端设计26

5.2.2服务端设计27

5.3在Tomcat上部署项目30

5.4小结30

第六章项目总结以及未来工作展望31

6.1项目总结31

6.2未来工作展望31

参考文献32

致谢33

第一章绪论

1.1搜索引擎出现的背景及意义

网络的出现以及发展对于世界发展的意义是极其重要的，它让地球村的理念变成现实，信息的传输不再受到时间和空间的限制。

在没有搜索引擎的时代，用户希望寻找某方面的信息，就必须通过各种途径或者是网站之间的连接寻找，可以这样说，脱离了搜索引擎的网站，就像是信息海洋中的一个一个孤岛，用户必将面临巨大的搜索成本，同时必须付出大量的时间和精力。

搜索引擎的出现改变了上述的现象，它通过程序的自动搜寻并建立索引，将这些信息孤岛联系起来，形成了一张巨大的信息网，并且运用分布式计算的巨大力量，能够让用户从海量数据中摒除垃圾信息，获取想要的知识。

搜索引擎不仅仅是节省了用户的时间，通过挖掉搜寻成本这座墙，它让许许多多的不可能成为可能。

1.2搜索引擎的发展历史及趋势

搜索经历了三代的更新和发展:

第一代搜索引擎出现于1994年。

这类搜索引擎一般都索引少于1，000，000个网页，极少重新搜集网页并去刷新索引。

而且其检索速度非常慢，一般都要等待10秒甚至更长的时间。

第二代搜索出现在1996年。

这类搜索引擎系统大多采用分布式方案（多个微型计算机协同工作）来提高数据规模、响应速度和用户数量，它们一般都保持一个大约50,000,000网页的索引数据库，每天能够响应10,000,000次用户检索请求。

第三代搜索引擎年代的划分和主要特性至今没有统一的认识，不过至少可以肯定的是：

第三代搜索引擎是对第二代搜索引擎在搜索技术上的改进，主要增加了互动性和个性化等高级的技术，为用户使用搜索引擎获取信息获得更好的体验。

至于互动性的评价标准是什么，以及第三代搜索引擎到底比第二代搜索引擎增加了多少价值——尤其是为企业利用搜索引擎开展网络营销增加了哪些价值，目前并没有非常令人信服的研究结论。

这也就是目前所谓的第三代搜索引擎并没有表现出太多优势的原因之一。

现在，网络上有很多著名的搜索引擎，XX，google等等，XX从2005年诞生到现在成为全球最大的中文搜索引擎，可想而知，发展的速度是多么的快，人们对搜索引擎的的需求是多么的大，XX的日点击率我无法在找到确切的数字，但是我们可以计算一下，截至2008年底，中国网民规模达到2.98亿人，每个网民上网点击XX的次数应该不少于十次吧，像我们要在XX上找资料的网名点击率百次不止，所以XX的日点击率是多么惊人。

搜索引擎经过几年的发展和摸索，越来越贴近人们的需求，搜索引擎的技术也得到了很大的发展。

搜索引擎在将来的的发展趋势大概有以下几个方面：

1.提高对用户输入的理解

为了提高搜索引擎对用户检索提问的理解，就必须有一个好的检索提问语言，为了克服关键词检索和目录查询的缺点，现在已经出现了自然语言智能答询。

用户可以输入简单的疑问句，比如“howcankillvirusofcomputer?

”。

搜索引擎在对提问进行结构和内容的分析之后，或直接给出提问的答案，或引导用户从几个可选择的问题中进行再选择。

自然语言的优势在于，一是使网络交流更加人性化，二是使查询变得更加方便、直接、有效。

就以上面的例子来讲，如果用关键词查询，多半人会用“virus”这个词来检索，结果中必然会包括各类病毒的介绍、病毒是怎样产生的等等许多无效信息，而用“howcankillvirusofcomputer?

”，搜索引擎会将怎样杀病毒的信息提供给用户，提高了检索效率。

2.对检索的结果进行处理

对检索的结果处理，有以下几个方向：

其一，使用链接评价，就是将网页的链接数量算作网页评分因素之一，这样搜索的结果就更加的能够满足用户的要求，在这个方面google（）的“链接评价体系”已经做出了相当出色的成绩。

其二，使用大众访问性，就是将访问数量（也可以叫做点击数量）算作网页评分的因素之一，这样想这样的网站的分数会很高，而这样的网站很多时候都是用户想找的，这样能够提高搜索引擎的准确率。

其三，去掉结果中的附加信息。

有调查指出，过多的附加信息加重了用户的信息负担，为了去掉这些过多的附加信息，可以采用用户定制、内容过滤等检索技术。

3.确定搜集返回，提高针对性

在这个方面现在的发展的方向是：

其一，垂直主题搜索。

垂直主题的搜索引擎以其高度的目标化和专业化在各类搜索引擎中占据了一系席之地，比如象股票、天气、新闻等类的搜索引擎，具有很高的针对性，用户对查询结果的满意度较高。

其二，非www信息的搜索。

搜索引擎提供了例如ftp等非www信息的搜索。

其三，多媒体搜索。

搜索引擎还提供了例如包括声音、图像等等多媒体信息的检索。

4.提供更优化的检索结果

在这个方面有两个主要的发展方向：

其一，纯净搜索引擎。

这类搜索引擎没有自己的信息采集系统，利用别人现有的索引数据库，主要关注检索的理念、技术和机制等。

其二，元搜索引擎。

元搜索引擎（metasearchenging）是将用户提交的检索请求到多个独立的搜索引擎上去搜索，并将检索结果集中统一处理，以统一的格式提供给用户，因此有搜索引擎之上的搜索引擎之称。

它的主要精力放在提高搜索速度、智能化处理搜索结果、个性搜索功能的设置和用户检索界面的友好性上，查全率和查准率都比较高。

第二章搜索引擎的结构

2.1系统概述

搜索引擎是根据用户的查询请求，按照一定算法从索引数据中查找信息返回给用户。

为了保证用户查找信息的精度和新鲜度，搜索引擎需要建立并维护一个庞大的索引数据库。

一般的搜索引擎由网络机器人程序、索引与搜索程序、索引数据库等部分组成。

图1搜索引擎的系统结构

2.2搜索引擎的构成

2.2.1网络机器人

网络机器人也称为“网络蜘蛛”（Spider），是一个功能很强的WEB扫描程序。

它可以在扫描WEB页面的同时检索其内的超链接并加入扫描队列等待以后扫描。

因为WEB中广泛使用超链接，所以一个Spider程序理论上可以访问整个WEB页面。

为了保证网络机器人遍历信息的广度和深度需要设定一些重要的链接并制定相关的扫描策略。

2.2.2索引与搜索

网络机器人将遍历得到的页面存放在临时数据库中，如果通过SQL直接查询信息速度将会难以忍受。

为了提高检索效率，需要建立索引，按照倒排文件的格式存放。

如果索引不及时更新的话，这样用户用搜索引擎也不能检索到。

用户输入搜索条件后搜索程序将通过索引数据库进行检索然后把符合查询要求的数据库按照一定的策略进行分级排列并且返回给用户。

2.2.3Web服务器

客户一般通过浏览器进行查询，这就需要系统提供Web服务器并且与索引数据库进行连接。

客户在浏览器中输入查询条件，Web服务器接收到客户的查询条件后在索引数据库中进行查询、排列然后返回给客户端。

2.3搜索引擎的主要指标及分析

搜索引擎的主要指标有响应时间、召回率、准确率、相关度等。

这些指标决定了搜索引擎的技术指标。

搜索引擎的技术指标决定了搜索引擎的评价指标。

好的搜索引擎应该是具有较快的反应速度和高召回率、准确率，当然这些都需要搜索引擎技术指标来保障。

召回率：

一次搜索结果中符合用户要求的数目与用