Lucene txt搜索引擎

Lucene 是一个基于 Java 的全文信息检索工具包，它不是一个完整的搜索应用程序，而是为你的应用程序提供索引和搜索功能。Lucene 目前是 Apache Jakarta 家族中的一个开源项目。也是目前最为流行的基于 Java 开源全文检索工具包。

目前已经有很多应用程序的搜索功能是基于 Lucene 的，比如 Eclipse 的帮助系统的搜索功能。Lucene 能够为文本类型的数据建立索引，所以你只要能把你要索引的数据格式转化的文本的，Lucene 就能对你的文档进行索引和搜索。比如你要对一些 HTML 文档，PDF 文档进行索引的话你就首先需要把 HTML 文档和 PDF 文档转化成文本格式的，然后将转化后的内容交给 Lucene 进行索引，然后把创建好的索引文件保存到磁盘或者内存中，最后根据用户输入的查询条件在索引文件上进行查询。不指定要索引的文档的格式也使 Lucene 能够几乎适用于所有的搜索应用程序。

Lucene 软件包分析

Lucene 软件包的发布形式是一个 JAR 文件，下面我们分析一下这个 JAR 文件里面的主要的 JAVA 包，使读者对之有个初步的了解。

Package: org.apache.lucene.document

这个包提供了一些为封装要索引的文档所需要的类，比如 Document, Field。这样，每一个文档最终被封装成了一个 Document 对象。

Package: org.apache.lucene.analysis

这个包主要功能是对文档进行分词，因为文档在建立索引之前必须要进行分词，所以这个包的作用可以看成是为建立索引做准备工作。

Package: org.apache.lucene.index

这个包提供了一些类来协助创建索引以及对创建好的索引进行更新。这里面有两个基础的类：IndexWriter 和 IndexReader，其中 IndexWriter 是用来创建索引并添加文档到索引中的，IndexReader 是用来删除索引中的文档的。

Package: org.apache.lucene.search

这个包提供了对在建立好的索引上进行搜索所需要的类。比如 IndexSearcher 和 Hits, IndexSearcher 定义了在指定的索引上进行搜索的方法，Hits 用来保存搜索得到的结果。

 

建立索引

为了对文档进行索引，Lucene 提供了五个基础的类，他们分别是 Document, Field, IndexWriter, Analyzer, Directory。下面我们分别介绍一下这五个类的用途：

Document

Document 是用来描述文档的，这里的文档可以指一个 HTML 页面，一封电子邮件，或者是一个文本文件。一个 Document 对象由多个 Field 对象组成的。可以把一个 Document 对象想象成数据库中的一个记录，而每个 Field 对象就是记录的一个字段。

Field

Field 对象是用来描述一个文档的某个属性的，比如一封电子邮件的标题和内容可以用两个 Field 对象分别描述。

Analyzer

在一个文档被索引之前，首先需要对文档内容进行分词处理，这部分工作就是由 Analyzer 来做的。Analyzer 类是一个抽象类，它有多个实现。针对不同的语言和应用需要选择适合的 Analyzer。Analyzer 把分词后的内容交给 IndexWriter 来建立索引。

IndexWriter

IndexWriter 是 Lucene 用来创建索引的一个核心的类，他的作用是把一个个的 Document 对象加到索引中来。

Directory

这个类代表了 Lucene 的索引的存储的位置，这是一个抽象类，它目前有两个实现，第一个是 FSDirectory，它表示一个存储在文件系统中的索引的位置。第二个是 RAMDirectory，它表示一个存储在内存当中的索引的位置。

   实例演示下lucene使用

 

1 导入包lucene-1.4-final.jar

 

2 新建文件夹D:/lucene和D:/lucenedata分别用来存放生成的索引文件和txt搜索文件。

 

3编写建立索引文件

package com;import java.io.File;import java.io.FileReader;import java.io.Reader;import java.util.Date;import org.apache.lucene.analysis.Analyzer;import org.apache.lucene.analysis.standard.StandardAnalyzer;import org.apache.lucene.document.Document;import org.apache.lucene.document.Field;import org.apache.lucene.index.IndexWriter;/** This class demonstrate the process of creating index with Lucene for text files * @author jinchun * */ public class TxtFileIndexer {public static void main(String[] args) throws Exception {// indexDir is the directory that hosts Lucene's index filesFile indexDir = new File("D://lucene");//存放生成的索引文件// dataDir is the directory that hosts the text files that to be indexedFile dataDir = new File("D://lucenedata");//存放要搜索的源文件Analyzer luceneAnalyzer = new StandardAnalyzer();File[] dataFiles = dataDir.listFiles();IndexWriter indexWriter = new IndexWriter(indexDir, luceneAnalyzer,true);long startTime = new Date().getTime();for (int i = 0; i < dataFiles.length; i++) {if (dataFiles[i].isFile()&& dataFiles[i].getName().endsWith(".txt")) {System.out.println("Indexing file "+ dataFiles[i].getCanonicalPath());Document document = new Document();Reader txtReader = new FileReader(dataFiles[i]);document.add(Field.Text("path", dataFiles[i].getCanonicalPath()));document.add(Field.Text("contents", txtReader));indexWriter.addDocument(document);}}indexWriter.optimize();indexWriter.close();long endTime = new Date().getTime();System.out.println("It takes " + (endTime - startTime)+ " milliseconds to create index for the files in directory "+ dataDir.getPath());}}

 

运行结果：

Indexing file D:/lucenedata/111111.txt
Indexing file D:/lucenedata/1jinchun.txt
Indexing file D:/lucenedata/2jinchun.txt
Indexing file D:/lucenedata/3jinchun.txt
Indexing file D:/lucenedata/jinchun.txt
It takes 94 milliseconds to create index for the files in directory D:/lucenedata

 

4 编写检索文件，使用3中生成的索引文件

package com;import java.io.File;import org.apache.lucene.document.Document;import org.apache.lucene.index.Term;import org.apache.lucene.search.Hits;import org.apache.lucene.search.IndexSearcher;import org.apache.lucene.search.TermQuery;import org.apache.lucene.store.FSDirectory;/** * * This class is used to demonstrate the * process of searching on an existing * Lucene index * @author jinchun * */public class TxtFileSearcher {public static void main(String[] args) throws Exception{ String queryStr = "jinchun"; //This is the directory that hosts the Lucene index File indexDir = new File("D://lucene"); FSDirectory directory = FSDirectory.getDirectory(indexDir,false); IndexSearcher searcher = new IndexSearcher(directory); if(!indexDir.exists()){ System.out.println("The jinchun index is not exist"); return; } Term term = new Term("contents",queryStr.toLowerCase()); TermQuery luceneQuery = new TermQuery(term); Hits hits = searcher.search(luceneQuery); for(int i = 0; i < hits.length(); i++){ Document document = hits.doc(i); System.out.println("File: " + document.get("path")); }}}

 

运行结果：

File: D:/lucenedata/1jinchun.txt
File: D:/lucenedata/jinchun.txt