Lucene API使用方法与和性能优化

1 lucene简介
 1.1 什么是lucene
 Lucene是一个全文搜索框架,而不是应用产品。因此它并不像百度或者google Desktop那么拿来就能用,它只是提供了一种工具让你能实现这些产品。
 
1.2 lucene能做什么
 要回答这个问题,先要了解lucene的本质。实际上lucene的功能很单一,说到底,就是你给它若干个字符串,然后它为你提供一个全文搜索服务,告诉你你要搜索的关键词出现在哪里。知道了这个本质,你就可以发挥想象做任何符合这个条件的事情了。你可以把站内新闻都索引了,做个资料库;你可以把一个数据库表的若干个字段索引起来,那就不用再担心因为“%like%”而锁表了;你也可以写个自己的搜索引擎……
 
1.3 你该不该选择lucene
 下面给出一些测试数据,如果你觉得可以接受,那么可以选择。
 测试一:250万记录,300M左右文本,生成索引380M左右,800线程下平均处理时间300ms。
 测试二:37000记录,索引数据库中的两个varchar字段,索引文件2.6M,800线程下平均处理时间1.5ms。


IndexWriter writer = new IndexWriter(“/data/index/”, new StandardAnalyzer(), true);
 Document doc = new Document();
 doc.add(new Field(“title”, ”lucene introduction”, Field.Store.YES, Field.Index.TOKENIZED));
 doc.add(new Field(“content”, ”lucene works well”, Field.Store.YES, Field.Index.TOKENIZED));
 writer.addDocument(doc);
 writer.optimize();
 writer.close();
 
下面我们分析一下这段代码。
 首先我们创建了一个writer,并指定存放索引的目录为“/data/index”,使用的分析器为StandardAnalyzer,第三个参数说明如果已经有索引文件在索引目录下,我们将覆盖它们。
 然后我们新建一个document。
 我们向document添加一个field,名字是“title”,内容是“lucene introduction”,对它进行存储并索引。
 再添加一个名字是“content”的field,内容是“lucene works well”,也是存储并索引。
 然后我们将这个文档添加到索引中,如果有多个文档,可以重复上面的操作,创建document并添加。
 添加完所有document,我们对索引进行优化,优化主要是将多个segment合并到一个,有利于提高索引速度。
 随后将writer关闭,这点很重要。
 
对,创建索引就这么简单!
 当然你可能修改上面的代码获得更具个性化的服务。
 
5.2 将索引直接写在内存
 你需要首先创建一个RAMDirectory,并将其传给writer,代码如下:
 
Directory dir = new RAMDirectory();
 IndexWriter writer = new IndexWriter(dir, new StandardAnalyzer(), true);
 Document doc = new Document();
 doc.add(new Field(“title”, ”lucene introduction”, Field.Store.YES, Field.Index.TOKENIZED));
 doc.add(new Field(“content”, ”lucene works well”, Field.Store.YES, Field.Index.TOKENIZED));
 writer.addDocument(doc);
 writer.optimize();
 writer.close();
 
5.3 索引文本文件
 如果你想把纯文本文件索引起来,而不想自己将它们读入字符串创建field,你可以���下面的代码创建field:
 
Field field = new Field(“content”, new FileReader(file));
 
这里的file就是该文本文件。该构造函数实际上是读去文件内容,并对其进行索引,但不存储。

相关推荐