如何获取Lucene模糊搜索结果的匹配项?

4
使用Lucene模糊搜索时,如何获取匹配的模糊项及其偏移量?
    IndexSearcher mem = ....(some standard code)

    QueryParser parser = new QueryParser(Version.LUCENE_30, CONTENT_FIELD, analyzer);

    TopDocs topDocs = mem.search(parser.parse("wuzzy~"), 1);
    // the ~ triggers the fuzzy search as per "Lucene In Action" 

模糊搜索已经正常工作。如果文档包含词语"fuzzy"或"luzzy",则会进行匹配。我该如何获取哪个词匹配以及它们的偏移量?
我已经确保所有的CONTENT_FIELD都添加了termVectorStored,包括位置和偏移量。

1
你是否在寻找类似这样的东西?http://lucene.apache.org/java/3_0_0/api/contrib-highlighter/index.html - Jared
不,我不是想突出文本;我需要进行进一步的文本处理。在进行进一步的文本处理之前,我需要弄清楚匹配的术语是“fuzzy”还是“luzzy”等,因为这是一个模糊匹配。 - user193116
1个回答

6

这个问题没有直接的解决方法,但是我重新考虑了Jared的建议,并成功地得到了解决方案。

我在这里记录下来,以防其他人遇到相同的问题。

创建一个实现org.apache.lucene.search.highlight.Formatter的类。

public class HitPositionCollector implements Formatter
{
    // MatchOffset is a simple DTO
    private List<MatchOffset> matchList;
    public HitPositionCollector(
    {
        matchList = new ArrayList<MatchOffset>();
    }

    // this ie where the term start and end offset as well as the actual term is captured
    @Override
    public String highlightTerm(String originalText, TokenGroup tokenGroup)
    {
        if (tokenGroup.getTotalScore() <= 0)
        {
        }
        else
        {
            MatchOffset mo= new MatchOffset(tokenGroup.getToken(0).toString(), tokenGroup.getStartOffset(),tokenGroup.getEndOffset());
            getMatchList().add(mo);
        }

        return originalText;
    }

    /**
    * @return the matchList
    */
    public List<MatchOffset> getMatchList()
    {
        return matchList;
    }
}

主要代码

public void testHitsWithHitPositionCollector() throws Exception
{
    System.out.println(" .... testHitsWithHitPositionCollector");
    String fuzzyStr = "bro*";

    QueryParser parser = new QueryParser(Version.LUCENE_30, "f", analyzer);
    Query fzyQry = parser.parse(fuzzyStr);
    TopDocs hits = searcher.search(fzyQry, 10);

    QueryScorer scorer = new QueryScorer(fzyQry, "f");

    HitPositionCollector myFormatter= new HitPositionCollector();

    //Highlighter(Formatter formatter, Scorer fragmentScorer)
    Highlighter highlighter = new Highlighter(myFormatter,scorer);
    highlighter.setTextFragmenter(
        new SimpleSpanFragmenter(scorer)
    );

    Analyzer analyzer2 = new SimpleAnalyzer();

    int loopIndex=0;
    //for (ScoreDoc sd : hits.scoreDocs) {
        Document doc = searcher.doc( hits.scoreDocs[0].doc);
        String title = doc.get("f");

        TokenStream stream = TokenSources.getAnyTokenStream(searcher.getIndexReader(),
                                    hits.scoreDocs[0].doc,
                                    "f",
                                    doc,
                                    analyzer2);

        String fragment = highlighter.getBestFragment(stream, title);

        System.out.println(fragment);
        assertEquals("the quick brown fox jumps over the lazy dog", fragment);
        MatchOffset mo= myFormatter.getMatchList().get(loopIndex++);

        assertTrue(mo.getEndPos()==15);
        assertTrue(mo.getStartPos()==10);
        assertTrue(mo.getToken().equals("brown"));
}

尽管这感觉有点“hackish”(不是你的错,只是感觉应该有更清晰的方法),但这是我找到的唯一可行的实现。谢谢! - Rico Leuthold

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接