ARPA语言模型文档

Question

我在哪里可以找到关于ARPA语言模型格式的文档？

我正在使用Pocket Sphinx STT引擎开发简单的语音识别应用程序。由于性能原因，建议使用ARPA语言模型。我想了解如何调整我的语言模型以满足自定义需求。

我找到的只是一些非常简要的ARPA格式描述：

• http://kered.org/blog/2008-08-12/arpa-language-model-file-format/
• http://www.speech.sri.com/projects/srilm/manpages/ngram-format.5.html
• http://www.speech.cs.cmu.edu/SLM/toolkit_documentation.html

作为STT的初学者，我很难理解这些（n-grams等）。我正在寻找更详细的文档。就像JSGF语法文档一样：

http://www.w3.org/TR/jsgf/

- Lukasz

---

我发现这个链接很有用：http://www.speech.sri.com/projects/srilm/manpages/ngram-format.5.html 它描述了n-gram，也称为ARPA或Doug Paul格式。 - Carl

请查看此 MSDN 链接。其中详细解释了 ARPA 和 ARGS 格式 编译语法输入和输出文件格式。 - sbharti

Answer 1

关于这个格式，其实在文档中已经说得很清楚了，没有太多需要补充的。

除此之外，你可能还想准备一个包含样例句子的文本文件，并且基于它生成语言文件。有一个在线版本可以帮助你完成这个过程：lmtool。

- Dariusz

---

尽管如此，它使用某种n-grams、回退等等……这些是什么，我在哪里可以找到更多信息？ - Lukasz

@Lukasz 什么是n-gram？[N个单词的序列]（http://en.wikipedia.org/wiki/N-gram）。回退是可选的。据我所记，概率以log10比例尺表示。 - Dariusz

Backoff是一种估计未出现（在训练期间）的ngram概率的方法。如果高阶ngram不在LM中，则基本上会回退到较低阶ngram。例如，如果遇到不存在的3gram，则回退到2gram。回退权重用于确保联合概率是真实概率，即总和为1。 - 0x5050

@Dariusz，lmtool的链接失效了。是否有其他工具可以构建ARPA语言模型？ - Ridwan

我搜索了一下，找到了这个网址：https://www.npmjs.com/package/lmtool - Dariusz

Answer 2

您可以通过这份技术报告补充了解平滑技术在语言模型中的全面概述：http://www.ee.columbia.edu/~stanchen/papers/h015a-techreport.pdf。您还将找到关于回退模型和插值模型的定义。

- needsaname

Answer 3

我可能回答有点晚了，我在 Steve Young 等人的《HTK 书》中找到了 ARPA LM 格式的详细文档，链接在这里：link。

ARPA 的每一行都是一个三元组，存储以下内容：

n-gram log-probability(base10) ; the n-gram itself ; back-off weight (also in log space). 

- 0x5050