使用LDA主题建模信息作为特征，通过SVM进行文本分类。

Question

我希望使用主题建模信息作为输入特征，通过svm分类器进行文本分类。因此，我想知道如何在数据集的训练和测试分区上执行LDA以生成主题建模特征，因为两个分区的语料库不同，这是否可行？

我是否做出了错误的假设？

您能否提供一个使用Scikit Learn的示例来说明如何操作？

- asterix

Answer 1

您的猜测是正确的。您需要在训练数据上训练LDA模型，然后基于该训练好的模型转换训练和测试数据。

因此，您将获得类似以下的结果：

from sklearn.decomposition import LatentDirichletAllocation as LDA
lda = LDA(n_topics=10,...)
lda.fit(training_data)
training_features = lda.transform(training_data)
testing_features = lda.transform(testing_data)

如果我是你，我会使用numpy.hstack或scipy.hstack将LDA特征与Bag of words特征连接起来，如果你的bow特征是稀疏的话。

- Ash

---

我对人们在SVM等算法中使用LDA特征的经验感兴趣。我尝试了几次，发现它们对于手头的问题基本上是无用的 - 性能并没有比仅使用单词/ n-gram特征（如果我没记错的话，我使用单词和2-gram）有所提高。如果没有单词/ n-gram特征，性能真的很差。 - drevicko

尝试在当前版本中使用 n_components 而不是 n_topics。 - Qasem Nick