什么是弱学习器？
我想比较不同分类器的错误率与弱学习算法（优于随机猜测的）的错误率。所以，我的问题是，有哪些简单易处理的弱学习算法可供选择？或者，我是否理解了该概念，弱学习算法只是我选择的任何基准（例如线性回归）？
使用scikit-learn（或任何其他Python框架）的多种回归器集成
我正在尝试解决回归任务。我发现3个模型对不同的数据子集都很有效：LassoLARS、SVR和梯度树提升。我注意到，当我使用这三个模型进行预测，然后制作一个“真实输出”和我的三个模型的输出表格时，每次至少有一个模型非常接近真实输出，虽然另外两个可能相对较远。 当我计算最小可能误差（如果我为每个...
sklearn.ensemble.AdaBoostClassifier无法将SVM作为基本估计器接受？
我正在进行一个文本分类任务。现在我想使用ensemble.AdaBoostClassifier，并将LinearSVC作为base_estimator。然而，当我尝试运行代码时clf = AdaBoostClassifier(svm.LinearSVC(),n_estimators=50, l...
使用sklearn投票集成和部分拟合
请问有人能告诉我如何使用sklearn中的集成方法（ensembles），并使用partial fit功能？我不想重新训练我的模型。或者，我们是否可以传递预先训练好的模型进行集成？我发现例如投票分类器（voting classifier）不支持使用partial fit进行训练。
如何在sklearn中的GradientBoostingClassifier中处理分类变量？
我正在尝试使用类别变量训练 GradientBoostingClassifier 模型。 以下是一个简单的代码示例，仅用于尝试将分类变量输入到 GradientBoostingClassifier 中。from sklearn import datasets from sklearn.ens...
使用PyTorch并行运行多个模型的集成模型
我的神经网络有以下结构： input -> 128x (separate fully connected layers) -> output averaging 我正在使用ModuleList来保存全连接层的列表。目前看起来是这样的： class MultiHead(nn....
Adaboost的自定义学习器函数
我正在使用Adaboost来拟合一个分类问题。我们可以进行如下操作： ens = fitensemble(X, Y, 'AdaBoostM1', 100, 'Tree') 现在 'Tree' 是学习器，我们可以把它改为 'Discriminant' 或 'KNN'。每个学习器都使用特定的...
R Caret包错误-至少有一个类别级别不是有效的R变量名称。
使用caret包进行堆叠时，我在R中收到以下错误信息。 "错误：至少一个类别级别不是有效的R变量名；这将在生成类别概率时导致错误，因为变量名将转换为not5，X5sets。请使用可用作有效R变量名的因子级别（请参见?make.names以获取帮助）." 下面是我正在尝试运行的代码。 ...
为什么我的VotingClassifier的准确度低于单个分类器？
我想创建一个分类器（随机森林、支持向量机和XGBoost）的集成，使用scikit-learn中的VotingClassifier()。但是，我发现集成的准确率实际上会降低而不是提高。我搞不清原因。 以下是代码: from sklearn.ensemble import VotingCla...
如何合并具有相同输入的Keras序列模型？
我正在尝试在keras中创建我的第一个集成模型。我的数据集中有3个输入值和一个输出值。 from keras.optimizers import SGD,Adam from keras.layers import Dense,Merge from keras.models import Se...