如何使用AdaBoost提升基于Keras的神经网络？
假设我为一个二元分类问题拟合了以下神经网络： Assuming I fit the following neural network for a binary classification problem:model = Sequential() model.add(Dense(21, inp...
如何访问xgboost中个体决策树的加权值？
我正在使用xgboost进行排名param = {'objective':'rank:pairwise', 'booster':'gbtree'} 我理解的梯度提升是通过计算学习决策树的加权和来实现的。如何访问分配给每个学习增强器的权重？在训练后，我想尝试对权重进行后处理以加速预测步骤，但我不...
如何在R中使用XGBoost算法进行回归？
我尝试使用XGBoost技术进行预测。由于我的因变量是连续的，所以我正在使用XGBoost进行回归，但各个门户网站上提供的大多数参考资料都是用于分类。虽然我知道可以通过调整参数来使其适用于回归问题，但我希望能够找到一些更专门针对回归问题的参考资料。objective = "reg:linear...
如何在elasticsearch函数得分中提高字段长度规范？
我知道elasticsearch在计算查询检索到的文档的得分时会考虑字段的长度。字段越短，权重就越高(见字段长度规范)。 我喜欢这种行为：当我搜索iphone时，我更感兴趣的是iphone 6而不是Crappy accessories for: iphone 5 iphone 5s iphon...
XGBoost中的特征重要性“增益”
我希望了解xgboost中“增益”计算特征重要性的方法。根据https://towardsdatascience.com/be-careful-when-interpreting-your-features-importance-in-xgboost-6e16132588e7的说法，“增益”是...
“valid deviance”对于GBM模型为NaN，这是什么意思以及如何解决？
我正在使用梯度提升进行分类。虽然结果正在改善，但在validdeviance中我得到了NaN。Model = gbm.fit( x= x_Train , y = y_Train , distribution = "bernoulli", n.trees = GBM_NTREES...
实现自己的梯度提升算法
我正在尝试编写自己的梯度提升算法。我知道有现成的包，例如gbm和xgboost，但我想通过编写自己的算法来理解其工作原理。我正在使用iris数据集，我的输出是Sepal.Length (连续型)。我的损失函数是 mean(1/2*(y-yhat)^2)（基本上是带有1/2的均方误差），因此相应...
将XGBClassifier模型转储为文本
我用XGBBoost训练了一个多标签分类模型，并想在另一个系统中编写此模型的代码。 是否可以通过在XGB Booster中使用dump_model方法来查看XGBClassifier模型的文本输出。 编辑： 我发现 model._Booster.dump_model(outputfile)...
需要帮助在lightGBM中实现自定义损失函数(零膨胀对数正态损失)。
我正在尝试在LightGBM中实现基于这篇论文（https://arxiv.org/pdf/1912.07753.pdf）第5页的零膨胀对数正态损失函数。但是，坦率地说，我不知道该如何做。我不理解如何获取该函数的梯度和海森矩阵以便在LGBM中实现它，而且我以前从未需要实现过自定义损失函数。 ...