R - 随机森林和超过53个类别

Question

R - 随机森林和超过53个类别

rrandom-forest

3

我知道，随机森林无法处理超过53个类别。可悲的是，我需要分析数据，其中一个列有165个级别。因此，我想使用随机森林进行分类。

我的问题是，我不能删除这些列，因为这个预测因子真的很重要，被认为是有价值的预测因子。

这个预测因子有165个级别，并且是一个因子。

有没有什么提示可以帮我解决这个问题？既然我们讨论的是电影类型，我一点也不知道该怎么做。

是否有大数据的替代软件包？有特殊的解决方案吗？像这样的东西...

转换到Python不是一个选项。我们这里有太多的R脚本。

非常感谢，祝一切顺利。

str(data) 的输出如下：

'data.frame':   481696 obs. of  18 variables:
 $ SENDERNR          : int  432 1612 735 721 436 436 1321 721 721 434 ...
 $ SENDER            : Factor w/ 14 levels "ARD Das Erste",..: 6 3 4 9 12 12 10 9 9 7 ...
 $ GEPLANTE_SENDUNG_N: Factor w/ 12563 levels "-- nicht bekannt --",..: 7070 808 5579 9584 4922 4922 12492 1933 9584 4533 ...
 $ U_N_PROGRAMMCODE  : Factor w/ 14 levels "Bühne/Aufführung",..: 9 4 8 4 8 8 12 8 4 2 ...
 $ U_N_PROGRAMMSPARTE: Factor w/ 6 levels "Anderes","Fiction",..: 5 3 2 3 2 2 5 2 3 3 ...
 $ U_N_SENDUNGSFORMAT: Factor w/ 29 levels "Bühne / Aufführung",..: 20 9 19 4 19 19 24 19 4 16 ...
 $ U_N_GENRE         : Factor w/ 163 levels "Action / Abenteuer",..: 119 147 115 4 158 158 163 61 4 84 ...
 $ U_N_PRODUKTIONSART: Factor w/ 5 levels "Eigen-, Co-, Auftragsproduktion, Cofinanzierung",..: 1 1 3 1 3 3 1 3 1 1 ...
 $ U_N_HERKUNFTSLAND : Factor w/ 25 levels "afrikanische Länder",..: 16 16 25 16 15 15 16 25 16 16 ...
 $ GEPLANTE_SENDUNG_V: Factor w/ 12191 levels "-- nicht bekannt --",..: 6932 800 5470 9382 1518 9318 12119 1829 9382 4432 ...
 $ U_V_PROGRAMMCODE  : Factor w/ 13 levels "Bühne/Aufführung",..: 9 4 8 4 8 8 12 8 4 2 ...
 $ U_V_PROGRAMMSPARTE: Factor w/ 6 levels "Anderes","Fiction",..: 5 3 2 3 2 2 5 2 3 3 ...
 $ U_V_SENDUNGSFORMAT: Factor w/ 28 levels "Bühne / Aufführung",..: 20 9 19 4 19 19 24 19 4 16 ...
 $ U_V_GENRE         : Factor w/ 165 levels "Action / Abenteuer",..: 119 148 115 4 160 19 165 61 4 84 ...
 $ U_V_PRODUKTIONSART: Factor w/ 5 levels "Eigen-, Co-, Auftragsproduktion, Cofinanzierung",..: 1 1 3 1 3 3 1 3 1 1 ...
 $ U_V_HERKUNFTSLAND : Factor w/ 25 levels "afrikanische Länder",..: 16 16 25 16 15 9 16 25 16 16 ...
 $ ABGELEHNT         : int  0 0 0 0 0 0 0 0 0 0 ...
 $ AKZEPTIERT        : Factor w/ 2 levels "0","1": 2 1 2 2 2 2 1 2 2 2 ...

- Peter

{btsdaf} - Imran Ali

{btsdaf} - Peter

2个回答

3

使用caret包：

random_forest <- train("***dependent variable name***" ~ ., 
                 data = "***your training data set***", 
                 method = "ranger")
 This can handle 53 + categories.

- KarthikPG

网页内容由stack overflow 提供, 点击上面的

可以查看英文原文，
原文链接

- AshOfFire · Accepted Answer

我曾经也遇到过同样的问题，以下是我能列举出来的一些技巧：

切换到另一个算法，例如使用gbm包中的梯度提升算法。您可以处理高达1024个分类级别。如果您的预测变量具有相当有区分度的参数，则还应考虑使用朴素贝叶斯等概率方法。
将您的预测变量转换为虚拟变量，可以通过使用matrix.model来完成。然后，您可以在此矩阵上执行随机森林。
减少因子中级别的数量。好吧，这听起来可能是一个愚蠢的建议，但是查看具有如此“稀疏性”的因子真的很相关吗？您是否可以在更广泛的层面上聚合一些模态？

编辑以添加model.matrix示例

如上所述，以下是使用model.matrix将您的列转换为虚拟变量的示例。

mydf <- data.frame(var1 = factor(c("A", "A", "A", "B", "B", "C")),
                   var2 = factor(c("X", "Y", "X", "Y", "X", "Z")),
                   target = c(1,1,1,2,2,2))
dummyMat <- model.matrix(target ~ var1 + var2, mydf, # set contrasts.arg to keep all levels
                         contrasts.arg = list(var1 = contrasts(mydf$var1, contrasts = F), 
                                             var2 = contrasts(mydf$var2, contrasts = F))) 
mydf2 <- cbind(mydf, dummyMat[,c(2:ncol(dummyMat)]) # just removing intercept column