随机森林模型是一组决策树,您可以使用varUsed
函数获取树使用的变量。如果您正在使用caret,则需要设置keep.forest=TRUE
:
library(caret)
set.seed(111)
X = matrix(runif(2000),ncol=20)
colnames(X) = paste0("col",1:20)
y = rnorm(100)
fitted <- train(x = X,y = y,trControl = trainControl(method="cv"),
keep.forest=TRUE,tuneGrid = data.frame(mtry=3:5))
我们来看一下所使用的变量,下表告诉您每个变量(行)在每棵树(列)中使用的次数:
model <-fitted$finalModel
varUsed(model,by.tree=TRUE)
dim(varUsed(model,by.tree=TRUE))
[1] 20 500
head(varUsed(model,by.tree=TRUE))
[,1] [,2] [,3] [,4] [,5] [,6] [,7] [,8] [,9] [,10] [,11] [,12] [,13] [,14]
[1,] 1 3 1 4 1 2 2 2 2 2 1 0 3 2
[2,] 2 4 2 2 3 3 1 4 1 3 1 4 0 4
[3,] 3 1 5 1 1 0 2 2 0 1 2 1 2 1
[4,] 4 0 2 3 1 0 2 1 4 2 1 2 1 1
[5,] 0 0 1 0 1 4 3 2 2 2 3 4 0 0
[6,] 1 2 1 3 2 2 2 1 1 1 1 1 2 3
您可以使用以下方式详细检查此内容:
head(getTree(model,1,labelVar=TRUE))
left daughter right daughter split var split point status prediction
1 2 3 col13 0.9651637 -3 0.04972823
2 4 5 col13 0.5825061 -3 -0.05466984
3 0 0 <NA> 0.0000000 -1 2.55528193
4 6 7 col6 0.8524606 -3 -0.30132135
5 8 9 col16 0.8011010 -3 0.51518018
6 10 11 col3 0.3629737 -3 -0.45289996
如果我们将“split var”列制成表格,我们会得到与之前表格相同的结果。