绘制决策树分类器

Question

在我的数据集中，我有一个二进制的目标变量（0或1）和8个特征：nchar，rtc，Tmean，week_day，hour，ntags，nlinks和nex。week_day是一个因子变量，而其他变量是数值型的。我试图构建一个决策树分类器：

library(caTools)
set.seed(123)
split = sample.split(dataset$Target, SplitRatio = 0.75)
training_set = subset(dataset, split == TRUE)
test_set = subset(dataset, split == FALSE)

# Feature Scaling
training_set[-c(2,4)] = scale(training_set[-c(2,4)])
test_set[-c(2,4)] = scale(test_set[-c(2,4)])

# Fitting Decision Tree Classification to the Training set
# install.packages('rpart')
library(rpart)
classifier = rpart(formula = Target ~ .,
                   data = training_set)

# Predicting the Test set results
y_pred = predict(classifier, newdata = test_set[-2], type = 'class')

# Making the Confusion Matrix
cm = table(test_set[, 2], y_pred)

plot(classifier, uniform=TRUE,margin=0.2)

绘图结果如下：

我有三个问题不知道答案：

1. 为什么在图表中有些变量缺失？（例如，rtc）
2. week_day 中的 aefg 是什么意思？
3. 是否有一种方法可以描述不同类别（Target 变量的 0 和 1）之间的差异？例如：在 Target=1 中，我们有所有具有 nchar>0.19 和 ntags>1.9 的行，等等。

- Mark

Answer 1

这里有一份关于如何获取包rpart中数据的说明：

library(rpart)   # for decision tree
library(rattle)  # to do a nicer plot

 progstat <- factor(stagec$pgstat, levels = 0:1, labels = c("No", "Prog"))
 cfit     <- rpart(progstat ~  age + eet + g2 + grade + gleason + ploidy,
                   data = stagec,
                   method ='class')

问题1：为什么有些变量不在模型中？
因为这些变量对你的模型没有用处，或者更好地说，你告诉模型不要在参数cp（默认值=0.01）下获取变量。
查看文档中的cp参数：

(...) 本质上，用户向程序提供了任何未通过cp改善拟合的分割都可能被交叉验证修剪掉的信息，因此程序无需继续追求它。

我认为文档比我更好地从技术上解释了这个问题。如果我要用简单的话来解释，cp参数设置了节点“效用”的基线。如果节点由一个无用的变量组成，则会被削减，因此无用的（即：变量在模型中没有进一步信息）变量不会出现。尝试在您的模型中设置参数，您将看到它如何改变。在我的情况下，eet变量不在模型中。
发送此内容：

 summary(cfit)
Call:
rpart(formula = progstat ~ age + eet + g2 + grade + gleason + 
    ploidy, data = stagec, method = "class")
  n= 146 

          CP nsplit rel error    xerror      xstd
1 0.10493827      0 1.0000000 1.0000000 0.1080241
2 0.05555556      3 0.6851852 1.0555556 0.1091597
3 0.02777778      4 0.6296296 0.9629630 0.1071508
4 0.01851852      6 0.5740741 0.9629630 0.1071508
5 0.01000000      7 0.5555556 0.9814815 0.1075992

Variable importance
     g2   grade gleason  ploidy     age     eet 
     30      28      20      13       7       2 

(... it continues...)

你可以看到eet是最不重要的。 问题2：在week_day中，aefg是什么意思？ 它表示分割由左侧的某些week_day和右侧的某些week_day组成。它应该是一个分类变量。 尝试使用这个，而不是经典的图表：

fancyRpartPlot(cfit, caption = NULL)

你可以看到ploid和tetraploid被发送到左侧，另一个被发送到右侧。从这里开始：

（...）树的排列方式使“更严重”的节点向右移动

问题3：有没有一种方法来描述不同的类别（目标变量的0与1）？
在这种情况下，变量是progstat，但您可以将解释运输到您的变量中。
这就是我通常在图中阅读这些结果的方式：

查看第一个节点（最重要的）：它告诉我们63％是“否”，37％是“prog”（表示是）。该节点覆盖了100％的人口。

第二个最重要的节点是2，接受的变量是grade<2.5。否则，您将进入第三个节点。

如果你向左走，你将拥有42%的人口。这部分人口的标签是No，但其中85%的人实际上是No，其他人标签错误。
TL;DR
这意味着“总人口被分为No和Prog，分别占63%和27%。如果变量grade小于2.5，则在我们的数据中，模型表示42%的人口具有该grade值，并且在这42%中，其中85%的人结果为No。可能grade和因变量“no”的结果有关。”通过这种方式，您可以检查绘图中的所有节点，并使用summary()查看最重要的模式。

在您的绘图中，您可以说：“如果ntags>1.952并且nchar<0.1449，则我的结果为0。”

- s__

---

你好！感谢您的回答。我对如何阅读框中的内容有疑问。让我们看看节点3。如果变量“grade”>= 2.5，则模型表示在数据中，58％的人口具有该等级，并且在这58％中，其中47％的人已经获得了Prog的结果。是这样吗？也就是说，左边的数字是否指的是节点顶部的类别（在这种情况下为Prog）？ - Mark

欢迎！在节点3中，您拥有原始人口的58％。在这58％中，最高百分比（62％）给出标签，此处为Prog。标签由最高百分比确定。 - s__

抱歉，您是指53％吗？（节点3包含0.47和0.53） - Mark

抱歉，是的，用智能手机写得有些马虎！ - s__