R语言机器学习系列-决策树多分类代码
作者:互联网
采用决策树解决多分类问题的代码与解决二分类问题的代码类似,也是构建初始树、后剪枝、输出变量重要性、树形图、预测几个步骤。差别在于,决策树预测多分类问题的具体分类是直接采用predict函数,将type设置为class即可,这样得到的就是各个样本的具体预测类别。当然也可以将type设置为prob,从而得到预测概率,该预测概率可以用于后续计算多分类的AUC。
关于多分类问题的ROC,可以将结果拆分为多个一vs.其他的形式,从而得到多条经过转化的二分类的ROC曲线,这些曲线可以采用叠加的方式放到一张图上。
# 构建模型
set.seed(42) # 固定交叉验证结果
fit_dt_clsm <- rpart(
form_clsm,
data = traindata,
method = "class", # 分类模型
parms = list(split = "information"), # 分裂规则
control = rpart.control(cp = 0.005) # 复杂度参数
)
# 原始分类树
fit_dt_clsm
# 复杂度相关数据
printcp(fit_dt_clsm)
plotcp(fit_dt_clsm)
# 后剪枝
fit_dt_clsm_pruned <- prune(fit_dt_clsm, cp = 0.01)
print(fit_dt_clsm_pruned)
# 变量重要性
fit_dt_clsm_pruned$variable.importance
barplot(fit_dt_clsm_pruned$variable.importance)
# 变量重要性图示
varimpdata <- data.frame(importance = fit_dt_clsm_pruned$variable.importance)
ggplot(varimpdata,
aes(x
标签:分类,机器,预测,代码,ROC,type,决策树 来源: https://blog.csdn.net/Mrrunsen/article/details/123195442