0003.有监督学习之决策树

发布时间 2023-06-03 09:47:43作者: 興華

一、什么是决策树

决策树(Decision Tree)是有监督学习中的一种算法,并且是一种节本的分类与回归的方法。即决策树有两种:分类树和回归树。

那什么事决策树了? 简单点说就是二元判定,从头到尾逐次判定其归属类型。

从上述案例,我们很容易理解:决策树算法的本质就是二元判定的属性结构,我们可以通过一些静心设计的问题,对数据进行分类。以下是关于决策树需要理解的几个概念:

   
   
   
   
   

二、决策树的构建准备工作

1. 特征选择

①香农熵及计算函数

②信息增益

2. 数据集最佳切分函数

3. 按照给定列切分数据集

三、递增构建决策树

1. ID3算法

2. 编写发代码构建决策树

四、决策树的存储

五、使用决策树执行分类

六、决策树可视化

1. 计算叶子节点数目

2. 计数树深度

3. 绘制节点

4. 编著有向边属性值

5. 绘制决策树

6. 创建绘制面板

七、使用决策树预测隐形眼镜类型

1. 导入数据集

2. 花粉训练集和测试集

3. 生成决策树并构造注解树

4. 使用决策树进行分类

八、 算法总结

1. 决策树的优点