首页 > TAG信息列表 > labelCounts
3.1.1信息增益
1 #计算给定数据集的香农熵 2 from math import log 3 4 def calcShannonEnt(dataSet): 5 numEntries = len(dataSet) #样本条目数 6 labelCounts = {} 7 for featVec in dataSet: 8 currentLabel = featVec[-1] #取每个样本最后一列值 92021-04-21 决策树的ID3算法
决策树的ID3算法 在编写代码之前，先对数据集进行属性标注。 年龄：0代表青年，1代表中年，2代表老年； 有工作：0代表否，1代表是决策树原理的python实现
我们已经知道ID3算法是基于信息增益来实现的，下面就根据原理写出代码： 1.首先计算信息熵 from math import log # 计算数据集的信息熵，注意，该数据的数据类型是list def calcShannonEnt(dataset): numEntries = len(dataset) # 样本数，这里的dataSet是列表 labelCountsDecision Tree
决策树（Decision Tree）算法是一种基本的分类与回归方法 分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点（node）和有向边（directed edge）组成。结点有两种类型：内部结点（internal node）和叶结点（leaf node）。内部结点表示一个特征或属性(features)，叶结点表示一个类(labels)