决策树决策算法之ID3算法代码实现

决策树决策算法之ID3算法

ID3算法

在决策树各个节点上应用信息增益准则选择特征，每一次都选择是的信息增益最大的特征进行分裂，递归的构建决策树
具体计算可以参考
决策常用算法数学计算过程

ID3代码实现

import numpy as  np
a=[[2,3],[4,],[3,2]]   #  原数据     参考上面链接里面的计算数据
x=np.sum(a[0])+np.sum(a[1])+np.sum(a[2])
#  进行累加添加进数组
def arr_():
    result_arr=[]
    for i in a:

        c=0
        for j in range(len(i)):
            p=i[j]/np.sum(i)
            pi=p*log(p,2)
            c+=pi
        result_arr.append(c)
    return result_arr
# ID3算法计算 
def Id3(result_arr):
    d=0
    for k in range(len(result_arr)):
        h=-(np.sum(a[k])/x)*result_arr[k]
        d+=h
    return round(d,3)
id3=Id3(arr_())
id3

标签：arr,sum,ID3,算法,result,np,决策树
来源： https://blog.csdn.net/weixin_43985376/article/details/114941832