一、BP神经网络算法

代码如下：

# -*- coding: utf-8 -*-
import pandas as pd
filename = 'C:/Users/86136/Documents/python大数据分析/课本源代码以及数据/chapter5/demo/data/bankloan.xls'
data_tr = pd.read_excel(filename)

#print(data_tr) # 导入数据
#读取数据
x_tr = data_tr.iloc[:,:8].astype(int)
y_tr = data_tr.iloc[:,8].astype(int)
#print(x_tr)
#print(y_tr)

from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Activation

model = Sequential()  # 建立模型
model.add(Dense(input_dim = 8, units = 16))
model.add(Activation('relu'))  # 用relu函数作为激活函数，能够大幅提供准确度
model.add(Dense(input_dim = 16, units = 32))
model.add(Activation('sigmoid'))  # 用relu函数作为激活函数，能够大幅提供准确度
model.add(Dense(input_dim = 32, units = 1))
model.add(Activation('sigmoid'))  # 由于是0-1输出，用sigmoid函数作为激活函数
model.compile(loss = 'binary_crossentropy', optimizer = 'adam')
# 编译模型。由于我们做的是二元分类，所以我们指定损失函数为binary_crossentropy，以及模式为binary
# 另外常见的损失函数还有mean_squared_error、categorical_crossentropy等，请阅读帮助文件。
# 求解方法我们指定用adam，还有sgd、rmsprop等可选
model.fit(x_tr, y_tr, epochs = 1000, batch_size = 10)  # 训练模型，学习一千次
yp = model.predict_classes(x_tr).reshape(len(y_tr))  # 分类预测
from cm_plot import *  # 导入自行编写的混淆矩阵可视化函数
cm_plot(y_tr,yp).show()  # 显示混淆矩阵可视化结果

score = model.evaluate(x_tr, y_tr, batch_size=256)  #分类预测损失值
print("分类预测损失值")
print(score)

cm_plot.py（需放在同一文件夹下）如下：

#-*- coding: utf-8 -*-
def cm_plot(y, yp):
  
  from sklearn.metrics import confusion_matrix #导入混淆矩阵函数

  cm = confusion_matrix(y, yp) #混淆矩阵
  
  import matplotlib.pyplot as plt #导入作图库
  plt.matshow(cm, cmap=plt.cm.Greens) #画混淆矩阵图，配色风格使用cm.Greens，更多风格请参考官网。
  plt.colorbar() #颜色标签
  
  for x in range(len(cm)): #数据标签
    for y in range(len(cm)):
      plt.annotate(cm[x,y], xy=(x, y), horizontalalignment='center', verticalalignment='center')
  
  plt.ylabel('True label') #坐标轴标签
  plt.xlabel('Predicted label') #坐标轴标签
  return plt

测试结果：

 BP神经网络预测的混淆矩阵图

二、ID3决策树算法

代码如下：

# -*- coding: utf-8 -*-
import pandas as pd
# 参数初始化
filename = 'C:/Users/86136/Documents/python大数据分析/课本源代码以及数据/chapter5/demo/data/bankloan.xls'
data_tr = pd.read_excel(filename)
#print(data_tr) # 导入数据
#训练数据
#读取数据
x_tr = data_tr.iloc[:,:8].astype(int)
y_tr = data_tr.iloc[:,8].astype(int)
from sklearn.tree import DecisionTreeClassifier as DTC
dtc = DTC(criterion='entropy')  # 建立决策树模型，基于信息熵
dtc.fit(x_tr, y_tr)  # 训练模型
# 导入相关函数，可视化决策树。
# 导出的结果是一个dot文件，需要安装Graphviz才能将它转换为pdf或png等格式。
from sklearn.tree import export_graphviz
x = pd.DataFrame(x_tr)

string1 = '''
edge [fontname="NSimSun"];
node [ fontname="NSimSun" size="15,15"];
{
'''
string2 = '}'

with open("C:/Users/86136/Documents/python大数据分析/课本源代码以及数据/chapter5/demo/dt1.dot", 'w') as f:
    export_graphviz(dtc, feature_names = x.columns, out_file = f)
    f.close()

from IPython.display import Image  
from sklearn import tree
import pydotplus 

dot_data = tree.export_graphviz(dtc, out_file=None,  #regr_1 是对应分类器
                         feature_names=data_tr.columns[:8],   #对应特征的名字
                         class_names=data_tr.columns[8],    #对应类别的名字
                         filled=True, rounded=True,  
                         special_characters=True)  
#手动修改树结构的字体类型，以免出来的图片乱码
dot_data = dot_data.replace('helvetica', 'MicrosoftYaHei')
graph = pydotplus.graph_from_dot_data(dot_data)  
graph.write_png('C:/Users/86136/Documents/python大数据分析/课本源代码以及数据/chapter5/demo/dt1.png')    #保存图像
Image(graph.create_png())

#显示决策树图片
import matplotlib.pyplot as plt
img = plt.imread('C:/Users/86136/Documents/python大数据分析/课本源代码以及数据/chapter5/demo/dt1.png')
fig = plt.figure('show picture')
plt.imshow(img)

决策树可视化结果如下：

标签：plt,cm,bankloan,tr,ID3,BP,import,model,data
来源： https://www.cnblogs.com/1234f/p/16059220.html