编程语言
首页 > 编程语言> > python-特征缩放(标准化)以及LabelEncode和OneHotEncode数据的最佳实践是什么

python-特征缩放(标准化)以及LabelEncode和OneHotEncode数据的最佳实践是什么

作者:互联网

这里我们有训练数据(x_train)和测试数据(x_test)以及all_data,它们与训练和测试数据结合在一起

因此,如果我们对数据进行标准化,那么您认为哪一种是最佳做法?

假设我们正在使用熊猫和sklearn

from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()

>对火车数据进行标准化,然后应用于测试数据,然后
代码是:

06001

>对all_data进行标准化,然后应用于训练和测试数据,代码为:

06002

关于LabelEncoder和One-Hot编码分类功能的问题相同,您使用哪种方法?

先感谢您.

解决方法:

应使用情况1进行缩放,该情况1将缩放器仅适合您的训练集,然后对测试集使用相同的缩放.

您适合所有数据的情况2是数据侦听的一种形式,其中测试集中的信息正在泄漏到您的训练集中.这会导致非常错误的结果.阿布·穆斯塔法(Abu Mustafa)的数据学习课上有fantastic segment对此进行了介绍.

对于标签编码,假设您为所有类别列中的每个唯一值创建一个二进制列.测试集中但训练集中没有类别的列将全部被编码为0.即使您决定一起对整个训练和测试数据集使用标签编码,在构建模型时所有类别不在训练集中的值将设置为0且不会影响您的模型-来自这些未知类别的权重将简单地添加到偏差单位中.

标签:pandas,scikit-learn,machine-learning,data-mining,python
来源: https://codeday.me/bug/20191026/1936025.html