python – Tensorflow如何处理一列内多个输入的分类功能?
作者:互联网
例如,我有以下csv格式的数据:
csv
col0 col1 col2 col3
1 A E|A|C 3
0 B D|F 2
2 C | 2
由逗号分隔的每列代表一个功能.通常,一个特征是一热的(例如col0,col1,col3),但在这种情况下,col2的特征有多个输入(由|分隔).
我确信tensorflow可以处理稀疏张量的单热特征,但我不确定它是否可以处理像col2这样的多个输入的特征?
如何在Tensorflow的稀疏张量中表示?
我正在使用下面的代码(但我不知道col2的输入法)
col0 = tf.feature_column.numeric_column('ID')
col1 = tf.feature_column.categorical_column_with_hash_bucket('Title', hash_bucket_size=1000)
col3 = tf.feature_column.numeric_column('Score')
columns = [col0, col1, col3]
tf.estimator.DNNClassifier(
model_dir=None,
feature_columns=columns,
hidden_units=[10, 10],
n_classes=4
)
谢谢你的帮助.
解决方法:
OK看起来编写自定义功能列对我来说具有相同的任务.
我将HashedCategoricalColumn作为基础,并清理为仅使用字符串.应该添加类型检查.
class _SparseArrayCategoricalColumn(
_CategoricalColumn,
collections.namedtuple('_SparseArrayCategoricalColumn',
['key', 'num_buckets', 'category_delimiter'])):
@property
def name(self):
return self.key
@property
def _parse_example_spec(self):
return {self.key: parsing_ops.VarLenFeature(dtypes.string)}
def _transform_feature(self, inputs):
input_tensor = inputs.get(self.key)
flat_input = array_ops.reshape(input_tensor, (-1,))
input_tensor = tf.string_split(flat_input, self.category_delimiter)
if not isinstance(input_tensor, sparse_tensor_lib.SparseTensor):
raise ValueError('SparseColumn input must be a SparseTensor.')
sparse_values = input_tensor.values
# tf.summary.text(self.key, flat_input)
sparse_id_values = string_ops.string_to_hash_bucket_fast(
sparse_values, self.num_buckets, name='lookup')
return sparse_tensor_lib.SparseTensor(
input_tensor.indices, sparse_id_values, input_tensor.dense_shape)
@property
def _variable_shape(self):
if not hasattr(self, '_shape'):
self._shape = tensor_shape.vector(self.num_buckets)
return self._shape
@property
def _num_buckets(self):
"""Returns number of buckets in this sparse feature."""
return self.num_buckets
def _get_sparse_tensors(self, inputs, weight_collections=None,
trainable=None):
return _CategoricalColumn.IdWeightPair(inputs.get(self), None)
def categorical_column_with_array_input(key,
num_buckets, category_delimiter="|"):
if (num_buckets is None) or (num_buckets < 1):
raise ValueError('Invalid num_buckets {}.'.format(num_buckets))
return _SparseArrayCategoricalColumn(key, num_buckets, category_delimiter)
然后它可以通过嵌入/指示符列包裹.
似乎这是你需要的.
这是我的第一步.我需要使用像“str:float | str:float …”这样的值来处理列.
标签:categorical-data,python,tensorflow,sparse-matrix 来源: https://codeday.me/bug/20191007/1865446.html