如何在tf.estimator的input_fn中使用tf.data的可初始化迭代器?
作者:互联网
我想用tf.estimator.Estimator
来管理我的训练,但是在使用tf.data
API时遇到一些麻烦.
我有这样的事情:
def model_fn(features, labels, params, mode):
# Defines model's ops.
# Initializes with tf.train.Scaffold.
# Returns an tf.estimator.EstimatorSpec.
def input_fn():
dataset = tf.data.TextLineDataset("test.txt")
# map, shuffle, padded_batch, etc.
iterator = dataset.make_initializable_iterator()
return iterator.get_next()
estimator = tf.estimator.Estimator(model_fn)
estimator.train(input_fn)
因为我不能在我的用例中使用make_one_shot_iterator,我的问题是input_fn包含一个应该在model_fn中初始化的迭代器(这里,我使用tf.train.Scaffold
初始化本地操作).
另外,我知道我们不仅可以使用input_fn = iterator.get_next,否则其他ops将不会添加到同一个图形中.
初始化迭代器的推荐方法是什么?
解决方法:
从TensorFlow 1.5开始,可以使input_fn返回tf.data.Dataset,例如:
def input_fn():
dataset = tf.data.TextLineDataset("test.txt")
# map, shuffle, padded_batch, etc.
return dataset
见c294fcfd.
对于以前的版本,您可以在tf.GraphKeys.TABLE_INITIALIZERS集合中添加迭代器的初始化程序,并依赖于默认的初始化程序.
tf.add_to_collection(tf.GraphKeys.TABLE_INITIALIZERS, iterator.initializer)
标签:python,tensorflow,tensorflow-datasets,tensorflow-estimator 来源: https://codeday.me/bug/20191007/1868725.html