python – 在Tensorflow的数据集API中,如何将一个元素映射到多个元素？

在张量流数据集管道中,我想定义一个自定义映射函数,它接受一个输入元素(数据样本)并返回多个元素(数据样本).

下面的代码是我的尝试,以及期望的结果.

我无法完全按照tf.data.Dataset().flat_map()上的文档来了解它是否适​​用于此处.

import tensorflow as tf

input = [10, 20, 30]

def my_map_func(i):
  return [[i, i+1, i+2]]       # Fyi [[i], [i+1], [i+2]] throws an exception

ds = tf.data.Dataset.from_tensor_slices(input)
ds = ds.map(map_func=lambda input: tf.py_func(
  func=my_map_func, inp=[input], Tout=[tf.int64]
))
element = ds.make_one_shot_iterator().get_next()

with tf.Session() as sess:
  for _ in range(9):
    print(sess.run(element))

结果：

(array([10, 11, 12]),)
(array([20, 21, 22]),)
(array([30, 31, 32]),)

期望的结果：

(10)
(11)
(12)
(20)
(21)
(22)
(30)
(31)
(32)

解决方法:

为实现这一目标,还需要两个步骤.首先,map函数需要返回一个numpy数组,而不是一个列表.

然后你可以使用flat_map和Dataset().from_tensor_slices()来展平它们.下面的代码现在产生了所需的结果：

在Tensorflow 1.5中测试(复制/粘贴可运行的示例)

import tensorflow as tf
import numpy as np

input = [10, 20, 30]

def my_map_func(i):
  return np.array([i, i + 1, i + 2])

ds = tf.data.Dataset.from_tensor_slices(input)
ds = ds.map(map_func=lambda input: tf.py_func(
  func=my_map_func, inp=[input], Tout=[tf.int64]
))
ds = ds.flat_map(lambda x: tf.data.Dataset().from_tensor_slices(x))

element = ds.make_one_shot_iterator().get_next()

with tf.Session() as sess:
  for _ in range(9):
    print(sess.run(element))

如果要返回多个变量,这是一个执行此操作的方法,在此示例中,我输入一个字符串(如文件名)并输出字符串和整数的倍数.在这种情况下,我为[10,20,30]的每个整数重复字符串.

复制/粘贴runnable示例：

import tensorflow as tf
import numpy as np

input = [b'testA', b'testB', b'testC']

def my_map_func(input):
  return np.array([input, input, input]), np.array([10, 20, 30])

ds = tf.data.Dataset.from_tensor_slices(input)
ds = ds.map(map_func=lambda input: tf.py_func(
    func=my_map_func, inp=[input], Tout=[tf.string, tf.int64]))
ds = ds.flat_map(lambda mystr, myint: tf.data.Dataset().zip((
  tf.data.Dataset().from_tensor_slices(mystr),
  tf.data.Dataset().from_tensor_slices(myint))
))

element = ds.make_one_shot_iterator().get_next()

with tf.Session() as sess:
  for _ in range(9):
    print(sess.run(element))

标签：python,tensorflow,tensorflow-datasets
来源： https://codeday.me/bug/20191001/1840123.html