84得票8回答
如何检查Tensorflow的.tfrecord文件?

我有一个.tfrecord文件,但我不知道它的结构是什么样的。我该如何检查模式以了解.tfrecord文件包含了什么?所有的Stackoverflow答案或文档都似乎假定我已经知道文件的结构。reader = tf.TFRecordReader() file = tf.train.string...

65得票8回答
如何在tensorflow中将jpeg图像目录转换为TFRecords文件?

我有一些训练数据,其中包含一个JPEG图像的目录和一个对应的文本文件,其中包含文件名和相关类别标签。我正在尝试将这些训练数据转换为tfrecords文件,如tensorflow文档中所述。我已经花了相当多的时间尝试使它工作,但是在tensorflow中没有任何示例展示如何使用任何阅读器(rea...

35得票7回答
TensorFlow - 一次性读取 TFRecords 中的所有示例?

如何一次性读取TFRecords中的所有示例? 我一直在使用tf.parse_single_example来读取单个示例,类似于在fully_connected_reader示例中给出的read_and_decode方法。但是,我想一次性加载整个验证数据集以便对网络运行,因此希望将它们全部加...

33得票3回答
如何将numpy数组存储为tfrecord?

我正在尝试从numpy数组中创建一个tfrecord格式的数据集。我试图存储2d和3d坐标。 2d坐标是形状为(2,10)、类型为float64的numpy数组, 3d坐标是形状为(3,10)、类型为float64的numpy数组。 这是我的代码:def _floats_feature(v...

32得票5回答
在Tensorflow中从.tfrecords文件获取记录总数

是否有可能从.tfrecords文件中获取记录的总数?与此相关,人们通常如何跟踪训练模型经过的轮数?虽然我们可以指定batch_size和num_of_epochs,但我不确定是否可以直接获取诸如current epoch、每轮批次数量等值 - 只是为了更好地控制训练进展情况。目前,我只是使用...

21得票1回答
TensorFlow字符串:它们是什么以及如何使用它们

使用tf.read_file读取文件后,我得到的是类型为tf.string的内容。文档上只描述它是“可变长度的字节数组。张量的每个元素都是一个字节数组” (https://www.tensorflow.org/versions/r0.10/resources/dims_types.html)。...

20得票2回答
Tensorflow TFRecord:无法解析序列化的示例

我将尝试遵循此指南,将我的输入数据序列化为TFRecord格式,但是在尝试读取时,我一直遇到以下错误: InvalidArgumentError: Key: my_key. Can't parse serialized Example. 我不确定出了什么问题。这里是一个最小化的复现示...

19得票3回答
如何高效地将 Pandas 数据框保存到一个/多个 TFRecord 文件中?

首先简要介绍一下背景。我最终想要实现的是在TensorFlow框架下训练一个用于多类分类问题的全连接神经网络。 这个问题的挑战在于训练数据集非常大(约2TB)。为了使训练能够在有限的内存下进行,我想将训练集保存为小文件,并使用mini-batch梯度下降算法来训练模型(每次只加载一个或几个文...

17得票1回答
如何将NumPy数组转换为TFRecords,然后生成批次?

我的问题是如何从多个(或分片的)tfrecords中获取批量输入。我已阅读示例https://github.com/tensorflow/models/blob/master/inception/inception/image_processing.py#L410。基本流程是:以训练集为例,(...

14得票6回答
将.tfrecords文件拆分为多个.tfrecords文件

是否有一种直接将.tfrecords文件拆分成多个.tfrecords文件的方法,而无需将每个数据集示例写回?