Keras错误："您必须提供占位符张量的值"

Question

我有一个简单的seq2seq模型：

import seq2seq
import numpy as np
import keras.backend as K

from seq2seq.models import Seq2Seq
from keras.models import Model
from keras.models import Sequential
from keras.layers import Embedding, Input, TimeDistributed, Activation

BLOCK_LEN = 60
EVENTS_CNT = 462

input = Input((BLOCK_LEN,))
embedded = Embedding(input_dim=EVENTS_CNT+1, output_dim=200)(input)
emb_model = Model(input, embedded)

seq_model = Seq2Seq(batch_input_shape=(None, BLOCK_LEN, 200), hidden_dim=200, output_length=BLOCK_LEN, output_dim=EVENTS_CNT)
model = Sequential()
model.add(emb_model)
model.add(seq_model)
model.add(TimeDistributed(Activation('softmax')))

model.summary()
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
model_1 (Model)              (None, 60, 200)           92600     
_________________________________________________________________
model_12 (Model)             (None, 60, 462)           1077124   
_________________________________________________________________
time_distributed_2 (TimeDist (None, 60, 462)           0         
=================================================================
Total params: 1,169,724
Trainable params: 1,169,724
Non-trainable params: 0
_________________________________________________________________

我正在尝试创建自己的测量标准：

def symbol_acc(true, predicted):
    np_y_true = K.get_value(true)
    np_y_pred = K.get_value(predicted)
    return K.mean(np_y_true == np_y_pred)

如果我尝试使用此指标编译模型，将会出现 "您必须为占位符张量提供值" 的错误，并显示以下消息：

InvalidArgumentError                      Traceback (most recent call last)
C:\Users\Anna\Anaconda3\lib\site-packages\tensorflow\python\client\session.py in _do_call(self, fn, *args)
   1322     try:
-> 1323       return fn(*args)
   1324     except errors.OpError as e:

C:\Users\Anna\Anaconda3\lib\site-packages\tensorflow\python\client\session.py in _run_fn(session, feed_dict, fetch_list, target_list, options, run_metadata)
   1301                                    feed_dict, fetch_list, target_list,
-> 1302                                    status, run_metadata)
   1303 

C:\Users\Anna\Anaconda3\lib\site-packages\tensorflow\python\framework\errors_impl.py in __exit__(self, type_arg, value_arg, traceback_arg)
    472             compat.as_text(c_api.TF_Message(self.status.status)),
--> 473             c_api.TF_GetCode(self.status.status))
    474     # Delete the underlying status object from memory otherwise it stays alive

InvalidArgumentError: You must feed a value for placeholder tensor 'time_distributed_2_target' with dtype float and shape [?,?,?]
     [[Node: time_distributed_2_target = Placeholder[dtype=DT_FLOAT, shape=[?,?,?], _device="/job:localhost/replica:0/task:0/device:CPU:0"]()]]

但是以下代码可以正常工作（不会产生任何异常）：

def symbol_acc2(true, predicted):
    true = np.array(true)
    predicted = np.array(predicted)
    return K.variable((true == predicted).mean())

能否请您解释一下这个异常是什么意思？我认为symbol_acc和symbol_acc2执行的是相同的操作。我在NNs和Keras方面还很新，所以可能我没有注意到一些明显的事情。我在stackoverflow上看到了类似的问题，但是并没有找到适合我的答案。

- Anna

---

你能展示一下如何获取“真实值”和“预测值”以传递给你的度量吗？ - Nathan

我正在进行模型编译，损失函数为'categorical_crossentropy'，优化器为'rmsprop'，指标为[symbol_acc]。 - Anna

Answer 1

指标、损失和整个模型都是“符号”张量。

这意味着，在开始拟合或预测之前，它们绝对没有任何数据（或值）。

当您调用 K.get_value 时，您正在尝试获取一个不存在的值。（只有在向模型“输入数据”时，该值才存在。它所谓的占位符是一个空的输入张量，期望在拟合或预测时接收数据。）

解决问题的方法很简单，就是不要尝试获取这些值。（numpy版本也无效，因为在编译此函数时这些值还不存在。）

您必须保持所有操作都是符号性的，它们将在您提供数据时执行。

所以：

def symbol_acc(true, predicted):
    isEqual = K.cast(K.equal(true,predicted),K.floatx())
    return K.mean(isEqual)

- Daniel Möller

---

Daniel，能否请你解释一下如何解决以下问题：在我的度量中，true 的形状为（15,60），而 predicted 的形状为（15,60,462）。true 中的每个值都是从0到461的数字，而 predicted 中的每个值都是一个大小为462的向量，表示每个数字从0到461的概率分布。我想让 true 与 predicted 形状相同：创建一个大小为462的向量，在数字位置上为1，在其他位置上为0。我可以使用 K.gather(K.eye(462), tf.cast(number, tf.int32)) 创建一个独热数组，但我不知道如何将其应用于未知的数组。 - Anna

真实值和预测值的形状始终相同。 - Daniel Möller

我以前从未使用过 target_tensors... 但是如果你的目标是一个占位符，那么在训练时你打算如何提供它的输入？ - Daniel Möller

你不知道怎么在自定义指标中更改形状吗？我认为这是一个很容易解决的问题，除了那部分之外 :) - Anna

从我在这里进行的快速测试来看，即使使用target_tensors，模型仍然需要真实值和预测值具有相同的形状。 - Daniel Möller

Answer 2

在非工作版本的symbol_acc中，tf.keras.backend.get_value()（你代码中的K.get_value()）将获取变量值作为Numpy数组。然后这一行K.mean(np_y_true == np_y_pred)首先基于相等性创建另一个(布尔)Numpy数组，然后tf.keras.backend.mean()试图将该Numpy数组视为张量，但这样是不起作用的。

错误之所以出现是因为在图形创建时，true还没有值，也没有被馈送。 symbol_acc2不会抛出错误，但也无法正常工作，因为在图形创建时，true和predicted只是空张量。 Numpy不会改变这一点，但比较将失败，取平均值将产生零，您只是创建了一个值为零的变量。请考虑以下代码（已测试）：

import keras.backend as K
import numpy as np

true = K.placeholder( ( 2, ) )
predicted = K.placeholder( ( 2, ) )
a = np.array( true )
b = np.array( predicted )
c = a == b
print( c, c.mean() )

输出:

(False, 0.0)

无论数据如何（张量中甚至还没有数据），都会显示上述输出。

为了达到您想要的目标，即计算预测的准确性，您可以简单地使用以下方法：

def symbol_acc( true, predicted ):
    return K.mean( K.cast_to_floatx( K.equal( true, predicted ) ) )

或者你可以让自己的生活更容易，研究一下 Keras 的 categorical_accuracy指标。

- Peter Szoldan

---

谢谢您的解释和示例，我现在明白了。 - Anna