我有一个使用tf.keras.models.load_model加载的keras.models.Model模型。
现在有两种使用这个模型的方法。一种是调用model.predict(x)，另一种是调用model(x).numpy()。两种方法都会给出相同的结果，但是model.predict(x)需要运行时间长达10倍。
源代码中的注释如下：
计算是分批进行的。此方法专为大规模输入设计，对于适合于一个批次的少量输入，建议直接使用
__call__以获得更快的执行速度，例如：model(x)或model(x, training=False)
我已经测试了包含1、1,000,000和10,000,000 行数据的x，发现 model(x) 性能更好。
那么，输入需要多大才能被归类为大规模输入？model.predict(x)表现得更好呢？
model.compile调用中传递experimental_run_tf_function=False，以恢复到TF 1.x版本的模型执行方式。您也可以完全省略model.compile调用（对于预测不必要）。
这是您可以测试的事情。正如文档所述，如果您的数据适合一个批次，则输入需要多大才能被归类为大规模输入，并使
model.predict(x)执行更好？
model(x)可能比model.predict(x)更快。model.predict(x)相比model(x)提供的一个功能是能够预测多个批次。如果您想使用model(x)预测多个批次，您必须自己编写循环。model.predict还提供其他功能，例如回调。model.predict(x)的主要行为在此处实现。它包含的不仅仅是模型的前向传递。这可能解释了一些速度差异。
这个10,000,000行数据是否适合一个批次……？我已经测试过包含1、1,000,000和10,000,000行的x，但
model(x)仍然表现得更好。