TensorFlow：如何重复使用Adam优化器变量？

Question

最近我升级了TensorFlow版本后，出现了以下错误，我无法解决：

Traceback (most recent call last):
  File "cross_train.py", line 177, in <module>
    train_network(use_gpu=True)
  File "cross_train.py", line 46, in train_network
    with tf.control_dependencies([s_opt.apply_gradients(s_grads), s_increment_step]):

...

ValueError: Variable image-conv1-layer/weights/Adam/ already exists, disallowed. Did you mean to set reuse=True in VarScope? Originally defined at:

  File "cross_train.py", line 34, in train_network
    with tf.control_dependencies([e_opt.apply_gradients(e_grads), e_increment_step]):
  File "cross_train.py", line 177, in <module>
    train_network(use_gpu=True)

我的模型架构是3个不同的卷积神经网络分支：M，E和S。在训练中，我尝试交替步骤，其中我通过M和E传播样本（它们的嵌入的点积距离）并使用Adam进行更新；然后通过M和S传播样本并使用Adam进行更新；并重复此过程。因此，基本上M是固定的（每步都会更新），但是E和S分支会交替更新。

为此，我创建了两个AdamOptimizer实例（e_opt和s_opt），但当我尝试更新S分支时，权重变量M-conv1/weights/Adam/已存在，因此出现错误。

在更新TensorFlow版本之前，这种情况并未发生。我知道如何在TensorFlow中通常设置变量的重用，例如：

with tf.variable_scope(name, values=[input_to_layer]) as scope:
    try:
        weights = tf.get_variable("weights", [height, width, input_to_layer.get_shape()[3], channels], initializer=tf.truncated_normal_initializer(stddev=0.1, dtype=tf.float32))
        bias = tf.get_variable("bias", [channels], initializer=tf.constant_initializer(0.0, dtype=tf.float32))
    except ValueError:
        scope.reuse_variables()
        weights = tf.get_variable("weights", [height, width, input_to_layer.get_shape()[3], channels], initializer=tf.truncated_normal_initializer(stddev=0.1, dtype=tf.float32))
        bias = tf.get_variable("bias", [channels], initializer=tf.constant_initializer(0.0, dtype=tf.float32))

但我不确定我是否能为Adam做同样的事情。有什么想法吗？非常感谢您的帮助。

- kashkar

---

你为优化操作设置了名字吗？ optimizer = tf.train.AdamOptimizer(learning_rate=0.0001, name='first_optimizer').minimize(loss) - David Parks

Answer 1

事实证明我并不需要实例化两个不同的Adam优化器。我只需创建一个实例即可，没有名称冲突或尝试共享变量的问题。无论更新哪个网络分支，我都使用相同的优化器：

    e_grads = opt.compute_gradients(e_loss)
with tf.control_dependencies([opt.apply_gradients(e_grads), e_increment_step]):
    e_train = tf.no_op(name='english_train') 

并且...

    s_grads = opt.compute_gradients(s_loss)
with tf.control_dependencies([opt.apply_gradients(s_grads), s_increment_step]):
    s_train = tf.no_op(name='spanish_train')

有趣的是，在旧版本的Tensorflow中，即使M分支名称冲突，使用两个Adam实例也没有问题...

- kashkar