我有一个训练了40个epochs的模型。我为每个epoch保存了检查点,并使用model.save()
保存了模型。下面是训练的代码:
n_units = 1000
model = Sequential()
model.add(LSTM(n_units, input_shape=(None, vec_size), return_sequences=True))
model.add(Dropout(0.2))
model.add(LSTM(n_units, return_sequences=True))
model.add(Dropout(0.2))
model.add(LSTM(n_units))
model.add(Dropout(0.2))
model.add(Dense(vec_size, activation='linear'))
model.compile(loss='mean_squared_error', optimizer='adam')
# define the checkpoint
filepath="word2vec-{epoch:02d}-{loss:.4f}.hdf5"
checkpoint = ModelCheckpoint(filepath, monitor='loss', verbose=1, save_best_only=True, mode='min')
callbacks_list = [checkpoint]
# fit the model
model.fit(x, y, epochs=40, batch_size=50, callbacks=callbacks_list)
然而,当我加载模型并尝试重新训练时,它会从头开始,好像之前没有进行过训练。损失值不是从上次训练的开始。
让我困惑的是,当我加载模型并重新定义模型结构,并使用load_weight
时,model.predict()
可以正常工作。因此,我相信模型权重已经被加载:
model = Sequential()
model.add(LSTM(n_units, input_shape=(None, vec_size), return_sequences=True))
model.add(Dropout(0.2))
model.add(LSTM(n_units, return_sequences=True))
model.add(Dropout(0.2))
model.add(LSTM(n_units))
model.add(Dropout(0.2))
model.add(Dense(vec_size, activation='linear'))
filename = "word2vec-39-0.0027.hdf5"
model.load_weights(filename)
model.compile(loss='mean_squared_error', optimizer='adam')
然而,当我继续使用这个模型进行训练时,损失值与初始阶段相同:
filepath="word2vec-{epoch:02d}-{loss:.4f}.hdf5"
checkpoint = ModelCheckpoint(filepath, monitor='loss', verbose=1, save_best_only=True, mode='min')
callbacks_list = [checkpoint]
# fit the model
model.fit(x, y, epochs=40, batch_size=50, callbacks=callbacks_list)
我搜索了一些保存和加载模型的例子,这里和这里。然而,它们都无法正常工作。
更新1
我查看了这个问题,尝试了一下,它可以正常工作:
model.save('partly_trained.h5')
del model
load_model('partly_trained.h5')
但是,当我关闭Python并重新打开它,再次运行load_model
时,它失败了。损失值与初始状态一样高。
更新2
我尝试了Yu-Yang的示例代码,它有效。然而,当我再次使用自己的代码时,它仍然失败了。
这是原始训练的结果。第二个轮次应该以损失值为3.1***开始:
13700/13846 [============================>.] - ETA: 0s - loss: 3.0519
13750/13846 [============================>.] - ETA: 0s - loss: 3.0511
13800/13846 [============================>.] - ETA: 0s - loss: 3.0512Epoch 00000: loss improved from inf to 3.05101, saving model to LPT-00-3.0510.h5
13846/13846 [==============================] - 81s - loss: 3.0510
Epoch 2/60
50/13846 [..............................] - ETA: 80s - loss: 3.1754
100/13846 [..............................] - ETA: 78s - loss: 3.1174
150/13846 [..............................] - ETA: 78s - loss: 3.0745
我关闭了Python,重新打开它,使用model = load_model("LPT-00-3.0510.h5")
加载模型,然后进行训练:
我关闭了Python,重新打开它,使用model = load_model("LPT-00-3.0510.h5")
加载模型,然后进行训练:
filepath="LPT-{epoch:02d}-{loss:.4f}.h5"
checkpoint = ModelCheckpoint(filepath, monitor='loss', verbose=1, save_best_only=True, mode='min')
callbacks_list = [checkpoint]
# fit the model
model.fit(x, y, epochs=60, batch_size=50, callbacks=callbacks_list)
损失从4.54开始:
Epoch 1/60
50/13846 [..............................] - ETA: 162s - loss: 4.5451
100/13846 [..............................] - ETA: 113s - loss: 4.3835
load_model()
后调用了model.compile(optimizer='adam')
?如果是,那么不要这样做。重新使用选项optimizer='adam'
编译模型将会重置优化器的内部状态(实际上会创建一个新的 Adam 优化器实例)。 - Yu-Yangmodel.compile
。在重新打开 Python 后,我所做的只是model = load_model('partly_trained.h5')
和model.fit(x, y, epochs=20, batch_size=100)
。 - Davidmodel.load_weight('checkpoint.hff5')
和model.compile(loss='categorical_crossentropy')
。但是,它会报错,说必须提供优化器。 - David