Keras 2 API 文档 / 回调 API / 提前停止

提前停止

[源代码]

EarlyStopping

tf_keras.callbacks.EarlyStopping(
    monitor="val_loss",
    min_delta=0,
    patience=0,
    verbose=0,
    mode="auto",
    baseline=None,
    restore_best_weights=False,
    start_from_epoch=0,
)

当监控的指标停止改进时停止训练。

假设训练的目标是最小化损失。因此,要监控的指标将是'loss',模式将是'min'model.fit() 训练循环将在每个 epoch 结束时检查损失是否不再减少,如果适用,则考虑min_deltapatience。一旦发现它不再减少,model.stop_training 将被标记为 True,训练终止。

要监控的数量需要在logs 字典中可用。为此,请在model.compile() 中传递损失或指标。

参数

  • monitor:要监控的数量。
  • min_delta:监控数量的变化量,才能被视为改进,即小于 min_delta 的绝对变化将被视为没有改进。
  • patience:没有改进的 epoch 数量,之后训练将停止。
  • verbose:详细程度模式,0 或 1。模式 0 为静默,模式 1 在回调采取操作时显示消息。
  • mode{"auto", "min", "max"} 之一。在min 模式下,当监控的数量停止减少时,训练将停止;在"max" 模式下,当监控的数量停止增加时,训练将停止;在"auto" 模式下,方向将根据监控数量的名称自动推断。
  • baseline:监控数量的基线值。如果模型没有显示出优于基线的改进,则训练将停止。
  • restore_best_weights:是否从具有监控数量最佳值的 epoch 恢复模型权重。如果为 False,则使用训练最后一步获得的模型权重。无论相对于baseline 的性能如何,都将恢复一个 epoch。如果没有任何 epoch 优于baseline,则训练将运行patience 个 epoch 并从该集中最佳 epoch 恢复权重。
  • start_from_epoch:在开始监控改进之前要等待的 epoch 数量。这允许一个预热期,在此期间不期望有任何改进,因此训练不会停止。

示例

>>> callback = tf.keras.callbacks.EarlyStopping(monitor='loss', patience=3)
>>> # This callback will stop the training when there is no improvement in
>>> # the loss for three consecutive epochs.
>>> model = tf.keras.models.Sequential([tf.keras.layers.Dense(10)])
>>> model.compile(tf.keras.optimizers.SGD(), loss='mse')
>>> history = model.fit(np.arange(100).reshape(5, 20), np.zeros(5),
...                     epochs=10, batch_size=1, callbacks=[callback],
...                     verbose=0)
>>> len(history.history['loss'])  # Only 4 epochs are run.
4