Keras 2 API 文档 / 模型 API / 保存与序列化 / 仅保存和加载权重

仅保存和加载权重

[源代码]

get_weights 方法

Model.get_weights()

检索模型的权重。

返回值

NumPy 数组的扁平列表。


[源代码]

set_weights 方法

Model.set_weights(weights)

从 NumPy 数组设置层的权重。

层的权重表示层的状态。此函数从 NumPy 数组设置权重值。权重值应按照层创建它们的顺序传递。请注意,必须通过调用层来实例化层的权重,然后才能调用此函数。

例如,Dense 层返回两个值的列表:内核矩阵和偏差向量。这些可用于设置另一个 Dense 层的权重。

>>> layer_a = tf.keras.layers.Dense(1,
...   kernel_initializer=tf.constant_initializer(1.))
>>> a_out = layer_a(tf.convert_to_tensor([[1., 2., 3.]]))
>>> layer_a.get_weights()
[array([[1.],
       [1.],
       [1.]], dtype=float32), array([0.], dtype=float32)]
>>> layer_b = tf.keras.layers.Dense(1,
...   kernel_initializer=tf.constant_initializer(2.))
>>> b_out = layer_b(tf.convert_to_tensor([[10., 20., 30.]]))
>>> layer_b.get_weights()
[array([[2.],
       [2.],
       [2.]], dtype=float32), array([0.], dtype=float32)]
>>> layer_b.set_weights(layer_a.get_weights())
>>> layer_b.get_weights()
[array([[1.],
       [1.],
       [1.]], dtype=float32), array([0.], dtype=float32)]

参数

  • weights:NumPy 数组列表。数组的数量及其形状必须与层权重的维度数量匹配(即,它应该与 get_weights 的输出匹配)。

引发

  • ValueError:如果提供的权重列表与层的规格不匹配。

[源代码]

save_weights 方法

Model.save_weights(filepath, overwrite=True, save_format=None, options=None)

保存所有层权重。

根据 save_format 参数以 HDF5 或 TensorFlow 格式保存。

以 HDF5 格式保存时,权重文件具有:- layer_names(属性),一个字符串列表(模型层的排序名称)。- 对于每一层,一个名为 layer.name 的组 - 对于每个这样的层组,一个组属性 weight_names,一个字符串列表(层权重张量的排序名称)。- 对于层中的每个权重,一个存储权重值的dataset,其名称以权重张量命名。

以 TensorFlow 格式保存时,网络引用的所有对象都以与 tf.train.Checkpoint 相同的格式保存,包括分配给对象属性的任何 Layer 实例或 Optimizer 实例。对于使用 tf.keras.Model(inputs, outputs) 从输入和输出构建的网络,网络使用的 Layer 实例会自动跟踪/保存。对于从 tf.keras.Model 继承的用户定义类,Layer 实例必须分配给对象属性,通常在构造函数中。有关详细信息,请参阅 tf.train.Checkpointtf.keras.Model 的文档。

虽然格式相同,但不要混合使用 save_weightstf.train.Checkpoint。由 Model.save_weights 保存的检查点应使用 Model.load_weights 加载。使用 tf.train.Checkpoint.save 保存的检查点应使用相应的 tf.train.Checkpoint.restore 还原。对于训练检查点,建议使用 tf.train.Checkpoint 而不是 save_weights

TensorFlow 格式通过从根对象(对于 save_weightsself)开始并贪婪地匹配属性名称来匹配对象和变量。对于 Model.save,这是 Model,对于 Checkpoint.save,这是 Checkpoint,即使 Checkpoint 附加了模型也是如此。这意味着使用 save_weights 保存 tf.keras.Model 并加载到附加了 Modeltf.train.Checkpoint 中(反之亦然)将不会匹配 Model 的变量。有关 TensorFlow 格式的详细信息,请参阅 训练检查点指南

参数

  • filepath:字符串或 PathLike,保存权重的文件路径。以 TensorFlow 格式保存时,这是检查点文件使用的前缀(生成多个文件)。请注意,'.h5' 后缀会导致权重以 HDF5 格式保存。
  • overwrite:是否静默覆盖目标位置的任何现有文件,或向用户提供手动提示。
  • save_format:'tf' 或 'h5'。如果 save_formatNone,则以 '.h5' 或 '.keras' 结尾的 filepath 将默认为 HDF5。否则,None 将变为 'tf'。默认为 None
  • options:指定保存权重选项的可选 tf.train.CheckpointOptions 对象。

引发

  • ImportError:如果尝试以 HDF5 格式保存时 h5py 不可用。

[源代码]

load_weights 方法

Model.load_weights(filepath, skip_mismatch=False, by_name=False, options=None)

从保存的文件加载所有层权重。

保存的文件可以是 SavedModel 文件、.keras 文件(v3 保存格式)或通过 model.save_weights() 创建的文件。

默认情况下,权重是根据网络的拓扑结构加载的。这意味着架构应该与保存权重时相同。请注意,没有权重的层不会在拓扑排序中考虑在内,因此只要它们没有权重,添加或删除层是可以的。

部分权重加载

如果您修改了模型,例如添加了一个新层(带有权重)或更改了层的权重形状,您可以选择忽略错误并继续加载,方法是设置 skip_mismatch=True。在这种情况下,任何权重不匹配的层都将被跳过。对于每个跳过的层,都会显示一条警告。

按名称加载权重

如果您的权重保存为通过 model.save_weights() 创建的 .h5 文件,则可以使用参数 by_name=True

在这种情况下,仅当层共享相同的名称时,权重才会加载到层中。这对于微调或迁移学习模型很有用,其中一些层已更改。

请注意,从 .keras v3 格式或 TensorFlow SavedModel 格式加载权重时,仅支持拓扑加载(by_name=False)。

参数

  • filepath:字符串,要加载的权重文件路径。对于 TensorFlow 格式的权重文件,这是文件前缀(与传递给 save_weights() 的相同)。这也可以是通过 model.save() 保存的 SavedModel 或 .keras 文件(v3 保存格式)的路径。
  • skip_mismatch:布尔值,是否跳过权重数量不匹配或权重形状不匹配的层的加载。
  • by_name:布尔值,是否按名称或按拓扑顺序加载权重。对于 .keras v3 格式或 TensorFlow SavedModel 格式的权重文件,仅支持拓扑加载。
  • options:指定加载权重选项的可选 tf.train.CheckpointOptions 对象(仅对 SavedModel 文件有效)。