GroupNormalization 层
GroupNormalization 类
keras.layers.GroupNormalization(
groups=32,
axis=-1,
epsilon=0.001,
center=True,
scale=True,
beta_initializer="zeros",
gamma_initializer="ones",
beta_regularizer=None,
gamma_regularizer=None,
beta_constraint=None,
gamma_constraint=None,
**kwargs
)
Group normalization 层。
Group Normalization 将通道划分为组，并在每个组内计算均值和方差以进行归一化。经验表明，如果学习率随批量大小线性调整，则其准确性比小批量大小范围内的批归一化更稳定。
与层归一化的关系：如果组数设置为 1，则此操作几乎与层归一化相同（有关详细信息，请参阅层归一化文档）。
与实例归一化的关系：如果组数设置为输入维度（组数等于通道数），则此操作与实例归一化相同。您可以通过 groups=-1 来实现这一点。
参数
- groups: 整数，Group Normalization 的组数。可以在范围
[1, N]内，其中 N 是输入维度。输入维度必须可被组数整除。默认为 32。 - axis: 整数或列表/元组。要进行归一化的轴。通常，这是特征轴。剩下的轴通常是批次轴。-1 是输入中的最后一个维度。默认为
-1。 - epsilon: 加到方差上的小浮点数，以避免除以零。默认为 1e-3。
- center: 如果为
True，则将beta偏移量添加到归一化张量。如果为False，则忽略beta。默认为True。 - scale: 如果为
True，则乘以gamma。如果为False，则不使用gamma。当下一层是线性层（例如relu）时，可以禁用此项，因为缩放将由下一层完成。默认为True。 - beta_initializer: beta 权重的初始化器。默认为 zeros。
- gamma_initializer: gamma 权重的初始化器。默认为 ones。
- beta_regularizer: beta 权重的可选正则化器。默认为 None。
- gamma_regularizer: gamma 权重的可选正则化器。默认为 None。
- beta_constraint: beta 权重的可选约束。默认为 None。
- gamma_constraint: gamma 权重的可选约束。默认为 None。 # 输入形状 任意。当将此层用作模型中的第一层时，请使用关键字参数
input_shape（整数元组，不包括样本轴）。 # 输出形状 与输入形状相同。 - **kwargs: 基础层关键字参数（例如
name和dtype）。
参考