MelSpectrogram 层

[源代码]

MelSpectrogram 类

keras.layers.MelSpectrogram(
    fft_length=2048,
    sequence_stride=512,
    sequence_length=None,
    window="hann",
    sampling_rate=16000,
    num_mel_bins=128,
    min_freq=20.0,
    max_freq=None,
    power_to_db=True,
    top_db=80.0,
    mag_exp=2.0,
    min_power=1e-10,
    ref_power=1.0,
    **kwargs
)

一个将原始音频信号转换为梅尔频谱图的预处理层。

此层接受 float32/float64 单个或批量音频信号作为输入，并使用短时傅里叶变换和梅尔标度计算梅尔频谱图。输入应为表示音频信号的 1D（非批量）或 2D（批量）张量。输出将是表示梅尔频谱图的 2D 或 3D 张量。

频谱图是一种图像般的表示，显示了信号随时间变化的频谱。它使用 x 轴表示时间，y 轴表示频率，每个像素表示强度。梅尔频谱图是一种特殊类型的频谱图，它使用梅尔刻度，该刻度近似于人类感知声音的方式。它们常用于语音和音乐处理任务，如语音识别、说话人识别和音乐流派分类。

参考文献

• 频谱图,
• 梅尔刻度.

示例

非批量音频信号

>>> layer = keras.layers.MelSpectrogram(num_mel_bins=64,
...                                     sampling_rate=8000,
...                                     sequence_stride=256,
...                                     fft_length=2048)
>>> layer(keras.random.uniform(shape=(16000,))).shape
(64, 63)

批量音频信号

>>> layer = keras.layers.MelSpectrogram(num_mel_bins=80,
...                                     sampling_rate=8000,
...                                     sequence_stride=128,
...                                     fft_length=2048)
>>> layer(keras.random.uniform(shape=(2, 16000))).shape
(2, 80, 125)

输入形状

形状为 (..., 采样点) 的 1D (非批量) 或 2D (批量) 张量。

输出形状

形状为 (..., num_mel_bins, 时间) 的 2D (非批量) 或 3D (批量) 张量。

参数

• fft_length：整数，FFT 窗口大小。
• sequence_stride：整数，连续 STFT 列之间的采样点数。
• sequence_length：整数，用于将 window 应用于每个音频帧的窗口大小。如果为 None，则默认为 fft_length。
• window：字符串，要使用的窗口函数名称。可用值为 "hann" 和 "hamming"。如果 window 是一个张量，它将直接用作窗口，其长度必须是 sequence_length。如果 window 为 None，则不使用窗口化。默认为 "hann"。
• sampling_rate：整数，输入信号的采样率。
• num_mel_bins：整数，要生成的梅尔频段数量。
• min_freq：浮点数，梅尔频段的最小频率。
• max_freq：浮点数，梅尔频段的最大频率。如果为 None，则默认为 sampling_rate / 2。
• power_to_db：如果为 True，将功率谱图转换为分贝。
• top_db：浮点数，最小负截止 max(10 * log10(S)) - top_db。
• mag_exp：浮点数，幅度谱图的指数。1 表示幅度，2 表示功率等。默认为 2。
• ref_power：浮点数，功率相对于它进行缩放 10 * log10(S / ref_power)。
• min_power：浮点数，功率和 ref_power 的最小值。