Chapter 1: Sound and Speech Fundamentals / 声音与语音基础
声音与语音基础
当我们开口说话时,声带每秒振动数百次,肺部呼出的气流被精确调控,口腔和鼻腔的形状不断变化——这一连串复杂的物理过程在不到一秒的时间内完成,产生了我们称之为"语音"的声波信号。这些声波携带着语言的全部信息:从最基本的音素(phoneme)到承载情感和意图的韵律特征(prosodic features)。理解语音信号的物理本质和人类语音的产生机制,是踏入语音智能领域的第一步,也是构建任何语音系统——无论是简单的语音识别还是复杂的多模态对话系统——不可或缺的基石。
本章将系统性地解答两个根本问题:声音在物理层面是什么,以及人类如何产生语音。我们将从声波的振动与传播这一物理学基础出发,逐步深入到人类语音产生的生理机制,理解声带振动、气流调制、声道共鸣等核心过程如何协同工作。在此基础上,我们将引入语音学的基本概念——音素、音节、元音、辅音——并建立这些语言学概念与声学信号之间的对应关系。语音信号的基本属性,包括基频(fundamental frequency)、谐波(harmonic)、共振峰(formant)等概念,将帮助我们将听觉感知与物理测量统一起来。最后,通过 Python 实践环节,读者将亲手处理真实的音频数据,建立对语音信号的直观认识。
声音的物理本质
声音是什么?从物理学的角度,声音是机械波(mechanical wave)的一种形式,必须依赖于介质(medium)才能传播。声波的振动本质是介质中质点的周期性压缩与稀疏(compression and rarefaction)。当声源振动时,它推动邻近的空气分子靠近,形成压缩区;随后声源反向运动,导致这些分子被拉开,形成稀疏区。这种压缩与稀疏的交替模式以波的形式向四周传播,而介质本身并不随波迁移——空气分子只在原地附近振动,将能量传递给下一个质点。
声波的三个基本物理量构成了描述声音的全部维度。振幅(amplitude)衡量声波携带的能量大小,对应于人耳感知的声音响度(loudness)。声波传播时,压缩区与稀疏区的压力变化幅度决定了声音的强弱。数学上,理想正弦波的声压可以表示为:
$$p(t) = P_{max} \sin(2\pi ft + \phi)$$
其中 $P_{max}$ 是声压的峰值,即振幅。频率(frequency)描述单位时间内振动的完整周期数,单位是赫兹(Hz)。频率直接对应于人耳感知的声音音调(pitch):高频声听起来尖锐,低频声听起来低沉。人类听觉系统的频率感知范围大约从 20 Hz 到 20,000 Hz,而语音信号的主要能量集中在 80 Hz 到 8,000 Hz 的范围内。波长(wavelength)是声波在一个完整振动周期内传播的距离,与频率和传播速度存在确定关系:$\lambda = v/f$,其中 $v$ 是声速(在空气中约为 343 m/s)。
在日常语音通信中,传播介质通常是空气,而声速主要由温度决定。值得注意的是,声速与频率无关——这意味着不同频率的声波在相同介质中以相同速度传播,这一特性使得复杂声音(如语音)能够作为一个整体被感知。声波在传播过程中会发生反射、折射、衍射和吸收等现象,这些特性在室内语音通话和会议室声学设计中具有重要意义,但在我们理解语音信号的基本性质时,暂时可以忽略。
声波的叠加原理(superposition principle)揭示了复杂声音的基本构成。当两列或多列声波在同一区域相遇时,合成声压等于各列声压的代数和。这意味着任何复杂的声音波形都可以分解为一系列简单正弦波的叠加,反之亦然。这一洞察是傅里叶分析(Fourier analysis)的理论基础,也是现代语音信号处理的核心数学工具。一个看似杂乱的语音波形,实质上是由许多不同频率、不同振幅的正弦波精确叠加而成,而傅里叶变换能够精确地揭示这种组成关系。
声波作为一种机械波,具有能量和功率。声功率(acoustic power)是声源辐射的总能量,而声强(sound intensity)是单位面积上通过的声功率。在实际应用中,更常用的度量是声压级(sound pressure level, SPL),定义为实际声压与参考声压的比值取对数:
$$L_p = 20 \log_{10}\left(\frac{p_{rms}}{p_{ref}}\right) \text{ dB}$$
参考声压 $p_{ref}$ 通常取为 20 μPa,这是人类听觉阈值在 1 kHz 时的声压值。分贝(decibel, dB)是一个对数尺度,能够在紧凑的数值范围内表示极大的动态范围变化——从耳语的低语(约 30 dB SPL)到喷气式飞机起飞时的轰鸣(约 140 dB SPL),人类语音的典型范围在 40 到 80 dB SPL 之间。
人类语音的产生机制
人类语音的产生是一个涉及多个器官协同工作的复杂生理过程。这一过程可以理解为一个"源-滤波器"系统(source-filter system):声带振动产生声源(source),声道(包括口腔、鼻腔、咽腔)对声源进行调制(filter),最终形成我们听到的语音。这一框架由 Gunnar Fant 在 1960 年代提出,至今仍是语音声学和语音合成的核心理论基础。
语音产生的生理机制始于肺部。肺作为呼吸系统的核心器官,在发声时充当气泵的角色。呼气时,肺部的弹性回缩力驱动空气通过气管向上流动。当我们需要发声时,声门(glottis)——即声带之间的缝隙——会相应调整其开闭程度。平静呼吸时,声门处于略微张开的状态,允许空气自由通过而不产生振动;而在发声时,声门闭合,气流被迫从狭窄的缝隙中挤出,触发声带的振动。
声带(vocal folds/vocal cords)是语音产生的核心器官,位于喉结内部。声带是两片薄而富有弹性的组织,由声门肌和声门襞组成。声带振动的机制可以类比为气流的"吹管效应":当气流通过声门缝隙时,会产生伯努利效应(Bernoulli effect)——流体速度越快,压力越低。声门下方的高速气流导致声带上下表面产生压力差,吸合声带使其暂时关闭;随后声带的弹性回弹力和气流冲量使其重新打开。这种开-闭循环以极高的频率持续进行,产生周期性的声门振动。
声带振动的频率范围决定了语音的基频。成年男性的基频通常在 80 Hz 到 180 Hz 之间,成年女性在 150 Hz 到 250 Hz 之间,而儿童的基频更高,可达 300 Hz 以上。值得注意的是,基频并非固定不变——在自然对话中,基频会随语气、情感和句子的语法功能而动态变化,这种变化被称为韵律特征(prosody)。例如,在疑问句的句尾,基频通常会升高;而在陈述句中,基频往往呈下降趋势。基频的调节主要由声带的张力控制:声带肌收缩增加张力和紧绷度,提高振动频率;反之,放松声带则降低基频。
声道(vocal tract)是从声门到嘴唇和鼻腔出口的整个声道空间,包括咽腔(pharynx)、口腔(oral cavity)和鼻腔(nasal cavity)。声道并非声音的直接来源,而是一个共鸣腔(resonance cavity),对声带振动产生的原始声音进行"滤波"。声道的形状可以通过舌头的抬起或降低、嘴唇的圆展、软腭的升降等动作大幅改变,从而改变其声学特性。
声道共鸣的物理本质是驻波(standing wave)现象。当声波在声道内传播并遇到边界(如口腔后壁、软腭)时,会发生反射。入射波与反射波叠加,在特定频率下形成稳定的驻波模式,这些频率被称为共振峰频率(formant frequencies)。声道的几何形状决定了哪些频率能够形成驻波——较长的声道对应较低的共振峰频率,较短的声道对应较高的频率;收缩的声道部位会增加特定频率的能量,而扩张的部位则会抑制某些频率。
```mermaid graph TD A[肺部呼气] --> B[声带振动产生声门波] B --> C[声道调制] C --> D{软腭位置} D -->|口音模式| E[口腔共鸣] D -->|鼻音模式| F[鼻腔共鸣] E --> G[嘴唇辐射] F --> G G --> H[声波辐射到空气中]
I[声门振动频率] --> J[决定基频 F0] K[声道形状] --> L[决定共振峰 F1, F2, F3...]
style A fill:#e1f5fe style H fill:#c8e6c9 style J fill:#fff3e0 style L fill:#fff3e0 ```
共振峰是元音声学特征的核心表征。语言学研究表明,每个元音都有其独特的共振峰模式,其中前两个共振峰(F1 和 F2)的组合能够唯一确定元音的身份。以英语元音为例,高元音如 /i/(如 "see")具有较低的 F1(约 250-350 Hz)和较高的 F2(约 2200-3000 Hz),这反映了发高元音时舌头位置较高、口腔前部较开阔的声道形状;而低元音如 /æ/(如 "cat")具有较高的 F1(约 700-1000 Hz)和中等的 F2(约 1200-1500 Hz)。这一规律在不同语言中普遍存在,使得共振峰成为自动语音识别和说话人识别系统中的关键特征。
辅音的产生机制与元音有所不同。根据发音方式(manner of articulation),辅音可以分为多种类型。爆破音(plosive/stop)如 /p, b, t, d, k, g/:声道在某一部位完全闭塞,形成对气流的阻塞,然后突然释放,产生短暂的湍流和无声段。摩擦音(fricative)如 /f, v, s, z, sh/:声道在特定部位形成狭窄通道,气流高速通过产生湍流,形成持续的有噪声成分。鼻音(nasal)如 /m, n, ng/:软腭下降,打开鼻腔通道,声波通过鼻腔共鸣后辐射出去。流音(approximant/lateral)如 /l, r/:声道形成半开放通道,气流平稳通过,伴随轻微的湍流。塞擦音(affricate)如 /ch, j/:爆破音与摩擦音的组合,先闭塞后摩擦。
不同辅音的声学特征差异显著。爆破音的声学表现包含一个静默期(闭塞期)和一个释放爆破,释放瞬间会产生短暂的噪声爆发,随后可能跟随一个浊音冲(voice bar)——如果该爆破音是浊音(如 /b, d, g/),声带振动会在闭塞期间就开始。摩擦音则呈现持续的高频噪声,其频谱形状取决于具体的发音部位:唇齿摩擦音 /f, v/ 能量集中在 5-10 kHz,齿龈摩擦音 /s, z/ 能量集中在 4-8 kHz。鼻音的声学特征是低频能量增强和共振峰结构的缺失,因为鼻腔通道对声波起到阻隔和衰减作用。
清浊对立(voicing contrast)是辅音分类的另一重要维度。清辅音(如 /p, t, k, f, s/)在发音时声带不振动或振动极弱,而浊辅音(如 /b, d, g, v, z/)伴随声带振动。这一区分在许多语言中具有辨义功能:英语中 "pat" 与 "bat"、"two" 与 "do" 的区别正是基于清浊对立。声学上,清辅音在频谱上呈现为噪声为主的模式,能量集中在中高频;浊辅音则包含基频和低次谐波,呈现类周期性的频谱结构。
语音信号的基本属性
当我们将上述物理和生理知识应用于实际语音信号分析时,需要一套精确的声学参数来描述语音的时域和频域特性。这些参数——基频、谐波、共振峰——构成了语音声学分析的基础词汇。
基频(fundamental frequency, F0)是声带振动周期的倒数,直接对应于语音的音调感知。对于周期性的浊音语音,F0 可以通过自相关分析(autocorrelation analysis)或倒谱分析(cepstrum analysis)等方法精确估计。基频随时间的变化曲线称为基频轮廓(F0 contour),它承载着语调(intonation)和情感信息。在语音合成中,基频轮廓的设计直接影响合成语音的自然度和表现力;在语音识别中,基频信息有助于区分疑问句和陈述句。
从频域角度看,浊音语音的频谱由一系列离散的频率分量组成,这些分量称为谐波(harmonic)。基频 F0 是第一谐波,其频率为 F0;其他谐波的频率是基频的整数倍:2F0、3F0、4F0 等等。谐波的振幅由声带振动的具体波形决定——理想的对称锯齿波在频谱上呈现为振幅逐次衰减的谐波序列,而更复杂的声门波形则产生不规则的谐波结构。谐波分析对于理解嗓音质量(voice quality)至关重要:沙哑嗓音(hoarse voice)通常伴随着谐波振幅的不规则性和噪声成分的增加。
声道共振对谐波的影响是"源-滤波器"模型的核心体现。声道作为滤波器,其频率响应特性决定了哪些谐波会被增强,哪些会被削弱。共振峰频率是声道频率响应中的峰值位置,通常用 F1、F2、F3、F4 等表示前四个主要的共振峰。在 3 kHz 到 4 kHz 的采样率下,F1 到 F3 通常足以描述元音的声学特征;更精细的分析可能需要提取到 F5 或更高。共振峰频率与声道形状之间存在复杂的映射关系,这使得通过调整声道形状来控制共振峰成为可能,也为语音合成提供了参数控制的理论基础。
共振峰频率可以用简化的声管模型(tube model)来估算。对于均匀的封闭管,最低共振频率约为 $f_1 = c/(4L)$,其中 $c$ 是声速,$L$ 是管道长度。成人男性声道长度约 17 cm,对应第一共振频率约 500 Hz;声道缩短到约 14 cm(女性)或 10 cm(儿童),则 F1 相应升高。然而,实际声道并非均匀管道,存在多个收缩和扩张区域,因此实际共振峰频率的计算更为复杂,需要使用声学模拟或经验公式。
语音信号的时域特性同样重要。短时能量(short-time energy)定义为语音信号在短时窗内的均方值或对数能量,反映了语音的响度变化。浊音段具有较高的能量,而清辅音和静音段能量较低。过零率(zero crossing rate)是另一常用特征,计算单位时间内信号穿过零电平的次数。清音信号(如摩擦音)具有较高的过零率,而浊音信号的过零率相对较低。过零率与短时能量的组合可以用于初步区分浊音和清音帧。
在数字信号处理领域,语音信号首先需要经过采样(sampling)转换为离散时间信号。采样率(sampling rate)决定了能够表示的最高频率,根据奈奎斯特-香农采样定理(Nyquist-Shannon sampling theorem),采样率必须大于信号最高频率的两倍才能避免混叠(aliasing)。对于语音处理,8 kHz 采样率覆盖了电话语音的主要频率范围(0-4 kHz),而 16 kHz 或更高采样率则适用于需要保留更高频细节的场景,如音乐、摩擦音的精细结构等。
量化(quantization)是将连续的振幅值映射为有限数量离散值的过程,量化位数(bit depth)决定了每个样本的取值精度。常见的量化精度包括 8 位(256 级)、16 位(65,536 级)和 24 位(16,777,216 级)。16 位量化是 CD 质量和大多数语音研究的标准,能够提供约 96 dB 的动态范围,对于处理从耳语到高声喊叫的语音动态范围已经足够。量化精度不足会导致量化噪声,在语音信号中表现为嘶哑和失真。
语音信号的另一个重要维度是动态范围(dynamic range)。实际语音信号的振幅可能相差 1000 倍以上(60 dB),从静音期的微弱噪声到爆破音的瞬时峰值。语音编解码器和自动增益控制(AGC)系统需要处理这种大动态范围,以确保在各种录音条件下都能获得可接受的信号质量。峰值削波(clipping)是信号处理中的常见问题,当输入信号超过系统的线性范围时会被截断,产生刺耳的失真。
语音学基本概念
语音学(phonetics)是研究人类语音的科学,涉及语音的产生、传递和感知三个层面。与前述的声学语音学(acoustic phonetics)不同,语音学还包括发音语音学(articulatory phonetics,研究发音器官的运动)和听觉语音学(auditory phonetics,研究语音的感知机制)。理解语音学的基本概念对于构建人机语音交互系统至关重要,因为这些概念建立了语言学理论与声学信号处理之间的桥梁。
音素(phoneme)是语言中具有辨义功能的最小声音单位。音素本身不是具体的声音,而是抽象的类别——同一音素在不同语境下产生的实际语音(称为音素变体 allophone)可能存在显著差异。例如,英语中的 /t/ 音素在 "top" 和 "stop" 中有不同的发音:词首的 /t/ 是送气音(aspirated),伴随较强的气流释放;而 /s/ 后的 /t/ 是不送气音(unaspirated),几乎与 /d/ 的发音难以区分。这种差异在英语中不具有辨义功能(不能区分词义),因此属于同一音素的不同变体。然而,在汉语普通话中,送气与不送气的对立具有辨义功能(如 "大巴" /da.ba/ vs "大趴" /ta.pa/),因此被区分为两个不同的音素。
国际音标(International Phonetic Alphabet, IPA)提供了一套标准化的符号系统,用于精确表示世界上任何语言的语音。IPA 表格包含辅音表和元音图,辅音表按照发音部位(articulation place,从嘴唇到声门)和发音方式(manner of articulation)组织,元音图按照舌位高低和前后排列。例如,[p] 表示清唇爆破音,[a] 表示低中央元音,[ʃ] 表示清卷舌摩擦音。掌握 IPA 是进行跨语言语音研究和构建多语言语音系统的基础。
元音(vowel)的声学特征主要由共振峰决定。元音分类基于三个维度:舌位高度(high/mid/low)、舌位前后(front/central/back)、唇形(rounded/unrounded)。高元音如 /i, u/ 发音时舌头抬升,声道较长,F1 较低;低元音如 /a/ 发音时舌头放低,声道较短,F1 较高。前元音如 /i, e/ 发音时舌头前伸,口腔前部共鸣增强,F2 较高;后元音如 /u, o/ 发音时舌头后缩,口腔后部共鸣增强,F2 较低。圆唇元音如 /o, u/ 发音时双唇圆收,嘴唇形成收窄的出口,增加了声道的有效长度,导致所有共振峰频率降低。
不同语言具有不同的元音系统(vowel inventory)。英语标准发音(RP/GA)包含约 15-20 个元音音素(包括双元音),汉语普通话包含约 10 个基本元音音素(包含单元音和复合元音)。元音系统的差异直接影响语音识别系统的设计——跨语言的语音系统需要处理不同语言中元音类别的差异。
辅音(consonant)的分类更为复杂,涉及发音部位和发音方式两个维度。发音部位包括双唇(bilabial)、唇齿(labiodental)、