时间序列预测基础与数学框架 / Foundations of Time Series Forecasting

时间序列预测基础与数学框架

引言

时间序列预测是统计学与数据科学领域中最为古老且应用最为广泛的研究方向之一。从17世纪商人记录粮食价格波动，到现代金融机构实时监控市场风险，从气象学家预测未来七天的天气变化，到互联网公司预估下个月的活跃用户数量——时间序列数据无处不在，预测方法持续演进。本书的第一章将系统性地建立时间序列预测的理论基础，涵盖从基本概念定义到数学框架构建的完整知识体系，为后续章节的深入讨论奠定坚实基础。

时间序列与横截面数据的根本区别在于观测值之间的时序依赖性（temporal dependence）。这一特性使得传统统计方法中的独立同分布假设不再成立，进而催生了一系列专门用于处理时序数据的建模技术。在深入学习具体预测方法之前，读者必须首先理解时间序列的本质特征、平稳性概念以及预测评估体系，这些知识将贯穿全书始终。

本章采用“先概念、后理论、再应用”的组织方式。首先，我们从时间序列的定义出发，详细剖析其四大核心特性：趋势、季节性、周期性和随机性。接着，引入平稳性这一核心概念，并系统介绍ADF检验和KPSS检验两种主流平稳性判断方法。在此基础上，我们讨论白噪声与随机过程理论，这些构成了时间序列模型的理论基石。第五节建立时间序列预测的统一数学框架，明确点预测与区间预测的关系。最后两节分别介绍预测评估指标体系和预测区间构建方法，并通过Python代码演示实际操作。

---

时间序列的定义与数学表示

时间序列（Time Series）是指按时间顺序排列的随机变量序列，通常记作：

$$\{Y_t, t \in T\}$$

其中，$t$ 表示时间索引，可以是离散的（如每日、每周、每月）或连续的（如毫秒级传感器数据）。在本书中，如无特殊说明，我们默认处理的是离散时间序列，即等间隔采样的观测值序列。

一个长度为 $T$ 的时间序列可以表示为：

$$\mathbf{Y} = (y_1, y_2, \ldots, y_T)$$

其中 $y_t$ 是时间点 $t$ 的观测值。值得注意的是，$y_t$ 在概念上应理解为一个随机变量的实现（realization），而非单纯的数值。真正的随机性来自于产生数据的底层随机过程，而观测值只是这个过程的一次具体表现。这种区分对于理解统计推断和预测不确定性至关重要。

在实际应用中，时间序列数据通常以表格形式存储，其中第一列为时间戳（timestamp），第二列为对应的观测值。以下是一个典型的Python数据读取示例：

```python import pandas as pd import numpy as np

读取时间序列数据

df = pd.read_csv('timeseries_data.csv', parse_dates=['date'], index_col='date') print(df.head(10)) print(f"\n数据形状: {df.shape}") print(f"时间范围: {df.index.min()} 至 {df.index.max()}") print(f"采样频率: {df.index.freq}") ```

时间序列的采样频率（sampling frequency）描述了观测值之间的时间间隔。常见的采样频率包括：

| 采样频率 | 代码标识 | 典型应用场景 | |---------|---------|-------------| | 年（Annual） | 'Y' | GDP年度数据、人口统计 | | 季（Quarterly） | 'Q' | 宏观经济指标、财务报表 | | 月（Monthly） | 'M' | 零售销售、工业生产指数 | | 周（Weekly） | 'W' | 疾病监控、网站周访问量 | | 日（Daily） | 'D' | 股票价格、气象观测 | | 小时（Hourly） | 'H' | 电网负荷、网络流量 | | 分钟/秒 | 'T'/'S' | 高频交易、传感器数据 |

理解采样频率对于选择合适的预测方法至关重要。高频数据往往表现出更强的噪声特性，而低频数据则更容易呈现清晰的趋势和季节模式。

---

时间序列的四大核心特性

趋势（Trend）

趋势是时间序列在长期内呈现的上升或下降变动模式。趋势成分反映了数据背后的根本性变化力量，如人口增长、技术进步、经济周期中的结构性变化等。在数学上，趋势可以表示为时间 $t$ 的确定性函数：

$$T_t = f(t)$$

常见的趋势函数形式包括：

线性趋势：$T_t = a + bt$，其中 $b$ 为趋势斜率，表示单位时间内观测值的平均变化量。

多项式趋势：$T_t = a_0 + a_1 t + a_2 t^2 + \ldots + a_k t^k$，能够捕捉非线性变化。

指数趋势：$T_t = a \cdot e^{bt}$，适用于增长率相对恒定的情况，如复利增长、人口膨胀。

对数趋势：$T_t = a + b \ln(t)$，描述边际效应递减的变化过程。

考虑一个实际案例：全球平均温度的长期变化。NASA的GISS地表温度分析数据显示，自工业革命以来，全球年均温度呈现出明显的上升趋势。使用线性回归拟合这一趋势：

```python import pandas as pd import numpy as np from sklearn.linear_model import LinearRegression import matplotlib.pyplot as plt

加载全球温度异常数据（示例数据）

years = np.arange(1880, 2024)

模拟数据（实际应从NASA GISS获取）

np.random.seed(42) temperature_anomaly = 0.05 * (years - 1880) + 0.3 * np.sin(2 * np.pi * (years - 1880) / 50) + np.random.randn(len(years)) * 0.2

拟合线性趋势

X = years.reshape(-1, 1) model = LinearRegression() model.fit(X, temperature_anomaly) trend = model.predict(X)

print(f"趋势斜率: {model.coef_[0]:.4f} °C/年") print(f"这意味着每10年温度上升约 {model.coef_[0] * 10:.2f} °C")

plt.figure(figsize=(12, 5)) plt.plot(years, temperature_anomaly, alpha=0.6, label='观测值') plt.plot(years, trend, 'r-', linewidth=2, label='线性趋势') plt.xlabel('年份') plt.ylabel('温度异常 (°C)') plt.title('全球年均温度异常及线性趋势') plt.legend() plt.grid(True, alpha=0.3) plt.show() ```

趋势分析的核心挑战在于区分确定性趋势（deterministic trend）和随机趋势（stochastic trend）。确定性趋势可以用固定的时间函数描述，而随机趋势则表现为单位根过程（unit root process），其变化具有持久性冲击。区分这两类趋势对于选择合适的差分阶数至关重要，这一问题将在平稳性检验部分深入讨论。

季节性（Seasonality）

季节性（Seasonality）是指时间序列中呈现的固定周期波动模式。这种周期性波动与日历中的季节（如春夏秋冬、月份、周末/工作日）紧密相关。典型的季节性模式包括：

• **年度季节性**：以年为周期，如冰淇淋销量（夏季高于冬季）、取暖能源消耗（冬季高于夏季）。
• **周度季节性**：以周为周期，如商场周末客流量高于工作日。
• **日内季节性**：以天为周期，如电网负荷（白天高于夜间）、交通流量（早晚高峰）。

季节性可以表示为周期 $s$ 的函数：

$$S_t = S_{t+s}$$

即时间点 $t$ 与 $t+s$ 具有相同的季节效应。例如，月度数据的年度季节性周期 $s = 12$。

季节性成分的建模通常有两种方式：加法季节性和乘法季节性。

加法季节性模型假设季节波动幅度不随趋势水平变化：

$$Y_t = T_t + S_t + R_t$$

其中 $T_t$ 为趋势成分，$S_t$ 为季节成分，$R_t$ 为残差（剩余成分）。

乘法季节性模型假设季节波动与趋势水平成比例：

$$Y_t = T_t \times S_t \times R_t$$

乘法模型的对数形式等价于加法模型：

$$\ln Y_t = \ln T_t + \ln S_t + \ln R_t$$

选择加法还是乘法季节性，取决于数据的特性。当季节波动的绝对幅度在各时期大致相同时，加法模型更为合适；当季节波动与趋势水平成比例变化时，乘法模型更为适用。

以下代码演示了如何使用Python分解时间序列的季节性成分：

```python import pandas as pd import numpy as np from statsmodels.tsa.seasonal import seasonal_decompose import matplotlib.pyplot as plt

创建包含趋势和季节性的模拟数据

np.random.seed(42) n = 120 # 10年的月度数据 t = np.arange(n) trend = 0.3 * t # 线性上升趋势 seasonal = 10 * np.sin(2 * np.pi * t / 12) # 年度季节性 noise = np.random.randn(n) * 2 # 随机噪声 y = trend + seasonal + noise

创建时间序列对象

ts = pd.Series(y, index=pd.date_range('2014-01', periods=n, freq='M'))

季节性分解（使用加法模型）

decomposition = seasonal_decompose(ts, model='additive')

fig, axes = plt.subplots(4, 1, figsize=(12, 10)) decomposition.observed.plot(ax=axes[0], title='原始序列 (Observed)') decomposition.trend.plot(ax=axes[1], title='趋势成分 (Trend)') decomposition.seasonal.plot(ax=axes[2], title='季节成分 (Seasonal)') decomposition.resid.plot(ax=axes[3], title='残差成分 (Residual)') plt.tight_layout() plt.show()

print("季节性周期: 12个月") print(f"季节效应振幅: {decomposition.seasonal.max() - decomposition.seasonal.min():.2f}") ```

在实际应用中，季节性检测和建模是时间序列分析的关键环节。傅里叶变换（Fourier Transform）和谱分析（Spectral Analysis）是识别隐藏周期性的有力工具，而ARIMA模型的季节性扩展（SARIMA）以及 prophet、STL等专用方法则为季节性建模提供了灵活的选择。

周期性（Cyclicity）

周期性（Cyclicity）与季节性容易混淆，但两者有着本质区别。周期性波动没有固定的周期长度，其波动幅度和持续时间往往不可预测。经济领域的商业周期（business cycle）是典型案例：繁荣与衰退的交替没有固定的时间表，可能持续数年也可能持续数十年。

区分季节性与周期性的关键标准：

| 特性 | 季节性 | 周期性 | |-----|-------|-------| | 周期长度 | 固定且已知（如12个月） | 不固定，不可预测 | | 触发因素 | 日历效应（季节、假日） | 经济、社会、自然冲击 | | 幅度 | 通常与趋势成比例 | 变化不定 | | 建模方式 | 确定性周期函数 | 随机过程建模 |

在实践中，许多时间序列同时包含季节性和周期性成分。例如，零售销售额既受年度季节性（假日购物）影响，也受宏观经济周期影响。分离这两种成分需要更复杂的建模方法，这也是现代时间序列分析的挑战之一。

随机性（Randomness）

任何可预测成分被剥离后，时间序列剩余的部分即为随机成分或噪声。随机性代表了数据中无法用确定性模型解释的变异来源。理想情况下，随机成分应该是白噪声（white noise）——即满足均值为零、方差恒定、序列不相关的随机过程。

真实世界的时间序列很少表现出纯粹的白噪声特性。更常见的情况是，残差中仍存在某种结构，如条件异方差（heteroscedasticity，即方差随时间变化）或自相关（autocorrelation，即相邻观测值之间存在关联）。识别和处理这些残余结构对于构建高质量预测模型至关重要。

---

平稳性：时间序列分析的核心概念

宽平稳性的定义与意义

平稳性（Stationarity）是时间序列分析中最重要的概念之一。一个平稳的时间序列，其统计特性（如均值、方差、自协方差）不随时间推移而发生变化。这种“不变性”使得我们可以利用历史数据推断未来行为，因为序列的分布特征在各时期是一致的。

时间序列理论区分两种平稳性概念：

严平稳性（Strict Stationarity）要求序列中任意有限集合的联合分布在时间平移下保持不变：

$$\left(Y_{t_1}, Y_{t_2}, \ldots, Y_{t_k}\right) \stackrel{d}{=} \left(Y_{t_1+h}, Y_{t_2+h}, \ldots, Y_{t_k+h}\right), \forall h, \forall k$$

严平稳性是一个极强的条件，在实际应用中几乎无法检验，通常只具有理论意义。

宽平稳性（Weak Stationarity）或协方差平稳性（Covariance Stationarity）只要求序列的一阶矩（均值）和二阶矩（协方差）满足时间不变性。具体而言，一个宽平稳过程满足三个条件：

1. 均值常数：$E(Y_t) = \mu, \forall t$ 2. 方差常数：$\text{Var}(Y_t) = \sigma^2, \forall t$ 3. 协方差只依赖于滞后期：$\text{Cov}(Y_t, Y_{t-h}) = \gamma_h, \forall t$

其中，$\gamma_h$ 称为自协方差函数（autocovariance function），描述了序列与其滞后 $h$ 期观测值之间的线性依赖程度。当 $h=0$ 时，$\gamma_0 = \text{Var}(Y_t) = \sigma^2$。

自协方差函数的标准形式是自相关函数（Autocorrelation Function, ACF）：

$$\rho_h = \frac{\gamma_h}{\gamma_0} = \frac{\text{Cov}(Y_t, Y_{t-h})}{\text{Var}(Y_t)}$$

ACF的取值范围为 $[-1, 1]$，$\rho_h = 0$ 表示滞后 $h$ 期的观测值之间无线性相关。

平稳性概念的重要性体现在以下方面：

预测的可行性：只有平稳序列才能基于历史数据的统计特征进行可靠的外推预测。对于非平稳序列，盲目使用历史均值或趋势外推可能导致严重的预测偏差。

模型识别的依据：许多时间序列模型（如ARMA）要求序列满足平稳性前提。当序列非平稳时，需要进行差分、变换等预处理，或使用专门处理非平稳数据的模型（如ARIMA）。

统计推断的有效性：许多统计检验和置信区间的构建都依赖于平稳性假设。当序列非平稳时，传统的t检验、F检验可能产生“伪回归”问题，即虚假地拒绝原假设。

平稳性检验方法

ADF检验（Augmented Dickey-Fuller Test）

ADF检验是应用最广泛的平稳性检验方法，由David Dickey和Wayne Fuller于1979年提出。其检验的原假设是序列存在单位根（unit root），即序列是非平稳的；备择假设是序列不存在单位根（可能是平稳或趋势平稳）。

单位根过程可以直观理解为：序列受到一个随机冲击后，该冲击的影响永久性地存在于序列中，不会随时间衰减。以随机游走为例：

$$Y_t = Y_{t-1} + \varepsilon_t$$

其中 $\varepsilon_t$ 是白噪声。初始值 $Y_0 = 0$，则：

$$Y_t = \sum_{i=1}^{t} \varepsilon_i$$

容易验证，$E(Y_t) = 0$，但 $\text{Var}(Y_t) = t\sigma^2$ 方差随时间增长，序列非平稳。

ADF检验通过以下回归模型进行：

$$\Delta Y_t = \alpha + \beta t + \gamma Y_{t-1} + \sum_{i=1}^{p} \delta_i \Delta Y_{t-i} + \varepsilon_t$$

其中：

• $\Delta Y_t = Y_t - Y_{t-1}$ 为一阶差分
• $\alpha$ 为常数项（截距）
• $\beta t$ 为时间趋势项
• $p$ 为滞后差分项的阶数
• $\varepsilon_t$ 为误差项

检验的核心是系数 $\gamma$。若 $\gamma = 0$，则 $Y_{t-1}$ 的系数为零，意味着序列存在单位根。若 $\gamma < 0$，则序列倾向于回归均值，可能平稳。

ADF检验统计量为：

$$\tau = \frac{\hat{\gamma}}{SE(\hat{\gamma})}$$

在原假设下，该统计量服从非标准的Dickey-Fuller分布，其临界值通过蒙特卡洛模拟获得。需要注意的是，ADF检验的临界值与标准t分布截然不同，错误使用标