27 局部水平模型

状态空间模型是时间序列分析领域中一类强大、灵活、多样的模型, 配合卡尔曼滤波技术,可以涵盖ARIMA模型、许多非平稳的、带有外生变量的模型, 比前面所述的线性时间序列模型更为灵活。 R扩展包statespacer实现了许多模型, 并且可以自定义模型。

参考:

作为入门, 先介绍一个局部水平模型。 这个模型很简单, 所以可以用来演示状态空间模型的表示和估计。

27.1 模型

\(\{ y_t, t=1,2,\dots,T\}\)为时间序列, 满足如下模型 \[\begin{align} y_t =& \mu_t + e_t, \ \{e_t\} \sim \text{iid N}(0, \sigma_e^2), \ t=1,2,\dots,n, \tag{27.1}\\ \mu_{t+1} =& \mu_t + \eta_t, \ \{\eta_t\} \sim \text{iid N}(0, \sigma_{\eta}^2), \tag{27.2} \end{align}\] 其中\(\{e_t\}\)\(\{\eta_t\}\)相互独立, 初始值\(\mu_1\)为给定值或者是服从正态分布的随机变量, 且与\(\{e_t, \eta_t, t>0\}\)相互独立。 称\(\{\mu_t\}\)\(\{y_t\}\)的水平, 模型中\(\{y_t\}\)可观测而\(\{\mu_t\}\)不可观测。

方程(27.1)-(27.2)是线性高斯状态空间模型的一个特例。 \(\{\mu_t\}\)代表系统在\(t\)时刻所处的状态, 不可观测,方程(27.2)称为状态方程, 描述了系统的内在演变规律; \(\{y_t\}\)代表系统在\(t\)时刻的观测值或输出值, (27.1)称为观测方程\(\{e_t\}\)是观测误差, 仅影响到\(t\)时刻, 是一个瞬态的误差或噪声。

这个模型称为局部水平模型, 也是“结构时间序列模型”的一个特例。

例27.1 考虑Alcoa股票日现实波动率数据, 时间期间为2003-01-02到2004-05-07, 共340个观测。 日现实波动率是用交易日内每隔10分钟的对数收益率的平方和计算的。
da <- read_table2("aa-3rv.txt", 
  col_names=FALSE)
## Warning: `read_table2()` was deprecated in readr 2.0.0.
## Please use `read_table()` instead.
## 
## -- Column specification --------------------------------------------------------
## cols(
##   X1 = col_double(),
##   X2 = col_double(),
##   X3 = col_double()
## )
ts.alcoa <- ts(log(da[[2]]))
plot(ts.alcoa, main="Alcoa股票日现实波动率对数值数据")

可以用局部水平模型获得\(\{\mu_t\}\), 作为去噪声的波动率估计。

27.2 局部水平模型与ARIMA模型的关系

注意到 \[ y_t - y_{t-1} = \eta_{t-1} + e_t - e_{t-1}, \]\(\xi_t = \eta_{t-1} + e_t - e_{t-1}\), 易见\(\xi_t\)的自相关函数在1以后截尾, 所以\(\xi_t\)服从一个MA(1)模型。 由多元正态分布的性质可知存在\(\{a_t \} \sim \text{N}(0, \sigma_a^2)\)\(|\theta|\leq 1\)使得 \[ y_t - y_{t-1} = a_t + \theta a_{t-1}, \] 从而\(y_t\)服从一个高斯的ARIMA(0,1,1)模型。

\[\begin{aligned} \text{Var}(\xi_t) =& 2 \sigma_e^2 + \sigma_{\eta}^2 = \sigma_a^2 (1 + \theta^2), \\ \text{Cov}(\xi_t, \xi_{t-1}) =& -\sigma_e^2 = \theta \sigma_a^2, \end{aligned}\] 可以求解出\(\theta\)且使得\(-1 < \theta < 0\): \[\begin{aligned} \theta = \frac{b + \sqrt{b^2 + 4}}{2}, \text{ 其中 } b = -2 - \frac{\sigma_{\eta}^2}{\sigma_e^2} < -2 . \end{aligned}\]

反过来,如果\(y_t\)服从一个ARIMA(0,1,1)模型且\(\theta\)为负值, 则可以将其写成(27.1)-(27.2)的形式。 如果\(\theta\)为正值, 可以写成\(\sigma_e=0\)的形式。

例27.2 对Alcoa股票日现实波动率对数值数据用ARIMA建模。
mod <- arima(ts.alcoa,
  order=c(0,1,1))
mod
## 
## Call:
## arima(x = ts.alcoa, order = c(0, 1, 1))
## 
## Coefficients:
##           ma1
##       -0.8582
## s.e.   0.0397
## 
## sigma^2 estimated as 0.2688:  log likelihood = -258.98,  aic = 521.95

得到的ARIMA(0,1,1)模型为: \[\begin{aligned} (1-B) y_t = (1 - 0.8582 B) a_t, \ a_t \sim \text{WN}(0, 0.2688) . \end{aligned}\]

通过\(\sigma_e^2\), \(\sigma_{\eta}^2\)\(\theta\), \(\sigma_a^2\)的关系, 可以解出 \[ \sigma_e^2 = -\theta \sigma_a^2 = 0.2307, \quad \sigma_{\eta}^2 = \sigma_a^2(1 + \theta^2) - 2\sigma_e^2 =0.0054 \]

可见噪声严重超过了信号的扰动。

下面用R的statespacer扩展包估计局部水平模型。

library(statespacer)
ssr1 <- statespacer(
  y = cbind(as.vector(ts.alcoa)),
  local_level_ind = TRUE,
  initial = rep(0.5*log(var(ts.alcoa)), 2),
  verbose = TRUE)
## Starting the optimisation procedure at: 2022-01-23 10:36:04
## initial  value 1.022439 
## iter  10 value 0.765458
## iter  20 value 0.764395
## final  value 0.764395 
## converged
## Finished the optimisation procedure at: 2022-01-23 10:36:04
## Time difference of 0.0195000171661377 secs

上面的程序中输入数据需要是矩阵形式, 每列为一个时间序列分量, 一元时间序列也需要输入为仅有一列的矩阵。 选项local_level_ind = TRUE表示有局部水平成分。 initial给出超参数初值选取, 为了保证\(\sigma_e^2\)\(\sigma_{\eta}^2\)估计为正数, 模型中使用了其对数值作为参数, 所以初值取了对数。

查看估计的\(\sigma_e^2\)\(\sigma_{\eta}^2\):

c(ssr1$system_matrices$H$H, ssr1$system_matrices$Q$level)
## [1] 0.230623632 0.005404681

与从ARIMA模型换算的结果基本相同。 statespacer利用了(J. Durbin and Koopman 2012)的模型和记号, \(H\)表示观测方程误差项方差阵, \(Q\)表示系统方程误差项方差阵。

27.3 滤波、平滑和预报

对状态空间模型如(27.1)-(27.2), 输入数据\(\{y_t, t=1,2,\dots, n \}\), 如果认为模型中参数(这里是\(\sigma_e^2\)\(\sigma_\eta^2\))已知, 经常讨论如下的统计推导问题:

  • 滤波:从\(\{y_1, \dots, y_t \}\)估计\(\mu_t\)
  • 平滑:从\(\{y_1, \dots, y_n \}\)估计\(\{\mu_1, \mu_2, \dots, \mu_n \}\)
  • 预报:从\(\{y_1, \dots, y_t \}\)估计\(\mu_{t+h}\)\(y_{t+h}\)(\(h>0\))。

当参数已知, 记\(Y_t = (y_1, \dots, y_t)\), 易见:

  • 滤波解为\(E(\mu_t | Y_t)\)
  • 平滑解为\(E(\mu_t | Y_n)\)
  • 预报解为\(E(\mu_{t+h} | Y_t)\)\(E(y_{t+h} | Y_t)\)

由正态分布的性质, 可知这些滤波、平滑、预报仍服从多元正态分布, 且为最小均方误差线性估计。 \(\mu_t\)\(Y_s\)下的条件分布完全由条件期望和条件方差决定。 记\(\mu_{t|s} = E(\mu_t | Y_s)\), 记\(\Sigma_{t|s} = \text{Var}(\mu_t | Y_s)\)。 记\(y_{t|s} = E(y_t | F_s)\)。 特别地, 记\(a_t = E(\mu_t | Y_{t-1})\), \(P_t = \text{Var}(\mu_t | Y_{t-1})\)

\[ v_t = y_t - E(y_t | Y_{t-1}), \] 这是对\(y_t\)做最优一步预报时的误差, 显然\(E v_t = 0\), 令\(F_t = E v_t^2 = \text{Var}(v_t)\), 由联合正态分布性质,\(v_t\)\(Y_{t-1}\)独立, 所以也有 \[ F_t = E v_t^2 = \text{Var}(v_t) = \text{Var}(y_t | Y_{t-1}) . \]

于是由观测方程可得 \[\begin{align} y_{t|t-1} =& E(y_t | Y_{t-1}) = E(\mu_t + e_t | Y_{t-1}) = \mu_{t|t-1} = a_t, \\ v_t =& y_t - y_{t|t-1} = y_t - a_t, \tag{27.3} \\ F_t =& \text{Var}(y_t - \mu_{t|t-1} | Y_{t-1}) = \text{Var}(\mu_t + e_t - \mu_{t|t-1} | Y_{t-1}) \\ =& \text{Var}(\mu_t - \mu_{t|t-1} | Y_{t-1}) + \text{Var}(e_t | Y_{t-1}) \\ =& \Sigma_{t|t-1} + \sigma_e^2 = P_{t-1} + \sigma_e^2 . \tag{27.4} \end{align}\]

由多元正态分布性质可知预报误差\(v_t\)\(Y_s\)(\(s<t\))独立, 所以 \[ \text{Cov}(v_t, y_s) = 0, \ t > s . \] 从而\(\{v_t, t=1,2,\dots, n \}\)相互独立。 由多元正态性质, \[ \sigma(y_1, \dots, y_{t-1}, y_t ) = \sigma(Y_{t-1}, v_t ) . \] 其中\(\sigma(\cdot)\)表示由其中的随机变量所生成的最小\(\sigma\)代数。

对随机向量\(\boldsymbol X, \boldsymbol Y\), 记\(\boldsymbol\mu_{\boldsymbol X} = E \boldsymbol X\), \(\Sigma_{\boldsymbol X \boldsymbol X} = \text{Var}(\boldsymbol X)\)\(\Sigma_{\boldsymbol X \boldsymbol Y} = \text{Cov}(\boldsymbol X, \boldsymbol Y)\)。 从多元正态分布性质有如下定理(Tsay 2010) P.562:

定理27.1 设随机向量\(\boldsymbol X\), \(\boldsymbol Y\), \(\boldsymbol Z\)的联合分布为多元正态分布, 每一个的协方差阵都非退化, \(\Sigma_{\boldsymbol Y \boldsymbol Z} = \boldsymbol 0\)。 则有如下性质: \[\begin{aligned} (1)\ & E(\boldsymbol X | \boldsymbol Y) = \boldsymbol\mu_X + \Sigma_{\boldsymbol X \boldsymbol Y} \Sigma_{\boldsymbol Y \boldsymbol Y}^{-1} (\boldsymbol Y - \boldsymbol\mu_{\boldsymbol Y}) ; \\ (2)\ & \text{Var}(\boldsymbol X | \boldsymbol Y) = \Sigma_{\boldsymbol X \boldsymbol X} - \Sigma_{\boldsymbol X \boldsymbol Y} \Sigma_{\boldsymbol Y \boldsymbol Y}^{-1} \Sigma_{\boldsymbol Y \boldsymbol X} ; \\ (3)\ & E(\boldsymbol X | \boldsymbol Y, \boldsymbol Z) = E(\boldsymbol X | \boldsymbol Y) + E(\boldsymbol X - \boldsymbol\mu_{\boldsymbol X} | \boldsymbol Z) ; \\ (4)\ & \text{Var}(\boldsymbol X | \boldsymbol Y, \boldsymbol Z) = \text{Var}(\boldsymbol X | \boldsymbol Y) - \Sigma_{\boldsymbol X \boldsymbol Z} \Sigma_{\boldsymbol Z \boldsymbol Z}^{-1} \Sigma_{\boldsymbol Z \boldsymbol X} . \end{aligned}\]

27.4 卡尔曼滤波

卡尔曼滤波是一种递推算法, 对\(t=1,2,\dots\), 基于\(\mu_t | Y_{t-1}\)的条件分布和新得到的观测值\(y_t\), 求\(\mu_t | Y_t\)条件分布, 这只要求\(\mu_t | (Y_{t-1}, v_t)\)条件分布。 如果得到了\((\mu_t, v_t) | Y_{t-1}\)分布, 就可以得到\(\mu_t | (Y_{t-1}, v_t)\)条件分布。

由前一节, \(\mu_t | Y_{t-1} \sim \text{N}(a_t, P_t)\), \(v_t | Y_{t-1} \sim \text{N}(0, F_t)\), \((\mu_t, v_t) | Y_{t-1}\)条件分布只需求条件协方差: \[\begin{aligned} & \text{Cov}(\mu_t, v_t | Y_{t-1}) = E(\mu_t v_t | Y_{t-1}) \\ =& E[\mu_t (y_t - \mu_{t|t-1}) | Y_{t-1}] = E[\mu_t (\mu_t + e_t - \mu_{t|t-1}) | Y_{t-1}] \\ =& E[\mu_t (\mu_t - \mu_{t|t-1}) | Y_{t-1}] + E(\mu_t e_t | Y_{t-1}) \\ =& E[ (\mu_t - \mu_{t|t-1})^2 | Y_{t-1}] + 0 \\ =& \text{Var}(\mu_t | Y_{t-1}) = \Sigma_{t|t-1} = P_t . \end{aligned}\] 证明中用到 \[\begin{aligned} E(\mu_t e_t | Y_{t-1}) =& E[E(\mu_t e_t | Y_{t-1}, \mu_t) | Y_{t-1}] \\ =& E[\mu_t E( e_t | Y_{t-1}, \mu_t) | Y_{t-1}] = 0, \end{aligned}\] 这是因为\(e_t\)\(Y_{t-1}\)\(\mu_t\)都独立。

实际上还有 \[ \text{Cov}(\mu_t, v_t) = E\{ E(\mu_t v_t | Y_{t-1}) \} = \Sigma_{t|t-1} = P_t , \] \(P_t = \Sigma_{t|t-1}\)为非随机值。

总之,有\((\mu_t, v_t)^T\)\(Y_{t-1}\)条件下的分布为 \[ \text{N}\left( \begin{pmatrix} a_t \\ 0 \end{pmatrix}, \quad \begin{pmatrix} P_t & P_t \\ P_t & F_t \end{pmatrix} \right) . \]

于是,对于服从联合正态分布的\((\mu_t, Y_{t-1}, v_t)\), 因为\(v_t\)\(Y_{t-1}\)相互独立, 由定理27.1\[\begin{aligned} \mu_{t|t} =& E(\mu_t | Y_t) = E(\mu_t | Y_{t-1}, v_t) \\ =& E(\mu_t | Y_{t-1}) + E(\mu_t | v_t) \\ =& a_t + \frac{\text{Cov}(\mu_t, v_t)}{\text{Var}(v_t)} (v_t - E v_t) \\ =& a_t + \frac{P_t}{F_t} v_t = a_t + K_t v_t, \end{aligned}\] 其中\(K_t = \frac{P_t}{F_t}\)。 又 \[\begin{aligned} \Sigma_{t|t} =& \text{Var}(\mu_t | Y_t) = \text{Var}(\mu_t | Y_{t-1}, v_t) \\ =& \text{Var}(\mu_t | Y_{t-1}) - \frac{\text{Cov}^2(\mu_t, v_t)}{\text{Var}(v_t)} \\ =& P_t - \frac{P_t^2}{F_t} = P_t (1 - K_t), \end{aligned}\] \(K_t\)称为卡尔曼增益, 是用\(y_1, \dots, y_{t-1}, v_t\)\(\mu_t\)做最优线性预测时\(v_t\)的系数, 它决定了新的观测\(y_t\)对恢复\(\mu_t\)的信息所起到的作用。

推导上述\(\mu_t |Y_t\)条件分布的另一种想法是, 将\(Y_{t-1}\)条件下的\((\mu_t, v_t)\)联合分布看成是一个普通的二元正态分布, 这时\(\mu_t | v_t\)实际上是\(\mu_t | Y_{t-1}, v_t\)\(\mu_t | Y_t\), 由二元正态分布的条件分布公式可得\(\mu_t | Y_t\)\[\begin{aligned} \text{N} & \left( \mu_{t|t-1} + \frac{\text{Cov}(\mu_t, v_t | Y_{t-1})}{\text{Var}(v_t | Y_{t-1})}(v_t - E(v_t|Y_{t-1})), \right. \\ & \quad \left. \Sigma_{t|t-1} - \frac{\text{Cov}^2(\mu_t, v_t | Y_{t-1})}{\text{Var}(v_t | Y_{t-1})} \right), \end{aligned}\] 结果相同。

因此,滤波公式为: \[\begin{align} \mu_{t|t} =& a_t + K_t v_t, \tag{27.5} \\ \Sigma_{t|t} =& P_t (1 - K_t), \tag{27.6} \\ K_t =& \frac{P_t}{F_t} . \end{align}\]

有了\(\mu_t | Y_t\)分布后, 可以预测\(\mu_{t+1} | Y_t\)\[\begin{align} a_{t+1} =& \mu_{t+1|t} = E(\mu_{t+1} | Y_t) = E(\mu_{t} + \eta_t | Y_t) \\ =& \mu_{t|t} + 0 = \mu_{t|t} , \tag{27.7} \\ P_{t+1} =& \Sigma_{t+1|t} = \text{Var}(\mu_{t+1} | Y_t) = \text{Var}(\mu_{t} | Y_t) + \text{Var}(\eta_t | Y_t) \\ =& \Sigma_{t|t} + \sigma_{\eta}^2 . \tag{27.8} \end{align}\]

在上式推导中要注意\(\eta_t\)\(\mu_{t+1}\)所对应的状态方程的误差项, \(\eta_t\)\(Y_t\)\(\mu_1, \dots, \mu_t\)独立。

(27.5)(27.8)构成了卡尔曼滤波的一轮操作。 在下一轮中, 输入了新的观测\(y_{t+1}\)后, 计算\(\mu_{t+1} | Y_{t+1}\)的均值\(a_{t+1}\)和方差\(P_{t+1}\), 再计算\(\mu_{t+2} | Y_{t+1}\)的均值\(a_{t+1}\)和方差\(P_{t+2}\),……。

设初始状态\(\mu_1\)服从\(\text{N}(\mu_{1|0}, \Sigma_{1|0}) = \text{N}(a_1, P_1)\), 将(27.5)-(27.6) 代入到(27.7)-(27.8)中, 得卡尔曼滤波过程如下: \[\begin{equation} \left\{ \begin{aligned} v_t =& y_t - a_t, \\ F_t =& P_t + \sigma_e^2, \\ K_t =& P_t / F_t, \\ a_{t+1} =& \mu_{t+1|t} = a_t + K_t v_t, \\ P_{t+1} =& \Sigma_{t+1|t} = P_t (1 - K_t) + \sigma_{\eta}^2, \ t=1,2,\dots, n. \end{aligned} \right. \tag{27.9} \end{equation}\]

算法中初始分布参数\(a_1 = \mu_{1|0}\)\(P_1 = \Sigma_{1|0}\)的选取有很大影响, 后面将专门说明。

(27.9)的卡尔曼滤波算法在给定参数 \(\sigma_e^2\)\(\sigma_{\eta}^2\)和初始分布参数后可以迭代计算\((y_1, y_2, \dots, y_n)\)的联合密度, 因此可以用来进行最大似然估计。

如果不假定模型中的\(\mu_t, y_t\)都服从多元正态分布, 将滤波问题看成是将\(Y_{t-1}\)看成已知量, 用\(Y_{t-1}\)\(\mu_t\)做最优线性无偏估计(Minimum Variance Linear Unbiased Estimate, MVLUE,也称为BLUE)的问题, 结果将得到完全相同的公式。 所以卡尔曼滤波可以看成是递推的最优线性无偏估计算法。

如果将模型中的\(\mu_t\)看成是随机参数, 将\(y_t\)看成是观测值, 从先验分布\(\mu_t | Y_{t-1}\)到后验分布\(\alpha_t | (Y_{t-1}, y_t)\)的计算公式也和卡尔曼滤波公式完全相同。 参见(J. Durbin and Koopman 2012)第2.2节。

对前面Alcoa现实波动率对数值数据, 利用估计的模型参数进行卡尔曼滤波计算, 将原始序列与滤波结果(\(\mu_{t|t}\)), 一步预测结果(\(y_{t|t-1} = a_t\))同时显示:

plot(ts.alcoa, ylim=c(-2, 4))
lines(as.vector(time(ts.alcoa)), 
  ssr1$filtered$level, col="green")
lines(as.vector(time(ts.alcoa)), 
  ssr1$predicted$yfit, col="red")
legend("topleft", lty=1, col=c("black", "green", "red"),
  legend=c("Obs", "Filtered", "Predicted 1 step"))

滤波值和一步预测值的序列都比较光滑。 程序中, 拟合结果的filtered成分保存滤波结果, filtered$level\(\mu_t\)的滤波结果; 拟合结果的predicted成分保存一步预报结果, predicted$yfit保存对\(y_t\)的一步预报。

一步预测误差(\(v_t\))的图形:

plot(as.vector(time(ts.alcoa)), 
  ssr1$predicted$v, 
  type="l", ylim=c(-2, 4),
  xlab="", ylab="error")

一步预测误差较大, 这可能是因为用高频数据计算波动率, 本身就有较大的观测噪声。

滤波的水平\(\mu_t\)及其95%置信区间的图形:

plot(ts.alcoa, ylim=c(-2, 4))
lines(as.vector(time(ts.alcoa)), 
  ssr1$filtered$level, col="red")
lines(as.vector(time(ts.alcoa)), 
  ssr1$filtered$level + 1.96*sqrt(ssr1$filtered$P[1,1,]), 
  col="green", lty=3)
lines(as.vector(time(ts.alcoa)), 
  ssr1$filtered$level - 1.96*sqrt(ssr1$filtered$P[1,1,]), 
  col="green", lty=3)
legend("topleft", lty=c(1,1,3), col=c("black", "red", "green"),
  legend=c("Obs", "Filtered", "95% CI of level"))

模型结果中filtered$P是一个\(1 \times 1 \times n\)数组, 保存了滤波的方差估计。

27.5 一步预报误差

一步预报误差序列\(\{v_t \}\)在滤波算法和参数估计中起到重要作用。 从初值\(\mu_1\)的分布\(N(a_1, P_1)\)出发, 可以递推计算\(\{v_t, t=1,2,\dots,n \}\)\(v_t\)\(y_1, y_2, \dots, y_t\)的线性组合, 如: \[\begin{aligned} v_1 =& y_1 - a_1, \\ v_2 =& y_2 - a_2 = y_2 - a_1 - K_1(y_1 - a_1), \\ v_3 =& y_3 - a_3 = y_3 - a_1 - K_2(y_2 - a_1) - K_1 (1 - K_2)(y_1 - a_1), \\ & \cdots\cdots \end{aligned}\]

将从\(y\)\(v\)的这些线性变换写成矩阵形式, 令\(Y_n = (y_1, \dots, y_n)^T\), \(\boldsymbol v = (v_1, \dots, v_n)^T\)\(\boldsymbol 1_T\)表示元素都等于1的\(n\)维列向量, 则 \[\begin{align} \boldsymbol v = \boldsymbol K (Y_n - a_1 \boldsymbol 1_n), \tag{27.9} \end{align}\] 其中 \[ K = \begin{pmatrix} 1 & 0 & 0 & \cdots & 0 \\ k_{21} & 1 & 0 & \cdots & 0 \\ k_{31} & k_{32} & 1 & \cdots & 0 \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ k_{n1} & k_{n2} & k_{n3} & \cdots & 1 \end{pmatrix} , \]\(k_{i,i-1} = -K_{i-1}\), \(i=2,3,\dots,n\); 对\(i=3,4,\dots,T\)\(j=1,2,\dots,i-2\),有 \(k_{ij} = -(1 - K_{i-1})(1 - K_{i-2}) \dots (1 - K_{j+1}) K_j\)

从卡尔曼滤波的公式可以看出, 卡尔曼增益\(K_t, t=1,2,\dots,n\)并不依赖于观测值\(\{y_t\}\), 只依赖于参数\(\sigma_{\eta}^2\), \(\sigma_e^2\)以及初始分布方差\(P_1\), 是非随机的。

\(\{v_t \}\)是相互独立的随机变量序列。 事实上, \((y_1, y_2 \dots, y_n)\)的联合密度函数为 \[ p_y(y_1, y_2, \dots, y_n) = p_y(y_1) \prod_{t=2}^n p_y(y_t | Y_{t-1}), \](27.9)看出, 从\((y_1, y_2 \dots, y_n)\)\((v_1, v_2 \dots, v_n)\)的变换的雅科比行列式绝对值等于1。 由多元的连续性随机向量变换的密度公式可知 \[\begin{aligned} & p_v(v_1, v_2, \dots, v_n) = p_y(y_1, y_2, \dots, y_n) = p_y(y_1) \prod_{t=2}^n p_y(y_t | Y_{t-1}) \\ =& p_v(v_1) \prod_{t=2}^n p_v(v_t) = \prod_{t=1}^n p_v(v_t), \end{aligned}\] 其中\(p_y(y_1)\)表示\(y_1\)的分布密度, \(p_v(v_1)\)表示\(v_1\)的分布密度, 因为\(y_1 = \mu_1 + e_1 \sim \text{N}(a_1, P_1 + \sigma_e^2)\), 而\(v_1 = y_1 - y_{1|0} = y_1 - \mu_{1|0} \sim \text{N}(0, P_1 + \sigma_e^2)\), 所以 \[ p_y(y_1) = \Phi'(\frac{y_1 - a_1}{\sqrt{P_1 + \sigma_e^2}}) = \Phi'(\frac{v_1}{\sqrt{P_1 + \sigma_e^2}}) = p_v(v_1), \]\(t \geq 2\)\(y_t | Y_{t-1} \sim \text{N}(a_t, F_t)\)\(v_t = y_t - y_{t|t-1} \sim \text{N}(0, F_t)\)\(F_t = P_t + \sigma_e^2\), 所以 \[ p_y(y_t | Y_{t-1}) = \Phi'(\frac{y_t - a_t}{\sqrt{F_t}}) = \Phi'(\frac{v_t}{\sqrt{F_t}}) = p_v(v_t) , \] 其中\(\Phi(\cdot)\)表示标准正态分布函数。

从上述的\((v_1, v_2, \dots, v_n)\)的联合密度可知各个分量相互独立, 均值为0, \(v_t\)的方差为\(F_t = P_t + \sigma_e^2\)

从另一个角度看, \(\boldsymbol v\)是对\(Y_n\)的正交化, 类似于Gram-Schimdt正交化方法, \((v_1, \dots, v_t)\)\((y_1, \dots, y_t)\)可以互相线性表示。 记\(\text{Var}(Y_n) = \Omega\), 由(27.9)可知 \[\begin{aligned} \text{Var}(\boldsymbol v) =& \text{diag}(F_1, F_2, \dots, F_n) = K \Omega K^T, \\ \Omega =& K^{-1}\,\text{diag}(F_1, F_2, \dots, F_n)\, (K^{-1})^T, \end{aligned}\] 其中\(K^{-1}\)为下三角矩阵且对角线元素都等于1, 这构成了对\(\boldsymbol y\)的方差阵\(\Omega\)的Cholesky分解。

27.6 状态的一步预报误差

\[ \zeta_t = \mu_t - \mu_{t|t-1} = \mu_t - E(\mu_t | Y_{t-1}), \]\[ \text{Var}(\zeta_t | Y_{t-1}) = E \zeta_t^2 = \text{Var}(\zeta_t) = P_t, \] 由卡尔曼滤波公式得 \[ v_t = y_t - \mu_{t|t-1} = \mu_t + e_t - \mu_{t|t-1} = \zeta_t + e_t, \] 下一个时间点 \[\begin{aligned} \zeta_{t+1} =& \mu_{t+1} - \mu_{t+1|t} = \mu_t + \eta_t - (\mu_{t|t-1} + K_t v_t) \\ =& \zeta_t + \eta_t - K_t(\zeta_t + e_t) = (1 - K_t) \zeta_t + \eta_t - K_t e_t \\ =& L_t \zeta_t + \eta_t - K_t e_t, \end{aligned}\] 其中 \[\begin{aligned} L_t =& 1 - K_t = 1 - \frac{P_t}{F_t} = \frac{F_t - P_t}{F_t} = \frac{\sigma_e^2}{F_t} , \end{aligned}\] 于是有 \[\begin{aligned} v_t = \zeta_t + e_t, \quad \zeta_{t+1} = L_t \zeta_t + \eta_t - K_t e_t, \ t=1,2,\dots, T, \end{aligned}\] 这构成了以\(\{v_t \}\)为观测, \(\{ \zeta_t \}\)为状态的系数时变的线性高斯状态空间模型。

27.7 状态平滑

模型的滤波, 是利用已有观测\(\{ y_1, \dots, y_t \}\)估计\(\mu_t\)\(\mu_t | Y_{t}\)。 在获得所有的观测\(\{ y_1, \dots, y_n \}\)后, 可以利用所有的观测来估计\(\mu_t\), 得到\(\mu_t | Y_n\)的分布, 这个问题称为平滑问题。

注意:

  • 所有的联合分布都是正态的, 所以记\(\mu_t| Y_n \sim \text{N}(\mu_{t|n}, \Sigma_{t|n}) = \text{N}(\hat\mu_t, V_t)\), 称\(\hat\mu_t\)为平滑状态(smoothed state), 称\(V_t\)为平滑状态方差。
  • \(\{ v_1, v_2, \dots, v_t \}\)相互独立, 可以与\(\{ y_1, y_2, \dots, y_t \}\)互相线性表示。 \(E v_t = 0\), \(\text{Var}(v_t) = F_t\)

将所有分布看成\(Y_{t-1}\)条件下的分布, 由正态分布的条件分布公式,得 \[\begin{aligned} \hat\mu_t =& \mu_{t|n} = E(\mu_t | Y_n) = E(\mu_t | Y_{t-1}, (v_t, v_{t+1}, \dots, v_n)) \\ =& E(\mu_t | Y_{t-1}) + \text{Cov}[\mu_t, (v_t, v_{t+1}, \dots, v_n) | Y_{t-1}] \\ & \left\{ \text{Var}[(v_t, v_{t+1}, \dots, v_n) | Y_{t-1}] \right\}^{-1} (v_t, v_{t+1}, \dots, v_n)^T \\ =& E(\mu_t | Y_{t-1}) + \text{Cov}(\mu_t, (v_t, v_{t+1}, \dots, v_n) | Y_{t-1}) \\ & \text{diag}(F_t^{-1}, F_{t+1}^{-1}, \dots, F_n^{-1}) (v_t, v_{t+1}, \dots, v_T)^T \\ =& a_t + \sum_{j=t}^n \text{Cov}(\mu_t, v_j | Y_{t-1}) F_j^{-1} v_j . \end{aligned}\] 其中\(\text{Cov}(\mu_t, v_j | Y_{t-1}), j=t, t+1, \dots, n\)需要计算。

\(j \geq t\),注意到\(\zeta_j, e_j, \eta_j, v_j\)都与\(Y_{t-1}\)独立,有 \[\begin{aligned} \text{Cov}(\mu_t, v_j | Y_{t-1}) =& E[(\mu_t - \mu_{t|t-1}) v_j | Y_{t-1}] = E[\zeta_t v_j | Y_{t-1}] = E[\zeta_t v_j], \end{aligned}\]\[\begin{aligned} E(\zeta_t v_t) =& E[\zeta_t (\zeta_t + e_t)] = E(\zeta_t^2) + 0 = P_t, \\ E(\zeta_t v_{t+1}) =& E[\zeta_t (\zeta_{t+1} + e_{t+1})] = E[\zeta_t \zeta_{t+1}] + 0 \\ =& E[\zeta_t (L_t \zeta_t + \eta_t - K_t e_t)] = E[L_t \zeta_t^2] + 0 + 0 \\ =& P_t L_t, \\ E(\zeta_t v_{t+2}) =& E[\zeta_t (\zeta_{t+2} + e_{t+2})] = \dots = P_t L_t L_{t+1}, \\ \vdots \\ E(\zeta_t v_{n}) =& P_t \prod_{j=t}^{n-1} L_j . \end{aligned}\]

从而,\(\hat\mu_t = \mu_{t|n}\)公式为 \[\begin{aligned} \hat\mu_t =& \mu_{t|n} = a_t + P_t \frac{v_t}{F_t} + P_t L_t \frac{v_{t+1}}{F_{t+1}} + P_t L_t L_{t+1} \frac{v_{t+2}}{F_{t+2}} \\ & + \dots + P_t L_t L_{t+1} \dots L_{n-1} \frac{v_{n}}{F_{n}} \\ \equiv& a_t + P_t r_{t-1}, \end{aligned}\] 其中 \[\begin{aligned} r_{t-1} =& \frac{v_t}{F_t} + L_t \frac{v_{t+1}}{F_{t+1}} + L_t L_{t+1} \frac{v_{t+2}}{F_{t+2}} + \dots + L_t L_{t+1} \dots L_{n-1} \frac{v_{n}}{F_{n}} \end{aligned}\] 是新息\((v_t, v_{t+1}, \dots, n)\)的加权平均, 满足如下递推公式: \[\begin{aligned} r_{t-1} =& \frac{v_t}{F_t} + L_t \left( \frac{v_{t+1}}{F_{t+1}} + L_{t+1} \frac{v_{t+2}}{F_{t+2}} + \dots + L_{t+1} \dots L_{n-1} \frac{v_{n}}{F_{n}} \right) \\ =& \frac{v_t}{F_t} + L_t r_t, \end{aligned}\]\(r_n = 0\), 有反向递推算法 \[\begin{aligned} r_{t-1} = \frac{v_t}{F_t} + L_t r_t, \ t=n, n-1, \dots, 2, 1 . \end{aligned}\]

所以, 为了求得\(\hat\mu_t = \mu_{t|T}\), 需要先进行卡尔曼滤波求出\(a_t\), \(P_t\), \(v_t\), \(F_t\), \(K_t\), \(L_t\), 然后用反向递推计算: \[\begin{align} r_{t-1} =& \frac{v_t}{F_t} + L_t r_t, \\ \hat\mu_t =& \mu_{t|n} = a_t + P_t r_{t-1}, \ t=n, n-1, \dots, 2, 1 . \tag{27.10} \end{align}\]

因为\(r_{t}\)\(v_{t+1}, \dots, v_n\)的线性组合, 由\(v_1, \dots, v_n\)的独立性可知\(r_t, r_{t+1}, \dots, r_n\)\(v_1, v_2, \dots, v_t\)相互独立,\(r_t\)\(Y_t\)相互独立。

27.7.1 状态平滑方差计算

\(\boldsymbol w_t = (v_t, v_{t+1}, \dots, v_n)^T\)。 在\(Y_{t-1}\)条件下, 利用联合正态分布条件分布的方差公式可得 \[\begin{aligned} V_t =& \Sigma_{t|n} = \text{Var}(\mu_t | Y_{n}) = \text{Var}(\mu_t | Y_{t-1}, v_t, \dots, v_n) \\ =& \text{Var}(\mu_t | Y_{t-1}) - [\text{Cov}(\mu_t, \boldsymbol w_t | Y_{t-1})]^T [\text{Var}(\boldsymbol w_t | Y_{t-1})]^{-1} [\text{Cov}(\mu_t, \boldsymbol w_t | Y_{t-1})] \\ =& \text{Var}(\mu_t | Y_{t-1}) - \sum_{j=t}^{n} [\text{Cov}(\mu_t, v_j | Y_{t-1})]^2 F_j^{-1}, \end{aligned}\] 其中\(\text{Cov}(\mu_t, v_j | Y_{t-1}) = E(\zeta_t v_j)\)已经在前面给出公式。 所以 \[\begin{aligned} V_t =& \Sigma_{t|n} \\ =& P_t - P_t^2 \frac{1}{F_t} - P_t^2 L_t^2 \frac{1}{F_{t+1}} - \dots - P_t^2 (\prod_{j=t}^{n-1} L_j^2) \frac{1}{F_{n}} \\ =& P_t - P_t^2 N_{t-1}, \end{aligned}\] 其中 \[\begin{aligned} N_{t-1} =& \frac{1}{F_t} + L_t^2 \frac{1}{F_{t+1}} + L_t^2 L_{t+1}^2 \frac{1}{F_{t+2}} + \dots + (\prod_{j=t}^{n-1} L_j^2) \frac{1}{F_{n}} \\ =& \frac{1}{F_t} + L_t^2 N_t . \end{aligned}\]

\(N_n=0\)\(N_{t-1}\)\(t-1\)之后的一步预报误差方差倒数的加权和, 并且由\(r_{t-1}\)中各个\(v_t\)的独立性恰好有 \[\begin{aligned} \text{Var}(r_{t-1}) =& \frac{1}{F_t} + L_t^2 \frac{1}{F_{t+1}} + L_t^2 L_{t+1}^2 \frac{1}{F_{t+2}} + \dots + (\prod_{j=t}^{n-1} L_j^2) \frac{1}{F_{n}} \\ =& N_{t-1} . \end{aligned}\]

状态平滑方差\(V_t = \Sigma_{t|n}\)可以反向递推计算如下: \[\begin{align} N_{t-1} =& \frac{1}{F_t} + L_t^2 N_t, \\ V_t =& \Sigma_{t|n} = P_t - P_t^2 N_{t-1}, \ t = n, n-1, \dots, 2, 1 . \tag{27.11} \end{align}\] 其中\(N_n=0\)

例27.3 Alcoa股票日现实波动率对数值数据的平滑。

Alcoa股票日现实波动率对数值数据以及平滑结果图形:

plot(ts.alcoa, ylim=c(-2, 4))
lines(as.vector(time(ts.alcoa)), 
  ssr1$smoothed$level, col="red")
lines(as.vector(time(ts.alcoa)), 
  ssr1$smoothed$level + 1.96*sqrt(ssr1$smoothed$V[1,1,]), 
  col="green", lty=3)
lines(as.vector(time(ts.alcoa)), 
  ssr1$smoothed$level - 1.96*sqrt(ssr1$smoothed$V[1,1,]), 
  col="green", lty=3)
legend("topleft", lty=c(1,1,3), col=c("black", "red", "green"),
  legend=c("Obs", "Smoothed", "95% CI of level"))

模型结果中smoothed成分保存平滑结果, smoothed$level保存局部水平\(\mu_t\)的平滑结果, smoothed$V保存平滑方差估计, 这里是\(1 \times 1 \times n\)数组。

实际上, R的基本的stats包提供了StructTS()函数, 可以直接拟合包括局部水平模型的结构时间序列模型, 如:

sts.al <- StructTS(ts.alcoa, type="level")
sts.al
## 
## Call:
## StructTS(x = ts.alcoa, type = "level")
## 
## Variances:
##    level   epsilon  
## 0.005403  0.230652
plot(ts.alcoa, ylim=c(-2, 4),
  main="Alcoa smoothed with StructTS")
lines(tsSmooth(sts.al), col="green")
legend("topleft", lty=c(1,1), 
  col=c("black", "green"),
  legend=c("Obs", "Smoothed"))

StructTS()的结果, 用tsSmooth()可以提取平滑结果, 用fitted()可以提取滤波结果。 可以用predict()或者forecast::forecast()进行预报。

27.8 扰动的平滑

有了所有观测值\(\{y_1, y_2, \dots, y_n \}\)以后, 不仅可以利用这些信息估计状态\(\mu_t\), 得到平滑状态和平滑方差, 还可以估计\(e_t\)\(\eta_t\)的条件分布, 这个问题称为扰动的平滑。

估计\(e_t\)\(\eta_t\)\(Y_n\)下的条件期望和条件方差, 可以用来进行模型诊断, 查找状态的突变点(对局部水平模型相当于水平的跳跃点或变点), 查找观测误差的异常值。

\[\begin{aligned} \hat e_t = E(e_t | Y_n), \quad \hat\eta_t = E(\eta_t | Y_n), \ t=1,2,\dots, n . \end{aligned}\]

因为\(e_t = y_t - \mu_t\), 在\(Y_n\)条件下\(y_t\)已知, 所以 \[ e_t | Y_n \sim \text{N} (y_t - \mu_{t|n}, \Sigma_{t|n}) = \text{N}(y_t - \hat\mu_t, V_t). \]

\(\eta_t\), 易见 \[ \hat\eta_t = E(\mu_{t+1} | Y_n) - E(\mu_{t} | Y_n) = \mu_{t+1|n} - \mu_{t|n} = \hat\mu_{t+1} - \hat\mu_t, \]\(\eta_t | Y_n\)的条件方差公式需要用到平滑的协方差。

27.8.1 观测方程扰动的递推平滑公式

从计算效率出发, 为了获得\(e_t\)\(\eta_t\)\(Y_n\)下的条件分布, 直接从\(r_t\)\(N_t\)计算更简单。 关于\(e_t | Y_n\)的公式为 \[\begin{aligned} E(e_t | Y_n) =& \sigma_e^2 \left(F_t^{-1} v_t - K_t r_t \right), \\ \text{Var}(e_t | Y_n) =& \sigma_e^2 \left(F_t^{-1} + K_t^2 N_t \right), \ t=n, n-1, \dots, 2, 1 . \end{aligned}\]

证明: 由于\(F_t = P_t + \sigma_e^2\), \(K_t = \frac{P_t}{F_t}\), \(L_t = 1 - K_t = \frac{\sigma_e^2}{F_t}\), 有 \[\begin{aligned} E(e_t | Y_n) =& E(y_t - \mu_t | Y_n) = y_t - \mu_{t|n} \\ =& y_t - a_t - P_t r_{t-1} \\ =& v_t - P_t \left[ \frac{v_t}{F_t} + L_t r_t \right] \\ =& \left(1 - \frac{P_t}{F_t} \right) v_t - P_t L_t r_t \\ =& \frac{\sigma_e^2}{F_t} v_t - P_t \frac{\sigma_e^2}{F_t} r_t \\ =& \sigma_e^2 \left( \frac{v_t}{F_t} - K_t r_t \right) . \end{aligned}\]

\[ u_t = \frac{v_t}{F_t} - K_t r_t = \sigma_e^{-2} E(e_t | Y_n), \]\(u_t\)为平滑误差(smoothing error)。

为了求\(\text{Var}(e_t | Y_n)\), 注意在联合正态分布下条件分布的方差是非随机的, 由公式\(\text{Var(Y)} = E[\text{Var}(Y|X)] + \text{Var}[E(Y|X)]\), 以及\(v_t\)\(r_t\)独立, \(\text{Var}(r_t) = N_t\),可得 \[\begin{aligned} \text{Var}(e_t | Y_n) =& E[\text{Var}(e_t | Y_n)] = \text{Var}(e_t) - \text{Var}[E(e_t | Y_n)] \\ =& \sigma_e^2 - \sigma_e^4\left( \frac{1}{F_t} + K_t^2 N_t \right) . \end{aligned}\]

27.8.2 状态方程扰动的递推平滑公式

\(\eta_t | Y_n\)\[\begin{aligned} E(\eta_t | Y_n) =& \sigma_{\eta}^2 r_t, \\ \text{Var}(\eta_t | Y_n) =& \sigma_{\eta}^2 - \sigma_{\eta}^4 N_t, \ t=n, n-1, \dots, 2, 1 . \end{aligned}\]

\(r_t\)\(\eta_t | Y_n\)的关系也说明了\(r_t\)\(N_t\)的一个解释, \(r_t\)是平滑的状态扰动项的常数倍, 其无条件方差\(N_t\)是平滑的状态扰动方差的常数倍。

证明\[\begin{aligned} E(\eta_t | Y_n) =& E(\mu_{t+1} - \mu_t | Y_n) = \mu_{t+1|n} - \mu_{t|n} \\ =& a_{t+1} + P_{t+1} r_t - a_t - P_t r_{t-1} \\ =& (a_{t+1} - a_t) + \left( P_t \frac{\sigma_e^2}{F_t} + \sigma_{\eta}^2 \right) r_t - P_t \left( \frac{v_t}{F_t} + \frac{\sigma_e^2}{F_t} r_t \right) \\ =& K_t v_t + (K_t \sigma_e^2 + \sigma_{\eta}^2) r_t - K_t v_t - \sigma_e^2 K_t r_t \\ =& \sigma_{\eta}^2 r_t . \end{aligned}\]\[\begin{aligned} \text{Var}(\eta_t | Y_n) =& E[ \text{Var}(\eta_t | Y_n) ] \\ =& \text{Var}(\eta_t) - \text{Var}[E(\eta_t | Y_n)] \\ =& \sigma_{\eta}^2 - \sigma_{\eta}^4 N_t . \end{aligned}\]

27.9 缺失值处理和预测

一般的时间序列模型都很难处理出现在时间区间内部的缺失值。 状态空间模型的一大优势就是可以比较容易的允许观测有缺失值。 在局部水平模型中, 设\(\{y_t\}_{t=\ell+1}^{\ell+h}\)缺失。 状态空间模型可以用多种方法解决缺失值问题, 这里使用不改变时间步数和模型形式的方法。

\(t \in \{ \ell+1, \dots, \ell+h \}\), 有 \[ \mu_t = \mu_{t-1} + \eta_{t-1} = \dots = \mu_{\ell+1} + \sum_{j=\ell+1}^{t-1} \eta_j, \] 这里约定求和下标下限大于下标上限时和为0。 于是 \[\begin{aligned} E(\mu_t | Y_{t-1}) =& E(\mu_t | Y_{\ell}) = a_{\ell+1}, \\ \text{Var}(\mu_t | Y_{t-1}) =& \text{Var}(\mu_t | Y_{\ell}) = P_{\ell+1} + (t-\ell-1) \sigma_{\eta}^2 , \end{aligned}\] 于是有递推式 \[\begin{align} a_t =& \mu_{t|t-1} = \mu_{t-1|t-2} = a_{t-1}, \tag{27.12} \\ P_t =& \Sigma_{t|t-1} = P_{t-1} + \sigma_{\eta}^2, \ t=\ell+2, \dots, \ell+h . \tag{27.13} \end{align}\]

所以,局部水平模型有缺失值时仍可使用(27.9)进行滤波计算, 但是对缺失的\(y_t\), 应该相应地取\(v_t=0\), \(K_t=0\)。 这也符合常识, 因为观测缺失时就没有新息\(v_t\)的信息, 也没有卡尔曼增益\(K_t\)

实际上, 在已知\(y_1, y_2, \dots, y_n\)后对\(y_{n+1}, \dots, y_{n+h}\)进行预测时, 最优线性无偏估计得到的预测公式, 与设\(y_{n+1}, \dots, y_{n+h}\)为缺失值, 令\(v_{n+1} = \dots = v_{n+h} = K_{n+1} = \dots = K_{n+h} = 0\)后进行滤波计算的计算公式完全相同。 所以预测问题可以看成有缺失值时的滤波问题的特例。 这时 \[\begin{aligned} E(y_{n+j} | Y_n) =& E(\mu_{n+j} | Y_n) = a_n, \\ \text{Var}(y_{n+j} | Y_n) =& \text{Var}(\mu_{n+j} | Y_n) + \sigma_e^2 = P_n + (j-1) \sigma_{\eta}^2 + \sigma_e^2 . \end{aligned}\]

27.10 初值分布参数选取

卡尔曼滤波计算需要假定已知\(\mu_1 \sim \text{N}(a_1, P_1)\)。 实际中\(a_1\)\(P_1\)是未知的。 利用滤波公式得 \[\begin{aligned} v_1 =& y_1 - a_1, \quad F_1 = P_1 + \sigma_e^2, \\ a_2 =& a_1 + \frac{P_1}{F_1} v_1 = a_1 + \frac{P_1}{F_1} (y_1 - a_1) \\ \to& y_1 \quad(P_1 \to \infty), \\ P_2 =& P_1 \left(1 - \frac{P_1}{P_1 + \sigma_e^2} \right) + \sigma_{\eta}^2 \\ =& \frac{P_1}{P_1 + \sigma_e^2} \sigma_e^2 + \sigma_{\eta}^2 \\ \to& \sigma_e^2 + \sigma_{\eta}^2 \quad(P_1 \to \infty), \end{aligned}\] 因此\(P_1 \to \infty\)时相当于认为\(y_1\)是非随机的确定值, 而\(\mu_1 \sim \text{N}(y_1, \sigma_e^2)\)。 这种初始化方法称为扩散(diffuse)初始化或者扩散先验。 扩散先验相当于对初始状态分布没有任何知识。

对于取扩散先验时的平滑问题, \(t=n, n-1, \dots, 2\)的反向递推仍完全原样进行。 对\(t=1\), 利用\(L_1 = 1 - K_1 = F_1^{-1} \sigma_e^2\), \(F_1 = P_1 + \sigma_e^2\),得 \[\begin{aligned} \hat\mu_1 =& \mu_{1|n} = a_1 + P_1 r_0 \\ =& a_1 + P_1 \left[ \frac{1}{P_1 + \sigma_e^2} v_1 + \left(1 - \frac{P_1}{P_1 + \sigma_e^2} \right) r_1 \right] \\ =& a_1 + \frac{P_1}{P_1 + \sigma_e^2}(v_1 + \sigma_e^2 r_1) \\ \to& a_1 + v_1 + \sigma_e^2 r_1 = y_1 + \sigma_e^2 r_1 \quad(P_1 \to \infty), \\ V_1 =& \Sigma_{1|n} = P_1 - P_1^2 \left[ \frac{1}{P_1 + \sigma_e^2} + \left(1 - \frac{P_1}{P_1 + \sigma_e^2} \right)^2 N_1 \right] \\ =& P_1 \left(1 - \frac{P_1}{P_1 + \sigma_e^2} \right) - \left(1 - \frac{P_1}{P_1 + \sigma_e^2} \right)^2 P_1 N_1 \\ =& \left(\frac{P_1}{P_1 + \sigma_e^2} \right) \sigma_e^2 - \left(\frac{P_1}{P_1 + \sigma_e^2} \right)^2 \sigma_e^4 N_1 \\ \to& \sigma_e^2 - \sigma_e^4 N_1 \quad(P_1 \to \infty) . \end{aligned}\]

另一种想法是将\(\mu_1\)也作为一个未知参数参与到最大似然估计中。

27.11 模型参数估计

滤波和平滑算法都是假定模型参数\(\sigma_e^2\)\(\sigma_{\eta}^2\)已知的。 为了估计参数可以使用最大似然估计法, 计算似然函数时可以利用滤波算法进行计算。

\((y_1, y_2, \dots, y_n)\)的似然函数为 \[\begin{aligned} & p_y(y_1, y_2, \dots, y_n | \sigma_e^2, \sigma_{\eta}^2) \\ =& p_y(y_1 | \sigma_e^2, \sigma_{\eta}^2) \prod_{t=2}^n p_y(y_t | Y_{t-1}, \sigma_e^2, \sigma_{\eta}^2) \\ =& p_v(v_1 | \sigma_e^2, \sigma_{\eta}^2) \prod_{t=2}^T p_v(v_t | \sigma_e^2, \sigma_{\eta}^2), \end{aligned}\] 其中\(y_1 \sim \text{N}(a_1, P_1)\)\(v_t \sim \text{N}(0, F_t)\), 设\(a_1, P_1\)已知, 可得对数似然函数为 \[\begin{aligned} \ln L(\sigma_e^2, \sigma_{\eta}^2) = -\frac{n}{2} \ln(2\pi) - \frac{1}{2} \sum_{t=1}^n \left( \ln F_t + \frac{v_t^2}{F_t} \right) . \end{aligned}\] 给定初始值\(a_1, P_1\)以及一组参数值\(\sigma_e^2, \sigma_{\eta}^2\) 就可以用卡尔曼滤波算法计算出\(v_t, F_t\)从而得到对数似然函数值。

具体计算可以用R的statespacer扩展包, KFAS, bssm扩展包等, 还有许多其它软件也可以进行状态空间模型建模。

B 参考文献

Beijers, Dylan. 2020. statespacer: State Space Modelling in r. https://dylanb95.github.io/statespacer/.
Durbin, J., and S. J. Koopman. 2012. Time Series Analysis by State Space Methods. Oxford University Press.
Tsay, Ruey S. 2010. Analysis of Financial Time Series. 3rd Ed. John Wiley & Sons, Inc.