跳到主要内容

状态空间模型

为什么重要​

在深度学习之前，"世界模型"已经以状态空间模型的形式存在了六十年。Kalman filter 的预测-更新循环是 belief state 的闭式最优解，也是评判一切 learned dynamics 的经典基准。

直观理解​

状态空间模型

隐藏状态 xtx_t 沿转移方程演化，观测 ztz_t 沿观测方程生成。学习/推断的任务是倒过来：从观测序列反推状态轨迹。

Kalman filter

KF 的每步分两半：预测（用动力学把 belief 向前推，不确定性膨胀）与更新（用观测把 belief 拉回，不确定性收缩）。椭圆代表协方差——不确定性在两类操作间呼吸。

核心思想​

状态空间模型（SSM）由两个方程构成：转移方程描述状态如何演化，观测方程描述状态如何被看到。在线性高斯情形（LGSSM）下，belief p(xt∣z1:t)p(x_t \mid z_{1:t}) 始终是高斯分布，均值与协方差可以被 Kalman filter 闭式递归计算——这就是上模块 bayes filter 在高斯假设下的精确解。

KF 的精髓是 Kalman gain：它按"预测不确定性与观测不确定性的相对大小"自动权衡信任模型还是信任观测。观测噪声大就多信模型，模型不准就多信观测——这个思想在模块 12 的不确定性评估中会反复出现。

现实中动力学几乎都不是线性高斯的：EKF（局部线性化）、UKF（无迹变换）、粒子滤波（蒙特卡洛逼近）是三条经典推广路线；而再往前走一步——"干脆用神经网络学转移与观测"——就是模块 05 的 latent dynamics。

关键概念​

  • LGSSM：线性转移 + 线性观测 + 高斯噪声，唯一有闭式最优推断的情形。
  • Filtering / Smoothing / Prediction：用过去估现在 / 用全程估过去 / 用现在估未来。
  • Kalman gain：模型信任与观测信任的自适应权重。
  • EKF / UKF：非线性动力学的两种经典近似。
  • 从 LGSSM 到 learned SSM：把已知矩阵 A,CA, C 换成神经网络，是本课程的主线剧情。

核心公式​

LGSSM：

xt=Axt−1+Bat+wt,zt=Cxt+vtx_t = A x_{t-1} + B a_t + w_t, \qquad z_t = C x_t + v_t

Kalman filter 预测-更新：

x^t∣t−1=Ax^t−1∣t−1+Bat,Pt∣t−1=APt−1∣t−1A⊤+Q\hat{x}_{t|t-1} = A \hat{x}_{t-1|t-1} + B a_t, \qquad P_{t|t-1} = A P_{t-1|t-1} A^\top + Q

Kt=Pt∣t−1C⊤(CPt∣t−1C⊤+R)−1,x^t∣t=x^t∣t−1+Kt(zt−Cx^t∣t−1)K_t = P_{t|t-1} C^\top (C P_{t|t-1} C^\top + R)^{-1}, \qquad \hat{x}_{t|t} = \hat{x}_{t|t-1} + K_t (z_t - C\hat{x}_{t|t-1})

大学课程​

课程Lecture链接
UPenn CIS 6280 World ModelsL04 State-Space Models（含手写推导笔记）slides
Stanford CS231AL14–L15 Optimal Estimation（KF/EKF/UKF）课程主页

论文​

  • Must Read：Kalman (1960), A New Approach to Linear Filtering and Prediction Problems（经典论文，搜索论文名获取 PDF）——只读 §1–4 也能感受到"递归"思想的简洁。
  • Recommended：Gu, Goel & Ré (2022), Efficiently Modeling Long Sequences with Structured State Spaces（S4，arXiv:2111.00396）——SSM 在深度学习侧的复兴，Mamba 的先声。
  • Optional：dynamax 库的 Kalman tracking notebook——把公式变成 30 行 JAX 代码。

动手实践​

在 Colab 中打开在 Colab 中打开: lab01_kalman_filter

Lab 1 要求你手写 KF 的预测-更新循环跟踪 2D 运动目标，并与 dynamax 的实现对比 RMSE——亲手调一次 QQ 和 RR，你对 Kalman gain 的理解会超过读十遍推导。

自测​

  1. 观测噪声 RR 调大，Kalman gain 和状态估计会怎样变化？
  2. 为什么 KF 只在 LGSSM 下是最优的？
  3. KF 的协方差 PtP_t 与模块 12 的"不确定性"是什么关系？
显示答案
  1. KtK_t 变小：滤波器更不信任观测，估计更依赖模型预测，曲线更平滑但对真实突变的响应变慢。
  2. 因为只有线性变换与高斯噪声的组合能保持 belief 始终是高斯；非线性地一步就会把高斯压成非高斯，均值与协方差不再足以刻画 belief，EKF/UKF 都只是近似。
  3. PtP_t 就是 belief 不确定性的显式表达，且它是校准的（在高斯假设下真实误差确实服从该分布）。学习模型的不确定性量化（模块 12）就是要找回 KF 免费提供的这个性质。

要点回顾​

  • 状态空间模型 = 转移方程 + 观测方程，是所有世界模型的经典原型。
  • Kalman filter 是 belief 递归更新在 LGSSM 下的闭式最优解，核心是 Kalman gain 的自适应权衡。
  • 把已知矩阵换成神经网络，就从本模块走向了整个 路线 A。

下一模块​

模块 04：表征学习——在换神经网络之前，先问：什么是"好"的表示？