CM模型非常重要

引出了LCM等一系列重要工作

CM潜在性模型的数学公式推导并不好理解

一步一步，我分几期记录学习过程

描述了一个随机过程的离散化近似及其对应的随机微分方程（SDE）

1 离散时间模型

首先第一行，它定义了一个离散时间模型，其中 $X_i$ 表示时间 $t_i$ 的状态：

$X_i=\sqrt{1-{\beta }_i}{X}_{i-1}+\sqrt{{\beta }_i}{ϵ}_i,i=1,...,N$

其中：

• ${\beta }_i=\beta (t_i)\Delta t$， $\beta (t)$ 是一个时间相关的函数。
• $\Delta t=T/N$，表示时间步长。
• ${ϵ}_i$ 是独立同分布的随机变量。

当时间步长 $\Delta t$ 趋近于 0，即 $N$ 趋近于无穷时，该模型可以用来逼近一个连续时间随机

2 连续时间模型 得到 SDE 随机微分方程

通过对离散模型进行近似，我们可以得到一个描述 $x(t)$ 的随机微分方程 (SDE)：

$dx=-\frac{1}{2}\beta (t)x(t)dt+\sqrt{\beta (t)}dW(t),t\in [0,T]$

其中:

• $W(t)$ 是一个标准的 Wiener 过程 (布朗运动)。
• $\beta (t)$ 与离散模型中的定义相同。

2.1 从离散模型到SDE的推理步骤

1. 展开：

首先，我们将 $X_i$ 用 $X_{i-1}$ 展开：

$X_i\approx X_{i-1}+\Delta X_i$

即可得到

$\Delta X_i \approx X_i - X_{i-1} $

2. 将离散模型代入：

然后，我们将离散模型的表达式代入右边$X_i$

$\Delta X_i=X_i-X_{i-1}=(\sqrt{1-{\beta }_i}-1)X_{i-1}+\sqrt{{\beta }_i}{ϵ}_i$

由于 $\Delta t$ 很小，所以$\beta_i $趋近于0，我们可以用一级泰勒展开近似 $\sqrt{1-{\beta }_i}$：

$\sqrt{1-{\beta }_i}\approx 1-\frac{1}{2}{\beta }_i$

代入上式，得到：

$\Delta X_i\approx -\frac{1}{2}{\beta }_i{X}_{i-1}+\sqrt{{\beta }_i}{ϵ}_i$

3. 替换变量并取极限：

• 将 ${\beta }_i$ 替换为 $\beta (t_i)\Delta t$。
• 将 ${ϵ}_i$ 替换为 $\Delta W_i=W(t_i)-W(t_{i-1})$，其中 $W(t)$ 是标准 Wiener 过程 (布朗运动)。
• 将 $\Delta X_i$ 替换为 $dx$，将 $X_{i-1}$ 替换为 $x(t)$。
• 取极限 $\Delta t\to 0$，得到 SDE：

$dx=-\frac{1}{2}\beta (t)x(t)dt+\sqrt{\beta (t)}dW(t)$

3 补充：泰勒展开近似 $\sqrt{1-{\beta }_i}$

由于 ${\beta }_i=\beta (t_i)\Delta t$，当 $\Delta t$ 很小时，${\beta }_i$ 也会很小。因此，我们可以使用泰勒级数展开来近似 $\sqrt{1-{\beta }_i}$。

泰勒级数展开式：

函数 $f(x)$ 在 $x=a$ 处的泰勒级数展开式为：

$f(x)=f(a)+f^{\prime }(a)(x-a)+\frac{f^{\prime \prime }(a)}{2!}(x-a{)}^2+...+\frac{f^{(n)}(a)}{n!}(x-a{)}^n+R_n(x)$

其中，$R_n(x)$ 是余项，表示展开式的误差。

应用于 $\sqrt{1-{\beta }_i}$：

我们将 $f(x)=\sqrt{1-x}$，$a=0$，代入泰勒级数展开式，得到：

$f(x)=\sqrt{1-x}=1-\frac{1}{2}x-\frac{1}{8}{x}^2-...$

由于 ${\beta }_i$ 很小，我们可以忽略高阶项，得到近似式：

$\sqrt{1-{\beta }_i}\approx 1-\frac{1}{2}{\beta }_i$

总结：

通过泰勒级数展开，我们将 $\sqrt{1-{\beta }_i}$ 近似为 $1-\frac{1}{2}{\beta }_i$，从而简化了离散模型，并最终推导出了对应的 SDE。

后面证明了SDE对应一个ODE，可以用常微分方程来解决

潜在一致性模型LCM学习笔记 - 知乎 (zhihu.com)

潜在一致性模型LCM学习笔记 - 知乎 (zhihu.com)