常微分方程

微分方程

观察下面两个方程

$$ x^2=1$$

$$ \frac{\mathrm{d}y}{\mathrm{d}x}=2x$$

发现下面的方程包含导数，我们称这类包含未知变量（y）对自变量（x）的导数的方程为微分方程，上面的普通方程叫代数方程

此外我们发现，这个微分方程中，最高阶的导数是这个y对x的一阶导数，于是这个微分方程的阶数为1

我们将微分方程分为：

• 常微分方程（ODE），只涉及一个自变量的导数
• 偏微分方程（PDE），涉及多个自变量的偏导数

解析解法

分离变量法

适用于形如 $\frac{dy}{dx} = f(x)g(y)$ 的方程

例：求解 $\frac{dy}{dx} = xy$ ，初始条件 $y(0)=1$

将所有与 y 相关的项移到一边，与 x 相关的项移到另一边：

$$ \frac{dy}{y} = x \, dx$$

对两边积分

$$ \int \frac{1}{y} \, dy = \int x \, dx$$

左边

$$ \int \frac{1}{y} \, dy = \ln|y| + C_1$$

右边

$$ \int x \, dx = \frac{1}{2}x^2 + C_2$$

合并常数

$$ \ln|y| = \frac{1}{2}x^2 + C$$

$$ |y| = e^{\frac{1}{2}x^2 + C} = e^C \cdot e^{\frac{1}{2}x^2}$$

令$A = \pm e^C$

$$ y = A e^{\frac{1}{2}x^2}$$

带入初始条件

$$ y(0) = A e^{\frac{1}{2} \cdot 0^2} = A \cdot 1 = A = 1$$

于是解为

$$ y = e^{\frac{1}{2}x^2}$$

变量替换法

适用于齐次型方程，形如$\frac{dy}{dx}=y(\frac{y}{x})$

例：求解$\frac{dy}{dx} = \frac{x + y}{x - y}$，初始条件$y(0)=1$

经观察，右侧公式可以变形为

$$ \frac{x + y}{x - y} = \frac{1 + \frac{y}{x}}{1 - \frac{y}{x}}$$

我们使用变量进行替换 $v = \frac{y}{x}$

对 $y=vx$ 关于 x求导

$$ \frac{dy}{dx} = v + x \frac{dv}{dx}$$

带入原式

$$ v + x \frac{dv}{dx} = \frac{x + y}{x - y} = \frac{x + vx}{x - vx} = \frac{1 + v}{1 - v}$$

化简得到

$$ v + x \frac{dv}{dx} = \frac{1 + v}{1 - v}$$

得到

$$ x \frac{dv}{dx} = \frac{1 + v^2}{1 - v}$$

得到

$$ \frac{1 - v}{1 + v^2} dv = \frac{1}{x} dx$$

分解积分

$$ \int \frac{1}{1 + v^2} dv - \int \frac{v}{1 + v^2} dv = \frac{1}{x} dx$$

得到

$$ \arctan v - \frac{1}{2} \ln |1 + v^2| = \ln |x| + C$$

带入原变量

$$ \arctan \left( \frac{y}{x} \right) - \frac{1}{2} \ln \left( 1 + \left( \frac{y}{x} \right)^2 \right) = \ln |x| + C$$

$$ \arctan \left( \frac{y}{x} \right) - \frac{1}{2} \left( \ln (x^2 + y^2) - 2 \ln |x| \right) = \ln |x| + C$$

化简

$$ \arctan \left( \frac{y}{x} \right) - \frac{1}{2} \ln (x^2 + y^2) = C$$

应用初始条件，得到

$$ \arctan \left( \frac{0}{1} \right) - \frac{1}{2} \ln (1^2 + 0^2) = \arctan 0 - \frac{1}{2} \ln 1 = 0 - 0 = 0$$

因此 $C=0$

最终解为

$$ \arctan \left( \frac{y}{x} \right) = \frac{1}{2} \ln (x^2 + y^2)$$

伯努利方程

形如

$$ \frac{dy}{dx}=P(x)y + Q(x)y^n , (n \neq 0, 1)$$

欧拉方法

大部分情况下无法解出解析解，而是用数值解模拟出 key-value 对

一阶欧拉方法

欧拉方法是一种简单的数值方法，用于求解ODE的初值问题

假设时间步长为 $\Delta t$ ，则：

$$ x_{t+\Delta t}=x_t + v(x_t, t)\Delta t$$

其物理意义是，每一小段时间都朝着当前方向匀速走一小段时间。

误差量级为 $O(\Delta t^2)$ ，步长要非常小才能控制误差，但是胜在使用便捷，只需要计算一次速度

例子

例：用欧拉方法求下列式子在$[0, 1]$的解，步长为0.2

$$ \frac{dy}{dx} = -2x y, \quad y(0) = 1$$

根据导数的定义

$$ \frac{dy}{dx} \approx \frac{y(x + h) - y(x)}{h}$$

对于方程 $\frac{dy}{dx} = f(x, y)$，欧拉方法的迭代公式为：

$$ y_{n+1} = y_n + h \cdot f(x_n, y_n)$$

步0：根据初始条件 $x_0 = 0, y_0 = 1$，

$$ f(x_0, y_0) = -2 \cdot 0 \cdot 1 = 0$$

$$ y_1 = y_0 + h \cdot f(x_0, y_0) = 1 + 0.2 \cdot 0 = 1$$

步1：$x_1 = 0.2, y_1 = 1$

$$ f(x_1, y_1) = -2 \cdot 0.2 \cdot 1 = -0.4$$

$$ y_2 = y_1 + h \cdot f(x_1, y_1) = 1 + 0.2 \cdot (-0.4) = 1 - 0.08 = 0.92$$

以此类推，得到最终的数值解。当然下面表哥的误差很大，但当步长非常小时，误差就会很小

二阶欧拉方法

Heun’s method（改进欧拉方法），核心思想是不仅看当前速度，还要预测未来速度的变化趋势

1. 先用欧拉法预测一个临时点

$$ \tilde{x}_{t+\Delta t} = x_t + v(x_t, t) \Delta t$$

2. 再估计未来的速度

$$ v_2 = v(\tilde{x}_{t+\Delta t}, t+\Delta t)$$

3. 最终结果取平均

$$ x_{t+\Delta t} = x_t + \frac{1}{2}(v(x_t, t) + v_2) \Delta t$$

局部误差降低到 $O(\Delta t^3)$，全局误差 $O(\Delta t^2)$

注意，$\Delta t$ 通常是小于1的数，所以 $\Delta t^3 < \Delta t^2$

四阶

Runge-Kutta 4 ，更高阶的欧拉方法是沿着曲线移动的，用计算次数来换误差，由于大步幅误差也很低，所以可以减少采样次数

$$ \begin{aligned} k_1 &= v(x_t, t) \\ k_2 &= v(x_t + \frac{\Delta t}{2} k_1, t + \frac{\Delta t}{2}) \\ k_3 &= v(x_t + \frac{\Delta t}{2} k_2, t + \frac{\Delta t}{2}) \\ k_4 &= v(x_t + \Delta t k_3, t + \Delta t) \end{aligned}$$

$$ x_{t+\Delta t} = x_t + \frac{\Delta t}{6}(k_1 + 2k_2 + 2k_3 + k_4)$$

误差降低至 $O(\Delta t^5)$