← 全部报告

DGM:求解高维偏微分方程的深度学习算法

论文:Justin Sirignano, Konstantinos Spiliopoulos, DGM: A Deep Learning Algorithm for Solving Partial Differential Equations, arXiv:1708.07469 [q-fin.MF], 2018年9月。

高维偏微分方程是计算金融、物理、工程中的长期难题:有限差分在 $d$ 个空间维上需要 $O(h^{-(d+1)})$ 个网格点,维度稍高即不可行。本文提出深度伽辽金方法(Deep Galerkin Method, DGM):用深度神经网络逼近 PDE 的解,以随机梯度下降在随机采样的时空点上训练网络满足微分算子、初值和边值条件——无网格(meshfree),这是能做到 200 维的关键。论文还证明了神经网络对一类拟线性抛物型 PDE 的逼近能力定理,并在高维美式期权自由边界 PDE、HJB 方程、Burgers 方程上验证了精度。

一、问题:高维 PDE 的维度灾难

$d$ 个空间维 + 1 个时间维,有限差分网格规模为 $O(h^{-(d+1)})$,$d$ 稍大即爆炸。典型应用:

传统 Galerkin 方法把解写成基函数的线性组合;DGM 的思想是把"基函数的线性组合"换成"深度神经网络",把 PDE 求解转化为机器学习问题。

二、DGM 算法:把 PDE 变成机器学习问题

考虑抛物型 PDE:$\partial_t u + \mathcal{L}u = 0$,初值 $u(0,x) = u_0(x)$,边值 $u = g$。用神经网络 $f(t,x;\theta)$ 逼近 $u$,构造目标函数:

$$ J(f) = |\partial_t f + \mathcal{L}f|^2_{[0,T]\times\Omega} + |f - g|^2_{[0,T]\times\partial\Omega} + |f(0,\cdot) - u_0|^2_{\Omega} $$

$J(f)$ 度量 $f$ 对微分算子、边值、初值的违背程度——不需要知道真实解,$J(f) = 0$ 即 $f$ 为 PDE 的解。直接最小化 $J$ 涉及高维积分不可行,于是借用机器学习的做法:

  1. 从时空域、边界、初值面按概率密度随机采样点;
  2. 在采样点上计算平方误差 $G(\theta; s_n)$ 及其梯度(自动微分);
  3. 做一步随机梯度下降 $\theta_{n+1} = \theta_n - \alpha_n \nabla G$;
  4. 重复直至收敛。

$\nabla G$ 是 $\nabla J$ 的无偏估计,SGD 平均意义下沿下降方向走。从不构造网格——采样点可以逐批处理,内存占用与维度无关,这是 DGM 能上高维的根本原因。

三、网络架构:为什么用类 LSTM 结构

PDE 的解常有"急转弯":如期权终值 $\max(p(x),0)$ 在 $p(x)=0$ 处一阶导数不连续,扩散项虽有光滑作用,解在某些区域仍变化剧烈。普通全连接网络拟合这类形态吃力,论文采用类似 LSTM 的门控架构:

$$ \begin{aligned} S^1 &= \sigma(W^1 x + b^1) \ Z^\ell &= \sigma(U^{z,\ell}x + W^{z,\ell}S^\ell + b^{z,\ell}) \ G^\ell &= \sigma(U^{g,\ell}x + W^{g,\ell}S^\ell + b^{g,\ell}) \ R^\ell &= \sigma(U^{r,\ell}x + W^{r,\ell}S^\ell + b^{r,\ell}) \ H^\ell &= \sigma(U^{h,\ell}x + W^{h,\ell}(S^\ell \odot R^\ell) + b^{h,\ell}) \ S^{\ell+1} &= (1-G^\ell)\odot H^\ell + Z^\ell \odot S^\ell \end{aligned} $$

其中 $\odot$ 为逐元素乘法。反复的门控乘法让网络能表达在局部剧烈变化的函数,类似 LSTM/highway network 的思想。论文用 $L=3$(4个隐藏层)、每层 $M=50$、$\tanh$ 激活(保证解光滑、求经典解);训练用 ADAM + 分段衰减学习率,约 10 万次迭代、每批 5000 个采样点(6 GPU 异步 SGD,总计约 5 亿个时空点)。

四、二阶导数的高效计算:蒙特卡洛近似

$\mathcal{L}f$ 含二阶导 $\partial^2 f/\partial x_i\partial x_j$,$d=200$ 时有 2 万个二阶导要算,直接自动微分的计算与内存成本为 $O(d^2N)$($N$ 为批量)。论文第3节给出蒙特卡洛近似:利用恒等式

$$ \sum_{i,j}\sigma_i\sigma_j\frac{\partial^2 f}{\partial x_i\partial x_j} = \lim_{\epsilon\to 0}\mathbb{E}\left[\sum_i \frac{1}{\epsilon}\left(\frac{\partial f}{\partial x_i}(t,x+\sigma W) - \frac{\partial f}{\partial x_i}(t,x)\right)\frac{\sigma_i W_i}{\epsilon}\right] $$

把二阶导化为一阶导的差分期望,再用对偶变量(antithetic variates)(同时用 $W$ 和 $-W$)把偏差从 $O(\sqrt{\epsilon})$ 降到 $O(\epsilon)$。代价:引入少量偏差与方差(方差在大量样本下平均掉),收益:二阶导计算降为一阶量级。这是以"可控的统计误差换计算可行性"的典型权衡。

五、自由边界处理:美式期权 PDE

美式期权可在到期前任何时刻行权,价格 $u(t,x)$ 满足自由边界 PDE:在执行区 $u = g(x)$(payoff),在持有区满足 Black–Scholes 型 PDE,自由边界 $F = \lbrace u = g \rbrace$ 未知。DGM 用迭代法处理:

  1. 用当前网络 $f(\cdot;\theta_n)$ 的零水平集近似自由边界;
  2. 在边界"上方"(持有区)采样算 PDE 残差,在"下方"(执行区)采样罚 $\max(g - f, 0)$;
  3. 目标函数加两项:$J$ 含 PDE 残差项、$|\max(g-f,0)|^2$(迫使 $f \ge g$)、终值项 $|f(T,\cdot)-g|^2$。

这比 Longstaff–Schwartz 方法(每个离散时刻单独拟合)更直接:一个网络拟合全时空解,且天然给出整条自由边界(最优行权面),而不仅是 $t=0$ 的价格。

六、理论保证:神经网络的逼近能力

论文第7节证明定理 7.3:对一类拟线性抛物型 PDE,单隐层 $n$ 个神经元的网络类 $\mathcal{C}^n$ 中存在 $f^n$ 使 $J(f^n) \to 0$($n\to\infty$),且 $f^n \to u$ 在 $L^p$($p<2$)中成立。证明分两步:先证残差可任意小(神经网络万能逼近 + PDE 连续性),再证满足带源项 PDE 的光滑逼近列经紧性论证收敛到真解。注意 $J\to 0$ 本身(仅 $L^2$ 控制)不足以推出收敛到真解,紧性论证是关键。

七、数值实验

美式期权(有半解析解对照):几何平均 payoff $\max((\prod x_i)^{1/d}-K,0)$,Black–Scholes 下可化为一维问题得半解析解。相对误差:3维 0.05%、20维 0.03%、100维 0.11%、200维 0.22%——有限差分在 200 维根本无法运行。

美式期权(无半解析解):用 20 只真实股票(IBM、Amazon、微软等 2000–2017 数据)估计异质波动率/相关系数(0.09–0.69 / 0.53–0.80)。利用美式期权的对偶界(Rogers 2002):任何近似解都给出价格上下界 $[\underline{u}, \bar{u}]$,DGM 解的误差界仅 0.23%–0.62%——在没有真值时仍能量化精度,这是美式期权问题的独特优势。

HJB 方程:随机热方程最优控制问题的高维 HJB,DGM 准确求解(传统方法同样不可行)。

Burgers 方程:把边界条件、初值、物理参数也作为网络输入,一次训练得到一族 PDE 的通解——参数空间本身是高维的,DGM 把"解很多个 PDE"变成"解一个高维 PDE"。

八、应用展望与A股约束

  1. 美式/百慕大期权定价:DGM 是目前少数能处理上百维美式期权的 PDE 方法;券商对一篮子股票的场外美式期权报价、结构化产品对冲,可用 DGM 直接算 PDE 而非纯蒙特卡洛(Longstaff–Schwartz 只给单点价格,DGM 给全解面 + 行权边界)。
  2. HJB 与最优对冲:结合本站之前解读的 Tourin–Yan(2013)配对交易 HJB——解析解只存在于特殊情形,一般 HJB(如带交易成本、持仓约束)可用 DGM 数值求解,形成"解析洞察 + 数值求解"的完整工具链。
  3. 参数化 PDE 的通解:Burgers 方程的例子提示,对含待校准参数的定价模型(如随机波动率),可把参数作为输入维度,一次训练得到"参数→价格曲面"的代理模型,用于实时报价与 Greeks 计算。
  4. 局限与注意:SGD 只保证收敛到驻点(非凸),论文靠大批量 + 学习率衰减 + 模型平均缓解;自由边界迭代法无收敛理论保证,靠数值实验支撑;200 维实验用了超算级资源,个人复现时应从低维、欧式期权起步验证。
  5. A股约束:A股场内期权标的少(50ETF、300ETF 等),高维美式期权更多见于券商场外衍生品;使用 DGM 时注意 A股有涨跌停、T+1,标的 SDE 与 Black–Scholes 假设有偏离,PDE 中的漂移/扩散项需按实际市场修正后再训练。

解读人注:arXiv:1708.07469;200维实验基于 Blue Waters 超算。引用公式与定理编号请以原文为准。

发布日期:2026-10-13 · 类型:金融建模