摘要: 分享对论文的理解, 原文见 Jérome Simon, Gabriel Fabien-Ouellet, Erwan Gloaguen, and Ishan Khurjekar, Hierarchical transfer learning for deep learning velocity model building, Geophysics, 2003, R79–R93. 这次的层次迁移应该指从 1D 到 2D 再到 3D.

摘要

深度学习具有使用最少的资源 (这里应该是计算资源, 特别是预测时的计算资源) 处理大量地震资料的潜力.
神经网络直接将数据 (即地震记录) 映射到模型 (如速度模型).
由于数据量太大, 直接做 2D 或 3D 不可行, 因此在一个子问题 (1D) 上训练神经网络.
通过迁移学习, 减少了 2D 训练数据的使用量. 注: 如何从 1D 迁移到 2D 是一个核心问题.
root-mean-square 误差为 ($198\pm 91$) m/s.
再次用到了 RMS 速度模型 (参见 论文笔记: 循环神经网络进行速度模型反演).

引言

DL 不仅用于 FWI, 也用于常规处理的各个步骤.
DL-FWI 暂时还不能成为工业标准, 但它有可能在缩短训练时间后超越物理规律驱动的 FWI (即数值模拟 FWI).
当前的 DL-FWI 只处理尺寸小的速度模型 (如 301*301), 可能有些薄层和盐丘, 但总体不具有实际数据的代表性.
Fabien-Ouellet and Sarkar (2020) 的方法可以处理较大规模数据, 但获得的速度模型横向连续性不好 (不符合物理规律, 这个用我们的边界提取辅助任务可能会缓解).
共中心点 CMP 道集看来用得比较多, 我们用的是共炮点 CSP 道集.
图像处理任务使用几万至几百万带标签实际数据进行训练, 地震数据可能有这么多, 但标签非常少 (如果不是没有的话). 这确实是大家面临的难题.

方法

问题: 从叠前数据直接估计 (反演) 倾斜分层声波速度模型. 注: 声波太简单了吧.
输入: $n_t\times n_h\times n_x$ 的张量, 其中 $t$ 是双向 (下去再上来) 走时, $h$ 是从炮点到检波点的 (水平) 偏移量, $x$ 是 CMP 中心点的位置.

$$v_{\mathrm{int}}(t_i,x)=v_{\mathrm{int}}(z(t_i),x),z(t_i)=\sum _{j=1}^{i-1}{v}_{\mathrm{int}}(t_j,x)\cdot 2\Delta t\text{\hspace{1em}(1)}$$
其中时间域被离散化为网格, 长度为 $\Delta t$.
右式中 $z(t_i) $ 表示深度, 它是每个时刻的速度乘以时间片长度之和. 如 $\Delta t$ 为 $1\mathrm{ms}$, 则 $t_0=0\mathrm{ms}$, $t_1=1\mathrm{ms}$, $t_2=2\mathrm{ms}$, $\dots$. 相当于速度对于时间的积分, 即为路程. 在连续的情况下, 相当于把连加换成积分符号即可.
左式表示 $t_i$ 时刻的速度, 就相当于深度为 $z(t_i)$ 时的速度. 但从数学上来看是错的. 如: $t_i=1\mathrm{ms}$ 时 $z(t_i)=150\mathrm{m}$, 由于没有办法在式子中间带单位, 所以也无法区分. 可以考虑写为 $$v_{\mathrm{int}}^t(t_i,x)=v_{\mathrm{int}}^z(z(t_i),x),z(t_i)=\sum _{j=1}^{i-1}{v}_{\mathrm{int}}^t(t_j,x)\cdot 2\Delta t\text{\hspace{1em}(1’)}$$
反过来, 时间至深度区间速度转换可写为
$$v_{\mathrm{int}}(z_i,x)=v_{\mathrm{int}}(t(z_i),x),t(z_i)=\sum _{j=1}^{i-1}\frac{2\Delta z}{v_{\mathrm{int}}(z_j,x)}\text{\hspace{1em}(2)}$$
其中深度域 (空间域) 被离散化为 $\Delta z$ 的网格, $t(z_i)$ 就是达到深度 $z_i$ 所花的时间. 按照我们的写法可以换为
$$v_{\mathrm{int}}^z(z_i,x)=v_{\mathrm{int}}^t(t(z_i),x),t(z_i)=\sum _{j=1}^{i-1}\frac{2\Delta z}{v_{\mathrm{int}}^z(z_j,x)}\text{\hspace{1em}(2’)}$$
(1) 式和 (2) 式的 2 倍带来一些理解上的问题. 如果时间是往返的, 那么 (2) 式的 2 倍可以理解, 但 (1) 式的 2 倍反而应该是 1/2 倍.
另外, 定义
$$v_{\mathrm{rms}}(t_i,x)=\sqrt{\frac{{\sum }_{j=1}^i{v}_{\mathrm{int}}^2(t_j,x)\Delta t}{{\sum }_{j=1}^i\Delta t}}\text{\hspace{1em}(3)}$$
这个式子的问题在于, 如果 $\Delta t$ 是一个常数的话, 则 $v_{\mathrm{rms}}(t_i,x)=v_{\mathrm{int}}(t_i,x)$, 但实际上它应该是可变的, 应写为
$$v_{\mathrm{rms}}(t_i,x)=\sqrt{\frac{{\sum }_{j=1}^i{v}_{\mathrm{int}}^2(t_j,x)\Delta t_j}{{\sum }_{j=1}^i\Delta t_j}}\text{\hspace{1em}(3’)}$$
对于复杂的地形, 基于时间的模型 $v_{\mathrm{int}}(t,x)$ 不可靠, 只能使用基于深度的模型 $v_{\mathrm{int}}(z,x)$.

(5) 式是利用 1D 对 2D 进行初始化的操作.