快速熟悉torchdiffeq用法,从数理逻辑到完整案例【第二部分】

本系列文章板块规划

提示:以下内容仅为个人学习感悟,无法保证完全的正确和权威,大家酌情食用谢谢。
第一部分 torchdiffeq背后的数理逻辑
第二部分 torchdiffeq的基本用法
第三部分 trochdiffeq的升级用法
第四部分 torchdifffeq的案例和代码解析
第五部分 总结

第二部分的参考网站:https://github.com/rtqichen/torchdiffeq

torchdiffeq的基本用法

代码解释

我们来看看官网文档中给出的解释,其翻译为:
“torchdiffeq是一个在PyTorch中实现的常微分方程(ODE)求解器,使用伴随方法支持通过ODE解进行反向传播,可以以恒定的内存成本进行。”
这里的ODE解进行反向传播是指,在神经网络中,ODE被用作网络的一部分时,可以通过ODE的解对于网络进行训练。比如,我们使用神经网络对连续动态系统进行建模,ODE会用来描述系统状态随时间的变化。网络的一部分输出因此将是ODE的解,我们通过这些揭解对于网络进行训练。
关于这里提到的伴随方法(adjoint method),上一部分提到,ODE的解是通过数值方法得到的(欧拉,龙格库塔等等,不是解方程解出来的,是通过算法逼近的),他会储存一些相关梯度,而不需要储存训练过程中的所有状态,因此可以减少内存使用。Pytorch中就写了能够执行ODE解协助的神经网络,和加入了伴随方法节省空间的算法。
那接下来我们来看看,如何使用代码。

torchdiffeq安装

因此,在运行相关的代码时,首先需要安装这个库:

pip install torchdiffeq

如果安装最新版,从Github上的代码仓库安装。这是 torchdiffeq 库的GitHub仓库URL,它指向了库的源代码所在的位置:

pip install git+https://github.com/rtqichen/torchdiffeq

torchdiffeq基本用法

这个库提供了一个主要的接口 odeint,它包含了用于解决初始值问题(Initial Value Problems, IVP)的通用算法,并且对所有主要参数都实现了梯度计算。初始值问题由一个常微分方程(ODE)和一个初始值组成:

dy/dt = f(t, y)    y(t_0) = y_0.

这部分就是是我在第一部分提到的,ODE的基本表达式。我们需要一个方程表达变化,一个初值为迭代的开始。常微分方程求解器通过初始条件,找到满足ODE的连续轨迹。
在这里插入图片描述

使用默认求解器解决一个初始值问题的代码如下:

from torchdiffeq import odeintodeint(func, y0, t)
  1. 从torchdiffeq 导入 odeint 函数,作为求解接口。
  2. 定义ODE函数func,代表了我们要求解的常微分方程。
  3. 初始条件:y0,即在初试时间t_0时刻的函数值y(t_0)
  4. 时间向量t,记为想要计算解的时间点,
  5. 然后调用求解。

官方文档特别推荐使用伴随方法。

from torchdiffeq import odeint_adjoint as odeintodeint(func, y0, t)

伴随方法只是简单地围绕 odeint 进行了封装,但是在反向调用中解决伴随ODE时,它将只使用 O(1) 的内存,但是在使用时,我们需要注意func必须是一个nn.Moudle。

torchdiffeq高级用法

可以基于事件停止ODE的求解。

from torchdiffeq import odeint_event
odeint_event(func, y0, t0, *, event_fn, reverse_time=False, odeint_interface=odeint, **kwargs)
参数类型/默认值描述
func必需代表ODE系统的函数,形式为 func(t, y),它定义了如何根据时间 t 和当前状态 y 计算导数 dy/dt。
y0必需表示ODE系统在初始时间 t0 的初始状态的张量。
t0必需标量,表示初始时间的值。
event_fn必需关键字参数。一个函数,形式为 event_fn(t, y),它返回一个张量。当此张量的任意元素为零时,求解将终止。可以返回多个值来定义多个事件。
reverse_timebool / False指定是否在反向时间中求解ODE。如果为 True,求解器将从 t0 开始向过去求解。默认为 False。
odeint_interfaceodeint 或 odeint_adjoint指定用于通过ODE求解进行微分的模式。odeint 表示直接模式,odeint_adjoint 表示伴随模式。默认是 odeint。
**kwargs-传递给 odeint_interface 的任何剩余关键字参数,可以用来设置求解器选项,如容差、最大步数等。
atolfloat(通常作为 **kwargs 之一)绝对容差参数,控制事件检测的数值精度。
options算法名Adaptive-step,fixed-step等等相应的算法

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/803655.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C++11:function包装器

包装器,体现了C11中的封装性,包装器可以应用于:函数指针,仿函数,lambda 而包装器function的出现刚好也弥补了上述三种语法的不足之处 函数指针写起来较为复杂,而仿函数之间类型不同,lambda则在…

数学建模笔记(10)整数规划和0-1规划

前由 显然通关次数不能是小数,这就涉及到了整数问题。 定义 例题

最新mysql8.3 保姆级 主从复制搭建教程

mysql 主从复制搭建 服务器配置表 机器ip操作系统主机192.168.31.25华为openEuler-22.03-LTS-SP3从机192.168.31.184华为openEuler-22.03-LTS-SP3从机192.168.31.228华为openEuler-22.03-LTS-SP3 1、在3台机器上安装独立的 mysql 1.1 创建myql文件夹用来存放mysql包 mkdir…

python-可视化篇-turtle-画爱心

文章目录 原效果替换关键字5为8,看看效果改下颜色 原效果 import turtle as tt.color(red,pink) t.begin_fill() t.width(5) t.left(135) t.fd(100) t.right(180) t.circle(50,-180) t.left(90) t.circle(50,-180) t.right(180) t.fd(100) t.pu() t.goto(50,-30) t…

【用户案例】太美医疗基于Apache DolphinScheduler的应用实践

大家好,我叫杨佳豪,来自于太美医疗。今天我为大家分享的是Apache DolphinScheduler在太美医疗的应用实践。今天的分享主要分为四个部分: 使用历程及选择理由稳定性的改造功能定制与自动化部署运维巡检与优化 使用历程及选择理由 公司介绍 …

尝试在手机上运行google 最新开源的gpt模型 gemma

Gemma介绍 Gemma简介 Gemma是谷歌于2024年2月21日发布的一系列轻量级、最先进的开放语言模型,使用了与创建Gemini模型相同的研究和技术。由Google DeepMind和Google其他团队共同开发。 Gemma提供两种尺寸的模型权重:2B和7B。每种尺寸都带有经过预训练&a…

【iOS ARKit】AR Quick Look 概述

为更好地传播共享 AR 体验,苹果公司引入了 AR Quick Look,并在iOS 12及以上版本系统中深度集成了 AR Quick Look,因此可以通过iMessage、Mail、Notes、 News、 Safari 和 Files 直接体验 AR,AR Quick Look提供了在 iPhone 和iPad …

排序算法,插入排序

插入排序是什么 插入排序(Insertion Sort),一般也被称为直接插入排序。对于少量元素的排序,它是一个有效、简单的算法 其主要的实现思想是将数据按照一定的顺序一个一个的插入到有序的表中,最终得到的序列就是已经排…

隐私计算实训营第九讲-隐语多方安全计算在安全核对的行业实践

隐私计算实训营第九讲-隐语多方安全计算在安全核对的行业实践 文章目录 隐私计算实训营第九讲-隐语多方安全计算在安全核对的行业实践1.业务背景:安全核对产生的土壤1.1相关政策出台1.2 数据差异的来源 2.产品方案:从试点到规模化的路3.技术共建&#xf…

如何用MATLAB进行核密度估计

核密度估计(Kernel Density Estimation,KDE)是一种用于估计概率密度函数的非参数方法。以下是核密度估计的基本步骤和公式: 步骤: (1)数据预处理:在进行核密度估计之前,需要对原始数据进行清洗…

微信小程序报错——“errno“: 600001, “errMsg“: “request:fail -2:net::ERR_FAILED“

bug现象 微信小程序体验版和真机调试 进入小程序的时候接口就出现了这个报错 "errno": 600001, "errMsg": "request:fail -2:net::ERR_FAILED" 排查 检查是证书过期还是证书链不完整 证书的信任链完整问题,可以在 亚数信息-SSL/TLS安…

web安全学习笔记(8)

记一下第十二节课的内容。 一、PHP文件包含的四种方式 Include和Include_once 操作系统会读取包含的文件的内容,并将它插入主文件中,include方式的文件包含会在包含失败的情况下输出警告信息,而include_once方式会检查包含的文件是否已经被…

Jmeter —— 自动录制脚本

1、Jmeter配置 1.1新增一个线程组 1.2Jmeter中添加HTTP代理 1.3配置HTTP代理服务器 修改端口 修改Target Cintroller(目标控制器) 修改Grouping(分组) 编辑录制中的包含和排除 在“URL Patterns to include包含模式”中填入.*(123456).*用以过滤请求地址中不包含123456的请求…

Datacom HCIP笔记-MPLS协议 之二

在Ingress节点执行该命令时,触发所有的32位路由建立LDPLSP。 在Egress节点执行该命令时,触发本地32位路由建立LDPLSP, egress就是主机路由始发路由器 ingress就是主机路由非始发路由器 默认情况下:华为路由器仅为非物理接口主机路…

【C++11】initializer_list | 右值引用 | 完美转发

一切皆可列表{ }初始化 在C98,允许花括号{ } 对数组、结构体类型初始化。 class Data { public:Data(int y, int m, int d):_y(y), _m(m), _d(d){} private:int _y;int _m;int _d; };int arr[4]{0,1,2,3};//列表初始化 Data d1{2024,03,21};//列表初始化 C11允许通过{ } 初始化…

云数据库价格一瞥(华为云、百度智能云、腾讯云、阿里云)

最近,大家似乎和价格“磕”上了。本文仅考虑主流产品( RDS MySQL、Redis )的部分主流规格,对各家厂商的价格做一个对比,供参考。 TL;DR: 总体来看,各家云厂商价格趋于持平,部分主流商…

创建一个qt登录界面,密码账号正确转到窗口2,否则弹出对话框提示账号密码错误,窗口2有四个按键,三个按键可以朗读按键文本,第四个退出。

作业要求: 主函数: int main(int argc, char *argv[]) {QApplication a(argc, argv);Widget w;w.show();Form1 f;//连接窗口1的信号函数和窗口2打开的lambda函数Widget::connect(&w,&Widget::login,[&](){f.show();});return a.exec(); }窗…

无影云电脑不能连接到本机的调试串口的解决方案

目录 概述 解决方案 云端电脑中的操作 本地USBDK驱动程序的更新 概述 我从1月份开始使用阿里的无影云电脑进行嵌入式开发板的测试,主要的原因有两个:一是平时使用的笔记本资源过于紧张,二是方便移动办公,这样我只要平时拿着开…

解锁阿里巴巴1688数据宝藏:API助力批量获取商品价格、标题、图片及库存

在数字化时代,数据已成为商业决策的重要依据。对于电商从业者来说,掌握商品的价格、标题、图片及库存等关键信息,是优化销售策略、提升竞争力的关键。阿里巴巴1688平台作为国内领先的B2B电商平台,其海量的商品数据为商家提供了丰富…

DRF的认证、权限、限流、序列化、反序列化

DRF的认证、权限、限流、序列化、反序列化 一、认证 1、直接用,用户授权 实现方法 编写 ->认证组件 应用组件 编写 ->认证组件 from rest_framework.authentication import BaseAuthentication from rest_framework.exceptions import AuthenticationF…