onnx 1.16 doc学习笔记五：python API-函数、解析与形状推理

onnx作为一个通用格式，很少有中文教程，因此开一篇文章对onnx 1.16文档进行翻译与进一步解释，
onnx 1.16官方文档：https://onnx.ai/onnx/intro/index.html](https://onnx.ai/onnx/intro/index.html)，
如果觉得有收获，麻烦点赞收藏关注，目前仅在CSDN发布，本博客会分为多个章节，目前尚在连载中，详见专栏链接：
https://blog.csdn.net/qq_33345365/category_12581965.html

开始编辑时间：2024/2/21；最后编辑时间：2024/2/21

这是本教程的第四篇，其余内容见上述专栏链接。

ONNX with Python

本教程的第一篇：介绍了ONNX的基本概念。

在本教程的第二篇，介绍了ONNX关于Python的API，具体涉及一个简单的线性回归例子和序列化。

本教程的第三篇，包括python API的三个部分：初始化器Initializer；属性Attributes；算子集和元数据Opset和Metadata

本教程的第四篇，包括子图的两个内容，使用If和Scan算子实现子图的选择和循环。

在本篇中，会介绍以下内容：

  1. 函数
    1. 不带属性的函数
    2. 带有属性的函数
  2. 模型解析：onnx提供了一种简单定义图的方式，可以实现快速构图，并不常用。
  3. 检查器与形状推理 checker and shape inference
    1. 检查器：检查模型是否有效
    2. 形状推理：估计中间结果的形状和种类

函数

正如前一章所述，函数可以用来缩短构建模型的代码，并为运行时预测提供更多可能性，如果存在特定函数实现，可以使其运行更快。如果没有特定实现，运行时仍然可以基于现有算子使用默认实现。

make_function 函数用于定义一个函数。它就像一个简化类型的图，更像是一个模板。这个 API 可能会有所演变，它也不包含初始化器。

没有属性的函数

这是更简单的情况，函数的每个输入都是在执行时已知的动态对象。

import numpy
from onnx import numpy_helper, TensorProto
from onnx.helper import (make_model, make_node, set_model_props, make_tensor,make_graph, make_tensor_value_info, make_opsetid,make_function)
from onnx.checker import check_modelnew_domain = 'custom'
opset_imports = [make_opsetid("", 14), make_opsetid(new_domain, 1)]# 定义一个线程回归的函数
node1 = make_node('MatMul', ['X', 'A'], ['XA'])
node2 = make_node('Add', ['XA', 'B'], ['Y'])linear_regression = make_function(new_domain,  # domain name'LinearRegression',  # function name['X', 'A', 'B'],  # input names['Y'],  # output names[node1, node2],  # nodesopset_imports,  # opsets[])  # attribute names# 在没有变量前，函数是可以构建的
X = make_tensor_value_info('X', TensorProto.FLOAT, [None, None])
A = make_tensor_value_info('A', TensorProto.FLOAT, [None, None])
B = make_tensor_value_info('B', TensorProto.FLOAT, [None, None])
Y = make_tensor_value_info('Y', TensorProto.FLOAT, [None])# 函数会作为算子来构建节点
graph = make_graph([make_node('LinearRegression', ['X', 'A', 'B'], ['Y1'], domain=new_domain),make_node('Abs', ['Y1'], ['Y'])],'example',[X, A, B], [Y])onnx_model = make_model(graph, opset_imports=opset_imports,functions=[linear_regression])  # 新增函数需要添加这个参数
check_model(onnx_model)print(onnx_model)

输出为：

ir_version: 10
graph {node {input: "X"input: "A"input: "B"output: "Y1"op_type: "LinearRegression"domain: "custom"}node {input: "Y1"output: "Y"op_type: "Abs"}name: "example"input {name: "X"type {tensor_type {elem_type: 1shape {dim {}dim {}}}}}input {name: "A"type {tensor_type {elem_type: 1shape {dim {}dim {}}}}}input {name: "B"type {tensor_type {elem_type: 1shape {dim {}dim {}}}}}output {name: "Y"type {tensor_type {elem_type: 1shape {dim {}}}}}
}
opset_import {domain: ""version: 14
}
opset_import {domain: "custom"version: 1
}
functions {name: "LinearRegression"input: "X"input: "A"input: "B"output: "Y"node {input: "X"input: "A"output: "XA"op_type: "MatMul"}node {input: "XA"input: "B"output: "Y"op_type: "Add"}opset_import {domain: ""version: 14}opset_import {domain: "custom"version: 1}domain: "custom"
}

带有属性的函数

下面的函数与之前的函数几乎完全相同，只是将一个名为 B 的输入转换为名为 bias 的参数。函数内部，创建了一个 Constant 节点，将参数作为结果插入。它通过 ref_attr_name 属性与参数相连。

输入和属性之间存在着明确的区别。输入是动态的，可能在每次执行时都发生变化。而属性是静态的，永远不会改变。优化器可以假设属性不会改变来改善执行图。因此，将输入转换为属性是不可能的。唯一可以将属性转换为输入的操作符是常量操作符。

import numpy
from onnx import numpy_helper, TensorProto, AttributeProto
from onnx.helper import (make_model, make_node, set_model_props, make_tensor,make_graph, make_tensor_value_info, make_opsetid,make_function)
from onnx.checker import check_modelnew_domain = 'custom'
opset_imports = [make_opsetid("", 14), make_opsetid(new_domain, 1)]# Let's define a function for a linear regression
# The first step consists in creating a constant
# equal to the input parameter of the function.
cst = make_node('Constant', [], ['B'])att = AttributeProto()
att.name = "value"# This line indicates the value comes from the argument
# named 'bias' the function is given.
att.ref_attr_name = "bias"
att.type = AttributeProto.TENSOR
cst.attribute.append(att)node1 = make_node('MatMul', ['X', 'A'], ['XA'])
node2 = make_node('Add', ['XA', 'B'], ['Y'])linear_regression = make_function(new_domain,  # domain name'LinearRegression',  # function name['X', 'A'],  # input names['Y'],  # output names[cst, node1, node2],  # nodesopset_imports,  # opsets["bias"])  # attribute namesX = make_tensor_value_info('X', TensorProto.FLOAT, [None, None])
A = make_tensor_value_info('A', TensorProto.FLOAT, [None, None])
B = make_tensor_value_info('B', TensorProto.FLOAT, [None, None])
Y = make_tensor_value_info('Y', TensorProto.FLOAT, [None])graph = make_graph([make_node('LinearRegression', ['X', 'A'], ['Y1'], domain=new_domain,# bias是一个函数参数，1是维度，0.67是值bias=make_tensor('former_B', TensorProto.FLOAT, [1], [0.67])), make_node('Abs', ['Y1'], ['Y'])],'example',[X, A], [Y])onnx_model = make_model(graph, opset_imports=opset_imports,functions=[linear_regression])  # functions to add)
check_model(onnx_model)print(onnx_model)

输出是：

ir_version: 10
graph {node {input: "X"input: "A"output: "Y1"op_type: "LinearRegression"attribute {name: "bias"t {dims: 1data_type: 1float_data: 0.6700000166893005name: "former_B"}type: TENSOR}domain: "custom"}node {input: "Y1"output: "Y"op_type: "Abs"}name: "example"input {name: "X"type {tensor_type {elem_type: 1shape {dim {}dim {}}}}}input {name: "A"type {tensor_type {elem_type: 1shape {dim {}dim {}}}}}output {name: "Y"type {tensor_type {elem_type: 1shape {dim {}}}}}
}
opset_import {domain: ""version: 14
}
opset_import {domain: "custom"version: 1
}
functions {name: "LinearRegression"input: "X"input: "A"output: "Y"attribute: "bias"node {output: "B"op_type: "Constant"attribute {name: "value"type: TENSORref_attr_name: "bias"}}node {input: "X"input: "A"output: "XA"op_type: "MatMul"}node {input: "XA"input: "B"output: "Y"op_type: "Add"}opset_import {domain: ""version: 14}opset_import {domain: "custom"version: 1}domain: "custom"
}

解析 Parsing

onnx 模块提供了一种更快速定义计算图并使其更易读的方法。当计算图在单个函数中构建时，这种方式非常方便易用，但当计算图由许多不同的函数构建，每个函数转换机器学习管道的一部分时，就没那么容易了。

import onnx.parser
from onnx.checker import check_modelinput = '''<ir_version: 8,opset_import: [ "" : 15]>agraph (float[I,J] X, float[I] A, float[I] B) => (float[I] Y) {XA = MatMul(X, A)Y = Add(XA, B)}'''
onnx_model = onnx.parser.parse_model(input)
check_model(onnx_model)print(onnx_model)

输出是：

ir_version: 8
graph {
node {input: "X"input: "A"output: "XA"op_type: "MatMul"domain: ""
}
node {input: "XA"input: "B"output: "Y"op_type: "Add"domain: ""
}
name: "agraph"
input {name: "X"type {tensor_type {elem_type: 1shape {dim {dim_param: "I"}dim {dim_param: "J"}}}}
}
input {name: "A"type {tensor_type {elem_type: 1shape {dim {dim_param: "I"}}}}
}
input {name: "B"type {tensor_type {elem_type: 1shape {dim {dim_param: "I"}}}}
}
output {name: "Y"type {tensor_type {elem_type: 1shape {dim {dim_param: "I"}}}}
}
}
opset_import {
domain: ""
version: 15
}

这是一种创建小型模型的方法，但很少用于转换库。

检查器与形状推理Checker and Shape Inference

onnx 提供了一个用于检查模型是否有效的函数。它会在能检测到不一致性时检查输入类型或形状。以下示例演示了添加两个不同类型的矩阵，这是不允许的。

import onnx.parser
import onnx.checkerinput = '''<ir_version: 8,opset_import: [ "" : 15]>agraph (float[I,4] X, float[4,2] A, int[4] B) => (float[I] Y) {XA = MatMul(X, A)Y = Add(XA, B)}'''
try:onnx_model = onnx.parser.parse_model(input)onnx.checker.check_model(onnx_model)
except Exception as e:print(e)

输出是：

b'[ParseError at position (line: 6 column: 44)]\nError context:     agraph (float[I,4] X, float[4,2] A, int[4] B) => (float[I] Y) {\nExpected character ) not found.'

check_model 由于遇到不一致性而引发错误。它适用于所有在主域或 ML 域中定义的操作符。对于任何未在任何规范中定义的自定义操作符，它不会发出任何警告。

形状推断只有一个目的：估计中间结果的形状和类型。如果已知，运行时可以预先估计内存消耗并优化计算。它可以融合一些操作符，也可以进行原地计算…

import onnx.parser
from onnx import helper, shape_inferenceinput = '''<ir_version: 8,opset_import: [ "" : 15]>agraph (float[I,4] X, float[4,2] A, float[4] B) => (float[I] Y) {XA = MatMul(X, A)Y = Add(XA, B)}'''
onnx_model = onnx.parser.parse_model(input)
inferred_model = shape_inference.infer_shapes(onnx_model)print(inferred_model)

输出为：

ir_version: 8
graph {node {input: "X"input: "A"output: "XA"op_type: "MatMul"domain: ""}node {input: "XA"input: "B"output: "Y"op_type: "Add"domain: ""}name: "agraph"input {name: "X"type {tensor_type {elem_type: 1shape {dim {dim_param: "I"}dim {dim_value: 4}}}}}input {name: "A"type {tensor_type {elem_type: 1shape {dim {dim_value: 4}dim {dim_value: 2}}}}}input {name: "B"type {tensor_type {elem_type: 1shape {dim {dim_value: 4}}}}}output {name: "Y"type {tensor_type {elem_type: 1shape {dim {dim_param: "I"}}}}}value_info {     # 新增加的name: "XA"type {tensor_type {elem_type: 1shape {dim {dim_param: "I"}dim {dim_value: 2}}}}}
}
opset_import {domain: ""version: 15
}

添加了一个新的属性值_info来存储推断的形状。dim_param中的字母I可以看作是一个变量。它取决于输入，但函数能够判断哪个中间结果会共享相同的维度。形状推理并不总是有效的。例如，Reshape算子。形状推理只有在形状是常量的情况下才有效。如果不是常量，则形状很难推断，除非后面的节点期望特定的形状。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/699078.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

android framework - startActivity

android framework - startActivity

这里写自定义目录标题 前言源码 前言 很长时间没写博客了&#xff0c;俗话说&#xff0c;好记性不如烂笔头&#xff0c;如今又忍不住想要小小记录一下。 相信应用开发对startActivity这个调用接口都不陌生&#xff0c;知道其能够跳转页面&#xff0c;然而&#xff0c;其具体是…
阅读更多...
【Docker】免费使用的腾讯云容器镜像服务

【Docker】免费使用的腾讯云容器镜像服务

需要云服务器等云产品来学习Linux可以移步/-->腾讯云<--/官网&#xff0c;轻量型云服务器低至112元/年&#xff0c;新用户首次下单享超低折扣。 目录 1、设置密码 2、登录实例&#xff08;sudo docker login xxxxxx&#xff09; 3、新建命名空间&#xff08;每个命名空…
阅读更多...
(delphi11最新学习资料) Object Pascal 学习笔记---第5章第4节（ 变体类型 ）

(delphi11最新学习资料) Object Pascal 学习笔记---第5章第4节（ 变体类型 ）

5.4 变体类型(Variant) ​ 最初&#xff0c;Obejct Pascal为了提供完整的Windows OLE和COM支持&#xff0c;引入了一种松散的本地数据类型&#xff0c;称为变体&#xff08;variant&#xff09;。 虽然这个名称让人联想到变体记录&#xff08;前面提到过&#xff09;并且实现方…
阅读更多...
高刷电竞显示器 - HKC VG253KM

高刷电竞显示器 - HKC VG253KM

今天给大家分享一款高刷电竞显示器 - HKC VG253KM。 高刷电竞显示器 - HKC VG253KM源于雄鹰展翅翱翔的设计灵感&#xff0c;严格遵循黄金分割比例的蓝色点晴线条&#xff0c;加上雾面工艺及高低起伏错落有致的线条处理&#xff0c;在VG253KM的背部勾勒出宛若大鹏展翅的鹰翼图腾…
阅读更多...
Python实战：统计字符串中的英文字母、空格、数字及其他字符出现的个数

Python实战：统计字符串中的英文字母、空格、数字及其他字符出现的个数

Python实战&#xff1a;统计字符串中的英文字母、空格、数字及其他字符出现的个数 &#x1f308; 个人主页&#xff1a;高斯小哥 &#x1f525; 高质量专栏&#xff1a;Matplotlib之旅&#xff1a;零基础精通数据可视化、Python基础【高质量合集】、PyTorch零基础入门教程 &…
阅读更多...
JAVA面试题23

JAVA面试题23

什么是Java中的字符串常量池&#xff08;String Pool&#xff09;&#xff1f; 答案&#xff1a;字符串常量池是Java中存储字符串常量的特殊区域&#xff0c;它位于堆内存中。由于字符串的不变性&#xff0c;相同的字符串常量在常量池中只会有一份拷贝。 什么是内部类&#xf…
阅读更多...
个人博客系统测试

个人博客系统测试

文章目录 一、项目介绍二、测试1. 功能测试2. 自动化测试&#xff08;1&#xff09;添加相关依赖&#xff08;2&#xff09;新建包并在报下创建测试类&#xff08;3&#xff09;亮点及难点 一、项目介绍 个人博客系统采用前后端分离的方法来实现&#xff0c;同时使用了数据库来…
阅读更多...
windows11本地深度学习环境搭建Anacond，keras，tensorflow，pytorch， jupyter notebook

windows11本地深度学习环境搭建Anacond，keras，tensorflow，pytorch， jupyter notebook

前言 工欲善其事&#xff0c;必先利其器。 第一步 安装Anaconda 下载地址&#xff1a; https://www.anaconda.com/download 路径默认 这里都勾选上 然后会卡在这里&#xff0c;卡很久&#xff0c;不用管&#xff0c;等着就行 第二步 配置环境 conda env list 列出所有…
阅读更多...
Redis可视化工具——RedisInsight

Redis可视化工具——RedisInsight

文章目录 1. 下载2. 安装3. RedisInsight 添加 Redis 数据库4. RedisInsight 使用 RedisInsight 是 Redis 官方出品的可视化管理工具&#xff0c;支持 String、Hash、Set、List、JSON 等多种数据类型的管理&#xff0c;同时集成了 RedisCli&#xff0c;可进行终端交互。 1. 下载…
阅读更多...
电子器件系列63：焊带（光伏焊带）

电子器件系列63：焊带（光伏焊带）

光伏焊带&#xff0c;又称涂锡焊带。光伏焊带是光伏组件的重要组成部分&#xff0c;属于电气连接部件&#xff0c;应用于光伏电池片的串联或并联&#xff0c;发挥导电聚电的重要作用&#xff0c;以提升光伏组件的输出电压和功率。光伏焊带是光伏组件焊接过程中的重要材料&#…
阅读更多...
ShardingSphere 5.x 系列【15】分布式主键生成器

ShardingSphere 5.x 系列【15】分布式主键生成器

有道无术，术尚可求，有术无道，止于术。 本系列Spring Boot 版本 3.1.0 本系列ShardingSphere 版本 5.4.0 源码地址：https://gitee.com/pearl-organization/study-sharding-sphere-demo 文章目录 1. 概述2. 配置3. 内置算法3.1 UUID3.2 Snowflake3.3 NanoId3.4 CosId3.5 Co…
阅读更多...
美客多如何批量注册买家账号？

美客多如何批量注册买家账号？

美客多在南美电商领域可是个大佬。它的实力强大&#xff0c;影响力广泛&#xff0c;被大家尊称为南美电商巨头。它的业务范围覆盖了整个拉丁美洲&#xff0c;特别是一些重要的国家&#xff0c;比如墨西哥、阿根廷、玻利维亚、巴西、智利和哥伦比亚&#xff0c;这些地方都有它的…
阅读更多...
虚拟化安全知识全攻略：保障云端数据安全

虚拟化安全知识全攻略：保障云端数据安全

通过虚拟化技术使不同用户的数据可以存储在物理存储上。这种方式不但可以节约存储空间&#xff0c;还可以进行统一管理&#xff0c;降低管理费用。随着虚拟化技术的大规模使用&#xff0c;组织机构数据中心的基础架构、运维管理等都发生重大变化&#xff0c;面临的安全风险也随…
阅读更多...
【开源】SpringBoot框架开发婚恋交友网站

【开源】SpringBoot框架开发婚恋交友网站

目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块2.1 数据中心模块2.2 会员管理模块2.3 新闻管理模块2.4 相亲大会管理模块2.5 留言管理模块 三、系统设计3.1 用例设计3.2 数据库设计3.2.1 会员信息表3.2.2 新闻表3.2.3 相亲大会表3.2.4 留言表 四、系统展示五、核心代码5.…
阅读更多...
redis配置和使用

redis配置和使用

安装redis sudo apt install redis-server查看redis版本 redis-server --version修改配置 sudo vim /etc/redis/redis.conf建议使用末行模式的匹配功能单词前加上&#xff1f;即可 bind 127.0.0.1注释掉daemonize属性改为yesprotected-mode属性改为 no 关闭保护模式require…
阅读更多...
cookie伪造 [BSidesCF 2019]Kookie1

cookie伪造 [BSidesCF 2019]Kookie1

打开题目 提示用admin用户登录 尝试弱口令发现&#xff0c;登录失败 显示用admin&passwordadmin!进行登录 有发现说cookie&#xff0c;就尝试用cookie登录&#xff1a; f12编辑添加cookie重发包: 或者bp抓包 Cookie:usernameadmin 用admin登录成功 得到flag: 参考文章&…
阅读更多...
Nmap详解

Nmap详解

Nmap(Network Mapper,网络映射器)是一款开放源代码的网络探测和安 全审核工具。它被设计用来快速扫描大型网络&#xff0c;包括主机探测与发现、开放的端口情 况、操作系统与应用服务指纹识别、WAF 识别及常见安全漏洞。它的图形化界面是 Zenmap, 分布式框架为DNmap。 Nm…
阅读更多...
TensorFlow2.x 精选笔记（1）数据基本操作与线性代数

TensorFlow2.x 精选笔记（1）数据基本操作与线性代数

学习参考&#xff1a; 动手学深度学习2.0Deep-Learning-with-TensorFlow-bookpytorchlightning 一、数组与张量 虽然张量看起来是复杂的对象&#xff0c;但它们可以理解为向量和矩阵的集合。理解向量和矩阵对于理解张量至关重要。 向量是元素的一维列表&#xff0c;向量是一…
阅读更多...
C++的vector容器-＞基本概念、构造函数、赋值操作、容量和大小、插入和删除、数据存取、互换容器、预留空间

C++的vector容器-＞基本概念、构造函数、赋值操作、容量和大小、插入和删除、数据存取、互换容器、预留空间

#include<iostream> using namespace std; #include <vector> //vector容器构造 void printVector(vector<int>& v) { for (vector<int>::iterator it v.begin(); it ! v.end(); it) { cout << *it << " "…
阅读更多...
【人脸朝向识别与分类预测】基于LVQ神经网络

【人脸朝向识别与分类预测】基于LVQ神经网络

课题名称&#xff1a;基于LVQ神经网络的人脸朝向识别分类 版本日期&#xff1a;2024-02-20 运行方式&#xff1a;直接运行GRNN0503.m文件 代码获取方式&#xff1a;私信博主或 企鹅号:491052175 模型描述&#xff1a; 采集到一组人脸朝向不同角度时的图像&#xff0c;图像…
阅读更多...
最新文章

Copyright @ 2022~2023