怎么调用新建模型里文章的内容_优雅地进行Tensorflow Lite模型转换

5c742e0324a1d399fc0d0040338df500.png

初涉知乎江湖,知道大佬很多,请温柔以待!!!

七日凌晨,谷歌连夜发布了有关于Tensorflow最新成果和技术,这应该是贾扬清离开脸书后另一个深度学习界令人惊呼的事件了吧!(旁白:反正你说是就是呗)笔者对Tensorflow 2.0 Alpha 还是Beta不是很感冒,倒是对tensorflow lite 1.0的更新激动到高呼:卧槽,牛比!(破音)

8bf6ea5a974276da4e257064f33e6cad.png
TF2019开发者大会
全球即将同步直播:TensorFlow Dev Summit 2019​mp.weixin.qq.com
3869e94b5c5117eecb1754c71c2b6fa5.png

点击可看大会回顾

自17年开发者大会,tflite作为tensorflow的移动轻量版随之发布以来,在支持的运算和网络上做了较多兼容的工作,可一直无法让人满意,如此多喜闻乐见的网络没有办法在移动端部署,开发者也只能望洋兴叹。终于!此次大会为开发者带来了福音。支持的op将进一步拓展,RNN/LSTM将完美支持,再辅以前期(not前妻)的移动端GPU加速,吾孰能知否移动端开发的此刻的躁动。

TensorFlow Lite 2019 年发展蓝图​www.zhuanzhi.ai

25a81cbb9b348a5eed62eb6547adba4e.png

抱歉,下面才是文章的主旨内容部分!

目前移动端部署,多是采用pb文件和tfmobile,tflite是tfmobile的轻化(light)版,相比tfmobile通常有更小的二进制大小,更少的依赖和更好的性能,大会规划的蓝图似乎让lite真正作为接替者走上历史的舞台(说得自己都诚惶诚恐).早期看了很多转换tflite模型的技术博客,糟了不少坑,纸短情长,无以在此言表。以下是个人重构的tflite丝滑版流畅的转换情景。

step 1

安装bazel编译工具,bazel官方安装教程 ,推荐第二种Using Bazel custom APT repository安装模式(三步)

5c278c1dfbfaaf084db6caf487e50824.png

step 2

下载tensorflow源码,笔者没尝试在安装版的tf里做编译,用源码不影响平台运转,放心操作。源码地址:tensorflow/tensorflow,配置过tf源码的盆友都知道,接下来配置洪水般倾泻询问的让你进退维谷,推倒重来是常态。记住一条:关于cuDNN配置的全yes,cudn的部分通过,其他的根据需求拟定。

step 3

接下来进入编译bazel 对源码的编译,如果只编译支持cpu的,输入如下代码,参考自:https://www.cnblogs.com/shouhuxianjian/p/9416934.html

$ bazel build --config=opt //tensorflow/tools/pip_package:build_pip_package

如果需要gpu支持的,敲如下代码:

$ bazel build --config=opt --config=cuda //tensorflow/tools/pip_package:build_pip_package 

笔者言:此步骤适宜午休前操作,这样你可以感受不到它的漫长。

step 4

好开心,午休归来阿哩哩!编译successful!恭喜,环境基本搭建完成!如果没有安装版tf的可以参考余下的步骤完成。

$bazel-bin/tensorflow/tools/pip_package/build_pip_package /tmp/tensorflow_pkg

$ sudo pip install /tmp/tensorflow_pkg/tensorflow

好了,下面进入崭新阶段,依以下的步骤编译模型转换工具包(前方有坑预警)~

$ bazel build tensorflow/python/tools:freeze_graph(作模型固化的工具)

$ bazel build tensorflow/lite/toto:toto(其他经验分享,这部分路径有误,笔者已更正)

$ bazel build tensorflow/tools/graph_transforms:summarize_graph(查看模型结构的工具)

齐活!下面就可以按照通用方式进行tflite模型转换了,但是我们通常在模型训练完成后只有.ckpt文件,可以将.ckpt文件直接固化成pb文件,这里参考了tensorflow实现将ckpt转pb文件

22982723ee2e6f854f8dfb8670bc80de.png
转换pb代码

这样生成的固化pb文件,可以直接进入toco命令转换了! 在toco命令中,需要有网络的输入,输出,shape等参数,可以通过这个命令(模型路径替换成自己的):

$ bazel-bin/tensorflow/tools/graph_transforms/summarize_graph --in_graph=../freeze_graph.pb 参考: Tensorflow 模型转 tflite ,在安卓端使用

15495cd13c438a2f61261b0e9d497fe9.png
模型结构参数

通过网络结构就可找到对应输入/出参量了,进入toco模型转换,以mobilenet为例,命令如下形式(第一行的路径笔者有修正):

$ bazel-bin/tensorflow/lite/toco/toco --input_file=frozen_model.pb

--output_file=model.tflite --input_format=TENSORFLOW_GRAPHDEF

--output_format=TFLITE --inference_type=FlOAT

--input_shapes="1,224,224,3" --input_array=input

--output_array=MobilenetV1/Predictions/Reshape_1

操作无误后,就可以喜提tflite模型了!如果有对android部署熟知或有兴趣的呼友,也可以交流一下!

Delta first writen for Miniredzuzu~

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/498964.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

elastic java_ElasticSearch和Java环境变量

当我下载并解压缩elasticsearch并运行/bin/service.bat或/bin/elasticsearch.bat文件时,我进入了终端:JAVA_HOME environment variable must be set! Press any key to continue . . .当我这样做时,终端关闭。我已经卸载并重新安装&#xff0…

git add后取消_Git常用命令-总结

创建git用户$ git config --global user.name "Your Name"$ git config --global user.email "emailexample.com"初始化一个Git仓库,使用git init命令。添加文件到Git仓库,分两步:使用命令git add ,注意&…

java数组图片_在JAVA中定义图片数组

为实现此意图需要分三段来实现:1。 初始化: Image[] imgnew Image[n];for(int i0;iimg[i]Toolkit.getDefaultToolkit().createImage(....)//装入图片位置}2. 启动变换图片与刷新界面线程run(){//线程入口while(flag){index;index%n;(或写成if(index>n…

查看csv编码_[小O地图-数据] - 坐标转地址文字(逆地理编码)

小O地图是一款基于互联网地图进行地理数据处理、分析、图表的软件。致力为广大科研人员提供专业地图数据,用于科研及学习。小O地图提供将【经纬度坐标转换为地址】的功能,例如:将“116.359861, 39.917225” 转换为 “北京市西城区…

c# mysql 封装_C#简单通用的数据库连接封装

usingSystem;usingSystem.Collections.Generic;usingSystem.Linq;usingSystem.Text;usingSystem.Threading.Tasks;usingSystem.Data;usingSystem.Data.SqlClient;namespaceDbLib{/// ///数据库类/// public classDatabase : IDisposable{/// ///受保护的数据库连接/// protecte…

python自动化办公源码_python自动化办公:文件篇(自动整理文件,一键完成)

import os list_all[]#初始化一个空列表 for root ,dirs,files in os.walk(rC:UsersShineionDesktop新建文件夹): for name in files: file_pathos.path.join(root,name)#包含路径的文件 file_nameos.path.split(file_path)[-1] list_all.append(file_name) print(list_all)如果…

java中no1_Java程序设计实验(NO.1).doc

Java程序设计实验(NO.1)1、实验目的:使用Java的String类操作字符串和子串。写一个程序可以对两个字符串进行测试,判断第一个字符串是否包含在第二个字符串中,例如字符串“op”包含在字符串“interoperabilityop”中。当第一个字符串包含在第二…

ocr中文数据集_CNOCR:测试集准确率最高98%,自带识别模型的中文OCR包

今天 Gitee 为大家介绍的是一款中文 OCR 包。大家都知道,训练模型是一件非常费时费力的事情,但今天这款项目已经自带训练好的识别模型,我们只需要下载下来使用即可,可以说是非常方便了,那么下面我们就去看看这个项目的…

java inner static_Java SE Static Inner

Java SE Static Inner/*内部类使用示例*/package demo;class Outer{int outer_i100;static int outer_j200;final int outer_k300;void test(){Inner in new Inner();in.display();}static class Inner{void display(){System.out.println("display: outer_j "/*ou…

python知识点分支图_python教程,pythonh学习线路图?

相信对于每个人而言,知道编程和学习编程这件事,出发点是不同的。汤哥在北京接触编程的时间是2013年,那个时候还在一个二线城市上大学,还没有这么多各种融资,各种互联网创业的氛围,大家想的更多的是一些线下的&#xff…

sha算法源代码java_SHA算法Java实现

一 简介安全散列算法固定长度摘要信息二 SHA算法SHA-1、SHA-2(SHA-224、SHA-256、SHA384、SHA-512)三 SHA算法实现package com.imooc.security.sha; import java.security.MessageDigest; import java.security.NoSuchAlgorithmException; import java.security.Security; impo…

python定义函数求和_Python定义函数实现累计求和操作

一、使用三种方法实现0-n累加求和 定义函数分别使用while循环、for循环、递归函数实现对0-n的累加求和 1、使用while循环 定义一个累加求和函数sum1(n),函数代码如下: 2、使用 for循环 定义一个累加求和函数sum2(n),函数代码如下: 3、使用递归函数 定义一…

python策略模式_Python-设计模式之策略模式

一次策略模式的代码实践需求清单1.单个商品购买数量大于20个,订单折扣10%2.商品种类超过或等于5个,订单折扣20%3.订单总价超过10000元,订单折扣15%4.客户积分达到2000,折扣7%目前折扣计算方式有4种,为了提高代码的扩展…

arraylist remove() java_执行ArrayList的remove(object)方法抛异常?

简介或许有很多小伙伴都尝试过如下的代码:然后会发现抛出java.util.ConcurrentModificationException异常,这是一个并发异常。那么这个到底是什么情况?首先需要介绍一下增强for循环增强for循环增强for循环是Java1.5后,Collection实…

centos gdb调试_gdb-miss-debuginfo

使用gdb调试core时候,提示Missing separate debuginfos的解决办法。错误提示错误提示信息如下:Missing separate debuginfos, use: debuginfo-install glibc-2.17-106.el7_2.8.x86_64 libaio-0.3.109-13.el7.x86_64 libgcc-4.8.5-4.el7.x86_64 libstdc-4…

用java编写保留两位小数_Java保留两位小数的几种写法总结

摘要:这篇Java开发技术栏目下的“Java保留两位小数的几种写法总结”,介绍的技术点是“Java保留两位小数、保留两位小数、两位小数、Java、小数、总结”,希望对大家开发技术学习和问题解决有帮助。本文列举了几个方法:1. 使用java.…

怎么判断自己启动的线程是否执行完成 java_多线程?怎么用?

Java线程:概念与原理操作系统中线程和进程的概念现在的操作系统是多任务操作系统。多线程是实现多任务的一种方式。进程是指一个内存中运行的应用程序,每个进程都有自己独立的一块内存空间,一个进程中可以启动多个线程。比如在Windows系统中&…

java 线程由浅入深_Java多线程:由浅入深看synchronized的底层实现原理

Java多线程:由浅入深看synchronized的底层实现原理-1.jpg (91.72 KB, 下载次数: 0)2018-9-21 03:55 上传前言前俩篇文章,我们聊了聊线程/进程的概念,接着简单串了一下同步的体例体例。今天我们就单拎出来synchronized,好好捋一捋它…

mysql设置中文_Flask中MySQL预热

Flask和MySQL导读现在Flask已经学习到了类视图,它其实是这样一个关系FLask高级视图视图函数app.route\add_url_rule类视图蓝图blueprint(这个接下来要讲)结束蓝图后,接着就是Flask数据库的结合SQLAlchemy.在学习SQLAlchemy之前,希望和大家一起了解学习一下mysql这篇文章不涉及理…

java2实用教程知识点_Java2实用教程(第5版)重要点及遗漏点(三)

4.6.2 类的关联关系和依赖关系的UML图1、关联关系A类中的成员变量是B类声明的对象,那么A和B的关系是关联关系UML图是从A指向B方向实线箭头2、依赖关系A类中某个方法的参数是用B类声明的对象或 …