文献阅读(速读):Automating Deep Neural Network Model Selection for Edge Inference

目录

    • 论文简介
    • 动机:为什么作者想要解决这个问题?
    • 贡献:作者在这篇论文中完成了什么工作(创新点)?
    • 规划:他们如何完成工作?
    • 自己的看法(作者如何得到的创新思路)


论文简介

  • 作者
    Bingqian Lu、Jianyi Yang、Lydia Y. Chen、Shaolei Ren

  • 发表期刊or会议
    《IEEE First International Conference on Cognitive Machine Intelligence》(CogMI)

  • 发表时间
    2019.12


动机:为什么作者想要解决这个问题?

  • 先前DNN模型推理只能在云数据中心进行,但模型压缩技术的出现使得在资源受限的边缘设备上进行DNN推理成为可能。
    推理:即将预先训练的模型应用于新数据
  • 由于边缘设备具有异构性并且压缩的DNN模型多种多样,因此 如何为边缘设备自动选择合适的DNN模型使其推理具有最佳QoE成为挑战。
  • 现有的研究,要么为所有设备选择通用模型,这对于一小部分设备来说是可取的;要么针对设备采用特定的DNN压缩,但这不可扩展。
  • 为了在资源受限的边缘设备进行推理并获得最佳QoE,推理准确性并不是唯一的指标。相反,所采用的 DNN 模型架构必须以自动化的方式针对特定边缘设备硬件进行定制 (定制模型?还是模型已经训练好了,选择出来最合适的模型。答:选择模型),并在准确性、延迟和能耗等各种重要指标之间取得最佳平衡

贡献:作者在这篇论文中完成了什么工作(创新点)?

  • 基于机器学习的预测能力并 让终端用户了解情况(啥意思?)。设想了一种设备级的DNN模型选择引擎,满足最佳的QoE
    基于不同的设备选择模型,设备和任务之间有关系吗?
  • 具体来说,将DNN模型选择问题制定为“上下文多臂老虎机框架”
    上下文:边缘设备和DNN模型的特征
    臂:预训练的DNN模型(啥意思?) 根据历史记录和用户的QoE反馈进行在线选择

规划:他们如何完成工作?

在这里插入图片描述
利用机器学习技术以可扩展的方式自动选择用于边缘推理的预训练 DNN 模型,并满足最佳QoE,同时将实际用户体验纳入闭环。

  • 利用在线学习的预测能力:通过采用实时在线学习,逐步改进 DNN 模型选择

  • 让用户处于闭环状态:根据用户对实际 QoE 的反馈,DNN 模型选择引擎不断更新“在线 QoE 预测器”和“模型选择器”,形成以用户为中间的闭环。

根据上述原则:具体分析一下框图中的各个部分

  • 根据“DNN模型的特征”和“设备特征”,引擎采用“在线QoE预测器”估计QoE
  • 根据预测的QoE,引擎为每个边缘设备输出选定的DNN模型
  • DNN模型安装并使用一段时间后,会请求“用户的QoE反馈”来更新“在线QoE预测器”并改进未来的DNN模型选择,从而形成闭环

自己的看法(作者如何得到的创新思路)

这篇文章并未从网络角度进行节点的选择


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/626650.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

cesium设置近地天空盒 天空会倾斜

上篇文章讲解了如何设置近地天空盒,效果出来了还是发现天空是斜的 https://blog.csdn.net/m0_63701303/article/details/135618244 效果: 这里需要修改Cesium.skyBox的代码,代码如下直接全部复制组件内调用即可 skybox_nearground.js&…

申请代码签名证书有什么需要注意的地方?

在申请代码签名证书之前,开发者需要注意一些重要的地方,以确保申请顺利进行并保证证书的有效性和安全性。 首先,选择可信赖的认证机构(CA)是非常重要的。认证机构是颁发代码签名证书的机构,其信誉和声誉直接…

《GreenPlum系列》GreenPlum初级教程-04GreenPlum数据类型

第四章 GreenPlum数据类型 1.基本数据类型 1.1 数值类型 类型名称存储空间描述范围smallint2字节小范围整数-32768 ~ 32767integer4字节常用的整数-2147483648~2147483647bigint8字节大范围的整数-9223372036 854 ~9223372036854decimal变长用户声明精度,精确无限…

分布式光伏运维平台在提高光伏电站发电效率解决方案

摘要:伴随着能源危机和环境恶化问题的日益加重,科技工作者进一步加大对新能源的开发和利用。太阳能光伏发电作为新型清洁能源的主力军,在实际生产生活中得到了广泛的应用。然而,光伏发电效率偏低,成为制约光伏发电发展…

机器学习算法实战案例:LSTM实现单变量滚动风电预测

文章目录 1 数据处理1.1 数据集简介1.2 数据集处理 2 模型训练与预测2.1 模型训练2.2 模型滚动预测2.3 结果可视化 答疑&技术交流机器学习算法实战案例系列 1 数据处理 1.1 数据集简介 实验数据集采用数据集5:风电机组运行数据集,包括风速、风向、…

【软件测试学习笔记3】缺陷管理

执行结果和预期结果不一样,就叫缺陷,俗称bug 1.软件缺陷判定标准 少功能:软件未实现需求(规格)说明书中明确要求的功能 功能错误:软件出现了需求(规格)说明书中指明不应该出现的错…

cookie、Web Storage

前端知识汇编 1. cookie1.1 cookie的限制1.2 cookie的构成1.3 JavaScript中的cookie1.4 子cookie1.5 使用cookie的注意事项 2. Web Storage2.1 Storage类型2.2 sessionStorage对象2.3 localStorage对象2.4 存储事件2.5 限制 1. cookie cookie是客户端与服务器端进行会话时使用…

自写代码来理解 get_global_id 和 get_global_size

<2022-01-24 周一> 《OpenCL编程指南》第三章 自写代码来理解get_global_id和get_global_size 使用本书第三章中关于输入信号卷积的代码来进行理解&#xff0c;见随书代码“src/Chapter_3/OpenCLConvolution”&#xff0c;附代码如下&#xff1a; // // Book: O…

webpack打包可视化分析工具:webpack-bundle-analyzer

在对webpack项目进行优化的时候,可以使用webpack-bundle-analyzer这个可视化插件来快速分析我们包的结构,能快速定位需要优化的地方,对开发者非常友好 下载安装 下载依赖包 npm i webpack-bundle-analyzer 使用 const BundleAnalyzerPlugin require(webpack-bundle-analy…

qt.qpa.plugin: Could not find the Qt platform plugin “windows“ in ““

系统环境&#xff1a;Win10家庭中文版 Qt : 5.12.9 链接了一些64位的第三方库&#xff0c;程序编译完运行后出现 qt.qpa.plugin: Could not find the Qt platform plugin "windows" in "" 弹窗如下&#xff1a; 网上搜了一些都是关于pyQt的&#xff0c…

【实战记录】 vagrant+virtualbox+docker 轻松用虚拟机集成组件

用途 最近要学一大堆组件&#xff0c;不想直接安装本机上&#xff0c;然后gpt说&#xff1a;你可以用vagrant起个虚拟机&#xff08;然后docker拉取各种组件的镜像&#xff09;&#xff1b;或者k8s 实战的整体思路 首先安装virtualbox和vagrant。然后cmd依次键入三条命令 安…

负载均衡 LoadBalancer

负载均衡 负载均衡一般分为服务端负载均衡和客户端负载均衡 服务端负载均衡&#xff1a; 指在服务器端进行负载均衡的策略。在这种策略下&#xff0c;负载均衡器位于服务器端&#xff08;如 Nginx&#xff09;&#xff0c;当客户端发起服务调用时&#xff0c;根据服务器的负…

旧衣回收小程序搭建:降低企业成本,提高回收效率!

在人们环保意识提升下&#xff0c;旧衣回收行业受到了大众的关注&#xff0c;同时旧衣回收具有门槛低、利润大的优势。在我国&#xff0c;回收行业不仅帮助普通人就业获利&#xff0c;还对环保做出了较大贡献。因此&#xff0c;旧衣回收行业成为了当下的热门商业模式&#xff0…

时尚女童冲锋衣外套

上身时尚又好看的外套 日常穿着或者出行游玩 应对早晚温差&#xff0c;兼具时尚和功能 保暖也可以很轻盈 率性闲适的洒脱范 版型百搭好穿 下摆有橡筋收紧更加保暖了 简直就是一件实用与时尚并存的时尚单品

Swift爬虫程序采集招聘信息代码示例

今天我将用Swift写一个爬虫程序&#xff0c;主要是爬取招聘信息网站得。我们知道Selenops是一个简单的Swift Web爬虫工具&#xff0c;可以用于爬取网页内容。您可以使用Selenops的三种方式之一来进行爬虫操作&#xff1a;Swift游乐场、Swift脚本或马拉松脚本SwiftUI是一种用于构…

linux nginx配置链接访问图片

nginx 安装 sudo apt update sudo apt install nginxnginx 启动命令 sudo systemctl restart nginx # 重启 sudo systemctl start nginx #开启 sudo systemctl stop nginx # 关闭 sudo systemctl status nginx # 状态 sudo systemctl restart nginx.service #重启nginx安装成…

SEM优化三种方式

百度搜索引擎优化的三种方式 大搜&#xff1a;关键词推广&#xff0c;投入产出比更好百益&#xff1a;图片广告&#xff0c;这些图片广告会出现在站长的网站上&#xff0c;比如小说的网站上&#xff0c;用户点击图片了就会从账户里扣钱信息流&#xff1a;转化低&#xff0c;一…

100个实战项目——在树莓派4B+Ubuntu20.04桌面版配置下运行智能小车(一)

主机SSH远程链接从机 查看python版本 python 我的是python3.8 所以我需要安装pip3 sudo apt install python3-pip 接着安装程序需要的引脚库 sudo pip3 install RPi.GPIO 注意必须要有sudo&#xff0c;因为我是远程遥控的树莓派&#xff0c;没有权限运行程序&#xff0…

前端生成CRC16

一、代码 /**CRC16检验 用例&#xff1a;CRC.ToModbusCRC16(FF2233FF)*/ var CRC {}; CRC._auchCRCHi [0x00, 0xC1, 0x81, 0x40, 0x01, 0xC0, 0x80, 0x41, 0x01, 0xC0, 0x80, 0x41, 0x00, 0xC1, 0x81, 0x40, 0x01, 0xC0, 0x80, 0x41, 0x00, 0xC1, 0x81, 0x40, 0x00, 0xC1, 0…

如何进行时间管理 待办事项软件帮你成为时间管理大师

在这个快节奏的现代社会&#xff0c;时间显得格外宝贵。每个人都在与时间赛跑&#xff0c;试图在有限的时间里完成更多的事情。我曾经也深陷于这样的困境&#xff0c;每天都被无数的杂事裹挟着&#xff0c;仿佛永远都抓不住时间的尾巴。 那时&#xff0c;我常常感到焦虑和疲惫…