小样本点云深度学习库_论文 | 小样本学习综述

转自:专知【https://www.zhuanzhi.ai/】

【导读】现有的机器学习方法在很多场景下需要依赖大量的训练样本。但机器学习方法是否可以模仿人类,基于先验知识等,只基于少量的样本就可以进行学习。本文介绍41页小样本学习综述《Few-shot Learning: A Survey》,包含146篇参考文献,来自第四范式和香港科技大学习的研究学者。

论文地址:

Few-shot Learning: A Survey​www.zhuanzhi.ai
5e1dfb333191a0431d541ef31080d6e9.png

目录:

  • 摘要
  • 简介
  • 概览
    • 符号
    • 问题定义
    • 相关的学习问题
    • 核心问题
    • 分类
  • 数据
    • 利用变换来复制增强数据集
    • 从别的数据集引入数据
    • 总结
  • 模型
    • 多任务学习
    • 嵌入学习
    • 额外记忆学习
    • 生成模型
    • 总结
  • 算法
    • 改善已有参数
    • 改善Meta-learned
    • 学习搜索步骤
    • 总结
  • 未来工作
    • 问题设置
    • 技术
    • 应用
    • 理论
  • 总结

摘要】“机器会思考吗”和“机器能做人类做的事情吗”是推动人工智能发展的任务。尽管最近的人工智能在许多数据密集型应用中取得了成功,但它仍然缺乏从有限的数据示例学习和对新任务的快速泛化的能力。为了解决这个问题,我们必须求助于机器学习,它支持人工智能的科学研究。特别地,在这种情况下,有一个机器学习问题称为小样本学习(Few-Shot Learning,FSL)。该方法利用先验知识,可以快速地推广到有限监督经验的新任务中,通过推广和类比,模拟人类从少数例子中获取知识的能力。它被视为真正人工智能,是一种减少繁重的数据收集和计算成本高昂的培训的方法,也是罕见案例学习有效方式。随着FSL研究的广泛开展,我们对其进行了全面的综述。我们首先给出了FSL的正式定义。然后指出了FSL的核心问题,将问题从“如何解决FSL”转变为“如何处理核心问题”。因此,从FSL诞生到最近发表的作品都被归为一个统一的类别,并对不同类别的优缺点进行了深入的讨论。最后,我们从问题设置、技术、应用和理论等方面展望了FSL未来可能的发展方向,希望为初学者和有经验的研究者提供一些见解。

小样本学习方法体系:

eb8835dce379403f3d01367aa7923d18.png
  • 我们给出了FSL的形式化定义。它可以自然地链接到以往文献中提出的经典机器学习定义。这个定义不仅足够概括,包括所有现有的FSL -shot Learning: A Survey problems,而且足够具体,明确了什么是FSL的目标,以及我们如何解决它。这一定义有助于确定未来FSL领域的研究目标。
  • 指出了基于误差分解的FSL在机器学习中的核心问题。我们发现,正是不可靠的经验风险最小化使得FSL难以学习。这可以通过满足或降低学习的样本复杂度来缓解。理解核心问题有助于根据解决核心问题的方式将不同的工作分类为数据、模型和算法。更重要的是,这为更有组织和系统地改进FSL方法提供了见解。
  • 我们对从FSL诞生到最近发表的文献进行了广泛的回顾,并将它们进行了统一的分类。对不同类别的优缺点进行了深入的讨论。我们还对每个类别下的见解进行了总结。这对于初学者和有经验的研究人员都是一个很好的指导方针。
  • 我们在问题设置、技术、应用和理论方面展望了FSL未来的四个发展方向。这些见解都是基于当前FSL发展的不足之处,并有可能在未来进行探索。我们希望这部分能够提供一些见解,为解决FSL问题做出贡献,为真正的AI而努力。
  • 与已有的关于小样本概念学习和经验学习的FSL相关调相比,我们给出了什么是FSL,为什么FSL很难,以及FSL如何将小样本监督信息与先验知识结合起来使学习成为可能的正式定义。我们进行了广泛的文献审查的基础上提出的分类法与详细讨论的利弊,总结和见解。我们还讨论了FSL与半监督学习、不平衡学习、迁移学习和元学习等相关话题之间的联系和区别

元学习设置:

215ac2fba56a11b5fea7030ed580883f.png

监督机器学习中常见设置与少样本设置的比较

8a97b6115e1cecd0932f7080f26dfc9c.png

基于嵌入学习的小样本学习方法

3d4bd7d250dcd4b18109d4856d08ea6f.png

学习FSL问题的搜索步骤

40686786829875e2727697238c1307e8.png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/550672.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

kafka集群脚本启动失败,在kafkaServer.out中提示nohup: failed to run command `java’: No such file or directory

问题描述: 今天在使用shell脚本启动集群时,发现无法启动集群,在logs目录下只有一个kafkaServer.out文件,其中内容为:nohup: failed to run command java’: No such file or directory 原本的shell脚本内容如下 #!/bin/bashcase …

uniapp 可视化开发_uniapp的简单安装流程使用教程

由于本人开发的小程序大部分都是通过uniapp开发的,但是又有部分对uniapp的整理安装流程不大熟悉,所以这次给大家写一个简单完整的使用教程。下载uniapp专用开发工具uniapp是由DCloud公司推出的一款前端应用的框架,所以需要专属的开发工具来开…

Exception in thread “main“ org.apache.hadoop.hbase.client.RetriesExhaustedException: Can‘t get the l

问题描述 今天在windows电脑上使用java api进行hbase的操作时,报了如下错误 Exception in thread "main" org.apache.hadoop.hbase.client.RetriesExhaustedException: Cant get the locations问题原因 conf.set(“hbase.zookeeper.quorum”,“hadoop002,…

dataframe 空值替换为0_dataframe取元素方法总结

dataframe是pandas包的重要对象,熟练掌握dataframe的基本操作是很有必要的。下面就总结一下dataframe取行列元素的基本操作。一. DataFrame的基本结构可以理解为一个矩阵,所有的行名保存在index, 列名保存在columns(注意:一个是单…

windows下的jdk默认安装路径

windows下的jdk默认安装路径:C:\Program Files\Java

bool python 运算_python中的布尔操作

点击以下链接可以快速访问全部我发表的Python相关文章:Nick WU:Nick WU的python文章目录(持续更新中...)​zhuanlan.zhihu.com1. Python中的布尔值Python中任何对象都有一个固定的布尔值,即非零、非空的对象为真&#…

QQ另存为时ntdll.dll故障

问题描述 QQ桌面版和Tim进行文件/图片另存为时在打开资源管理器后直接崩溃 解决方法 winQ搜索命令提示符,以管理员身份打开输入sfc/scannow等待扫描结束后输入 for %1 in (%windir%\system32*.dll) do regsvr32.exe /s %1,意思是把 %systemroot%\system3…

软件工程环形复杂度计算方法有哪些_软件工程复习6165组考题

黑色字体为原本答案,蓝色字体修改补充了复习题组「61-65/61-65/13/13」一、名词解释61.确认测试检查已实现的软件是否满足了需求规格说明中所确定的各种需求,以及软件配置是否完全、正确。(过程:功能性测试---软件配置复查---验收测试----α测…

配置frp报错start error: type [http] not support when vhost_http_port is not set

配置frp 问题描述 服务端配置frpc.ini[common] bind_port 7000 vhost_http_port 6001客户端配置frpc.ini[common] server_addr 公网ip server_port 7000 [ssh] type tcp local_ip192.168.50.130 local_port 8080 remote_port6001报错:start error: type [htt…

多线程导出excel高并发_大牛带你深入java多线程与高并发:JMH与Disruptor,确定能学会?...

前言今天我们讲两个内容,第一个是JMH,第二个是Disruptor。这两个内容是给大家做更进一步的这种多线程和高并发的一些专业上的处理。生产环境之中我们很可能不自己定义消息队列,而是使用Disruptor。我们生产环境做测试的时候也不是像我说的那样…

动环监控系统接线图_机房动环监控系统报价

原标题:机房动环监控系统报价机房动环监控系统报价需要根据业务需求来进行报价的,一般机房动环监控系统的价格跟机房的监控面积的大小以及监控的项目是息息相关的,比如一个IDC机房和小型的基站机房的动环监控系统的价格就是完全不一样&#x…

Ubuntu 下PySpark安装

操作系统:Ubuntu20.04所需软件: Java 8 ,Python 3.5 , Scala 2.11.12安装Java 8 sudo apt-get updatesudo apt-get install openjdk-8-jdkjava -version安装scalasudo wget https://downloads.lightbend.com/scala/2.12.8/scala-2.12.8.deb …

数据集_自动驾驶数据集

前面介绍了自动驾驶的仿真平台,接下来又收集了目前主要的自动驾驶数据集。抱着这个想法,何不做一个awesome,在git上搜索,已经有人建了一个awesome了,也免得重复造轮子。但是作者很久没更新了,于是决定也加入…

rdd.foreach(print)报错SyntaxError: invalid syntax

问题 解决方法from __future__ import print_function如图:

地铁框架保护的原理_继电保护的基础知识和原理(地铁)

1.继电保护技术发展简史上世纪60年代以前,我国的继电保护主要由传统的机电型继电器构成,其中包括了电磁型继电器和感应型继电器。60年代末70年代初,晶体管保护和整流型保护得到了应用。90年代起,集成电路保护和微机型保…

golang如何生成随机数

目录如何生成随机数示例:未写随机数种子:加上随机数种子后:如何生成随机数 在go语言中,生成随机数需要先添加一个***随机数种子***,否则每次运行生成的随机数都是同样顺序的数字 rand.Seed(time.Now().UnixNano()) r…

js string转两位小数_js保留两位小数的函数有哪些

js保留两位小数的函数有:1、【toFixed()】函数;2、【Math.floor()】函数不四舍五入 ,向下取整;3、使用字符串匹配方法;4、四舍五入保留2位小数;5、浮点数保留两位小数。js保留两位小数的函数有:…

golang基础学习笔记

golang基础学习golang1. 认识golang和goland使用1.1 goland插件2. 数据类型2.1 结构体3. 流程控制ifswitchselectforrangeGoto、Break、Continue4. 函数4.1 匿名函数4.2 闭包、递归4.3 延迟调用什么是deferdefer的常见用途释放已经获取的资源从panic中恢复延迟闭包参数即时求值…

lamda获取参数集合去空_(转)Java8使用lambda表达式进行集合的遍历

本文转自我们经常会用到各种集合,数字的,字符串的还有对象的。它们无处不在,哪怕操作集合的代码要能稍微优化一点,都能让代码清晰很多。在这章中,我们探索下如何使用lambda表达式来操作集合。我们用它来遍历集合&#…