Few-shot Learning:知识点

目标: 让机器自己学会学习,学会理解和判断事物的异同(如,区分两张图片内是相同的东西还是不同的东西,不是识别出是什么东西)

Pretraining

前景知识

  • C o s i n e S i m i l a r i t y Cosine \ Similarity Cosine Similarity

作用: 衡量两个向量之间的相似度

在这里插入图片描述

在这里插入图片描述

  • S o f t m a x Softmax Softmax:

在这里插入图片描述
在这里插入图片描述

  • S o f t m a x C l s s i f i e r Softmax \ Clssifier Softmax Clssifier
    在这里插入图片描述

具体过程

  1. 利用深度神经网络来提取特征,该网络需要被预训练 —— 结构和预训练方法会对最终结果产生影响
  2. 拿预训练的网络对 S u p p o r t S e t Support \ Set Support Set 中的各任务(各类别, K W a y K \ Way K Way)提取特征—— 每个任务中的各元素分别提取特征( N S h o t N \ Shot N Shot),再合起来做均值,再做归一化,成为该任务(类别)的表征
    在这里插入图片描述
  3. Q u e r y Query Query 做分类
    在这里插入图片描述
    在这里插入图片描述

F i n e T u n i n g Fine \ Tuning Fine Tuning

背景 P r e t r a i n i n g Pretraining Pretraining 中的分类一步即 S o f t M a x SoftMax SoftMax函数的输入可以是 w × x + b w \times x + b w×x+b,但之前设定 W = M , b = 0 W=M,b=0 W=M,b=0

Fine \ Tuning: s u p p o r t t u n i n g support \ tuning support tuning中训练分类器,即训练 w w w b b b—— 可以提高准确性
在这里插入图片描述
小技巧:

  • 好的初始化:原先就直接拿 M M M进行分类的
    在这里插入图片描述
  • E n t r o p y R e g u l a r i z a t i o n Entropy \ Regularization Entropy Regularization
    在这里插入图片描述
  • C o s i n e S i m i l a r i t y Cosine \ Similarity Cosine Similarity + S o f t m a x C l a s s i f i e r Softmax \ Classifier Softmax Classifier
    在这里插入图片描述
    在这里插入图片描述
    就是内积前做了一个归一化

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/626825.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

❤ Uniapp使用二 ( 日常使用篇)

❤ Uniapp使用二 ( 日常使用篇) 一、表单 1、基础表单验证 form <form submit"formSubmit" reset"formReset"> <view class"uni-form-item uni-column"><view class"title">请选择类型{{selectvalue}}</view&…

Pandas实战100例 | 案例 63: 使用索引合并数据

案例 63: 使用索引合并数据 知识点讲解 在 Pandas 中&#xff0c;除了按列合并数据外&#xff0c;还可以使用 DataFrame 的索引进行合并。这在索引具有特定意义时特别有用。 使用索引合并: 通过指定 left_indexTrue 和 right_indexTrue&#xff0c;可以基于 DataFrame 的索引…

Go语言中的HTTP请求发送

在Go语言中&#xff0c;发送HTTP请求是一种常见的网络操作。Go语言的net/http包提供了强大的API&#xff0c;使开发者能够轻松地构建HTTP请求并处理响应。 下面我们将详细介绍如何使用Go语言发送HTTP请求&#xff0c;包括设置请求参数、处理响应状态码和头部信息、发送JSON数据…

2024年,如何更好地守护智能网联汽车出海网络安全与隐私安全?

近年来全球各国陆续出台了很多网络安全与数据合规相关的法律法规&#xff0c;如欧盟的《通用数据保护准则GDPR》、美国的《加州消费者信息保护法CCPA》、新加坡的《隐私数据保护法PDPA》等。在国内全国人大发布了《网络安全法》、《数据安全法》、《个人信息保护法》法律&#…

poi解析word取参数方法${参数名}获取参数异常处理(2024-01-12)

poi 读取word模板&#xff0c;确保 ${参数名} 在一个XWPFRun XWPFDocument读取word模板&#xff0c;经常遇到 ${参数名} 没有被识别在一个XWPFRun中&#xff0c;导致参数解析异常如法实现参数替换。 这里只是介绍word模板参数解析问题&#xff0c;让word格式如何转换为可以正常…

【MATLAB随笔】遗传算法优化的BP神经网络(随笔,不是很详细)

文章目录 一、算法思想1.1 BP神经网络1.2 遗传算法1.3 遗传算法优化的BP神经网络 二、代码解读2.1 数据预处理2.2 GABP2.3 部分函数说明 一、算法思想 1.1 BP神经网络 BP神经网络&#xff08;Backpropagation Neural Network&#xff0c;反向传播神经网络&#xff09;是一种监…

解析HTTP响应的JSON数据

解析HTTP响应的JSON数据是许多Web开发任务中的常见需求。在Go语言中&#xff0c;可以使用标准库中的encoding/json包来轻松解析JSON数据。下面我将详细介绍如何解析HTTP响应的JSON数据。 首先&#xff0c;确保你已经发送了一个HTTP请求并获取到了响应。然后&#xff0c;你可以…

智能管理护航制造企业安全生产:信息化升级解决方案解析-亿发

安全生产信息化是通过充分利用信息技术&#xff0c;及时采集安全生产管理中的各种要素和数据&#xff0c;并进行统计分析&#xff0c;随后将分析结果及时反馈&#xff0c;以实现对安全生产管理的指导和帮助&#xff0c;旨在提高安全生产管理的效能。 在提升安全生产管理水平方…

达摩研究院Paraformer语音识别-中文-通用-16k

原文&#xff1a;https://github.com/alibaba-damo-academy/FunASR/blob/main/runtime/readme_cn.md FunASR软件包路线图 English Version&#xff08;docs&#xff09; FunASR是由阿里巴巴通义实验室语音团队开源的一款语音识别基础框架&#xff0c;集成了语音端点检测、语…

Vue面试之生命周期(上篇)

Vue面试之生命周期(上篇) 创建阶段beforeCreatecreated挂载阶段beforeMountmounted更新阶段beforeUpdateupdated销毁阶段beforeDestroydestroyed补充说明activated

AI编程可视化Java项目拆解第二弹,AI辅助生成方法流程图

之前分享过一篇使用 AI 可视化 Java 项目的文章&#xff0c;同步在 AI 破局星球、知乎、掘金等地方都分享了。 原文在这里AI 编程&#xff1a;可视化 Java 项目 有很多人感兴趣&#xff0c;我打算写一个系列文章拆解这个项目&#xff0c;大家多多点赞支持~ 今天分享的是第二…

鸿蒙开发-UI-布局-层叠布局

鸿蒙开发-UI-布局 鸿蒙开发-UI-布局-线性布局 文章目录 前言 一、基本概念 二、对齐方式 三、Z序控制 四、使用场景 总结 前言 上文详细学习了线性布局&#xff0c;学习了线性容器内子元素在主轴以及交叉轴上的排列方式&#xff0c;子元素自适应相关的知识点&#xff0c;本文继…

KY59 神奇的口袋

01背包确定方案数量&#xff08;板子&#xff09; ti #include<bits/stdc.h>using namespace std;int n; int a[25]; int dp[45][45];int main(){cin>>n;for(int i 1; i < n; i ){cin>>a[i];}//注意前i个物品凑体积为0的方案数都为1 for(int i 0; i &l…

旧路由重置新路由设置新路由设置教程|适用于自动获取IP模式

前言 如果你的光猫是直接拨号&#xff08;路由模式&#xff09;的&#xff0c;就可以按照本教程进行路由重置或者更换新路由器。 本文章适合电脑小白&#xff0c;请注意每一步哦&#xff01; 注意事项 开始之前需要确认光猫是桥接模式还是路由模式。如果光猫是路由模式&…

揭秘高生产力设计工具!15款原型设计软件推荐大公开!

1、Proto.io Proto.io是一个特殊的手机原型开发平台——可以构建和部署全交互式移动程序的原型&#xff0c;并可以模拟类似的成品。它可以在大多数浏览器中运行&#xff0c;并提供三个重要的界面&#xff1a;dashboard、编辑器和播放器。 dashboard可以用来管理项目。编辑器是…

KMP的应用:Python和Go实现

kmp的作用 找到text中模式pattern的出现的pos 时间复杂度o(m n) Python实现 def kmp(self, text: str, pattern: str) -> List[int]:m len(pattern)pi [0] * mc 0for i in range(1, m):v pattern[i]while c and pattern[c] ! v:c pi[c - 1]if pattern[c] v:c 1pi[…

第二证券:利空因素影响成本端 豆粕期现价偏弱运行

上个买卖周&#xff0c;受利空要素影响&#xff0c;内盘豆粕期价刷新2021年12月14日以来收盘价新低。到上周五收盘&#xff0c;豆粕主力合约MO2405最低下探至3075元/吨&#xff0c;收报3078元/吨&#xff0c;周内累计跌幅近4%。业内人士以为&#xff0c;美国农业部超预期调高20…

Simon算法详解

0.0 Intro 相关的算法&#xff1a; Deutsh-Jozsa算法&#xff1a; 第一个量子算法对经典算法取得指数级加速的算法 美中不足在于只能确定函数是平衡的还是非平衡的&#xff0c;无法确定函数具体的内容&#xff0c;即无法直接解出函数 Bernstein-Vazirani算法&#xff…

Linux 内核指令动态替换

文章目录 前言ftraceStatic KeysStatic Calls 前言 Linux Kernel可以在运行时动态的&#xff08;即不需要重启&#xff09;替换内核指令&#xff0c;主要有以下三种方式。 ftrace linux 动态替换内核动态补丁&#xff08;kpatch&#xff09;及kpatch pushsection popsection…

C++面试合集问题之堆、栈

1.堆和栈的区别 分配方式&#xff1a; 堆&#xff1a;堆是由程序员手动分配和释放的一块内存区域。在堆上分配内存需要使用动态内存分配的方式&#xff0c;如malloc()、calloc()或new操作符&#xff0c;在不需要时需要手动释放内存&#xff0c;否则可能出现内存泄漏。堆上分配的…