减小泛化误差为什么称“正则化(Regularization)”——深度学习Note

深度学习的一个重要方面是正则化(Regularization),Ian Goodfellow在《Deep Learning 》称正则化(Regularization)就是减小泛化误差。那么,为什么减小泛化误差称为正则化呢?

首先看正则化——Regularization这个单词,Regularization是创造出来的词,在牛津词典和柯林斯词典上都没有,但是有regularize。柯林斯词典对regularize的解释:

If someone regularizes a situation or system, they make it officially acceptable.

说白了,regularize的意思就是把一样东西“打整打整”,使它显得“正规”、“正经”,好让别人正儿八经认同、接受(make it officially acceptable )。

Regularization是regularize的名词,意思相同。

对于深度学习,用“参数范数惩罚”等策略打整打整模型,减小泛化误差,使大家觉得模型“正规”并认同、接受——得到应用,这自然就是Regularization——正则化。

模型训练——减小训练误差是深度学习的核心。不属于核心的正则化是对模型打整打整,以便减小泛化误差,使之得到应用,也是深度学习的重要方面。

Regularization翻译为正则化这个有点费解的词不是很合适,这个翻译应该是受到regular 在数学上翻译为“正则”的影响。不过,Regularization也确实不好翻译,中文中似乎没有确切的词与之对应,也只有慢慢接受“正则化”这个词了。

 

 

 

 

 

 

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/8905.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Flask字符串变量拼接

在Flask中,我们可以在视图函数内部通过多种方式进行变量拼接。 1.使用 f-strings (Python 3.6) 字符串格式化: app.route(/user/<username>) def hello_user(username):age 25return f"My name is {username} and I am {age} years old."f-strings 是Python…

数据结构队列学习

引入 众说周知&#xff0c;在队列的题目中&#xff0c;队头指针(front)和队尾指针(rear)有两种指示方法。 &#xff08;1&#xff09;队头指针 ①指向队头元素 ②指向队头元素元素的前一个位置 &#xff08;2&#xff09;队尾指针 ①指向队尾元素 ②指向队尾元素的后一个位置 指…

第二证券午评:沪指涨近1%,地产、半导体等板块拉升,锂电池概念活跃

9日早盘&#xff0c;两市股指全线走高&#xff0c;沪指涨近1%&#xff0c;创业板指大涨近2%&#xff1b;北向资金大举出场扫货&#xff0c;半日净买入超100亿元。 到午间收盘&#xff0c;沪指涨0.91%报3156.96点&#xff0c;深成指涨1.63%&#xff0c;创业板指涨1.85%&#xf…

如何在Windows和Linux中杀死Python进程

在开发和运行Python脚本的过程中&#xff0c;有时我们需要强制结束正在运行的Python进程。这可能是因为脚本运行出现了不可预见的错误&#xff0c;或者我们需要停止一个长时间执行的任务。无论原因如何&#xff0c;了解如何在不同操作系统中正确、安全地终止Python进程都是一项…

MySQL变量的浮点数问题处理

新建连接&#xff0c;自带world数据库&#xff0c;里面自带city表格。 #MySQL变量的浮点数问题处理set dx3.14,dy3.25; select dxdy;# MySQL浮点数计算显示异常&#xff0c;会有很多00000的提示set resultdxdy;select result;结果&#xff1a;

软设之有限自动机

有限自动机能够识别的串:从初态出发可以到达终态且停留的状态 确定的有限自动机:当从一个状态面对一个输入符号的时候&#xff0c;所转换到是一个唯一确定费状态。 不确定的有限自动机:当一个状态面对一个输入符号的时候&#xff0c;它所转换到的可能不只一个状态&#xff0c…

c 双向链表

图片 #include <stdio.h> #include <stdlib.h> #include <string.h>int main(void){ struct film{char name[20];int id;struct film *pre; //前向指针struct film *next; //后向指针 };struct film *headNULL;struct film *ls,*lspre,*work;in…

mybatis 模糊查询的几种方式

1.concat函数和#{}拼接的方式 select * from sys_user where student_name like concat(%,#{studentName},%)2.%和${}拼接的方式 select * from sys_user where student_name like %${studentName}%3.concat函数和${}拼接的方式 select * from sys_user where student_name …

springboot045新闻推荐系统

推荐使用&#xff1a;谷歌浏览器 后台地址 http://localhost:8080/springboot49j18/admin/dist/index.html 管理员 abo 密码 abo 前台地址&#xff1a;http://localhost:8080/springboot49j18/front/index.html 在src\main\resources\application.yml中编辑 …

TC8002D(3W音频功放IC)是一颗带关断模式的音频功放IC

一、概述 TC8002D是一颗带关断模式的音频功放IC。在5V输入电压下工作时&#xff0c;负载(3Ω)上的平均功率为3W&#xff0c;且失真度不超过10%。而对于手提设备而言&#xff0c;当VDD作用于关断端时&#xff0c;TC8002D将会进入关断模式&#xff0c;此时的功耗极低&…

Leetcode—2079. 给植物浇水【中等】

2024每日刷题&#xff08;130&#xff09; Leetcode—2079. 给植物浇水 实现代码 class Solution { public:int wateringPlants(vector<int>& plants, int capacity) {int ans 0;int step 0;int cap capacity;bool flag false;for(int i 0; i < plants.siz…

对象复制工具Orika,快速实现两个java对象的属性赋值

一、maven依赖引入orika <dependency><groupId>ma.glasnost.orika</groupId><artifactId>orika-core</artifactId><version>1.5.4</version></dependency>二、Orika工具类 import io.swagger.annotations.ApiModel; import io…

武汉星起航:亚马逊五大促销类型全面解析,打造销售狂欢新篇章

在全球电商领域&#xff0c;亚马逊以其卓越的平台优势和创新的促销策略&#xff0c;为卖家和消费者搭建了一座互通的桥梁。今天&#xff0c;武汉星起航在这里解析亚马逊的五大促销类型&#xff0c;帮助卖家和消费者更好地把握商机&#xff0c;享受购物的乐趣。 一&#xff0e;…

sequlize中数据库字段计算当前时间和数据库日期相差天数 返回

在MySQL中&#xff0c;使用DATEDIFF函数可以计算两个日期之间的天数。但是&#xff0c;如果你正在使用Sequelize ORM&#xff0c;你可能需要将这个操作转换为Sequelize可以理解的查询。 以下是一个使用Sequelize来计算当前时间与表中某个日期字段之间天数差的例子&#xff1a;…

怎么做知识付费系统_打造专属用户的知识付费系统

在信息爆炸的时代&#xff0c;知识已经不再是遥不可及的奢侈品&#xff0c;而是每个人都可以触及的宝贵财富。然而&#xff0c;如何有效地获取、整理、分享并实现知识的价值最大化&#xff0c;成为了我们共同面临的挑战。今天&#xff0c;我将为您揭示一个全新的解决方案——搭…

欧盟关键基础设施网络安全防护体系政策法规研究(下)

文章目录 前言三、建立关基实体网络安全责任制并明晰具体职责和义务1、确定关基实体的风险评估职责和义务。2、规定关基实体承担网络安全管理责任、风险管理、事故通知等义务。3、规定关基中数字产品制造商、进货商和经销商等主体的不同义务。4、规定关基中高风险 AI 系统的网络…

实用的Chrome命令大全

Google Chrome 是一款广泛使用的网络浏览器&#xff0c;它支持一系列特殊的命令&#xff0c;这些命令可以通过在地址栏输入特定的关键字来实现。这些命令不仅可以帮助用户快速访问Chrome的内部页面&#xff0c;还可以用于调试和优化网站性能。以下是一些实用的Chrome命令的详细…

24 | MySQL是怎么保证主备一致的?

MySQL 主备的基本原理 内部流程 备库 B 跟主库 A 之间维持了一个长连接。主库 A 内部有一个线程,专门用于服务备库 B 的这个长连接。一个事务日志同步的完整过程是这样的: 在备库 B 上通过 change master 命令,设置主库 A 的 IP、端口、用户名、密码,以及要从哪个位置开始…

添加新的远程仓库地址

要添加一个新的 Git 远程仓库地址&#xff0c;你可以使用 Git 命令行或者 Git 图形化界面工具。这里我介绍一下使用 Git 命令行的方法&#xff1a; 假设你已经有了一个本地的 Git 仓库&#xff0c;并且已经关联了一个远程仓库地址&#xff0c;比如说 origin。现在你要添加一个…

云推流-让ue/unity内容及3D大型模型内容轻松做到网页使用的解决方案

UE&#xff08;Unreal Engine&#xff09;和Unity作为当下最热门的游戏引擎之一&#xff0c;为开发者提供了强大的工具集和平台支持&#xff0c;使得创建高质量、交互式的3D场景变得越来越容易。 然而&#xff0c;当我们把这种较大的资源分享给其他人时&#xff0c;对方可能需要…