matplotlib 绘制梯度下降求解过程

机器学习过程中经常需要可视化,有助于加强对模型和参数的理解。

  • 下面对梯度下降过程进行动图演示,可以修改不同的学习率,观看效果。
import numpy as np
import matplotlib.pyplot as plt
from IPython import displayX = 2*np.random.rand(100,1)
y = 4+3*X+np.random.randn(100,1) # randn正态分布
X_b = np.c_[np.ones((100,1)),X] # c_行数相等,左右拼接eta = 0.1 # 学习率
n_iter = 1000 # 迭代次数
m = 100 # 样本点个数
theta = np.random.randn(2,1) # 参数初始值plt.figure(figsize=(8,6))
mngr = plt.get_current_fig_manager()  # 获取当前figure manager
mngr.window.wm_geometry("+520+520")  # 调整窗口在屏幕上弹出的位置,注意写在打开交互模式之前
# 上面固定窗口,方便screentogif定位录制,只会这种弱弱的方法
plt.ion()# 打开交互模式
plt.rcParams["font.sans-serif"] = "SimHei"# 消除中文乱码for iter in range(n_iter):plt.cla() # 清除原图像gradients = 2/m*X_b.T.dot(X_b.dot(theta)-y)theta = theta - eta*gradientsX_new = np.array([[0],[2]])X_new_b = np.c_[np.ones((2,1)),X_new]y_pred = X_new_b.dot(theta)plt.axis([0,2,0,15])plt.plot(X,y,"b.")plt.plot(X_new,y_pred,"r-")plt.title("学习率:{:.2f}".format(eta))plt.pause(0.3) # 暂停一会display.clear_output(wait=True)# 刷新图像plt.ioff()# 关闭交互模式    
plt.show()

梯度下降动态求解
学习率:0.1,较合适
在这里插入图片描述
学习率:0.02,收敛变慢了

在这里插入图片描述
学习率:0.45,在最佳参数附近震荡
在这里插入图片描述
学习率:0.5,不收敛


我的CSDN博客地址 https://michael.blog.csdn.net/

长按或扫码关注我的公众号(Michael阿明),一起加油、一起学习进步!
Michael阿明

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/475041.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

LeetCode 132. 分割回文串 II(DP)

文章目录1. 题目2. 解题1. 题目 给定一个字符串 s,将 s 分割成一些子串,使每个子串都是回文串。 返回符合要求的最少分割次数。 示例: 输入: "aab" 输出: 1 解释: 进行一次分割就可将 s 分割成 ["aa","b"] 这样两个回文…

html无框架,HTML框架技术详例

要将几个.html文件放入一个文件夹//UntitledFrameset-2.html 源码--------------------------------主框架//UntitledFrame-2.html源码------------------------------无标题文档XXXXX系统//UntitledFrame-3.html源码------------------------------无标题文档用户管理用户查询…

LeetCode 第 30 场双周赛(477/2545,前18.7%,第2次全部通过)

文章目录1. 比赛结果2. 题目1. LeetCode 5177. 转变日期格式 easy2. LeetCode 5445. 子数组和排序后的区间和 medium3. LeetCode 5446. 三次操作后最大值与最小值的最小差 medium4. LeetCode 5447. 石子游戏 IV hard(博弈DP)1. 比赛结果 时隔近5个月&am…

wp博客链接.html,WordPress博客文章标题链接到自定义网址链接

WordPress 支持多种文章形式,相信不少博主遇到过需要把wordpress文章的标题链接到自定义的URL地址的情况,点击文章链接时不是直接访问文章详情页面,而是直接访问分享的链接网页,就像微博一样。要实现这种效果,可以使用…

LeetCode 第 197 场周赛(468/5273,前8.88%)

文章目录1. 比赛结果2. 题目1. LeetCode 5460. 好数对的数目 easy2. LeetCode 5461. 仅含 1 的子串数 medium3. LeetCode 5211. 概率最大的路径 medium(Dijkstra)4. LeetCode 5463. 服务中心的最佳位置 hard(最优化退火算法)1. 比…

How to set up native subversion (javahl) with Subclipse on Mac OS X

macPorts 安装教程 Install the javahl binding with MacPorts: sudo port install subversion bash_completion sudo port install subversion-javahlbindings奇怪的是,安装到一半,下载不了了,晕死,先记下来吧。 Run eclipse, a…

LeetCode 174. 地下城游戏(DP)

文章目录1. 题目2. 解题1. 题目 一些坏人抓住了公主(P)并将她关在了地下城的右下角。 地下城是由 M x N 个房间组成的二维网格。 我们英勇的骑士(K)最初被安置在左上角的房间里, 他必须穿过地下城并通过对抗坏人来拯救…

[Hands On ML] 4. 训练模型

文章目录1. 线性回归1.1 正规方程求解1.2 时间复杂度1.3 梯度下降1.4 批量梯度下降1.5 随机梯度下降1.6 小批量梯度下降2. 多项式回归3. 线性模型正则化4. 早期停止法(Early Stopping)本文为《机器学习实战:基于Scikit-Learn和TensorFlow》的…

LeetCode 895. 最大频率栈(哈希+按频数存储)

文章目录1. 题目2. 解题1. 题目 实现 FreqStack,模拟类似栈的数据结构的操作的一个类。 FreqStack 有两个函数: push(int x),将整数 x 推入栈中。pop(),它移除并返回栈中出现最频繁的元素。 如果最频繁的元素不只一个&#xff…

猪八戒背媳妇用计算机弹出来,猪八戒背媳妇?杭城游泳馆爆笑一幕:浙大学霸果然机智!...

游泳有时候不光比速度,还得比机智。6月19日,2021年“三好杯”游泳比赛在浙大紫金港校区游泳馆举行。这场比赛浙大各院系(学院)共有23支代表队、近220名运动员参赛。游泳项目是浙大的招牌项目之一,前不久的全国大学生阳光组(普通生)游泳比赛中…

html5支持多线程,html5 多线程

html5 多线程版本:HTML5运行者 Worker 接口是Web Workers API 的一部分,代表一个后台任务,它容易被创建并向创建者发回消息。创建一个运行者只要简单的调用Worker()构造函数,指定一个脚本,在工作线程中执行。运行者能够…

LeetCode 269. 火星词典(拓扑排序)

文章目录1. 题目2. 解题1. 题目 现有一种使用字母的全新语言,这门语言的字母顺序与英语顺序不同。 假设,您并不知道其中字母之间的先后顺序。 但是,会收到词典中获得一个 不为空的 单词列表。 因为是从词典中获得的,所以该单词列…

LeetCode 301. 删除无效的括号(回溯)

文章目录1. 题目2. 解题1. 题目 删除最小数量的无效括号,使得输入的字符串有效,返回所有可能的结果。 说明: 输入可能包含了除 ( 和 ) 以外的字符。 示例 1: 输入: "()())()" 输出: ["()()()", "(())()"]示例 2: 输入:…

javascript数组去重方法性能测试比较

昨天参加的一个前端面试,其中有一题数组去重,首先想到的是对象存键值的方法,代码如下 方法一:(简单存键值) Array.prototype.distinct1 function() {var i0,tmp{},thatthis.slice(0)this.length0;for(;i&l…

LeetCode 428. 序列化和反序列化 N 叉树(DFS)

文章目录1. 题目2. 解题1. 题目 序列化是指将一个数据结构转化为位序列的过程,因此可以将其存储在文件中或内存缓冲区中,以便稍后在相同或不同的计算机环境中恢复结构。 设计一个序列化和反序列化 N 叉树的算法。 一个 N 叉树是指每个节点都有不超过 N…

计算机进入休眠状态后,Win7电脑进入休眠状态后又自动重启该怎么处理

在使用win7系统的时候,有的小伙伴遇到了一个莫名其妙的问题:当电脑进入休眠状态后却突然自动重启了,那么这是怎么一回事呢?又该如何解决呢?别着急,接下来,小编就给大家分享一下Win7电脑进入休眠…

LeetCode 325. 和等于 k 的最长子数组长度(哈希表记录第一次出现的状态)

文章目录1. 题目2. 解题1. 题目 给定一个数组 nums 和一个目标值 k,找到和等于 k 的最长子数组长度。 如果不存在任意一个符合要求的子数组,则返回 0。 注意: nums 数组的总和是一定在 32 位有符号整数范围之内的。 示例 1: 输入: nums [1, -1, 5, -…

测试网上哪款软件最好,手机测试软件哪款好用?4款测试软件推荐

手机强不强测试上见真章!不服测个试呗!虽不能代表作手机的品质,但可以直观的反馈出手机硬件性能。通过专业的手机测试软件可以对手机硬件进行评分,了解手机每个硬件性能情况。鲁大师:《鲁大师》是一款支持Android、平板…

LeetCode 218. 天际线问题(multiset优先队列)*

文章目录1. 题目2. 解题1. 题目 城市的天际线是从远处观看该城市中所有建筑物形成的轮廓的外部轮廓。 现在,假设您获得了城市风光照片(图A)上显示的所有建筑物的位置和高度,请编写一个程序以输出由这些建筑物形成的天际线&#x…

LeetCode 277. 搜寻名人(思维题)

文章目录1. 题目2. 解题2.1 暴力解2.2 高效解1. 题目 假设你是一个专业的狗仔,参加了一个 n 人派对,其中每个人被从 0 到 n - 1 标号。 在这个派对人群当中可能存在一位 “名人”。 所谓 “名人” 的定义是:其他所有 n - 1 个人都认识他/她&…