BP算法推导

例子1:

在这里插入图片描述
解:

首先有如下结论:

E k = 1 2 ∑ k = 1 n ( z k − f k ( x k ) ) 2 \color{green} E_k = \frac{1}{2}\sum_{k=1}^{n} ( z_k - f_k(x_k))^2 Ek=21k=1n(zkfk(xk))2

z k = ∑ i = 1 , j = 1 3 , 2 y i v i j z_k = \sum_{i=1,j =1}^{3,2}y_i v_{ij} zk=i=1,j=13,2yivij

∂ E k ∂ z 1 = z k − f k \frac{\partial E_k}{\partial z_{1}} = z_k - f_k z1Ek=zkfk

错误: E k = S ( ∑ i = 1 n z i ) = S ( ∑ i = 1 n ∑ j = 1 n v i j y i j ) \color{red} 错误:E_k = S(\sum_{i=1}^{n} z_i) = S(\sum_{i=1}^{n} \sum_{j=1}^{n}v_{ij}y_{ij}) 错误:Ek=S(i=1nzi)=S(i=1nj=1nvijyij)
并且可手动推导验证如下公式:
s ′ = s ( 1 − s ) s' = s(1-s) s=s(1s)

E k E_k Ek v 11 v_{11} v11的偏导数只跟 z 1 z_1 z1有关,跟 z 2 z_2 z2无关。同时, z 1 z_1 z1 v 11 v_{11} v11的偏导数只跟 y 1 y_1 y1 v 11 v_{11} v11有关,跟 y 2 y_2 y2, y 3 y_3 y3 v 21 v_{21} v21, v 12 v_{12} v12, v 21 v_{21} v21等都无关。

∂ E k ∂ v 11 = ∂ E k ∂ z 1 ∂ z 1 ∂ v 11 = ( z 1 − f 1 ) s ( z 1 ) ′ = ( z 1 − f 1 ) s ( z 1 ) ( 1 − s ( z 1 ) ) y 1 = ( z 1 − f 1 ) z 1 ( 1 − z 1 ) y 1 \frac{\partial E_k}{\partial v_{11}}=\frac{\partial E_k}{\partial z_{1}} \frac{\partial z_1}{\partial v_{11}} =( z_1 - f_1)s(z_1)' =\\ ( z_1 - f_1)s(z_1)(1-s(z_1)) y_1 = ( z_1 - f_1)z_1(1-z_1) y_1 v11Ek=z1Ekv11z1=(z1f1)s(z1)=(z1f1)s(z1)(1s(z1))y1=(z1f1)z1(1z1)y1

∂ E k ∂ v 21 = ∂ E k ∂ z 2 ∂ z 2 ∂ v 21 = ( z 2 − f 2 ) s ( z 2 ) ′ = ( z 2 − f 2 ) s ( z 2 ) ( 1 − s ( z 2 ) ) y 1 = ( z 2 − f 2 ) z 2 ( 1 − z 2 ) y 1 \frac{\partial E_k}{\partial v_{21}}=\frac{\partial E_k}{\partial z_{2}} \frac{\partial z_2}{\partial v_{21}} =( z_2 - f_2)s(z_2)' =\\ ( z_2 - f_2)s(z_2)(1-s(z_2)) y_1 = ( z_2 - f_2)z_2(1-z_2) y_1 v21Ek=z2Ekv21z2=(z2f2)s(z2)=(z2f2)s(z2)(1s(z2))y1=(z2f2)z2(1z2)y1

例子2:

在这里插入图片描述

解答:

例子3:

在这里插入图片描述

解答:

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/173771.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C#常见的设计模式-创建型模式

引言 在软件开发过程中,设计模式是一种被广泛采用的思想和实践,可以提供一种标准化的解决方案,以解决特定问题。设计模式分为三种类型:创建型模式、结构型模式和行为型模式。本篇文章将重点介绍C#中常见的创建型模式。 目录 引言…

数据结构与算法编程题26

计算二叉树深度 #define _CRT_SECURE_NO_WARNINGS#include <iostream> using namespace std;typedef char ElemType; #define ERROR 0 #define OK 1 #define Maxsize 100 #define STR_SIZE 1024typedef struct BiTNode {ElemType data;BiTNode* lchild, * rchild; }BiTNo…

传音荣获2023首届全国人工智能应用场景创新挑战赛“智能家居专项赛”三等奖

近日&#xff0c;中国人工智能学会与科技部新一代人工智能发展研究中心联合举办2023首届全国人工智能应用场景创新挑战赛&#xff08;2023 1st China’s Innovation Challenge on Artificial Intelligence Application Scene&#xff0c;以下简称CICAS 2023)&#xff0c;吸引了…

Java基础之面向对象

Java基础之面向对象 一、面向对象1.1、面向对象概念1.2、面向对象的三大特征 二、类与对象2.1、构造方法2.2、创建对象2.3、实例化2.3.1、什么是实例化2.3.2、实例化的过程2.3.3、实例化的用途 三、面向对象三大特征3.1、封装3.1.1、封装概念理解3.1.2、封装目标3.1.3、封装实现…

供配电系统智能化监控

供配电系统智能化监控是指利用先进的监测技术、自动化控制技术、计算机网络技术等&#xff0c;对供配电系统进行实时、全方位的监测和控制&#xff0c;以实现供配电系统的安全、稳定、高效运行。 供配电系统智能化监控的主要功能包括&#xff1a; 实时数据采集&#xff1a;通过…

Cpython编译后再使用Pyinstaller打包

一、Cpython Python是一门解释型语言&#xff0c;当我们想让其他人运行我们的代码时&#xff0c;如果直接将.py源代码发送给他人&#xff0c;那么源代码将没有任何安全性可言&#xff0c;也就是任何一个人都可以打开源代码一看究竟&#xff0c;任何人都可以随意修改源代码。 …

编程中常见的技术难题有哪些?

编程中常见的技术难题有哪些&#xff1f; 编程中常见的技术难题有如同一道道难题&#xff0c;比如bug像隐藏的恶魔&#xff0c;让程序员们捉摸不透&#xff1b;性能优化就像是调整汽车引擎&#xff0c;需要精准的调校&#xff1b;还有就是跨平台兼容性&#xff0c;就像是翻译不…

Linux(CentOS7.5):新增硬盘分区纪实

一、服务器概述 1、既有一块系统硬盘&#xff0c;新增一块100G硬盘。 2、要求&#xff0c;将新插入硬盘分为&#xff1a;20G、30G、50G。 二、操作步骤 1、确认新硬盘是否插入成功&#xff1a; fdisk -l# 红色框出来的&#xff0c;为识别出来的新硬盘信息 # 黄色框出来的&#…

09_Map集合

Map 集合 认识 Map 集合 Map 集合称为双列集合&#xff0c;格式 { key1 value1, key2 value2, key3 value3e}&#xff0c;它也被称为"键值对集合" Map 集合的所有键是不允许重复的&#xff0c;但值可以重复&#xff0c;键和值是一一对应的&#xff0c;每一个键只…

idea创建不了spring2.X版本,无法使用JDK8,最低支持JDK17 , 如何用idea创建spring2.X版本,使用JDK8解决方案

&#x1f9f8;欢迎来到dream_ready的博客&#xff0c;&#x1f4dc;相信您对博主首页也很感兴趣o (ˉ▽ˉ&#xff1b;) &#x1f4dc;jdk17安装全方位手把手安装教程 / 已有jdk8了&#xff0c;安装JDK17后如何配置环境变量 / 多个不同版本的JDK&#xff0c;如何配置环境变量&a…

【开源】基于Vue.js的高校大学生创业管理系统的设计和实现

项目编号&#xff1a; S 027 &#xff0c;文末获取源码。 \color{red}{项目编号&#xff1a;S027&#xff0c;文末获取源码。} 项目编号&#xff1a;S027&#xff0c;文末获取源码。 目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块2.1 系统公告模块2.2 创业项目模块2.3 创…

直播预告 | AR眼镜在现代医疗中究竟有哪些妙用?11.28晚八点虹科直播间为您揭晓!

直播预告 | AR眼镜在现代医疗中究竟有哪些妙用&#xff1f;11.28晚八点虹科直播间为您揭晓&#xff01; 什么是AR眼镜&#xff1f; AR眼镜&#xff0c;即增强现实眼镜&#xff0c;是一种结合虚拟信息与真实世界的创新医疗工具。 通过集成高科技传感器和实时数据处理技术&…

【Python】使用globals()函数成功解决tkinter多个新窗口问题

我在近期的一个项目&#xff08;tkinter复刻记事本&#xff09;上遇到一个很有意思的问题&#xff1a;如何在创建多个新窗口后&#xff0c;每个窗口还能独立运行&#xff1f;当时我尝试几种方法&#xff0c;奈何实力不足&#xff0c;于是便下定结论非使用线程不可&#xff0c;至…

测试用例的设计思路

接到提测单后要做的事情&#xff1a; 确认提测单内包含的文件、URL地址可以访问确认需求 (迭代目标、用户故事、用户愿望、问题反馈等)确认回归测试范围、更新测试范围、新增测试范围编写测试点思维导图&#xff0c;过程中有问题及时进行沟通与迭代相关人员约一个时间, 开内部…

通付盾Web3专题 | SharkTeam:起底朝鲜APT组织Lazarus Group,攻击手法及洗钱模式

国家级APT&#xff08;Advanced Persistent Threat&#xff0c;高级持续性威胁&#xff09;组织是有国家背景支持的顶尖黑客团伙&#xff0c;专门针对特定目标进行长期的持续性网络攻击。朝鲜APT组织Lazarus Group就是非常活跃的一个APT团伙&#xff0c;其攻击目的主要以窃取资…

JavaScript WebApi(二) 详解

监听事件 介绍 事件监听是一种用于在特定条件下执行代码的编程技术。在Web开发中&#xff0c;事件监听器可以用于捕获和响应用户与页面交互的各种操作&#xff0c;如点击、滚动、输入等。 事件监听的基本原理是&#xff0c;通过在特定元素上注册事件监听器&#xff0c;当事件…

【深度学习】神经网络训练过程中不收敛或者训练失败的原因

在面对模型不收敛的时候&#xff0c;首先要保证训练的次数够多。在训练过程中&#xff0c;loss并不是一直在下降&#xff0c;准确率一直在提升的&#xff0c;会有一些震荡存在。只要总体趋势是在收敛就行。若训练次数够多&#xff08;一般上千次&#xff0c;上万次&#xff0c;…

免费SSL证书有效期只有90天?太短?

随着网络安全问题日益受到重视&#xff0c;SSL证书成为了网站安全的必需品。然而&#xff0c;在许多情况下&#xff0c;免费提供的SSL证书往往只有90天的有效期&#xff0c;这种期限对于很多用户来说显得过于短暂。 首先&#xff0c;我们要理解为什么 SSL 证书的有效期设定为90…

基于单片机DHT11湿度测量与控制-CO2-光照报警系统程序和仿真

一、系统方案 1、本设计采用这51单片机作为主控器。 2、DHT11温湿度、CO2、光照强度送到液晶1602显示。 3、按键设置报警值。 4、蜂鸣器报警。 二、硬件设计 原理图如下&#xff1a; 三、单片机软件设计 1、首先是系统初始化 //初始化LCD*********************************…

LCR 047. 二叉树剪枝 和 leetCode 1110. 删点成林 + 递归 + 图解

给定一个二叉树 根节点 root &#xff0c;树的每个节点的值要么是 0&#xff0c;要么是 1。请剪除该二叉树中所有节点的值为 0 的子树。节点 node 的子树为 node 本身&#xff0c;以及所有 node 的后代。 示例 1: 输入: [1,null,0,0,1] 输出: [1,null,0,null,1] 解释: 只有红…