【西瓜书】神经网络-MP神经元、感知机和多层网络

  • 神经网络(neural networks)的定义:神经网络是由具有适应性的简单单元组成的广泛并行互联的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。(T. Kohonen 1988年在Neural Networks创刊号上给出的定义)。
  • 在机器学习中谈论神经网络时,指的是神经网络学习。
  • 神经网络中最基本的成分是神经元(neuron)模型。即上述定义中的简单单元。neuron 也称 unit。
  • 生物神经网络中,每个神经元与其他神经元相连,当它“兴奋”时,就会向相邻的神经元发生化学物质,从而改变这些神经元内的电位;如果某神经元的电位超过了一个“阈值”(threshold),那么它就会激活,即“兴奋”起来向其他神经元发送化学物质。threshold 也叫 bias。

M-P神经元模型

来源于西瓜书-P97
  • 在这个模型中,神经元接收到来自n个其他神经元传递过来的输入信号,这些输入信号通过带权重的连接(connection)进行传递,神经元接收到的总输入值将与这个神经元的阈值进行比较,然后通过“激活函数”(activation function)处理以产生神经元的输出。
  • 产生“0”和“1”最好的函数时阶跃函数,但阶跃函数有不连续、不光滑等不太好的性质,实际常用 Sigmoid 函数作为激活函数,它能把较大范围内变化的数值挤压到(0, 1)输出值范围内,因此也被称为“挤压函数”(squashing function)。

感知机模型

来源于西瓜书-P99
  • 感知机(Perception)由两层神经元组成。输入层接收外界输入信号后传递给输出层,输出层是M-P神经元。也称“阈值逻辑单元”(threshold logic unit)。
  • 感知机可能容易地实现逻辑与、或、非运算。
  • 阈值θ可看作一个固定输入为-1.0的“哑节点”(dummy node)所对应的连接权重。
  • η∈(0, 1) 称为学习率(learning rate),通常设置为一个小正数。
  • 感知机只有输出层神经元进行激活函数处理,即只拥有一层功能神经元(functional neuron)。
  • 事实上,与、或、非问题都是线性可分问题(linearly separable)问题,即存在一个线性超平面能将他们分开,这时感知机的学习过程一定会收敛(converge)而求得适当的权向量。否则感知机的学习过程将会发生振荡(fluctuation)。
  • 非线性可分意味着用线性超平面无法划分。

多层网络

来自西瓜书-P101
  • 要解决非线性可分问题,需考虑使用多层功能神经元。
  • 输入和输出层之间的一层神经元,被称为隐层或隐含层(hidden layer),隐含层和输出层都是拥有激活函数的功能神经元。
  • 只需要包含隐层,即可称为多层网络。
  • 每层神经元与下一层神经元全连接,神经元之间不存在同层连接,也不存在跨层连接,这样的神经网络就通常称为“多层前馈神经网络”(Multi-layer feedforward natural networks)。“前馈”并不意味着网络中的信号不能向后传,而是指网络拓扑结构上不存在环或回路。
  • 输入层神经元仅接受输入不进行函数处理,隐层与输出层包含功能神经元。
  • 神经网络的学习过程,就是根据训练数据来调整神经元之间的“连接权”(connection weight)以及每个功能神经元的阈值。也就是说,神经网络学到的东西蕴含在连接权与阈值中。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/62012.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Java的日期和时间的格式化

目录 引言 使用SimpleDateFormat 使用DateTimeFormatter 格式化模式 注意事项 引言 在Java中,日期和时间的格式化是通过java.text.SimpleDateFormat类或更现代的java.time.format.DateTimeFormatter类来实现的。随着Java 8的发布,推荐使用java.time…

Linux进程与资源管理

在Linux学习,进行各种操作过程中需要用到很多种命令,本篇主要讲Linux进程与资源管理命令仅供大家参考。绝对是干货满满的一篇文章!!! Linux进程与资源管理命令: 提示:以下是本篇文章正文内容&am…

《基于FPGA的便携式PWM方波信号发生器》论文分析(三)——数码管稳定显示与系统调试

一、论文概述 基于FPGA的便携式PWM方波信号发生器是一篇由任青颖、庹忠曜、黄洵桢、李智禺和张贤宇 等人发表的一篇期刊论文。该论文主要研究了一种新型的信号发生器,旨在解决传统PWM信号发生器在移动设备信号调控中存在的精准度低和便携性差的问题 。其基于现场可编…

一个专为云原生环境设计的高性能分布式文件系统

大家好,今天给大家分享一款开源创新的分布式 POSIX 文件系统JuiceFS,旨在解决海量云存储与各类应用平台(如大数据、机器学习、人工智能等)之间高效对接的问题。 项目介绍 JuiceFS 是一款面向云原生设计的高性能分布式文件系统&am…

【JavaScript】图解JS中的字符串方法

💯 欢迎光临清清ww的博客小天地💯 🔥 个人主页:【清清ww】🔥 📚 系列专栏:vue3 | TypeScript 📚 🌟 学习本无底,前进莫徬徨。🌟 目录 一.字符串查找 1.length属性 2. i…

ffmpeg视频滤镜:替换部分帧-freezeframes

滤镜描述 freezeframes 官网地址 > FFmpeg Filters Documentation 这个滤镜接收两个输入&#xff0c;然后会将第一个视频中的部分帧替换为第二个视频的某一帧。 滤镜使用 参数 freezeframes AVOptions:first <int64> ..FV....... set first fra…

云计算-华为HCIA-学习笔记

笔者今年7月底考取了华为云计算方向的HCIE认证&#xff0c;回顾从IA到IE的学习和项目实战&#xff0c;想整合和分享自己的学习历程&#xff0c;欢迎志同道合的朋友们一起讨论&#xff01; 第三章&#xff1a;常见设备 交换机 二层交换机和三层交换机&#xff0c;所谓二层交换机…

问题记录-Java后端

问题记录 目录 问题记录1.多数据源使用事务注意事项&#xff1f;2.mybatis执行MySQL的存储过程&#xff1f;3.springBoot加载不到nacos配置中心的配置问题4.服务器产生大量close_wait情况 1.多数据源使用事务注意事项&#xff1f; 问题&#xff1a;在springBoot项目中多表处理数…

瑞派宠物医生 | 热爱与实践交织,专注宠物口腔健康

热爱与实践交织的兽医梦 瑞派上海乔登宠物医院院长陈德举自小便与赛鸽结下了不解之缘&#xff0c;家族中饲养赛鸽的传统不仅让他对鸟类产生了浓厚的兴趣&#xff0c;更在心中埋下了成为一名兽医的种子。在面临高考这一人生重要抉择时&#xff0c;他毫不犹豫地选择了兽医专业&am…

即时通讯服务器被ddos攻击了怎么办?

攻击即时通讯系统的主要手段 击键记录 目前盗取即时通讯工具帐号信息的最主要方法是通过特洛伊木马等恶意软件&#xff0c;例如QQ木马&#xff0c;这类程序能够盗取QQ密码信息&#xff0c;常见的能够盗取最新版本QQ密码的木马程序有十几种之多。几乎所有主要的QQ木马程序都采…

sklearn中常用数据集简介

scikit-learn库中提供了包括分类、回归、聚类、降维等多种机器学习任务所需的常用数据集&#xff0c;方便进行实验和研究&#xff0c;它们主要被封装在sklearn.datasets中&#xff0c;本文对其中一些常用的数据集进行简单的介绍。 1.Iris&#xff08;鸢尾花&#xff09;数据集…

【AIGC】如何准确引导ChatGPT,实现精细化GPTs指令生成

博客主页&#xff1a; [小ᶻ☡꙳ᵃⁱᵍᶜ꙳] 本文专栏: AIGC | 提示词Prompt应用实例 文章目录 &#x1f4af;前言&#x1f4af;准确引导ChatGPT创建爆款小红书文案GPTs指令案例&#x1f4af; 高效开发GPTs应用的核心原则明确应用场景和目标受众构建多样化风格模板提问与引…

json格式数据集转换成yolo的txt格式数据集

这个代码是参考了两个博客 我是感觉第一篇博客可能有问题&#xff0c;然后自己做了改进&#xff0c;如果我是错误的或者正确的&#xff0c;请各位评论区说一下&#xff0c;感谢 Json格式的数据集标签转化为有效的txt格式(data_coco)_train.json-CSDN博客 COCO&#xff08;.j…

Java面试之多线程并发篇

前言 本来想着给自己放松一下&#xff0c;刷刷博客&#xff0c;突然被几道面试题难倒&#xff01;说一说自己对于 synchronized 关键字的了解&#xff1f;说说自己是怎么使用 synchronized 关键字&#xff1f;什么是线程安全&#xff1f;Vector是一个线程安全类吗&#xff1f;…

Ajax学习笔记,第一节:语法基础

Ajax学习笔记&#xff0c;第一节&#xff1a;语法基础 一、概念 1、什么是Ajax 使用浏览器的 XMLHttpRequest 对象 与服务器通信2、什么是axios Axios是一个基于Promise的JavaScript库&#xff0c;支持在浏览器和Node.js环境中使用。相较于Ajax&#xff0c;Axios提供了更多…

【ONE·基础算法 || 动态规划(二)】

总言 主要内容&#xff1a;编程题举例&#xff0c;熟悉理解动态规划类题型&#xff08;子数组、子序列问题&#xff09;。                文章目录 总言5、子数组问题&#xff08;数组中连续的一段&#xff09;5.1、最大子数组和&#xff08;medium&#xff09;5.1.…

Python人工智能项目报告

一、实践概述 1、实践计划和目的 在现代社会&#xff0c;计算机技术已成为支撑社会发展的核心力量&#xff0c;渗透到生活的各个领域&#xff0c;应关注人类福祉&#xff0c;确保自己的工作成果能够造福社会&#xff0c;同时维护安全、健康的自然环境&#xff0c;设计出具有包…

数据库相关学习杂记-事务

ARIES&#xff08;基于语义的恢复与隔离算法&#xff09;是现代数据库理论的基础。提供了解决ACID中A、I、D重要的解决思路。 基础知识 这里先复习一下关于ACID的含义以及数据库隔离级别&#xff1a; ACID的含义 原子性&#xff08;Atomicity&#xff09;: 一个事务中被视为…

2024 java大厂面试复习总结(一)(持续更新)

10年java程序员&#xff0c;2024年正好35岁&#xff0c;2024年11月公司裁员&#xff0c;记录自己找工作时候复习的一些要点。 java基础 hashCode()与equals()的相关规定 如果两个对象相等&#xff0c;则hashcode一定也是相同的两个对象相等&#xff0c;对两个对象分别调用eq…

Python绘制太极八卦

文章目录 系列目录写在前面技术需求1. 图形绘制库的支持2. 图形绘制功能3. 参数化设计4. 绘制控制5. 数据处理6. 用户界面 完整代码代码分析1. rset() 函数2. offset() 函数3. taiji() 函数4. bagua() 函数5. 绘制过程6. 技术亮点 写在后面 系列目录 序号直达链接爱心系列1Pyth…