1.17、基于竞争层的竞争学习(matlab)

1、基于竞争层的竞争学习简介及原理

竞争学习是一种无监督学习方法,其中的竞争层神经元之间互相竞争以学习输入模式的表示。竞争学习的一个经典模型是竞争神经网络(Competitive Neural Network,简称CNN),其核心部分是竞争层,包含多个竞争神经元,它们通过竞争机制来学习输入数据的特征。

竞争学习的原理如下:

  1. 模型初始化:竞争层中的每个竞争神经元具有随机初始化的权重向量,用于与输入数据进行比较。
  2. 竞争机制:当接收到输入数据时,竞争神经元之间进行竞争,即各自计算与输入数据的相似度,并选择最能代表输入数据的神经元作为胜者。
  3. 胜者更新:胜者神经元会调整自己的权重向量,使其更好地匹配输入数据,同时关闭其他神经元的更新过程,以保证只有一个胜者。
  4. 学习规则:竞争学习过程中的权重更新规则通常遵循希伯来学习规则(Hebbian Learning Rule),即“同胞竞争,异胞挤压”,即强化与输入模式相符的权重,抑制与输入模式不符的权重。
  5. 学习迭代:重复上述竞争和胜者更新过程,直到模型收敛或达到设定的迭代次数。

竞争学习在模式分类、特征提取等领域有着广泛的应用,能够有效地从输入数据中提取关键特征,并生成对应的内部表示。竞争学习的训练过程是无监督的,只依赖于输入数据的统计特性,具有较强的自组织和特征抽取能力。

2、基于竞争层的竞争学习说明

1)说明

竞争层中的神经元可通过学习来表示输入向量在输入空间中出现的不同区域

2)解决案例

P 是一组随机生成但聚类的测试数据点。竞争网络将用于将这些点分成若干自然类。

3、数据集

数据集生成代码

bounds = [0 1; 0 1];   % 聚类中心在这些范围内
clusters = 8;          % 簇数量
points = 10;           % 每个簇中的点数
std_dev = 0.05;        % 每个聚类的标准差
x = nngenc(bounds,clusters,points,std_dev);

数据集显示代码

% 绘图
figure(1)
plot(x(1,:),x(2,:),'+r');
title('Input Vectors');
xlabel('x(1)');
ylabel('x(2)');

视图效果

4、 COMPETLAYER 接受两个参量,即神经元数量和学习率。

说明

配置网络输入(通常由 TRAIN 自动完成),并绘制初始权重向量以查看其分类尝试过程。

代码

figure(2)
net = competlayer(8,.1);
net = configure(net,x);
w = net.IW{1};
plot(x(1,:),x(2,:),'+r');
hold on;
circles = plot(w(:,1),w(:,2),'ob');

视图效果

5、训练竞争层

在训练竞争层网络时,有一些注意事项需要注意:

  1. 数据预处理:在输入数据集训练之前,需要对数据进行预处理,如归一化处理,以确保不同特征之间的数值范围相同,避免某些特征对竞争过程产生过大影响。

  2. 初始权重选择:竞争层的初始权重设置可能会影响网络的收敛速度和收敛质量,因此需要仔细选择初始权重。常见的初始化方法包括随机初始化和基于数据的初始化方法。

  3. 学习率和邻域函数的选择:学习率和邻域函数的选择对竞争层的训练过程至关重要。学习率的选择会影响权重调整的速度,而邻域函数的选择则会影响胜者神经元周围神经元的权重调整程度。

  4. 迭代次数:需要根据数据集的特点和网络的复杂度来确定训练的迭代次数,以确保网络能够充分学习数据集的特征。

  5. 模型评估:在训练过程中,需要对模型进行评估,监测模型的收敛情况,以及绘制训练过程中的损失函数曲线等,以便及时调整网络参数和模型结构。

  6. 参数调优:在网络训练过程中,可能需要调整学习率、邻域函数的衰减率及初始值等参数,以达到更好的训练效果。

  7. 可视化分析:最后,可以通过可视化分析来观察竞争层的训练效果,例如可视化竞争层的权重矩阵,观察不同输入数据在竞争层的分布情况,以验证模型的有效性。

在训练竞争层网络时,注意以上事项可以帮助提高模型的训练效果,加快网络的收敛速度,并确保竞争层能够充分学习输入数据的特征。

代码

net.trainParam.epochs = 7;
net = train(net,x);

视图效果

 

6、 图上绘制更新后的层权重

代码

w = net.IW{1};
delete(circles);
plot(w(:,1),w(:,2),'ob');

视图效果

7、 使用竞争层作为分类器

1)说明

使用竞争层作为分类器,其中每个神经元都对应于一个不同的类别。将一个输入向量 X1 定义为 [0; 0.2]
输出 Y 指示哪个神经元正在响应,从而指示输入属于哪个类。

代码

x1 = [0; 0.2];
y = net(x1)y =10000000

8、总结

在MATLAB中实现基于竞争层的竞争学习可以利用自组织特征映射(Self-Organizing Map,简称SOM)算法。SOM是竞争学习的一种形式,其将输入数据在一个高维网格网络中进行竞争学习,从而实现特征提取和数据可视化。

以下是使用MATLAB实现基于竞争层的竞争学习的一般步骤总结:

  1. 准备数据:准备输入数据集,确保数据已经进行归一化处理。
  2. 初始化权重:初始化竞争层(SOM)网络的权重矩阵,每个神经元对应一个权重向量,与输入数据的维度相同。
  3. 训练模型:迭代输入数据集,对每个输入数据计算与各个神经元的距离,并选择最近的神经元作为胜者,根据胜者神经元和邻域函数更新权重矩阵。
  4. 学习率调整:随着模型训练的进行,逐渐减小学习率和邻域函数的大小,以便在后期更加精细地调整权重。
  5. 可视化结果:可视化训练后的竞争层权重矩阵,观察不同输入数据在竞争层上的分布情况。

在MATLAB中,可以利用自带的SOM工具箱或者编写自定义代码的方式实现基于竞争层的竞争学习。通过调整模型参数、学习率和迭代次数,可以对模型进行优化和调整,以获得更好的特征提取效果。此外,可以通过可视化竞争层学习后的特征表示,进一步理解模型学习到的数据结构和特征。

9、源代码

代码

%% 基于竞争层的竞争学习
%竞争层中的神经元可通过学习来表示输入向量在输入空间中出现的不同区域
%P 是一组随机生成但聚类的测试数据点。竞争网络将用于将这些点分成若干自然类。
%% 数据集
bounds = [0 1; 0 1];   % 聚类中心在这些范围内
clusters = 8;          % 簇数量
points = 10;           % 每个簇中的点数
std_dev = 0.05;        % 每个聚类的标准差
x = nngenc(bounds,clusters,points,std_dev);% 绘图
figure(1)
plot(x(1,:),x(2,:),'+r');
title('Input Vectors');
xlabel('x(1)');
ylabel('x(2)');
%COMPETLAYER 接受两个参量,即神经元数量和学习率。
%配置网络输入(通常由 TRAIN 自动完成),并绘制初始权重向量以查看其分类尝试过程。
figure(2)
net = competlayer(8,.1);
net = configure(net,x);
w = net.IW{1};
plot(x(1,:),x(2,:),'+r');
hold on;
circles = plot(w(:,1),w(:,2),'ob');
%训练竞争层
net.trainParam.epochs = 7;
net = train(net,x);
%图上绘制更新后的层权重
w = net.IW{1};
delete(circles);
plot(w(:,1),w(:,2),'ob');
%使用竞争层作为分类器
%使用竞争层作为分类器,其中每个神经元都对应于一个不同的类别。将一个输入向量 X1 定义为 [0; 0.2]
%输出 Y 指示哪个神经元正在响应,从而指示输入属于哪个类。
x1 = [0; 0.2];
y = net(x1)

工程文件

https://download.csdn.net/download/XU157303764/89498417

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/48416.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Linux复习02

一、什么是操作系统 操作系统是一款做软硬件管理的软件! 一个好的操作系统,衡量的指标是:稳定、快、安全 操作系统的核心工作: 通过对下管理好软硬件资源的手段,达到对上提供良好的(稳定,快…

什么是单例模式,有哪些应用?

目录 一、定义 二、应用场景 三、6种实现方式 1、懒汉式,线程不安全。 2、懒汉式,线程安全 3、双检锁/双重校验锁(DCL,即 double-checked locking) 4、静态内部类方式-------只适用于静态域 5、饿汉式 6、枚举…

嵌入式C++、STM32、树莓派4B、OpenCV、TensorFlow/Keras深度学习:基于边缘计算的实时异常行为识别

1. 项目概述 随着物联网和人工智能技术的发展,智能家居安全系统越来越受到人们的关注。本项目旨在设计并实现一套基于边缘计算的智能家居安全系统,利用STM32微控制器和树莓派等边缘设备,实时分析摄像头数据,识别异常行为(如入侵、跌倒等),并及时发出警报,提高家庭安全性。 系…

英福康INFICON RGAs for the AMAT Endura 5500 课件PPT

英福康INFICON RGAs for the AMAT Endura 5500 课件PPT

uniapp+vue3实现音乐播放器,包含上一首、下一首、暂停、播放、下载音频、下载视频、进度条拖拽、歌词等

uni-app中实现音乐播放器 1、主要利用的是uni-app中提供的uni.createInnerAudioContext()来进行实现&#xff1b; 2、代码示例 &#xff08;1&#xff09;主页面代码展示 <template><view class"songDetailContainer"><view class"bg&quo…

记录uni-app横屏项目:自定义弹出框

目录 前言&#xff1a; 正文&#xff1a; 前言&#xff1a;横屏的尺寸问题 最近使用了uniapp写了一个横屏的微信小程序和H5的项目&#xff0c;也是本人首次写的横屏项目&#xff0c;多少是有点踩坑不太适应。。。 先说最让我一脸懵的点&#xff0c;尺寸大小&#xff0c;下面一…

vxe-弹窗初始化激活选中Vxe-Table表格中第一行input输入框

1.实现效果 2.Modal弹窗的渲染过程 一、Vue组件的生命周期 Vue组件从创建到销毁会经历一系列的生命周期钩子&#xff0c;这些钩子为开发者提供了在不同阶段插入自定义逻辑的机会。在Modal弹窗的上下文中&#xff0c;这些生命周期钩子同样适用。 beforeCreate&#xff1a;组件…

Qt中的高分辨率及缩放处理

写在前面 使用Qt开发界面客户端&#xff0c;需要考虑不同分辨率及缩放对UI界面的影响&#xff0c;否则会影响整体的交互使用。 问题 高分辨率/缩放设备上图片/图标模糊 若不考虑高分辨及缩放处理&#xff0c;在高分辨率/缩放设备上&#xff0c;软件中的图片、图标可能会出现…

解决jupyter argparse报错

jupyter argparse报错 文章目录 一、jupyter argparse报错 一、jupyter argparse报错 args parser.parse_args()这行代码改为&#xff1a; args parser.parse_args(args[])完整的代码为&#xff1a; import argparseparser argparse.ArgumentParser() parser.add_argumen…

sourcetree中常用功能使用方法及gitlab冲突解决

添加至缓存&#xff1a;等于git add 提交&#xff1a;等于git commit 拉取/获取&#xff1a;等于git pull ,在每次要新增代码或者提交代码前需要先拉取一遍服务器中最新的代码&#xff0c;防止服务器有其他人更新了代码&#xff0c;但我们自己本地的代码在我们更新前跟服务器不…

Java实战中如何使用多线程(线程池)及其为什么使用?

这个话题在入行之前就想过很多次&#xff0c;很多8古文或者你搜索的结果都是告诉你什么提高高并发或者是一些很高大上的话&#xff0c;既没有案例也没有什么公式去证明&#xff0c;但是面试中总是被问到&#xff0c;也没有实战经历&#xff0c;所以面试时一问到多线程的东西就无…

深度学习入门——与学习相关的技巧

前言 本章将介绍神经网络的学习中的一些重要观点&#xff0c;主题涉及寻找最优权重参数的最优化方法、权重参数的初始值、超参数的设定方法等 此外&#xff0c;为了应对过拟合&#xff0c;本章还将介绍权值衰减、Dropout等正则化方法&#xff0c;并进行实现。 最后将对近年来…

细说MCU用单路DAC模块设计和输出锯齿波的实现方法

目录 一、STM32G474RE的DAC模块 二、配置 1.配置DAC 2.选择时钟源和Debug 3.配置系统时钟 三、代码修改 1.启动DAC 2.给DAC的数据输出寄存器赋值 3.运行并观察输出 一、STM32G474RE的DAC模块 有些MCU本身就带有数/模转换器(Digital to Analog Converter,DAC)模块&am…

昇思25天学习打卡营第20天|Diffusion扩散模型

Mindspore框架利用扩散模型DDPM生成高分辨率图像&#xff08;生成高保真图像项目实践&#xff09; Mindspore框架利用扩散模型DDPM生成高分辨率图像|&#xff08;一&#xff09;关于denoising diffusion probabilistic model &#xff08;DDPM&#xff09;模型Mindspore框架利…

差分进化算法原理及其MATLAB/Python代码

1.算法简介 引用自&#xff1a;Storn R, Price K. Differential evolution–a simple and efficient heuristic for global optimization over continuous spaces[J]. Journal of global optimization, 1997, 11: 341-359. 今天给大家带来的是一个非常经典的智能优化算法–差分…

【多模态】42、LLaVA-UHD | 支持任意纵横比和大分辨率图像输入的 LLaVA

论文&#xff1a;LLaVA-UHD: an LMM Perceiving Any Aspect Ratio and High-Resolution Images 代码&#xff1a;https://github.com/thunlp/LLaVA-UHD 出处&#xff1a;清华 | 新加坡国立大学 | 中国科学院大学 一、背景 现有的很多 LMM 都是将图像处理成固定的纵横比&…

Ubuntu编译ffmpeg并添加cmake工程

文章目录 前言前提须知为什么要自己编译 FFmpeg前提软件包与工具的安装编译ffmpeg写CMakeList.txt包含ffmpeg到我们项目中 总结 前言 FFmpeg 是一个领先的多媒体框架&#xff0c;能够解码、编码、转码、复用、解复用、流化、过滤和播放几乎所有人类和机器创造的内容。FFmpeg 包…

设计模式11-原型模式

设计模式11-原型模式 写在前面对象创建模式典型模式原型模式动机结构代码推导应用特点要点总结 原型模式与工厂方法模式对比工厂方法模式原型模式什么时候用什么模式 写在前面 对象创建模式 通过对象创建模式绕开动态内存分配来避免创建过程中所导致的耦合过紧的问题。从而支…

数学建模--国赛备赛---TOPSIS算法

目录 1.准备部分 1.1提交材料 1.2MD5码相关要求 2.TOPSIS算法 2.1算法概述 2.2基本概念 2.3算法核心思想 2.4拓展思考 3.适用赛题 3.1适用赛题说明 3.2适用赛题举例 4.赛题分析 4.1指标的分类 4.2数据预处理 4.2.1区间型属性的变换 4.2.2向量规范化 4.3数据加…

基于 Three.js 的 3D 模型加载优化

作者&#xff1a;来自 vivo 互联网前端团队- Su Ning 作为一个3D的项目&#xff0c;从用户打开页面到最终模型的渲染需要经过多个流程&#xff0c;加载的时间也会比普通的H5项目要更长一些&#xff0c;从而造成大量的用户流失。为了提升首屏加载的转化率&#xff0c;需要尽可能…