数学建模【聚类模型】

一、聚类模型简介

“物以类聚, 人以群分”,所谓的聚类,就是将样本划分为由类似的对象组成的多个类的过程。聚类后,我们可以更加准确的在每个类中单独使用统计模型进行估计、分析或预测,也可以探究不同类之间的相关性和主要差异。

聚类和分类的区别:分类是已知类别的,聚类未知。

注:聚类模型一般有三种算法,K-means++法、系统层次法和DBSCAN法。

二、适用赛题

只有一对数据,要求将数据分为几类,类数不定。如有全国34个省的关于消费水平的几个指标,现要求将34个省分为几类分析。

三、模型流程

四、流程解析

1.K-means++聚类算法

K-means++算法是由K-means算法改进而来,对于K-means算法

优点

  • 算法简单、快速
  • 对处理大数据集,该算法是相对高效率的

缺点

  • 要求用户必须事先给出要生成的簇的数目K
  • 对初值敏感
  • 对于孤立点数据敏感

而K-means++算法可解决后两个缺点。

①确定参数

聚类个数也就是簇的个数,也就是像分为多少个类。

迭代次数是指数据每经过一次迭代,都会有不同的数据进入不同的类,直到达到最大迭代次数,一般10次后,每次迭代后类中的数据就不会改变了。

②初始化聚类中心

这里就是优化的地方。K-means算法在初始化的时候,只是随机地选择K个数据对象作为初始的聚类中心。而K-means++算法选择初始聚类中心的基本原则是:初始的聚类中心之间的相互距离要尽可能的远。

具体流程如下

  1. 随机选取一个样本作为第一个聚类中心
  2. 计算每个样本与当前已有聚类中心的最短距离(即与最近一个聚类中心的距离),这个值越大,表示被选取作为聚类中心的概率较大。最后,用轮盘法(依据概率大小来进行抽选)选出下一个聚类中心
  3. 重复步骤二,直到选出K个聚类中心。选出初始点后,就继续使用标准的K-means算法了
③分配和更新

分配数据对象是指计算其余的各个数据对象到这K个初始聚类中心的距离,把数据对象划归到距离它最近的那个中心所处在的簇类中变成一个新类。

更新聚类中心是指重新计算出新类的中心,新的中心就是所有数据对象的重心。

下面是K-means算法的演示图

④输出结果

当完成迭代次数后,得到结果。

⑤补充

聚类的个数K值怎么定?

答:分几类主要取决于个人的经验与感觉,通常的做法是多尝试几个K值,看分成几类的结果更好解释,更符合分析目的等。

数据的量纲不一致怎么办?

答:如果数据的量纲不一样,那么算距离时就没有意义。例如:如果X1单位是米,X2单位是吨,用距离公式计算就会出现“米的平方”加上“吨的平方”再开平方,最后算出的东西没有数学意义,这就有问题了。这就需要标准化。

这里还是推荐使用SPSS软件进行操作。

2.系统层次聚类

系统聚类的合并算法通过计算两类数据点间的距离,对最为接近的两类数据点进行组合,并反复迭代这一过程,直到将所有数据点合成一类,并生成聚类谱系图。

①计算距离

这里根据问题看是求谁的距离,一般是样品之间距离,也有可能是求指标之间的距离。数据的一般格式如下图

样品与样品之间的常用距离(样品i与样品j)

指标与指标之间的常用“距离”(指标i与指标j)

最开始的时候,将每个数据对象看作一类,计算两两之间的最小距离。后面是计算类与类之间的两两最小距离。

类与类之间的常用距离

  • 由一个样品组成的类是最基本的类,如果每一类都由一个样品组成,那么样品间的距离就是类间距离
  • 如果某一类包含不止一个样品,那么就要确定类间距离,类间距离是基于样品间距离定义的,大致有如下几种定义方式:

  • 最短距离法(Nearest Neighbor):

  • 组间平均连接法(Between-group Linkage):

  • 组内平均连接法(Within-group Linkage):

  • 重心法(Centroid clustering):

②合成新类

将距离最小的两个类合并成一个新类。

③迭代完成

重复计算距离、合成新类,直到最后只剩下一类也就是所有类合并成一类。

④聚类谱系图

下面就是一个聚类谱系图

要分成几类只需要画竖线即可,有几个交点就有几个类,如下图

按照1分类就有两类,按照2分类就有三类。

⑤补充

那划成多少类才是最合适的?

肘部法则(Elbow Method):通过图形大致的估计出最优的聚类数量。

首先介绍

然后得到如下图

在下降趋势趋缓的时候选择,上图就选择K = 5。

这里还是推荐使用SPSS软件进行操作。

3.DBSCAN法

DBSCAN(Density-based spatial clustering of applicationswith noise)是Martin Ester,Hans- PeterKriegel等人于1996年提出的一种基于密度的聚类方法,聚类前不需要预先指定聚类的个数,生成的簇的个数不定(和数据有关)。该算法利用基于密度的聚类的概念,即要求聚类空间中的一定区域内所包含对象(点或其他空间对象)的数目不小于某一给定阈值。该方法能在具有噪声的空间数据库中发现任意形状的簇,可将密度足够大的相邻区域连接,能有效处理异常数据。

①确定参数

需要设置的参数

  • 半径:Eps
  • 点数:MinPts

DBSCAN算法将数据点分为三类

  • 核心点:在半径Eps内含有不少于MinPts数目的点
  • 边界点:在半径Eps内点的数量小于MinPts,但是落在核心点的邻域内
  • 噪音点:既不是核心点也不是边界点的点

举个例子

在这幅图里,MinPts = 4,点A和其他红色点是核心点,因为它们的Eps-邻域(图中红色圆圈)里包含最少4个点(包括自己),由于它们之间相互相可达,它们形成了一-个聚类。点B和点C不是核心点,但它们可由A经其他核心点可达,所以也和A属于同一个聚类。点N是局外点,它既不是核心点,又不由其他点可达。

②调用函数

MATLAB在2019a版本中正式加入了自己的dbscan函数,内置函数的运行效率更高。具体使用方法可以查阅MATLAB官网。

③补充

DBSCAN法优缺点

优点

  • 基于密度定义,能处理任意形状和大小的簇
  • 可在聚类的同时发现异常点
  • 与K-means比较起来,不需要输入要划分的聚类个数

缺点

  • 对输入参数Eps和Minpts敏感,确定参数困难
  • 由于DBSCAN算法中,变量Eps和Minpts是全局唯一的,当聚类的密度不均匀时,聚类距离相差很大时,聚类质量差
  • 当数据量大时,计算密度单元的计算复杂度大

建议

  • 只有两个指标,且你做出散点图后发现数据表现得很“DBSCAN",这时候你再用DBSCAN进行聚类
  • 其他情况下,全部使用系统聚类吧。K-means++也可以用,不过用了的话论文上可写的东西比较少

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/711400.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

springboot233大学生就业需求分析系统

大学生就业需求分析系统设计与实现 摘 要 信息数据从传统到当代,是一直在变革当中,突如其来的互联网让传统的信息管理看到了革命性的曙光,因为传统信息管理从时效性,还是安全性,还是可操作性等各个方面来讲&#xff…

C语言-简单的环形队列的源码示例

概述 环形队列&#xff08;Circular Queue&#xff09;是一种常见的数据结构&#xff0c;特别适用于在单片机等资源受限的环境下实现缓冲区或队列功能。下面是一个简单的环形队列的源码示例&#xff0c;用C语言实现&#xff1a; #include <stdio.h> #include <stdint…

五种查看Spring容器中bean的方法

五种查看Spring容器中bean的方法 在Spring应用程序中&#xff0c;了解和查看容器中的Bean是进行调试和问题排查的关键。Spring提供了多种方法来查看容器中注册的Bean&#xff0c;以便我们深入了解应用程序的内部结构和调试潜在问题。本文将介绍五种常用的查看Spring容器中Bean的…

C++ map用法详细总结40例

文章目录 1. 定义与初始化2. 插入元素3. 查找元素4. 删除元素5. 遍历6. 访问成员函数7. 修改元素8. 注意事项9. 使用 equal_range 查找键值范围10. 使用 emplace 添加元素11. 使用 cbegin 和 cend 获取常量迭代器12. 排序规则自定义13. 使用 multimap 存储重复键14. 判断 map 是…

Python音乐信息管理库之beets使用详解

概要 在数字化时代,音乐管理变得越来越重要,特别是对于音乐爱好者和专业音乐人士而言。Python作为一种功能强大的编程语言,拥有着丰富的音乐处理库,其中Beet就是一款备受推崇的音乐信息管理工具。本文将深入探讨Beet库的功能特性、使用方法以及应用场景,并提供丰富的示例…

市场需求预测模型

市场需求预测模型是一种用于预测某个市场或产品的需求量的数学模型。它基于历史数据、市场趋势以及其他相关因素&#xff0c;通过统计和分析的方法来预测未来的市场需求情况。 市场需求预测模型可以帮助企业制定合理的生产计划、库存管理和市场营销策略。通过准确地预测市场需…

python实现数字规整(转中文)

1.思路根据正则匹配数字类型比如手机号、年月日等进行相对的数字规整 话不多说直接上代码&#xff0c;有新的类型可以按照当前方案进行新增 import redef match_year_digit(match):m str(match.group())relation {1: 一, 2: 二, 3: 三, 4: 四, 5: 五, 6: 六, 7: 七, 8: 八, …

WPF真入门教程31--WPF版房屋租售系统

1、教程回顾 到现在为止&#xff0c;“蒸”入门系列教程已完成了30刺由浅入深地讲解&#xff0c;当然不可能讲到了WPF的所有技能点&#xff0c;但读者看到了wpf的内部各种功能及之间的联系&#xff0c;在此基础上&#xff0c;再提供一个完整有效的综合项目&#xff0c;本项目采…

tcp的三次握手和四次挥手?

一&#xff1a;引出 客户端与服务器之间数据的发送和返回的过程当中需要创建一个叫TCP connection的东西&#xff1b;由于TCP不存在连接的概念&#xff0c;只存在请求和响应&#xff0c;请求和响应都是数据包&#xff0c;它们之间都是经过由TCP创建的一个从客户端发起&#xff…

身份验证错误。要求的函数不受支持。远程计算机:[IP地址]。这可能是由于CredSSP加密数据库修正

出现“身份验证错误。要求的函数不受支持。远程计算机&#xff1a;[IP地址]。这可能是由于CredSSP加密数据库修正”的问题&#xff0c;通常是因为Windows更新后&#xff0c;远程桌面连接&#xff08;RDP&#xff09;的安全性增强&#xff0c;特别是与CredSSP&#xff08;Creden…

[RoarCTF 2019]Easy Calc

这题考查的是: 字符串解析特性目录读取文件内容读取 字符串解析特性详解&#xff1a;PHP字符串解析特性 &#xff08;$GET/$POST参数绕过&#xff09;&#xff08;含例题 buuctf easycalc&#xff09;_参数解析 绕过-CSDN博客 ascii码查询表&#xff1a;ASCII 表 | 菜鸟工具 …

AI智能雷达名片小程序平台版源码系统 带完整的安装代码包以及安装部署教程

在当今数字化快速发展的时代&#xff0c;人工智能&#xff08;AI&#xff09;已渗透到各个领域&#xff0c;尤其是在商务沟通领域&#xff0c;传统的名片已经不能满足现代商业的需求。小编给大家分享一款名为“AI智能雷达名片小程序平台版”的源码系统&#xff0c;该系统不仅提…

【Linux】将程序的输出显示到屏幕,同时写入到log文件

1. 将程序的输出显示到屏幕&#xff0c;同时写入到log文件 nohup python -u main.py 2>&1 | tee -a log.txt &nohup 放在命令的开头&#xff0c;表示不挂起&#xff08;no hang up&#xff09;&#xff0c;也即&#xff0c;关闭终端或者退出某个账号&#xff0c;进…

知乎引流秘籍:玩转知乎,掘金百万流量!

知乎&#xff0c;拥有3亿注册用户、日新增用户8万的超级内容平台&#xff0c;已然成为流量洼地。如何玩转知乎&#xff0c;掘金百万流量&#xff1f;这份1500字的实操指南&#xff0c;为你揭秘&#xff01; 一、知乎的优势&#xff1a;流量大、长尾效应强 1. 流量大&#xff…

QA核心竞争力

核心竞争力的三个阶段 我们知道&#xff0c;不同的工作和任务所需要的核心能力不同&#xff0c;因而核心竞争力也就不相同。QA 的入门门槛比较低&#xff0c;这也是 QA 这个群体产生恐慌和焦虑的主要原因。这个群体所涉及的技术面和技能栈非常广&#xff0c;所以整个职业生涯的…

46-全排列(回溯算法)

题目 给定一个不含重复数字的数组 nums &#xff0c;返回其 所有可能的全排列 。你可以 按任意顺序 返回答案。 示例 1&#xff1a; 输入&#xff1a;nums [1,2,3] 输出&#xff1a;[[1,2,3],[1,3,2],[2,1,3],[2,3,1],[3,1,2],[3,2,1]] 示例 2&#xff1a; 输入&#xff1a;nu…

商业银行移动支付发展探析

一、支付交换标准的迭代      银行卡支付交换标准基于ISO 8583-1987《产生报文的金融交易卡交换报文规范》为发展基础&#xff0c; 经过30年的产品及应用变革&#xff0c; 支撑交换标准整体框架的数据格式日益显现其弊端。新型与传统业务交织&#xff0c; 衍生出多个技术标…

提升智能客服机器人的语义理解能力:理解用户的语义和意图

智能客服机器人的发展已经成为现代服务业的一大亮点。它们不仅能够提供724小时不间断的服务&#xff0c;而且能够处理大量的用户请求&#xff0c;大大提高了服务效率。然而&#xff0c;尽管智能客服机器人的技术已经取得了显著的进步&#xff0c;但其语义理解能力仍有待提高。为…

List去除重复数据的五种方式

1、使用 LinkedHashSet 删除 arraylist 中的重复数据 LinkedHashSet 是在一个 ArrayList 删除重复数据的最佳方法。LinkedHashSet 在内部完成两件事&#xff1a; 删除重复数据 保持添加到其中的数据的顺序 Java 示例使用 LinkedHashSet 删除 arraylist 中的重复项。在给定的示例…

【Linux杂货铺】调试工具gdb的使用

目录 &#x1f308;前言&#x1f308; &#x1f4c1;背景介绍 &#x1f4c1; 使用 list [行号] / [函数名] run/r break/b [行号] / [函数名] info break disable break enable break delete break [断点编号] next/n step/s continue/c finish print/p [变量…