【机器学习】DBSCAN聚类算法—优于Kmean—(理论+图解+python代码)

一、前言

二、DBSCAN聚类算法

三、参数选择

四、DBSCAN算法迭代可视化展示

五、常用的评估方法:轮廓系数

六、用Python实现DBSCAN聚类算法

一、前言

去年学聚类算法的R语言的时候,有层次聚类、系统聚类、K-means聚类、K中心聚类,最后呢,被DBSCAN聚类算法迷上了,为什么呢,首先它可以发现任何形状的簇,其次我认为它的理论也是比较简单易懂的。今年在python这门语言上我打算好好弄弄DBSCAN。下面贴上它的官方解释:

DBSCAN(Density-Based Spatial Clustering of Applications with Noise,具有噪声的基于密度的聚类方法)是一种基于密度的空间聚类算法。 该算法将具有足够密度的区域划分为簇,并在具有噪声的空间数据库中发现任意形状的簇,它将簇定义为密度相连的点的最大集合。

二、DBSCAN聚类算法

文字看不懂看下面这个图。下面这些点是分布在样本空间的众多样本,现在我们的目标是把这些在样本空间中距离相近的聚成一类。我们发现A点附近的点密度较大,红色的圆圈根据一定的规则在这里滚啊滚,最终收纳了A附近的5个点,标记为红色也就是定为同一个簇。其它没有被收纳的根据一样的规则成簇。(形象来说,我们可以认为这是系统在众多样本点中随机选中一个,围绕这个被选中的样本点画一个圆,规定这个圆的半径以及圆内最少包含的样本点,如果在指定半径内有足够多的样本点在内,那么这个圆圈的圆心就转移到这个内部样本点,继续去圈附近其它的样本点,类似传销一样,继续去发展下线。等到这个滚来滚去的圈发现所圈住的样本点数量少于预先指定的值,就停止了。那么我们称最开始那个点为核心点,如A,停下来的那个点为边界点,如B、C,没得滚的那个点为离群点,如N)。

基于密度这点有什么好处呢,我们知道kmeans聚类算法只能处理球形的簇,也就是一个聚成实心的团(这是因为算法本身计算平均距离的局限)。但往往现实中还会有各种形状,比如下面两张图,环形和不规则形,这个时候,那些传统的聚类算法显然就悲剧了。于是就思考,样本密度大的成一类呗。呐这就是DBSCAN聚类算法。

三、参数选择

上面提到了红色圆圈滚啊滚的过程,这个过程就包括了DBSCAN算法的两个参数,这两个参数比较难指定,公认的指定方法简单说一下:

  • 半径:半径是最难指定的 ,大了,圈住的就多了,簇的个数就少了;反之,簇的个数就多了,这对我们最后的结果是有影响的。我们这个时候K距离可以帮助我们来设定半径r,也就是要找到突变点,比如:

以上虽然是一个可取的方式,但是有时候比较麻烦 ,大部分还是都试一试进行观察,用k距离需要做大量实验来观察,很难一次性把这些值都选准。 

  • MinPts:这个参数就是圈住的点的个数,也相当于是一个密度,一般这个值都是偏小一些,然后进行多次尝试

 

四、DBSCAN算法迭代可视化展示

国外有一个特别有意思的网站:https://www.naftaliharris.com/blog/visualizing-dbscan-clustering/

它可以把我们DBSCAN的迭代过程动态图画出来

设置好参数,点击GO! 就开始聚类了!

直接跳到最后看一下DBSCAN的聚类结果,如下:

如果minPoints参数设置再大一点,那么这个笑脸可能会更好看。没有颜色标注的就是圈不到的样本点,也就是离群点,DBSCAN聚类算法在检测离群点的任务上也有较好的效果。

如果是传统的Kmeans聚类,我们也来看一下效果:

是不是好丑,这完美的体现出来DBSCAN算法基于密度聚类的优势了啊.

 

五、常用的评估方法:轮廓系数

这里提一下聚类算法中最常用的评估方法——轮廓系数(Silhouette Coefficient):

ji

  1. 计算样本i到同簇其它样本到平均距离ai。ai越小,说明样本i越应该被聚类到该簇(将ai称为样本i到簇内不相似度)。
  2. 计算样本i到其它某簇Cj的所有样本的平均距离bij,称为样本i与簇Cj的不相似度。定义为样本i的簇间不相似度:bi=min(bi1,bi2,...,bik2)
  • si接近1,则说明样本i聚类合理
  • si接近-1,则说明样本i更应该分类到另外的簇
  • 若si近似为0,则说明样本i在两个簇的边界上

 

六、用Python实现DBSCAN聚类算法

 
import pandas as pd# 导入数据beer = pd.read_csv('data.txt', sep=' ')print(beer)

输出结果:

 
from sklearn.cluster import DBSCANX = beer[["calories","sodium","alcohol","cost"]]# 设置半径为10,最小样本量为2,建模db = DBSCAN(eps=10, min_samples=2).fit(X)labels = db.labels_beer['cluster_db'] = labels # 在数据集最后一列加上经过DBSCAN聚类后的结果beer.sort_values('cluster_db')# 注:cluster列是kmeans聚成3类的结果;cluster2列是kmeans聚类成2类的结果;scaled_cluster列是kmeans聚类成3类的结果(经过了数据标准化)

# 查看根据DBSCAN聚类后的分组统计结果(均值)print(beer.groupby('cluster_db').mean())

# 画出在不同两个指标下样本的分布情况print(pd.scatter_matrix(X, c=colors[beer.cluster_db], figsize=(10,10), s=100))

# 我们可以从上面这个图里观察聚类效果的好坏,但是当数据量很大,或者指标很多的时候,观察起来就会非常麻烦。from sklearn import metrics# 就是下面这个函数可以计算轮廓系数(sklearn真是一个强大的包)score = metrics.silhouette_score(X,beer.cluster_db)print(score)

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/456068.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

卡巴斯基:风险无国界 网络安全从业者要与小网民保持一致

“互联网没有国界,每个国家碰到的问题基本上是类似的。对于网络犯罪这件事,并不针对哪个国家,任何有弱点、有机会的地方,黑客都会去。”卡巴斯基公司CEO尤金卡巴斯基在接受未来网(微信公众号lovek618)记者采…

windows无法访问指定设备路径或文件_完全免费的文件数据恢复工具:Microsoft Windows File Recovery...

意外删除文件的经历是大多数人都遇到过,但是幸运的是有一种“后悔药”可以吃,因为我们可以使用一些【数据恢复软件】以找回一些已删除的文件。市面上有很多这类型的软件,例如EasyRecovery、DiskGenius、Recuva 等软件。但是,功能强…

【机器学习】XGBoost集成算法——(理论+图解+python代码比较其他算法使用天池蒸汽数据)

一、集成算法思想 二、XGBoost基本思想 三、用python实现XGBoost算法 在竞赛题中经常会用到XGBoost算法,用这个算法通常会使我们模型的准确率有一个较大的提升。既然它效果这么好,那么它从头到尾做了一件什么事呢?以及它是怎么样去做的呢&a…

1万条数据大概占多大空间_国漫丨2019年上半年漫画数据报告

文 │ 骨朵国漫一、各漫画平台总体趋势1、快看漫画快看漫画平台2019年Q2各月评论数较Q1有较明显的下滑,月评论数都在400万条左右;收藏数方面,2019年2月达到了半年内最高值,为2660.1万条。2、看漫画、知音漫客等平台(小明太极旗下)…

【机器学习】 LightGBM——优于XGBoost提升的集成算法(安装+对比XGBoost改进+参数说明+python代码实例)

中文官方文档:http://lightgbm.apachecn.org/cn/latest/Installation-Guide.html 英文官方文档:https://lightgbm.readthedocs.io/en/latest/ 一、lightGBM安装 在anaconda中输入:pip install lightGBM即可 输入import lightgbm as lgb做测…

轻量级代码生成器-OnlyCoder 第一篇

程序猿利器:代码生成器,使用代码生成器已经好几年了,增删改查各种生成,从UI到DATA层均生成过。之前有使用过动软的,T4模板等.... T4生成实体还是没有问题的,但是生成MVC视图就有点烦杂了,动软给…

从Java到Go面向对象--继承思想.md

2019独角兽企业重金招聘Python工程师标准>>> Go语言实现继承 我们都知道Java中通过extends来实现对象的继承,那么Go中怎么实现继承呢?Go语言没有继承,只有组合。我们知道,继承的目的是什么,是类的重用&…

电脑键盘练习_电脑新手最关心的:零基础如何快速掌握电脑打字的技巧?

随着计算机的普及,越来越多的人在工作和生活中需要使用计算机。有的朋友通过参与培训学会了键盘打字,有的朋友自学成才学会了键盘打字。这里笔者给大家分享在0基础的情况下,通过自学快速掌握键盘打字的一种方法。需要说明的是,键盘…

【解决】jupyter在deepin安装上的坑

报错:env: "wine": 没有那个文件或目录 jupyter打开之后无法直接跳转浏览器 解决方法: 1、 生成配置文件jupyter notebook --generate-config 2、打开jupyter_notebook_config.py,在文件最后添加以下代码 选择你的浏览器位置 …

【深度学习】Win10安装TensorFlow_gpu(避坑必看)

不用gpu的tensorflow 是没有灵魂的Tensorflow 因为就是为了快!快二十倍 FIRST Q:系统及显卡版本问题!!!! 到官网看!别看别的博客 ~链接: Windows端:https://tensorflow.google.cn/install/source_wind…

SCL定时 1500_iPhone12开售当天黄牛加价1500,哪里买最划算?

10月23日,苹果iPhone12全系列正式开售。首批货源非常抢手,各地的苹果商店门口都排起了长队,现场黄牛甚至加价1500元收购用户手机。开卖首日热度高,官方最快一周发货据苹果官网介绍,此次iPhone12系列共有4款机型&#x…

Web开发基础

-------------------siwuxie095 HTML HTML 即 HyperText Markup Language,超文本标记语言 由服务器返回,浏览器呈现 服务器 即 HTTP 服务器,如:Apache、Nginx、Tomcat 一段 HTML 代码,可以是存放在 HTTP 服务器上的一个…

【FFmpeg】Win10环境下安装FFmpeg(实现视频音频提取裁剪等)

FFmpeg概述 在语音识别领域内,如何识别准确识别语音的第一步就是要将从音频文件中提取相关语音特征。同时对于各大语音接口如百度对于音频文件格式要求高,但是对于实际情况下,我们不可能都能拿到WAV文件,因此必须将首先将各种格式…

个人财务管理系统有源码怎么用_微信里的客户怎么管理?用鱼汛微信管理系统...

鱼汛工作手机是一款[1]销售微信管理系统,具有微信分析、电话分析、客户分析、绩效分析、安全管控、使用管控等六大功能,真正实现安全,高效,可管理!鱼汛手机能为企业带来什么价值?随着沟通方式的变革&#x…

另一个分区工具:GNU 的 parted(转)

利用 GNU 的 parted 进行分割行为 虽然你可以使用 fdisk 很快速的将你的分割槽切割妥当,不过 fdisk 却无法支持到高于 2TB 以上的分割槽! 此时就得需要 parted 来处理了。不要觉得 2TB 你用不着! 2009 年的现在已经有单颗硬盘高达 2TB 的容量…

《简明电路分析》——导读

本节书摘来自华章社区《简明电路分析》一书中的目录,作者钟洪声 吴 涛 孙利佳,更多章节内容可以访问云栖社区“华章社区”公众号查看 目 录 前  言教学建议第一部分 电阻电路分析第1章 电路基本约束关系 1.1 电路与电路模型 1.2 电学主要参数…

【深度学习】Tensorflow的基本操作

图 TensorFlow程序通常被组织成一个构建阶段和一个执行阶段. 在构建阶段, op的执行步骤被描述成一个图. 在执行阶段, 使用会话执行执行图中的op。我们来构建一个简单的计算图。每个节点采用零个或多个张量作为输入,并产生张量作为输出。一种类型的节点是一个常数。…

unity塔防游戏怪物转向_Unity官方新手游戏项目推荐合集

Unity官方新手游戏项目推荐合集今天给同学们介绍一些Unity官方发布过的一些游戏项目,这些项目都简化了游戏开发的入门学习过程,可以快速地制作出游戏,适合新手入门体验,下面就带同学们看一看:Unity Playground图片来源…

【BZOJ 4169】 4169: Lmc的游戏 (树形DP)

4169: Lmc的游戏 Time Limit: 10 Sec Memory Limit: 128 MBSubmit: 44 Solved: 25Description RHL有一天看到lmc在玩一个游戏。"愚蠢的人类哟,what are you doing",RHL说。"我在玩一个游戏。现在这里有一个有n个结点的有根树&#xff0…

【深度学习】Tensorflow完成线性回归对比机器学习LinearRegression()

首先构建一个线性的点状图 import warnings warnings.filterwarnings(ignore) import numpy as np import matplotlib.pyplot as plt %matplotlib inline from sklearn.linear_model import LinearRegression import tensorflow as tf X np.linspace(2,12,50).reshape(-1,1)w…