机器学习：基于K-近邻(KNN)、高斯贝叶斯(GaussianNB)、SVC、随机森林(RF)、梯度提升树(GBDT)对葡萄酒质量进行预测

在这里插入图片描述

前言

系列专栏：机器学习：高级应用与实践【项目实战100+】【2024】✨︎
在本专栏中不仅包含一些适合初学者的最新机器学习项目，每个项目都处理一组不同的问题，包括监督和无监督学习、分类、回归和聚类，而且涉及创建深度学习模型、处理非结构化数据以及指导复杂的模型，如卷积神经网络、门控循环单元、大型语言模型和强化学习模型

我们提出了一种数据挖掘方法来预测人类的葡萄酒口味偏好，该方法基于认证步骤中易于获得的分析测试。考虑了一个大型数据集（与该领域的其他研究相比）。在同时执行变量和模型选择的计算高效程序下应用了五种回归技术。随机森林与梯度提升树取得了可喜的结果，优于多元回归和神经网络方法。这种模型有助于支持酿酒师的品酒评估和提高葡萄酒产量。此外，类似的技术可以通过对于市场的消费者口味进行建模来帮助进行目标营销。

目录

  • 1. 相关库和数据集
    • 1.1 相关库介绍
    • 1.2 数据集介绍
      • 1.2.1 加载数据
      • 1.2.2 描述统计
      • 1.2.3 数据信息
  • 2. 探索性数据分析
    • 2.1 特征分布（堆叠直方图）
    • 2.1 特征相关性（热力图）
    • 2.1 特征缩放（归一化）
  • 3. 数据建模（分类）
    • 3.1 数据准备（拆分为训练集和测试集）
    • 3.2 模型构建（KNN、GaussianNB、SVC、RF、DBDT）
  • 4. 模型评估

1. 相关库和数据集

1.1 相关库介绍

Python 库使我们能够非常轻松地处理数据并使用一行代码执行典型和复杂的任务。

  • Pandas – 该库有助于以 2D 数组格式加载数据框，并具有多种功能，可一次性执行分析任务。
  • Numpy – Numpy 数组速度非常快，可以在很短的时间内执行大型计算。
  • Matplotlib/Seaborn – 此库用于绘制可视化效果，用于展现数据之间的相互关系。
  • Sklearn – 包含多个库，这些库具有预实现的功能，用于执行从数据预处理到模型开发和评估的任务。
import numpy as np
import pandas as pd
import seaborn as sns
import matplotlib.pyplot as plt
from matplotlib.colors import ListedColormapfrom sklearn.preprocessing import MinMaxScaler
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score, confusion_matrix, roc_auc_scorefrom sklearn.neighbors import KNeighborsClassifier
from sklearn.naive_bayes import GaussianNB
from sklearn.svm import SVC
from sklearn.ensemble import RandomForestClassifier
from sklearn.ensemble import GradientBoostingClassifier

1.2 数据集介绍

我们使用互联网上免费提供的葡萄酒质量数据集。该数据集具有影响葡萄酒质量的基本特征。通过使用几个机器学习模型，我们将预测葡萄酒的质量。

FeatureExplain
fixed aciditymost acids involved with wine or fixed or nonvolatile
volatile aciditythe amount of acetic acid in wine
citric acidthe amount of citric acid in wine
residual sugarthe amount of sugar remaining after fermentation stops
chloridesthe amount of salt in the wine.
free sulfur dioxidethe amount of free sulfur dioxide in the wine(those available to react and thus exhibit both germicidal and antioxidant properties)
total sulfur dioxideamount of free and bound forms of SO2
densitythe measurement of how tightly a material is packed together
PHdescribes how acidic or basic a wine is on a scale from 0 (very acidic) to 14 (very basic); most wines are between 3-4
Alcoholthe percent alcohol content of the wine
qualityoutput variable (based on sensory data, score between 3 and 8)

1.2.1 加载数据

# Read in white wine data
# df = pd.read_csv("http://archive.ics.uci.edu/ml/machine-learning-databases/wine-quality/winequality-white.csv", sep =';')# Read in red wine data
# df = pd.read_csv("http://archive.ics.uci.edu/ml/machine-learning-databases/wine-quality/winequality-red.csv", sep =';')
df = pd.read_csv('winequality-red.csv', sep =';')

1.2.2 描述统计

.describe()生成描述性统计信息。描述性统计包括总结数据集分布的中心趋势、分散度和形状的统计，不包括NaN值。
分析数字序列和对象序列，以及混合数据类型的DataFrame列集。

# Describe `df`
df.describe().T.style.background_gradient(axis=0)

描述性统计

1.2.3 数据信息

.info()方法打印有关DataFrame的信息，包括索引dtype和列、非null值以及内存使用情况。

df.info()

数据信息

2. 探索性数据分析

EDA是一种使用视觉技术分析数据的方法。它用于发现趋势和模式，或借助统计摘要和图形表示来检查假设。现在，让我们检查数据集列中的空值数。

df.isnull().sum()

检查

2.1 特征分布（堆叠直方图）

让我们绘制堆叠直方图，直观显示数据集列中连续值的分布情况。

sns.set_theme(style="white")
long_df = df.melt(var_name='category', value_name='value')# Initialize the figure with a logarithmic x axis
fig, axes = plt.subplots(nrows=4, ncols=3, figsize=(30, 24))
axes = axes.ravel()  # 将多维数组展平为一维数组# 计算每行每列应该绘制的列索引
for i, ax in enumerate(axes[:len(df.columns)]):row, col = divmod(i, 3)sns.histplot(data=df, x=df.columns[i], ax=ax, hue="quality", stat='frequency', multiple='stack',palette=sns.color_palette(n_colors=6))ax.set_title(df.columns[i])  # 设置子图标题ax.set_xlabel('Value')  # 设置x轴标签# 隐藏超出数据范围的子图
for ax in axes[len(df.columns):]:ax.axis('off')plt.tight_layout()
plt.show()

堆叠直方图

2.1 特征相关性（热力图）

sns.heatmap(df.corr(), annot=True, fmt='.1f', linewidth=0.25, annot_kws={"fontsize": 8}, cmap='Purples', square=True)

特征相关性
从上面的热图中，我们可以得出结论，“总二氧化硫”和“游离二氧化硫”是高度相关的特征

sns.pairplot(df, hue='quality', corner = True, palette='Purples')

在这里插入图片描述

2.1 特征缩放（归一化）

MinMaxScaler 是 scikit-learn（一个流行的 Python 机器学习库）中的一个实用工具，用于特征缩放。它通过对每个特征进行最小-最大缩放（也称为归一化）来将特征值转换到一个指定的范围，通常是 [0, 1]。 最小-最大缩放是一种常用的特征预处理技术，特别是在使用那些基于距离的算法（如 k-最近邻、支持向量机、神经网络等）时。这是因为不同的特征可能具有不同的量纲或单位，这可能会导致某些特征在算法中占据主导地位。通过缩放，可以确保所有特征都在相同的范围内，从而避免这种情况。

MinMaxScaler 的主要功能是：

对每个特征进行缩放，使其值在 [0, 1] 范围内。 它是无参数的，这意味着它不需要估计任何参数（如均值和标准差）。 它是可逆的，意味着你可以从缩放后的数据恢复到原始数据。

# Create X from DataFrame and y as Target
X_temp = df.drop(columns='quality', axis=1)
scaler = MinMaxScaler(feature_range=(0, 1)).fit_transform(X_temp)
features = pd.DataFrame(scaler, columns=X_temp.columns)df['best quality'] = [1 if x > 5 else 0 for x in df.quality]
target = df['best quality']features.describe().T.style.background_gradient(axis=0, cmap='Purples')

特征缩放

3. 数据建模（分类）

3.1 数据准备（拆分为训练集和测试集）

让我们准备好用于训练的数据，并将其分为训练数据和验证数据，这样我们就能根据用例选择性能最佳的模型。我们将训练一些最先进的机器学习分类模型，然后使用验证数据从中选出最佳模型。

# Splitting the data set for training and validating 
X_train, X_val,\Y_train, Y_val = train_test_split(features, target,test_size=0.2,random_state=10)
X_train.shape, X_val.shape

((1279, 11), (320, 11))

3.2 模型构建（KNN、GaussianNB、SVC、RF、DBDT）

models = [KNeighborsClassifier(), GaussianNB(), SVC(kernel='rbf'),\GradientBoostingClassifier(), RandomForestClassifier()]# 循环遍历每个分类器
for i in range(len(models)):models[i].fit(X_train, Y_train)print(f'{models[i]} : ')train_preds = models[i].predict(X_train)print('Training Accuracy : ', accuracy_score(Y_train, train_preds))val_preds = models[i].predict(X_val)print('Validation Accuracy : ', accuracy_score(Y_val, val_preds))print()

分类器

4. 模型评估

从上述精度中，我们可以说随机森林分类器在验证数据上表现更好，验证数据和训练数据之间的差异较小。让我们使用随机森林模型绘制验证数据的混淆矩阵。

models = [KNeighborsClassifier(), GaussianNB(), SVC(kernel='rbf'),\GradientBoostingClassifier(), RandomForestClassifier()]# 循环遍历每个分类器
for i in range(len(models)):# 训练分类器models[i].fit(X_train, Y_train)# 在验证集上进行预测val_preds = models[i].predict(X_val)# 显示混淆矩阵metrics.ConfusionMatrixDisplay.from_estimator(models[i], X_val, Y_val, cmap=sns.cubehelix_palette(dark=.20, light=.95, as_cmap=True))plt.title(f'Confusion Matrix for {models[i].__class__.__name__}')plt.show()print(f'{models[i].__class__.__name__} : ')print(metrics.classification_report(Y_val, models[i].predict(X_val)))

混淆矩阵

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/pingmian/6581.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

linux上如何排查JVM内存过高？

linux上如何排查JVM内存过高？

怎么排查JVM内存过高？ 前言： 想必工作一两年以后的同学都会逐渐面临到，jvm等问题，但是可能苦于无法熟练的使用一些工具；本文将介绍几个比较常用分析工具的使用方法，带着大家一步步定位分析问题。 1、top 查…
阅读更多...
springmvc下

springmvc下

第二类初始化操作 multipartResolver应用 localeResolver应用 themeResolver应用 handlerMapping应用 handlerAdapter应用 handlerExceptionReslver requestToViewNameTranslator应用 viewResolver应用 flashMapManager应用 dispatcherServlet逻辑处理 processRequest处理web请…
阅读更多...
目标跟踪—卡尔曼滤波

目标跟踪—卡尔曼滤波

目标跟踪—卡尔曼滤波 卡尔曼滤波引入 滤波是将信号中特定波段频率滤除的操作，是抑制和防止干扰的一项重要措施。是根据观察某一随机过程的结果，对另一与之有关的随机过程进行估计的概率理论与方法。 历史上最早考虑的是维纳滤波，后来R.E.卡…
阅读更多...
【C语言】分支和循环（上）

【C语言】分支和循环（上）

【C语言】分支和循环（上） 1、if语句1.2 else1.3分支中包含多条语句1.4嵌套if1.5悬空else问题 2、关系操作符3、条件操作符4、逻辑操作符：与、或、非（取反）（&&，||，&#xff0…
阅读更多...
小猪APP分发平台 – 掌握移动应用的推广新途径

小猪APP分发平台 – 掌握移动应用的推广新途径

在移动互联网高速发展的背景下小猪APP分发平台 – 掌握移动应用的推广新途径，app分发已成为开发者和企业关注的重点。小猪APP分发平台作为行业内的新星小猪APP分发平台 – 掌握移动应用的推广新途径，提供了一个创新且高效的方式帮助开发者推广他们的应用…
阅读更多...
ZOC8 for Mac v8.08.1激活版：卓越性能的SSH客户端

ZOC8 for Mac v8.08.1激活版：卓越性能的SSH客户端

在远程连接和管理的世界中，ZOC8 for Mac以其卓越的性能和丰富的功能，成为了众多专业人士的首选SSH客户端。它支持SSH1、SSH2、Telnet、Rlogin、Serial等多种协议，让您轻松连接到远程服务器。ZOC8拥有简洁直观的界面和强大的功能设置&#xff…
阅读更多...
SQL 基础 | JOIN 操作介绍

SQL 基础 | JOIN 操作介绍

在SQL中，JOIN是一种强大的功能，用于将两个或多个表中的行结合起来，基于相关的列之间的关系。 JOIN操作通常用在SELECT语句中，以便从多个表中检索数据。 以下是几种基本的JOIN类型以及它们的用法： INNER JOIN&#xff1…
阅读更多...
STM32 串口IDLE接收空闲中断+DMA

STM32 串口IDLE接收空闲中断+DMA

参考 http://t.csdnimg.cn/fAV38 1.基础知识 STM32 IDLE 接收空闲中断 功能： 在使用串口接受字符串时，可以使用空闲中断（IDLEIE置1，即可使能空闲中断），这样在接收完一个字符串，进入空闲状态时&…
阅读更多...
（三）Appdesigner-界面转换及数据导入和保存

（三）Appdesigner-界面转换及数据导入和保存

提示：文章为系列文章，可以在对应学习专栏里面进行学习。对应资源已上传 目录 前言 一、Appdesigner是什么？ 二、界面切换 三、数据导入及保存 （一）数据导入 （二）数据保存 总结 前言 Appd…
阅读更多...
ubuntu搭建kms服务器

ubuntu搭建kms服务器

1.下载kms开源包(如果提示找不到wget命令的话:apt install wget): wget https://github.com/Wind4/vlmcsd/releases/download/svn1111/binaries.tar.gz2.解压: tar -xzvf binaries.tar.gz接着cd 进入 Linux/intel/static/ 文件夹下: 3.选择对应的文件，这里我们选…
阅读更多...
C++:继承-继承权限

C++:继承-继承权限

在C中，类的权限分为公有、私有和保护三种。这些权限控制了类的成员（数据成员和成员函数）对外部代码的可见性和访问性。 公有（public）权限： 在公有权限下声明的成员可以被类的外部代码直接访问；公…
阅读更多...
第十篇：深入文件夹：Python中的文件管理和自动化技术

第十篇：深入文件夹：Python中的文件管理和自动化技术

深入文件夹：Python中的文件管理和自动化技术 1 文件系统基础操作 在今天的技术博客中，我们将深入探讨Python中的文件系统基础操作。文件系统对于任何操作系统都是不可或缺的组成部分，它管理着数据的存储、检索以及维护。Python通过其标准库中…
阅读更多...
【Linux 进程】 自定义shell

【Linux 进程】 自定义shell

目录 关于shell 1.打印提示符&&获取用户命令字符​编辑 2.分割字符串 3.检查是否为内建命令 cd命令 export命令 echo命令 1.输出最后一个执行的命令的状态退出码（返回码） 2.输出指定环境变量 4.执行外部命令 关于shell Shell 是计算机操…
阅读更多...
免费开源，无需 GPU，本地化部署大语言模型的对话系统

免费开源，无需 GPU，本地化部署大语言模型的对话系统

免费开源，无需 GPU，本地化部署大语言模型的对话系统 分类 编程技术 项目名: FreeAskInternet -- 本地化部署大语言模型的对话系统 Github 开源地址： https://github.com/nashsu/FreeAskInternet FreeAskInternet 是一个免费开源的工具&am…
阅读更多...
Kotlin: Expecting a ‘＞‘

Kotlin: Expecting a ‘＞‘

数组值为任意类型&#xff0c;声明报错: Kotlin: Expecting a > var anyArr1: Array<Any?> arrayOf("a", "b", "c", true, 34)原因是&#xff1a; // var anyArr1: Array<Any?> arrayOf("a", "b", "c…
阅读更多...
发电厂智能巡检机器人：让发电厂更安全、更高效

发电厂智能巡检机器人：让发电厂更安全、更高效

在发电厂的众多应用场景中&#xff0c;升压站、化学车间、空冷塔、输煤皮带、综合管廊等&#xff0c;一直以来都是人工巡检的主战场。然而&#xff0c;这些场所环境极为复杂&#xff0c;人工巡检面临着诸多难题&#xff0c;强度大、频率低、间隔长等问题突出。这使得设备在运行…
阅读更多...
c++多线程基础

c++多线程基础

简介 c多线程基础需要掌握这三个标准库&#xff1a;std::thread, std::mutex, and std::async。 1. Hello, world #include <iostream> #include <thread>void hello() { std::cout << "Hello Concurrent World!\n"; }int main() {std::thread…
阅读更多...
[NSSCTF]prize_p2

[NSSCTF]prize_p2

题目 打开是一段js代码 // 导入所需的模块 const { randomBytes } require(crypto); // 导入 crypto 模块&#xff0c;用于生成随机字节 const express require(express); // 导入 Express.js 模块&#xff0c;用于构建 Web 应用程序 const fs require(fs); // 导入文件系…
阅读更多...
论文笔记：（Security 22） 关于“二进制函数相似性检测”的调研

论文笔记：（Security 22） 关于“二进制函数相似性检测”的调研

个人博客链接 注&#xff1a;部分内容参考自GPT生成的内容 [Security 22] 关于”二进制函数相似性检测“的调研&#xff08;个人阅读笔记&#xff09; 论文&#xff1a;《How Machine Learning Is Solving the Binary Function Similarity Problem》&#xff08;Usenix Securi…
阅读更多...
Golang中实现调用Windows API向指定目标发送ARP请求

Golang中实现调用Windows API向指定目标发送ARP请求

简介 Go库中很多实现的arp都是支持osx/linux/bsd之类的&#xff0c; 但几乎没有支持windows的&#xff0c; 也试了一些方式&#xff0c; 目前还是选用调用windows的API&#xff0c; 记录一下这一次windows的API的调用经验。 实现 代码 package main/* #cgo CFLAGS: -I. #cgo …
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023