【Python】数据挖掘与机器学习(一)

大家好我是寸铁👊
总结了一篇【Python】数据挖掘与机器学习(一)sparkles:
喜欢的小伙伴可以点点关注 💝

【实验1】预测鲍鱼年龄

问题描述

请从一份数据中预测鲍鱼的年龄，数据集在abalone.cvs中，数据集一共有4177 个样本，每个样本有9个特征。其中rings为鲍鱼环数，鲍鱼每一年长一环，类似树轮，是预测
变量，sex属性已经经过处理，M=1表示雄性、F=-1表示雌性、I=0表示幼体。有9列数据，分别是:

在这里插入图片描述

要求

(1)给出回归模型，给出线性回归模型的回归系数，以及
(2)需要分训练数据与测试数据，采用训练数据学习，给出R2，采用测试数据计算MSE.

代码

import sklearn
import tensorflow as tf
import numpy as np
import pandas
import sklearn.model_selection as ms
import matplotlib.pyplot as pltdef main():df = pandas.read_csv('abalone.csv')df = df.valuesy = df[:, [-1]].astype('float32')  # 提取第9 列x = df[:, 1:8].astype('float32')  # 提取1-8 列sex = df[:, 0].astype('float32')  # 取出第0 列，后续要转换成2 个哑元male = sex == 1female = sex == -1oneMa = np.zeros((len(sex), 1), dtype='float32')  # 雄性oneFe = np.zeros((len(sex), 1), dtype='float32')  # 雌性oneMa[male] = 1oneFe[female] = 1ones = np.ones((len(x), 1), dtype='float32')  # 全是 1 的向量x = np.hstack((ones, oneMa, oneFe, x))  # 凑成一个 X 大矩阵print(x.shape)rows, cols = x.shapeweight = tf.Variable(tf.random.normal([cols, 1]), name='weight')# 生成一个 包含 bias 的 weight，对应 x 的列数def loss_fn(X, y):y_ = tf.matmul(X, weight)assert (y.shape == y_.shape)  # 确认维数一致，这一步很容易出错return tf.reduce_mean(tf.square(y_ - y)) / 2x_train, x_test, y_train, y_test = ms.train_test_split(x, y, test_size=0.3, random_state=32)print(x_train.shape)print(x_test.shape)print(y_train.shape)print(y_test.shape)print(weight)yy_ = tf.matmul(x_train, weight)err = sklearn.metrics.mean_squared_error(y_train, yy_)print(f'训练集 MSE： {err}')y_ = tf.matmul(x_test, weight)err = sklearn.metrics.mean_squared_error(y_test, y_)print(f'测试集 MSE： {err}')  # 测试集的 MSER2 = sklearn.metrics.r2_score(y_train, yy_)print(f'R2 = {R2}')plt.show()

【实验2】成年男性的听力实验

数据集hearing_test.csv 是对 5000 名参与者进行了一项实验，以研究年龄和身体健康对听力损失的影响，尤其是听高音的能力。此数据显示了研究结果对参与者进行了身体能力的评估和评分，然后必须进行音频测试（通过/不通过），以评估他们听到高频的能力。
特征：1.年龄age；2. 健康得分physical_score
标签：1通过/0不通过

要求

(1)采用以下方法读取数据，并给出可视化的显示效果

import seaborn as sns        
import pandas as pd 
(绘图包, pip install seaborn) 
import matplotlib.pyplot as plt 
df = pd.read_csv('hearing_test.csv') 
sns.scatterplot(x='age',y='physical_score',data=df,hue='test_result') 
sns.pairplot(df,hue='test_result') 
plt.show()              
由于show默认是阻塞，看完图后，要把它放在代码最后面

(2)采用以下方法得到数据

df = df.values 
x = df[:, [0, 1]]      
头两列对应age与physical_score - 3 - 
y = df[:, 2]            第三列对应是否通过

(3)把数据拆分为训练集与测试集，最后采用测试数据来验证模型

from sklearn.model_selection import train_test_split 
x_train, x_test, y_train, y_test = train_test_split(x, y,  test_size=0.4, random_state=2022)

(4)给出Logistic回归分类方法，给出二分类模型的权重，给出测试数据的散点图；
(5)模型性能评估：给出训练集与测试集的准确率 Accuracy、精确度 Precision 和召
回率Recall、F1score。
(6)选做：给出两类数据的分割直线。

代码

import seaborn as sns
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
from tensorflow.python.ops.confusion_matrix import confusion_matrix
from sklearn.metrics import accuracy_score
from sklearn.metrics import precision_score
from sklearn.metrics import recall_score
from sklearn.metrics import f1_scoredf = pd.read_csv('hearing_test.csv')
testA = df[df["test_result"] == 0].values
testB = df[df["test_result"] == 1].values
sns.scatterplot(x='age', y='physical_score', data=df, hue='test_result')
sns.pairplot(df, hue='test_result')
df = df.values
x = df[:, [0, 1]]  # 头两列对应 age 与 physical_score
y = df[:, 2]  # 第三列对应是否通过
x_train, x_test, y_train, y_test = train_test_split(x, y,test_size=0.4, random_state=2022)
model = LogisticRegression(fit_intercept=True).fit(x_train, y_train)
weight = model.coef_
bias = model.intercept_
print('权重：', weight, bias)
print('训练集准确率:', model.score(x_train, y_train))
print('测试集准确率:', model.score(x_test, y_test))
y_pred = model.predict(x_test)
print('混淆矩阵：\n', confusion_matrix(y_test, y_pred))print('accuracy:', accuracy_score(y_test, y_pred))
print('precision:', precision_score(y_test, y_pred))
print('recall:', recall_score(y_test, y_pred))
print('f1 score:', f1_score(y_test, y_pred))
x1_boundary, x2_boundary = [], []plt.figure()
plt.scatter(x1_boundary, x2_boundary, c='b', s=10)
plt.scatter(testA[:, 0], testA[:, 1], c='r', s=1)
plt.scatter(testB[:, 0], testB[:, 1], c='g', s=1)
plt.show()