[Kesci] 新人赛 · 员工满意度预测

文章目录

    • 1. 导入工具包
    • 2. 读取数据
    • 3. 特征处理
      • 3.1 数字特征归一化
      • 3.2 文字特征处理
      • 3.3 特征合并
    • 4. 定义模型训练
    • 5. 预测
    • 6. 新人赛结果

竞赛地址

使用 sklearn Pipeline 模板

1. 导入工具包

%matplotlib inline
import numpy as np
import matplotlib.pyplot as plt
plt.rcParams['figure.facecolor']=(1,1,1,1) # pycharm 绘图白底,看得清坐标
import pandas as pd
import seaborn as sns
from sklearn import preprocessing
from sklearn.linear_model import LinearRegression as lr
from sklearn.ensemble import RandomForestRegressor as rf
from sklearn.model_selection import train_test_split,cross_val_score
from sklearn.metrics import *
from sklearn.preprocessing import OneHotEncoder,LabelEncoder,OrdinalEncoder

2. 读取数据

在这里插入图片描述

# 读取数据
tr_data = pd.read_csv("train.csv",index_col='id')
X_test = pd.read_csv("test.csv",index_col='id') # test不含标签tr_data.head(10)
tr_data.corr() # 相关系数
sns.regplot(x=tr_data.index, y=tr_data['satisfaction_level'])

在这里插入图片描述
可以看出 上一次的评分、有没有工伤、过去5年有没有晋升 跟 满意度 呈正相关系数
在这里插入图片描述
可以看出 id 跟满意度,没有特别强的关系,可以不作为特征

3. 特征处理

# X丢弃标签
X = tr_data.drop(['satisfaction_level'], axis=1) 
y = tr_data['satisfaction_level']# 切分数据
X_train, X_valid, y_train, y_valid = train_test_split(X, y,test_size=0.2,random_state=1)# 特征列名
feature = X_train.columns
print(feature)# 查看文字特征列
s = (X_train.dtypes == 'object')
object_cols = list(s[s].index)
print(object_cols)# 查看标签数据
y_train
# 查看标签值,是一系列的浮点数
pd.unique(y_train)

3.1 数字特征归一化

  • 对数字特征归一化,避免量纲不一样造成的权重差异
# 数字特征,丢弃文字特征列
num_X_train = X_train.drop(object_cols, axis=1)
num_X_valid = X_valid.drop(object_cols, axis=1)
num_X_test = X_test.drop(object_cols, axis=1)# 定义归一化转换器
X_scale = preprocessing.StandardScaler()
X_scale.fit_transform(num_X_train)# 转化后的数据是 numpy 数组
num_X_train_data = X_scale.fit_transform(num_X_train)
num_X_valid_data = X_scale.transform(num_X_valid)
num_X_test_data = X_scale.transform(num_X_test)# 转换后的 numpy 数组,转成 pandas 的 DataFrame
num_X_train_scale = pd.DataFrame(num_X_train_data)
# 特征列名称也要重新填上
num_X_train_scale.columns = num_X_train.columnsnum_X_valid_scale = pd.DataFrame(num_X_valid_data)
num_X_valid_scale.columns = num_X_valid.columnsnum_X_test_scale = pd.DataFrame(num_X_test_data)
num_X_test_scale.columns = num_X_test.columns# index 丢失,重新赋值
num_X_train_scale.index = num_X_train.index
num_X_valid_scale.index = num_X_valid.index
num_X_test_scale.index = num_X_test.index

3.2 文字特征处理

  • 先检查数据集之间的特征的数值种类是否有差异,防止编码转换出错
# 检查是否有列中,数据集之间的值的种类有差异,防止编码transform出错,经检查没有bad
good_label_cols = [col for col in object_cols ifset(X_train[col]) == set(X_valid[col])]# Problematic columns that will be dropped from the dataset
bad_label_cols = list(set(object_cols)-set(good_label_cols))good_label_cols = [col for col in object_cols ifset(X_train[col]) == set(X_test[col])]# Problematic columns that will be dropped from the dataset
bad_label_cols = list(set(object_cols)-set(good_label_cols))

经检查,数据集之间的值没有独自特有的,可以放心使用

# 文字特征
cat_X_train = X_train[good_label_cols]
cat_X_valid = X_valid[good_label_cols]
cat_X_test = X_test[good_label_cols]
# 文字特征转换成数字特征
labEncoder = LabelEncoder()
for f in set(good_label_cols):cat_X_train[f] = labEncoder.fit_transform(cat_X_train[f])cat_X_valid[f] = labEncoder.transform(cat_X_valid[f])cat_X_test[f] = labEncoder.transform(cat_X_test[f])

3.3 特征合并

  • 处理后的数字特征与文字特征合并
# 同样的,index需要重新赋值,不操作此步,合并后的数据由于index不一样,行数变多
cat_X_train.index = X_train.index
X_train_final = pd.concat([num_X_train_scale, cat_X_train], axis=1)cat_X_valid.index = X_valid.index
X_valid_final = pd.concat([num_X_valid_scale, cat_X_valid], axis=1)cat_X_test.index = X_test.index
X_test_final = pd.concat([num_X_test_scale, cat_X_test], axis=1)

4. 定义模型训练

  • 定义随机森林回归模型
model1 = rf(n_estimators=100)
model1.fit(X_train_final, y_train)
# cross_val_score(model1,X_train_final,y_train,cv=10,scoring='neg_mean_squared_error')
y_pred_valid = model1.predict(X_valid_final)
mean_absolute_error(y_pred_valid, y_valid)
# 验证集上的误差
0.1364085458333333

5. 预测

  • 对 test 数据集进行预测
y_pred_test = model1.predict(X_test_final)
result = pd.DataFrame()
result['id'] = X_test.index
result['satisfaction_level'] = y_pred_test
result.to_csv('firstsubmit.csv',index=False)

6. 新人赛结果

  • 误差暂时最小,位列第一名
    在这里插入图片描述
Public分数版本变化
0.030955617695980337数字特征无归一化,随机森林n=100
0.03099638771607572数字特征归一化,随机森林n=100
0.05741940132765499数字特征无归一化,逻辑斯谛回归
0.05741940132765499数字特征归一化,逻辑斯谛回归

数字特征归一化对LR模型没有影响???

归一化都无效,可能跟实际情况相关;有效无效,得从训练速度+测试结果来衡量。

  • 比如,存在严重的特征淹没问题,归一化就有效
  • 不存在特征淹没问题,归一化就无效

归一化的价值在于两点:(1)提升训练速度;(2)克服特征淹没问题。

特征淹没,一般存在与线性模型中;树模型,各个特征不同时使用,可能真不存在特征淹没问题

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/475682.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

webusercontrol ajax,ASP.NET页面使用AjaxPro2完成JS调用后台方法

一、首先下载AjaxPro.2.dll(附下载地址)百度网盘链接:https://pan.baidu.com/s/1r87DE1Tza9F4NbJwTCS1AQ提取码:10p6二、在Visual studio中创建空Web项目,并将AjaxPro.2.dll复制到bin目录下,包括在项目中三、打开Web.config文件&a…

LeetCode 1109. 航班预订统计(差分思想)

1. 题目 这里有 n 个航班,它们分别从 1 到 n 进行编号。 我们这儿有一份航班预订表,表中第 i 条预订记录 bookings[i] [i, j, k] 意味着我们在从 i 到 j 的每个航班上预订了 k 个座位。 请你返回一个长度为 n 的数组 answer,按航班编号顺…

王者荣耀8月15日服务器维护,王者荣耀8月15日更新维护到什么时候 王者荣耀8月15日更新时间分享...

《王者荣耀》5V5英雄公平对战手游,腾讯最新MOBA大作!5V5、3v3、1v1,多样模式一键体验,海量英雄随心选择!10秒实时跨区匹配,与好友组队...类型:动作冒险大小:792.06M语言:…

LeetCode 84. 柱状图中最大的矩形(单调递增栈)

文章目录1. 题目2. 解题1. 题目 题目链接 给定 n 个非负整数,用来表示柱状图中各个柱子的高度。每个柱子彼此相邻,且宽度为 1 。 求在该柱状图中,能够勾勒出来的矩形的最大面积。 以上是柱状图的示例,其中每个柱子的宽度为 1&am…

LeetCode 第 27 场双周赛(1125/1966,前57.2%)

文章目录1. 比赛结果2. 题目1. LeetCode 5408. 通过翻转子数组使两个数组相等 easy2. LeetCode 5409. 检查一个字符串是否包含所有长度为 K 的二进制子串 medium3. LeetCode 5410. 课程安排 IV medium (Floyd-Warshall)4. LeetCode 5411. 摘樱桃 II hard…

修改mysql文件的存储路径

使用本地数据库时,常常会发生磁盘爆满变红的情况,特别是C盘,这时候我们希望将mysql本地数据库存储的文件移动到D盘或者E盘,下面是手动调整的办法:1.关闭mysql服务; 左下角开始处输入“服务”,回…

Dynamic programming solving ULS

转载于:https://www.cnblogs.com/elitez/archive/2011/04/21/2024095.html

Excel里,vlookup函数各种应用-匹配多列、多条件匹配

1.vlookup函数常规应用:一个条件匹一列数据; 示例公式:VLOOKUP(A2,test!$A$2:$B$53,2,0) 其中:A2是目标表的匹配条件(学号);test!$A$2:$B$53是被匹配表的数据列;2是指被匹配数据列…

LeetCode 1466. 重新规划路线(DFS/BFS)

文章目录1. 题目2. 解题2.1 DFS2.2 BFS1. 题目 n 座城市,从 0 到 n-1 编号,其间共有 n-1 条路线。因此,要想在两座不同城市之间旅行只有唯一一条路线可供选择(路线网形成一颗树)。 去年,交通运输部决定重新…

MySQL 基本查询、条件查询、投影查询

文章目录1. 基本查询2. 条件查询3. 投影查询练习 LeetCode 595. 大的国家练习 LeetCode 584. 寻找用户推荐人练习 LeetCode 1173. 即时食物配送 I练习 LeetCode 610. 判断三角形学习自 廖雪峰的官方网站 1. 基本查询 SELECT * FROM <表名>*表示所有内容 许多检测工具…

解决mysql导出scv文件乱码、蹿行的问题

工作原因&#xff0c;常常不能实现完全的线上化&#xff08;即&#xff0c;所有数据都在线上完成&#xff0c;不需要导入导出&#xff09;&#xff0c;而导出Excel常常比修炼成仙还慢&#xff0c;因此&#xff0c;我们将数据库文件导出到本地使用的时候&#xff0c;常常使用的方…

MySQL 排序、分页查询、聚合查询

文章目录1. 排序2. 分页查询3. 聚合查询3.1 分组聚合 GROUP BY练习 LeetCode 176. 第二高的薪水练习 LeetCode 177. 第N高的薪水练习 LeetCode 182. 查找重复的电子邮箱练习 LeetCode 620. 有趣的电影练习 LeetCode 183. 从不订购的客户练习 LeetCode 596. 超过5名学生的课练习…

解决mysql导数据时,格式不对、导入慢、丢数据的问题

如果希望一劳永逸的解决慢的问题&#xff0c;不妨把你的mysql升级到mysql8.0吧&#xff0c;mysql8.0默认的字符集已经从latin1改为utf8mb4&#xff0c;因此现在UTF8的速度要快得多&#xff0c;在特定查询时速度提高了1800&#xff05;&#xff01; mysql8.0 安装教程但是如果时…

MySQL 多表查询、连接查询(内连接、外连接)

文章目录1. 多表查询2. 连接查询练习 LeetCode 175. 组合两个表练习 LeetCode 181. 超过经理收入的员工练习 LeetCode 1378. 使用唯一标识码替换员工ID练习 LeetCode 1068. 产品销售分析 I练习 LeetCode 1069. 产品销售分析 II练习 LeetCode 1303. 求团队人数练习 LeetCode 135…

mysql行列转置-图文详解

我们想跑一个数据&#xff0c;格式如下图&#xff1a;但是我们一般的mysql语句跑出来的数据却是下面这样&#xff0c;不但不方便查看&#xff0c;在数据量比较大的时候&#xff0c;我们需要每个地区都转置粘贴一遍&#xff0c;耗时耗力还容易出错&#xff0c;下面提供一个方法&…

MySQL 增加、更新、删除

文章目录1. 增加 INSERT2. 更新 UPDATE3. 删除 DELETE练习 LeetCode 196. 删除重复的电子邮箱练习 LeetCode 627. 交换工资学习自 廖雪峰的官方网站 1. 增加 INSERT 添加一条记录 INSERT INTO <表名> (字段1, 字段2, ...) VALUES (值1, 值2, ...);INSERT INTO student…

mysql去重取最大值,逻辑类似oracle的over(partition by)函数

像下表一样的数据&#xff0c;有重复的合同号&#xff0c;但是我只想保留同一合同号中回款金额最大的那一行&#xff0c;也就是图中红框里的数据。oracle方法&#xff1a;在oracle中&#xff0c;我们可以简单地用over(partition by)函数处理&#xff08;代码示例如下&#xff0…

mysql一图秒懂秒清晰 - join连接 ,left join左连接 ,right join右连接 ,inner join内连接

前言&#xff1a;zuo表和you表短短五行涵盖了数据中所有可能遇见的情况&#xff1a; 1.左表有重复值&#xff08;合同号1134&#xff09;&#xff1b; 2.右表有重复值&#xff08;合同号1133&#xff09;&#xff1b; 3.左表存在右表没有的合同号&#xff08;合同号1188&#x…

LeetCode 910. 最小差值 II(贪心)

1. 题目 给定一个整数数组 A&#xff0c;对于每个整数 A[i]&#xff0c;我们可以选择 x -K 或是 x K&#xff0c;并将 x 加到 A[i] 中。 在此过程之后&#xff0c;我们得到一些数组 B。 返回 B 的最大值和 B 的最小值之间可能存在的最小差值。 示例 1&#xff1a; 输入&a…

行业分析-实战价值方法

都是工作中总结的方法&#xff0c;可能理论基础不是那么高大上&#xff0c;但是非常有实战价值。 1.行业研究维度 2.行业景气度 3.行业间关系(敏感性计算) 4.行业成长性