PYTHON基础：线性算法--线性回归｜岭回归｜套索回归模型

常用的三种线性模型算法–线性回归模型、岭回归模型、套索回归模型

线性模型基本概念
线性模型的一般预测模型是下面这个样子的，一般有多个变量，也可以称为多个特征x1、x2、x3 …
在这里插入图片描述
最简单的线性模型就是一条直线直线的方程式，b0是截距，b1是斜率
在这里插入图片描述
比如说我们的画一条直线：y=0.5*x+3，他是最简单的线性模型

import numpy as np
import matplotlib.pyplot as plt 
#生成-5到5的元素数为100的数组
x=np.linspace(-5,5,100)
#输入直线方程
y=0.5*x+3
plt.plot(x,y,c='orange')
#图标题
plt.title('straight line')
plt.show()

这段代码使用NumPy和Matplotlib库创建了一条直线图。

首先，通过np.linspace(-5, 5, 100)生成了一个包含100个元素的数组x，范围从-5到5。这个数组用来表示x轴上的数据点。

接下来，定义了直线的方程y = 0.5*x + 3，这里使用了NumPy的广播机制，在整个数组x上进行运算得到对应的y值。

然后，使用plt.plot(x, y, c=‘orange’)绘制了直线图，传入了x和y作为坐标数据，并设置了颜色为橙色。

通过plt.title(‘straight line’)设置了图表的标题为’straight line’。

最后使用plt.show()显示了生成的直线图。
在这里插入图片描述

在初中的数学我们都知道是两点确定一条直线，比如说下面我们根据（1，3）、（4，5）来画出一条直线

import numpy as np
import matplotlib.pyplot as plt 
#导入线性回归模型
from sklearn.linear_model import LinearRegression 
#导入横纵坐标
X=[[1],[4]]
y=[3,5]
#线性拟合
lr=LinearRegression().fit(X,y)
#画图
z=np.linspace(0,5,20)
plt.scatter(X,y,s=80)
plt.plot(z,lr.predict(z.reshape(-1,1)),c='k')
plt.title('Straight Line')
plt.show()print('\n\n\n 直线方程：')
print('=======\n')
print('y={:.3f}'.format(lr.coef_[0]),'x','+{:.3f}'.format(lr.intercept_))
print('=======\n')
print('\n\n\n')直线方程：
=======y=0.667 x +2.333
=======

这段代码使用了NumPy、Matplotlib和scikit-learn库，实现了对一组数据进行线性拟合，并可视化展示结果。

首先通过import语句导入了需要的三个库。

然后定义了两个变量X和y，分别表示输入的横纵坐标数据。在本例中，X包含两个数据点，y包含两个对应的输出值。

接下来，使用LinearRegression()函数创建了一个线性回归模型，并使用fit()方法对输入数据进行拟合。

然后，通过np.linspace(0, 5, 20)创建了一个包含20个元素的数组z，用于绘制直线图表。使用plt.scatter()函数绘制了散点图，包含横纵坐标数据，s=80表示散点大小为80。使用lr.predict()方法对z进行预测，并使用plt.plot()函数将预测结果连接起来画出拟合的直线。

通过plt.title(‘Straight Line’)设置了图表的标题为’Straight Line’。

最后使用plt.show()显示了生成的直线图。

在代码末尾，使用print()语句输出了拟合得到的直线方程，通过lr.coef_和lr.intercept_得到斜率和截距，并使用字符串格式化将其输出。

整体而言，这段代码通过scikit-learn库实现了对一组数据进行线性拟合，并使用Matplotlib库将拟合结果可视化展示。图表具有标题和坐标轴标签等特性，使得数据更加易于理解和解读。

在这里插入图片描述

接下是三个点，我们多加一个点（3，3），你会看到当有多个点的时候直线没有办法穿过三个点，所以这个时候我们需要画出一条和三个点的距离和最小的直线

X=[[1],[4],[3]]
y=[3,5,3]
lr=LinearRegression().fit(X,y)
z=np.linspace(0,5,20)
plt.scatter(X,y,s=80)
plt.plot(z,lr.predict(z.reshape(-1,1)),c='k')
plt.title('Straight Line ')
plt.show()print('\n\n\n 直线方程：')
print('=======\n')
print('y={:.3f}'.format(lr.coef_[0]),'x','+{:.3f}'.format(lr.intercept_))
print('=======\n')
print('\n\n\n')直线方程：
=======y=0.571 x +2.143
=======

这段代码与前面的代码类似，只是在数据部分进行了一些修改。

在这段代码中，X的取值为[[1], [4], [3]]，y的取值为[3, 5, 3]，即有三个数据点的横纵坐标。

接着，使用LinearRegression()函数创建了一个线性回归模型，并使用fit()方法对输入数据进行拟合。

然后，通过np.linspace(0, 5, 20)创建了一个包含20个元素的数组z，用于绘制直线图表。使用plt.scatter()函数绘制了散点图，包含横纵坐标数据，s=80表示散点大小为80。使用lr.predict()方法对z进行预测，并使用plt.plot()函数将预测结果连接起来画出拟合的直线。

通过plt.title(‘Straight Line’)设置了图表的标题为’Straight Line’。

最后使用plt.show()显示了生成的直线图。

在代码末尾，使用print()语句输出了拟合得到的直线方程，通过lr.coef_和lr.intercept_得到斜率和截距，并使用字符串格式化将其输出。

在这里插入图片描述

下面如果我们用scikit-learn来生成非常多的点，这个时候用python的库来绘制一条最优解的曲线就显得非常方便了

from sklearn.datasets import make_regression 
#用于生产回归分析数据
X,y=make_regression(n_samples=50,n_features=1,n_informative=1,noise=50,random_state=1)
#使用线性模型拟合
reg=LinearRegression()
reg.fit(X,y)
#生产等差数列用来画图
z=np.linspace(-3,3,200).reshape(-1,1)
plt.scatter(X,y,c='b',s=60)
plt.plot(z,reg.predict(z),c='k')
plt.title('Linear Regression')print('\n\n\n 直线方程：')
print('=======\n')
print('y={:.3f}'.format(reg.coef_[0]),'x','+{:.3f}'.format(reg.intercept_))
print('=======\n')
print('\n\n\n')直线方程：
=======y=79.525 x +10.922
=======

这段代码使用make_regression()函数生产回归分析数据，其中n_samples表示样本数量，n_features表示特征数量，n_informative表示有用的特征数量，noise表示随机噪声的大小，random_state表示随机种子。

然后使用LinearRegression()函数创建了一个线性回归模型，并使用fit()方法对输入数据进行拟合。

接着，通过np.linspace(-3, 3, 200)创建了一个包含200个元素的数组z，用于绘制直线图表。使用plt.scatter()函数绘制了散点图，包含横纵坐标数据，c='b’表示散点颜色为蓝色，s=60表示散点大小为60。使用reg.predict()方法对z进行预测，并使用plt.plot()函数将预测结果连接起来画出拟合的直线。

通过plt.title(‘Linear Regression’)设置了图表的标题为’Linear Regression’。

最后使用plt.show()显示了生成的直线图。

在代码末尾，使用print()语句输出了拟合得到的直线方程，通过reg.coef_和reg.intercept_得到斜率和截距，并使用字符串格式化将其输出。

整体而言，这段代码使用make_regression()函数生产了一组回归分析数据，并使用线性回归模型对其进行了拟合。图表具有标题和坐标轴标签等特性，使得数据更加易于理解和解读。

在这里插入图片描述

线性回归
线性回归的原理是找到训练数据集中的y和真实值的平方差最小。接下里我们还是用make_regression函数来生产多数据点。这里生成了100个，特征数量为2 的点

from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression 
X,y=make_regression(n_samples=100,n_features=2,n_informative=2,random_state=38)
X_train,X_test,y_train,y_test=train_test_split(X,y,random_state=8)
lr=LinearRegression().fit(X_train,y_train)print('\n\n\n ')
print('=======\n')
print("lr.coef_:{}".format(lr.coef_[:]))
print("lr.intercept_:{}".format(lr.intercept_))
print('=======\n')
print('\n\n\n')#这里斜率存储在coef_中，截距储存在intercept_中
=======
lr.coef_:[70.38592453  7.43213621]
lr.intercept_:-1.4210854715202004e-14
=======

线性回归的表现，最高分是1.00

print('\n\n\n')
print('=======\n')
print(" train_score: {:.2f}".format(lr.score(X_train,y_train)))
print("test_score: {:.2f}".format(lr.score(X_test,y_test)))
print('=======\n')
print('\n\n\n') =======train_score: 1.00
test_score: 1.00
=======

这里我们换个数据，我们从数据库导入一个现实生活的数据，糖尿病的一些数据

from sklearn.datasets import load_diabetes
#导入真实数据集
X,y=load_diabetes().data,load_diabetes().target
#拆分成训练集和数据集
X_train,X_test,y_train,y_test=train_test_split(X,y,random_state=8)
#用线性模型拟合
lr=LinearRegression().fit(X_train,y_train)print('\n\n\n')
print('=======\n')
print(" train_score: {:.2f}".format(lr.score(X_train,y_train)))
print("test_score: {:.2f}".format(lr.score(X_test,y_test)))
print('=======\n')
print('\n\n\n') =======train_score: 0.53
test_score: 0.46
=======

岭回归-L2正规化线性模型
岭回归是一种可以避免过拟合的线性模型，在岭回归模型里面，会保存所有的特征变量，但是会减少特征变量的系数值。在回归模型中可以改变alpha的参数来控制减小特征变量系数的参数

from sklearn.linear_model import Ridge
ridge =Ridge().fit(X_train,y_train)
print('\n\n\n')
print('=======\n')
print(" train_score: {:.2f}".format(ridge.score(X_train,y_train)))
print("test_score: {:.2f}".format(ridge.score(X_test,y_test)))
print('=======\n')
print('\n\n\n')=======train_score: 0.43
test_score: 0.43
=======

我们可以试着把alpha的大小改为10、0.1、1，来看下他们的打分。同时我们把图形画出来看下他们的差异


from sklearn.linear_model import Ridge
ridge10 =Ridge(alpha=10).fit(X_train,y_train)
print('\n\n\n')
print('=======\n')
print(" train_score: {:.2f}".format(ridge10.score(X_train,y_train)))
print("test_score: {:.2f}".format(ridge10.score(X_test,y_test)))
print('=======\n')
print('\n\n\n')=======train_score: 0.15
test_score: 0.16
=======from sklearn.linear_model import Ridge
ridge01 =Ridge(alpha=0.1).fit(X_train,y_train)
print('\n\n\n')
print('=======\n')
print(" train_score: {:.2f}".format(ridge01.score(X_train,y_train)))
print("test_score: {:.2f}".format(ridge01.score(X_test,y_test)))
print('=======\n')
print('\n\n\n')=======train_score: 0.52
test_score: 0.47
=======plt.plot(ridge.coef_,'s',label='Ridge alpha=1')
plt.plot(ridge10.coef_,'^',label='Ridge alpha=10')
plt.plot(ridge01.coef_,'v',label='Ridge alpha=0.1')
plt.plot(lr.coef_,'o',label='linear regression')
plt.xlabel("coefficient index")
plt.ylabel("coefficient magnitude")
plt.hlines(0,0,len(lr.coef_))
plt.legend()!

在这里插入图片描述
我们可以看出
alpha=10,特征变量的系数基本上为0附近
alpha=1特征变量的系数变大了
alpha=0.1特征变量的系数变得非常大了，几乎与线性回归的重合

from sklearn.model_selection import learning_curve,KFold
def plot_learning_curve(est,X,y):training_set_size,train_scores,test_scores=learning_curve(est,X,y,train_sizes=np.linspace(.1,1,20),cv=KFold(20,shuffle=True,random_state=1))estimator_name=est.__class__.__name__line=plt.plot(training_set_size,train_scores.mean(axis=1),'--',label="training"+estimator_name)plt.plot(training_set_size,test_scores.mean(axis=1),'-',label="test"+estimator_name,c=line[0].get_color())plt.xlabel('Training set size')plt.ylabel('Score')plt.ylim(0,1.1)
plot_learning_curve(Ridge(alpha=1),X,y)
plot_learning_curve(LinearRegression(),X,y)
plt.legend(loc=(0,1.05),ncol=2,fontsize=11)

我们也可以画出alpha为1的岭回归模型和线性回归莫模型
在这里插入图片描述

岭回归和线性回归主要的区别是正规化，在少数据的时候岭回归的打分在训练数据集的时候要低，但是在测试数据集都差不多。数据足够多两个模型没有太大差异，但是如果数据少的话一般是岭回归表现好。
套索回归-L1正规化的线性模型
和岭回归很想，套索回归会把系数限制在0附近，但是套索回归会让一部分数据的系数等于零，有助于让模型更容易理解

from sklearn.linear_model import Lasso
lasso=Lasso().fit(X_train,y_train)
print('\n\n\n')
print('=======\n')
print(" train_score: {:.2f}".format(lasso.score(X_train,y_train)))
print("test_score: {:.2f}".format(lasso.score(X_test,y_test)))
print('=======\n')
print('\n\n\n')=======train_score: 0.36
test_score: 0.37
=======from sklearn.linear_model import Lasso
lasso01=Lasso(alpha=0.1,max_iter=100000).fit(X_train,y_train)
print('\n\n\n')
print('=======\n')
print(" train_score: {:.2f}".format(lasso.score(X_train,y_train)))
print("test_score: {:.2f}".format(lasso.score(X_test,y_test)))
print('=======\n')
print('\n\n\n')=======train_score: 0.53
test_score: 0.46
=======from sklearn.linear_model import Lasso
lasso00001=Lasso(alpha=0.0001,max_iter=100000).fit(X_train,y_train)
print('\n\n\n')
print('=======\n')
print(" train_score: {:.2f}".format(lasso.score(X_train,y_train)))
print("test_score: {:.2f}".format(lasso.score(X_test,y_test)))
print('=======\n')
print('\n\n\n')=======train_score: 0.53
test_score: 0.46
=======from sklearn.linear_model import Lasso
lasso011=Lasso(alpha=0.11,max_iter=100000).fit(X_train,y_train)
print('\n\n\n')
print('=======\n')
print(" train_score: {:.2f}".format(lasso.score(X_train,y_train)))
print("test_score: {:.2f}".format(lasso.score(X_test,y_test)))
print('=======\n')
print('\n\n\n')=======train_score: 0.53
test_score: 0.46
=======

我们通过图像来了解一下


plt.plot(lasso.coef_,'s',label='Ridge alpha=1')
plt.plot(lasso011.coef_,'^',label='Ridge alpha=0.11')
plt.plot(lasso00001.coef_,'v',label='Ridge alpha=0.0001')
plt.plot(ridge01.coef_,'o',label='Ridge alpha=0.1')plt.xlabel("coefficient index")
plt.ylabel("coefficient magnitude")

在这里插入图片描述

alpha=1，大部分系数为0
alpha=0.01，还是很多0，但少了不少
alpha=0.0001，这个时候很多点都不是零了。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/582340.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

vue3 根据用户权限控制左侧菜单和路由拦截

vue3 根据用户权限控制左侧菜单和路由拦截

目录 前言 整体思路 详细开发 1.左侧菜单的显隐控制 2.控制路由权限 补充权限控制 总结 前言 我这里是vue3开发的一个后台管理系统，所以涉及用户权限管理，以及页面权限等，其他模块部分可以查看专栏，这里只对怎么实现根据用…
阅读更多...
[Redis实战]优惠券秒杀

[Redis实战]优惠券秒杀

三、优惠券秒杀 3.1 全局唯一ID 每个店铺都可以发布优惠券： 当用户抢购时，就会生成订单并保存到tb_voucher_order这种表中，而订单表如果使用数据库自增ID就存在一些问题： id的规律性太明显受单表数据量的限制 场景分析一&…
阅读更多...
Word2Vec详解： CBOW Skip-gram和负采样

Word2Vec详解： CBOW Skip-gram和负采样

Word2Vec： CBOW & Skip-gram 如果是拿一个词语的上下文作为输入，来预测这个词语本身，则是 CBOW 模型。 而如果是用一个词语作为输入，来预测它周围的上下文，那这个模型叫做 Skip-gram 模型。 CBOW 模型 连续词袋模…
阅读更多...
简单实现一个自定义loader

简单实现一个自定义loader

webpack定义的loader需要遵循单一功能原则，也就是一个loader只实现一个功能。在实现开发中，我们会直接使用诸如蓝湖等生成的样式，比如 button{background: rgb(255, 85, 46); }但为了考虑主题换肤，我们实现的想要的可能是 butto…
阅读更多...
在用Vite开发时静态图片放哪里,才能保证显示，不出现找不到资源

在用Vite开发时静态图片放哪里,才能保证显示，不出现找不到资源

在用Vite开发时静态图片放哪里 在用Vite开发时静态图片（资源）放哪里呢 ？ 如果你想直接全部显示的那么请你把静态资源放到public目录下面，这样你一打包所有的静态资源都会放到打包根目录下。但是此时你在项目中引用的地址一定要是…
阅读更多...
（2）llvm解析器和抽象语法树

（2）llvm解析器和抽象语法树

解析器的输出是抽象语法树 对于数字字面量，创造了一个实例，并捕捉 变量捕捉函数名；二元表达式捕捉运算符；函数调用捕捉函数名和函数调用参数 函数原型和函数定义 构建语法树 getNextToken会从输入流里拿一个token，Cur…
阅读更多...
克魔助手：方便查看iPhone应用实时日志和奔溃日志工具

克魔助手：方便查看iPhone应用实时日志和奔溃日志工具

查看ios app运行日志 摘要 本文介绍了一款名为克魔助手的iOS应用日志查看工具，该工具可以方便地查看iPhone设备上应用和系统运行时的实时日志和奔溃日志。同时还提供了奔溃日志分析查看模块，可以对苹果奔溃日志进行符号化、格式化和分析，极…
阅读更多...
MSVC++ 编译 module std

MSVC++ 编译 module std

环境：windows 10 19045.xxxx 只安装了MSVC C 工具链和一个版本的SDK，SDK版本建议选一个和本机系统匹配的。 cd %USERPROFILE%\source\repos\STLModules mkdir x86 mkdir x64 打开“x86 Native Tools Command Prompt for VS 2022”控制台，…
阅读更多...
【mac-m1 docker 安装upload-labs靶场】

【mac-m1 docker 安装upload-labs靶场】

1.搜索upload-labs docker search upload-labs 2.下载upload-labs docker pull c0ny1/upload-labs 3.启动 docker run -it -d --name uploadlabs -p 80:80 c0ny1/upload-labs --platform linux/amd64 4.访问127.0.0.1:80
阅读更多...
java设计模式学习之【备忘录模式】

java设计模式学习之【备忘录模式】

文章目录 引言备忘录模式简介定义与用途实现方式 使用场景优势与劣势在Spring框架中的应用备忘录示例代码地址 引言 想象一下，你正在编辑一篇重要的文档，突然你意识到最近的一些更改实际上破坏了文档的结构。幸运的是，你的文本编辑器允许你撤…
阅读更多...
哈希桶的模拟实现【C++】

哈希桶的模拟实现【C++】

文章目录 哈希冲突解决闭散列 （开放定址法）开散列 （链地址法、哈希桶）开散列实现（哈希桶）哈希表的结构InsertFindErase 哈希冲突解决 闭散列 （开放定址法） 发生哈希冲突时&#xf…
阅读更多...
【MyBatis-Plus】进阶之乐观锁、悲观锁逻辑删除分页和查询构造器的使用

【MyBatis-Plus】进阶之乐观锁、悲观锁逻辑删除分页和查询构造器的使用

目录 一、乐观锁、悲观锁 1、什么是乐观锁和悲观锁 ①乐观锁（Optimistic Locking）: ②悲观锁（Pessimistic Locking）: ③实现方式 2、乐观锁和悲观锁的区别 ①乐观锁（Optimistic Locking） ②悲观锁&…
阅读更多...
程序员升职记 第16年 绝对正能量题解 8行代码，34步解法

程序员升职记 第16年 绝对正能量题解 8行代码，34步解法

绝对正能量-题解 8行代码，34步解法
阅读更多...
【CSAPP】探究BombLab奥秘：Phase_2的解密与实战

【CSAPP】探究BombLab奥秘：Phase_2的解密与实战

📋 前言 ​🌈个人主页：Sarapines Programmer🔥 系列专栏：《斯坦福大学之CSAPP》⏰诗赋清音：桃花灼灼春风暖，心随乐曲扬徐徐。 苦尽甘来梦未阑，岁月长河任舟游。 ​ 🎉欢迎…
阅读更多...
消息队列基础知识

消息队列基础知识

学一点，整一点，基本都是综合别人的，弄成我能理解的内容 https://blog.csdn.net/BenJamin_Blue/article/details/125946812 https://blog.csdn.net/qq_46119575/article/details/129794304 📌导航小助手📌 生产者-消费者…
阅读更多...
【C语言】初识C语言

【C语言】初识C语言

本章节主要目的是基本了解C语言的基础知识，对C语言有一个大概的认识。 什么是C语言 在日常生活中，语言就是一种人与人之间沟通的工具，像汉语，英语，法语……等。而人与计算机之间交流沟通的工具则被称为计算机语言&am…
阅读更多...
Redis中RDB和AOF

Redis中RDB和AOF

Redis中RDB和AOF 定时间间隔执行数据集的时间快照，把某一时刻数据和妆容以文件的形式写到磁盘上，也就是快照。 配置文件 如果是普通安装方式可以跳过，如果是docker安装，需要到官网下载redis.conf配置文件到本地，地址…
阅读更多...
单挑力扣（LeetCode）SQL题：1951. 查询具有最多共同关注者的所有两两结对组（难度：中等）

单挑力扣（LeetCode）SQL题：1951. 查询具有最多共同关注者的所有两两结对组（难度：中等）

题目：1951. 查询具有最多共同关注者的所有两两结对组 （通过次数2,464 | 提交次数3,656，通过率67.40%） 表: Relations ------------------- | Column Name | Type | ------------------- | user_id | int | | follower_id |…
阅读更多...
深入浅出图解C#堆与栈 C# Heap(ing) VS Stack(ing) 第二节 栈基本工作原理

深入浅出图解C#堆与栈 C# Heap(ing) VS Stack(ing) 第二节 栈基本工作原理

深入浅出图解C#堆与栈 C# HeapingVS Stacking第二节 栈基本工作原理 [深入浅出图解C#堆与栈 C# Heap(ing) VS Stack(ing) 第一节 理解堆与栈](https://mp.csdn.net/mdeditor/101021023)[深入浅出图解C#堆与栈 C# Heap(ing) VS Stack(ing) 第二节 栈基本工作原理](https://mp.cs…
阅读更多...
非线性最小二乘问题的数值方法 —— 从牛顿迭代法到高斯-牛顿法 (II)

非线性最小二乘问题的数值方法 —— 从牛顿迭代法到高斯-牛顿法 (II)

Title: 非线性最小二乘问题的数值方法 —— 从牛顿迭代法到高斯-牛顿法 (II) 姊妹博文 非线性最小二乘问题的数值方法 —— 从牛顿迭代法到高斯-牛顿法 (I) 非线性最小二乘问题的数值方法 —— 从牛顿迭代法到高斯-牛顿法 (II) ⟵ \longleftarrow ⟵ 本篇 非线性最小二乘问题的…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023