在这里插入代码片## 线性模型
机器学习中的线性模型是一种预测模型，它基于线性关系来预测输出值。这种模型假设输入特征（自变量）和输出（因变量）之间存在线性关系。线性模型通常具有以下形式：
y = x*w + b
其中：
- y 是要预测的输出值。
- x 是输入特征。
- b 是模型的偏置项（bias），可以理解为当所有特征都为零时的输出值。
- w 是模型参数（weights），表示每个特征对输出的影响程度。
如下图所示，先不考虑b的形况下，绘图
然后计算loss（也就是误差）
代码：
import numpy as np
import matplotlib.pyplot as pltx_data = [1.0,2.0,3.0]
y_data = [2.0,4.0,6.0]def forward(x):return x*w def loss(x,y):y_pred = forward(x)return (y_pred - y) * (y_pred - y) w_list = []
mse_list = []for w in np.arange (0.0, 4.1, 0.1):print('w=',w)l_sum =0for x_val,y_val in zip( x_data,y_data ):y_pred_val =format(x_val)loss_val = loss(x_val,y_val)l_sum += loss_valprint('t',x_val,y_val,y_pred_val,loss_val)print('MSE', l_sum/3)w_list.append(w)mse_list.append(l_sum/3)plt.plot(w_list,mse_list)
plt.ylabel('Loss')
plt.xlabel('w')
plt.show()
结果图：
考虑偏置B
代码：
import numpy as np
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3Dx_data = [1.0,2.0,3.0]
y_data = [2.0,4.0,6.0]def forward(x):return x*w + bdef loss(x,y):y_pred = forward(x)return (y_pred - y) * (y_pred - y) mse_list = []
W = np.arange(0.0, 4.1, 0.1)
B = np.arange(0.0, 4.1, 0.1)
[w,b] = np.meshgrid(W,B)l_sum = 0
for x_val,y_val in zip( x_data,y_data ):y_pred_val = forward(x_val)print(y_pred_val)loss_val = loss(x_val,y_val)l_sum += loss_valfig = plt.figure()
#ax = Axes3D(fig)
ax = fig.add_subplot(111, projection='3d')
ax.plot_surface(w, b, l_sum /3)
plt.show()
效果图：
线性模型可以进一步细分为几种类型：
- 简单线性回归：只有一个特征和一个输出变量。
- 多元线性回归：有多个特征和一个输出变量。
- 逻辑回归：虽然名字中有“回归”，但它实际上是一种分类算法，用于二分类问题，输出的是概率。
线性模型的优点包括：
- 简单易懂，易于实现。
- 计算效率高，尤其是在特征数量不多的情况下。
- 可以提供可解释的模型参数，有助于理解特征对输出的影响。
然而，线性模型也有一些局限性：
- 它假设特征和输出之间存在线性关系，这在现实世界中并不总是成立。
- 对异常值敏感，可能会影响模型的准确性。
- 无法捕捉特征之间的交互作用或非线性关系。
在实际应用中，线性模型通常作为基线模型，用于与其他更复杂的模型进行比较。如果数据集的特征和目标变量之间确实存在线性关系，线性模型可以提供非常有效的解决方案。
