监督学习 - 神经网络（Neural Networks）

什么是机器学习

神经网络（Neural Networks），也称为人工神经网络（Artificial Neural Networks，ANNs）是一种受到生物神经网络启发而设计的机器学习模型。神经网络由神经元（或节点）组成，分为输入层、隐藏层和输出层。通过学习从输入到输出的映射关系，神经网络能够解决复杂的分类和回归问题。

以下是神经网络的基本原理和使用方法：

基本原理

神经元：神经网络的基本组成单位是神经元，每个神经元接收一组输入，通过权重进行加权求和，再经过激活函数产生输出。
层：神经网络分为输入层、隐藏层和输出层。输入层负责接收输入特征，输出层产生最终的预测结果，而隐藏层用于提取特征和学习更复杂的模式。
权重和偏置：每个连接都有一个关联的权重，表示连接的强度。神经元还有一个偏置（bias），用于调整神经元的激活阈值。
激活函数：激活函数决定神经元输出的形式，常见的激活函数包括Sigmoid、ReLU（Rectified Linear Unit）等。
反向传播：神经网络通过反向传播算法进行训练。在训练过程中，通过计算损失函数，然后反向传播误差，调整权重和偏置，使得模型能够更好地拟合数据。

使用方法

神经网络的使用步骤通常包括以下几个阶段：

数据准备：收集并准备好带标签的训练数据集，进行特征工程和数据标准化等操作。
模型构建：根据问题的性质选择神经网络的结构，包括层数、每层的神经元数量以及激活函数的选择。
模型编译：选择适当的优化器、损失函数和评估指标，并进行模型编译。
训练模型：使用训练数据集对神经网络进行训练。训练过程中会进行多轮迭代，不断调整模型参数。
评估和预测：使用测试数据集对训练好的模型进行评估，并使用模型进行新数据的预测。

代码示例（使用Python和`Keras`）

以下是一个简单的神经网络分类的示例，使用了Keras作为神经网络的高级API：

from keras.models import Sequential
from keras.layers import Dense
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.metrics import accuracy_score, classification_report# 加载数据集
iris = load_iris()
X = iris.data
y = iris.target# 划分训练集和测试集，并进行数据标准化
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
scaler = StandardScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)# 创建神经网络模型
model = Sequential()
model.add(Dense(units=64, input_dim=4, activation='relu'))
model.add(Dense(units=3, activation='softmax'))# 编译模型
model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])# 训练模型
model.fit(X_train, y_train, epochs=50, batch_size=32, validation_split=0.1)# 预测
y_pred = model.predict_classes(X_test)# 评估模型性能
accuracy = accuracy_score(y_test, y_pred)
report = classification_report(y_test, y_pred)print(f'Accuracy: {accuracy}')
print(f'Classification Report:\n{report}')