AI人工智能机器学习之神经网络

1、概要

  本篇学习AI人工智能机器学习之神经网络，以MLPClassifier和MLPRegressor为例，从代码层面讲述最常用的神经网络模型MLP。

2、神经网络 - 简介

在 Scikit-learn 中，神经网络是通过 sklearn.neural_network 模块提供的。最常用的神经网络模型是多层感知器（MLP，Multi-layer Perceptron），它可以用于分类和回归任务。

一些基本的概念

• 多层感知器（MLP）：一种前馈神经网络，由输入层、隐藏层和输出层组成。每一层的节点与下一层的节点是全连接的。
• 激活函数：每个神经元通常会有一个激活函数，如 ReLU、Sigmoid 和 Tanh，用于引入非线性。
• 损失函数：在训练过程中用来评估模型性能的函数，MLP 允许使用不同的损失函数，具体取决于任务（如分类或回归）。
• 优化算法：用于更新网络权重的算法，最常用的是随机梯度下降（SGD）和 Adam。

本篇，以两个示例讲述神经网络MLP的使用方法：

• 示例1：MLPClassifier对数据集进行分类
• 示例2：MLPRegressor对数据进行回归

本篇相关资料代码参见：AI人工智能机器学习相关知识资源及使用的示例代码

3、神经网络

3.1、安装依赖

python安装机器学习库： pip install scikit-learn

3.2、示例1： MLPClassifier对数据集进行分类

from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
from sklearn.neural_network import MLPClassifier
from sklearn.metrics import accuracy_score, confusion_matrix, classification_report# 生成模拟数据集
X, y = make_classification(n_samples=100, n_features=3, n_informative=2, n_redundant=0, n_classes=2, random_state=42)# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)def test_MLPClassifier():# 创建神经网络分类器实例# hidden_layer_sizes参数，一个元组，定义隐藏层的结构，例如 (100, 50) 表示有两个隐藏层，第一层100神经元，第二层 50 个神经元。# max_iter参数，最大迭代次数# random_state：随机种子，使结果可重复model = MLPClassifier(hidden_layer_sizes=(100, 50), max_iter=1000, random_state=42)# 训练模型model.fit(X_train, y_train)# 进行预测y_pred = model.predict(X_test)# 计算准确率accuracy = accuracy_score(y_test, y_pred)print(f"准确率为: {accuracy:.2f}")# 计算混淆矩阵print(confusion_matrix(y_test, y_pred))# 报告print(classification_report(y_test, y_pred))test_MLPClassifier()

运行上述代码的输出：

准确率为: 0.93
[[10  1][ 1 18]]precision    recall  f1-score   support0       0.91      0.91      0.91        111       0.95      0.95      0.95        19accuracy                           0.93        30macro avg       0.93      0.93      0.93        30
weighted avg       0.93      0.93      0.93        30

3.3、示例2：MLPRegressor对数据进行回归

from sklearn.neural_network import MLPRegressor
from sklearn.datasets import make_regression
from sklearn.model_selection import train_test_split# 创建回归数据集
X, y = make_regression(n_samples=100, n_features=1, noise=0.1, random_state=42)# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)def test_MLPRegressor():# 创建和训练 MLPRegressormlp_regressor = MLPRegressor(hidden_layer_sizes=(10,), max_iter=1000, random_state=42)mlp_regressor.fit(X_train, y_train)# 进行预测y_pred = mlp_regressor.predict(X_test)# 打印预测结果print("Predicted values:", y_pred)print("True values:", y_test)  test_MLPRegressor()

运行上述代码的输出：

Predicted values: [-15.9535171   11.18083111   6.66419755  -6.93420128  -4.88154814-5.62929653  -7.89092833 -19.22598705   6.72784808   7.470322088.14723448   2.80206811 -15.14571795  -8.72301651 -14.61559911-8.06564202   7.77080054   1.30566751   6.16147072   3.04358961]
True values: [-55.37503843  61.96236579  34.0206566  -16.26246864  -9.75232562-12.0363855  -19.53933098 -73.53859117  34.32170107  38.991729642.89105035  14.96006767 -50.87199832 -22.1085758  -48.12392116-19.9786311   40.84203409  10.11000622  30.8780412   15.82045024]

4、 总结

本篇以MLPClassifier和MLPRegressor为例，从代码层面讲述最常用的神经网络模型MLP。虽然sklearn提供了接口来构建和训练神经网络模型，但是对于复杂的复杂的神经网络模型，推荐使用 TensorFlow 或 PyTorch 等库。