机器学习——神经网络、感知机

神经网络由之前的单层感知机到多层感知机，再到后来加入隐藏层后得到可以拟合一切的神经网络模型，而反向传播算法是整个神经网络的训练核心。

神经网络最典型的应用场景就是图像识别，其具体的应用场景包括高铁口进站的人脸识别、医学领域的医学影像进行自动化辅助判读，自动驾驶汽车对行车复杂环境下的目标识别。

神经网络最经典的案例就是手写数字识别项目，其中MNIST数据集包括60000张手写的0~9数字图像，每张数字图像的像素为28×28，通过神经网络对数字图像进行特征提取，然后转化为数值向量进行分类器训练的方式，可以准确识别0~9这10个数字。

感知机是神经网络和支持向量机的理论基础，感知机就是一个线性模型，旨在建立 一个线性分隔超平面对线性可分的数据集进行分类。

 神经网络的核心在于基于反向传播的训练算法(前向计算和反向传播)，链式求导法则是反向传播的核心操作。

目前新型流行的架构包括：Transformer/RNN/CNN/DNN/GNN/NAS等。

神经网络构建及训练的过程：

网络结构-》参数初始化-》前向传播-》损失计算-》反向传播-》权重更新-》模块整合-》数据准备-》训练与预测-》可视化

单层感知机大体结构：