RBF神经网络和BP神经网络有什么区别？

要最简单的说法就是，激活函数不同。RBF是径向基函数；而BP一般是sigmoid函数 （或者Relu）。

局部逼近与全局逼近BP神经网络的隐节点采用输入模式与权向量的内积作为激活函数的自变量，而激活函数采用Sigmoid函数。各隐节点对BP网络的输出具有同等地位的影响，因此BP神经网络是对非线性映射的全局逼近。RBF神经网络的隐节点采用输入模式与中心向量的距离（如欧式距离）作为函数的自变量，并使用径向基函数（如Gaussian函数）作为激活函数。神经元的输入离径向基函数中心越远，神经元的激活程度就越低。RBF网络的输出与数据中心离输入模式较劲的“局部”隐节点关系较大，RBF神经网络因此具有“局部映射”特性。

1，从模型结构上来看RBF神经网络从图形结构上来说，就是一种单隐层的神经网络. 这个隐层的每个神经元输出的是一个RBF函数的值，这些RBF函数的核宽都是一样的，它们中心要么是每个训练样本点，要么是训练样本点的聚类中心，当然还可以有其他。核化的支持向量机就可以看成是一种RBF网络. 事实上1995年Vapnik发表在Machine Learning 期刊上的支持向量机的文章, 名字就叫做“支持向量网络”，因为隐层放置的就是支持向量. 而普通的BP神经网络可以有很多隐层，每个隐层的神经元都放置相同的激活函数.
2，从训练算法上来看不同的网络结构定义了不同的假设(函数)空间. 在指定了损失函数的情况下, 我们的目标就是在这个函数空间中寻找一个函数使得平均损失最小，或者说寻找一组函数的参数使得平均损失最小，这无疑就是一个无约束最优化问题. 用梯度下降(在神经网络领域又叫BP)或其他优化算法都可以求解.
3, RBF神经网络与RKHS(高斯核生成)中表示定理的关联一个full RBF network 在形式上与使用表示定理对高斯核函数诱导出的RKHS函数空间的函数进行展开后的形式是一样的. 这一点非常有趣. 前者产生时间在前, 后者有优美的泛函理论支持.

知乎链接：https://www.zhihu.com/question/44328472
我看的，觉得写的挺好的，总结的也很好！保存方便自己回看！