统计学习方法学习笔记（一）--极大似然估计与贝叶斯估计原理及区别

　　极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。即在频率学派中，参数固定了，预测

值也就固定了。最大后验概率是贝叶斯学派在完全贝叶斯不一定可行后采用的一种近似手。如果数据量足够大，最大后验概率和最大似

然估计趋向于一致，如果数据为0,最大后验仅由先验决定。

　　极大似然估计是想让似然函数极大化，而考虑了最大后验概率算法的贝叶斯估计，其实是想让后验概率极大化。主要区别在于估计

参数中，一个考虑了先验一个没有考虑先验。