本文探讨了在机器学习中自由度的概念，包括感知器的维度、假设的自由度、二元分类的有效自由度，以及VC维数与参数数量之间的关系。通过具体例子说明了在特定条件下，VC维数如何等同于自由参数的数量。
Degrees of Freedom
d
+
1
d+1
d+1实际上是perceptron的维度。
w
\mathbf{w}
w代表了hypothesis的自由度。
hypothesis的大小
M
=
∣
H
∣
M=|\mathcal{H}|
M=∣H∣模拟了自由度。
d
V
C
=
d
+
1
d_{VC}=d+1
dVC=d+1代表了有效的二元分类的自由度。
Two Old Friends
从上面这两个例子可以看出 d V C d_{VC} dVC大概等于自由的参数的个数，但不总是对的。
M M M and d V C d_{VC} dVC
Fun Time
在
w
0
=
0
w_0=0
w0=0的情况下，
d
V
C
=
d
d_{VC}=d
dVC=d。
扫一扫
650
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
