Keras关于训练冻结部分层

团长sama

于 2019-02-20 19:11:26 发布

阅读量5k

点赞数 1

CC 4.0 BY-SA版权

分类专栏： python keras 文章标签： keras 冻结网络层

本文链接：https://blog.csdn.net/sinat_24899403/article/details/87815582

python 同时被 2 个专栏收录

19 篇文章

订阅专栏

keras

1 篇文章

订阅专栏

本文介绍在深度学习模型训练中如何有效利用冻结层技巧。通过在模型搭建阶段直接设置某层的trainable属性为false，或者在模型搭建完成后遍历所有层并根据层名或位置设置trainable属性，可以实现对特定层的冻结，避免其参数更新。此外，还讨论了在分类数量变化时如何利用层名和分类数量关联，确保权重加载正确。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

文章目录

设置冻结层有两种方式。

（不推荐）是在搭建网络时，直接将某层的trainable设置为false，例如:

layers.Conv2D(filters1, (1, 1), trainable=False)(input_tensor)

在网络搭建完成时，遍历model.layer,然后将layer.trainable设置为False:

# 冻结网络倒数的3层
for layer in model.layers[:-3]:
    print(layer.trainable)
    layer.trainable = False

也可以根据layer.name来确定哪些层需要冻结,例如冻结最后一层和RNN层：

for layer in model.layers:
	layerName=str(layer.name)
	if layerName.startswith("RNN_") or layerName.startswith("Final_"):
		layer.trainable=False

在网络搭建时，可以考虑最后一个分类层命名和分类数量关联，这样当分类数量方式变化时，model.load_weight(“weight.h5”，by_name=True)不会加载最后一层