tensorflow训练中出现nan问题的解决

深度学习中对于网络的训练是参数更新的过程，需要注意一种情况就是输入数据未做归一化时，如果前向传播结果已经是[0,0,0,1,0,0,0,0]这种形式，而真实结果是[1,0,0,0,0,0,0,0,0]，此时由于得出的结论不惧有概率性，而是错误的估计值，此时反向传播会使得权重和偏置值变的无穷大，导致数据溢出，也就出现了nan的问题。 解决办法： 1、对输入数据进行归一化处理，如将输入的图片数据除以255将其转化成0-1之间的数据; 2、对于层数较多的情况，各层都做batch_nomorlization; 3、对设置Weights权重使用tf.truncated_normal(0, 0.01, [