本次训练一个带有语义分割任务的网络,发现语义分割的交叉熵损失一直是nan,而且是从刚开始迭代就是nan,检查了网络一直没发现问题,学习率调小也不起作用,推测是损失函数计算中log传入了0,考虑到用的激活函数是tanh,会产生0值,所以考虑将激活函数换成不带0的sigmoid函数,换完之后发现立马就是正常损失值开始迭代了
tensorflow下怎么解决语义分割交叉熵损失总是nan
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章
ImportError: libcudnn.so.7: cannot open shared object file错误以及非root用户安装cudnn
MirrorN
2020-07-07 23:30:35
[深度之眼]LeNet/AlexNet/VGGNet/InceptionNet/ResNet实现fashion_mnist分类
TF_Keras
2020-07-08 11:53:37
Tensorflow常用函数(二)
wf592523813
2020-07-08 08:32:10
利用TensorBoad可视化网络
小敏偏头痛
2020-07-08 06:40:26
GPU导入模型非常缓慢的解决办法
还是少年呀
2020-07-08 05:59:41
windows 下 keras.utils.plot_model报错问题
DDDIIILLL
2020-07-08 05:35:28
subprocess.py报错:FileNotError: [Errno 2] No such file or directory: java: java
清晨的光明
2020-07-08 02:37:26
[tensorflow2]五分钟带你入门tensorboard&&错误解决方案
still_learning
2020-07-08 02:30:48
Mac安装Tensorflow,运行项目报错: module compiled against API version 0xa but this version of numpy is 0x9
铁真木
2020-07-08 01:58:44
损失函数:categorical_crossentropy
Stealers
2020-07-08 01:15:40
微软三维人脸重建论文前期知识铺垫——《Accurate 3D Face Reconstruction with Weakly-Supervised Learning》
wxshan3
2020-07-08 01:13:07
《Tensorflow中文社区教程》笔记
ME_Seraph
2020-07-08 00:56:51
[blog9]ubuntu18.04配置pytorch和tensorflow jupyter ipython
Drinks_
2020-07-07 23:07:48
TFRecord 的创建与读取
苍桧丹枫
2020-07-07 21:59:47
24小時熱門文章