这个最常见于GradientDescentOptimizer优化中。
原因是loss过大，导致训练困难。
image.png
如图，这里batch_size是1000，reduce_sum则是reduce_mean的1000倍。
导致nan
tensorflow 训练 loss为nan
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。
推荐阅读更多精彩内容
- 原文链接：https://yq.aliyun.com/articles/178374 0. 简介 在过去，我写的主...
- 想从Tensorflow循环生成对抗网络开始。但是发现从最难的内容入手还是？太复杂了所以搜索了一下他的始祖也就是深...
- y值开始浮动了，那么loss现在是什么情况呢？ 单输出loss，似乎看不出来。 在tensorboard中观察一下...
