登录
注册
写文章
首页
下载APP
会员
IT技术
pytroch 模型设置成half后,使用Adam,loss出现Nan
zhenggeaza
关注
赞赏支持
pytroch 模型设置成half后,使用Adam,loss出现Nan
解决办法:
eps 改为 1e-4
(默认的1e-8在half下会round成0,除以0时会出现Nan)
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
推荐阅读
更多精彩内容
tf API 研读2:math
TF API数学计算tf...... :math(1)刚开始先给一个运行实例。tf是基于图(Graph)的计算系统...
MachineLP
阅读 3,643
评论 0
赞 1
pySpark 中文API (2)
pyspark.sql模块 模块上下文 Spark SQL和DataFrames的重要类: pyspark.sql...
mpro
阅读 9,553
评论 0
赞 13
利用python进行数据分析之pandas入门(一)
目录: 5.1 pandas 的数据结构介绍 5.1.1 Series 5.1.2 DataFrame 5.1.3...
凌岸_ing
阅读 4,845
评论 0
赞 17
cs231n课程笔记:神经网络(三)
笔记参考:https://zhuanlan.zhihu.com/p/21407711?refer=intellig...
spectre_hola
阅读 1,002
评论 0
赞 1
利用python进行数据分析之数据规整化(一)
数据分析和建模方面的大量编程工作都是用在数据准备上的:加载、清理、转换、重塑。是因为,多数时候存放在文件或数据库中...
凌岸_ing
阅读 2,423
评论 0
赞 4
赞
1赞
赞赏
手机看全文