花书 数值计算 (阅读笔记)

深度学习(花书)

第一部分 应用数学及机器学习基础

第四章 数值计算

机器学习算法需要进行大量的数值计算，而这种计算是采用通过迭代更新所得的近似解来替代直接求解的解析解。

计算机无法通过有限的表示位数来表示无限的实数，这常常带来上溢与下溢两类问题，为解决该问题我们在计算中引入了数值稳定的方法，去避免溢出问题（例如theano包，可以寻找函数式中不稳定的地方）

病态条件：矩阵会放大原有的误差

基于梯度的优化

约束优化（局部最优）

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成，浏览时请结合常识与多方信息审慎甄别。
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容