pytorch 计算图与动态图机制

计算图:用来描述运算的有向无环图

计算图的两个元素:结点(Node)和边(Edge)

结点表示数据,如向量,矩阵,张量

边表示运算,如加减乘除卷积等

叶子结点(目的:节约内存):用户创建的结点称为叶子结点  is_leaf:指示张量是否为叶子结点 

如果不是叶子结点,但仍旧想要保存梯度信息 可以用x.retain_grad()

grad_fn():记录创建该张量时所用的方法(函数)


根据计算图搭建方式,可将计算图分为动态图(运算与搭建同时进行  灵活、易调节)和静态图(先搭建图,后运算  高效、不灵活)

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容