二值化网络

一、简介

1.什么是二值化网络

网络的权值、激活值都是二值(-1/+1)的网络结构。

2.二值化网络的优点
  • 模型的大小减少了32倍。（参数大小从原来32字节的浮点数变为1字节）
  • 算法可以使用位运算实现，更快更节能，便于硬件实现。
备注：

 二值化网络在训练时，\color{red}{权值和激活值都需要参与到梯度的计算中}，即参与网络参数更新的全过程，不能简单的进行二值化转换。

最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容