介绍一下当前量化方法的基本逻辑,概念、目的、应用场景及重要性
明确当前量化所支持的算子范围,支持模式的范围,
所支持的量化算子列表,以及支持性检查条件
只支持 perlayer 量化 对称量化
量化参数的介绍以及示例
量化参数的示例, 一些基本的要求bias_scale = input_scale * weight_scale ,
转换模型
一些算子的输入输出量化参数保持一致可以活得更好的新能
使用流程
介绍一下当前量化方法的基本逻辑,概念、目的、应用场景及重要性
明确当前量化所支持的算子范围,支持模式的范围,
所支持的量化算子列表,以及支持性检查条件
只支持 perlayer 量化 对称量化
量化参数的介绍以及示例
量化参数的示例, 一些基本的要求bias_scale = input_scale * weight_scale ,
转换模型
一些算子的输入输出量化参数保持一致可以活得更好的新能
使用流程