i_1312

介绍一下当前量化方法的基本逻辑，概念、目的、应用场景及重要性 明确当前量化所支持的算子范围，支持模式的范围， 量化参数的介绍以及示例量化参数的示例， 一些基本的要求bias_...

i_1312

onnx simplifier（简称 onnxsim）,onnxsim 本身只提供 constant folding/propagation（即消除结果恒为常量的算子）的能力...

i_1312

https://github.com/ZhangGe6/onnx-modifier/tree/master[https://github.com/ZhangGe6/onnx-...

i_1312

select.select() 是一个Python中的函数，它允许程序监视多个文件描述符，等待它们变得可读、可写或者有错误发生。这个函数通常用于实现多路复用I/O，即同时处理...

i_1312

主要的一个思路在于 判断输入输出的类型是否相同如果输入是浮点，但输出是量化，那么在这个op之前添加一个quant如果输入时量化，输出时浮点，那么在op之前添加dequant ...

i_1312

编译的时候可能会遇到一个问题， /bin/sh: 1: ../../bin/jsoncpp_test: Exec format error这个其实是交叉编译引起的 可以看到里...

i_1312

ArmNN 主要处理的模型是Tflite模型，对onnx模型的支持不好，但提供了ONNX 模型解析的基础框架，支持了少量的ONNX算子，想要支持更多的ONNX 算子，就必须自...

i_1312

tflite的算子没有针对x86_64的平台做优化，所以跑的很慢，可以试试使用arm的设备跑，或者调用xnnpack delegate 这套算子针对x86_64有优化，速度会快很多

TFlite 量化模型推理很慢

在PC上使用tflite 模型进行推理，发现float模型跑起来很快，但是跑quant模型非常的慢，尤其是一些复杂模型，这是因为 intel x86_64没有对量化推理计算进...

i_1312

1255 3 0

i_1312

adb shell input keyevent 120

i_1312

添加一个后端需要去继承Backend抽象类，并实现所有纯虚函数。 onCreate函数Backend需要通过onCreate为为每一个op创建出exection，一个exec...

i_1312

国内的一些开源镜像站点• 阿里云开源镜像站：http://mirrors.aliyun.com/[http://mirrors.aliyun.com/]• 网易开源镜像站：h...