QNN SDK
说明
QNN是高通推出的一个AI推理框架,涵盖GPU、HTP、CPU的推理,主要包含模型转换、模型量化、模型部署推理。
可以从多个框架的模型转换:torch、onnx(一般是torch训练的模型用AIMET框架量化之后导出onnx进行后续步骤)、tensorflow(SaveModel directory)、tflite(坑比较多尽量不要)。
随后在高通芯片的android机器上进行部署。
QNN是高通推出的一个AI推理框架,涵盖GPU、HTP、CPU的推理,主要包含模型转换、模型量化、模型部署推理。
可以从多个框架的模型转换:torch、onnx(一般是torch训练的模型用AIMET框架量化之后导出onnx进行后续步骤)、tensorflow(SaveModel directory)、tflite(坑比较多尽量不要)。
随后在高通芯片的android机器上进行部署。