端侧推理框架

  • ONNX Runtime：支持cuda/TensorRT
  • MNN：
  • TensorRT：