自动驾驶之心cuda与TEnsorRT部署实战课程

2023-08-06 21:08:13 来源:哔哩哔哩


(资料图片)

TensorRT包括 推理优化(inference optimization) 和 runtime 两部分,类似于 MicroSoft 提出的 ONNX Runtime,但 ONNX Runtime一般只能接收 ONNX格式的模型,而TensorRT可以接受包括ONNX,PytorchTensorflow等基本上所有框架的模型

TensorRT在对模型优化时主要进行了5个调整:

1. Layer and tensor fusion

标签:

上一篇:word如何打出圆圈序号(word中圆圈序号怎么打)
下一篇:最后一页