什么是TensorRT OSS? 你可以理解为tensorrt的lib是你从官网下载的, 这个oss是英伟达开源的那一部分. 等于是一个tensorrt的扩展.

因为tensorrt核心库是不开源的, 但是一些扩展被开元出来了. 这个oss有什么用呢?简单来说, 就是开源的plugin, 给你一些现成的plugin用的.

我们可以这样编译tensorrt oss:

git clone https://github.com/NVIDIA/TensorRT
cd TensorRT
cmake .. -DTRT_LIB_DIR=~/TensorRT/lib -DTRT_OUT_DIR=`pwd`/out

编译完之后, 会自动覆盖掉你下载的tensorrt lib, 并且会生成与一个libonnx_parser_plugin, 供你调用.

据我所致, 一些基本的plugin,需要oss, 比如InstanceSegmentation plugin等.