安装完TensorRT后,参考《在Windows10下安装TensorRT5.1 GA》,要运行TensorFlow 模型,必须要先把TensorFlow模型从.pb格式转换为UFF格式。
解决方案:
第一步,下载TensorRT-5.1.2.2.Ubuntu-16.04.4.x86_64-gnu.cuda-9.0.cudnn7.5.tar.gz

TensorRT-5.1.2.2.Ubuntu-16.04.4.x86_64-gnu.cuda-9.0.cudnn7.5.tar.gz
第二步:解压下载文件,找到grashsurgeon和uff文件夹,依次能找到graphsurgeon-0.4.1-py2.py3-none-any.whl 和 uff-0.6.3-py2.py3-none-any.whl

第三步:用pip install 命令依次安装graphsurgeon-0.4.1-py2.py3-none-any.whl 和 uff-0.6.3-py2.py3-none-any.whl。这样,在Python环境中,就可以直接用convert-to-uff,例如:
convert-to-uff frozen_inference_graph.pb -O NMS -p config.py