C++: ONNX Model to TensorRT model| 东毅居士

C++: ONNX Model to TensorRT model

作者：XD / 发表： 2022年9月14日 07:39 / 更新： 2022年9月14日 07:39 / 编程笔记 / 阅读量：1305

C++: ONNX Model to TensorRT model

/usr/src/tensorrt/bin/trtexec --onnx=/home/onnx_model_path/onnx_model_name.onnx --saveEngine=/home/trt_model_path/trt_model_name.engine --minShapes=x:1x3x32x128 --optShapes=x:25x3x32x128 --maxShapes=x:25x3x32x128
# trt exe : /usr/src/tensorrt/bin/trtexec
# onnx path: --onnx
# trt path: --saveEngine
# min batch shape: --minShapes
# opt batch shape: --optShapes
# max batch shape: --maxShapes
# onnx input x name: x
# 25x3x32x128: Batch x Channel x Height x Weight

本文作者：XD 转载请标明出处：http://www.eadst.com/blog/127

本站采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。

上一篇
Python: Obtain File Information and Size

下一篇
Python: Ignore Warnings in Printing

Category

标签云

Dataset Review FP16 GGML Anaconda Website HaggingFace COCO Docker Paddle Quantization Nginx FP32 Disk scipy OCR Michelin Plotly Hotel Cloudreve Domain Hungarian Sklearn Paper JSON Template 证件照 Distillation Attention TSV Streamlit SVR Qwen2.5 BF16 YOLO logger v2ray SQL Plate CUDA ResNet-50 VGG-16 Translation Gemma InvalidArgumentError GPTQ Markdown Bitcoin uWSGI BTC Input Google 域名 Tensor HuggingFace Conda llama.cpp Card Pickle PyCharm ONNX Bin Git Video Interview C++ Data uwsgi Use SPIE torchinfo GoogLeNet FlashAttention TensorFlow Crawler CSV NLP Pillow tar OpenCV Linux Color Land GIT Magnet EXCEL PDF git-lfs BeautifulSoup Tracking UNIX XML Permission Excel WebCrawler Shortcut Statistics CV 签证 ChatGPT TensorRT Pytorch Numpy Diagram Logo Clash hf Knowledge MD5 CAM VPN AI Math LeetCode 搞笑 Datetime Ubuntu Quantize FastAPI Vim 报税 Hilton 腾讯云 Heatmap Zip Vmess 关于博主 Base64 PIP PyTorch Github FP64 git Algorithm OpenAI LaTeX CEIR 算法题 Qwen Food NLTK Ptyhon LoRA Bert Random transformers diffusers Password Windows Transformers LLM SQLite Bipartite Python Proxy CTC Safetensors VSCode XGBoost NameSilo RGB LLAMA Django Web Baidu Pandas Tiktoken Augmentation 阿里云 GPT4 Jetson Image2Text DeepStream ModelScope QWEN

站点统计

本站现有博文269篇,共被浏览446241次

本站已经建立2028天!

原 C++: ONNX Model to TensorRT model

作者：XD / 发表： 2022年9月14日 07:39 / 更新： 2022年9月14日 07:39 / 编程笔记 / 阅读量：1305

C++: ONNX Model to TensorRT model