EADST

C++: ONNX Model to TensorRT model

作者：XD / 发表： 2022年9月14日 07:39 / 更新： 2022年9月14日 07:39 / 编程笔记 / 阅读量：2274

C++: ONNX Model to TensorRT model

/usr/src/tensorrt/bin/trtexec --onnx=/home/onnx_model_path/onnx_model_name.onnx --saveEngine=/home/trt_model_path/trt_model_name.engine --minShapes=x:1x3x32x128 --optShapes=x:25x3x32x128 --maxShapes=x:25x3x32x128
# trt exe : /usr/src/tensorrt/bin/trtexec
# onnx path: --onnx
# trt path: --saveEngine
# min batch shape: --minShapes
# opt batch shape: --optShapes
# max batch shape: --maxShapes
# onnx input x name: x
# 25x3x32x128: Batch x Channel x Height x Weight

本文作者：XD 转载请标明出处：http://www.eadst.com/blog/127

本站采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。

上一篇
Python: Obtain File Information and Size
下一篇
Python: Ignore Warnings in Printing
相关标签
C++ ONNX TensorRT
About Me
XD
Goals determine what you are going to be.
Category
标签云
继承 Llama BF16 FP32 Input torchinfo GPTQ Permission 强化学习 ChatGPT Gemma Attention GoogLeNet VPN CAM XGBoost Translation Card v2ray Jupyter Git Qwen2.5 Django Quantization 关于博主 XML Bin Disk CV CC Google Magnet Nginx Hilton 公式 GGML RAR PIP Qwen2 Freesound git-lfs Ptyhon logger SQLite Bitcoin mmap API Web Password AI Random Paddle tqdm DeepStream Zip TSV Hotel Diagram FastAPI 顶会 PDF Image2Text printf VGG-16 Vim Ubuntu llama.cpp LaTeX MD5 音频 CEIR Pickle Qwen WAN Firewall Michelin Website JSON InvalidArgumentError 域名 ONNX FlashAttention Animate scipy 财报 Review Vmess Python Plotly OCR Agent Docker Breakpoint diffusers 图形思考法 UNIX hf C++ git CUDA Sklearn PDB SPIE Hungarian VSCode Anaconda Crawler CSV 报税 Search CLAP Shortcut FP8 GIT Pandas HuggingFace Transformers TTS 第一性原理 Baidu NLTK Paper Safetensors PyTorch Template PyCharm Bert 多线程 IndexTTS2 多进程 Windows BeautifulSoup 飞书 Logo Streamlit Dataset Datetime WebCrawler NameSilo BTC Domain Tiktoken Quantize Food CTC 腾讯云 Linux HaggingFace Pytorch 递归学习法 ModelScope UI 净利润 RGB Heatmap 签证 Clash SAM Mixtral Statistics SQL Numpy Knowledge 算法题 Land 阿里云 SVR 证件照 Jetson Claude YOLO QWEN Use OpenAI 搞笑 transformers OpenCV Color Data LoRA Tensor TensorFlow LLM Video 版权 GPT4 ResNet-50 Distillation Tracking Bipartite Pillow Plate Augmentation Base64 Excel LLAMA COCO FP64 uWSGI Markdown DeepSeek Cloudreve Interview Algorithm TensorRT Math EXCEL LeetCode Miniforge FP16 tar uwsgi Github Conda Proxy v0.dev NLP
站点统计

本站现有博文319篇,共被浏览749734次

本站已经建立2402天!

热门文章
文章归档
回到顶部