EADST

Speeding Up PyTorch Model Loading

作者：XD / 发表： 2025年1月22日 21:39 / 更新： 2025年1月22日 21:39 / 编程笔记 / 阅读量：179

Speeding Up PyTorch Model Loading

model = torch.load(path, map_location='cpu', mmap=True) # CPU
model = torch.load(path, map_location='cuda:0')  # GPU

本文作者：XD 转载请标明出处：http://www.eadst.com/blog/271

本站采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。

上一篇
PyTorch Tensor精度打印
下一篇
Transformers Demo for DeepSeek-R1-Distill-Qwen-7B
相关标签
PyTorch mmap
About Me
XD
Goals determine what you are going to be.
Category
标签云
FP16 torchinfo Card Pickle uwsgi Hungarian Michelin Clash CEIR Jetson Shortcut Data Plate Math Dataset Video Baidu Interview Template CV MD5 scipy Augmentation AI Web Heatmap ChatGPT GPT4 Safetensors Docker Permission Conda OpenCV Tiktoken Paddle SVR GIT FP64 Hotel PDF SQLite 关于博主 Excel VSCode Use Gemma Google Magnet Password Proxy Knowledge ModelScope Random 阿里云 Image2Text PyTorch DeepSeek Distillation Linux Algorithm Transformers uWSGI SPIE PyCharm Pytorch Statistics Python tqdm LaTeX OpenAI 搞笑 ResNet-50 Ubuntu FP32 Zip Land 算法题 Base64 Logo v2ray Quantize 腾讯云 ONNX NLTK WebCrawler Diagram GPTQ Bitcoin COCO Tensor Bert JSON BTC GGML Review NameSilo XML Nginx git-lfs CAM Plotly BeautifulSoup Ptyhon Bin Pandas git transformers TensorRT Windows HaggingFace diffusers Sklearn Git Website Domain VGG-16 Quantization Disk EXCEL tar logger SQL YOLO LoRA NLP 证件照 Crawler Anaconda HuggingFace C++ Cloudreve Numpy Markdown 域名 RGB 报税 Translation InvalidArgumentError XGBoost llama.cpp FastAPI hf CUDA Bipartite BF16 Streamlit Qwen Qwen2.5 GoogLeNet LLM mmap CSV UNIX OCR Tracking CTC DeepStream TSV Vim Color Github Vmess Django Input LLAMA VPN Attention PDB FlashAttention Pillow 签证 Hilton Paper QWEN Food PIP Breakpoint TensorFlow LeetCode Datetime
站点统计

本站现有博文275篇,共被浏览493165次

本站已经建立2081天!

热门文章
文章归档
回到顶部