Speeding Up PyTorch Model Loading| 东毅居士

Speeding Up PyTorch Model Loading

作者：XD / 发表： 2025年1月22日 21:39 / 更新： 2025年1月22日 21:39 / 编程笔记 / 阅读量：1618

Speeding Up PyTorch Model Loading

model = torch.load(path, map_location='cpu', mmap=True) # CPU
model = torch.load(path, map_location='cuda:0')  # GPU

本文作者：XD 转载请标明出处：http://www.eadst.com/blog/271

本站采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。

上一篇
PyTorch Tensor精度打印

下一篇
Transformers Demo for DeepSeek-R1-Distill-Qwen-7B

Category

标签云

IndexTTS2 HuggingFace FP64 阿里云 Breakpoint Hungarian Review mmap TTS ChatGPT Animate Quantization RAR Python Miniforge NameSilo RL Statistics GPTQ Tensor Anaconda YOLO Qwen2 PIP Conda Safetensors logger Bin XGBoost CC Data OpenCV Land Claude Hotel TSV API网关 Image2Text Base64 GGML uwsgi DeepStream Docker Interview API Tiktoken Github 关于博主 Use Ptyhon Plate TensorRT Streamlit Web InvalidArgumentError Clash printf 强化学习 Jev Permission CTC C++ EXCEL OpenAI Math Knowledge diffusers FP32 git DeepSeek Cloudreve CSV NLP BF16 git-lfs Heatmap Nginx PyCharm RGB 飞书 QWEN Vmess GoogLeNet PDB 报税 Algorithm CUDA 公式 Quantize transformers Attention OCR ModelScope Bitcoin Hilton 第一性原理 COCO PDF v2ray Tracking SPIE Transformers FP8 uWSGI Zip JSON Template tqdm SVR WAN Linux 递归学习法 Rebuttal Color VPN Datetime Gemma Llama 云服务器 Random Distillation llama.cpp FastAPI torchinfo Django 顶会多线程版权 TensorFlow CLAP Dataset BeautifulSoup ms-swift 继承 Pillow LoRA 证件照 Proxy Website SQLite tar 域名 HaggingFace CV Shortcut Jetson Agent Password Mixtral SQL Pytorch Qwen VGG-16 Augmentation Video ResNet-50 Michelin Ubuntu 多进程财报 Windows Translation Baidu LeetCode 论文速读 Git BTC SAM UI Vim CAM GIT Qwen2.5 Firewall Crawler Google Harness 搞笑 Bert hf Pickle 音频 FP16 UNIX Logo Plotly Food Markdown AI Input 算法题论文 LLAMA Jupyter Card Sklearn News Paddle Bipartite PyTorch ONNX LLM MD5 Numpy XML icon Pandas LaTeX GPT4 scipy FlashAttention VSCode Search 腾讯云 CEIR 图形思考法 NLTK Domain Disk 签证 Freesound Paper v0.dev Diagram WebCrawler 净利润 Magnet Excel 图标

站点统计

本站现有博文338篇,共被浏览989938次

本站已经建立2702天!

原 Speeding Up PyTorch Model Loading

作者：XD / 发表： 2025年1月22日 21:39 / 更新： 2025年1月22日 21:39 / 编程笔记 / 阅读量：1618

Speeding Up PyTorch Model Loading