← 全部模型
Hugging FaceModelScope0 次跳转
DeepSeek-V3.2
DeepSeek 第三代 MoE 旗舰，MIT 许可
deepseek-ai685.36BMoE中文对话推理
许可证mit可商用
- 参数量
- 685.36B
- 上下文
- 160K
- 架构
- MoE
- 发布日期
- 2025年12月1日
怎么跑
复制即可，工具会自己拉取权重。
llama-cli -hf deepseek-ai/DeepSeek-V3.2 vllm serve deepseek-ai/DeepSeek-V3.2
可下载版本
大小和显存由参数量估算；点击前往官方仓库。
| 格式 | 量化 | 大小 | 最低显存 | 下载 |
|---|---|---|---|---|
| gguf | Q3_K_M | 306 GB | 379.5 GB | Hugging Face |
| awq | W4A16 | 351 GB | 434.5 GB | Hugging Face |
| gguf | Q4_K_M | 370 GB | 458 GB | Hugging Face |
| gguf | Q5_K_M | 453 GB | 560.5 GB | Hugging Face |
| gguf | Q6_K | 523 GB | 647.5 GB | Hugging Face |
| gguf | Q8_0 | 677 GB | 836.5 GB | Hugging Face |
| safetensors | BF16 | 1.25 TB | 1577.5 GB | Hugging Face |