← 全部模型
Hugging FaceModelScope0 次跳转
DeepSeek-V4-Flash-0731
V4 的轻量版，MoE 稀疏激活，推理成本更低
deepseek-ai304.18BMoE中文对话推理
许可证mit可商用
- 参数量
- 304.18B
- 上下文
- 1024K
- 架构
- MoE
- 发布日期
- 2026年7月31日
怎么跑
复制即可，工具会自己拉取权重。
llama-cli -hf deepseek-ai/DeepSeek-V4-Flash-0731 vllm serve deepseek-ai/DeepSeek-V4-Flash-0731
可下载版本
大小和显存由参数量估算；点击前往官方仓库。
| 格式 | 量化 | 大小 | 最低显存 | 下载 |
|---|---|---|---|---|
| gguf | Q3_K_M | 136 GB | 169 GB | Hugging Face |
| awq | W4A16 | 156 GB | 193.5 GB | Hugging Face |
| gguf | Q4_K_M | 164 GB | 204 GB | Hugging Face |
| gguf | Q5_K_M | 201 GB | 249.5 GB | Hugging Face |
| gguf | Q6_K | 232 GB | 288 GB | Hugging Face |
| gguf | Q8_0 | 300 GB | 372 GB | Hugging Face |
| safetensors | BF16 | 567 GB | 700.5 GB | Hugging Face |