← 全部模型
Hugging FaceModelScope0 次跳转
DeepSeek-V4-Flash
V4 轻量版,稀疏 MoE,推理成本低
deepseek-ai290.94BMoE中文对话推理
许可证mit可商用
- 参数量
- 290.94B
- 上下文
- 1024K
- 架构
- MoE
- 发布日期
- 2026年4月22日
怎么跑
复制即可,工具会自己拉取权重。
llama-cli -hf deepseek-ai/DeepSeek-V4-Flash vllm serve deepseek-ai/DeepSeek-V4-Flash
可下载版本
大小和显存由参数量估算;点击前往官方仓库。
| 格式 | 量化 | 大小 | 最低显存 | 下载 |
|---|---|---|---|---|
| gguf | Q3_K_M | 130 GB | 161.5 GB | Hugging Face |
| awq | W4A16 | 149 GB | 185 GB | Hugging Face |
| gguf | Q4_K_M | 157 GB | 195 GB | Hugging Face |
| gguf | Q5_K_M | 192 GB | 238.5 GB | Hugging Face |
| gguf | Q6_K | 222 GB | 275.5 GB | Hugging Face |
| gguf | Q8_0 | 287 GB | 355.5 GB | Hugging Face |
| safetensors | BF16 | 542 GB | 670 GB | Hugging Face |