← 全部模型
Hugging FaceModelScope0 次跳转
DeepSeek-V3
DeepSeek 第三代基础模型，685B MoE
deepseek-ai684.49BMoE中文对话
许可证unknown许可受限
- 参数量
- 684.49B
- 上下文
- 160K
- 架构
- MoE
- 发布日期
- 2024年12月25日
怎么跑
复制即可，工具会自己拉取权重。
llama-cli -hf deepseek-ai/DeepSeek-V3 vllm serve deepseek-ai/DeepSeek-V3
可下载版本
大小和显存由参数量估算；点击前往官方仓库。
| 格式 | 量化 | 大小 | 最低显存 | 下载 |
|---|---|---|---|---|
| gguf | Q3_K_M | 306 GB | 379 GB | Hugging Face |
| awq | W4A16 | 351 GB | 434 GB | Hugging Face |
| gguf | Q4_K_M | 370 GB | 457.5 GB | Hugging Face |
| gguf | Q5_K_M | 453 GB | 560 GB | Hugging Face |
| gguf | Q6_K | 523 GB | 646.5 GB | Hugging Face |
| gguf | Q8_0 | 676 GB | 835.5 GB | Hugging Face |
| safetensors | BF16 | 1.25 TB | 1575.5 GB | Hugging Face |