Open-source model library
Metadata and official download links for open-source models — parameters, licence, quantisation and how much VRAM each one needs. We do not host the weights.
Which one runs on my machine?
Pick your VRAM. We show the best quantisation that still fits.
SmolLM2-135M
HuggingFaceTB
135M 极小型模型，用于实验和嵌入式
nomic-embed-text-v1.5
nomic-ai
长文本向量模型，8192 上下文
Qwen2.5-0.5B-Instruct
Qwen
最小的 Qwen2.5 指令模型，手机和低配机器也能跑
jina-embeddings-v3
jinaai
多语言向量模型，支持长文档
Qwen3-Embedding-0.6B
Qwen
轻量向量模型，RAG 检索首选小模型
Qwen3-Reranker-0.6B
Qwen
轻量重排模型，配合向量检索提准确率
Qwen3-0.6B
Qwen
Qwen3 系列最小的模型，支持思考模式
LightOnOCR-2-1B
lightonai
1B 的 OCR 专用模型，图片转结构化文字
TinyLlama-1.1B-Chat-v1.0
TinyLlama
1.1B 极小型对话模型，树莓派级设备可用
Llama-3.2-1B-Instruct
meta-llama
1B 小模型，边缘设备和手机端
Qwen2.5-1.5B-Instruct
Qwen
轻量中文对话模型，4GB 显存可跑
DeepSeek-R1-Distill-Qwen-1.5B
deepseek-ai
R1 蒸馏到 1.5B，小显卡也能跑推理模型
moondream2
vikhyatk
轻量视觉语言模型，能看图答题
Qwen3-1.7B
Qwen
Qwen3 小钢炮，8GB 显存绰绰有余
MiniCPM5-2B
openbmb
面壁智能 2B 小模型，中文端侧可用
Qwen2.5-3B-Instruct
Qwen
3B 档位，小显卡上的中文对话选择
Llama-3.2-3B-Instruct
meta-llama
3B 小模型，笔记本可跑的对话模型
Phi-4-mini-instruct
microsoft
微软 Phi-4 小模型，数学推理突出
NVIDIA-Nemotron-3-Nano-4B-BF16
nvidia
NVIDIA 小模型，主打推理效率
Qwen3-4B
Qwen
消费级显卡上的主力选择
Qwen3-4B-Instruct-2507
Qwen
Qwen3-4B 的纯指令版本，不再冗长思考
Qwen3-Embedding-4B
Qwen
中英混排检索效果好的向量模型
Qwen3-Reranker-4B
Qwen
检索结果重排序，配合向量模型把 RAG 做准
gemma-3-4b-it
Google Gemma 3 4B，原生支持图像输入