你的设备能运行哪些 AI 模型？
输入显存与任务，先筛出能运行的量化版本，再通过中文模型定位、适用场景、量化建议和限制判断它是否真的适合你。
VRAM envelope
8 GB 兼容区间
MODEL LIBRARY / CURATED
热门本地模型
不只比较文件体积，也解释模型用途、适用人群、运行入口和采用门槛。
Qwen3.8-Flash-Next-GSQ-RCO-GGUF：面向图文任务的低比特量化模型
这是 Qwen3.8-Flash-Next 的多模态 MoE 非均匀 GGUF 量化版本，面向图文问答与对话，也可用于推理、编程等文本任务。适合能提供大容量内存或显存，并使用 llama.cpp、Ollama 或 LM Studio 的用户。四档模型完整下载约 66.4–83.6 GB，部署门槛明显高于常见小模型。
Q2_0 · 建议预留 76.5 GB 显存；容量估算，未做设备实测。
Qwen3.8-27B-GGUF：面向本地部署的多模态推理与编程
Qwen3.8-27B-GGUF 提供 Qwen3.8-27B 的 GGUF 量化版本，基础模型面向编程、专业工作、研究及长链路智能体任务，并原生支持图像、视频理解和可开关思考。适合通过 Ollama、llama.cpp 或 LM Studio 在本地运行的用户。
IQ1_S · 建议预留 7.5 GB 显存；容量估算，未做设备实测。
Ornith-1.5-9B-GGUF：轻量代码与智能体推理模型
Ornith-1.5-9B 是一款面向终端编码与智能体场景的 9B 密集模型，在 Qwen3.5 与 Gemma4 基础上继续预训练并通过自改进循环优化。模型默认输出链式推理，支持工具调用与最长 262K 上下文，可经 YaRN 缩放扩展到约 1M tokens。
Q4_K_M · 建议预留 7 GB 显存；容量估算，未做设备实测。
Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF：面向本地部署的多模态无护栏推理
这是 Qwen3.8-Flash-Next GSQ-RCO 的拒答方向消融 GGUF，面向中英文文本与图像理解、推理及长上下文本地运行。模型卡标注 262,144 令牌原生上下文，但已移除可靠内置护栏，需自行审核。四个量化条目均约 66.82–83.86 GB，最低内存约 78–98 GB，适合高端多核主机。
Q2_0 · 建议预留 77 GB 显存；容量估算，未做设备实测。
Huihui-Qwen3.8-27B-abliterated-GGUF：面向本地实验的低拒答多模态模型
该仓库是基于Qwen/Qwen3.8-27B的27B参数消融版，提供GGUF量化、MTP变体及Ternary Bonsai分支，面向本地研究、内容生成和低拒答实验。普通IQ2至IQ3文件资料建议约11至14.5GB内存或9.5至12GB显存；Ternary文件需专用llama.
GGUF · 建议预留 8 GB 显存；容量估算，未做设备实测。
Ornith-1.5-35B-A3B-GGUF：35B MoE 编码智能体长上下文
Ornith-1.5-35B-A3B 是 35B 混合专家（MoE）文本生成模型，每 token 激活约 3B 参数，面向编码与智能体任务，支持长上下文与工具调用。适合本地或私有化部署的开发者与 Agent 工程师。Q4_K_M 量化约需 20GB 内存或显存，长上下文推理建议多卡 GPU。
Q4_K_M · 建议预留 25.5 GB 显存；容量估算，未做设备实测。
DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF：超大混合专家模型的低比特本地推理
这是基于 763.2B 参数、384 专家且每 token 激活 6 个专家的稀疏 MoE 文本生成模型量化仓库，支持 1M 上下文、推理模式及配合视觉投影器的图像输入。它提供 IQ1_M、IQ2_XXS、IQ2_XS 三种低比特 GGUF，适合拥有大容量 SSD、系统内存，并使用 Strata 或新版 llama.
IQ4_NL · 建议预留 127 GB 显存；容量估算，未做设备实测。
Qwen-Image-2.1-Uncensored-Quantized：本地文生图与编辑的多格式量化模型
面向本地文生图与图像编辑工作流，提供基于 Qwen-Image-2.1 的 GGUF、Safetensors 和 MLX 量化文件。适合希望在 ComfyUI 中部署、且需要无内置安全过滤的成人创作者与研究者。硬件选择取决于量化：GGUF 最低约需 5 GB RAM、4.
Q4_0 · 建议预留 5.5 GB 显存；容量估算，未做设备实测。