NVIDIA · GPU
RTX 5090 32GB 能运行哪些模型
面向高端本地推理与生成任务的 32GB 显存配置。
兼容模型
至少存在一个量化版本可以在该显存范围内运行。
Qwythos-9B-Claude-Mythos-5-1M-GGUF
empero-ai 发布的 本地 AI 模型，规格包含 9B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
MiniCPM5-1B-Claude-Opus-Fable5-Thinking-GGUF
GnLOLot 发布的 本地 AI 模型，规格包含 1B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive
HauhauCS 发布的 本地 AI 模型，规格包含 35B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Qwythos-9B-v2-GGUF
empero-ai 发布的 本地 AI 模型，规格包含 9B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF
yuxinlu1 发布的 本地 AI 模型，规格包含 12B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Ornith-1.0-35B-GGUF
deepreinforce-ai 发布的 本地 AI 模型，规格包含 35B 参数、mit 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Qwen3.6-27B-MTP-GGUF
unsloth 发布的 本地 AI 模型，规格包含 27B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
ThinkingCap-Qwen3.6-27B-GGUF
bottlecapai 发布的 本地 AI 模型，规格包含 27B 参数。本站根据其 GGUF 文件实时估算显存与内存要求。
gemma-4-12B-coder-fable5-composer2.5-v1-GGUF
yuxinlu1 发布的 本地 AI 模型，规格包含 12B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Dolphin3-Cyber-8B-GGUF
RavichandranJ 发布的 本地 AI 模型，规格包含 8B 参数、llama3.1 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Qwen3.6-35B-A3B-MTP-GGUF
unsloth 发布的 本地 AI 模型，规格包含 35B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Ornith-1.0-9B-GGUF
deepreinforce-ai 发布的 本地 AI 模型，规格包含 9B 参数、mit 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
MiniCPM5-1B-Agentic-Tooluse-GGUF
ewinregirgojr 发布的 本地 AI 模型，规格包含 1B 参数、other 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
ThinkingCap-Qwen3.6-27B-MTP-GGUF
protoLabsAI 发布的 本地 AI 模型，规格包含 27B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Flux2-Klein-9B-True-V3
wikeeyang 发布的 本地 AI 模型，规格包含 9B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced
HauhauCS 发布的 本地 AI 模型，规格包含 12B 参数、gemma 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Qwopus3.6-35B-A3B-Coder-MTP-GGUF
Jackrong 发布的 本地 AI 模型，规格包含 35B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF
DavidAU 发布的 本地 AI 模型，规格包含 40B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF
huihui-ai 发布的 本地 AI 模型，规格包含 9B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Qwen3.6-35B-A3B-GGUF
unsloth 发布的 本地 AI 模型，规格包含 35B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
Qwen3.5-9B-Uncensored-HauhauCS-Aggressive
HauhauCS 发布的 本地 AI 模型，规格包含 9B 参数、apache-2.0 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。
supergemma4-26b-uncensored-gguf-v2
Jiunsong 发布的 本地 AI 模型，规格包含 26B 参数、gemma 许可证。本站根据其 GGUF 文件实时估算显存与内存要求。