DeepSeek-V4-Pro-Qwen3.5-9B-MTP-GGUF：数学与理工推理的 9B 蒸馏

DeepSeek-V4-Pro-Qwen3.5-9B-MTP-GGUF 是 Jackrong 发布的 9B 参数推理模型仓库，仅分发 GGUF 量化，不含原始 PyTorch 权重。模型能力源自 Qwen3.5-9B 基座，由 DeepSeek-V4-Pro Max Effect 模式蒸馏，训练数据集中在数学与 STEM，叠加 SFT 与 GSPO 强化学习。上下文方面，模型卡未说明完整上限，评测中 9B 量化版本使用 8K 上下文。仓库附带 mmproj-F32 配套文件，提供 Q2 到 Q8_0 共 8 种 GGUF 量化，兼容 Ollama、llama.cpp、LM Studio 桌面部署，并支持 vLLM NVFP4 服务化运行。

显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。

按当前最小量化文件估算，至少需要 4GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 5GB。