Qwen3.6-35B-A3B-MTP-GGUF：面向智能体编码的多模态MoE

本仓库由unsloth发布，仅封装Qwen3.6-35B-A3B模型的GGUF量化权重与配置文件，并支持多token预测加速。模型卡显示该模型属于多模态因果语言模型，含视觉编码器，主打智能体编码、工具调用和思考上下文保留。仓库本身不含训练数据与训练细节，推理效率与吞吐依赖所选框架。量化档位覆盖IQ1到Q6及BF16等；本地可通过llama.cpp、Ollama或LM Studio运行，服务端可通过SGLang、vLLM、KTransformers等部署OpenAI兼容API。

显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。

按当前最小量化文件估算，至少需要 11.5GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 13.5GB。