Qwen3.8-27B-GGUF：27B 多模态中文对话量化版

原始模型 Qwen/Qwen3.8-27B 为 28B 参数规模的多模态模型，支持文本与图像输入，并原生具备 MTP 多 token 推测解码层，可在 llama.cpp 中通过 --lookup-n-cache 等参数启用加速。本仓库由 bartowski 发布，使用 b10419 版 llama.cpp 完成 imatrix 量化，覆盖 IQ2、Q3、Q4、Q5、Q6、Q8 与 BF16 全谱系，并附带 mmproj 多模态投影文件。运行工具兼容 llama.cpp、LM Studio、koboldcpp、Jan AI、Ollama、ramalama、Text Generation Web UI 等。

显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。

按当前最小量化文件估算，至少需要 9GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 10.5GB。