gemma-4-26B-A4B-it-GGUF：本地推理多模态MoE对话模型

本仓库为 Unsloth 发布的 Gemma 4 26B A4B 指令微调版 GGUF 量化仓库，源自 Google DeepMind 开源模型。模型能力来自官方模型卡：支持文本生成、代码、推理、256K 长上下文、140 多种语言、图文多模态理解（不含音频）、原生函数调用与可配置思考模式；架构为 MoE，128 个专家中激活 8 个加 1 个共享。仓库本身仅做量化与分发，模型卡未说明相对其他量化仓库的速度对比。运行工具覆盖 Ollama、llama.cpp 与 LM Studio。

显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。

按当前最小量化文件估算，至少需要 10GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 11.5GB。