flint-GGUF：面向代码智能体的本地量化选择

模型能力方面，Flint 是 Recursive 开发的解码器 MoE 编程智能体模型，39.8B 总参数、每 token 约 2.5B 激活，支持文本生成、推理、多轮工具调用及 OpenAI 兼容工具调用，文档化上下文为 262,144 tokens；模型卡列出 Terminal-Bench 与 SWE-bench 评测，但来源设置不同，不宜直接横比。量化仓库方面，unsloth/flint-GGUF 提供 IQ1_M 至 Q8_0、Q_K_XL 系列及 BF16 文件，并标注 NVIDIA 与 Apple Silicon 变体。运行工具方面，资料明确列出 Ollama、llama.cpp 和 LM Studio；各量化的质量差异与速度排序，模型卡未说明。

显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。

按当前最小量化文件估算，至少需要 11.5GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 13.5GB。