Nanbeige4.2-3B-GGUF：3B参数中文轻量对话量化

模型能力方面，Nanbeige4.2-3B 是 3B 参数的中英双语模型，pipeline_tag 显示为文本生成，但上下文长度、训练数据、能力评测原模型卡未详细说明。量化仓库方面，owao 用户提供了从 Q2 到 Q8 共 8 档 GGUF 量化文件，覆盖从极低资源到接近原精度的需求。运行工具方面，兼容 llama.cpp、LM Studio 与 Ollama 三种推理框架，其中该仓库说明指出 Ollama 需使用其 fork 分支构建，主流 llama.cpp 路径可直接调用。

显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。

按当前最小量化文件估算，至少需要 2GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 3GB。