LFM2.5-24B-A2B-GGUF：本地24B MoE推理与工具调用模型

模型层面：LFM2.5-24B-A2B 是 Liquid AI 发布的纯推理型文本模型，采用 24B 总参数/2B 激活参数的 MoE 结构，回答前会进行链式思考，重点优化 Agent、工具调用与函数执行，覆盖知识、推理、数学、代码、指令遵循等基准；模型卡明确不建议单独用于知识密集型任务，建议搭配检索或联网搜索使用。 量化仓库：本仓库由 unsloth 提供 GGUF 量化版本，采用 LFM1.0 许可证，覆盖 IQ2、Q2、IQ3、Q3、Q4、Q5、Q6、Q8 与 BF16 等精度，相比官方原始格式更适合 CPU 与本地低显存部署。 运行工具：模型卡未说明推荐运行时，但仓库元数据显示兼容 Ollama、llama.cpp、LM Studio，可直接加载 GGUF 文件进行本地推理。

显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。

按当前最小量化文件估算，至少需要 8GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 9.5GB。