近30天源站下载量
7.1万
参数
2B
上下文
未说明
架构 / 任务
image-text-to-text
许可证
other
MODEL POSITIONING
这个模型解决什么问题？
模型能力方面，它基于 LiquidAI/LFM3-VL-2B，任务类型为 image-text-to-text，支持图像输入与多语言交互，模型卡列有中文、英文等语言标签；但具体架构、上下文长度、质量基准和训练数据均未说明。量化仓库提供 Q4_0、Q4_K_M、Q5_K_M、Q6_K、Q8_0、BF16 与 F16 的 GGUF 文件，其中 Q4_0 来自经过量化感知蒸馏训练的 QAD 检查点，目标是恢复 Q4_0 量化造成的精度损失。运行工具方面，仓库明确列出 llama.cpp、Llama.app、LM Studio 和 Ollama，并分别给出所需版本与输入类型。
更适合谁
- 需要在本地运行小型图文理解或多语言对话模型的用户
- 设备资源有限，希望从 Q4 系列 GGUF 起步的用户
- 使用 LM Studio、Ollama 或 llama.cpp 的 macOS、Windows、Linux 用户
典型使用场景
- 本地图片内容问答
- 图像与文字结合的日常交互
- 多语言图文识别与讨论
- 在个人电脑上尝试小型视觉语言模型
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
轻量参数规模
采用 2B 参数，适合作为本地低成本视觉模型候选
图文理解
模型任务类型为 image-text-to-text，可结合图像与文本进行交互
多语言标签
模型卡列出中文、英文及阿拉伯语、法语、日语、韩语等语言
本地运行兼容
GGUF 仓库面向 CPU 和 GPU 本地推理，适配多种主流工具
按当前权重估算的硬件准备
- 现有 GGUF 文件中，最低显存估算约 1.5 GB
- 为上下文缓存、系统进程和并发请求预留额外内存，不要只按模型文件大小配置设备。
量化版本怎么选
- 资源有限时可从 Q4_K_M 入手，其文件约 1.10 GB，来源给出的门槛低于 Q8_0 与 FP16 系列
- 如需尝试 QAD 构建，应下载 LFM3-VL-2B-QAD-Q4_0.gguf；仓库称其经过训练以恢复 Q4_0 量化损失
- Q5_K_M 与 Q6_K 文件更大，但来源未提供各量化之间的质量或速度对比
- BF16 与 F16 文件体积接近；来源没有说明它们相较 Q4 至 Q8 量化在实际任务中的收益
GGUF VARIANTS
量化版本与硬件要求
显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。
HARDWARE MATCH
哪些显卡或设备更适合运行？
按当前最小量化文件估算，至少需要 1.5GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 2.5GB。
阅读 4GB 显存选型指南 →可以怎样运行
- llama.cpp：可使用所列 GGUF 文件进行本地推理，Llama.app 要求 llama.cpp v0.8.0 或更新版本
- Llama.app：支持 macOS 与 Windows，可输入图像和视频
- LM Studio：支持 macOS、Windows 与 Linux，可输入图像，要求 llama.cpp 引擎 2.65.1 或更新版本
- Ollama：可运行 lfm3-vl，来源列出的环境为 macOS、图像输入，要求 v0.40.12 或更新版本
采用前要知道的限制
- 模型卡未说明架构、上下文长度、质量基准、训练数据及速度表现
- 来源只明确列出 Llama.app 支持图像和视频输入，LM Studio 与 Ollama 条目仅明确写图像输入
- 各量化版本没有质量对比，实际占用还会受到运行工具、上下文与硬件配置影响
- 许可证分类为 other，元数据标注 lfm1.0，使用前需要自行核对授权范围