近30天源站下载量
12.7万
参数
1.7B
上下文
未说明
架构 / 任务
text-generation
许可证
other
MODEL POSITIONING
这个模型解决什么问题?
模型能力方面,该模型源自 LiquidAI/LFM3-1.7B,模型卡称其移除了安全拒答,测试中的有害提示拒答率由 61.7% 降至 0.0%,MMLU 结果保持 41.0%。量化仓库方面,AtomicChat 将目标方向以 W*=2.0 写入权重,再提供 AD-Q4_K_M 和 AD-Q6_K GGUF;它不是官方原始权重仓库。运行工具方面,标签支持 Ollama、llama.cpp 和 LM Studio,但模型卡特别要求 llama.cpp 使用包含 LFM3 支持的构建版本。上下文长度、各语言质量和通用知识水平,模型卡未说明。
更适合谁
- 适合需要在电脑本地离线运行小型文本生成模型的用户
- 适合重视较少安全拒答、希望自由测试提示响应的用户
- 适合资源有限、可接受 1.7B 参数模型能力范围的用户
典型使用场景
- 本地聊天与问答提示测试
- 英文、中文或德文文本生成实验
- 离线小模型应用原型
- 自由内容生成与安全拒答行为研究
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
本地离线运行
GGUF 权重可用于个人设备上的文本生成与对话
较少拒答
模型卡称安全拒答已被移除,并给出有害提示测试结果
基础能力保持
模型卡称 MMLU 测得 41.0%,与基础模型相同
多语言标签
资料标注包含英文、中文和德文
按当前权重估算的硬件准备
- 现有 GGUF 文件中,最低显存估算约 1.5 GB
- 为上下文缓存、系统进程和并发请求预留额外内存,不要只按模型文件大小配置设备。
量化版本怎么选
- 资源优先可选 AD-Q4_K_M,文件和显存需求相对更低
- 偏好更大权重文件可选 AD-Q6_K,资料给出的显存建议更高
- 两个版本均为 AD 量化 GGUF,下载时需核对完整文件名
GGUF VARIANTS
量化版本与硬件要求
HARDWARE MATCH
哪些显卡或设备更适合运行?
按当前最小量化文件估算,至少需要 1.5GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 2.5GB。
阅读 4GB 显存选型指南 →可以怎样运行
- 可使用模型标签列出的 Ollama 运行
- 可使用模型标签列出的 LM Studio 运行
- 使用 llama.cpp 时应选择包含 LFM3 支持的构建,模型卡给出的版本为 19cce69
采用前要知道的限制
- 仅有 1.7B 参数,模型卡未说明复杂推理或专业领域质量
- 移除安全拒答可能产生不适合直接公开部署的内容,需自行管理使用风险
- 模型卡未说明上下文长度上限
- 模型卡未说明中英文德文之间的实际质量差异