← 返回模型库

AtomicChat/LFM3-1.7B-Uncensored-GGUF

LFM3-1.7B-Uncensored-GGUF:面向本地对话的轻量文本生成模型

这是基于 LiquidAI/LFM3-1.7B 的 1.7B 参数文本生成 GGUF,主打本地离线对话,并移除安全拒答。资料标注支持英文、中文、德文,适合想在个人电脑尝试轻量模型、且重视更少拒答的用户。两种量化均有较低内存门槛,具体表现仍取决于运行工具、上下文和硬件。

本地文本生成离线对话轻量模型GGUF量化
查看模型源页面 ↗
近30天源站下载量
12.7万
参数
1.7B
上下文
未说明
架构 / 任务
text-generation
许可证
other

MODEL POSITIONING

这个模型解决什么问题?

模型能力方面,该模型源自 LiquidAI/LFM3-1.7B,模型卡称其移除了安全拒答,测试中的有害提示拒答率由 61.7% 降至 0.0%,MMLU 结果保持 41.0%。量化仓库方面,AtomicChat 将目标方向以 W*=2.0 写入权重,再提供 AD-Q4_K_M 和 AD-Q6_K GGUF;它不是官方原始权重仓库。运行工具方面,标签支持 Ollama、llama.cpp 和 LM Studio,但模型卡特别要求 llama.cpp 使用包含 LFM3 支持的构建版本。上下文长度、各语言质量和通用知识水平,模型卡未说明。

更适合谁

  • 适合需要在电脑本地离线运行小型文本生成模型的用户
  • 适合重视较少安全拒答、希望自由测试提示响应的用户
  • 适合资源有限、可接受 1.7B 参数模型能力范围的用户

典型使用场景

  • 本地聊天与问答提示测试
  • 英文、中文或德文文本生成实验
  • 离线小模型应用原型
  • 自由内容生成与安全拒答行为研究

SOURCE-BASED CAPABILITIES

模型卡透露的核心特点

本地离线运行

GGUF 权重可用于个人设备上的文本生成与对话

较少拒答

模型卡称安全拒答已被移除,并给出有害提示测试结果

基础能力保持

模型卡称 MMLU 测得 41.0%,与基础模型相同

多语言标签

资料标注包含英文、中文和德文

按当前权重估算的硬件准备

  • 现有 GGUF 文件中,最低显存估算约 1.5 GB
  • 为上下文缓存、系统进程和并发请求预留额外内存,不要只按模型文件大小配置设备。

量化版本怎么选

  • 资源优先可选 AD-Q4_K_M,文件和显存需求相对更低
  • 偏好更大权重文件可选 AD-Q6_K,资料给出的显存建议更高
  • 两个版本均为 AD 量化 GGUF,下载时需核对完整文件名

GGUF VARIANTS

量化版本与硬件要求

显存与内存数值均按权重文件体积估算,未做设备实测。多模态还需要配套投影文件并额外占用内存;分卷容量按全部分卷合计,下载时需获取完整文件组。

量化权重合计估算加载显存建议显存建议内存来源
Q4_K_M1.1 GB1.5 GB2.5 GB8 GB下载文件 ↗
Q6_K1.5 GB2 GB3 GB8 GB下载文件 ↗

HARDWARE MATCH

哪些显卡或设备更适合运行?

按当前最小量化文件估算,至少需要 1.5GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 2.5GB。

阅读 4GB 显存选型指南 →

可以怎样运行

  • 可使用模型标签列出的 Ollama 运行
  • 可使用模型标签列出的 LM Studio 运行
  • 使用 llama.cpp 时应选择包含 LFM3 支持的构建,模型卡给出的版本为 19cce69

采用前要知道的限制

  • 仅有 1.7B 参数,模型卡未说明复杂推理或专业领域质量
  • 移除安全拒答可能产生不适合直接公开部署的内容,需自行管理使用风险
  • 模型卡未说明上下文长度上限
  • 模型卡未说明中英文德文之间的实际质量差异