近30天源站下载量
31.5万
参数
12B
上下文
未说明
架构 / 任务
gemma4_unified
许可证
apache-2.0
MODEL POSITIONING
这个模型解决什么问题？
模型能力方面，humanizer 以 Gemma 4 12B 为基座，针对 AI 草稿的自然化改写训练，主攻事实保留、表达自然化和减少机械复述，支持英文与中文。量化仓库方面，官方模型仓库及 humanizer-GGUF 提供 BF16、Q8_0、Q6_K、Q4_K_M、Q3-QAT 与 IQ2_XS-QAT；较低比特文件使用量化感知训练。运行工具方面，可经官方桌面应用、llama.cpp、MLX、Transformers、vLLM、Ollama 或 LM Studio 使用，但各工具需遵循指定提示格式。模型卡未说明不同设备上的速度保证。
更适合谁
- 需要把中文邮件、文章、报告或论坛草稿改得更自然的本地用户
- 关注数字、日期、姓名和引用是否保持原意的高频写作者
- 内存或显存有限、希望按设备选择不同 GGUF 精度的用户
典型使用场景
- 改写工作邮件、通知、申请信和普通商务沟通草稿
- 润色论文段落、报告、课程作业和长篇说明文字
- 调整论坛回答、博客文章及社交平台帖子的机械表达
- 通过命令行工具分段处理 Markdown、TXT 和 DOCX 长文档
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
定向文本改写
专门重写 AI 草稿，而不是承担通用聊天、检索或代码生成任务
事实保持训练
训练目标包含保留数字、单位、日期、姓名、引用并避免添加无依据内容
中英文支持
模型卡明确列出中文和英文，并提供中英文改写说明与中文评测
多种量化选择
提供 BF16、Q8_0、Q6_K、Q4_K_M、Q3-QAT 和 IQ2_XS-QAT 文件
本地运行
支持离线桌面应用，以及 llama.cpp、Transformers、vLLM 等运行方式
按当前权重估算的硬件准备
- 现有 GGUF 文件中，最低显存估算约 4 GB
- 为上下文缓存、系统进程和并发请求预留额外内存，不要只按模型文件大小配置设备。
量化版本怎么选
- Q8_0 是模型卡推荐版本，面向优先考虑改写质量且内存充足的设备
- Q6_K 被模型卡描述为无可测损失，可作为质量优先时的另一选择
- Q4_K_M 属于量化感知训练版本，模型卡标注存在轻微损失；Q3-QAT 损失较小，但英文事实遗漏有所增加
- IQ2_XS-QAT 体积最小，适合低内存设备，但模型卡提示事实问题更多，尤其应检查数字、日期和姓名
GGUF VARIANTS
量化版本与硬件要求
HARDWARE MATCH
哪些显卡或设备更适合运行？
按当前最小量化文件估算，至少需要 4GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 5GB。
阅读 8GB 显存选型指南 →可以怎样运行
- 官方桌面应用支持 Apple silicon Mac 与 Windows，可离线导入 DOCX、PDF，并把选中文本标为必须保留的事实
- hz 命令行工具适合长文档和自动化流程，可通过应用或 llama-server 分段改写，并标记数字丢失等异常
- llama.cpp 是模型卡推荐的无应用方案；也可使用 MLX、Transformers CUDA 或 vLLM，但应采用指定提示格式、8192 token 上下文及采样参数
- Ollama 必须使用模型卡提供的自定义 Modelfile，否则其默认模板可能破坏提示；LM Studio 路径由模型卡列为未测试
采用前要知道的限制
- 仍可能改动细节；英文评测中有 44 次事实问题被标记，中文问题相对更多，发布前必须复核数字、日期、姓名和引用
- 中文效果仍弱于英文，模板化、政策类或带表情及标签的内容也较难处理
- 可能合并或丢失段落、列表和标题，个别情况会输出错误语言，或添加原文没有的俚语与粗俗表达
- 上下文为 8192 token，长文档需按段落切分；AI 检测器结果会变化，不能视为稳定保证