近30天源站下载量
未核验 / 暂无记录
参数
8B
上下文
未说明
架构 / 任务
gemma4
许可证
apache-2.0
MODEL POSITIONING
这个模型解决什么问题？
模型能力：作为后处理语言模型，对 ASR 加说话人分割联合系统的输出做二次纠错，修正短轮次与回话标签，同时保留长段独白中的声纹说话人锚点；不是独立语音识别或说话人分割模型，模型卡未说明是否支持端到端音频输入。基础模型为 Gemma 4 E4B（4B dense 参数），在 Fisher、Callhome、ICSI、AMI 四个标准数据集上做监督微调。量化仓库：提供原生 bfloat16 transformers 权重约 16 GB 与两个 GGUF 文件，Q4_K_M 为推荐版本，Q4_0 为旧版 4-bit 格式。运行工具：支持 llama.
更适合谁
- 多人会议与电话对话转写系统的后处理开发者
- 需要修正说话人归属与轮次边界的 ASR 研究员
- 希望在本地或边缘设备跑轻量说话人纠错模型的小团队
- 使用 llama.cpp 或 Ollama 加载 GGUF 的本地 AI 玩家
典型使用场景
- 多人电话录音转写后的说话人归属纠错
- 学术研究会议录音的轮次边界与回话标签修正
- 边端或本地部署的离线会议转写后处理流水线
- 与 USM 加 turn-to-diarize 等基线系统组合做二次纠错
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
多说话人会议纠错
针对 4 人以上会议长独白中的说话人漂移做局部保留训练，显著降低 WDER 与 cpWER
短轮次回话修正
覆盖 1 到 5 词的短回话与反向通道标签修正，提升轮次边界精度
四标准基准覆盖
在 Fisher、Callhome、ICSI、AMI 四大说话人分割基准上做监督微调
轻量 GGUF 量化
提供 Q4_K_M 推荐 GGUF，体积约 5.3 GB，可在消费级显卡运行
开源协议
模型权重与配套脚本以 Apache 2.0 开放
按当前权重估算的硬件准备
- 当前尚无可用量化文件估算
- 为上下文缓存、系统进程和并发请求预留额外内存，不要只按模型文件大小配置设备。
量化版本怎么选
- 推荐 Q4_K_M 量化 GGUF，体积约 5.3 GB，对敏感 attn_v、ffn_down 与 embedding 矩阵保留 Q6_K
- 旧版 Q4_0 量化约 5.15 GB 兼容老版本 llama.cpp，但精度与稳定性弱于 Q4_K_M
- 若需更高精度可用原生 bfloat16 权重，但显存与磁盘占用大幅上升
- 当前资料未提供 Q5、Q6、Q8 等更高量化档位
GGUF VARIANTS
量化版本与硬件要求
显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。
| 量化 | 权重合计 | 估算加载显存 | 建议显存 | 建议内存 | 来源 |
|---|
暂无已核验的完整权重文件，请到模型源页面核对。
HARDWARE MATCH
哪些显卡或设备更适合运行？
按当前最小量化文件估算，至少需要 待确认GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 待确认GB。
阅读 8GB 显存选型指南 →可以怎样运行
- Ollama 加载 Q4_K_M 或 Q4_0 GGUF 进行推理
- LM Studio 加载本地 GGUF 文件进行推理
- llama.cpp 或 llama-cpp-python 命令行加载 GGUF
- Hugging Face transformers 加 diarizationlm 库以 bfloat16 在 GPU 上跑原生权重
采用前要知道的限制
- 明确标注并非 Google 官方支持产品，非官方维护
- 仅做 ASR 与说话人分割的后处理纠错，不是端到端语音识别模型
- 当前资料未给出上下文窗口数值，模型卡仅提及 4000 字符、2560 token 的训练分段长度
- 当前资料未提供 Q5、Q6、Q8 等更高量化档位与对应硬件估算