近30天源站下载量
12.1万
参数
0.1B
上下文
未说明
架构 / 任务
nemotron3_diarization
许可证
openmdw-1.1
MODEL POSITIONING
这个模型解决什么问题？
模型能力来自 NVIDIA 模型卡、nemo 库与官方标签：说话人分离、Sortformer 输出通道排序、AOSC 流式缓存与 FIFO 队列、10 ms 帧分辨率配置、可与流式 ASR 集成输出词级说话人标签；具体 DER 指标见模型卡。量化仓库为 Hugging Face 上的 Q8_0 GGUF 文件，约 100MB，最低 4GB 内存或 1GB 显存即可加载。运行工具包括 NeMo-Speech.cpp 原生 C++ 运行时、原生 Transformers Python 接口、NeMo Framework v3.0；GGUF 文件标记兼容 llama.cpp、Ollama、LM Studio，但模型卡未说明这些运行时是否完整支持流式配置与分离接口。
更适合谁
- 需要在会议录音、播客或客服通话中区分多人发言的开发者
- 已有流式 ASR 转写系统、希望补充说话人标签的工程团队
- 想在本地用轻量模型做离线或实时说话人分离的中文用户
典型使用场景
- 多人会议录音转写，按说话人分段
- 播客、访谈节目的说话人归类
- 客服或电话录音的多方质检
- 配合流式 ASR 做实时字幕与词级说话人标签
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
多说话人分离
最多支持 8 名说话人，按到达顺序排序输出通道
流式与离线推理
AOSC 缓存加 FIFO 队列，输入缓冲延迟可低至 320 ms
帧分辨率可调
默认 10 ms 步长，可配置 30 ms、80 ms、240 ms 等多倍数值
轻量易部署
100M 参数，Q8 GGUF 约 100MB，最低 4GB 内存即可运行
按当前权重估算的硬件准备
- 现有 GGUF 文件中，最低显存估算约 1 GB
- 为上下文缓存、系统进程和并发请求预留额外内存，不要只按模型文件大小配置设备。
量化版本怎么选
- Hugging Face 仅提供 Q8_0 GGUF 一种量化，约 100MB
- 模型卡未提供 Q4、Q5、FP16 等其他量化文件
- 100M 参数规模较小，Q8 已可保留精度，是否需要更低量化由用户自评
- 模型卡未说明 GGUF 在 llama.cpp 或 Ollama 中的运行速度与兼容性细节
GGUF VARIANTS
量化版本与硬件要求
显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。
| 量化 | 权重合计 | 估算加载显存 | 建议显存 | 建议内存 | 来源 |
|---|---|---|---|---|---|
| Q8_0 | 0.1 GB | 1 GB | 2 GB | 8 GB | 下载文件 ↗ |
HARDWARE MATCH
哪些显卡或设备更适合运行？
按当前最小量化文件估算，至少需要 1GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 2GB。
阅读 4GB 显存选型指南 →可以怎样运行
- NeMo-Speech.cpp 本地 C++ 运行时，支持离线与流式调用
- 原生 Transformers Python 接口，含离线与流式两套示例
- 通过 GGUF 文件在 llama.cpp、Ollama、LM Studio 中加载
- NVIDIA NeMo Framework v3.0，用于训练、微调与推理
采用前要知道的限制
- 模型卡未提供与其他说话人分离模型的横向对比数据
- GGUF 在 llama.cpp、Ollama、LM Studio 中是否完整支持流式配置与分离接口，模型卡未说明
- 最大说话人数为 8，超过 8 人场景不适用
- 训练数据含真实人声样本，使用与分发需注意隐私与合规