近30天源站下载量
未核验 / 暂无记录
参数
27B
上下文
未说明
架构 / 任务
未分类
许可证
apache-2.0
MODEL POSITIONING
这个模型解决什么问题?
模型能力来自 Qwen3.8-27B 的 27B 参数三值化改造,针对 ComfyUI 工作流调优,擅长按词数、必含词、禁用词、Negative 行等条件生成图像与视频提示词,并支持图像描述、物体与场景识别;但编程能力(4/100)与长文阅读明显弱于原 BF16 模型。量化仓库仅提供 PQ2_0(约 7.3 GB)与 PTQ1_0(约 6.0 GB)两种三值 GGUF,以及独立的 Q8 视觉编码器 mmproj。运行依赖 PrismML 维护的 llama.cpp prism 分支,上游暂不支持 PQ2_0/PTQ1_0 格式,Ollama 与 LM Studio 需等待其支持三值格式后才能直接使用。
更适合谁
- 玩 ComfyUI 与 Stable Diffusion / Flux 的 AI 绘画创作者
- 需要按规则批量产出带镜头运动的视频分段提示词的用户
- 持有单张 16 GB 显存显卡、追求 27B 模型的部署者
- 需要图像内容理解、物体与文字识别能力的二次开发者
典型使用场景
- 为 SD 或 Flux 等文生图模型撰写带 Negative 的英文标签提示词
- 生成时间分段、含镜头运动的视频生成提示词
- 描述图片中的物体、数量、文字、人物与图表内容
- 对多张图片做差异比对或图像内容问答
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
ComfyUI 规则化提示词
按词数、必含词、禁用词与 Negative 行格式生成 SD/视频提示词
视频分段提示词生成
输出 0-3s / 3-6s / 6-9s 节奏并附带镜头运动的视频提示词
图像描述与多图对比
识别物体、数量、场景、图中文字与图表,并支持多张图片比较
低显存三值部署
27B 模型可在单张 16 GB 显卡上运行
视觉能力保留
三值化后视觉评分 87.8,与原 BF16 接近
按当前权重估算的硬件准备
- 当前尚无可用量化文件估算
- 为上下文缓存、系统进程和并发请求预留额外内存,不要只按模型文件大小配置设备。
量化版本怎么选
- 优先选择 PQ2_0,官方推荐,规则遵循与视觉表现更稳
- PTQ1_0 体积更小但当前 PTQ1_0 内核下视觉分数较低
- 两种三值格式都需 PrismML 版 llama.cpp,上游 llama.cpp 暂不支持
- 必须关闭 thinking / reasoning,否则模型可能输出空回答
GGUF VARIANTS
量化版本与硬件要求
显存与内存数值均按权重文件体积估算,未做设备实测。多模态还需要配套投影文件并额外占用内存;分卷容量按全部分卷合计,下载时需获取完整文件组。
| 量化 | 权重合计 | 估算加载显存 | 建议显存 | 建议内存 | 来源 |
|---|
暂无已核验的完整权重文件,请到模型源页面核对。
HARDWARE MATCH
哪些显卡或设备更适合运行?
按当前最小量化文件估算,至少需要 待确认GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 待确认GB。
阅读 8GB 显存选型指南 →可以怎样运行
- llama-server 模式启动 PrismML 版 llama.cpp(prism 分支)
- llama.cpp CLI 直接加载 GGUF 推理(同样需要 PrismML 分支)
- Ollama 与 LM Studio 需等待其支持 PQ2_0 / PTQ1_0 三值格式
采用前要知道的限制
- 编程能力几乎不可用(4/100),勿用于代码任务
- 长文阅读能力一般,明显弱于原 BF16 模型
- 并非无审查模型,仍会拒绝约半数敏感请求
- 严格提示词测试中仅 6/10 全部条件通过,需自行核对输出