近30天源站下载量
69.8万
参数
未知
上下文
未说明
架构 / 任务
text-to-image
许可证
apache-2.0
MODEL POSITIONING
这个模型解决什么问题？
模型能力方面，本仓库以 Qwen3-VL-8B-Instruct 为基座，主要提供 Qwen-Image 文本编码器，并移除了聊天模型中的拒答方向；作为独立聊天模型使用时，模型卡报告英文有害请求拒答比例下降。量化仓库方面，它不是完整出图模型，还需单独的 Qwen-Image-2.1 Turbo 去噪器、VAE，图像编辑还需未修改的 mmproj。运行工具方面，主要面向 stable-diffusion.cpp 与 llama.cpp，标签标注兼容 Ollama 和 LM Studio，但具体加载配置模型卡未说明。
更适合谁
- 需要在本地搭配 Qwen-Image-2.1 Turbo 完成文生图的用户
- 希望减少 Qwen3-VL-8B-Instruct 聊天拒答的本地用户
- 需要图像理解聊天或多模态聊天能力的用户
- 希望在多个 GGUF 精度之间按设备容量选择的用户
典型使用场景
- 使用 stable-diffusion.cpp 进行本地文生图
- 搭配 Qwen-Image-2.1 非 Turbo 去噪器
- 通过 llama.cpp 进行 Qwen3-VL 图像理解聊天
- 测试不同量化档位的图片变化与聊天一致性
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
专用文本编码器
面向 Qwen-Image 2.1 管线提供 GGUF 文本编码权重
拒答方向移除
模型卡称其移除了拒答方向，同时保持聊天模型的 MMLU 与工具调用测试结果
完整量化阶梯
提供 AD-Q2_K 至 AD-Q6_K、Q8_0 与 BF16
多模态组件齐全
可配合未修改的 mmproj 用于图像编辑或图像聊天
按当前权重估算的硬件准备
- 现有 GGUF 文件中，最低显存估算约 3.5 GB
- 为上下文缓存、系统进程和并发请求预留额外内存，不要只按模型文件大小配置设备。
量化版本怎么选
- 容量允许时优先 Q8_0，模型卡称其图片偏移较小且聊天 top-1 一致率为 98.04%
- 4 bit 档建议选择 AD-Q4_K，模型卡将其作为 4 bit 首选；普通 Q4_K_M 的图片偏移更明显
- AD-Q2_K 仅在更大文件无法装入时考虑，模型卡指出其图片变化较明显
- 需要完整精度可选择 BF16，但文件最大、内存与显存需求也最高
GGUF VARIANTS
量化版本与硬件要求
显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。
HARDWARE MATCH
哪些显卡或设备更适合运行？
按当前最小量化文件估算，至少需要 3.5GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 4.5GB。
阅读 8GB 显存选型指南 →可以怎样运行
- 文生图：在 stable-diffusion.cpp 中将本文件作为 --llm，并另配 Turbo 去噪器与指定 VAE
- 图像聊天：在 llama.cpp 中配合 mmproj 使用，支持视觉投影器的多模态聊天路径
- 兼容工具：模型标签标注 Ollama 与 LM Studio 可用，但具体模型导入步骤模型卡未说明
- 图像编辑：使用独立的视觉投影器文件，模型卡说明该组件未被修改
采用前要知道的限制
- 模型卡未测得明显的图像“去审查”效果：45 个敏感提示中没有一个结果翻转，探针规模也较小
- 拒答统计依赖回复开头，可能漏掉以答案形式出现的软拒答；视觉投影器仍保留原有输入图像路径
- 首 token KL 与泄漏门未按作者设定通过；移除拒答不代表输出安全、正确或合法
- 尚未在 ComfyUI、Mac 或 Qwen-Image-2.1 非 Turbo 去噪器上测试