← 返回模型库

chatrlabs/Qwen-Image-2.1-Uncensored-Omni-Quantized

Qwen-Image-2.1-Uncensored-Omni-Quantized:中文生图与图像编辑的量化模型

这是基于 Qwen-Image-2.1、合并 ChatR Labs Omni 适配器的社区量化模型,用于文生图与参考图编辑。仓库仅含 transformer 权重,文本编码器、处理器和 VAE 需从基础仓库取得。

文生图图像编辑GGUF量化
查看模型源页面 ↗
近30天源站下载量
3.8万
参数
未知
上下文
未说明
架构 / 任务
text-to-image
许可证
other

MODEL POSITIONING

这个模型解决什么问题?

该仓库是 Qwen-Image-2.1 的社区量化与适配器合并版本:将 rank-128 Omni LoRA 以 1.0 强度并入基础 transformer,再提供 GGUF、ComfyUI 原生 FP8、INT8、NVFP4,以及 Diffusers FP8、NF4、INT8、BF16。能力上用于文本生成图像和参考图编辑;仓库不包含文本编码器、处理器与 VAE。GGUF 兼顾 ComfyUI 与 Diffusers 单文件加载,原生量化则有工具限制。模型卡未说明参数规模、上下文长度、训练数据或质量排名;各版本仅对 transformer 进行量化,不能据此承诺生成质量或运行速度。

更适合谁

  • 希望在 ComfyUI 本地执行文生图和参考图编辑的用户
  • 需要 GGUF、FP8、INT8、NVFP4 或 NF4 多格式选择的本地部署用户
  • 使用较低配置显存设备、优先考虑小体积量化文件的用户
  • 进行非商业研究与评测的研究人员

典型使用场景

  • 根据中文或英文文本提示生成图片
  • 结合参考图片进行局部或内容编辑
  • 在 ComfyUI 中搭建文生图或编辑工作流
  • 对比不同量化格式的本地部署资源需求

SOURCE-BASED CAPABILITIES

模型卡透露的核心特点

双任务支持

同时覆盖文本生成图像与参考图编辑

量化格式丰富

提供 GGUF、FP8、INT8、NVFP4、NF4 等 transformer 权重

多运行工具适配

模型卡重点提供 ComfyUI 与 Diffusers 的加载和配置方式

明确推理参数

推荐 35 步、True CFG 5.0、er_sde 采样器与 simple 调度器

无内置内容过滤

模型卡称检查点和示例代码未加入提示词过滤器或输出安全检查器

按当前权重估算的硬件准备

  • 现有 GGUF 文件中,最低显存估算约 4.5 GB
  • 为上下文缓存、系统进程和并发请求预留额外内存,不要只按模型文件大小配置设备。

量化版本怎么选

  • ComfyUI 若希望单文件兼顾文生图与编辑,可直接选择任一 GGUF
  • ComfyUI 需要原生量化算子时,可在 FP8、INT8 ConvRot、NVFP4 中选择,均为 ComfyUI 专用文件
  • Diffusers 追求最小下载体积可选 NF4,但需要 bitsandbytes;FP8 torchao 需要安装 torchao
  • 模型卡将 BF16 GGUF、BF16 safetensors 或 Q8_0 列为最大保真选项,但未提供各量化版本的质量排名

GGUF VARIANTS

量化版本与硬件要求

显存与内存数值均按权重文件体积估算,未做设备实测。多模态还需要配套投影文件并额外占用内存;分卷容量按全部分卷合计,下载时需获取完整文件组。

量化权重合计估算加载显存建议显存建议内存来源
Q4_03.9 GB4.5 GB5.5 GB8 GB下载文件 ↗
Q4_K_M4.2 GB5 GB6 GB8 GB下载文件 ↗
Q5_K_M4.9 GB5.5 GB6.5 GB8 GB下载文件 ↗
Q6_K5.6 GB6.5 GB7.5 GB8.5 GB下载文件 ↗
Q8_07.2 GB8 GB9.5 GB11 GB下载文件 ↗
BF1613 GB14.5 GB16.5 GB20 GB下载文件 ↗

HARDWARE MATCH

哪些显卡或设备更适合运行?

按当前最小量化文件估算,至少需要 4.5GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 5.5GB。

阅读 8GB 显存选型指南 →

可以怎样运行

  • ComfyUI:使用 Unet Loader (GGUF) 加载 GGUF,可运行文生图与编辑
  • ComfyUI:使用 Load Diffusion Model 加载 -comfy.safetensors 原生量化文件
  • Diffusers:通过 from_single_file 加载 GGUF,或加载 FP8、NF4、INT8、BF16 目录
  • 运行时元数据标记支持 Ollama、llama.cpp、LM Studio,但模型卡未说明这些工具的具体工作流与配置

采用前要知道的限制

  • 仓库仅提供量化 transformer 权重,缺少文本编码器、处理器和 VAE,必须另行准备
  • 采用普通 LoRA 合并,不是少步蒸馏模型,模型卡建议从 35 步开始
  • “uncensored”不代表所有请求都能生成;实际结果仍受提示词、构建版本和运行应用影响
  • Qwen Research License 将使用限制在非商业研究与评估,除非另行获得授权