下载量
0
参数
8.2B
上下文
未说明
架构 / 任务
qwen3
许可证
other
MODEL POSITIONING
这个模型解决什么问题?
该模型基于 Qwen3 架构,参数量约 8.2B,名称提示用于 FLUX.2 图像生成流程的文本编码阶段,但模型卡未说明具体能力、训练数据、上下文长度与适用任务,标签也为空。仓库仅发布 GGUF 量化文件,可通过 Ollama、llama.cpp、LM Studio 三种本地推理工具加载,覆盖 Q4_K_M、F16、Q6_K、Q8_0 四种精度。许可证为 other,授权细则与商用边界模型卡未说明。该项目定位偏向图像生成管线的文本编码组件实验,而非通用对话模型。
更适合谁
- 需要在本地加载 FLUX.2 文本编码端的图像生成开发者
- 调研 Qwen3 衍生模型在图像生成管线中表现的实验者
- 希望替换或对比开源文本编码器的自研流程集成者
典型使用场景
- 作为 FLUX.2 图像生成工作流的本地文本编码组件
- 自研图像生成管线中替换或对比开源文本编码端
- 在本地环境中测试 uncensored 命名对应的文本编码表现
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
Qwen3 架构基础
基于 Qwen3,参数量约 8.2B,定位为中等规模文本编码器
多精度 GGUF 覆盖
同时提供 Q4_K_M、F16、Q6_K、Q8_0 四种量化档位
多工具本地兼容
支持 Ollama、llama.cpp、LM Studio 三种主流本地推理工具
轻量体积
最低 Q4_K_M 文件约 4.1GB,对消费级显卡较友好
硬件怎么准备
- Q4_K_M:建议至少 8GB 内存或 5.5GB 显存
- Q6_K:建议至少 9GB 内存或 7.5GB 显存
- Q8_0:建议至少 11.5GB 显存或 11.5GB 内存
- F16:建议至少 8GB 内存或 6.5GB 显存,更适合显存充足的本地实验
量化版本怎么选
- 显存紧张或仅做编码端验证:选 Q4_K_M,文件约 4.1GB
- 平衡体积与质量:选 Q6_K,文件约 6.15GB
- 追求更高还原:选 Q8_0,文件约 8.2GB
- 需要接近原始权重:选 F16,文件约 5.13GB,但需更多显存
GGUF VARIANTS
量化版本与硬件要求
HARDWARE MATCH
哪些显卡或设备更适合运行?
按当前最小量化文件估算,至少需要 4.5GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 5.5GB。
阅读 8GB 显存选型指南 →可以怎样运行
- Ollama 直接拉取或加载 GGUF 文件进行推理
- llama.cpp 命令行或兼容前端调用 GGUF 文件
- LM Studio 图形界面加载并对话测试
- 自研脚本通过 llama.cpp Python 绑定接入图像生成管线
采用前要知道的限制
- 模型卡、描述、标签均为空,具体能力与训练背景模型卡未说明
- 上下文长度未提供,长文本场景需自行测试
- 许可证为 other,授权与商用边界模型卡未说明
- 名称含 uncensored 但实际行为与触发条件模型卡未说明