下载量
0
参数
27B
上下文
未说明
架构 / 任务
未分类
许可证
apache-2.0
MODEL POSITIONING
这个模型解决什么问题?
模型能力来自 philbert440/Qwen3.8-27B-Uncensored-Cyber 基模,定向为去审查与网络安全方向,本卡仅以 100 条赛博攻击性提示做了回应率与 confab 评测,并附带视觉投影器与 MTP 推测解码头,其余任务类别、上下文长度模型卡未说明。仓库本身仅承载 GGUF 权重与 mmproj/mtp 附加文件,原 BF16 单文件不在本仓(超 50GB 上限)。运行侧基于 llama.cpp 生态,可由 Ollama、LM Studio 或 llama.cpp 直接加载,授权 Apache-2.0。
更适合谁
- 需要无审查网络攻防问答的红队与安全研究人员
- 拥有 16GB 以上内存或显存的中端本地部署用户
- 想在本地体验 Qwen3 多模态图文输入的开源模型爱好者
- 兼容 Apache-2.0 合规要求的二次开发与研究者
典型使用场景
- 攻防技术细节与漏洞思路的开放式问答
- 配合 mmproj 对安全相关截图与图表做分析
- 本地部署 27B 级别中英混合对话与代码任务
- 在 llama.cpp 中开启 MTP 做推测解码加速推理
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
去审查对话风格
移除模型的安全对齐,倾向完整回答敏感提示
网络安全专项
在 100 条赛博攻击性提示评测中达到 100/100 开放率
多模态图文输入
自带 mmproj 视觉投影器,支持图像理解
推测解码可选项
提供 MTP 头部,可在 llama.cpp 中启用加速
量化梯度齐全
Q4 到 Q8 多档 GGUF,适配不同显存与内存硬件
硬件怎么准备
- Q4_K_M:建议至少 16GB RAM 或 14GB VRAM,文件约 13.5GB
- Q5_K_M 与 Q6_K:分别需要 17GB 与 20.5GB 以上 VRAM
- Q8_0 接近无损:需 27.5GB VRAM 与 31.5GB RAM,单卡吃紧
- mmproj 与 mtp 头需额外加载,请预留显存余量
量化版本怎么选
- 内存或显存有限的用户优先选择 Q4_K_M
- 显存充裕可上 Q6_K 或 Q8_0 以逼近 BF16 质量
- 视觉与 MTP 组件按需加载,避免无谓占用
- 完整 BF16 未提供单文件,需前往基模仓库取回 safetensors
GGUF VARIANTS
量化版本与硬件要求
HARDWARE MATCH
哪些显卡或设备更适合运行?
按当前最小量化文件估算,至少需要 14GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 16GB。
阅读 24GB 显存选型指南 →可以怎样运行
- 通过 llama.cpp 直接加载 GGUF 并挂载 mmproj 与 mtp 文件
- 使用 Ollama 导入 Q4 至 Q6 量化版本启动对话
- 使用 LM Studio 在本地加载 27B GGUF 与视觉头
- 多模态需在启动参数中同时指定视觉投影器路径
采用前要知道的限制
- 模型卡未说明正式任务类别、上下文长度与训练数据
- 去审查设定可能输出高风险或违规内容,遵守当地法律
- 仅提供 GGUF,无 BF16 单文件,原始权重需另寻基模仓
- 内评测仅覆盖 100 条赛博提示与少量任务,泛化能力需自测