← 返回模型库

philbert440/Qwen3.8-27B-Uncensored-Cyber-GGUF

Qwen3.8-27B-Uncensored-Cyber-GGUF:27B去审查的网络安全图文问答

Qwen3.8-27B-Uncensored-Cyber 是 27B 参数去审查微调版本,聚焦网络安全与攻防话题,可搭配 mmproj 视觉投影器实现图文输入。仓库提供 Q4–Q8 多档 GGUF 量化,16GB 内存即可加载 Q4,适合需要完整回答敏感安全话题、对指令审查容忍度低的研究者与红队演练。

网络安全去审查对话多模态27B模型
查看模型源页面
下载量
0
参数
27B
上下文
未说明
架构 / 任务
未分类
许可证
apache-2.0

MODEL POSITIONING

这个模型解决什么问题?

模型能力来自 philbert440/Qwen3.8-27B-Uncensored-Cyber 基模,定向为去审查与网络安全方向,本卡仅以 100 条赛博攻击性提示做了回应率与 confab 评测,并附带视觉投影器与 MTP 推测解码头,其余任务类别、上下文长度模型卡未说明。仓库本身仅承载 GGUF 权重与 mmproj/mtp 附加文件,原 BF16 单文件不在本仓(超 50GB 上限)。运行侧基于 llama.cpp 生态,可由 Ollama、LM Studio 或 llama.cpp 直接加载,授权 Apache-2.0。

更适合谁

  • 需要无审查网络攻防问答的红队与安全研究人员
  • 拥有 16GB 以上内存或显存的中端本地部署用户
  • 想在本地体验 Qwen3 多模态图文输入的开源模型爱好者
  • 兼容 Apache-2.0 合规要求的二次开发与研究者

典型使用场景

  • 攻防技术细节与漏洞思路的开放式问答
  • 配合 mmproj 对安全相关截图与图表做分析
  • 本地部署 27B 级别中英混合对话与代码任务
  • 在 llama.cpp 中开启 MTP 做推测解码加速推理

SOURCE-BASED CAPABILITIES

模型卡透露的核心特点

去审查对话风格

移除模型的安全对齐,倾向完整回答敏感提示

网络安全专项

在 100 条赛博攻击性提示评测中达到 100/100 开放率

多模态图文输入

自带 mmproj 视觉投影器,支持图像理解

推测解码可选项

提供 MTP 头部,可在 llama.cpp 中启用加速

量化梯度齐全

Q4 到 Q8 多档 GGUF,适配不同显存与内存硬件

硬件怎么准备

  • Q4_K_M:建议至少 16GB RAM 或 14GB VRAM,文件约 13.5GB
  • Q5_K_M 与 Q6_K:分别需要 17GB 与 20.5GB 以上 VRAM
  • Q8_0 接近无损:需 27.5GB VRAM 与 31.5GB RAM,单卡吃紧
  • mmproj 与 mtp 头需额外加载,请预留显存余量

量化版本怎么选

  • 内存或显存有限的用户优先选择 Q4_K_M
  • 显存充裕可上 Q6_K 或 Q8_0 以逼近 BF16 质量
  • 视觉与 MTP 组件按需加载,避免无谓占用
  • 完整 BF16 未提供单文件,需前往基模仓库取回 safetensors

GGUF VARIANTS

量化版本与硬件要求

数值根据文件体积和运行余量估算,不是速度或效果承诺;长上下文、并发与 GPU 层数会改变实际占用。

量化文件最低显存推荐显存推荐内存来源
Q413 GB14 GB16 GB19 GB文件 ↗
Q516 GB17 GB19.5 GB24 GB文件 ↗
BF1616 GB17 GB19.5 GB24 GB文件 ↗
Q619 GB20.5 GB23.5 GB28.5 GB文件 ↗
Q825 GB27.5 GB31.5 GB38 GB文件 ↗

HARDWARE MATCH

哪些显卡或设备更适合运行?

按当前最小量化文件估算,至少需要 14GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 16GB。

阅读 24GB 显存选型指南 →

可以怎样运行

  • 通过 llama.cpp 直接加载 GGUF 并挂载 mmproj 与 mtp 文件
  • 使用 Ollama 导入 Q4 至 Q6 量化版本启动对话
  • 使用 LM Studio 在本地加载 27B GGUF 与视觉头
  • 多模态需在启动参数中同时指定视觉投影器路径

采用前要知道的限制

  • 模型卡未说明正式任务类别、上下文长度与训练数据
  • 去审查设定可能输出高风险或违规内容,遵守当地法律
  • 仅提供 GGUF,无 BF16 单文件,原始权重需另寻基模仓
  • 内评测仅覆盖 100 条赛博提示与少量任务,泛化能力需自测