← 返回模型库

philbert440/Qwen3.8-27B-Uncensored-Cyber-GGUF

Qwen3.8-27B-Uncensored-Cyber-GGUF:27B去审查的网络安全图文问答

Qwen3.8-27B-Uncensored-Cyber 是 27B 参数去审查微调版本,聚焦网络安全与攻防话题,可搭配 mmproj 视觉投影器实现图文输入。仓库提供 Q4–Q8 多档 GGUF 量化,16GB 内存即可加载 Q4,适合需要完整回答敏感安全话题、对指令审查容忍度低的研究者与红队演练。

网络安全去审查对话多模态27B模型
查看模型源页面 ↗
近30天源站下载量
50.7万
参数
27B
上下文
未说明
架构 / 任务
image-text-to-text
许可证
apache-2.0

MODEL POSITIONING

这个模型解决什么问题?

模型能力来自 philbert440/Qwen3.8-27B-Uncensored-Cyber 基模,定向为去审查与网络安全方向,本卡仅以 100 条赛博攻击性提示做了回应率与 confab 评测,并附带视觉投影器与 MTP 推测解码头,其余任务类别、上下文长度模型卡未说明。仓库本身仅承载 GGUF 权重与 mmproj/mtp 附加文件,原 BF16 单文件不在本仓(超 50GB 上限)。运行侧基于 llama.cpp 生态,可由 Ollama、LM Studio 或 llama.cpp 直接加载,授权 Apache-2.0。

更适合谁

  • 需要无审查网络攻防问答的红队与安全研究人员
  • 拥有 16GB 以上内存或显存的中端本地部署用户
  • 想在本地体验 Qwen3 多模态图文输入的开源模型爱好者
  • 兼容 Apache-2.0 合规要求的二次开发与研究者

典型使用场景

  • 攻防技术细节与漏洞思路的开放式问答
  • 配合 mmproj 对安全相关截图与图表做分析
  • 本地部署 27B 级别中英混合对话与代码任务
  • 在 llama.cpp 中开启 MTP 做推测解码加速推理

SOURCE-BASED CAPABILITIES

模型卡透露的核心特点

去审查对话风格

移除模型的安全对齐,倾向完整回答敏感提示

网络安全专项

在 100 条赛博攻击性提示评测中达到 100/100 开放率

多模态图文输入

自带 mmproj 视觉投影器,支持图像理解

推测解码可选项

提供 MTP 头部,可在 llama.cpp 中启用加速

量化梯度齐全

Q4 到 Q8 多档 GGUF,适配不同显存与内存硬件

按当前权重估算的硬件准备

  • 现有 GGUF 文件中,最低显存估算约 19.5 GB
  • 为上下文缓存、系统进程和并发请求预留额外内存,不要只按模型文件大小配置设备。

量化版本怎么选

  • 内存或显存有限的用户优先选择 Q4_K_M
  • 显存充裕可上 Q6_K 或 Q8_0 以逼近 BF16 质量
  • 视觉与 MTP 组件按需加载,避免无谓占用
  • 完整 BF16 未提供单文件,需前往基模仓库取回 safetensors

GGUF VARIANTS

量化版本与硬件要求

显存与内存数值均按权重文件体积估算,未做设备实测。多模态还需要配套投影文件并额外占用内存;分卷容量按全部分卷合计,下载时需获取完整文件组。

量化权重合计估算加载显存建议显存建议内存来源
Q4_K_M18 GB19.5 GB22.5 GB27 GB下载文件 ↗
Q5_K_M20 GB21.5 GB24.5 GB30 GB下载文件 ↗
Q6_K22 GB24 GB27.5 GB33.5 GB下载文件 ↗
Q8_027 GB29 GB33 GB40 GB下载文件 ↗

HARDWARE MATCH

哪些显卡或设备更适合运行?

按当前最小量化文件估算,至少需要 19.5GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 22.5GB。

阅读 24GB 显存选型指南 →

可以怎样运行

  • 通过 llama.cpp 直接加载 GGUF 并挂载 mmproj 与 mtp 文件
  • 使用 Ollama 导入 Q4 至 Q6 量化版本启动对话
  • 使用 LM Studio 在本地加载 27B GGUF 与视觉头
  • 多模态需在启动参数中同时指定视觉投影器路径

采用前要知道的限制

  • 模型卡未说明正式任务类别、上下文长度与训练数据
  • 去审查设定可能输出高风险或违规内容,遵守当地法律
  • 仅提供 GGUF,无 BF16 单文件,原始权重需另寻基模仓
  • 内评测仅覆盖 100 条赛博提示与少量任务,泛化能力需自测