近30天源站下载量
6.2万
参数
27B
上下文
未说明
架构 / 任务
未分类
许可证
apache-2.0
MODEL POSITIONING
这个模型解决什么问题？
模型能力上，qwen-concept-27b 以 Qwen3.8-27B 为基座，通过权重空间编程重写 9 个降维投影；模型卡报告 GPQA Diamond +4.3、LiveCodeBench v6 +13.0，并称思考 token 减少 27–54%。量化仓库提供 GGUF 的 Q4_K_M 与 Q8_0，另有 bf16、FP8_BLOCK、NVFP4 W4A16；这些属于部署格式，未被说明为分别完成质量评估的模型。运行上，资料标记 Ollama、llama.cpp、LM Studio 可用，GGUF 供 llama.cpp 使用。具体上下文长度、对话模板、速度及更细兼容条件，模型卡未说明。
更适合谁
- 研究权重空间编程、概念注入或权重编辑的开发者
- 拥有较大内存或显存、希望在本地运行 27B 实验模型的用户
- 需要比较原始基座与定向编辑结果的研究者
- 接受实验性模型状态并愿意自行验证量化效果的用户
典型使用场景
- 本地推理与对话实验
- 权重编辑、概念注入和方法研究
- 对比原始基座与编辑后模型的评测表现
- 测试不同 GGUF 量化格式的部署便利性
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
定向权重编辑
根据模型自身激活重写 9 个降维投影，无需梯度步骤或额外训练数据
预注册评测改善
相对未修改基座，模型卡报告 GPQA Diamond +4.3、LiveCodeBench v6 +13.0
思考 token 降低
模型卡称相较基座减少 27–54% 的思考 token
对照实验明确
加入了层数与幅度匹配的随机编辑对照，用于检验编辑方向的作用
按当前权重估算的硬件准备
- 现有 GGUF 文件中，最低显存估算约 17 GB
- 为上下文缓存、系统进程和并发请求预留额外内存，不要只按模型文件大小配置设备。
量化版本怎么选
- 资源有限时优先考虑 Q4_K_M，其文件明显小于 Q8_0，但模型卡明确说明 4-bit 版本尚未单独评估
- Q8_0 被模型卡标为报告评测所使用的精确 GGUF，仍不能据此推断其他量化具有同等效果
- Q4_K_M 位于 bf16 量化路径，不是从 Q8_0 再量化；下载后可使用仓库提供的 SHA256SUMS 校验文件
GGUF VARIANTS
量化版本与硬件要求
HARDWARE MATCH
哪些显卡或设备更适合运行？
按当前最小量化文件估算，至少需要 17GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 19.5GB。
阅读 24GB 显存选型指南 →可以怎样运行
- 可通过资料标记兼容的 Ollama 运行
- GGUF 文件可配合 llama.cpp 使用
- 可使用资料标记兼容的 LM Studio 运行
采用前要知道的限制
- 模型状态为 Experimental、under evaluation，不宜视为成熟稳定版本
- 量化版本仅作为部署便利提供，模型卡未说明各量化独立的质量结果
- 上下文长度、对话模板、推理速度和详细硬件兼容矩阵，模型卡未说明
- 来源资料只提供模型卡中的评测结果，未提供第三方复现结论