近30天源站下载量
29万
参数
9B
上下文
未说明
架构 / 任务
未分类
许可证
apache-2.0
MODEL POSITIONING
这个模型解决什么问题？
模型能力方面，来源标签显示其基于 xtools-at/DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic，参数规模为 9B 参数，覆盖中、英、韩、日、西、俄语，并带有 reasoning、math、tool-use、function-calling 等能力标签；README 称其为视觉模型，但未提供架构、上下文长度或具体基准。量化仓库方面，mradermacher 提供 weighted/imatrix GGUF，模型卡称 IQ 量化常优于相近体积的非 IQ 版本，并列出 IQ1 至 IQ6、Q2 至 Q6 等档位。运行工具方面，来源仅确认 Ollama、llama.cpp、LM Studio 兼容，具体命令、上下文参数与多模态文件配置模型卡未说明。
更适合谁
- 需要中文本地推理和多语言对话的用户
- 想尝试数学、工具调用或函数调用功能的用户
- 接受低比特量化质量取舍的轻量设备用户
- 需要自行选择 GGUF 量化版本的 llama.cpp 用户
典型使用场景
- 本地多语言文本生成与对话
- 数学题解答和一般推理任务
- 工具调用与函数调用原型
- 配合静态仓库中的 mmproj 文件探索视觉能力
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
多语言生成
模型卡标注支持中文、英语、韩语、日语、西班牙语和俄语
推理与数学
带有 reasoning、math、stem 等能力标签
工具调用
带有 tool-use 和 function-calling 标签
视觉定位
README 将其描述为视觉模型，但具体视觉架构与文件配置未说明
弱限制取向
名称及标签包含 uncensored、decensored 和 abliterated
按当前权重估算的硬件准备
- 现有 GGUF 文件中，最低显存估算约 3 GB
- 为上下文缓存、系统进程和并发请求预留额外内存，不要只按模型文件大小配置设备。
量化版本怎么选
- 模型卡优先推荐 i1-Q4_K_M，并将其标为推荐版本；i1-Q4_K_S 被标为体积、速度与质量的平衡选择
- 模型卡建议相近体积下优先考虑 IQ 量化，并推荐 i1-IQ4_XS 优先于 i1-IQ4_NL
- i1-IQ1_S 和 i1-IQ1_M 面向极度受限环境，模型卡分别标注为“for the desperate”和“mostly desperate”
- 若只从带资源估算的版本中选择，i1-IQ3_S 约 4.37GB，资源门槛低于常见 Q4 档位，但模型卡也提示 IQ3_XXS 质量偏低
GGUF VARIANTS
量化版本与硬件要求
显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。
| 量化 | 权重合计 | 估算加载显存 | 建议显存 | 建议内存 | 来源 |
|---|---|---|---|---|---|
| IQ1_S | 2.6 GB | 3 GB | 4 GB | 8 GB | 下载文件 ↗ |
| IQ1_M | 2.7 GB | 3 GB | 4 GB | 8 GB | 下载文件 ↗ |
| IQ2_XXS | 2.9 GB | 3.5 GB | 4.5 GB | 8 GB | 下载文件 ↗ |
| IQ2_XS | 3.1 GB | 3.5 GB | 4.5 GB | 8 GB | 下载文件 ↗ |
| IQ2_S | 3.2 GB | 3.5 GB | 4.5 GB | 8 GB | 下载文件 ↗ |
| IQ2_M | 3.4 GB | 4 GB | 5 GB | 8 GB | 下载文件 ↗ |
| Q2_K_S | 3.4 GB | 4 GB | 5 GB | 8 GB | 下载文件 ↗ |
| Q2_K | 3.6 GB | 4 GB | 5 GB | 8 GB | 下载文件 ↗ |
| IQ3_XXS | 3.7 GB | 4 GB | 5 GB | 8 GB | 下载文件 ↗ |
| IQ3_XS | 4.0 GB | 4.5 GB | 5.5 GB | 8 GB | 下载文件 ↗ |
| Q3_K_S | 4.0 GB | 4.5 GB | 5.5 GB | 8 GB | 下载文件 ↗ |
| IQ3_S | 4.1 GB | 4.5 GB | 5.5 GB | 8 GB | 下载文件 ↗ |
| IQ3_M | 4.1 GB | 4.5 GB | 5.5 GB | 8 GB | 下载文件 ↗ |
| Q3_K_M | 4.3 GB | 5 GB | 6 GB | 8 GB | 下载文件 ↗ |
| Q3_K_L | 4.6 GB | 5 GB | 6 GB | 8 GB | 下载文件 ↗ |
| IQ4_XS | 4.8 GB | 5.5 GB | 6.5 GB | 8 GB | 下载文件 ↗ |
HARDWARE MATCH
哪些显卡或设备更适合运行？
按当前最小量化文件估算，至少需要 3GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 4GB。
阅读 4GB 显存选型指南 →可以怎样运行
- 使用 Ollama 加载本地 GGUF
- 使用 llama.cpp 运行 GGUF
- 使用 LM Studio 选择和运行 GGUF
- 使用视觉功能前，在静态仓库确认并配置所需 mmproj 文件
采用前要知道的限制
- 模型卡未说明模型架构、上下文长度、训练方法和评测结果
- “uncensored”等属性来自名称与标签，来源未提供安全边界或能力验证
- README 称其为视觉模型，但未说明视觉输入格式、投影结构及对应文件清单
- 量化质量比较来自模型卡说明，不能替代针对具体设备和任务的质量测试