Abiray/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF
DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF：面向高门槛本地部署的免审查文本生成
这是 DeepSeek-V4.1-Flash-1017 的免审查 GGUF 构建，面向能在本地运行文本生成与对话、并接受较高内存和存储门槛的用户。它不是普通单文件量化：运行还需约 110.60 GB 的 IQ4_NL Engram 查找文件，另附 BF16 视觉投影。建议具备新版 llama.
MODEL POSITIONING
这个模型解决什么问题？
这是 DeepSeek-V4.1-Flash-1017 的第三方 GGUF 量化仓库：模型卡称其为将拒答方向烘焙进权重的免审查文本生成构建，以 6 分片、共享 Engram 文件和 BF16 视觉投影组成运行集合。能力侧，模型卡说明其用于文本生成与对话，并声称保留 GSQ-RCO 路由专家；另附视觉投影支持。量化侧，主体标称 IQ2_XXS，运行还须加载 IQ4_NL Engram 查找文件，并非普通单文件量化。工具侧，说明要求新版 llama.cpp 或 Strata；Ollama、LM Studio 仅有标签支持，模型卡未说明具体配置。
更适合谁
- 需要免审查文本生成与对话构建的本地用户
- 配备超大内存、显存及磁盘空间的研究型部署者
- 使用新版 llama.cpp 或 Strata 的 GGUF 用户
- 希望免去运行时 LoRA 适配器的用户
典型使用场景
- 本地文本生成与开放对话
- 研究免审查权重烘焙方案
- 测试 GSQ-RCO 与 Engram 量化组合
- 接入视觉投影组件进行多模态实验
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
权重内置免审查处理
模型卡称 86 个消融残差写入张量已烘焙进量化权重，运行时无需 LoRA
GSQ-RCO 保留声明
模型卡声称 28 个 IQ1_M 路由专家层未被改动，并保留原有 GSQ-RCO 结构
对齐审计数据
模型卡报告与基座的词级困惑度相关系数为 99.84%，并提供逐词表 KL 散度审计
视觉组件可配用
随仓库提供 BF16 mmproj 文件，模型卡将其描述为视觉支持组件
按当前权重估算的硬件准备
- 现有 GGUF 文件中，最低显存估算约 111.5 GB
- 为上下文缓存、系统进程和并发请求预留额外内存，不要只按模型文件大小配置设备。
量化版本怎么选
- 仓库主体标称 IQ2_XXS，但运行集合还包含 IQ4_NL Engram 查找文件，不能按普通单文件量化理解
- 下载 00001-of-00006 至 00005-of-00006 五个主体分片，并将共享 Engram 文件作为第 6 分片建立符号链接或硬链接
- 仅在需要视觉输入时下载 BF16 mmproj 投影文件
- 旧版 4 分片下载可使用仓库附带脚本原地转换为 6 分片布局
GGUF VARIANTS
量化版本与硬件要求
显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。
| 量化 | 权重合计 | 估算加载显存 | 建议显存 | 建议内存 | 来源 |
|---|---|---|---|---|---|
| IQ4_NL | 103 GB | 111.5 GB | 127 GB | 154.5 GB | 下载文件 ↗ |
HARDWARE MATCH
哪些显卡或设备更适合运行？
按当前最小量化文件估算，至少需要 111.5GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 127GB。
阅读 24GB 显存选型指南 →可以怎样运行
- 使用 llama.cpp b11870+ 或 v0.8.0+，通过 llama-cli 或 llama-server 加载
- 使用 Strata 0.2.8（build 0.1.54）时指定 deepseek41 家族、ist-das-2.00bpw 模型及模型目录路径
- Strata 若因文件大小检查无法识别，可连接 llama-server 的自定义模型接口，或使用附带打包脚本
- 标签标注支持 Ollama 与 LM Studio，但模型卡未说明具体导入和参数配置
采用前要知道的限制
- 模型卡未说明参数量、上下文长度和具体架构配置
- 模型卡未提供独立的中文能力、事实准确性和通用问答基准
- 现有审计主要比较量化构建与基座的一致性，不能据此推断所有任务均无损
- 完整运行依赖多文件、特定版本和分片链接，部署兼容性门槛较高