近30天源站下载量
196.9万
参数
未知
上下文
未说明
架构 / 任务
image-text-to-text
许可证
other
MODEL POSITIONING
这个模型解决什么问题？
能力层面，基础模型 Qwen/Qwen3.8-Flash-Next 是带视觉编码器的因果语言模型，模型卡列出 125B 总参数、6B 激活参数、51B N-gram embedding 与 4B MTP，原生上下文 262,144 tokens，并称可扩展至 1,000,000；覆盖文本与图像输入、推理、编程、工具使用及代理任务。仓库层面，unsloth/Qwen3.8-Flash-Next-GGUF 提供 IQ、Q2、Q3、Q4、Q5、Q6、Q8_0 量化，并推荐 llama.cpp、Strata 或 Unsloth 应用。工具影响功能兼容性与实际表现；模型卡未说明各量化在具体设备上的速度。
更适合谁
- 需要本地运行大型多模态、编程与工具调用模型的高级用户
- 配置了 80GB 以上显存或 128GB 以上系统内存的工作站用户
- 愿意使用实验性架构并自行处理长上下文配置的模型开发者
典型使用场景
- 图文问答、图表分析与视觉网页开发
- 智能体编程、仓库级代码生成和多语言软件工程
- 工具调用、桌面操作与长期办公代理
- 超长文档分析、视频理解和研究型推理
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
图文多模态
属于带视觉编码器的因果语言模型，可处理文本、图像及模型卡所列的长视频理解任务
编程与代理任务
模型卡覆盖智能体编程、仓库级代码生成、工具使用和长期办公任务
超长上下文
原生支持 262,144 tokens，并称可通过 RoPE scaling 扩展至 1,000,000 tokens
稀疏参数设计
包含 512 个专家，每次路由 10 个专家并使用 1 个共享专家，另有 N-gram embedding
按当前权重估算的硬件准备
- 现有 GGUF 文件中，最低显存估算约 67 GB
- 为上下文缓存、系统进程和并发请求预留额外内存，不要只按模型文件大小配置设备。
量化版本怎么选
- 资源最紧张时可在 IQ1_S 与 IQ1_M 中选择，二者都要求极高内存配置
- 想减少相对 IQ1 档的压缩程度，可考虑 IQ2_0、IQ2_XS、IQ3_XXS 或 Q3_K_XL
- 资源允许且更重视高比特档时，可考虑 Q4_K_XL、Q5_K_XL、Q6_K_XL 或 Q8_0
- 下载前应同时核对分片数量、完整文件大小以及推理框架对该量化格式的支持
GGUF VARIANTS
量化版本与硬件要求
显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。
| 量化 | 权重合计 | 估算加载显存 | 建议显存 | 建议内存 | 来源 |
|---|---|---|---|---|---|
| IQ1_S需全部分卷 | 62 GB | 67 GB | 76.5 GB | 93 GB | 查看文件组 ↗ |
| IQ1_M需全部分卷 | 63 GB | 68.5 GB | 78.5 GB | 95.5 GB | 查看文件组 ↗ |
| Q2_0需全部分卷 | 66 GB | 71 GB | 81 GB | 99 GB | 查看文件组 ↗ |
| IQ2_XS需全部分卷 | 71 GB | 76.5 GB | 87.5 GB | 106 GB | 查看文件组 ↗ |
| Q2_K_XL需全部分卷 | 74 GB | 80.5 GB | 92 GB | 111.5 GB | 查看文件组 ↗ |
| IQ3_XXS需全部分卷 | 78 GB | 84.5 GB | 96.5 GB | 117 GB | 查看文件组 ↗ |
| Q3_K_XL需全部分卷 | 83 GB | 90 GB | 102.5 GB | 125 GB | 查看文件组 ↗ |
| IQ4_XS需全部分卷 | 87 GB | 94.5 GB | 108 GB | 131 GB | 查看文件组 ↗ |
| Q4_K_XL需全部分卷 | 104 GB | 112 GB | 128 GB | 156 GB | 查看文件组 ↗ |
| Q5_K_XL需全部分卷 | 147 GB | 159.5 GB | 182 GB | 221.5 GB | 查看文件组 ↗ |
| Q6_K_XL需全部分卷 | 158 GB | 170.5 GB | 194.5 GB | 236.5 GB | 查看文件组 ↗ |
| Q8_0需全部分卷 | 175 GB | 189.5 GB | 216 GB | 263 GB | 查看文件组 ↗ |
| BF16需全部分卷 | 330 GB | 356.5 GB | 406 GB | 495 GB | 查看文件组 ↗ |
HARDWARE MATCH
哪些显卡或设备更适合运行？
按当前最小量化文件估算，至少需要 67GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 76.5GB。
阅读 24GB 显存选型指南 →可以怎样运行
- llama.cpp：模型卡明确推荐的运行方式，可配合 GGUF 量化使用
- Unsloth 应用或 Strata：模型卡为该仓库列出的运行选择
- Ollama：资料标记为兼容，可在导入模型后使用
- LM Studio：资料标记为兼容，可用于本地交互和模型管理
采用前要知道的限制
- 模型卡将 Qwen3.8-Flash-Next 定义为实验性预览，架构与兼容性仍可能变化
- 许可证标记为 other，具体名称为 qwen-community-1.0，商用或分发前应核对许可条款
- 所有所列 GGUF 均需要大型内存配置，6B 激活参数不代表文件只需容纳 6B 权重
- 模型卡未说明各量化在具体消费级设备上的速度；扩展至 1,000,000 tokens 需要 RoPE scaling，静态 YaRN 可能影响短文本表现