近30天源站下载量
866
参数
27B
上下文
未说明
架构 / 任务
text-generation
许可证
未声明
MODEL POSITIONING
这个模型解决什么问题?
模型能力方面,Jack-3.8 是一款以 Qwen3.8 为底座、围绕 Jack 推理架构构建的 27B 本地编程模型,核心能力包括长上下文状态保留、多轮代理工具调用、外来工作流审计以及确定性验证,这些描述均来自模型卡与标签。量化仓库方面,本仓库仅发布一个 GGUF 文件,约 16.8GB,明确针对 16GB VRAM 消费级显卡调优;其他量化版本与不同尺寸变体模型卡未说明。运行工具方面,仓库标签与 runtimes 字段显示该 GGUF 同时兼容 ollama、llama.cpp 与 LM Studio 三种本地推理方式。
更适合谁
- 拥有 16GB 显存消费级显卡、需要在本地运行长上下文编码代理的个人开发者
- 负责多文件重构、长期调试或跨多轮跟踪需求与配置变更的研发人员
- 希望让本地模型接手或审核另一模型已完成代码与计划的用户
- 在缺乏云端算力、需要离线完成软件工程任务的研究者
典型使用场景
- 长会话编程:从计划到实现贯穿数十轮的端到端开发
- 仓库级调试与多文件重构,跨多轮跟踪需求与配置变更
- 设计、撰写并审阅测试用例,校验测试是否真的被运行
- 审核另一模型生成的代码、计划与正确性声明
SOURCE-BASED CAPABILITIES
模型卡透露的核心特点
操作性记忆与状态重建
在长上下文中区分历史记录与当前权威结论,避免旧计划影响新动作
Jack XML 结构化锚定
在生成前沿重建控制状态、绑定证据、隔离相似配置并执行对抗性校验
代理式编码工作流
支持规划-执行-审阅阶段切换,可结合原生思考深度自适应调整
确定性验证协作
在可用工具暴露时优先使用代码执行、哈希、穷举等确定性证据
外来工作流审计
可接入其他模型已完成的任务,对其计划、实现与测试进行独立复核
按当前权重估算的硬件准备
- 现有 GGUF 文件中,最低显存估算约 13 GB
- 为上下文缓存、系统进程和并发请求预留额外内存,不要只按模型文件大小配置设备。
量化版本怎么选
- 仓库仅提供单一 GGUF 变体,文件大小约 16.8GB,官方未标注具体量化标签
- 由于明确面向 16GB VRAM,建议优先采用此唯一变体以匹配调优目标
- 更激进的低比特量化或更保真的高比特版本模型卡未说明
- 更大或更小尺寸的同系列变体模型卡未说明
GGUF VARIANTS
量化版本与硬件要求
显存与内存数值均按权重文件体积估算,未做设备实测。多模态还需要配套投影文件并额外占用内存;分卷容量按全部分卷合计,下载时需获取完整文件组。
| 量化 | 权重合计 | 估算加载显存 | 建议显存 | 建议内存 | 来源 |
|---|---|---|---|---|---|
| GGUF | 12 GB | 13 GB | 15 GB | 18 GB | 下载文件 ↗ |
HARDWARE MATCH
哪些显卡或设备更适合运行?
按当前最小量化文件估算,至少需要 13GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 15GB。
阅读 24GB 显存选型指南 →可以怎样运行
- 通过 ollama 直接加载仓库提供的 GGUF 文件运行
- 通过 llama.cpp 直接启动仓库内置的 GGUF 文件
- 通过 LM Studio 导入同一 GGUF 文件进行本地推理
- 在代理框架中作为后端模型驱动多轮工具调用与代码执行循环
采用前要知道的限制
- 仓库仅含单一 GGUF 文件,缺乏不同量化档位的选择空间
- 模型针对单卡 16GB VRAM 优化,超出该显存预算的扩展性模型卡未说明
- 长上下文与代理能力来自 Jack 项目的自有行为描述,缺乏公开榜单复核
- 推理速度、训练数据规模与具体硬件加速支持模型卡未说明