← 返回模型库

JackAgentLead/Jack-3.8-27B-Coder-16GB-VRAM

Jack-3.8-27B-Coder-16GB-VRAM:本地16G显存长上下文编程代理

Jack-3.8-27B-Coder-16GB-VRAM 是一款基于 27B 参数的本地编程专用模型,专为长时间运行的软件工程代理场景设计,覆盖规划、编码、调试、代码审查、测试设计与多轮工具调用。

本地编程代理长上下文代码模型16G显存推理状态保留编程
查看模型源页面 ↗
近30天源站下载量
866
参数
27B
上下文
未说明
架构 / 任务
text-generation
许可证
未声明

MODEL POSITIONING

这个模型解决什么问题?

模型能力方面,Jack-3.8 是一款以 Qwen3.8 为底座、围绕 Jack 推理架构构建的 27B 本地编程模型,核心能力包括长上下文状态保留、多轮代理工具调用、外来工作流审计以及确定性验证,这些描述均来自模型卡与标签。量化仓库方面,本仓库仅发布一个 GGUF 文件,约 16.8GB,明确针对 16GB VRAM 消费级显卡调优;其他量化版本与不同尺寸变体模型卡未说明。运行工具方面,仓库标签与 runtimes 字段显示该 GGUF 同时兼容 ollama、llama.cpp 与 LM Studio 三种本地推理方式。

更适合谁

  • 拥有 16GB 显存消费级显卡、需要在本地运行长上下文编码代理的个人开发者
  • 负责多文件重构、长期调试或跨多轮跟踪需求与配置变更的研发人员
  • 希望让本地模型接手或审核另一模型已完成代码与计划的用户
  • 在缺乏云端算力、需要离线完成软件工程任务的研究者

典型使用场景

  • 长会话编程:从计划到实现贯穿数十轮的端到端开发
  • 仓库级调试与多文件重构,跨多轮跟踪需求与配置变更
  • 设计、撰写并审阅测试用例,校验测试是否真的被运行
  • 审核另一模型生成的代码、计划与正确性声明

SOURCE-BASED CAPABILITIES

模型卡透露的核心特点

操作性记忆与状态重建

在长上下文中区分历史记录与当前权威结论,避免旧计划影响新动作

Jack XML 结构化锚定

在生成前沿重建控制状态、绑定证据、隔离相似配置并执行对抗性校验

代理式编码工作流

支持规划-执行-审阅阶段切换,可结合原生思考深度自适应调整

确定性验证协作

在可用工具暴露时优先使用代码执行、哈希、穷举等确定性证据

外来工作流审计

可接入其他模型已完成的任务,对其计划、实现与测试进行独立复核

按当前权重估算的硬件准备

  • 现有 GGUF 文件中,最低显存估算约 13 GB
  • 为上下文缓存、系统进程和并发请求预留额外内存,不要只按模型文件大小配置设备。

量化版本怎么选

  • 仓库仅提供单一 GGUF 变体,文件大小约 16.8GB,官方未标注具体量化标签
  • 由于明确面向 16GB VRAM,建议优先采用此唯一变体以匹配调优目标
  • 更激进的低比特量化或更保真的高比特版本模型卡未说明
  • 更大或更小尺寸的同系列变体模型卡未说明

GGUF VARIANTS

量化版本与硬件要求

显存与内存数值均按权重文件体积估算,未做设备实测。多模态还需要配套投影文件并额外占用内存;分卷容量按全部分卷合计,下载时需获取完整文件组。

量化权重合计估算加载显存建议显存建议内存来源
GGUF12 GB13 GB15 GB18 GB下载文件 ↗

HARDWARE MATCH

哪些显卡或设备更适合运行?

按当前最小量化文件估算,至少需要 13GB 显存;如果希望为运行框架和上下文保留余量,优先参考推荐显存 15GB。

阅读 24GB 显存选型指南 →

可以怎样运行

  • 通过 ollama 直接加载仓库提供的 GGUF 文件运行
  • 通过 llama.cpp 直接启动仓库内置的 GGUF 文件
  • 通过 LM Studio 导入同一 GGUF 文件进行本地推理
  • 在代理框架中作为后端模型驱动多轮工具调用与代码执行循环

采用前要知道的限制

  • 仓库仅含单一 GGUF 文件,缺乏不同量化档位的选择空间
  • 模型针对单卡 16GB VRAM 优化,超出该显存预算的扩展性模型卡未说明
  • 长上下文与代理能力来自 Jack 项目的自有行为描述,缺乏公开榜单复核
  • 推理速度、训练数据规模与具体硬件加速支持模型卡未说明