Ornith-1.0-35B-GGUF：面向编码代理的开源模型

模型本体基于 Qwen3.5 微调为 35B MoE，主打智能体编程，在 Terminal-Bench 2.1、SWE-bench Verified、NL2Repo 等基准上对同尺寸开源模型表现领先，支持 OpenAI 兼容的工具调用与 reasoning_content 分离输出。本仓库为 unsloth 发布的 GGUF 量化分发版，提供 IQ1 到 Q6 及 BF16 多档选择，遵循 MIT 许可。本地推理推荐 Ollama、LM Studio 或 llama.cpp 直接加载；服务端部署需 vLLM 0.19.1 以上或 SGLang 0.5.9 以上，Transformers 需 5.8.1 以上。

数值根据文件体积和运行余量估算，不是速度或效果承诺；长上下文、并发与 GPU 层数会改变实际占用。

按当前最小量化文件估算，至少需要 4.5GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 5.5GB。