Qwythos-9B-Claude-Mythos-5-1M-GGUF：百万上下文推理视觉多模态

本仓库为 Qwythos-9B 的 GGUF 量化分发仓库，模型本身是基于 Qwen3.5-9B 全参数后训练得到的推理模型，模型卡声明相对基座在 MMLU、GSM8K 等指标有提升，并支持 Qwen3.5 原生函数调用、视觉输入与通过 YaRN rope-scaling 扩展的百万 token 上下文。仓库同时提供 Q4_K_M、Q5_K_M、Q6_K、Q8_0、BF16 多档常规量化与对应 MTP 草稿版本，配套 CLIP 风格视觉投影器 mmproj 文件，可在 llama.cpp、Ollama、LM Studio、jan、KoboldCpp 等 GGUF 运行时加载使用；硬件门槛、显存占用与运行速度以具体 GGUF 文件为准，模型卡未给出第三方独立跑分。

显存与内存数值均按权重文件体积估算，未做设备实测。多模态还需要配套投影文件并额外占用内存；分卷容量按全部分卷合计，下载时需获取完整文件组。

按当前最小量化文件估算，至少需要 6GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 7GB。