Qwen-AgentWorld-35B-A3B-GGUF：智能体环境模拟世界模型

模型本体：35B 总参数、3B 激活参数的 MoE 因果语言模型，256 个专家每次激活 8 路由 + 1 共享，专为智能体环境模拟训练，采用 CPT→SFT→RL(GSPO) 三阶段管线，默认上下文 262K。量化仓库：unsloth 提供 IQ2 至 Q8 共十一种 GGUF 量化及 BF16、MXFP4_MOE 版本，覆盖消费级到专业卡显存区间。运行工具：兼容 llama.cpp、Ollama、LMStudio 本地推理，同时支持 vLLM、SGLang、Hugging Face Transformers 部署 API 服务。模型卡未说明消费级显卡的具体推理速度。

数值根据文件体积和运行余量估算，不是速度或效果承诺；长上下文、并发与 GPU 层数会改变实际占用。

按当前最小量化文件估算，至少需要 9GB 显存；如果希望为运行框架和上下文保留余量，优先参考推荐显存 10.5GB。