IQuest 开源 320B MoE 模型 IQuest-Q1：只激活 15B，524K 上下文直打 CLI 智能体

9 月 28 日，IQuest（至知创新研究院）放出开放权重模型 IQuest-Q1，权重在 Hugging Face 与 GitHub 同步上线。它是一个稀疏专家混合（MoE）模型：总参数约 320B，每 token 只激活约 15B，88 层 Transformer、隐藏维度 3,072、注意力头 48/8，共 256 个专家里取 8 个参与计算，上下文长度 524,288 token。注意力是混合式的，按「3 层滑动窗口（窗口 4,096）＋ 1 层全注意力」的比例排布；另有两个独立 MTP 层用于训练、推理时递归复用 8 次做投机解码。模型只吃文本，没有多模态输入。

它瞄准的是智能体编码与多步工具调用：官方给出的复现配置是温度 1.0、top-p 0.95、top-k 20，并明确点名 Claude Code 2.1.140 或 Codex 0.142 作为配套 harness，CyberGym 限时 6 小时、Terminal-Bench 2.1 限时 8 小时。官方对比图里的成绩（自测口径）：Terminal-Bench 2.1 得 83.2（Claude Opus 5 为 89.1）、CyberGym 84.5、NL2Repo 63.0、DeepSWE v1.1 得 64.6（DeepSeek-V4-Flash 为 74.2）、内建的 IQuest-CLIBench 53.7。换算下来它在同参数量级里属于第一梯队，但没有一项超过榜首闭源模型。

比分数更值得注意的是它自述的研发方式：IQuest 说模型参与了自身的迭代——它提出的方案被人拍板通过后，验证过的模型更新、训练资产与研究流程会直接流进下一轮。这个说法目前只有厂商自述，没有第三方复现，也没有 arXiv 技术报告可查，因此只能照录不能加码。另需写明：权重许可不是 Apache/MIT 这类标准开源许可，而是自定义的 iquest-q1 许可，商用前需逐条读条款；模型卡也自陈「文本-only、真实 CLI 任务里仍会漏约束、反复试错要人来兜」。

原文链接：IQuest 官方模型卡 / 量子位