Vals AI 实测智能体团队:成本涨 1.8–5.1 倍,四次对比只有一次显著更好
Vals AI 让 GPT-6 Sol 与 Claude Opus 5.5 在自己维护的 Vibe Code Bench 上各跑 50 个应用——「从产品需求写一个完整 Web 应用」,每个应用用容器部署,再由浏览器智能体点着界面走流程评分。每个模型跑四种设置:中档与最高档推理强度各一次单智能体、各一次团队(主智能体最多同时派五个子智能体,子智能体不能再派),同一任务、同一沙箱、同一评分器,用配对 t 检验比较。
结果是成本涨得远比分数快。团队比单智能体贵 1.8 到 5.1 倍,四处对比里只有一处有统计显著性:Sol 中档推理下团队 84.9% 对单智能体 77.6%,高 7.3 分(p=0.005,95% 区间 +2.3 到 +12.4 分),代价是每个应用 3.07 美元对 1.22 美元;Sol 高档团队 90.4% 对 89%,Opus 中档团队 91.2% 反而比单智能体的 91.5% 低 0.3 分,Opus 高档团队 93.2% 对 89.8%(不显著),成本却从 23.77 美元飙到 122 美元。
对 Sol 来说,把推理强度从手摇到最高比派团队更能提分(89% 对 84.9%),而这份「高档单智能体」还比「中档团队」便宜一半。钱主要花在缓存输入上:Opus 高档团队的每个应用里,子智能体平均读 2.24 亿个缓存 token,主智能体只有 1700 万、单智能体 5500 万。
两家主智能体的编排方式也不一样:Sol 的负责人在开头几分钟就把工作拆成并行子任务、自己回来验收,最高档时整轮时长从 38 分钟降到 28 分钟;Opus 的负责人先写一份各部分如何拼接的共享约定,再按「构建者—测试者」一波一波顺序下发,团队耗时最高档时是单智能体的 2.3 倍。作者自己写明了边界:这只是全栈 Web 应用一个基准的结果,每个设置只跑一次,未必推广到别的工作;结论是团队值不值得要用具体模型、任务和预算去算,调高推理强度往往是更便宜的替代品。
原文链接:Vals AI 官方博客