AWS 开源 Infinity：8GB 内存装下 7.5 万个并发 agent

AWS 与 UC Berkeley 的 Hydro 项目以 Apache 2.0 开源了 agent 运行时 Infinity。它借编程语言挂起异步函数的做法：agent 调用工具时，运行时把调用发出去、保存会话并挂起 agent；工具结果回来时，从存档恢复继续跑。于是等待期间既不占线程也不占内存，闲置 agent 的常驻成本约等于它的会话历史大小。

官方基准：在一个 agent system 里连波启动 80,000 个 agent、累计 320 万次完成，跑在单线程 AMD EPYC 9R14 上，常驻内存线性增长，每个 agent 约 100KB——因此 8GB 内存的树莓派 5 可以装下 75,000 个并发 agent。它同时支持 serverless：工具调用挂起期间函数可以直接结束，哪怕工具要跑几天，等待期也不需要保留任何进程。

对 agent 工程的意义是把并发单位从「进程/线程」换成「会话历史」：同一个模型能同时服务的任务数，不再由内存里的调用栈决定，而由存档的读写决定，成本结构随之改变。边界也清楚——官方明确这是早期研究版本，为收集反馈而放出；本轮未见到第三方复现，75,000 这个数是官方模拟模型下测得，不等于真实工具链下的并发能力。

原文链接：AWS 开源博客