Prime Intellect 上线 Prime Inference：把开源模型的训练-推理闭环接上
Prime Intellect 发布 Prime Inference，把自己一直缺的那一环补上：训练完的模型要能真的对外服务、产生新的使用轨迹，再把轨迹喂回训练。它同时提供无服务器端点与预留容量，模型跑在自家跨数据中心的 GPU 上，故障自动切到健康部署；接口是 OpenAI 兼容的，端点地址 api.pinference.ai/api/v1。
官方给的规模数字值得记：上线前它就一直是内部的基础设施，承担大规模 RL rollout、合成数据生成、评测与长时编码智能体，内部每天处理接近一万亿 token；对外的大客户部署从今年 1 月就在跑。第一个公开部署是 GLM-5.3，9 月 22 日上 OpenRouter，官方称目前是 OpenRouter 上最快的 GLM-5.3 端点之一、工具调用错误率接近 0、上线以来 100% 可用。
硬件侧现在跑英伟达 Blackwell，官方说 Vera Rubin 随后到；软件栈是 NVIDIA Dynamo、vLLM、Mooncake、FlashInfer 的组合，并与 Inferact、英伟达一起把改进回贡上游。对开源模型生态来说，这一条的意义是：训练、推理、真实流量这三段第一次由同一家串起来，而不是各自找服务商。
原文链接：Prime Intellect 官方博客
核验记录
日期取官方页：https://www.primeintellect.ai/blog/prime-inference 页内可见「OCT 2ND, 2026」两处（列表页与单篇页各一）；该页无 JSON-LD datePublished，日期只能取可见文字（同类已记：该站单篇页不给结构化日期字段）。数字逐句取自该页正文：内部近一万亿 token/天、客户部署自今年 1 月起、GLM-5.3 于 9 月 22 日上 OpenRouter、接近 0 工具调用错误率、100% uptime、Blackwell 现役 + Vera Rubin「coming soon」、栈为 Dynamo/vLLM/Mooncake/FlashInfer。配图 https://www.primeintellect.ai/blog/prime-inference/cover.png 裸请求与带站内 Referer 各一次均 200 / 1,895,733 字节真实 PNG。
← 上一篇NVIDIA 出 64GB 版 DGX Spark：10 月 23 日起六家整机商开卖下一篇 →OpenAI 自研 Jalapeño ASIC 已内部上线：每台主机配 1.5TB 内存的 AMD Turin