AI 资讯聚合 · 开源生态

KRAFTON 开源 Raon-1 mini:30B-A4B 自研线性注意力,GPQA 84.3

海外开源生态开源权重MoEKRAFTON · 2026-10-21 · 约2分钟 · 来源:KRAFTON 官方页面

10 月 21 日 KRAFTON 放出 Raon-1 mini preview 的开放权重(Apache 2.0):30B 总参、4B 激活的 MoE,从模型设计到预训练全部自研,并把自研线性注意力与推测解码一起用上。官方称线性注意力让长对话下信息组织的成本不随长度线性上涨,配 DFlash2 草稿模型在单张 B300 上吞吐最高 2.18 倍。

自报成绩(同尺寸对比):GPQA Diamond 84.3,Qwen3.6-35B-A3B 83.2、Gemma 4 26B-A4B 80.7;IFBench 84.2 对 66.6 与 80.9;BrowseComp Plus 55.7 对 34.8 与 32.2;SWE-Verified 70.8;韩语对话内部基准 92.9,均标为同类 MoE 最高。但对更大的 Qwen3.8-27B 仍落后(GPQA 89.7、BrowseComp Plus 58.0、SWE-Verified 74.6),官方口径是「接近更大模型」而非超越。

可用性:权重在 Hugging Face(gated,需同意条款),另发 DFlash2 草稿模型与 MXFP8 / NVFP4 量化件,NVFP4 版可单卡 RTX 5090(32GB)跑;官方 API 限定时间内免费。边界:官方明示这是 preview 而非最终版,规格与成绩都可能变化,最终版才附技术报告;上述对比全部是 KRAFTON 自测。

原文链接:KRAFTON 官方页面

核验记录
官方页 raon-mini.krafton.ai 无日期字段、无 og:image(datePublished / published_time / og:image 三项均 0 命中,页面 156KB);按 R21 降级:官方权重仓 KRAFTON/Raon-1-mini-preview createdAt 2026-10-21T00:14Z,与首尔经济日报(2026.10.21 14:48)、MoneyToday(10-21)同日交叉,定 10-21、置信中高。KRAFTON 官网 press 列表最新只到 10-08,未收录本条。无可用官方配图,留空走品牌占位。