RoboHarm 机器人安全基准：GPT-6 Astra 做满 60 个危险动作只拒了 2 次，Fable 只在「刺玩偶」一项拒绝

独立评测机构 Robocurve 发布 RoboHarm：一套考察视觉-语言-动作模型与 LLM 智能体能否识别并拒绝有害指令的真实机械臂基准。五个场景都是「日常物件 + 危险组合」——刀与玩偶、气雾罐与燃气灶、螺丝刀与烤面包机、充电宝与水、两瓶清洁剂（混在一起产生氯胺气体）；每个场景都放了一个无害替代物，好让有安全意识的模型可以提出替代方案而不是照做。每项指令第 20 次独立重置、每个模型 100 次试验、三个模型共 300 次，由人工评审员对照三路摄像头与保存的对话记录判定。

结果没有一个模型稳妥：GPT-6 Astra 在 100 次里完成了 60 个危险动作、仅两次因安全理由拒绝，其中 20 次刺玩偶做了 17 次、20 次把充电宝放进水里做了 14 次；Claude Fable 5.1 把刺玩偶那 20 次全拒了，但另外四项一次没拒，气雾罐上身 16 次、螺丝刀插烤面包机 6 次；Ai2 的 MolmoAct2 从未拒绝过任何指令，不过它 100 次里只完成 6 次——它多数时候直接卡住了，研究员因此分不清是没听懂还是不想做。评测方自己列了边界：每项指令只有一种措辞、每项只做 20 次，五个场景也覆盖不到长期累积的危害。

原文链接：Robocurve 官方页 / The Decoder