IAS 数学与 AI 顾问组发首份建议:没人理解的 AI 数学结果该怎么发布
9 月 29 日,挂靠普林斯顿高等研究院的「数学与人工智能顾问组」(AGMAI)发布首份《AI 生成数学成果的负责任发布》建议,依据是六百多份数学界问卷回复。成员九人:François Charles、Camillo De Lellis、Timothy Gowers、Martin Hairer、Nikhil Srivastava、Ulrike Tillmann、Ravi Vakil、Edward Witten、Melanie Matchett Wood。官网写明这个组的来历——OpenAI 先接触了其中几位成员、提出成立一个外部顾问委员会,他们与 OpenAI 商定后改为自建独立小组并邀请其他数学家加入;成员不接受报酬,组不隶属于任何 AI 公司,也不替任何公司做决定。
建议分两类。有人类作者完全理解的论文,照数学界传统规范走:贴预印本、投期刊同行评审、到会上讲清楚。没有人理解的 AI 产出,实验室要自己做三件事:把证明里的想法溯源到文献并引用(即便模型是独立发现的);用模型把证明重写成符合数学论文惯例的形式——有友好的引言、精确的定理陈述与证明,而不是堆砌含糊推理与非标准术语;结果公布后尽快存入不受任何 AI 实验室控制、带持久可引用标识、允许对论文评论的学术仓库。此外实验室应为后续的「人类理解」提供实质支持(含经费),但这项工作必须由数学界自主推进、不得由实验室主导。
它改变的是判定侧的位置。此前 9 月 11 日 25 位菲尔兹奖得主联署,说把未解难题当基准正在伤害数学;9 月 21 日 OpenAI 宣布成立数学顾问组。现在第三方拿出了可执行条款——这是首份明确写给 AI 实验室的 AI 数学成果发布规范。边界也写在官网上:该组没有决策权,建议对任何公司都不具备强制力;本机链路只读到该组自己的页面,未见任何机构的独立背书或转载。
原文链接:IAS 数学与 AI 顾问组官网