OpenAI请来9位数学家组顾问团,AI数学成果署名难题待解
OpenAI近期公布了一项人事安排:一个名为“数学与人工智能咨询组”(AGMAI)的独立顾问团正式成立,9名数学家将以外部身份,就AI与数学研究的关系向OpenAI及其他AI公司提供意见。消息公布的时间点颇为微妙——过去几个月,OpenAI的模型在数学领域连续产出成果,围绕这些成果的引用、归属与发布方式,数学界的质疑声一直没有停过。
顾问团要处理的问题因此不只是学术礼节。当AI能在极短时间内读完成千上万篇论文并给出新推导,数学界沿用百年的“谁先发现、谁被引用、谁该署名”这套判断框架,第一次遇到了很难套用的对象。
9个人,来自四所高校,挂在爱因斯坦待过的地方
AGMAI的成员规模是9人,机构背景覆盖斯坦福大学、哈佛大学、牛津大学与剑桥大学,其中包含多位菲尔兹奖和麦克阿瑟“天才奖”获得者。承载方选在了美国新泽西州普林斯顿的高等研究院(Institute for Advanced Study)——爱因斯坦、约翰·冯·诺伊曼与J·罗伯特·奥本海默都曾在此工作,这里也是现代数学研究最有分量的学术机构之一。
按照OpenAI的说法,这个组织保持独立,可以主动提出建议,不必等公司开口;也能公开讨论AI对数学的影响,并自行决定是否公开其意见。成员不从OpenAI领取报酬,成员构成可自行调整。顾问团的任务包括判断AI产出的新数学成果究竟有多大意义,并就成果如何协调发布、如何贴合数学研究的学术与职业规范给出意见,同时讨论AI工具怎样支持数学研究与数学教育。
真正决定这套机制价值的,是成员能不能独立判断、敢不敢对公司提出质疑。顾问团不是给OpenAI的研究成果做背书的机构,而是希望在成果发布之前引入数学界的独立意见。
成员怎么选出来的,成了第一个被追问的问题
公布之后,数学界的疑问集中在程序上。瑞士苏黎世联邦理工学院研究人员Simon Machado就认为,整个过程仍有不少不透明之处。
AGMAI官网的介绍显示,最初是OpenAI主动联系了部分数学家,希望建立外部咨询委员会;讨论之后,这些数学家决定成立一个独立组织,再邀请其他成员加入。但最初被OpenAI联系的是哪些人,其余成员又如何确定,目前并未完全公开。
顾问团成员Martin Hairer随后发文回应外界质疑。他的核心论点是:AI已经对数学研究产生深刻影响,成果归属、研究优先权、人类是否真正理解AI给出的数学思想,这些问题都摆在面前,数学界如果选择完全不与AI实验室接触、简单忽视这些企业,并不现实。
Hairer也交代了几个细节。顾问团的成立确实源于OpenAI的接触,但9名成员并非都曾被OpenAI直接联系,最终成立的组织独立于OpenAI以及其他前沿AI公司。除正常保密要求外,成员没有签署限制公开表达意见的协议,也不从OpenAI获得经济报酬,组织主要依靠普林斯顿高等研究院提供技术与组织支持。他承认9名数学家不可能完整代表整个数学界,但相信成员会以善意和独立判断对待这一职责。
9人能否覆盖整个数学,是更现实的担忧
规模小带来的另一层疑问更实际。现代数学高度专业化,不同领域之间的知识壁垒非常明显,即便是世界顶尖数学家,也未必能判断另一个高度专业化领域中的AI成果。仅靠9名学者,是否覆盖得了AI可能触及的整个数学研究领域?
苏格兰赫瑞瓦特大学即将任职的数学教授Francesco Fournier-Facio表示,自己的态度比较复杂。让AI企业更多与数学家沟通,显然有助于改善现状;但由少数顶尖学者组成的组织,是否真能代表那些正在被AI快速发展影响的广大数学研究人员,他持怀疑态度。在他看来,这个组织目前更像一个由顶级学术人物组成的“象牙塔”。
伦敦帝国理工学院数学教授Kevin Buzzard的追问更直接:过去几个月数学界已有大量公开讨论,明确表达了数学家对AI参与数学研究的诉求,OpenAI为什么还需要一个由世界顶尖数学家组成的委员会才能理解这些问题?他认为症结不在数学界缺少能解决困难定理的人,而在AI企业需要更好地理解数学这门学科以及数学研究共同体的规则。
成果发布速度,正在压过审核能力
顾问团成立的另一个背景,是OpenAI在宣布AGMAI的同时透露的一项消息:公司正在开发的一款尚未正式发布的新模型,也就是此前声称解决了纳维–斯托克斯千禧年大奖难题的模型,目前已经解决了100多个长期未解决的数学问题,且分布在不同数学领域。公司此前还宣布,该模型正在向另一项千禧年大奖难题发起挑战。
AGMAI官网提到,当前首要任务之一,是帮助OpenAI协调这些由内部AI模型产生的大量重大数学成果的发布。这恰好说明问题已经超出“如何发布几篇论文”的范畴:当AI开始独立产出此前长期无人解决的成果,谁首先发现了什么、谁应该获得署名、哪些人类研究为最终结果提供了基础,这些基础问题都要重新定义。
传统数学研究依靠公开发表、引用前人工作、同行评审、层层叠加的方式推进,路径大体可追溯。AI则可能在极短时间内处理海量已有知识并生成新推导,当人类无法完全追踪它究竟沿哪条路径得到结果时,传统的归属与优先权判断就会变得复杂。围绕纳维–斯托克斯问题的争议正突出了这一点:OpenAI已针对相关争议进行调查,并表示一名数学家此前使用Codex提交的提示词,不可能影响到最终系统解决该问题的过程。但类似事件仍让一些数学家担心,未来会越来越难准确判断一个AI数学成果建立在什么样的人类研究基础之上。
Hairer也承认,顾问团必须警惕AI公司可能按自身公关需求解释或利用顾问团的意见。不过他判断,在AI已经不可避免进入数学研究之后,完全拒绝与AI企业交流解决不了问题,与其彼此隔绝,不如尝试建立双方都能接受的基本规则。
AGMAI目前正在收集数学界的意见,渠道包括与其他数学家的交流、公开反馈表,以及在Proofs and Prompts等讨论平台上的意见,这些平台近期已成为数学界讨论AI影响的重要场所。
对OpenAI而言,这个顾问团意味着它要面对一个此前并不熟悉的现实:AI已经从数学研究的辅助工具,变成能够直接产出新成果的研究参与者,而数学界并没有为这种变化准备好现成规则。接下来AGMAI要回答的,可能不只是下一批成果何时发布、如何发布,还包括AI生成数学成果如何署名、如何引用人类研究、如何确认成果独立性,以及数学家与AI系统之间该建立怎样的合作关系。当OpenAI声称新模型已解决100多个长期未解决的问题,这些原本停留在理论层面的讨论,已经变成必须落地的操作问题。