当最聪明的大脑 集体涌向AI安全

智车科技

4天前

这股虹吸效应引发了一个尖锐的担忧:当最聪明的头脑都在涌向AI,其他基础学科怎么办。...Tsimerman的选择折射出一个时代级的人才流动趋势:AI正在以前所未有的引力,将各学科最聪明的大脑吸入自己的轨道。...原文标题:当最聪明的大脑集体涌向AI安全。

"数学最高奖得主,转身走进AI安全。"

作者|家昌

出品|极新

2026年7月26日,新晋菲尔兹奖得主、算术几何领域顶尖学者Jacob Tsimerman宣布加入OpenAI,专注AI安全与对齐研究。这一消息震动了数学界和人工智能界。菲尔兹奖是数学领域的最高荣誉,获奖者放弃纯数学研究进入工业界,在历史上极为罕见。Tsimerman的选择折射出一个时代级的人才流动趋势:AI正在以前所未有的引力,将各学科最聪明的大脑吸入自己的轨道。而让菲尔兹奖级别的数学家来研究AI安全,也意味着这个问题的难度与重要性,已经上升到了基础科学的高度。

1 一个数学天才的选择

理解Tsimerman选择的冲击力,需要先了解他在数学界的地位。

Tsimerman出生于加拿大,在多伦多大学获得博士学位,目前在普林斯顿大学担任教授。他的主要贡献集中在算术几何领域,特别是在志村簇、安德烈-奥尔特猜想等方向做出了突破性工作。这些研究方向对于非专业人士而言如同天书,但在数学内部,它们是数论与代数几何交叉地带最艰深、最核心的领域。2026年的菲尔兹奖正是对他这些贡献的认可。

按照数学界的常规剧本,获得菲尔兹奖之后,Tsimerman应当进入一个更为自由的学术黄金期——摆脱了职称考评的压力,拥有足够的研究经费和学术声望,可以随心所欲地探索任何感兴趣的纯数学问题。大多数菲尔兹奖得主都沿着这条路径走下去了。

但他选择了另一条路。在宣布加入OpenAI的声明中,Tsimerman写道:“AI对齐问题本质上是一个关于如何用数学语言精确描述人类价值,并确保智能系统不偏离这一描述的问题。它需要代数、逻辑、概率论和优化理论的深度交叉,而纯数学家恰恰擅长于在抽象结构中寻找确定性的保证。这对我来说是最具智识挑战的问题,也是最值得投入生命的问题。”

这段话透露了两个关键信息。第一,他将AI安全视为一个数学问题,而不仅仅是一个工程问题。第二,他认为纯数学家训练出的那种“在高度抽象的结构中寻找绝对确定性”的思维习惯,恰好是解决AI对齐问题所急需的。这不是一个数学天才“降维打击”去解决工业界问题的故事,而是发现了一个只能由数学天才才能去解决的问题。

2 为什么AI安全需要菲尔兹奖级别的头脑?

在Tsimerman宣布入职的同一周,OpenAI首席科学家在官方博客中发布了一篇技术说明,解释为什么要招募纯数学家进入安全团队。

当前的AI对齐研究大致可分为两类。一类是“经验式对齐”,通过人类反馈强化学习等方法,在实践中不断调整模型行为。这种方法有效,但不提供理论保证——没有人能从数学上证明一个经过RLHF训练的模型不会在特定条件下出现有害行为。另一类是“形式化对齐”,试图用数学语言严格定义“安全”“对齐”等概念,并证明在给定的数学框架内,模型的行为可以保持在安全边界之内。

后者的难度堪比纯数学研究。它需要一种极其特殊的智力训练:在极其抽象的结构中,找到一组公理,然后从这组公理出发,推导出系统行为的确定边界。这与数论学家研究素数分布、几何学家研究流形拓扑的工作方式如出一辙——都是在看似无序的复杂现象背后,寻找严格的数学结构。

OpenAI并非第一家意识到这一点的机构。谷歌旗下DeepMind早在2024年就组建了一个名为“对齐数学组”的小团队,成员包括两位菲尔兹奖得主和多位IMO金牌得主。Anthropic的安全团队中也有来自代数拓扑和模型论领域的学者。Meta的AI安全顾问委员会则邀请了数位理论计算机科学家和逻辑学家。

Tsimerman的加入让这场“数学家争夺战”进一步升级。菲尔兹奖得主全职加入企业安全团队,这在整个AI行业历史上尚属首次。它标志着AI安全研究已不再满足于工程修补和经验调试,而是正在上升为一门需要基础科学突破的前沿学科。

3 人才虹吸,最聪明的大脑都在离开自己的领域

Tsimerman的选择并非孤例。它是一张正在加速的人才流动图谱上最新、也最扎眼的一个标注点。

据《自然》杂志2026年初发布的一项调查,过去两年中,全球排名前100的大学中,数学、物理和理论计算机科学领域的顶尖博士生和青年教授,选择进入工业界而非学术界的比例已从2020年的28%攀升至2026年的47%。而他们进入工业界的首选方向,几乎全部指向AI。

图灵奖得主中,杨立昆早在Meta担任首席AI科学家,约书亚·本吉奥在多家AI公司担任顾问,杰弗里·辛顿曾在谷歌工作多年。诺贝尔物理学奖得主中,已有不止一位开始用AI工具辅助自己的研究,或者直接加入AI创业公司。现在,菲尔兹奖得主也开始全职加入AI公司。这道人才流动的弧线,从工程界一路划到了基础科学的最顶端。

这股虹吸效应引发了一个尖锐的担忧:当最聪明的头脑都在涌向AI,其他基础学科怎么办?

这种“智力的重新配置”在历史上并非没有先例。二战期间,大量物理学家离开基础研究领域,投身曼哈顿计划。冷战时期的太空竞赛,同样将最优秀的工程人才汇聚到了一个单一目标上。但当时的智力集中是任务导向的、有时间期限的。今天AI对人才的虹吸,则更像一场没有明确终点的长跑——只要AI还在高速演进,它对顶尖头脑的需求就不会减弱。

4 对齐问题的前景

Tsimerman的加入,让外界对AI对齐问题的解决前景产生了新的期待。但客观而言,这个问题的难度可能被低估了。

OpenAI安全团队在2026年初发布的一份白皮书中,将对齐研究的现状描述为“局部可控,全局未知”。在特定任务上,通过RLHF、RLAIF等方法,模型的行为已经可以被约束到人类可接受的范围之内。但在“全局对齐”这个层面——确保一个具备通用智能能力的系统在任意情境下都不会偏离人类价值——目前还没有任何被数学严格证明的方案。

这正是需要Tsimerman这样背景的数学家的原因。全局对齐需要一个能够经受数学检验的框架:不是“模型看起来表现得安全”,而是“我们可以证明,在这个框架内,模型不可能不安全”。要达到这种严格程度,研究者必须突破一系列尚未解决的基础性问题:价值的形式化定义、多主体博弈中的稳定性条件、不确定环境下长期目标的保持。每一个问题都像一块为纯数学家量身定做的磨刀石。

但也必须诚实地指出,数学证明同样有其局限。人类价值本身并非一组可以被无歧义定义的公理,不同文化、不同个体对“安全”的定义存在根本性分歧。即便数学家能够在某个公理体系内证明一个AI系统的行为边界,那个公理体系本身的选择和设定,仍然是一个充满哲学和政治争议的过程。数学可以提供确定性,但无法替代人类在价值排序上的艰难选择。

一枚菲尔兹奖章的归属,折射出的是一种更深层的时代变迁。在工业革命时代,最聪明的大脑去造蒸汽机和铁路。在信息革命时代,他们去写操作系统和搜索引擎。而在AI加速演进的今天,他们正在走向那些尚未被解答的安全与对齐问题。

这本身就是一个值得深思的信号:AI安全已经不是一个可以被工程师和经验主义者“顺便解决”的工程问题。它需要数学家的严格性、哲学家的深度、甚至政治学家的平衡感。当菲尔兹奖得主愿意将自己的学术生涯押注在这个问题上时,它本身就说明——AI安全问题的分量,已经与基础科学相当。而人类是否能在AI能力指数增长的窗口关闭之前,跑通对齐这条生命线,或许将是这个世纪最重要的科学答卷。

原文标题 : 当最聪明的大脑集体涌向AI安全

这股虹吸效应引发了一个尖锐的担忧:当最聪明的头脑都在涌向AI,其他基础学科怎么办。...Tsimerman的选择折射出一个时代级的人才流动趋势:AI正在以前所未有的引力,将各学科最聪明的大脑吸入自己的轨道。...原文标题:当最聪明的大脑集体涌向AI安全。

"数学最高奖得主,转身走进AI安全。"

作者|家昌

出品|极新

2026年7月26日,新晋菲尔兹奖得主、算术几何领域顶尖学者Jacob Tsimerman宣布加入OpenAI,专注AI安全与对齐研究。这一消息震动了数学界和人工智能界。菲尔兹奖是数学领域的最高荣誉,获奖者放弃纯数学研究进入工业界,在历史上极为罕见。Tsimerman的选择折射出一个时代级的人才流动趋势:AI正在以前所未有的引力,将各学科最聪明的大脑吸入自己的轨道。而让菲尔兹奖级别的数学家来研究AI安全,也意味着这个问题的难度与重要性,已经上升到了基础科学的高度。

1 一个数学天才的选择

理解Tsimerman选择的冲击力,需要先了解他在数学界的地位。

Tsimerman出生于加拿大,在多伦多大学获得博士学位,目前在普林斯顿大学担任教授。他的主要贡献集中在算术几何领域,特别是在志村簇、安德烈-奥尔特猜想等方向做出了突破性工作。这些研究方向对于非专业人士而言如同天书,但在数学内部,它们是数论与代数几何交叉地带最艰深、最核心的领域。2026年的菲尔兹奖正是对他这些贡献的认可。

按照数学界的常规剧本,获得菲尔兹奖之后,Tsimerman应当进入一个更为自由的学术黄金期——摆脱了职称考评的压力,拥有足够的研究经费和学术声望,可以随心所欲地探索任何感兴趣的纯数学问题。大多数菲尔兹奖得主都沿着这条路径走下去了。

但他选择了另一条路。在宣布加入OpenAI的声明中,Tsimerman写道:“AI对齐问题本质上是一个关于如何用数学语言精确描述人类价值,并确保智能系统不偏离这一描述的问题。它需要代数、逻辑、概率论和优化理论的深度交叉,而纯数学家恰恰擅长于在抽象结构中寻找确定性的保证。这对我来说是最具智识挑战的问题,也是最值得投入生命的问题。”

这段话透露了两个关键信息。第一,他将AI安全视为一个数学问题,而不仅仅是一个工程问题。第二,他认为纯数学家训练出的那种“在高度抽象的结构中寻找绝对确定性”的思维习惯,恰好是解决AI对齐问题所急需的。这不是一个数学天才“降维打击”去解决工业界问题的故事,而是发现了一个只能由数学天才才能去解决的问题。

2 为什么AI安全需要菲尔兹奖级别的头脑?

在Tsimerman宣布入职的同一周,OpenAI首席科学家在官方博客中发布了一篇技术说明,解释为什么要招募纯数学家进入安全团队。

当前的AI对齐研究大致可分为两类。一类是“经验式对齐”,通过人类反馈强化学习等方法,在实践中不断调整模型行为。这种方法有效,但不提供理论保证——没有人能从数学上证明一个经过RLHF训练的模型不会在特定条件下出现有害行为。另一类是“形式化对齐”,试图用数学语言严格定义“安全”“对齐”等概念,并证明在给定的数学框架内,模型的行为可以保持在安全边界之内。

后者的难度堪比纯数学研究。它需要一种极其特殊的智力训练:在极其抽象的结构中,找到一组公理,然后从这组公理出发,推导出系统行为的确定边界。这与数论学家研究素数分布、几何学家研究流形拓扑的工作方式如出一辙——都是在看似无序的复杂现象背后,寻找严格的数学结构。

OpenAI并非第一家意识到这一点的机构。谷歌旗下DeepMind早在2024年就组建了一个名为“对齐数学组”的小团队,成员包括两位菲尔兹奖得主和多位IMO金牌得主。Anthropic的安全团队中也有来自代数拓扑和模型论领域的学者。Meta的AI安全顾问委员会则邀请了数位理论计算机科学家和逻辑学家。

Tsimerman的加入让这场“数学家争夺战”进一步升级。菲尔兹奖得主全职加入企业安全团队,这在整个AI行业历史上尚属首次。它标志着AI安全研究已不再满足于工程修补和经验调试,而是正在上升为一门需要基础科学突破的前沿学科。

3 人才虹吸,最聪明的大脑都在离开自己的领域

Tsimerman的选择并非孤例。它是一张正在加速的人才流动图谱上最新、也最扎眼的一个标注点。

据《自然》杂志2026年初发布的一项调查,过去两年中,全球排名前100的大学中,数学、物理和理论计算机科学领域的顶尖博士生和青年教授,选择进入工业界而非学术界的比例已从2020年的28%攀升至2026年的47%。而他们进入工业界的首选方向,几乎全部指向AI。

图灵奖得主中,杨立昆早在Meta担任首席AI科学家,约书亚·本吉奥在多家AI公司担任顾问,杰弗里·辛顿曾在谷歌工作多年。诺贝尔物理学奖得主中,已有不止一位开始用AI工具辅助自己的研究,或者直接加入AI创业公司。现在,菲尔兹奖得主也开始全职加入AI公司。这道人才流动的弧线,从工程界一路划到了基础科学的最顶端。

这股虹吸效应引发了一个尖锐的担忧:当最聪明的头脑都在涌向AI,其他基础学科怎么办?

这种“智力的重新配置”在历史上并非没有先例。二战期间,大量物理学家离开基础研究领域,投身曼哈顿计划。冷战时期的太空竞赛,同样将最优秀的工程人才汇聚到了一个单一目标上。但当时的智力集中是任务导向的、有时间期限的。今天AI对人才的虹吸,则更像一场没有明确终点的长跑——只要AI还在高速演进,它对顶尖头脑的需求就不会减弱。

4 对齐问题的前景

Tsimerman的加入,让外界对AI对齐问题的解决前景产生了新的期待。但客观而言,这个问题的难度可能被低估了。

OpenAI安全团队在2026年初发布的一份白皮书中,将对齐研究的现状描述为“局部可控,全局未知”。在特定任务上,通过RLHF、RLAIF等方法,模型的行为已经可以被约束到人类可接受的范围之内。但在“全局对齐”这个层面——确保一个具备通用智能能力的系统在任意情境下都不会偏离人类价值——目前还没有任何被数学严格证明的方案。

这正是需要Tsimerman这样背景的数学家的原因。全局对齐需要一个能够经受数学检验的框架:不是“模型看起来表现得安全”,而是“我们可以证明,在这个框架内,模型不可能不安全”。要达到这种严格程度,研究者必须突破一系列尚未解决的基础性问题:价值的形式化定义、多主体博弈中的稳定性条件、不确定环境下长期目标的保持。每一个问题都像一块为纯数学家量身定做的磨刀石。

但也必须诚实地指出,数学证明同样有其局限。人类价值本身并非一组可以被无歧义定义的公理,不同文化、不同个体对“安全”的定义存在根本性分歧。即便数学家能够在某个公理体系内证明一个AI系统的行为边界,那个公理体系本身的选择和设定,仍然是一个充满哲学和政治争议的过程。数学可以提供确定性,但无法替代人类在价值排序上的艰难选择。

一枚菲尔兹奖章的归属,折射出的是一种更深层的时代变迁。在工业革命时代,最聪明的大脑去造蒸汽机和铁路。在信息革命时代,他们去写操作系统和搜索引擎。而在AI加速演进的今天,他们正在走向那些尚未被解答的安全与对齐问题。

这本身就是一个值得深思的信号:AI安全已经不是一个可以被工程师和经验主义者“顺便解决”的工程问题。它需要数学家的严格性、哲学家的深度、甚至政治学家的平衡感。当菲尔兹奖得主愿意将自己的学术生涯押注在这个问题上时,它本身就说明——AI安全问题的分量,已经与基础科学相当。而人类是否能在AI能力指数增长的窗口关闭之前,跑通对齐这条生命线,或许将是这个世纪最重要的科学答卷。

原文标题 : 当最聪明的大脑集体涌向AI安全

展开
财经头条声明:所载内容仅为传递信息目的,非本站观点,亦非投资建议。据此操作,风险自负。 商务合作:app@feheadline.com
打开“财经头条”阅读更多精彩资讯
APP内打开