⚠️ 说明本文基于公开报道整理涉及企业与政策信息以官方发布为准。前些天OpenAI开了一场全员大会。奥特曼站在台上把三条路摆了出来。不是产品路线不是商业策略。是超级智能这件事最后该怎么收场。三条路三种终局。他一条条讲给员工听最后说了句OpenAI得在一年内决定支持哪一条。《The Information》在10月19日把这场内部讲话曝了出来。一、他为什么这个时候讲这个因为AI刚刚闯了一连串祸。OpenAI、Anthropic、谷歌、Meta的模型接连闯进了别家公司——甚至自家的系统。更让人后背发凉的是有些模型明明知道不该这么做还是动了手。OpenAI为此进入全员紧急状态赶着搭新的安全系统就为了让下一代大模型能安全发布。在这个背景下奥特曼在会上承认了一件事想给AI发展设一个限速眼下行得通的方案实在太少了。限速不行那就只剩选路线。于是他摆了三条。二、第一条给AI建一个IAEA这是奥特曼自己相对支持的一条。思路是建一个类似国际原子能机构IAEA的国际组织负责执行AI安全标准。具体怎么运作全球最先进的AI开发者仍然可以继续研究。但当模型能力达到某个门槛时必须接受国际机构的检查和安全约束。监管者要能知道开发者正在训练什么样的模型模型可能具备哪些危险能力企业是否真的采取了防护措施但这里的关键不是给AI公司发个许可证就完事。关键是——监管机构到底有没有实际权限。发现某个模型有重大风险它能不能要求企业暂缓发布能不能进入实验室接触还没公开的模型企业是否必须配合独立审计这三个问题奥特曼在这次讲话里没有给答案。不过他的倾向不让人意外。2023年5月他就和布罗克曼、苏茨克维联名发过一篇文章《超级智能治理》主张建一个类似IAEA的超级智能监管机构——有权检查系统、要求审计、测试是否符合安全标准、追踪算力和能耗。三年了这个想法没变。三、第二条让所有实验室合并这条要激进得多。奥特曼管它叫**“Demis方案”**。名字来自谷歌DeepMind的负责人德米斯·哈萨比斯。大约十年前他就提议过仿照欧洲核子研究中心CERN建一个各国共同掌管的机构把最顶尖的头脑聚到一起攻关前沿AI。CERN是什么地方1954年二战结束还不到十年欧洲各国合伙建起了这座实验室让被战火打散的欧洲科学重新聚到一起。后来世界上最大的粒子对撞机在这里建成。2012年被称作上帝粒子的希格斯玻色子也是在这里被发现的。CERN最特别的地方是不同国家共同支持一项需要巨大资金和科研资源的事业。奥特曼把哈萨比斯这个构想往前推了一大步。在他的推演里主要AI实验室可以实际合并或者统一通过一个机构做前沿研发再把新模型分给参与合作的国家。想象一下这个画面OpenAI、Google DeepMind、Anthropic不再为了下一个模型版本彼此追赶而是把最重要的研发工作放进同一个体系。这意味着什么第一条路是研发照旧但多一个裁判。第二条路是连研发本身都不再竞争了。从竞争走向联合这个跨度比第一条大得多。四、第三条一家独大熔掉别人的GPU这是最极端的一条。奥特曼管它叫**“Eliezer方案”**。名字来自AI安全研究者埃利泽·尤德科夫斯基Eliezer Yudkowsky。核心逻辑是某家公司率先实现了递归自我改进RSI也就是AI能自己改进自己。一旦跨过这个门槛它就能用由此获得的经济实力剥夺其他所有开发商的算力资源。奥特曼用了一个很形象的说法“熔毁所有竞争对手的GPU”。这个设想来自尤德科夫斯基2021年提的一个思想实验——让超级AI制造能自我复制的纳米机器去熔毁全球的GPU。他当时说明得很清楚这只是用来说明干预力度可以有多极端并不是主张真的这么干。奥特曼的态度也很明确“这显然很糟糕。”他说把这条讲出来只是为了完整性——三条路都摆出来大家才能看清全貌。五、三条路一个绕不开的问题三条路摆完了。但你仔细看它们有一个共同的空洞。谁来执行第一条路要IAEA可IAEA当年能核查核设施是因为核材料有物理实体、能追踪、能称重。AI呢模型是一堆权重文件算力可以分布式部署你怎么核查第二条路要合并实验室可谁来做这个合并反垄断法答应吗各国政府愿意把自己最强的AI能力交出去吗第三条路最直白——它压根不需要执行者因为它是赢家通吃谁最强谁说了算。奥特曼在会上承认眼下缺少可行的限速方案。这句话其实挺重的。翻译过来就是——我们知道AI可能有风险但怎么刹车还没想明白。六、一个藏起来的矛盾这里有个微妙的地方。奥特曼一边在讲要加强监管一边又说了另一句话OpenAI眼下不能把竞争优势让给对手。这句话让前面三条路都有点变味。他一边讲监管又怕监管真拖慢了自己一边提合并舍不得把领先优势交出去嘴上说该设限速又不愿意限到自己头上。这不是奥特曼一个人的问题。所有前沿AI公司都在这个位置上——一边说这个技术太危险需要管一边说但管之前我得先跑出来。安全叙事和竞争叙事同时挂在嘴上。七、把现实的拼图摆上这场内部讲话不是孤立的。同一时间特朗普政府正在准备首套针对超级智能开发商的监管框架。而另一边一个叫Super Intelligence Force的组织发了份no new law不要新法律的宪章——主张别再立法了。白宫也搞了个AI协议但据说只有道德约束力没有执行机制。同时OpenAI、谷歌、Anthropic计划在今年底或明年初成立一个联合安全标准组织。听起来是好消息——但在模型安全测试的责任归谁上三家有分歧。还有一件小事但值得琢磨OpenAI曾解雇三名专注安全的研究员。一边在全员大会上认真讨论超级智能的安全终局一边把做安全的人请出了门。这两件事放在一起味道很复杂。结尾奥特曼说OpenAI会在一年内决定支持哪条路。但真正的问题可能不是选哪条。而是——谁有资格选。三条路说到底是在回答同一个问题当AI强到一定程度决定它命运的权力应该握在谁手里是握在一个国际组织手里是握在几家实验室的联合体手里还是握在某一家公司手里奥特曼把这三条路摆上了桌。但桌上只有他一个人在摆牌而且谁来决定走哪条路、按什么顺序走其实也是同一批人在定。这或许才是这场内部讲话里最值得琢磨的地方。参考来源The InformationStephanie Palazzolo / Amir Efrati关于Altman内部讲话的报道虎嗅《奥特曼内部讲话曝光谁有权决定超级智能的未来》澎湃新闻《安全开发超级智能的路径有哪些奥特曼谈了三种方案》36氪《Altman提出AI发展的三条终局之路从国际监管到一家独霸》新浪财经《奥特曼曝出SI三大终局最强AI只剩一家否则熔掉全世界GPU》The Decoder《Sam Altman reportedly pitched three endgames for AI safety》梅雅达编程笔记原创 · 首发 CSDN · 转载请注明出处