13 两位先知
2023年5月，Altman抵达华盛顿特区，在国会出席听证。这是一场令人叹为观止的表演。他重申了AGI将解决气候变化、攻克癌症的承诺，就OpenAI的技术将如何改善并创造出"美妙"的新工作岗位提出了有力论据，对版权争议及训练数据透明度和隐私保障缺失等质疑则一一回避，同时发出了真诚的监管呼声——当然，是经OpenAI认可的那种监管，并祭出中国这张牌，敦促立法者不要阻碍本国的技术创新。
参议员们对他倾心不已。有一段对话颇能说明问题，既展示了Altman灵活的话术，也折射出他所赢得的信任与热情：他提出了三项政策建议，将讨论的焦点从劳工、环境、知识产权等现实问题，引向对未来AI系统和极端风险的监管。第一，设立一个机构，针对能力超过某一阈值的模型制定并实施许可制度；第二，制定一套用于衡量"危险"能力的AI安全标准；第三，对上述标准要求独立审计以核查合规情况。他随后进一步说明，必要时能力阈值可以算力阈值近似替代，而"危险能力"可以涵盖模型操纵和说服他人的能力，以及生成新型生物制剂配方的能力。
“如果我们颁布这些规则，您是否有资格来执行？“路易斯安那州参议员John Kennedy问道。
“我很喜欢我现在的工作，“Altman在笑声中答道。
“外面有没有具备这种资格的人？“Kennedy追问。
“我们很乐意向您推荐合适的人选。““好。您赚了很多钱吧？““我赚的——没有。我的薪水够买医疗保险。我在OpenAI没有任何股权。”
坐在Gary Marcus旁边，Altman甚至赢得了这位最直言不讳的批评者的认可。“我想在记录中补充一点：我坐在Sam身旁，这是除了一次之外，我这辈子离他最近的时刻，“Marcus说，“他的真诚……在现场能够切实感受到，而这种感受在电视屏幕上根本无法传达。"（Marcus后来收回了这难得一见的赞许：“我意识到，我、参议院，乃至整个美国人民，很可能都被耍了。"）
Altman的筹备团队认为这是一次响亮的胜利。这次听证会，不过是一场漫长攻势的点睛之笔。ChatGPT发布后，华盛顿几乎所有人都迫切地寻求与OpenAI会面。Anna Makanju领导下的小型政策团队，此前一直在相对低调地运作，如今却收到了雪崩般的拜访请求。此后数月，无论Altman是否在场，他们日夜奔走、几乎不曾停歇：与政策制定者共进晚餐、安排演示、解答疑问，并将Altman在证词中提出的那套立法方案，送到尽可能多的人手中——从参议员、众议员、国会幕僚、内阁成员，到来访外交官、各机构负责人，乃至副总统Kamala Harris。
据《纽约时报》报道，到六月初，Altman已亲自与至少一百名美国立法者会面，其中一些人在听证会上还骄傲地提到了与他的私下交流。
Altman出席作证那天，一小群好莱坞概念艺术家也安排了与几个国会办公室的会面——这些艺术家专门从事电影中角色、道具及视觉元素的概念设计。他们众筹了机票和住宿，在此过程中因公开反对AI行业而遭到网络喷子威胁和人肉搜索。彼时好莱坞编剧正在举行历史性罢工，演员工会的罢工也即将展开，诉求之一便是争取更有力的AI保护条款。这群艺术家同样打算直言不讳地讲述生成式AI已经对他们这个行业造成的毁灭性冲击。生成式AI开发者未经许可，以数以百万计的艺术家作品训练模型，由此建立起价值数百亿美元的商业帝国，而这些产品如今正在实质性地取代艺术家本身。那些正在消失的工作，是扎扎实实的中产阶级饭碗——多达数十万个。“艺术家们现在非常痛苦，根本没有工作可接，“Karla Ortiz说。她是以漫威影业《奇异博士》而广为人知的概念艺术家，是此次进京团队的成员之一，也是对多家生成式AI公司提起诉讼的首批艺术家原告之一。
当他们抵达华盛顿时，原定的几场会面因Altman的听证而被迫推迟到次日，行程被打乱，他们只能在听证会举行的会议室外走廊里踱步——字面意义上的被拒于门外。第二天，他们再度面临争夺注意力的困境。Altman正在国会大厦出席一场与六十名众议员的私人晚宴，享用精心准备的自助餐和烤鸡。与此同时，艺术家们则在举办一场互动鸡尾酒会，用他们预算所能承受的最好招待，吸引着前来的国会幕僚：葡萄酒，以及Chick-fil-A。
这是一个虽小却带着黑色幽默意味的缩影，折射出在AI政策的对话桌上，谁握有权力与话语权，谁又只能徘徊在外。
奥特曼长期在 OpenAI 内部用来为隐瞒研究、全速推进辩护的那套叙事，如今被他娴熟地运用到引导美国 AI 监管讨论上——朝着那些既能规避 OpenAI 问责、在某些情况下还能巩固其垄断地位的方向。硅谷那张屡试不爽的"中国牌”，向来能有效抵挡监管压力。如今它比任何时候都更有杀伤力：TikTok 的惊人崛起进一步助燃了华盛顿对中国的忧虑，这股恐惧情绪正攀升至新高。
商务部的氛围最能说明这种恐惧——该部门已成为美国政府遏制中国 AI 发展这场强硬攻势的排头兵。2022 年 10 月 7 日，商务部发布了一项据称旨在削弱中国 AI 军事能力的指令。借助出口管制这一机制——即以国家安全为由限制向外国出售特定技术——商务部在毫无预警的情况下，对以英伟达（Nvidia）芯片为主的美国尖端 AI 芯片对华出口实施管控。这一举措波及范围远超中国军方，令整个中国科学界和 AI 产业措手不及，从医疗健康、教育应用到中国版 ChatGPT，几乎无一幸免。“如果五年前有人告诉我会出台这样的规定，我会说那是战争行为——我们必然已经处于战争状态，“一位半导体分析师说道。
审视事态后续，商务部似乎对中国表现出的韧性深感沮丧。中国 AI 发展与应用的步伐有所放缓，但远不足以让该部门释怀。部分原因在于英伟达自身的腾挪之道：中国是这家美国芯片巨头的庞大市场，商务部的管控措施刚一落地，英伟达便迅速设计出恰好符合规定的新型芯片，以维持对中国客户的销售。这一禁令同时也为中国本土芯片产业注入了动力——后者长期以来苦于无法生产出与英伟达同等水平的芯片。美国政府的举措激起了国内替代方案的投资热潮，为该产业的突破提供了大量资金支持与市场反馈。
然而，对商务部努力形成最大挑战的，是生机勃勃的跨国开源 AI 运动。这场运动正在快速复制封闭式企业生成式 AI 模型，并将其发布到互联网上供任何人下载使用。在奋力追赶之后，Meta 已成为免费发布大语言模型的主导力量。这家公司长期以来是开源开发的倡导者；首席科学家杨立昆始终相信开放科学的重要性。这也是精明的商业决策。Meta 无需靠销售生成式 AI 模型盈利，但将免费模型对外开放、同时将其融入核心产品，既能确立 AI 领域的领导地位，也能吸引顶尖科研人才，还能借此挖苦那些依赖售卖模型为生的竞争对手。
Meta 积累的算力资源已与 OpenAI 借助微软（Microsoft）所掌握的规模相当，如今正全速推进其 GPT 系列的对标产品——Llama。严格而言，Llama 并不符合开源的真正定义，后者要求同时发布模型权重与训练数据。但 Meta 仅凭第一点——免费公开模型权重——便已足够：尽管其政策明确不在中国直接提供 Llama，这款模型依然成为中国 AI 产业不可或缺的基础构件。
就在华盛顿弥漫着沮丧与恐惧的氛围之中，一份与奥特曼建议高度呼应的政策白皮书，在其 2023 年 7 月听证会两个月后问世。这份白皮书由一个研究者联合体撰写，成员涵盖 OpenAI 安全团队、微软（Microsoft）、谷歌（Google）DeepMind，以及十余家智库——其中许多与末日论（Doomer）社群渊源颇深。白皮书再度呼吁：以算力阈值为基准，为 AI 模型建立新的许可证制度；并针对危险能力开发 AI 安全评估，包括操纵与说服能力，以及合成新型生物武器配方的能力。这份长达五十一页的文件还为需要政府干预的模型类别正式命名：“前沿"AI 模型。按照作者的表述，具有上述危险能力的前沿模型目前尚不存在，但随着 OpenAI、Anthropic 等公司对现有模型投入更多算力进行规模化扩展（scaling），这类模型随时可能突然涌现，令人猝不及防。
白皮书发布后数周之内，OpenAI 与微软（Microsoft）联手谷歌（Google）和 Anthropic，共同创立了前沿模型论坛——这是一个旨在推动相关研究、影响 AI 安全风险政策议程的联盟。这是一个罕见的议题，让末日论者（Doomer）、繁荣论者（Boomer）与以利益为驱动的企业利益汇聚一处：将前沿模型置于政府监管讨论的核心，对末日论者而言是意识形态上的必然选择，对繁荣论者和企业而言则是一种便利，可借此转移外界对现有 AI 模型及其问题的监管注意力。各方也都借助反对开放尖端模型权重的立场推进自身议程。论坛成立首年，Meta 的缺席格外引人注目。（一年后，Meta 加入其中，以期在桌上占有一席之地。）
奥特曼建议的核心，也是前沿模型概念的核心，在于将模型规模与涌现能力——以及由此可能引发的危险——联系起来。这一论点根植于缩放定律的理念——更多的训练算力应当可预见地带来更强大的模型——以及末日主义者圈子中普遍持有的信念：高度先进的 AI 有可能失控。由此衍生的政策提案，核心在于监管机构依据训练深度学习模型所耗用的算力来进行干预：一旦模型跨越某一算力门槛，便应自动受到更多审慎对待，并被施以更严格的限制。
2023年7月发布的政策白皮书为这一门槛给出了一个具体数字：10²⁶次浮点运算——即一个模型若要被列为前沿模型，训练时所需完成的最低运算总量，也就是1后面跟二十六个零。作者们承认，这一门槛在某种程度上是随意设定的，仅仅说明这是现有 AI 模型大概率尚未突破的算力水平。大语言模型开发商 Cohere 的研究副总裁、白皮书联合作者之一 Sara Hooker 表示，与提出这一数字的合作者交流后，她认为他们选定此数字，是为了让它略高于 OpenAI 据报道训练 GPT-4 时所使用的算力量。
然而，Hooker 与包括 Deborah Raji 在内的许多研究者，都不认同以算力门槛来规范模型的做法。规模扩大固然可能带来更强的能力，但反命题并不成立：强大的能力并不依赖于规模。例如，一个仅在高质量生物学数据上训练的深度学习模型，在极小规模下便可成为极具威力的生物配方生成器。通过蒸馏——OpenAI 在其2021年研究路线图中提及的技术之一——大型模型也可以被压缩为具有相似能力的小型模型。规模化扩展（scaling）同样无法保证特定能力的提升；这再次取决于模型的训练数据内容，以及所训练的神经网络类型。归根结底，并非所有模型都基于 Transformer 架构。因此，算力与风险的相关性其实微乎其微，Hooker 表示，更遑论白皮书中列举的那些特定类型的风险了。
白皮书的联合作者们，对以算力为核心的监管框架和具体门槛均未达成共识，于是那个数字——10²⁶次浮点运算——被放入脚注和附录，未附任何论据，并附有大量说明，指出门槛方案是一种极不完善的做法。令 Hooker 震惊的是，不仅这套框架，就连这一精确数字，都迅速跻身最受追捧的政策提案之列。这份白皮书直接触动了华盛顿对中国的忧虑，从而在政界赢得了大量认同。“前沿模型"听起来令人生畏，若是北京掌握了这些模型，则更是如此。“政府的一些部门正在抓住一切可以抓住的东西，因为他们想有所行动，“时任安全与新兴技术研究中心（CSET）研究员的 Emily Weinstein 在2023年底对我说。
白皮书的理念在商务部获得了积极回应。工作人员迅速行动，与专家展开磋商，探讨管控前沿模型的具体方案，以及将其阻于北京之外是否切实可行。不久，商务部便开始讨论一项史无前例的提案：将 AI 出口管制的范围从硬件扩展至软件本身，通过禁止出口超过算力门槛的 AI 模型来加以实现。换言之，商务部正在评估能否阻止模型权重被上传至互联网并广泛传播。
值得注意的是，Marcus 与同样出席作证的 IBM 副总裁 Christina Montgomery 的一项核心建议，尽管在听证会上反复提及，却几乎未能引发同等关注：强制要求企业披露其模型训练数据的具体内容。就华盛顿所担忧的向北京输送更强能力而言，这一做法影响甚微，却能在一系列问题上对企业问责形成真正约束，包括版权材料的使用、用户数据隐私，以及对模型能力的严格科学评估。“如果我们不知道里面有什么，就无法确切知道它们的表现，“Marcus 曾如此说道。我们只能凭一纸声明去相信某家公司。
这一做法同样可以大幅消弭围绕危险能力是否会涌现、以何种方式涌现的不确定性——原因与算力难以预测风险如出一辙：深度学习模型的行为，首要且根本地取决于其训练数据。如果一家 AI 开发商生产出能够生成生化武器配方的大语言模型，“那是因为他们用包含生化武器相关信息的数据集来训练了它，“AI Now 研究所联席执行主任、美国联邦贸易委员会（FTC）前 AI 高级顾问 Sarah Myers West 表示。一如既往，神经网络不过是在提取其训练数据中的规律。公开这些数据，将是在科学层面厘清何种输入可能导致危险输出的第一步。
商务部就限制模型权重的提案征询各路专家意见，其审议结果将于2024年初以公开征求意见的形式对外公布——消息一经传开，便将 AI 开发社区与迅速壮大的 AI 政策社区一分为二。这场交锋的核心，是封闭与开放之争，技术民族主义与无国界科学之争。封闭派除前沿模型论坛的成员及更广泛的末日论圈子外，很快又争取到了美国国家安全与情报系统的背书。与之抗衡的，是 Meta、开源 AI 开发者、初创企业、公民社会团体以及独立学者。
封闭派延续着 OpenAI 高管多年来对内使用的诸多论点，而开放派则反驳说，将模型封锁起来弊远大于利。Weinstein 指出，生产新型生物武器的瓶颈，从来不在于获取配方——此类配方在网上早已泛滥，用谷歌（Google）轻而易举就能找到，难点在于获取实际制造武器所需的材料与设备。因此，限制所谓前沿模型的访问，对解决这一问题几乎毫无助益；而压制 AI 模型公开发布所带来的附带损害，却可能动摇美国 AI 创新的根基。开源——将代码与软件发布给更广泛社区并允许在此基础上构建——长期以来是众多美国初创企业繁荣生长的基石。限制模型权重的发布，将使小型开发者构建自有 AI 产品和服务的途径愈发逼仄，进一步巩固前沿模型论坛所代表的巨头们的垄断地位。
AI 模型也将愈发难以接受外部审查，例如 Sasha Luccioni、Yacine Jernite 和 Emma Strubell 的研究工作——她们长期依赖开放的生成式 AI 模型，量化持续扩展这些模型所带来的碳排放与环境成本。
从若干关键角度来看，跨国界的广泛开放合作不仅不构成国家安全威胁，反而在相当程度上强化了美国的 AI 领导力。作为全球培养 AI 人才和产出 AI 研究最多的两个国家，中美两国长期以来互为彼此在 AI 领域的第一大合作伙伴。十余年间，两国的科学家和创业者相互借鉴，推动这一领域及大量应用以远超任何一方单独为之所能达到的速度向前演进，惠及的不仅是两国自身，更包括全球众多国家。最广为人知的例证之一：ResNet——当今世界应用最广泛的神经网络之一——由微软（Microsoft）北京办公室的中国研究人员发布。ResNet 不仅是计算机视觉、语音识别和语言系统的重要基础，也是 DeepMind 第一版 AlphaFold 的核心组件。AlphaFold 于2018年发布，能够根据氨基酸序列预测蛋白质的三维结构，对加速药物研发和理解疾病机制至关重要。（DeepMind 此后在 AlphaFold 上的进一步突破——采用了不同的神经网络架构——使德米斯·哈萨比斯与 DeepMind 另一位资深研究科学家共同斩获2024年诺贝尔化学奖。）
然而，2023年10月，封闭派所倡导的理念迎来迄今最强有力的背书，出现在拜登政府的 AI 行政令中。这份行政令篇幅极长，堪称历史之最，读来像是由截然不同的群体分头撰写后强行拼凑而成——事实也正是如此。其中一份底稿源自该政府2022年发布的《AI 权利法案蓝图》，白宫通过与公民社会团体的长期协商精心拟就，旨在勾勒 AI 如何在推进公民权利、种族正义和隐私保护的前提下得到发展、使用与约束。该文件的要点包括：推动 AI 发展广泛吸纳社区与专家的参与、应对 AI 在医疗和招聘等场景中的歧视性影响，以及保护个人免受未经同意的数据收集之害。
另一份底稿，则是奥特曼的政策建议与前沿模型白皮书框架的高度忠实复现——这份文件在最后时刻被匆匆附上，起因是白宫内少数对末日论意识形态抱有同情的人被这份白皮书深深吸引。白皮书强调应将重点放在尚不存在的未来 AI 模型上；行政令随后将其近半篇幅用于论述此类模型。白皮书列举了四类危险能力，行政令保留了其中三类：生成新型化学、生物、放射性及核武器（CBRN）配方、自动化网络攻击，以及——几乎原文照搬——通过「欺骗与混淆手段」规避人类控制。
令 Hooker、Raji 以及许多其他 AI 研究者深感忧虑的是，白皮书中具体的算力阈值——10²⁶次浮点运算——也原封不动地出现在行政令中，作为模型须向美国政府报告的门槛。
有了这样的背书，算力阈值这一路径迅速蔓延开来。年底前，欧洲率先跟进，将阈值定为10²⁵，略为严格——彼时，推动《欧盟 AI 法案》这部酝酿已久的立法的议员们，被突如其来的生成式 AI 浪潮打了个措手不及，急于寻找应对之策。2024年初，这一思路又扩散至加利福尼亚州，随着一项名为 SB 1047 的 AI 安全新法案的提出，阈值重回10²⁶。加州州长加文·纽森（Gavin Newsom）随后否决了该法案——颇具讽刺意味的是，OpenAI 及其他模型开发商曾大力游说反对该法案，理由是其中还包含大量其他问责条款。许多人批评纽森向产业利益低头。但在包括 Hooker 和 Raji 在内的若干研究者看来，这次否决不失为值得欢迎的进展。「这是朝着正确方向迈出的一步，确保我们以科学共识为锚，」Hooker 说，「关于为何选择这个数字、你希望防范哪些风险，仍有大量问题有待解答。」
这整套事件序列——Altman的国会证词、白皮书、全面的政策游说攻势、华盛顿对中国威胁的过度反应，以及将算力门槛仓促写入美国及海外重要政策文件——深刻揭示了一个现实：独立的AI专业知识已萎缩到何种程度。就在此前一个月，即2023年9月，Raji发现自己是在场唯一一位既无业界资金背景、又与"末日论"社区没有财务关联的学术人士，与Altman、马斯克、纳德拉、盖茨、扎克伯格、皮查伊和Jack Clark等一众科技高管同席出席国会听证。他们都出席了参议员查克·舒默"AI洞察论坛"的首场活动——这是当年最受瞩目、最具影响力的系列政策论坛之一，旨在推动AI立法落地。当她的同台证人们滔滔不绝地抛出一个又一个毫无依据的AI前景与风险论断，不时点缀着经过精心拿捏的"超越中国"说辞——每逢此时，与会参议员们便不禁挺直了腰背——令Raji最为震惊的，是台下那么多听众似乎对这一切照单全收。
她这才恍然意识到，坐在她身旁的那些人及其庞大的政策团队，已经在华盛顿垄断话语权太久，许多政策制定者如今将这套叙事奉为圭臬。事后，一位舒默发言人公开透露，参议员在推进监管立法的过程中，曾亲自就相关议题向Altman及其他OpenAI高管问询请教。“这对我来说是一个巨大的顿悟，“Raji说，“原来，我们需要更多人站出来拆穿这些说法——审视人们的言论，直言：‘现实远比这复杂。’”
华盛顿之行不过是奥特曼政策公关攻势美国段的高潮。同年三月，他在推特上宣布计划出访、与用户见面，此后这趟旅程便演变成一场横跨多城市、多大陆的漫漫征途，他似乎要与G20每一位总统悉数合影留念。这趟旅程有了新的称谓：山姆·奥特曼的世界巡回。
世界巡回并非出自OpenAI公关或政策团队的整体战略。奥特曼只是选好了最初几站，便一股脑发给了逾150万的推特粉丝。头几次亮相之后，关注热度滚雪球般失控，公关和政策团队才被拉入其中。每增加一段新行程，两支团队就得手忙脚乱地安排后勤，提心吊胆地应对因准备不足而必然涌现的各种麻烦。
这是一种始终存在的动态的体现：奥特曼我行我素。有时他的走向与公司一致，有时则不然。GPT-4发布期间，OpenAI精心策划了所有公告和宣传，将这一项目呈现为全公司通力合作的成果。该模型凝聚了逾百名员工的心血，官方公告的署名只是"OpenAI”。然而奥特曼随即发推，将功劳归于一人：Jakub Pachocki。Pachocki固然发挥了重要作用，但他不过是项目十八位负责人之一。他的贡献真的如此独一无二吗？一些员工心存疑虑。此后奥特曼更进一步，安排Pachocki坐在自己身后，陪同出席华盛顿的参议院听证会。
这种动态还以其他方式显现：公司设有正式的高管团队，但外界始终不清楚奥特曼究竟在听谁的意见，也不清楚引导公司战略的究竟是正式流程与决策，还是他的个人关系与一时兴起。
随着OpenAI迅速走向专业化，曝光度与外部审视与日俱增，高层的这种混乱正变得愈加影响深远。公司已不再只有应用部门和研究部门，如今对外的职能部门多了好几个：除公关团队外，法律团队在起草法律意见书，应对数量日增的诉讼；政策团队的触角延伸至多个大陆。OpenAI越来越需要以统一的叙事和声音面向各方，也需要在对外表达立场之前先确立自身立场。然而在许多场合，战略方向的缺失正导致混乱的对外信息。
2023年底，《纽约时报》以版权侵权为由起诉OpenAI和微软（Microsoft），指控两家公司使用其数百万篇文章训练模型。OpenAI法律团队于一月初撰写的回应异常强硬，指责《纽约时报》“蓄意操纵我们的模型"以生成对己有利的证据。同一周，OpenAI政策团队向英国上议院通信与数字特别委员会提交书面意见，称若无版权材料，OpenAI将"不可能"训练其前沿模型。“不可能"一词随即引发媒体聚焦，OpenAI随后匆忙撇清这一措辞。
“始终有太多混乱，“一位供职于对外职能部门的员工说。他补充道，虽然部分混乱反映的是初创公司成长期的典型阵痛，但OpenAI的影响力和覆盖范围早已远远超出公司相对早期的发展阶段。“我不知道最高管理层是否有战略优先级。老实说，我觉得大家都在各自做决定，然后突然间看起来像是一个战略决策，其实不过是一个意外。有时候与其说有什么计划，不如说纯粹就是一片混乱。”
随着 Altman 马不停蹄地奔走于欧洲、拉丁美洲、中东、亚洲和非洲之间，在精心筛选的学生、科技投资人与粉丝面前大放异彩（偶有几次也引发不快），OpenAI 内部由来已久的裂痕却在战略方向的缺失中愈演愈烈，公司正以前所未有的速度向两个极端滑去。
一方面，应用部门仍然冲在最前线，面对数量空前的竞争对手，竭力以最快速度部署 OpenAI 的技术。此时膨胀中的各业务部门也纷纷加入助力，研究部门里同样有许多人深受激励——在他们看来，舆论与期待的急剧升温正说明推进和发布 OpenAI 的模型才是实现公司使命的正途。
另一方面，安全阵营分散在研究部门各处，其中相当一部分人仍聚拢在 Miles Brundage 的政策研究团队和 Jan Leike 的对齐团队里，而他们在人数上已经大幅缩水，沦为少数派。为弥补规模上的劣势，他们比以往任何时候都更大声地敲响警钟，警示那些他们认为随时可能降临的危险能力与存在性风险。随着 OpenAI 模型能力的持续跃升，研究部门中一些此前并未认同安全阵营的人，也开始陆续站到这一边——加速涌现的能力让他们转变了信念：AI 或许真的能够达到某种智能水平，足以颠覆人类的掌控并走向失控。对这一阵营而言，同样是那股急剧升温的舆论与期待，意味着 OpenAI 负有道义上的责任，必须以最大限度的审慎行事，方能不负使命。
这正是"加速派"与"末日派"在 OpenAI 内部的现实写照。分歧一直蔓延至领导层。在 DALL-E 和 ChatGPT 推出之后，多数高管和资深管理者已日益相信，模型是可以通过"迭代部署"向世界输送的有益工具——“迭代部署"是 OpenAI 在历次发布之间造出的新词，用以描述其新思路。与 GPT-2 的分阶段发布或 GPT-3 受控的 API 发布不同，迭代部署意味着全力押注——尽早、频繁地将模型交到用户手中。一如过去所有部署策略，OpenAI 再次提出了新论据，声称这是当下最为稳妥的做法。Altman 和其他高管认为，迭代部署能让人们和机构有时间从容适应，同时也让 OpenAI 得以在真实用户身上检验模型、收集真实反馈并持续改进产品。“秘密研发一个超强 AI 系统，然后一夜之间把它砸向世界，我认为这不会有好结果，“Altman 在参议院作证时曾如此说道。
然而，若说 OpenAI 有哪位领导者并未随众而行，那便是 Sutskever。随着模型能力的不断提升和部署影响的持续加速，他认为公司需要提高而非降低对其潜在破坏性后果的警惕。GPT-4 问世之后，此前将大部分精力投注于提升模型能力的 Sutskever 突然急转弯，将目光转向 AI 安全。他开始将时间对半分配。在周围人看来，他有时仿佛处于内心的交战之中——他既是加速派，又是末日派：对 AGI 的到来既比以往更加兴奋，也比以往更加恐惧，因为他意识到 AGI 可能迅速超越人类，演变为超级智能。
Sutskever 如今的言谈愈发带着弥赛亚式的色彩，令昔日好友面面相觑，也让其他员工忐忑不安。在一次与新入职研究员的会议上，Sutskever 阐述了他为迎接 AGI 所构想的方案。
“等我们都进了掩体——“他开口说道。“抱歉，“一位研究员打断他，“掩体？““在我们发布 AGI 之前，我们肯定会建一个掩体，“Sutskever 一本正经地回答。如此强大的技术必将成为全球各国政府竞相觊觎的对象，可能激化地缘政治紧张局势，而研发这项技术的核心科学家将需要得到保护。“当然，“他补充道，“要不要进掩体，将是你自己的选择。”
那位研究员此后对 Sutskever 始终保持着一份敬重，却也刻意与其保持距离。“有一群人——Ilya 便是其中之一——相信建成 AGI 将会带来一场天启。字面意义上的天启，“他说。
Sutskever 继续将时间分给对齐工作，一个新的想法也开始在他与 Altman 之间萌芽：组建一支专门针对超级智能开发新对齐方法的团队，以应对他们预判中的未来——一旦系统能够在他们看来胜过人类，基于人类反馈的强化学习（RLHF）等方法将不再奏效。Altman 将其称为"对齐曼哈顿计划”。起初，两人曾讨论将其独立拆分为另一个机构：一家拥有 10 亿美元启动捐款的独立非营利组织。部分因为 Sutskever 不愿离开 OpenAI，部分因为模型访问权限的问题，他们最终决定将这一项目留在公司内部。OpenAI 随后在一篇博客文章中宣布成立新团队，并为该计划冠以新名——超级对齐。文章同时宣布了一项引人注目的承诺：将 OpenAI 迄今获得的计算资源中的 20% 专项拨给该团队。Sutskever 与 Leike 将联合领导这一新项目。
在另一次全员会议上，Sutskever 走到台前，向员工介绍这支新团队及其目标。他拿起麦克风，开始有节奏地敲击。砰。砰。砰。
“对齐是一团燃烧的火，“他说，“超级对齐，是熊熊的烈焰。”
此后不久，公司规模持续扩张，已撑爆了疫情后搬入的那座绿植丛生、喷泉环绕的 Mayo 办公楼，高管们将研究部门的大部分人马迁回了旧时的 Pioneer 大楼。这次搬迁在很大程度上将公司一分为二——应用与安全，各自偏安一隅。
2023年7月，就在OpenAI公开超级对齐团队成立消息后不久，公司包下旧金山市中心Metreon影院，组织员工集体观看电影《奥本海默》——这部影片讲述了物理学家J·罗伯特·奥本海默领导美国曼哈顿计划、制造出人类第一颗核武器的故事。
“我曾希望《奥本海默》能激励一代年轻人投身物理学，但它在这方面差得太远，“阿尔特曼在推文中写道。“我们来拍那部电影吧！（我觉得《社交网络》对创业者确实做到了这一点。）”
将近八年来，阿尔特曼在最初写给马斯克的邮件中所做的那个比喻——将OpenAI比作曼哈顿计划——始终是公司内部挥之不去的意象，甚至在新员工入职培训中也频繁出现。阿尔特曼对此情有独钟。他与奥本海默同一天生日，逢记者采访便会提及。他也喜欢套用这位原子弹之父的信念：“技术之所以发生，是因为它处于可能性的范围之内。“他似乎从不提起，奥本海默的后半生深陷悔恨，毕生奔走于反对自己造物传播的事业之中。
不同的员工对这个比喻有各自的解读。大多数人将曼哈顿计划视为一项英雄壮举：它代表着以高度集中的人才与资源，抢在危险对手之前完成改写历史、拯救世界的技术突破。在安全派看来，这个比喻则凸显了OpenAI引领一项可能威胁人类存亡之技术所肩负的沉重责任。
对阿尔特曼而言，它代表的是一堂公关课。他曾在多年前的一次活动上说：“世界认识核能，靠的是一个任何人都无法忘怀的画面——日本上空腾起的蘑菇云。我一直在思考，世界为何会对科学产生抵触，而我愿意相信的答案之一，正是那张图像：我们由此得知，也许有些技术强大到不该落入人手。人们对影像的信服程度远胜于事实。”
那些处于AI安全光谱极端位置、p(doom)值最高的人，对阿尔特曼和公司其他人看待这段历史时流露出的、看似毫无复杂性的乐观态度越来越感到不安。OpenAI曾经也组织观看了纪录片《阿波罗11号》，记录了美国阿波罗计划将人类首次送上月球的历程，而这也是硅谷另一个惯用的类比。“如果你可以说’阿波罗计划’，为什么要提曼哈顿计划？为什么要背上那些历史包袱？“一位极端末日论者说道。
《奥本海默》中有一个场景让他久久难忘：在"三位一体"核试验——人类史上第一次原子弹引爆——开始前的那一刻，由 Cillian Murphy 饰演的奥本海默估算出核弹引发世界毁灭的概率"接近于零”。
“接近于零？“由马特·达蒙饰演的莱斯利·R·格罗夫斯少将难以置信地反问道。
“仅凭理论，你还想要什么？“奥本海默说。“零就很好，“格罗夫斯说。“这和我们现在的处境如出一辙，“这位极端末日论者说，“我们根本无法对这些 AI 做出任何测算。”
随着 OpenAI 持续推进研究，曼哈顿计划这一比喻对某些人开始有了新的含义。
大语言模型的进步速度随着数据和算力的耗尽而放缓，研究部门随之将重心更多地转向 AI 智能体的开发。这一思路在业界日益流行，本质上是重回"纯语言"与"基础落地"两种假设之争。纯语言路线已近强弩之末，语言与视觉的结合同样如此。在许多 AI 研究者看来，下一阶段的进步或许需要依靠能够在真实世界中采取行动、并从环境中收集反馈的智能体。在 OpenAI 内部，这种能力也被视为获取竞争优势的途径。一个能与你聊天的 AI 助手固然不错，但一个能自动完成发送邮件、编写网站代码等复杂任务的 AI 助手则更胜一筹——不仅具有极高的商业价值，还能加速公司自身的研发进程。
研究部门中最雄心勃勃的项目，是一个名为"AI 科学家"的系统——旨在构建一个能够自主开展科学研究的智能体。由于互联网和教科书中可供抓取的新"知识"或数据日趋匮乏，参与该项目的研究人员寄望于这位自主"科学家"能通过运行实验来自主生成知识。该团队由两支队伍合并而成：一支是此前专攻代码生成、主导 Codex 研发的团队，另一支则试图将海量数学题及其解题过程作为结构化数据集，训练模型掌握逐步推导的逻辑能力。编写代码与解决数学问题这两种能力，看起来都是开展实验、分析数据的良好基础。
Jakub Pachocki 与 Szymon Sidor 共同领导这一项目——他们的目标不仅是打造一位自主科学家，更是按照 Altman 的愿望，专门打造一位能帮助 OpenAI 大幅加速 AI 研发的自主 AI 研究员。
“AI 科学家"项目令 AGI 信奉者们既兴奋异常，又忧虑丛生：若该项目成功，AGI 的到来势必大幅提前。这意味着通往乌托邦或人类灭绝的时间线双双缩短。与 Sutskever 一样，部分研究人员开始在日常对话中提及"地堡”，甚至设想一种类似洛斯阿拉莫斯的安排：在美国某处偏远的荒漠中，一支精英 AI 研究团队将在安保严密的设施里生活和工作，以防范外部威胁。
到 2023 年，他们认为这些威胁已涵盖蓄意攻击和失控的 AGI 本身。安全团队在 Slack 上发布了针对 OpenAI 的威胁模型草案——与高管们曾争论是否应加强组织安全的那个年代相比，这份草案已大幅完善。草案将威胁分为三类：外国国家行为者、竞争对手，以及出于意识形态驱动的人员。
在第三类威胁下，草案附上了埃利泽·尤德科夫斯基的一篇文章链接。尤德科夫斯基是极端末日论者，也是 AI 安全社区的领军人物——他创造并推广了"友好 AI"一词，用以指代对齐良好的系统，还写了一部广受喜爱的同人小说《哈利·波特与理性方法》。这部连载小说共 122 章、逾 66 万字，将哈利重新塑造为一位受过严格训练的理性主义者，以此视角重新诠释他在魔法世界中的历程。这部小说对许多人而言是通往有效利他主义的入口，并由此引领他们走向更广泛的末日论思想体系。尤德科夫斯基还共同创办了博客 LessWrong——这是 AI 安全研究者凝聚社群、传播 AI 安全理念的核心平台。随着他对末日概率 p(doom) 的估算飙升至 95%，他在该平台上呼吁全面暂停 AI 开发的声音愈发充满警示意味。2023 年 3 月，他在《时代》杂志发表了一篇文章，讲述了目睹女儿掉落第一颗乳牙时的百感交集，以及她是否还有机会长大成人的忧思。他提出了一套强制终止 AI 发展的方案：关闭所有大型 GPU 集群，追踪 GPU 的销售情况，必要时对"流氓数据中心"实施空袭。OpenAI 的威胁模型草案将这篇文章作为鼓吹暴力的意识形态倡导者的例证加以引用。
OpenAI 内部有一小部分员工认同尤德科夫斯基非暴力立场，他们对草案单独点名他、却对不友好 AI 本身只字未提深感不满。在收到反馈后，安全团队增加了第四类威胁：失控的 AGI 系统。
随着 OpenAI 声望日隆，董事会却在不断失去成员，且始终未能补充新血。2023 年初以来，三位独立董事相继去职，部分原因在于 ChatGPT 所引燃的那场席卷全行业的生成式 AI 开发与商业化竞赛。
里德·霍夫曼是第一个离开的。他在董事会服务了五年，于二月以利益冲突为由辞职。前一年，他与已离开 DeepMind 的联合创始人穆斯塔法·苏莱曼共同创办了初创公司 Inflection，而该公司正迅速演变为 OpenAI 的直接竞争对手。
一个月后，Shivon Zilis 步霍夫曼后尘离开了董事会。她是马斯克最信任的副手、Neuralink 董事，马斯克脱离 OpenAI 后，她一直以他的名义继续参与监督，并于 2020 年正式加入董事会。管理层中早有人担忧，Zilis 会将公司敏感信息透露给马斯克，但她曾承诺，对 OpenAI 的保密义务优先于对这位遭嫌弃的前联合主席的忠诚。然而 2022 年 7 月，一则消息使她的立场变得极为可疑——她与马斯克生有一对双胞胎，却从未向其他董事披露。尽管如此，奥特曼仍曾设法留住她，理由令其他董事会成员费解。2022 年 10 月，奥特曼甚至就如何处理马斯克对 OpenAI 估值飞涨的明显不满一事向她寻求建议，彼时 OpenAI 的估值据报道已接近 200 亿美元。马斯克在提及自己对 OpenAI 初期资金的大量投入后，给奥特曼发短信写道：“这是挂羊头卖狗肉。“2023 年 3 月，马斯克成立了新的 AI 公司 xAI，成为 OpenAI 的又一直接竞争对手，Zilis 继续留任董事会一事终于走到了尽头。
第三位离开的是 Will Hurd，前共和党德克萨斯州众议员、前 CIA 官员，2021 年加入董事会。宣布任命时，奥特曼告诉员工，引入一位能够平衡硅谷自由主义偏向的人十分重要，随后还专门组织了一次会议，让心存疑虑的员工向 Hurd 直接提问。员工毫不客气，就各种议题对他展开追问，包括对唐纳德·特朗普的看法。2023 年 6 月，Hurd 离开 OpenAI，全力投入美国总统竞选。他最终于十月退选。
彼时，除奥特曼、Brockman 和 Sutskever 之外，董事会仅剩三位独立成员：Quora 联合创始人兼首席执行官 Adam D’Angelo、机器人学家 Tasha McCauley，以及 CSET 研究员海伦·托纳。
三人中，D’Angelo 最早加入董事会。他与扎克伯格是寄宿学校菲利普斯·埃克塞特学院的高中同学，曾担任 Facebook 首席技术官两年后创办了 Quora。2014 年，Quora 在奥特曼主持 YC 期间加入了第一批项目；2017 年，即 D’Angelo 加入董事会前一年，奥特曼追加了 YC 对 Quora 的投资，联合领投了一轮 8500 万美元的融资。在公告中，奥特曼称 D’Angelo 是「硅谷最聪明的 CEO 之一」，并说：「他目光极为长远，而这在如今的科技公司里已成稀缺品质。」
McCauley 于 2018 年晚些时候加入董事会。她是一位创业者，曾联合创办一家远程呈现机器人初创公司，并经营着一家三维城市仿真公司。她通过导师 Alan Kay 与奥特曼相识，也认识 Holden Karnofsky。McCauley 在 AI 安全社区颇受尊重，后来出任 AI 治理中心 AI 安全研究非营利组织的董事会成员，并曾一度加入 Effective Ventures 基金会董事会——该基金会是一家英国机构，负责管理颇具影响力的有效利他主义播客《80,000 Hours》。当时同在 OpenAI 董事会的 Karnofsky 提名了她，他当时正致力于寻找更多独立董事，以配合 OpenAI 向利润封顶结构的过渡。
托纳是 2021 年中期最后一位加入董事会的，同样经由 Karnofsky 提名。这一次，他是在自己三年任期届满、并参与创建 Anthropic 之际，为接班人物色候选人。托纳在成为中国议题与新兴技术领域的专家之前，曾与 Karnofsky 共事于 GiveWell 和 Open Philanthropy。她最初是通过有效利他主义运动接触到 AI 安全议题的，但此后与该运动渐行渐远。在 FTX 崩盘前，她在有效利他主义论坛上最受关注的帖子中写道，这一运动正变得日益教条、日益自我封闭，并表示自己「对 EA 的幻灭感与日俱增」。她仍在该圈子里备受推崇，也继续全身心投入更广泛的 AI 安全社区，与 McCauley 共同出任 AI 治理中心的董事会成员。
2023年夏末，董事会在遴选新独立董事一事上已陷入长达数月的僵局。在GPT-4演示之后，尤其是ChatGPT发布之后，为加强监督，McCauley启动了一项历时约一年的工作，包括访谈员工和公司外部的利益相关者，以明确改组后的董事会和更专业化的监督机制应有的面貌。
在这一过程中，包括阿尔特曼在内的全体董事一致认为，鉴于他们所感受到的公司能力所带来的日益上升的风险，下一位独立董事必须具备深厚的AI安全背景。此后，他们花费数月时间汇编候选名单，并对其中五人进行了面试，其中包括Dan Hendrycks——末日论者（Doomer）社群的核心人物，主持位于伯克利的AI安全中心，同时也是马斯克旗下xAI的唯一顾问。然而，就在独立董事们准备推进、从五位候选人中确定人选时，布罗克曼和伊利亚·苏茨克维尔分别对这些已经过审查的候选人提出了种种异议。阿尔特曼则一如既往地保持暧昧——他不明确反对任何选项，却也不推动任何一项向前。他还数次提出新候选人，而这些人有一个共同特点：全都深植于他的人际网络，无论在经济利益上还是其他方面，都处于他的影响范围之内。
在建立新监督机制方面——包括通过不同渠道提升董事会对公司安全与保密实践的可见度——独立董事们同样有着相似的感受：这些事务在阿尔特曼眼中并非要务。McCauley出任董事初期，阿尔特曼曾指定她担任董事会的员工联络人和代言人；此后，她定期举行办公室开放时间与员工会面。她甚至曾带着丈夫、演员Joseph Gordon-Levitt出席公司外出活动，他认真聆听了多场技术报告。但疫情期间，这类会面逐渐中断。此后，McCauley虽维持了一些定期会议，但开放的办公室时间始终未能恢复。
由于缺乏与员工系统性沟通的渠道，有关公司动态的信息开始通过独立董事们在AI安全和科技界的私人关系渗透上来。他们还依赖阿尔特曼本人作为获取重要信息的传导通道。令他们日益忧虑的，是阿尔特曼的表述与他们从其他渠道所听到的内容之间愈来愈大的落差。阿尔特曼惯于描绘一幅乐观的图景，而董事们却越来越频繁地从自己的消息来源处收到各种问题的报告：ChatGPT发布前准备不足、发布后持续的混乱；GPT-4发布前后挥之不去的AI安全隐患；以及OpenAI在尚未解决诸多问题的情况下，以前所未有的速度抢先推出新产品。
有一起事件尤为刺眼。2022年底，董事会举行了一次内部集会——这是原定每年一次的年会中的第一场——阿尔特曼在会上重点介绍了OpenAI在部署安全委员会（DSB）框架下为评估GPT-4部署而建立的完备安全与测试规程。会后，一位独立董事在与一名员工叙旧时，该员工提到DSB规程已经出现过一次违反。微软（Microsoft）曾在未经DSB批准的情况下，向印度用户进行了GPT-4的小范围推送。尽管那天阿尔特曼与全体董事在同一个房间里关起门待了整整一天，他却对这次违规只字未提。
虽然独立董事们没有理由认为任何不安全的内容已被公开发布，但微软如此轻率地违反规程、阿尔特曼又对此轻描淡写地一带而过，着实令他们不安。OpenAI的模型正沿着快速跃升的轨道前进；在他们看来，从AI安全的角度而言，模型能力很快便可能越过一个临界点——届时，类似违规或将引发潜在的灾难性乃至存在性后果。在他们眼中，阿尔特曼对微软违规行为的宽松态度，为他日后在模型发布风险不断攀升时如何对待AI安全流程，树立了一个危险的先例。
与此同时，阿尔特曼的其他行为同样令人忧虑。2023年3月，他在未抄送D’Angelo的情况下向董事会发送邮件，称认为D’Angelo应当辞职。他的理由是：Quora正在开发自己的聊天机器人Poe，构成利益冲突。这一说法来得突然，动机也颇为可疑。Toner、McCauley和D’Angelo都曾分别就OpenAI的安全实践、非营利机构的实力或其他议题向阿尔特曼提出过令他不快的问题。随着董事会中的盟友日渐凋零，在这三人看来，阿尔特曼似乎是在蓄意寻找借口，将其中一人驱逐出局。一位独立董事在回复邮件时予以反驳：与阿尔特曼长期容忍霍夫曼和Zilis存在的利益冲突相比，Poe不过是个程度轻微的冲突。阿尔特曼的提议未获通过；D’Angelo留了下来。
此后不久，D’Angelo在一次晚宴上听说OpenAI创业基金的架构颇为怪异。该基金向早期投资者提供优先使用OpenAI产品的渠道，这种优待本应是OpenAI自有投资者的专属待遇。当他第二次听到有人提及此事后，独立董事们向阿尔特曼施压，索要基金结构的相关文件。阿尔特曼最终提交文件后，董事们发现，这个基金的结构不仅"颇为怪异”——从法律上讲，该基金本应由OpenAI持有，如今却归阿尔特曼个人所有。
对独立董事们来说，每一起事件都指向同一幅令人不安的图景：阿尔特曼正在一点一滴地遮蔽他们的视线，以各种方式阻止董事会对他形成有效制衡。多年来，阿尔特曼一直将董事会有能力制衡乃至解雇他，标榜为OpenAI最重要的治理机制。事实上，此刻他正在全球各地大肆宣扬这一点，以赢得公众和各国政府的信任。
进入秋季，独立董事们在争取新董事会成员的谈判中毫无实质进展，士气跌入新低。随着时间一月月流逝，这些治理漏洞愈发紧迫。OpenAI即将着手训练GPT-5，“AI科学家”（AI Scientist）项目也在稳步推进。就在这时，10月初，Toner收到了一封意想不到的邮件：伊利亚·苏茨克维尔想和她谈谈。