人工智能帝国

《人工智能帝国：山姆·奥特曼的 OpenAI 梦想与梦魇》中英双语在线阅读版。

人工智能帝国

《人工智能帝国：山姆·奥特曼的 OpenAI 梦想与梦魇》中英双语在线阅读版。

作者：Karen Hao / 郝凯伦
译者与整理：冯若航 / Vonng
原作：Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI

OpenAI 的内部故事是一面棱镜，透过它看见的远不止这一家公司。

—— Karen Hao

本书以 300 余次访谈、文件与全球实地报道为基础，从 OpenAI 的创立神话写到商业化、资源汲取与治理危机，追问人工智能如何从科学理想演化为一套集中知识、资本与政治影响力的帝国体系。

在线版本按 Oink 0.6 的 Book 模型组织，中文与英文保持同构路径，提供章节树、全文检索、顺序阅读、整书打印，以及 Markdown / llms.txt 输出。

阅读本书

从序章《奔向王座》进入 2023 年 OpenAI 董事会危机。
打开完整目录浏览四部十八章与前后置内容。
使用整书打印视图连续阅读或另存为 PDF。

版权说明

英文原作版权归 Karen Hao 所有，由 Penguin Press / Penguin Random House 出版。版权页明确保留复制、传播与 AI 训练相关权利。仓库的 CC BY 4.0 许可仅覆盖贡献者有权许可的整理、代码与贡献，不替代英文原作版权。

版权页

企鹅出版社　企鹅兰登书屋有限责任公司旗下品牌

1745 Broadway, New York, NY 10019

penguinrandomhouse.com

精装本 ISBN 9780593657508　国际版 ISBN 9798217060481

电子书 ISBN 9780593657515

封面设计：Chris Allen　内文设计：Daniel Lagin，电子书版式改编：Cora Wigen

欧盟产品安全与合规授权代表：Penguin Random House Ireland，Morrison Chambers, 32 Nassau Street, Dublin D02 YH68, Ireland，https://eu-contact.penguin.ie

pid_prh_7.1a_151469223_c0_r0

献词

献给我的家人，
无论过去、现在与未来。

献给世界各地
那些拒绝以丰裕之名
行剥夺之实的运动。

题辞

据说，解释即消解。这句格言在计算机编程领域，尤其是在所谓启发式编程与人工智能领域，得到了最充分的印证。在那些领域，机器被赋予了令人叹为观止的行为能力，足以令最老练的观察者目眩神迷。然而，一旦某个程序被揭开面纱，一旦其内部运作以足够浅白的语言加以阐明，其魔力便轰然崩塌——它不过是一堆流程的堆砌，每一条都清晰可辨。观察者暗自思量：“这个我也写得出来。“有了这个念头，他便将这个程序从标着"智能"的书架上取下，移入专放珍奇古玩的那一格，从此只配与见识不如他的人谈及。

——JOSEPH WEIZENBAUM，麻省理工学院教授，首个聊天机器人 ELIZA 的发明者，1966年

“成功的人创办公司。更成功的人创建国家。最成功的人创立宗教。”

这句话是我从 Qi Lu 那里听来的，出处已不可考。不过它让我陷入了沉思——最成功的创始人，从一开始就不是奔着创办公司去的。他们肩负的使命，是缔造某种更接近宗教的东西；而在某个时刻，他们发现，成立一家公司，不过是实现这一使命的最便捷途径罢了。

——SAM ALTMAN，2013年

作者注

本书基于对约260人进行的逾300次访谈，以及大量书信往来与相关文件。其中大部分访谈系专为本书所做，另有一部分来自我过去七年间为《麻省理工科技评论》、《华尔街日报》和《大西洋》报道 OpenAI、人工智能行业及其全球影响所积累的采访素材。逾150次访谈涵盖90余位现任或前任 OpenAI 高管与员工，以及少数能够接触到 OpenAI 模型开发实践详细文件的合同工。此外还有约40位微软（Microsoft）、Anthropic、Meta、谷歌（Google）、DeepMind 及 Scale 的现任或前任高管与员工，以及与山姆·奥特曼关系密切的人士接受了访谈。

书中所引用的电子邮件、文件或 Slack 消息，均来自相关文件与往来函件的副本或截图，或与诉讼记录中的原文完全一致。凡我未持有副本的情况，均以转述代替直接引号。唯有一处例外，已在尾注中注明。所有对话均依据当事人的记忆、当时的笔记重构，或在尾注注明处取自录音或文字记录。多数情况下，我和核查团队会要求回忆引文的当事人在相隔数月后再次复述或确认，以检验其稳定性。书中每一个场景、每一个数字、每一个姓名与代号，以及关于 OpenAI 模型的每一处技术细节——如训练数据的构成或所用芯片的数量——均经至少两人印证，并有同期笔记与文件为据；少数情况下，我在尾注中注明的，则以其他媒体报道为佐证。书中绝大多数涉及 OpenAI 的其他细节亦遵循同一标准。某人在书中具名，并不意味着我曾与其直接交谈。凡涉及任何人的想法或感受，均因其本人曾描述过该想法或感受——或向我亲口陈述，或由我的采访对象转述，或见于我所获得的电子邮件或录音，或出自公开采访。

本书不是一本企业传记。尽管它讲述的是 OpenAI 的内部故事，但这个故事旨在成为一面棱镜，透过它看见的远不止这一家公司。它是一幅关于科学雄心如何演变为一场激进的意识形态、金钱驱动的征途的肖像；是对其多维而广泛的影响力的深度审视；是对权力本身的沉思。为此，在报道过程中，我深入世界各地的社区，沉浸其中，了解当地的历史、文化、生活，以及人们在面对人工智能切实冲击时的亲身经历。我希望，这些人的故事能在书页间与硅谷最神秘组织之一的内部故事同样熠熠生辉。

我已向书中描述的所有关键人物和公司发出采访及置评请求。OpenAI 与山姆·奥特曼选择不予配合。

序章：奔向王座

2023年11月17日，星期五，太平洋时间中午前后，OpenAI首席执行官、硅谷宠儿、生成式AI革命的化身山姆·奥特曼登录一场谷歌（Google）Meet视频会议，发现五位董事会成员中有四位正盯着他。

视频小方格里，董事会成员、OpenAI首席科学家伊利亚·苏茨克维尔言简意赅：奥特曼被解雇了，公告即将对外发布。

此时，奥特曼正住在拉斯维加斯一家豪华酒店，专程前来观看这座城市几十年来首次举办的一级方程式赛车——一场星光熠熠的盛会，宾客从蕾哈娜到大卫·贝克汉姆，不一而足。自公司约一年前发布ChatGPT以来，他一直维持着高强度的出行节奏，这趟旅程不过是短暂的喘息。起初，他震惊得说不出话，只是转过目光，努力平复情绪。随着谈话继续，他用一贯的方式试图缓和气氛。

“我能帮上什么忙？“他问道。董事会要他支持他们选定的临时首席执行官——此前一直担任首席技术官的米拉·穆拉蒂。奥特曼依然茫然，不知是否身在噩梦，还是应允了下来。

几分钟后，苏茨克维尔向格雷格·布罗克曼发出了另一个谷歌（Google）Meet链接。布罗克曼是OpenAI总裁、奥特曼的亲密盟友，也是上一场会议中唯一缺席的董事会成员。苏茨克维尔告知他，将不再担任董事会成员，但可保留在公司的职位。

公告随即对外发布。“奥特曼先生的离职系董事会经审慎审查后作出的决定。审查结论为，他在与董事会的沟通中未能始终保持坦诚，妨碍了董事会履行职责。董事会对他继续领导OpenAI已失去信心。”

表面上，OpenAI 彼时正处于巅峰。自 2022 年 11 月 ChatGPT 发布以来，它已成为硅谷最耀眼的成功故事。ChatGPT 是有史以来增长最快的消费级应用。这家初创公司的估值一路飙升，令投资人垂涎、顶尖人才争相涌入。就在数周前，公司正在敲定一项要约收购，允许员工向如饥似渴的投资者出售股份，估值最高达 900 亿美元。就在几天前，公司刚刚举办了一场万众期待、盛况空前的发布会，推出了迄今为止最为进取的产品阵容。

就公众而言，Altman 是这一切的缔造者。整个春夏，他马不停蹄地环游世界，名气之盛，媒体纷纷将他比作泰勒·斯威夫特。他那低调的瘦小身形、大胆的宣言，以及看似真诚的姿态，令几乎所有人都为之折服。

在赴拉斯维加斯之前，他再度踏上全球巡访之旅，出席亚太经合组织工商领导人峰会，以一贯令人眼前一亮的方式侃侃而谈。

「您为何将毕生精力投入这项事业？」Emerson Collective 创始人兼主席、史蒂夫·乔布斯的遗孀劳伦·鲍威尔·乔布斯问道。

「我认为这将是人类迄今所发明的最具变革性、最有益于世界的技术，」他说，「在 OpenAI 的历史上，已有四次——最近一次就在过去短短几周——我有幸置身于那个时刻：我们拨开无知之幕，将发现的疆界向前推进。能够亲历这些，是我职业生涯中最大的荣耀。」

震惊的员工们和所有外人一样，几乎同时得知了奥特曼被解雇的消息——那条公告链接在公司内部的手机间飞速流转。最令他们错愕的，是这则消息与奥特曼一贯光辉形象之间的巨大落差。公司此时已接近八百人，员工们与CEO面对面接触的机会早已大不如前。但他在全球舞台上那种迷人的风度，与他出席全员大会、参加公司活动时的状态并无二致——不出差的日子里，他在办公室里也是同样的模样。

谣言满天飞，员工们在前身为Twitter的X上不停刷屏，搜寻任何蛛丝马迹。办公室里，有人抓住了自认为最合理的解释，大声喊出来：“奥特曼要去竞选总统了！“这句话让紧张气氛短暂松动，随即大家意识到根本不是这回事，猜测又以更浓烈的情绪和惶恐卷土重来。奥特曼是犯了法？也许和他妹妹有关，员工们猜测——就在一个月前，她在推文中指控哥哥曾对自己实施虐待，那些推文迅速刷屏全网。也许不是违法，而是道德层面的问题，他们继续推断，或许与奥特曼的其他投资有关，抑或与他向沙特投资者募资筹建新AI芯片企业一事有关。

苏茨克弗在OpenAI的Slack上发布了一则通知：两小时后，他将举行线上全员大会，回答员工的问题。“那是我经历过最漫长的两个小时，“一位员工事后回忆道。

苏茨克韦尔、穆拉蒂与 OpenAI 其余高管并排出现在屏幕上，神情僵硬，毫无演练痕迹——全员大会正通过直播传送给在场员工和远程办公者。

苏茨克韦尔面色凝重。在员工眼中，他是一个深沉的思考者，也是一个神秘主义者，惯于以充满诚意的精神性语言表达自我，这让一些人感到亲切，却让另一些人难以消受。他同时也是个孩子气十足、心地温柔的人。他会穿着印着动物图案的衬衫来上班，也喜欢亲手把它们画出来——蜷缩的猫、蜷缩的羊驼、蜷缩的喷火龙，此外还有抽象的面孔和日常物件。他有几幅业余画作挂在办公室里，其中一幅是三朵花，盛开的形状恰好组成 OpenAI 的标志——那也是他始终敦促员工去构建的愿景：“一批热爱人类的 AGI 共同体。”

此刻，他试图在镇定的面孔后面给焦虑的员工们传递一种确定感——这些员工正通过在线文档快速提交着一个又一个问题。然而苏茨克韦尔并非合适的传话人；把话说到听众心里，从来不是他的强项。

“是否存在某个具体的导火索？“穆拉蒂率先从问题列表中念出这道问题。

“文档里很多问题都在追问细节，“苏茨克韦尔回应道，“什么事、什么时候、怎么发生的、谁做的——确切的细节。我很希望能逐一说明，但我做不到。“有疑问的人不妨去看新闻稿，他补充道。“里面其实写了很多东西。可以多读几遍。”

这个回答让员工们一头雾水。他们刚刚接到了一个石破天惊的消息。作为这件事最直接的当事方，他们理应得到比普通公众更多的说明，不是吗？

穆拉蒂又念了几个问题。这件事对与微软（Microsoft）的关系有何影响？微软是 OpenAI 最大的支持方和独家技术被授权方，也是其计算基础设施的唯一供应商。一旦失去微软，这家初创公司的一切工作——科研、模型训练、产品发布——都将戛然而止。穆拉蒂表示，她预计合作关系不会受到影响。他们刚刚与微软（Microsoft）首席执行官萨提亚·纳德拉和首席技术官凯文·斯科特通了电话。“他们都对我们的工作全力支持，“她说。

那么 OpenAI 的股票回购要约怎么办？达到一定年资的员工获得了出售股权的机会，金额可能高达数百万美元。要约的窗口期近在眼前，不少人已经拟好了购置房产的计划，有些人甚至已经付了订金。“要约嘛——我们，呃，我们会走一步看一步，“首席运营官 Brad Lightcap 含糊其辞。“我已经联系了主导本次要约的投资方，以及现有股权表上的几位大投资人。他们都表示会坚定支持公司。”

又有几个问题换来了同样语焉不详的回答，另一名员工再次尝试追问 Sam 究竟做了什么。这与他在公司的职责有关吗？还是涉及他的个人生活？苏茨克韦尔再度将大家指向新闻稿。“答案就在那里面，“他说。

穆拉蒂继续从文档中念道：“关于细节的问题，未来某个时候会得到解答，还是永远不会？”

苏茨克韦尔答道：“不要抱太高期望。”

全员大会继续进行，苏茨克维尔的回答听起来越来越脱离现实，员工的不安情绪迅速转变为愤怒。

“一群人共同经历艰难时刻后，往往会变得更加团结、彼此更加亲近，“苏茨克维尔说，“这次磨难会让我们作为团队更加紧密，从而也更有效率。”

“你如何调和’共渡危机、携手成长’的愿景与令人沮丧的透明度缺失之间的矛盾？“一名员工在问答框中写道，“通常，真相是达成和解的必要条件。”

“我是说，你说得有道理，“苏茨克维尔回应道，“现在的局面并不完美。“穆拉蒂试图平息日益高涨的紧张情绪。“我们的使命远比我们任何一个人都重要，“她说。

Lightcap 呼应了她的话：OpenAI 的合作伙伴、客户和投资方都表示，他们对这一使命始终深感共鸣。“如果说有什么不同，我认为我们现在肩负着更重的责任，要全力推进这一使命。”

苏茨克维尔再次试图给大家宽心。“我们拥有一切必要的条件，一切：算力、研究成果、令人叹为观止的技术突破，“他说，“当你感到迷茫、感到恐惧时，请记住这些。在脑海中想象那个集群的规模，想象所有那些 GPU 协同运转的画面。”

一名员工提交了一个新问题。“我们是否担忧现有董事会成员通过强制施压发动恶意接管？“穆拉蒂朗读道。

“恶意接管？“苏茨克维尔重复道，声音里多了几分锐意，“OpenAI 非营利董事会的行动完全符合其既定目标。这不是恶意接管。绝对不是。我不认同这个问题的说法。”

那天晚上，几名员工聚集在一位同事家中，参加一场早在奥特曼被解雇之前就已安排好的派对。宾客中也有来自其他人工智能公司的人，包括谷歌（Google）DeepMind 和 Anthropic 的员工。

活动开始前，一条通知发给了所有与会者：“今晚新增第二个主题房间——‘禁止谈论 OpenAI 的房间’。大家不见不散！“然而到头来，几乎没有人在那间房间里待多久。大多数人都想谈 OpenAI。

当天下午，Brockman 已宣布以抗议方式辞职。微软（Microsoft）的 Nadella 在奥特曼被解雇的消息公告前仅几分钟才获悉，对此深感愤怒，随后发出一条措辞经过精心打磨的推文：“我们与 OpenAI 签有长期协议，可完全获取推进创新议程和令人振奋的产品路线图所需的一切；我们坚定致力于与 OpenAI、Mira 及其团队的持续合作。”

谣言持续发酵，随即又传来消息：另有三名高级研究员相继离职——Jakub Pachocki 和 Szymon Sidor，这两位早期员工是 OpenAI 任职时间最长的人之一；以及 Aleksander Mądry，一位正在休假的麻省理工学院（MIT）教授，加入公司尚不久。他们的离去令部分 OpenAI 员工更加惶恐，预示着领导层与核心人才正在持续流失，足以动摇投资者信心，进而中止股权转让要约，或更糟糕地葬送整家公司。派对上，员工们愈发沮丧、愈发焦躁。要约一旦告吹，他们多年辛劳换来的一大笔财务回报将化为乌有，更遑论公司本身若就此瓦解，将葬送多少前途与心血。

同一夜，董事会与公司剩余管理层也在举行一系列越来越剑拔弩张的会议。全员大会结束后，苏茨克韦尔（Sutskever）与其他高管之间那层虚伪的团结表象已然崩塌。直播中曾坐在苏茨克韦尔身旁的许多高管，几乎与普通员工一样对奥特曼被解雇一事毫无预知，只在公告发出的前一刻才获悉消息。他们对苏茨克韦尔的拙劣表现深感愤慨，要求与董事会其余成员直接会面。包括穆拉提（Murati）和 Lightcap 在内的约十余名高管聚集在公司的一间会议室里。

苏茨克韦尔通过视频远程接入，与他同时在线的还有三位独立董事：Adam D’Angelo，问答网站 Quora 的联合创始人兼首席执行官；Tasha McCauley，企业家，兼任智库兰德公司（RAND）高级管理学家；以及海伦·托纳，澳大利亚籍研究员，任职于另一家智库——乔治城大学战略与新兴技术中心（CSET）。

面对接连不断的追问，四位董事会成员一再以须履行保密法律义务为由，回避进一步披露。几位高管情绪明显失控。负责全球事务的副总裁 Anna Makanju 曾多次陪同奥特曼奔走于各地的魅力外交，此刻怒不可遏地说：“你们说萨姆不可信赖，但这完全不是我们的亲身体验。”

在场高管向董事会施压，要求其全体辞职并将席位移交给三名员工，并以集体辞职相威胁，要求立即照办。首席战略官、曾任 OpenAI 总法律顾问的律师 Jason Kwon 进一步加码：董事会拒绝辞职实为违法——一旦公司因此崩溃，将构成对其受托责任的违背。

董事会成员对此持异议。他们坚持认为，在作出解雇奥特曼的决定之前，已审慎咨询了法律顾问，所有行动均符合各自明确划定的职责范围。OpenAI 并非普通公司，其董事会亦非普通董事会。它拥有一套奥特曼本人亲手设计的独特架构，赋予董事会广泛权力——其服务的对象不是 OpenAI 的股东，而是公司的使命：确保 AGI（通用人工智能）造福全人类。奥特曼长期以来将董事会有权解雇他这一机制，标榜为公司最重要的治理手段。海伦·托纳强调了这一点：“如果此举导致公司瓦解，这实际上也可能符合我们的使命。”

管理层将她的话实时转述给了员工：托纳根本不在乎是否会毁掉这家公司。许多员工由此开始怀疑，这或许正是她的本来意图。想到自己持有的全部股权可能就此化为乌有，派对上有人失声痛哭。

次日，11月18日，周六，数十人聚集在Altman价值2700万美元的豪宅中等候消息，其中包括多名OpenAI员工。

已经离职的三位高级研究员Pachocki、Sidor和Mądry与Altman及Brockman会面，商谈重组公司、延续研究工作的可能性。对部分员工而言，这一消息加剧了他们的忧虑：一家新的OpenAI竞争者可能使公司局势更加动荡。对另一些人而言，这却带来了希望：若Altman真的另起炉灶，他们愿意追随而去。

OpenAI留守的管理层向董事会发出最后通牒，截止时间为当日太平洋时间下午五点：恢复Altman的职务并辞职，否则将面临员工大规模出走。董事会拒绝了这一要求。整个周末，他们焦急地四处联络，有时深夜仍在拨打名单上任何愿意接听的人的电话。面对员工和投资人因Altman被解雇而日益高涨的愤怒，Murati已不再愿意出任临时CEO。董事会需要找一位能够帮助稳定局面的人来接替她，或者物色新的董事成员，以便在Altman真的回归时能与之抗衡。

当晚，截止时间过后，Jason Kwon向员工发出了一份备忘录。「我们仍在努力寻求解决方案，并保持乐观，」他写道，「所谓解决，意味着让Sam、Greg、Jakub、Szymon、Aleksander回来。」

Altman以其标志性的全小写风格发推：「i love the openai team so much.」

数十名员工随即纷纷转发，并附上了爱心表情。

周日，奥特曼和格雷格·布罗克曼回到公司，就复职一事展开谈判。当天，越来越多的员工陆续赶来，在悬念中等候。此时，大多数员工、管理层和董事会成员已连续超过三十六小时几乎没有合眼，一切开始变得模糊。奥特曼在推特上发了一张自拍：嘴唇紧抿，眉头紧锁，手持一张访客证。他附上说明：“这辈子第一次戴这玩意儿，也是最后一次。“管理层再次将下午五点设为最后期限，要求董事会恢复奥特曼的职位并集体辞职。

压力此时从四面八方涌来。微软（Microsoft）、OpenAI的其他投资方，以及硅谷各路重量级人物纷纷公开站在奥特曼一边。有消息人士向媒体透露了行动方案：如果决定不予撤回，员工将集体出走；微软（Microsoft）将切断对其计算基础设施的访问；投资方将提起诉讼。三管齐下，没有奥特曼的OpenAI将难以为继。

然而，董事会仍在抵抗。接近晚上九点，再次大幅超过最新期限之后，苏茨克维尔代表董事会在Slack上发布了一条长消息。奥特曼不会回来；Twitch前首席执行官Emmett Shear将出任OpenAI新的临时负责人。他和Shear将在五分钟后抵达公司，就公司新愿景发表讲话。

“董事会坚定支持自己的决定，认为这是推进并捍卫OpenAI使命的唯一路径，“他写道，“简言之，Sam的行为以及他与董事会互动中缺乏透明度，损害了董事会依照授权有效监督公司的能力。”

Slack上随即涌现出数十条愤怒的员工回复。“就凭你和什么狗屁人马"“你在做梦"“Emmett不过是个空头CEO"大约两百名员工浩浩荡荡走出大楼，抵制这场演讲。穆拉提迅速将高管们护送出门。Shear与苏茨克维尔抵达时，现场只剩十几名听众。

安娜·布罗克曼——格雷格的妻子——走向苏茨克维尔。四年前，正是他为这对夫妇主持了婚礼仪式。她含泪扑上前去，双臂搂住他，恳求他重新考虑自己的立场。

许多离开办公室的员工聚集在几位同事家中共度难关，数百人加入了一个 Signal 群组以获取最新消息。当天深夜，纳德拉宣布将聘用奥特曼和布罗克曼，出任微软（Microsoft）一个全新 AI 部门的负责人。消息迅速传开：凡是愿意追随奥特曼的人，都可以在微软（Microsoft）获得一份有保障的工作。

这一消息将员工的情绪从恐惧转变为反抗。有了可靠的退路，员工们握有了新的筹码，敢于公开向董事会和 Shear 施压。在其中一位员工家中，聚集着远超百名 OpenAI 同事，高管和资深研究员联名起草了一封公开信，以更强硬的措辞重申领导层的警告：若奥特曼不能复职、董事会不全体辞职，他们可以随时集体离职加入微软（Microsoft）。

这封信在各个私信频道广泛流传，不在现场的员工也纷纷接到电话被邀请联署。随着签名人数达到临界规模，越来越多的员工争相加入——不签名可能招来质疑。不到二十四小时，约 770 名员工中已有逾 700 人在信上署名。数十名员工向董事会连续发送了内容完全相同的邮件。他们也纷纷涌上 X，发出同一条信息：“没有人，就没有 OpenAI。”

就在深夜，员工们发现 Sutskever 的名字出现在了这封公开信上。

Sutskever 随即公开表态。周一凌晨，他在帖文中写道：“我深深后悔参与了董事会的这一行动。我从未想过要伤害 OpenAI。我热爱我们共同构建的一切，我将竭尽所能让公司重新团结。”

11月21日，周二，领导层从奥特曼家中拨通了董事会的电话。危机已持续五天，所有人都因睡眠不足和筋疲力竭而渐渐动摇。感恩节将至，双方积累的绝望感终于为彼此打开了一条走向解决的通道。

整个白天，各方开始认真商讨各种可能的人事安排。

奥特曼和Brockman起初坚持重返OpenAI并保留董事会席位，最终放弃了这一要求。董事会眼见没有奥特曼便无法保全公司，也最终接受了他的回归。

当晚深夜，双方就三个独立董事席位达成协议：D’Angelo留任；Toner与McCauley辞职；Salesforce前联席首席执行官、Facebook前首席技术官Bret Taylor，以及前财政部长、哈佛大学前校长拉里·萨默斯，分别填补空缺。协议还规定，新董事会日后将增补更多成员，奥特曼须接受调查。

双方还就另一点达成共识：眼下对公司而言最重要的，是对外展现团结、稳定与和解的姿态。两天后，奥特曼发出一条经过刻意设计的推文：“刚和 @adamdangelo 度过了几个愉快的小时。祝你们一家感恩节快乐 🦃“十天后，Brockman 发了一张照片：他与 Sutskever 相互搭着肩膀，笑容灿烂。在办公室里，公司的驻场艺术家将 OpenAI 的图像生成器 DALL-E 接上彩色打印机，打印出一批万花筒般绚丽的心形小贴纸。打印机旁，一颗巨大的粉色心形装饰上印着这样一句话：“没有人，OpenAI 什么都不是。”

12月，奥特曼接受 Trevor Noah 播客访谈，称这段经历是他人生中第二糟糕的时刻，仅次于父亲的离世。次月一月，股权转让要约完成，OpenAI 估值达860亿美元。

但这一切都是后话。11月21日，周二夜晚，只有庆祝。随着奥特曼回归的消息和新协议的宣布，员工们纷纷涌回办公室，拥抱、哭泣、放声播放音乐。不知何时，有人打开了烟雾机。它触发了火灾警报。派对照旧继续。

Brockman 和人群拍下一张集体自拍，照片里洋溢着历经危机、死里逃生后那种欣喜若狂、飘飘然的迷醉感。他配上一句话发了推文：“我们回来了。”

奥特曼被免职的消息传来时，我正在为本书进行一次采访。我把手机调成了静音，浑然不知一场混乱的风暴即将到来。二十分钟后，我点亮屏幕查看时间，看到大量未接消息通知。就这样，我开始了迷迷糊糊、肾上腺素狂飙的几天，拼命想搞清楚究竟发生了什么。

在此后的几周里，朋友、家人和媒体问了我数十次：这一切究竟意味着什么？这番来回不过是茶余饭后的消遣，还是会对我们其余人产生深远影响？那时，我已经追踪报道OpenAI五年。2019年，我是第一位获得深度采访机会的记者，并为它写出了第一篇人物特写。在我看来，这些事件绝非无关痛痒的硅谷权力游戏。这场风波触及了我们这一代最紧迫的问题之一：我们该如何治理人工智能？

人工智能是这个时代最具影响力的技术之一。短短十多年间，它重塑了互联网的底层结构，成为数字生活无处不在的中介。而今，它又在更短的时间内走上了重构社会众多关键领域的轨道——从医疗到教育，从法律到金融，从新闻到政府。人工智能的未来——这一技术最终呈现的形态——与我们的未来紧密相连。那么，如何治理人工智能这个问题，归根结底是一个关于如何让未来变得更好而非更糟的问题。

从一开始，OpenAI就把自己标榜为回答这一问题的大胆实验。它由包括埃隆·马斯克和山姆·奥特曼在内的一群人创立，背后还有彼得·蒂尔等亿万富翁出资人，志向不止于一家研究机构或公司。创始人们声称，他们要做出彻底的承诺：开发所谓的通用人工智能（AGI）——他们描述为迄今最强大的人工智能形式——目的不是为了股东的经济利益，而是为了全人类的福祉。为此，马斯克和奥特曼将其设立为非营利组织，承诺提供十亿美元作为运营资金。它不会开发商业产品，而将完全致力于研究，秉持着引领一种能开启全球乌托邦的通用人工智能的最纯粹初衷。马斯克和奥特曼还承诺，在此过程中尽可能广泛地分享研究成果，并与其他机构深入合作。若目标是为世界谋福，开放性——「OpenAI」之名由此而来——以及对技术发展的民主参与便是关键。几年后，领导层更进一步，作出了必要时自我牺牲的承诺。「我们担忧后期阶段的通用人工智能开发将演变成一场没有充分安全预防措施的竞速，」他们写道。如果另一项创造有益通用人工智能的尝试超越了OpenAI的进展，「我们承诺停止与该项目竞争，转而协助它。」

然而，当我开始为OpenAI撰写特写时，它对这些理想的坚守已迅速瓦解。仅仅一年半后，OpenAI的高管们意识到，他们所构想的人工智能发展路径将需要极为庞大的资金。此前以联席主席身份保持相对超然的马斯克和奥特曼，各自都试图将自己推上首席执行官的位置。

奥特曼胜出。马斯克于2018年初离开了组织，并带走了自己的资金。事后看来，这次决裂是OpenAI并非一个利他主义项目、而是一个由自我驱动的项目的第一个重要信号。

失去主要出资人令OpenAI陷入财务困境。为填补这一缺口，奥特曼对OpenAI的法律结构进行了重组。他在非营利组织的框架内嵌套创立了一家营利性子公司OpenAI LP，用于募集资本、商业化产品，并像其他公司一样向投资者提供回报。四个月后，2019年7月，OpenAI宣布了一位新的十亿美元出资方：软件巨头兼云服务提供商微软（Microsoft）。

就在此后不久的2019年8月，我第一次走进了OpenAI的办公室。在与员工共处三天、进行数十次采访之后，我清楚地看到，这场理想主义治理实验正在瓦解。在掌控如此核心技术的权力诱惑下，OpenAI已变得竞争激烈、讳莫如深、自我封闭，甚至对外部世界充满戒惧。透明度与民主、自我牺牲与合作的理念已荡然无存。OpenAI高管只剩一个执念：率先实现通用人工智能，并按自己的构想来塑造它。

此后四年，OpenAI变成了它当初宣称绝不会成为的样子。它名义上仍是非营利组织，却积极推进ChatGPT等产品的商业化，追求前所未有的高估值。它变得更加隐秘，不仅切断了对自身研究的访问，还在整个行业确立新规范，将大量人工智能开发活动挡在公众视野之外。它引发了自己曾警告过的逐底竞争，在未能修复有害缺陷、未能应对技术可能放大并利用社会深层裂痕的危险之前，就大幅加速了技术的商业化与部署。在此过程中，领导层与员工之间的冲突日趋激烈，公司内部不同群体争相夺取控制权，各自试图按己方愿景重塑OpenAI。

2023年11月奥特曼的被驱逐与复职，是这场治理实验彻底失败的最终明证。不仅仅因为OpenAI的非营利董事会在金钱利益面前屈服，瓦解了组织利他主义外表最后的残余；更因为它以最清晰的方式揭示：硅谷极少数权贵之间的权力角力，正在多大程度上左右人工智能的未来。即便事情朝另一个方向发展、董事会成功换掉了奥特曼，也改变不了一个事实：如此举足轻重的决定是在密室之中作出的。在那一小群超级富豪的技术乐观派、他们最激烈的意识形态对手，以及一家数百亿美元的科技巨头之外，就连OpenAI自己的员工也大多蒙在鼓里，不知道自己的命运将落向何方。

早在 OpenAI 和 ChatGPT 成为人工智能代名词之前，我便已开始报道这项技术。我亲历了它在科学与创新的混沌历程中演进——研究人员试验新想法，在座无虚席的会议上展示最佳成果，再将其运用到全球最大公司的商业产品上，包括谷歌（Google）、Facebook、阿里巴巴和百度。我阅读了数百篇研究论文，采访科学家、工程师和高管，深入理解他们的世界观与决策——以及这些如何在技术的设计与应用上留下印记。[*] 随着人工智能的版图向全球蔓延，我追踪它以微妙或戏剧性的方式改变人们生活与社区的种种。我走访五大洲，倾听人们讲述各自的亲历。在哥伦比亚和肯尼亚，我遇到了一些人：经济危机袭来，他们转而为人工智能行业标注数据，却发现自己陷入了宛如契约奴役的工作处境。在亚利桑那州和智利，我与当地政界人士和活动人士会面，他们忧虑着如幽影都市般不断扩张的数据中心群落，正在吞噬家园珍贵的水资源。

通过这些报道，我认识到了两件事。其一，人工智能是一种以多种形式存在的技术——它实际上是一系列形态多变、持续演进的技术集合，塑造其演进的不仅是技术本身的优劣，还有创造者的意识形态冲动，以及炒作与商业化的风向。ChatGPT 和其他所谓的大语言模型或生成式人工智能应用如今已占据聚光灯中心，但它们不过是人工智能的一种表现形式，而且是一种体现了对世界现状及其应然样貌极为特定、极为狭隘的看法的形式。这种人工智能形态走到前台乃至其存在本身，都并非历史的必然；它是数以千计的主观选择汇聚的结果，由那些有权进入决策室的人做出。同样，未来几代人工智能技术亦非命中注定。但治理问题依然如故：谁将有权塑造它们？

其二，我认识到：人工智能当前这种表现形式及其发展轨迹，正朝着令人警惕的方向驶去。表面上，生成式人工智能令人振奋：它是即时构思创意、生成文字的创意辅助工具；是陪你深夜倾谈以驱散孤独的伴侣；是一种或许有朝一日能有效提升生产率、进而带动宏观经济增长的工具。但就像我们曾经以为 Facebook 不过是发度假照片、联系久未谋面的小学同学，或引发积极而变革性社会运动的地方，这光鲜迷人的外表之下，远比眼睛所见的更为复杂。在引擎盖下，生成式人工智能模型是真正的庞然怪物，它们消耗着此前难以想象的海量数据、劳动力、算力与自然资源。GPT-4 是首款 ChatGPT 的继任者，据某项衡量标准，其规模据报已比五年前问世的第一代 GPT-1 大出逾一万五千倍。不断膨胀的人力与物质代价正转嫁到社会的广大阶层，尤其是最脆弱的群体——我在世界各地遇到的那些人，无论是全球北方的工人与农村居民，还是全球南方的贫困社区，皆承受着愈发严峻的生存困境。他们几乎从未见到这场所谓技术革命带来的任何「涓滴」效益；生成式人工智能的利益，大多向上积聚。

多年来，我只找到一个比喻，能够概括这些人工智能权力玩家的本质：帝国。在欧洲殖民主义漫长的时代，帝国攫取并榨取本不属于自己的资源，剥削被征服人民的劳动力，驱使他们开矿、耕种、精炼这些资源以供帝国敛财。它们投射出带有种族主义色彩、将他者非人化的优越感与现代性叙事，为入侵主权、盗窃与奴役提供正当性，甚至诱使被征服者接受这一切。它们以需要与其他帝国竞争为由为权力欲辩护：军备竞赛之中，一切禁区皆已失效。这一切最终都服务于巩固各帝国的权力，推动其扩张与所谓的「进步」。简言之，帝国通过强加一种殖民世界秩序，跨越时空积聚了非凡财富，代价由所有其他人承担。

AI 帝国并未从事这段历史所铭刻的那种公开暴力与野蛮行径。但它们同样攫取并榨取珍贵资源，以喂养自身对人工智能的愿景：艺术家和作家的创作成果；无数个人在网上发布的关于自身经历与见闻的数据；建设和运营庞大数据中心与超级计算机所需的土地、能源和水资源。新帝国同样剥削全球各地人民的劳动力，让他们清洗、整理、准备这些数据，再将其加工成利润丰厚的人工智能技术。它们投射出关于现代性的诱人叙事，在「必须击败其他帝国」的问题上摆出咄咄逼人的姿态，为侵犯隐私、盗窃，以及对大量有意义的经济机会进行灾难性自动化提供掩护与燃料。

OpenAI 如今正引领我们加速迈向这个现代殖民世界秩序。在追逐一种模糊进步愿景的过程中，它激进地推动规模极限，为人工智能发展新时代设定了规则。现在，每一家科技巨头都在竞相扩张规模，支出数字大得连它们自己都措手不及，纷纷重新分配和整合资源。就在微软（Microsoft）向 OpenAI 投资 100 亿美元前后，它裁员一万人以削减成本。谷歌（Google）眼见 OpenAI 将其远远甩在身后，便将旗下人工智能实验室整合为 Google DeepMind。百度竞相打造其 ChatGPT 对标产品时，原本致力于推进人工智能药物研发的员工不得不暂停研究，将芯片腾出来转而开发聊天机器人。当前的人工智能范式还在扼杀人工智能发展的替代路径。与科技行业没有关联或未获其资助的独立研究人员数量急剧减少，削弱了这一领域中不依附于短期商业利益的思想多样性。企业自身——那些曾投资于广泛探索性研究的企业——如今也在生成式人工智能开发账单的重压下难以为继。新一代科学家为了增强就业竞争力，正纷纷向新的现状看齐。曾经史无前例的，如今已成常态。

今天，这些帝国从未如此富有。2025年1月，就在我完成本书写作之际，OpenAI的估值已突破1570亿美元。竞争对手Anthropic正接近一笔交易，届时其估值将达600亿美元。与OpenAI达成合作后，微软（Microsoft）的市值增至逾3万亿美元，翻了三倍。ChatGPT问世以来，六大科技巨头的市值合计增加了8万亿美元。与此同时，外界对生成式AI真实经济价值的质疑与日俱增。2024年6月，高盛的一份报告指出，未来数年内这项技术的开发支出预计将达1万亿美元，却迄今"几乎没有任何成效可言”。次月，Upwork研究院对全球2500名员工开展的调查显示：96%的高管预期生成式AI能提升生产率，而实际使用这些工具的员工中，77%反映它们反而加重了工作负担——部分原因在于审核AI生成内容耗费大量时间，部分原因在于上级不断要求完成更多工作。2024年11月，彭博社一篇盘点生成式AI财务影响的文章中，撰稿人Parmy Olson和Carolyn Silverman一语道破——这些数据"引发了一个令人不安的前景：这项所谓的革命性技术或许永远无法兑现带来广泛经济转型的承诺，而只会让财富进一步向顶层集中。”

与此同时，世界其他地方正在这个新时代爆炸式增长的人力与物质代价重压下渐渐崩溃。肯尼亚的工人以糊口的薪酬，过滤OpenAI技术（包括ChatGPT）中的暴力内容和仇恨言论。艺术家们正被那些未经他们同意、也未给予任何补偿便取用了他们作品的AI模型所取代。生成式AI技术催生出大量虚假信息，新闻业正在萎缩。一个古老的故事正在我们眼前重演——而这仅仅是个开端。

OpenAI并没有放慢脚步。它正以无可比拟的资源继续追逐更大的规模，整个行业也都在跟随。为平息外界对生成式AI当下表现的日益担忧，Altman对AGI未来效益的鼓吹越来越响亮。2024年9月，他在一篇博客文章中宣称，以"大繁荣"为特征的"智能时代"即将到来，超级智能或许在"数千天内"便会降临。“我相信未来将无比光明，现在任何试图书写它的人都无从道尽，“他写道，“虽然这一切会循序渐进，但那些令人惊叹的成就——修复气候、建立太空殖民地、发现所有物理定律——终将成为家常便饭。“此刻，AGI在很大程度上不过是一种话语工具——一个奇幻的万能借口，供OpenAI持续扩张财富与权力。极少有其他人能拿出相当的资本投入替代选项。OpenAI及其寥寥数家竞争对手将对他们作为未来之钥向我们兜售的这项技术形成寡头垄断；任何人——无论是公司还是政府——只要想分享这一愿景，都将不得不依赖这些帝国来提供。

这条路并非唯一出路。人工智能不必是今天这个样子。我们不需要接受前所未有的规模扩张与资源消耗这一逻辑，也能实现发展与进步。我们社会真正需要的许多东西——更好的医疗和教育、清洁的空气与水、更快速地摆脱对化石燃料的依赖——都可以借助规模小得多的AI模型以及多元化的其他方法来推进，有时甚至必须如此。光靠AI也还不够：我们还需要更多的社会凝聚力和全球合作，而这些恰恰是现有AI发展愿景所正在侵蚀的东西。

但AI帝国不会轻易放弃它们的权力。我们其余的人需要夺回对这项技术未来走向的掌控。而我们正处于那仍然可能的关键时刻。正如旧日的帝国终究倒于更具包容性的治理形式之下，我们同样可以共同塑造AI的未来。政策制定者可以落实强有力的数据隐私和透明度规则，并更新知识产权保护，把人们对自身数据和作品的主导权还给他们。人权组织可以推进国际劳工准则和法律，为数据标注者保障最低工资标准和人道的工作环境，同时捍卫劳动权益，确保各行各业都能获得有尊严的经济机会。资助机构可以推动AI研究重焕多元活力，探索这项技术的全新形态。最后，我们所有人都可以抵制OpenAI和AI产业编织的那些叙事——正是这些叙事，将这项技术日益累积的社会与环境代价，藏匿在一个虚无缥缈的进步幻景之后。

SKIP NOTES

* 关于AI研究论文惯例与同行评审的说明：在AI领域，研究人员通常将论文直接发布到一个名为arXiv（发音同"archive”）的免费开放存储库，之后或许会在数月乃至数年后经过会议或期刊的同行评审流程，或根本不寻求同行评审。这种做法已经如此普遍，以至于该领域许多人以论文影响力而非是否通过同行评审来引用文献。本书亦遵循同样的做法。尾注中会注明哪些论文尚未经过同行评审，仍属预印本。

第一部

1 君权神授

其他人都已到齐，唯独埃隆·马斯克像往常一样迟到了。

那是2015年夏天，一群人应山姆·奥特曼之邀，聚在一起共进私人晚宴，话题是人工智能与人类的未来。

马斯克与比自己小十四岁的奥特曼相识已有一段时日，印象颇佳。奥特曼时任硅谷知名创业加速器 Y Combinator（YC）总裁，声名早已在外。他十九岁创办第一家公司，在硅谷这片素以宏大愿景著称的土地上，迅速确立了自己作为出色战略家和交易撮合者的地位，野心之大令人侧目。在马斯克眼中，奥特曼聪明、有冲劲，最重要的是，两人在审慎开发与治理人工智能这一问题上志同道合。马斯克多年后在一场诉讼中这样描述：奥特曼就像一面镜子，把马斯克在这个话题上说过的每一句话都原样映照回来，以此赢得他的信任。

奥特曼则常说，马斯克曾是他儿时的英雄。马斯克带他参观了加利福尼亚州霍桑那座规模宏大的 SpaceX 工厂，那次经历让他的崇敬之情愈发深厚。「记忆里最难忘的，是他谈起把大型火箭送上火星时脸上那股笃定的神情，」奥特曼后来写道，「我离开时心想：『原来这就是信念该有的样子。』」

马斯克对人工智能的深切忧虑由来已久。2012年，他结识了总部位于伦敦的人工智能实验室 DeepMind Technologies 的 CEO 德米斯·哈萨比斯——此人举止颇具学者风范。不久之后，哈萨比斯也前往马斯克的 SpaceX 工厂拜访。两人坐在食堂里，周围是巨大火箭零件搬运与组装的轰鸣声。哈萨比斯提出，更先进的人工智能——那种有朝一日可能超越人类智能的存在——或许会对人类构成威胁。更糟糕的是，马斯克寄望于殖民火星以求自保的方案，在这个情景下根本行不通。哈萨比斯带着几分戏谑说道，超级智能只会跟着人类一路追进星系深处。马斯克显然笑不出来，随即向 DeepMind 投资了500万美元，以便持续关注这家公司的动向。

后来，在2013年那场于纳帕谷郁郁葱葱的葡萄园间举办的生日派对上，马斯克与老友、谷歌（Google）联合创始人拉里·佩奇展开了一场激烈而情绪化的辩论，争论焦点是：人工智能超越人类智能究竟算不算一个问题。佩奇认为不算，称之为进化的下一个阶段。马斯克不以为然，佩奇便指责他是「物种主义者」，歧视非人类物种。

此后，马斯克开始不厌其烦地谈论人工智能的存在性风险。在麻省理工学院的一场研讨会上，他将人工智能描述为人类面临的「最大的存在性威胁」，称其发展无异于「召唤恶魔」。他奔赴纽约与出版商会面，满脑子都是要写一本关于灭绝级威胁的书，人工智能赫然在列。后来，在斯坦福一场定期举办的 AI 沙龙活动上，一位名叫蒂姆尼特·格布鲁的年轻研究员在演讲结束后走上前来，问他：气候变化带来的存在性威胁更为显而易见，他为何对人工智能如此执念？「气候变化固然糟糕，但不至于杀死所有人，」他说，「人工智能却可能让人类灭绝。」

2013年末，马斯克得知谷歌（Google）将收购 DeepMind，断定这场联姻必将酿成大祸。他公开警告：若谷歌（Google）赋予假想中的通用人工智能（AGI）以利润最大化为目标，该系统可能不择手段地消灭竞争对手。「把消灭所有竞争对手的人工智能研究人员作为第一步，在我看来不免有点性格缺陷，」马斯克对《纽约客》说道。在洛杉矶一场家庭派对上，他躲进楼上的壁橱，通过 Skype 与哈萨比斯通了一个多小时的话，力劝他重新考虑这笔交易。「人工智能的未来，」马斯克说，「不应由拉里掌控。」然而马斯克并不知道，谷歌（Google）早已派遣一支人工智能研究团队乘私人飞机赶赴 DeepMind 办公室，对这笔收购进行尽职调查。作为评估的一部分，谷歌（Google）资历最深的元老之一杰夫·迪恩亲自审阅了该公司的部分代码库，并对这笔交易表示认可。2014年1月，谷歌（Google）确认完成收购，据报道成交价格在4亿至6.5亿美元之间。

马斯克开始自行举办晚宴，商讨制衡谷歌（Google）的对策。2015年初，他还与美国总统巴拉克·奥巴马会面，阐述人工智能的危险性、如何使其更安全，以及如何对其加以监管。大约同一时期，马斯克在 SpaceX 再度见到了哈萨比斯，这一次是出席谷歌 DeepMind 人工智能伦理委员会的首次会议——这是佩奇和哈萨比斯提议设立的治理架构，旨在监督 DeepMind 技术的负责任发展。这次会议让马斯克确信，这个委员会不过是个幌子，他的忧虑随之演变为一种近乎执念的冲动，驱使他竭力对抗哈萨比斯的愿景。

此后多年，马斯克不断将哈萨比斯定性为一个必须被阻止的超级反派，并明确表示 OpenAI 是善、DeepMind 是恶。2016年夏，OpenAI 成立不久，几名员工与哈萨比斯见面后回来汇报：DeepMind 确实意图统治世界；马斯克的定性似乎所言不虚。翌年，马斯克在自己的 SpaceX 工厂为 OpenAI 员工举办了一次异地集会，随即对哈萨比斯展开了一番猛烈抨击。创立 DeepMind 之前，哈萨比斯曾花七年时间经营自己创办的一家电子游戏工作室。「他就做了一款游戏，游戏里的邪恶天才要造人工智能来统治世界，」马斯克大喊道——他指的是哈萨比斯2004年出品的游戏《Evil Genius》——「他妈的没人看出来。他妈的没人看出来！还有拉里？拉里以为自己能掌控德米斯，却忙着他妈的玩帆板，根本没意识到德米斯正在把所有权力揽入手中。」

马斯克对哈萨比斯的偏执妄想，日后成了 DeepMind 员工的笑谈。哈萨比斯固然野心勃勃、有时咄咄逼人，但他同样待人和善、处事沉稳。「OpenAI 的诞生，感觉像是对一个相当温和之人的半歇斯底里式反应，」一位前 DeepMind 研究员回忆道，「这多少有些荒诞。」

马斯克推荐书单中有一本《超级智能：路径、危险与策略》，牛津哲学家尼克·博斯特罗姆在书中论证：一旦 AI 的智能超越人类，将难以受到控制，并可能引发生存层面的灾难。假设给这样一个超级智能设定一个简单目标——生产回形针——它可能会得出结论：人类对其生产目标构成威胁，因为人类占用了生产回形针所需的资源。为此，博斯特罗姆提出了一个解决方案：通过将 AI 与人类价值观"对齐"，有可能规避超级智能的控制问题——赋予 AI 在明确指令之外进行推断的能力，使其能够在不伤害人类的前提下实现目标。这一思路构成了 AI 对齐研究领域的基础，而 OpenAI 此后将成为这一领域的旗手。马斯克在其覆盖面极广的 Twitter 账号上称这本书"值得一读"。

2023 年 1 月，一封博斯特罗姆于上世纪九十年代中期写给某电子邮件列表的旧邮件重新浮出水面，令人们开始质疑他本人的人文价值观。“我一向喜欢那种毫不妥协的客观思维与表达方式，“他在邮件中写道，“就拿下面这个句子为例：黑人比白人愚蠢。我喜欢这个句子，并认为它是真的。“博斯特罗姆随后公开道歉，称这封邮件"令人作呕”，并不能准确代表他的观点。

在马斯克眼中，Altman 像是一个同路人——同样对灾难有着未雨绸缪的心理。2016 年，Altman 在接受资深加州社会观察者 Tad Friend 为《纽约客》撰写的人物报道时表示，一旦出现末日情景，他计划与密友兼导师、亿万富翁投资人彼得·蒂尔一同出逃新西兰。蒂尔在同一篇文章中这样描述 Altman：“在文化气质上非常像犹太人——既乐观，又有生存主义倾向，骨子里总觉得事情随时可能急转直下。“两年后，Altman 对彭博社表示那不过是玩笑，但他始终备着一个应急包。他尤为担忧新型生物病毒，包里装有防毒面具、抗生素、饮用水、电池、帐篷和一把枪。但早在 2015 年 2 月，他就在博客上表态，同意马斯克的判断：超级智能"大概是对人类持续存在最大的威胁”。他承认，一场毁灭性的人工合成病毒爆发更有可能发生，但"不太可能消灭宇宙中的每一个人类”。“顺便一提，“他在括注中写道，“尼克·博斯特罗姆的力作《超级智能》是我在这一话题上所见过最好的著作，非常值得一读。”

几个月后，2015 年 5 月，Altman 给马斯克发了一封邮件。“我一直在思考，人类是否有可能阻止 AI 的发展，“Altman 写道，“我认为答案几乎肯定是否定的。既然它无论如何都会发生，那么由谷歌（Google）以外的人率先来做，似乎是件好事。“他提议由 Y Combinator（YC）发起一个"AI 版曼哈顿计划”，架构设计为"通过某种非营利形式，让这项技术归属于全世界”。“当然，我们将遵守并积极支持一切监管措施，“他补充道，回应马斯克近期推动政府监管的努力。

“值得谈谈，“马斯克回复。6 月，Altman 再次发邮件，提供了更多细节。“这项使命将是创造出第一个通用 AI，并将其用于赋能个人——也就是那种去中心化版本的未来，看起来是最安全的。更宏观地说，安全应当是第一优先级的要求。“他随后提出了一套治理架构，将由他和马斯克主导：两人共同出任董事，再邀请另外三人加入。“这项技术将归基金会所有，并被用于’造福世界’；在应用方式不明朗的情况下，由我们五人共同决定，“Altman 说。

Altman 接着表示，如果马斯克也能承诺每月与团队见面一次，将有助于"吸引最优秀的人才加入”。如果马斯克没有时间，他的公开背书"对招募而言大概也会非常有帮助”。

“全部同意，“马斯克回复。Altman 随即邀请马斯克出席一场关于 AI 与人类未来的私人晚宴，与一批他希望拉入项目的顶尖工程师和 AI 研究人员会面。确认马斯克出席后，晚宴地点随之升格，改在这位 SpaceX 创始人常去的一处高档场所：占地十六英亩、每晚住宿费高达一千美元的 Rosewood 酒店。酒店依偎在风景如画、绿树成荫的沙丘路沿线，周围聚集着数十家风险投资公司，静静穿越硅谷腹地。他们聚集的包间通向一处阳台，俯瞰一座美丽的泳池，池边种满意大利柏树和花园玫瑰。当马斯克迟到一个多小时姗姗而来时，其余人正翘首以待——其中有：Altman、格雷格·布罗克曼、达里奥·阿莫代伊，以及伊利亚·苏茨克维尔。

这群人很快便成为这家非营利机构的核心领导层。为彰显共同使命的精神，马斯克将其命名为 OpenAI。此后，这些人中几乎所有人都因与 Altman 及其 AI 愿景产生冲突而相继离开了这个组织。

当 Altman 与马斯克彻底决裂，并取代马斯克成为硅谷新一代风云人物之后，Altman 开始修改他在公开场合对自己所构建之物的危险性所持的立场。“我现在非常坚定地站在’AI 只是工具’那一派，“他 2023 年接受 Business Insider 采访时说，“不过我确实认为，未来的人类和人类社会将与今天大相径庭，我们有机会审慎地思考如何设计那个未来。”

马斯克后来感觉，Altman 不过是借助他一步步登上了声誉的高峰。

这与一个伴随 Altman 一生的评价遥相呼应。“把他空投到一座食人族遍布的孤岛，五年后再回去，他已经是那里的国王了，“他的导师保罗·格雷厄姆曾有过这样一句著名的评价。多年后，格雷厄姆再次强调了这一点：“山姆极其擅长获取权力。”

山姆·奥特曼（Samuel Harris Gibstine Altman）于1985年4月22日出生在伊利诺伊州芝加哥，是一对犹太父母所生的长子。

他的母亲康妮·吉布斯廷是一名医生。她的父亲Marvin Gibstine也是医生，是一位儿科大夫，第二次世界大战结束后，他以美国陆军军医的身份携新婚妻子赴德国服役。康妮同时获得了医学和法学学位，突破了同代女性所面临的性别藩篱。她选择皮肤科作为执业方向，这一行收入稳定、时间灵活，让她得以按时回家做晚饭，陪伴在孩子们身边。

康妮在芝加哥洛约拉大学就读法学院期间，结识了Jerold Altman——一位比她年长三岁的英俊同学。Jerry是一位制鞋商兼实业家的儿子，曾就读于宾夕法尼亚大学沃顿商学院，毕业后在波士顿从事咨询工作，二十多岁时有过一段婚姻。前妻婚后保留了娘家姓。康妮与Jerry成婚时，她也同样保留了自己的姓。此后几年，两人离开芝加哥，搬回各自的故乡圣路易斯。

Jerry转行做起房地产和物业管理，曾一度出任圣路易斯开发商Roberts Companies的首席法律顾问兼副总裁。Jerry是个善于交际的人，对经济适用房事业怀有一腔热情，参与了多个旨在凝聚社区、振兴圣路易斯的商业与住宅项目。Sam日后常常重复父亲给他的一条最重要的教诲：“你要随时帮助别人——哪怕觉得自己没时间，也要想方设法做到。”

康妮和Jerry接连生了三个男孩：Sam之后是Max，再后来是Jack。又过了五年——Sam出生整整九年后——康妮生下了Annie，终于有了一个女儿，喜不自胜。康妮自称无神论者，但有着深厚的犹太文化认同；Jerry则更为虔诚，每逢逾越节等犹太重要节日都会去礼拜，并坚持让四个孩子都举行犹太成年礼。康妮的理性与自律，Jerry的信仰情怀与服务精神，各自以不同的方式在子女身上留下了印记。

山姆从小就充满上进心，好奇心极强。两岁时，他学会了操作家里的录像机；三岁时，他已经能自己修好它。五年后，父母送给他一台苹果电脑，他很快学会了编程，还把电脑拆开来研究。他顺理成章地扮演起长子的角色，有时指挥弟弟妹妹，有时又充当他们的照顾者。他极具竞争心，下棋玩游戏从来不肯认输。

山姆输不起，但赢了也同样痛快淋漓。外婆给每个孙辈各买了一些股票，他选了苹果，杰克选了Applebee’s。这成了家里的一个笑谈。二十多年过去，杰克的股票几乎纹丝未动，山姆的却涨了个天翻地覆。“你那支苹果涨了多少——我都不敢去想，“杰克后来讲起这个故事时说，“翻了好几百倍。”

“是啊，涨了不少，“山姆得意地说。随着山姆渐渐长大，Connie给了他一个她也会给其他子女的选择：要不要转学到当地的私立学校 John Burroughs——那是一所以严格学风和众多知名校友著称的学校。山姆选择转学，Max转了但没有坚持下来，杰克拒绝了，Annie则跟随大哥一起转了过去。在 John Burroughs，山姆如鱼得水。凭借外向的个性和滑稽的幽默感，他在学业和社交上都游刃有余。他的兴趣不仅限于理工科，还延伸至写作和各类课外活动。他是年刊的主编，水球队的队长，还参加了模拟联合国——这是一项汇聚世界各地学生、模拟联合国运作并辩论公共政策的项目。“我记得当时心里想——这话说出来有点不好意思——‘希望他别走技术这条路，他实在太有创造力，文字又那么好，’“他的英文老师 Andy Abbott 回忆道，Abbott 后来成了 John Burroughs 的校长，“我当时希望他能去当作家什么的。”

即便在那时，奥特曼也极具个人魅力，天生就是领袖气质。他喜欢挑战这所较为保守的学校在政治上的容忍边界——有一次，他带着水球队在年度啦啦队集会上表演脱衣秀，一路脱到只剩泳裤，为此惹上了麻烦。也是在那几年，他向父母和同学出柜，公开了自己的同性恋身份。母亲起初感到意外，但接受了他，家里其他人也是如此。学校里一群基督徒同学则不然。在"全国出柜日"那天，他们抵制了一场由他主持的关于性取向的集会。十七岁的奥特曼决定正面回应，在全校师生面前发表了一篇演讲——他的升学顾问认为，正是这篇演讲打开了学校的文化氛围。“要么你愿意包容一个开放的社群，要么你不愿意，你没有资格自己随意挑拣，“他后来回忆起自己的结语时说。

自信的外表背后，山姆其实也很敏感。他在意别人对他的看法，常常与焦虑为伴——这个特质延续到了他的成年生活。随着他在硅谷声名鹊起，他有时会因为头疼而给妈妈打电话，已经说服自己真的得了脑膜炎或淋巴瘤。谈一笔交易时，他曾焦虑到不得不躺倒在地，裸着上身，双臂大字展开，才能让自己平静下来。

正是他身上这两个面向——野心与敏感——最终塑造了他职业生涯的形状。2016年，《纽约客》的 Tad Friend 与奥特曼深谈多次为其写了一篇人物特写，注意到了这种二元性：在任何具体问题上，奥特曼看起来既被一种不断向前冲的欲望所驱动，同时又对那股要求谨慎的反向力量高度敏感。尽快实现 AGI；同时：不要毁掉人类。

2003年，奥特曼从Burroughs毕业，告别中西部，前往斯坦福大学，吸引他的正是学校与科技产业之间的近水楼台。然而，他并没有立刻把目标锁定在科技行业。正如老师Andy Abbott所期许的那样，他确实认真考虑过成为一名作家，也曾短暂地萌生过去做投资银行家的念头。最终，他还是听从了内心对编程与计算机的痴迷。“我意识到，这个世界并不需要第七百万部小说，也不会为它赋予多少价值，“他后来说，“那不是我能做出最大贡献的地方，况且在这种情况下，要赚到很多钱——甚至只是够花的钱——通常也更难。”

奥特曼主修计算机科学，对人工智能和安全领域格外感兴趣。他在每一项作业上都深挖细究，一位同学回忆道，他曾把一份本该直接拿来用的软件一路拆到底层代码，还在题目本身里找到了一个漏洞。大二时，他开始关注移动技术。得知手机很快将全面搭载GPS之后，他参加了一场校园创业活动，手持一部翻盖手机走上台，公开招募愿意与他一道构建位置追踪应用的伙伴。

大约就在那段时间，他认识了保罗·格雷厄姆——一位创业者兼颇具影响力的科技博主，正与女友Jessica Livingston一同创办一家名为Y Combinator（YC）的初创孵化器。2005年，奥特曼以新公司Loopt创始人的身份加入了YC第一批项目，在孵化器的起步地马萨诸塞州剑桥市度过了那个夏天。Loopt是一款基于位置追踪的社交网络，可在用户与朋友距离接近时发送通知，也可推荐附近的餐厅。那个夏天他拼命工作，靠方便面果腹，最终竟吃出了坏血病。

他并不后悔。“在职业生涯的起步阶段拼命工作，“他后来对年轻创始人们说，“它的回报就像复利一样。“奥特曼再也没有回到斯坦福。2005年底，他和联合创始人们已在与风险投资机构新企业协会（NEA）和红杉资本洽谈，寻求500万美元融资。奥特曼决定赌一把，从大学退了学。

Loopt 并未成就一番伟业。经过七年的经营，Altman 于 2012 年以 4340 万美元出售了它，约与投资人最初注入的资金持平。但若你在当时听过他的采访，或听过他的支持者的评价，你会觉得这家初创公司正站在一场伟大变革的门槛上。

从那些早年采访中，更容易看出 Altman 成功的种子——那时他向你兜售的，是远不如人工智能迷人的东西：不过是 Foursquare 的一个早期竞争对手，而且最终未能成气候。

他的媒体嗅觉和谈判手腕，是他崛起的两大支柱，皆根植于他讲好故事的非凡能力。在这一点上，Altman 天赋异禀。即便你明知他的公司最终会走向失败，看他的采访时，你仍会不由自主地被他的话语所牵引。他用一种漫不经心的从容，讲述自家公司无可替代的独特定位。他的初创公司是技术宏大而势不可挡的前进轨迹的一部分。消费者和广告主都在争相使用他的服务。别跟他对赌——他的成功是必然的。

“反响非常热烈，“他在 2010 年 6 月对科技博主 Robert Scoble 说，谈及公司推出的新应用 Loopt Star——这款应用让广告主能够根据用户位置推送优惠信息，例如餐厅优惠券或零售商的团购折扣。“我们已经越过了那个临界点——现在，分享位置所感知到的价值，已经超过了这样做所带来的隐私顾虑，“他补充道，“再过几年，分享位置将成为常态，不分享反而会显得奇怪。”

几个月后，他对 CNN Business 说：“这种区分毫无意义。“他说的是线上生活与现实生活之间的界限——随着移动设备上位置追踪技术的普及，两者正相互融合。“整个世界都在走向移动化，整个世界都在走向无论你身在何处都能随时访问自己数据和服务的时代，“他说。

对 Altman 而言，就连谈论隐患也是强化推介的机会。《The Information》创始人 Jessica Lessin 彼时还是《华尔街日报》的记者，2008 年她告诉 Altman 自己准备写一篇关于位置追踪隐私问题的报道，他主动表示愿意协助。他给她发去了一份长长的清单，列出了 Loopt 已识别的风险及其应对方案。言下之意是：世界将会如此运转，你不如及早做好准备。“他不只是想创办一家初创公司，“Lessin 写道，“他想要制定规则。”

在 Loopt，Altman 建立起了人脉网络，也磨砺出了后来成为他最大资本的种种能力。在湾区初创浪潮最汹涌的那些年——从 2000 年代中期到 2010 年代初——他将自己置身于高速增长与新兴创业热潮的核心。他频繁与其他充满冲劲的创业者往来，每一次接触都可能带来关键人脉。就在 Loopt 刚刚起步时，办公室走廊另一头就是羽翼未丰的 YouTube。Altman 的 YC 同期创业者——即 YC 同一批次的联合创始人——中，有 Steve Huffman 和 Chris Slowe，前者是 Reddit 的联合创始人，后者是其创始工程师。Altman 于 2014 年出任 Reddit 董事会成员，最终持有的公司股份甚至超过了 Huffman。另一位 YC 同期创业者是 Emmett Shear，Twitch 的联合创始人——将近二十年后，他将在 Altman 被短暂罢黜期间出任 OpenAI 代理 CEO。

Altman 还摸索出了向媒体包装信息的最佳方式，以及达成非凡交易的最可靠路径。即便身为一家名不见经传的初创公司 CEO，他也成功与美国几大主要移动运营商谈妥了企业合作协议。熟悉他的人说，他的秘诀在于：超强的倾听能力、愿意伸出援手的姿态，以及能够把自己所能提供的一切精准地转化为对方正在寻求的东西。（如今的他，已是硅谷举足轻重的超级富豪，能给出的筹码远不止于此，这自然更添优势。）人们说他是"倾听界的迈克尔·乔丹”；接任他执掌 YC 的杰夫·拉尔斯顿则称他是"融资界的尤塞恩·博尔特”。

“说到底，当你向某人融资时，你做的是讲述一个关于项目未来的故事——一个关于这个项目、这家公司将会成就非凡的故事，“拉尔斯顿说，“Sam 能讲出一个让你迫不及待想要加入的故事，引人入胜，看似真实，甚至看似很可能成为现实。”

拉尔斯顿将其比作史蒂夫·乔布斯的现实扭曲力场。“史蒂夫能讲出一个故事，把你对现实的一切感知都淹没其中，“他说，“不管那是对现实的扭曲，还是最终真的成为了现实。因为请记住，乔布斯真正做出了改变你现实的东西。那不只是扭曲，而是真实的。

“显然，Sam 也做到了。“但这个故事还有另一面。“Sam 记得你所有这些细节。他极为专注用心。但随之而来的另一面是，他利用这些来摸索如何以不同方式影响你，“一位与他共事多年的人说，“他太擅长随着你的话语调整自己，你真的会感觉在和他携手推进。然后，慢慢地你会意识到，你其实一直在原地踏步。”

据《华尔街日报》报道，在 Altman 执掌 Loopt 期间，公司高管曾两度向董事会进言，要求将其解雇，并提出了两项指控——这两项指控后来如影随形，一直延伸至 OpenAI 那次短暂的罢黜风波。一是他行事往往以个人利益为先，而非公司利益，有时甚至以牺牲公司为代价。二是他似乎难以自控地扭曲事实。后者更难以言说：他有时对无关紧要的细节撒谎，让人难以说清这种不诚实究竟有何影响。但日积月累，那些细小的"纸割伤”——一位当事人如此比喻——在公司内部酿成了弥漫一切的不信任与混乱。

以一种将贯穿他此后整个职业生涯的方式，Altman 最终从这场危机中全身而退，并占据了主动。Loopt 的董事会站在了他这边。

尽管业绩平平，Altman 从 Loopt 离开时的处境却远比当初入场时要好。他借助这家初创公司，一步步攀入硅谷最有权势的社交圈，随后利用这些人脉为公司安排了一次令自己大赚一笔的退出。二十六岁那年，他从出售 Loopt 中净得五百万美元。Altman 认为这令人失望——乔布斯二十五岁时身家已达两亿五千六百万美元——但他很快便积累了远比这多得多的财富。那些财富慢慢改变了他的生活方式。最终，他不再自己去超市买菜，出行改乘私人飞机，开始收藏豪华跑车，包括迈凯伦和一辆极为罕见、价值五百万美元的科尼塞克，并逐渐爱上了驾车竞速。他曾一度参加一年一度的火人节——那是一场为期一周、充满迷幻与情色的沙漠艺术节。他也像许多硅谷大佬一样，开始随意使用氯胺酮——这是一种派对药物，可合法处方用于缓解抑郁。

随着自己的成功，Altman 也将兄弟们一并带了进来。2012 年，他与弟弟 Jack 共同创立了个人投资基金 Hydrazine Capital。Jack 曾就读于普林斯顿大学经济系，当时正初涉投资银行业。此后，Jack 转入科技行业，创立了初创公司 Lattice，并在 Sam 出任 YC 总裁后获得该孵化器的投资。Max 曾就读于杜克大学计算机系，毕业后短暂供职于微软（Microsoft），后转行做交易员，2014 年跳槽到另一家 YC 公司 Zenefits。两年后，他加入了 Sam 和 Jack 的 Hydrazine Capital。这期间，两位弟弟相继搬来与 Sam 同住，本是临时安排，三兄弟却就此共同生活了许多年——手足情谊与商业利益，紧紧缠绕在一起。

对奥特曼职业生涯走向影响最深的，是他与两位导师——保罗·格雷厄姆和彼得·蒂尔——之间的关系。

人称PG的格雷厄姆，最初以联合创办初创公司Viaweb一举成名——1998年，该公司被雅虎以4900万美元收购——随后又以博主身份广为人知，持续发表关于初创企业、创业精神和风险投资的热门文章。创办YC之后，他将自己的理念深深烙印在了一代又一代YC创始人身上。每一家从YC走出的成功公司，都为这家孵化器和格雷厄姆本人带来了与日俱增的声望。等到奥特曼出售Loopt时，YC已孵化出数家已经或即将成长为独角兽的公司，其中包括Dropbox和Airbnb。YC由此成为硅谷最顶级的圈子。入选，意味着即刻获得声望与更多资源——包括老牌YC公司构成的现成客户群、更渴望投资你的投资人，以及更高的估值。落选，则一无所有。

格雷厄姆成为初创企业界举足轻重的风向标，主导着整个硅谷的创业文化。“这一圈子、这一生态里的很多人，开始按他的基本原则生活行事，将其奉为优秀创始人、成功创业者的准则，“Ralston说，“我们很多人在许多问题上都以PG为指引。“与此同时，格雷厄姆也饱受争议。他鼓吹科技行业是任人唯贤的精英社会，却将YC打造成一个封闭的兄弟会。面对YC女性创始人稀少的质疑，他的辩护是：大多数女性从小就未曾接受过成为科技创业者所需的培养。在分析YC面试申请者的表现后，他归纳出三四十个预测失败的因子，其中包括"浓重的外国口音”——一旦候选人同时呈现其中多个因子，便被认为前景不佳。他说，这并非YC评估体系的缺陷，而是重要的数据驱动信号。

格雷厄姆对奥特曼的支持，来得坚定而早。2006年的一篇博文中，格雷厄姆回忆起与一位大二在读的奥特曼初次相遇时的情形。“Loopt很可能是我们迄今为止资助过的所有初创公司中最有前途的，“格雷厄姆写道，“但山姆·奥特曼是个非常不寻常的人。见面大约三分钟后，我记得我心想：‘啊，原来比尔·盖茨19岁时就是这副样子。’”

奥特曼随即激发了格雷厄姆寻找更多"奥特曼"的念头。格雷厄姆问这位年轻创始人，YC的申请表应该加入什么问题，才能发现更多像他这样的人。奥特曼建议加入一道题，格雷厄姆随后将其列为最重要的问题之一：“请告诉我们，你曾经最成功地破解某个（非计算机）系统以谋取优势的经历是什么？“这道题后来成为一种精神的具象与召唤——激励着一代代初创公司弯曲、绕过乃至打破规则，直至主宰市场。

奥特曼二十三岁时，格雷厄姆已将他与史蒂夫·乔布斯相提并论。“山姆和史蒂夫·乔布斯，是我给初创公司提建议时提及最多的两位创始人，“他写道，“在设计问题上，我会问：‘史蒂夫会怎么做？‘但在战略或雄心问题上，我则会问：‘Sama会怎么做？’"——Sama是奥特曼的昵称，也是他的X账号名。

正是格雷厄姆对奥特曼的笃信，推动他在2014年、二十八岁时——出售Loopt两年后——登上了YC主席之位。当格雷厄姆在厨房问奥特曼是否愿意做他的接班人时，奥特曼情不自禁地笑了起来。“YC在某种程度上能够引导技术发展的方向，“奥特曼后来说。“我认为他的目标是塑造整个未来，“格雷厄姆如此评价奥特曼。这段传承故事被反复讲述，最终成为硅谷的传奇。“山姆笑起来通常是深思熟虑之后的，“一位前YC创始人说，“山姆只有一次是情不自禁地笑了，那就是PG告诉他接管YC的时候。“格雷厄姆的选择令许多人意外，但他心意已决。“并没有一份候选名单，山姆排在最前面，“Livingston后来回忆道，“就是：山姆。”

彼得·蒂尔成为奥特曼的第二位导师。作为科技行业另一位关键人物，蒂尔通过创立支付公司PayPal和数据挖掘公司Palantir、以及早期投资Facebook跻身亿万富翁之列。与格雷厄姆一样，蒂尔也引发了不少争议——包括在2016年大选期间成为科技圈罕见的特朗普公开支持者，以及秘密资助一场诉讼，导致Gawker Media倒闭，以此报复该网站近十年前公开他同性恋身份一事。

出售Loopt后，奥特曼经历了与一位联合创始人兼相恋九年的男友的分手。身心俱伤、职业上漫无方向之际，他休息了一年，创立了Hydrazine，并募集了2100万美元资金。比奥特曼年长近二十岁的蒂尔出资了其中大部分。奥特曼成为YC合伙人后，他以Hydrazine押注YC的投资组合公司，同时协助蒂尔的风险投资公司Founders Fund物色高回报投资标的。蒂尔的净资产随之翻了数倍。两人关系极为亲密。（这段情谊曾被描述为只有一段关系可与之媲美：蒂尔与Facebook联合创始人马克·扎克伯格之间的师徒情谊。）

格雷厄姆和蒂尔深刻影响了奥特曼的世界观、他构建高效企业的方式，以及他作为政治操盘手的敏锐直觉。两位导师向奥特曼灌输了追求规模的迫切性，以及资本主义相较于政府的效率优越性。

“我听到的第一条创业智慧是’提高销售额能解决一切问题’，“奥特曼在2013年一篇题为《增长与政府》的博文中写道，并感谢格雷厄姆和蒂尔塑造了他的思想。“这其实不过是保罗·格雷厄姆那句’增长至关重要’的另一种表述。“对初创公司而言，更多的销售意味着更多的资本，意味着更优秀的人才和更少的内部摩擦。对国家而言，更多的增长意味着更多的技术创新，意味着更高的生活质量。奥特曼补充说，美国政府的失灵正在威胁这一增长循环。“要么你在增长，要么你在慢慢死去”，而美国政府正走向死亡。“没有经济增长，民主就无法运转，因为选民们身处一个零和博弈的体系之中，“他说。

这一理念后来演变为驱动奥特曼事业和投资的核心命题。“私营部门的人能为使这个国家重回正轨所做的最重要的事，就是重振经济增长，“他在2017年说。“在美国，我们享有了两百年无与伦比的经济增长。我们有一百年的领土扩张；我们有一百年真正发挥作用的新技术，“他补充道——轻描淡写地略过了那段血腥的殖民历史，以及无节制工业化留下的复杂劳工与环境记录。“人们大体上还是相当满足的。而如今，我们却失去了这一切。”

“可持续的经济增长几乎永远是一种道德善举，“他在2019年补充道，“驱使我投身Y Combinator（YC）和OpenAI的部分动力，正是为了回归这一点——回归可持续经济增长，回归一个大多数人的生活每年都在改善、人人共享成功喜悦的世界。”

在公司建设上，Altman频繁援引Thiel的"垄断"策略——这一理念认为，所有创始人都应"以垄断为目标”，才能建立一番成功的事业。2014年，Altman回到母校斯坦福大学，开设了一门名为"如何创办一家初创公司"的课程，并邀请Thiel就其标志性哲学发表了一场题为"竞争是失败者的游戏"的演讲。

垄断是好事，Thiel说，因为"垄断型企业更加稳定、存续时间更长，你拥有更多资本，而且……能做到这一点，本身就说明你创造了真正有价值的东西。“构建垄断地位，需要拥有某种专有技术、网络效应、规模经济以及强大品牌——这些要素都必须随时间持续保持。就专有技术而言，保持领先地位至关重要。“你不希望被其他人超越，“Thiel说，“有许多创新领域实现了巨大突破，却没有人赚到钱。”

他以1980年代的磁盘驱动器制造业为例——这个行业每隔两年就有新进展，但推动进步的始终是不同的公司。“消费者从中大获其益，但那些创立这些公司的人却并未因此受惠，“他说。企业不仅需要在起步之初实现"重大突破"以确立主导地位，还必须确保自己掌握"最后的突破"来维持这一地位，比如"以足够快的速度持续改进，让任何人都追不上”。

“如果你所描绘的未来图景是：大量创新涌现，其他人也会在你耕耘的领域提出新的解决方案，“他总结道，“那对社会来说很好，但对你的生意来说其实并不妙。”

从两人身上，奥特曼也学到了建立人际关系、在个人层面创造"网络效应"的重要性。

“我听过很多关于事情如何成就的理论，“他在2013年的博客中写道，“这是其中最好的一个：专注与人脉的结合。查理·罗斯把这句话说给保罗·格雷厄姆，保罗·格雷厄姆又告诉了我。“奥特曼后来还加入了第三个要素：自我信念。“对于初创公司，我认为加入这一点非常重要，“他说，“你必须真正相信自己有可能做到。”

奥特曼开始虔诚地奉行这一信条。他以极大的热情和自律精神培育人际关系——起初是付出时间、提供战术性建议，后来随着掌控的资本日益增多，又加上了金钱。在这方面，蒂尔是他的榜样：这位导师长期以来用建议和金钱扩展自己的网络，再用网络积累更多人脉与财富。蒂尔向他想纳入麾下的年轻创业者和其他人提供导师指导、小额资本，以及进入其圈子的机会。奥特曼以几乎相同的方式，学会了有策略地运用自己的财务和社会资源。随着声望与财富不断增长，他以毫不松懈的效率将这套方法加以放大。

他开始频繁地在家中举办晚宴和聚会，邀请各类相互交织的群体：与YC或旗下公司有关联的人、志同道合的投资者，以及活跃且不断壮大的同志创业者群体。他通过简短的短信和电话——有时短至两分钟——传授建议，以便在日程中塞入更多内容。他在邮件里用一个词（“认识一下”）或一个标点（"？"）把人们相互引荐——这是亚马逊杰夫·贝佐斯的著名习惯——以此开启对话。在投资上，他很少下大注，更多的是小额高频出击。根据2024年6月《华尔街日报》的评估，他通过YC、Hydrazine及其他基金，累计与逾四百家公司建立了财务关联。

在奥特曼的核心圈子里，几乎找不到与他没有某种财务关系的人。他的第二笔、也是迄今最成功的创业投资，是投向YC孵化的支付技术公司Stripe——格雷格·布罗克曼正是Stripe的第一任首席技术官。他早早投资了YC孵化的Airbnb，其联合创始人兼CEO Brian Chesky是他最亲密的挚友之一。他参股了前男友兼好友Matt Krisiloff的生物技术公司Conception，并与另一位前男友、知名独立风险投资人Lachy Groom联合投资项目。在那些人眼中，这是奥特曼慷慨大方的明证。他随时向人伸出援手，无论是开放自己的住所供人借住，还是在经济上给予支持。他甚至不惜为素昧平生的陌生人出手——据一位知情人透露，他曾向一名埃塞俄比亚男子汇款，只因对方发邮件请他帮忙购置一台笔记本电脑。Krisiloff回忆说，2023年硅谷银行危机期间，这家对硅谷初创公司至关重要的金融机构爆发挤兑、酿成2008年以来最大的银行倒闭事件，他不要任何书面手续，直接向多家公司打款，帮它们免于停摆或裁员。“这是极为罕见的品质，“Groom说，“这种品质深深影响了我——那份慷慨。我为此深感感激。”

奥特曼以同样的方式经营与政界人士的关系，再度借鉴了蒂尔的一页。蒂尔是用财富扶持共和党候选人，向其竞选活动注入数千万美元；奥特曼则朝相反的方向愈发深入政治圈，为民主党人举办募款活动、开出支票。有一段时间，两人的政治分歧令彼此关系趋于紧张。2017年，奥特曼主动迎向这种分歧，仿照蒂尔的另一位门生扎克伯格，踏上一段遍游美国之旅，与一百名特朗普支持者交流。他还认真考虑过亲自入局政治，参选加利福尼亚州州长——在他看来，这将使他执掌全球第五大经济体，成为改变政治体制痼疾的有力跳板。他发表了一份名为《联合纲领》的政治宣言，提出三项原则：（一）科技创造繁荣；（二）经济公平；（三）个人自由。他组织焦点小组，对自己的竞选意愿进行测试。亲近他的人打趣说，他不如直接冲着美国总统去。

最终，奥特曼没有走上从政之路——焦点小组认为他看起来太年轻——但他开始行事如政客。在主掌YC的最初几年，他仍有一张孩子气的脸，只有一件西装外套，坐着时习惯翘起一条腿，或者像鸟儿一样蜷缩在椅背上。他有时说话随意，惯用夸张的口吻，句子里夹杂着粗口。他对自身的敏感细节毫不遮掩，比如他收藏枪支这件事。他更容易动怒，也更难掩对无能之人的不耐烦——有一次甚至编写了一个软件程序，专门通过YC创始人回复邮件的时间来衡量其能力。

几年后，他打磨了自己的外在形象，磨去了棱角。T恤和工装裤换成了修身的亨利衫和牛仔裤。他在一年内增肌约八公斤，让原本单薄的身形充实起来。他学会了少说话、多提问，以微微皱眉的姿态传达一种深思熟虑的谦逊。在私下场合和至交面前，他依然时常流露出愤怒与沮丧；在公开场合和泛泛之交面前，他则是那个好好先生。他乐于把功劳让给别人，发短信全用小写字母，还喜欢附上一串笑脸和苦脸表情。他把个人号码给员工，鼓励他们随时联系，并以令人印象深刻的细心回应他们的反馈。他刻意回避负面情绪，回避对抗，回避对人说不。有一次OpenAI开除了一名员工，他亲自联系对方，提出送上氯胺酮和酒以示慰藉。“无论你是否乐意，我觉得山姆与所有人的关系都会以一种体面的方式收场，“那名员工说。

Altman 将自己打造成了一个独立的权力中枢。YC 是他的平台，也是他的助推器。他将 YC 的能量转化为自身的能量，将它的人脉网络化为己用。这些私人关系与他在公众眼中建立起的声誉，成了他最有价值的资本。他定期与政策制定者会面，后者将他视为进入硅谷的一扇门。2016 年，主动登门求教的是奥巴马政府的国防部长 Ashton Carter，他希望 Altman 为国防部指点迷津，帮助吸引年轻技术人才。三年后，2019 年 3 月 Altman 卸任 YC 的当天，登门拜访的换成了 Chuck Schumer。彼时身为美国参议院少数党领袖的 Schumer，带着特勤局随行人员秘密造访了 OpenAI。办公室里，他与 Altman 并肩坐在扶手椅上，身后的电视屏幕上投射出一团跳动的火焰。「你们在做一件重要的事，」Schumer 对在场的员工说，「我们还不完全理解它，但它确实重要。我认识 Sam——你们托付得其人。」

奥特曼的崛起也将付出越来越沉重的代价——批评者和明面上的敌人与日俱增，他们呼应了他在Loopt时期高级副手们的指控：他为一己之私不断攫取权力，且惯于欺骗。许多受惠于奥特曼的建议、财富与人脉的人成了他坚定的拥趸，另一些人则开始将他视为善于将局势扭转为己用的老手。对于他在YC的合伙人和其他权力经纪人来说，这不过是一种烦扰；对于员工以及话语权远不如他的人而言，这却可能成为恐惧的根源；至于那些与他的世界观激烈相悖的人，他就是一个巨大的威胁。

奥特曼的攀升，也令他先是痛苦，继而愤怒——最终葬送了他与妹妹之间的情谊。童年时期乃至进入二十多岁后的很长一段时间，萨姆和安妮都很亲近。她是家中最小的，他是最大的，是她的保护者。她有科学头脑，也有艺术气质，是家里情感最外露的那个。他有时会征询她对恋爱对象的看法，向她倾诉内心的忧虑与情绪。但随着他在硅谷越扎越深，安妮眼睁睁看着他在自己最柔软的那部分周围筑起一道道越来越厚的高墙。她记得，他会把自己学到的新式心理策略讲给她听，比如写邮件时刻意精简措辞，以此在商业场合显得更具威势。

起初，这让她感到悲哀，后来又生出恐惧——那个敏感的部分，究竟是否还在。“有一段时间我确实还能偶尔瞥见它，这也是我们还能保持亲近的原因，“她说，“然后，我开始成为被他伤害的那个人。”

萨姆第一次拥有财富时，她说，他当时的男友立下一条规矩：萨姆每购置一件大额物品，就必须捐出等额款项用于善事。这条规矩在一段时间内对萨姆生活方式的急速膨胀形成了约束。但随着他赚钱的速度远超花钱的速度，她感到他与金钱的关系变得愈发复杂。在她看来，他开始囤积财富，同时与需要帮助的人渐行渐远。据她与我分享的大量往来信件，从2019年底到2020年上半年，他与其他家庭成员多次拒绝、或勉强拒绝为安妮提供她认为属于紧急情况的经济援助——那笔钱本是用来垫付她的房租和医疗费用的。她的病历与治疗记录显示，彼时她正承受着严峻的身心健康挑战，父亲的骤然离世更使处境雪上加霜。她因此陷入居无定所的困境；走投无路之下，她靠性工作维持生计。2020年夏天，就在OpenAI在萨姆的领导下迎来第一波大规模公众关注之际，安妮切断了与家人的全部联系。

有一种说法认为，萨姆和他的兄弟们是在追随他们母亲的引导，试图推动安妮走向经济独立。这是一段复杂而痛苦的家庭往事，仅凭片面信息实难评判。2025年1月，萨姆、他的母亲和两个兄弟联合发表公开声明，表达了对安妮的爱与关切，并将她的全部指控斥为"纯属捏造”。面对我的采访请求及详细的置评询问，康妮·吉布斯廷提供了一份措辞相近的简短声明，并拒绝进一步说明；萨姆通过OpenAI公关团队转达，他的兄弟们则未予回应。

尽管如此，安妮的遭遇与本书所探讨的诸多主题之间存在着惊人的呼应：在所谓进步的行进中，受益者与被抛在身后者之间不断拉大的鸿沟；面对这道加速加深的裂痕，被剥夺了权利的人如何丧失自主与话语；以及将如此巨大的权力——不仅拱手让给企业，更让给执掌企业的个人——而缺乏足以提供相称制衡机制的体制框架，其代价与局限究竟为何。安妮的行动，也使她的故事成为理解OpenAI发展轨迹及其对人工智能产业影响不可回避的一部分：2021年，她决定公开对萨姆提出严重指控，声称他在她童年时期对她实施了性虐待——她的家人将此称为她诸多"失实"指控中"最为恶劣"的一条——并指他和其他家庭成员在她最脆弱的时刻将她抛弃。2025年1月6日，在她三十一岁生日前两天，为赶在密苏里州此类案件的诉讼时效届满之前，她就上述性虐待指控正式对萨姆提起诉讼。安妮持续不懈的发声与陈述，影响了萨姆，也影响了OpenAI的其他高管——他们正在应对的，是他与这家公司跃升为全球焦点所带来的一切。

这些拼图的每一块——萨姆的崛起、他的性格与人际关系、他身后留下的裂痕、金钱与权力的流向——共同指向了那条通往他骤然且短暂出局的道路。那短暂的一刻，世界其他地方得以窥见最高层之间为主导人工智能未来而展开的角力。它揭示了这样一个现实：对那项技术的霸权之争——它已然在重塑社会秩序、重新丈量我们的地球——其走向，最终在多大程度上取决于少数几个凡人各自极化的价值观、彼此碰撞的自我，以及难以掌控的人性。

2 文明化使命

格雷格·布罗克曼率先承诺参与创建 OpenAI。为了给布罗克曼物色联合创始人，奥特曼亲自选定了伊利亚·苏茨克维尔——彼时在谷歌（Google）担任 AI 研究员的他，收到奥特曼主动发来的一封邮件，受邀出席 2015 年夏天在 Rosewood 酒店举办的晚宴；得知马斯克也会到场，苏茨克维尔欣然应允。

布罗克曼与苏茨克维尔是一对颇为有趣的搭档。布罗克曼身形高大壮实，待人随和，是位工程师，也是创业人，气质与奥特曼相近。他成长于北达科他州一处自家的小农场，挤牛奶的间隙爱上了数学，继而迷上了科学。2008 年他进入哈佛大学，两年后转至麻省理工学院，再读一个学期便彻底退学——当外面的世界等着他去造产品，课堂实在是吞不下去了。他来到湾区，加入了当时只有三个人的初创公司 Stripe；凭借出色的编程才能，他给两位创始人留下深刻印象，由此升任首席技术官。五年间，他主导开发了 Stripe 早期的诸多产品，助力这家公司成长为一家举足轻重的金融科技企业，向亚马逊、Shopify 等客户提供数字支付基础设施。这段经历不仅为他积累了可观的财富，更为他赢得了硅谷那种极为稀有的地位——参与建造了一家市值数十亿美元的公司。

苏茨克维尔是那个科学家。他身形精瘦，生于苏联，在以色列长大，自幼便是数学神童。由于难以找到能跟上他进度的老师，父母安排他以初中生身份到以色列开放大学旁听课程。十六岁那年，他移居多伦多，在高中仅读了一个月，便于 2003 年以大三本科生的身份被多伦多大学录取。正是在那里，苏茨克维尔结识了杰弗里·辛顿——这位英裔加拿大教授在 AI 研究领域做出了奠基性的贡献。辛顿是苏茨克维尔唯一称之为导师的人，此后对他的工作与人生都产生了深远影响。2012 年，他与辛顿另一位博士生亚历克斯·克里热夫斯基联手，在名为 ImageNet 的学术竞赛中大杀四方，令 AI 世界为之震动——他们构建的软件能够自动识别照片中的物体。其他所有参赛团队都在苦苦将错误率压至 25% 以下，辛顿、苏茨克维尔和克里热夫斯基却将其拉低到了 15%。次年初，谷歌（Google）宣布以 4400 万美元在一场激烈的竞购中将他们新成立的公司 DNNresearch 收入囊中。这笔交易将这几位学者一举造就为千万富翁，也引燃了商业化人工智能的第一波大规模热潮。「我们当时觉得自己活在电影里，」辛顿说。

布罗克曼与苏茨克维尔在 Rosewood 晚宴上初次相识。在场众人和他们一样，或是企业家，或是科学家。讨论在两个方向之间来回穿梭：一边是关于 AI 研究不同路径的学术辩论，另一边则是马斯克念兹在兹的问题——是否还来得及赶在 DeepMind 和谷歌（Google）之前抢占先机。他们相信，这对于纠正 AI 发展的走向至关重要。在场所有人都承认，关键瓶颈在于人才：顶尖 AI 研究员中的大多数，就像苏茨克维尔那样，不是受雇于谷歌（Google），就是在其他科技巨头任职，享受着丰厚的薪酬、福利与稳定的工作保障。

通用人工智能（AGI）同样是讨论的核心议题，而这在当时颇为罕见。大多数严肃的科学家都认为，以数字方式复制真正人类水平的智能，不过是科幻，或者至少还需数十年乃至更久才可能实现。公开宣称它近在咫尺、值得当下投资，在当时大多被视为伪科学和骗术。但德米斯·哈萨比斯已将这一目标作为 DeepMind 的旗号，尽管他自己的研究人员认为这不过是令人反感的无耻营销。Rosewood 聚会的众人同样认为，倘若他们真的打算组建一家机构与 Hassabis 的 DeepMind 正面对垒，AGI 也同样是描述己方志向最贴切的词。

即便是苏茨克维尔——他私下里相信 AGI 是可能实现的，日后也将毫无保留地为那些关于 AGI 到来速度最为激进的预言背书——起初也对这番大胆的放言感到有些不自在。他担心，若其他研究者得知他公开谈论追求这一目标，自己在学术界的声誉便岌岌可危。这些顾虑没有束缚布罗克曼——他是这个领域的局外人，真心相信只要付出足够的努力与专注，AGI 或许就在不远处。苏茨克维尔和其他研究者愿意至少私下里探讨一个新实验室的可行性，只会进一步坚定布罗克曼的信心。那天夜里，奥特曼开车送他从酒店返回旧金山，布罗克曼在车上告诉他：自己已经准备好，全力投入这个项目。

在硅谷，流传着一句俗话：联合创始人的关系，犹如步入婚姻。就像任何深度伙伴关系一样，在奥特曼委婉地告知布罗克曼他需要一位懂 AI 研究的搭档之后，布罗克曼与苏茨克弗开始了彼此的"相互了解"。红木酒店晚宴数周后，两人在山景城单独共进了另一顿饭。这是一次完美的匹配。“我知道这会成功，尽管我们刚刚认识……伊利亚和我之间有着极高带宽的互动，“布罗克曼后来在博客上写道，“我们的想法相互增益、彼此互补。”

此后数月，苏茨克弗反复权衡这一提案，布罗克曼则着手说服他人加入这场登月计划。他致电业界领军人物，请他们推荐顶尖 AI 人才名单；赴各大学与教授共进晚餐，打探他们最优秀的学生；在每次谈话之前都会深入研究每位候选人，以便更有说服力地招募他们。奥特曼后来在一篇题为《格雷格》的博客文章中盛赞了这些早期努力。“很多人问我，理想的联合创始人是什么样的，“奥特曼写道，“现在我有了答案：格雷格·布罗克曼。”

奥特曼与马斯克也进行了相当多次的招募谈话，一点点软化了那些对 AGI 持抵触态度的研究员。“AGI 也许还很遥远，但如果不是呢？“加州大学伯克利分校教授 Pieter Abbeel 回忆起马斯克当时的追问，“就算只有 1% 甚至 0.1% 的概率会在未来五到十年内发生，难道我们不应该认真思考吗？“Abbeel 后来先以研究顾问身份加入 OpenAI，随后携数名博士生全职入职。

起初，布罗克曼接触的许多人都表示，只有在其他人也参与的前提下才愿意签约。他没有因此退缩，而是邀请了他最希望招募的十位工程师和研究员前往纳帕谷，在品酒的氛围里聊清顾虑、激发热情。他包了一辆大巴接送所有人，借着来回各超过一小时的车程继续游说。三周后，在布罗克曼设定的截止日期前，几乎所有人都接受了邀约。

在马斯克、奥特曼与布罗克曼商议 OpenAI 上线如何定位时，三人都深知公众观感的重要性。他们接受了奥特曼将其设立为非营利机构的提议，并决定大力强调其名字所蕴含的"开放"精神。OpenAI，这家"反谷歌"的机构，将为全人类从事研究，开放科学成果，成为透明度的标杆。

“我希望我们能以一个中立团体的姿态进入这一领域，广泛开展合作，将对话的焦点从某个特定群体或公司的胜利，转向全人类的共同福祉，“布罗克曼于 2015 年 11 月致信马斯克与奥特曼，"（我认为这是让我们跻身顶级研究机构的最佳路径。）”

“让公众为我们的成功而欢呼，有着巨大价值，“马斯克当月晚些时候回复，并建议重写 OpenAI 的成立公告，以吸引更广泛的受众。“我们需要报出一个比 1 亿美元大得多的数字，否则相比谷歌（Google）或 Facebook 的投入，听起来会显得微不足道，“他补充道，“我认为我们应该说，初始融资承诺为 10 亿美元。这是实实在在的。其他人不够的部分，我来兜底。”

在后续的往来通信中，这个小组承认，一旦公开叙事完成了使命，或有现实需要——例如防止不良行为者获取这项技术——他们可以逐步收回对"开放"的承诺。“随着我们越来越接近构建 AI，减少开放是合理的，“苏茨克弗于 2016 年 1 月 OpenAI 成立后不久向三人提出，“OpenAI 中的’开放’意味着 AI 建成之后每个人都应从中受益，但不分享科学本身完全没有问题。““是的，“马斯克回应道。

2015 年 12 月，公告选在一个周五晚间发布，恰与神经信息处理系统大会（Neural Information Processing Systems）同期——这是一年一度规模最大的 AI 研究学术盛会，三年前辛顿和苏茨克弗正是在此拍卖了 DNNresearch。那篇题为"Introducing OpenAI"的博文列出了九位创始成员，包括将担任 CTO 的布罗克曼，以及将主持研究工作的苏茨克弗。马斯克与奥特曼将出任联席主席。奥特曼与布罗克曼也响应了马斯克的承诺，合力确保该实验室获得 10 亿美元的资金。Jessica Livingston、彼得·蒂尔以及 LinkedIn 联合创始人里德·霍夫曼亦是如此。霍夫曼曾与马斯克、蒂尔共事于 PayPal，并常以"PayPal 黑手党"成员的身份与他们联手投资初创公司。“我们预计在未来几年只会动用其中极小一部分，“公告如此描述这笔资金。

公告发布前的最后倒计时阶段，苏茨克弗几乎留在了谷歌（Google）。OpenAI 向其他所有创始成员开出的条件是每年 17.5 万美元的基本薪资，外加 YC 或 SpaceX 的股票；而给苏茨克弗的报价，却是接近 200 万美元——对于一家非营利机构而言，这是一个惊人的数字。即便如此，谷歌（Google）的报价还是更高，一轮又一轮追加，最终达到这一数字的两到三倍，誓要留住他。马斯克和奥特曼一再推迟公司公告，等待苏茨克弗从痛苦的权衡中走出——他致电父母商量，接听马斯克和布罗克曼的再三恳求。最终，谷歌（Google）令人眩晕的天价报价，反而让苏茨克弗更加确信，正是因为如此，才需要 OpenAI 这样的非营利机构的存在。

公告发布当天，马斯克向创始团队发出一封电子邮件，郑重宣誓他对带领 OpenAI 走向胜利的承诺。“我们最重要的任务是招募最优秀的人，“他写道，并承诺在这方面以及一切他力所能及的事情上倾力支持。“我们在人员和资源上，都被你们熟知的那些机构以悬殊的差距碾压，“他又写道，“但正义站在我们这边，这至关重要。我喜欢这个胜算。“为了先发制人、防止创始团队成员被其他方挖走，OpenAI 立即将所有人的基本年薪再上调了 10 万美元。

马斯克后来回忆，因为亲手从谷歌（Google）挖走苏茨克弗，他承受了拉里·佩奇的怒火。此后两人鲜有往来，在 AI 发展方向上的分歧也愈演愈烈。但 OpenAI 的招募工作此后骤然顺畅。登月计划与亿万富翁的光环，是硅谷最强大的吸引力。短短几个月内，员工人数翻了一番。

这种模糊的定位、天价支票，以及对亿万富翁的顶礼膜拜，是硅谷野蛮生长巅峰时期的典型写照。但OpenAI在定位上颇为精明：它横跨两个世界——一边是科技霸权主义的传统硅谷，另一边是正在兴起的、更具良知的那一股力量。此后一年，唐纳德·特朗普在2016年美国总统大选中的惊天崛起与最终胜选，令科技行业那批左倾员工猛然陷入自我反思。当Meta和谷歌（Google）内部乱象频生、科技反弹浪潮席卷公众之际，AI研究者们也开始追问：这个领域将技术绑上企业利润的战车，是否走得太快了。

盘点商业化AI研究对社会的影响，结果令人不安：出售给警察、抵押贷款经纪商和信贷机构的自动化软件，正在固化种族、性别与阶层歧视。驱动Facebook信息流和YouTube推荐系统的算法，很可能加剧了社会极化，助长了虚假信息与极端主义，为选举干预提供了温床——而Facebook在缅甸引发种族清洗一事，更是其中最为骇人的案例。

然而，主要的替代资金来源——接受政府拨款——同样暗藏道德地雷。2018年，数千名谷歌（Google）员工联署抗议公司与五角大楼秘密签订的合同，该项目名为"Maven计划”，旨在利用AI开发监视无人机。员工们警告，这些能力可能为自主武器的研发铺路；五角大楼虽曾声称无此意图，但随着乌克兰战争的爆发，这一立场已悄然转变。

AI研究者们流传着一句嘲讽之语：要么卖身给科技巨头，要么投靠军工复合体，否则就离开AI研究。在这两个极端之间，OpenAI看似提供了第三条路，既未被利润腐蚀，也未沦为国家工具。“它是一座希望的灯塔，“机器学习工程师、知名科技博主Chip Huyen在场外观察后如此说道。

但并非所有人都买账。2015年12月OpenAI宣布成立的那个晚上，AI研究者蒂姆尼特·格布鲁——正是那位曾质问马斯克为何将AI威胁凌驾于气候变化之上的人——简直不敢相信眼前的消息。

整整一周，这位斯坦福大学的博士生——一个在青少年时期来到美国的埃塞俄比亚裔厄立特里亚难民——一次次被提醒：在一个由白人男性主导的环境里，身为黑人女性的代价有多高。那是她第一次参加为期一周的神经信息处理系统大会（NeurIPS，当时尚称NIPS），混入熙攘的AI研究者人群之中。整个会场，她是极少数黑人面孔之一。次年，在2016年的大会上，她亲手做了统计：在8500名与会者中，只找到另外六名黑人研究者。在斯坦福，她曾用黑色幽默消解校园里黑人研究者的匮乏：“我可以成立一个Black in AI小组，然后一个人开会。“她甚至想过开个YouTube频道来讽刺这种处境，通过换发型、扮演不同角色来演绎自说自话的荒诞。但无论她怎样以玩笑化解孤立，2015年的这场大会还是在提醒她：事情可以迅速变得充满敌意。某个夜晚的派对上，她正在取水，一群穿着Google Research T恤的醉汉盯上了她，决定拿她来取乐。他们将她团团围住。一个男人强行给她一个拥抱；另一个在拍下一张令她难堪的照片的同时，在她脸颊上强行亲了一下。同一场大会上，她的一位朋友也遭到了一名教授的骚扰。

眼下，这一群人——十一人中九位是白人男性——正获得前所未有的巨额资金，高谈一个邪恶超级智能终将统治世界的理论前景，并提出以构建一个更强大的超级智能来加以对抗。

那天夜里，格布鲁写下了一封匿名公开信，对她所目睹的一切发出犀利批判：那场盛大的表演，对AI名流近乎膜拜的狂热，以及最令她忧虑的——构建和塑造这项至关重要技术的人群，同质化程度触目惊心。这种同质化文化不仅在驱离优秀的研究者，更导致了对AI以及"谁能从技术中受益"这一问题的极度狭隘的想象。

“我们不必展望未来，才能看到AI潜在的负面影响，“格布鲁写道，“这一切正在发生。”

返程的飞机上，她想了想，决定不再匿名发布这封信。她改为在Facebook上以真名发布了一个措辞更温和、篇幅更短的版本。

数周后，她写下一封主题为"Timnit问好"的邮件。

“每次去参加计算机视觉会议，我往往是现场唯一的黑人，“她写道，“但这次我看到了你们五位:) 我觉得，如果我们能成立一个Black in AI小组，或者至少相互认识，那就太好了。”

她逐一添加了那些研究者的邮件地址。然后，她按下了发送键。

在 OpenAI 的草创时期，Altman 和马斯克作为联合主席几乎从不露面。两人各有一摊忙不完的事，便把组织建设的重任交给了 Brockman 和 Sutskever。Sutskever 四处奔走，召集研究人员贡献最好的想法；Brockman 则全身心投入另一件事——塑造正确的组织文化。

数年后，Brockman 向我讲述了他当时的思路。为了做好准备，他遍读一切能找到的关于美国历史上那些雄心勃勃的科技事业的书籍：横贯大陆的铁路、爱迪生的电灯泡、奠定现代互联网根基的早期计算机网络。他像研读宗教典籍一样研读这些历史，从中寻找如何设计自己这番事业的线索与启示。

其中一个故事令他念念不忘，尽管很可能只是以讹传讹——约翰·F·肯尼迪走近美国国家航空航天局太空中心一名手持扫帚的清洁工，问道：“先生，您在做什么？“那人答道：“哦，我在帮助把人送上月球。“Brockman 讲到这里，神情明显振奋。“每个人都怀有这种使命感和目标感——我觉得这是非常了不起的事，而这恰恰是当下普遍缺失的。”

他后来补充道：“我真的感到，我们美国人已经不再敢于梦想了。”

他相信，要取得成功，OpenAI 需要同等程度的凝聚力；公司每个层级的每一个人，都需要像那位清洁工一样。他告诉我，事实上，在 OpenAI 最初的几个月里，所有人都挤在他的公寓办公，他是真真切切地身体力行了这种精神——花了大量时间帮大家洗玻璃器皿。他制定了一项公司政策，要求所有员工在旧金山办公室办公，这一政策一直延续到疫情暴发之前。他承认，这自然有其代价：不是每个人都愿意定居湾区。我从其他采访中了解到，对女性和有色人种而言尤其如此——就像 Gebru 一样，他们对主流科技行业以白人男性为主导的文化深感格格不入。但在 Brockman 看来，凝聚力更为重要，共处同一屋檐之下，有助于思想的意外碰撞与灵感的自然流通。

Brockman 还决定，将所有 OpenAI 员工统一称为"技术人员”。这一做法的灵感来自施乐帕克研究中心（Xerox PARC）——这家位于帕洛阿尔托的传奇研发机构曾有同样的惯例，而其背后的传统，则可追溯至新泽西州同样声名卓著的贝尔实验室，初衷是营造更为平等、民主的工作氛围。

谈及外界对 OpenAI 追求 AGI 的批评时，他将其与爱迪生的电灯泡相提并论。“一个由权威专家组成的委员会断言’这绝对不可能成功’，而一年后他就交付了，“Brockman 说，“这怎么可能呢？“这正是科幻作家阿瑟·C·克拉克在《未来的轮廓》一书中所说的——“想象力的失败”。

罗斯伍德晚宴的与会者中，有达里奥·阿莫代伊的身影。阿莫代伊本是计算神经科学家，后转型为 AI 研究员。彼时他在百度旗下位于硅谷的 AI 实验室工作，之后又在谷歌（Google）短暂任职。他的姐姐丹妮拉·阿莫代伊曾与 Brockman 共事于 Stripe；当 Brockman 开始认真关注 AI 发展时，便找到达里奥寻求学习资源。达里奥并未立即加入 OpenAI，但对其理念颇感兴趣。在马斯克的影响下，OpenAI 在各家 AI 实验室中显得与众不同——它似乎是最愿意聚焦于所谓 AI 安全领域的机构。

2016 年，阿莫代伊仍在谷歌（Google）任职期间，参与合著了该领域的一篇奠基性论文，将 AI 安全的核心问题阐述为：解决"机器学习系统中的事故问题，即因真实世界 AI 系统设计不当而可能产生的无意且有害的行为”。他与合著者写道，这一问题有别于隐私、安全、公平与经济影响等其他 AI 相关挑战。换言之，在这一框架下，AI"安全"指的是防范失控、对齐失败的 AI——正如尼克·博斯特罗姆所描述的，这正是超级智能可能演变为存在性威胁的根源所在。

对阿莫代伊而言，没有什么比这更值得投身其中：防止超人类 AI 引发灾难性后果，乃至人类灭绝。阿莫代伊兄妹二人都对有效利他主义（EA）运动抱有同情，这是一种颇具争议的思想流派，发轫于牛津大学的哲学家群体——博斯特罗姆正任职于此——并在硅谷扎根生长。这一运动主张以极端理性和反直觉的逻辑指导决策，全身心投入于为世界创造最大善值；在很大程度上受博斯特罗姆影响，它将失控 AI 的存在性威胁列为信众优先关注的核心议题。两年前，丹妮拉的丈夫 Holden Karnofsky 创立了非营利机构 Open Philanthropy，其捐款方向部分基于有效利他主义原则。Open Phil（其简称）很快成为灾难性及存在性 AI 安全研究的主要资助方。（截至 2024 年 11 月，该机构已累计发放三百余项 AI 安全相关资助，总额达 4.4 亿美元。）

然而，这种以哲学思想实验为基础的存在性 AI 安全观，很快便在 AI 研究界的觉醒中遭到质疑——人们开始正视 AI 那些不那么具有末日气息、却已切实发生的现实危害。就在阿莫代伊发表论文的前后，ProPublica 发布了一篇震动业界的调查报道《机器偏见》，揭示了美国刑事司法系统大量借助算法预测罪犯的错误实践，而这些算法将黑人的再犯风险判定为高于犯罪记录更为严重的白人。这篇报道，加上 2016 年后社会各界因社交媒体危害对大型科技公司的普遍幻灭，催生了一波审视 AI 有害社会影响的新研究浪潮。

加州大学伯克利分校的 AI 问责研究员 Deborah Raji 由此成为这场重审的代表声音。她指出，AI 安全研究过度聚焦于理论层面的失控 AI 及其潜在存在性风险，却以牺牲其他有证据支撑的现实问题为代价，令后者遭到忽视和降级处理。2020 年，她针对阿莫代伊的论文合著了一篇回应文章，主张真正"安全"的 AI 系统，不能仅靠孤立审视技术系统本身的行为来实现，而必须将其置于对阿莫代伊所排除在外的那些维度——隐私、公平与经济——的全面影响中加以考量。阿莫代伊曾提出 AI 在不懈追求目标的过程中会产生"负面副作用”，举例时援引了近似"回形针思想实验"的场景：一台清洁机器人在打扫途中打翻花瓶或损坏墙壁。Raji 则指出，这一切早已在现实中上演。在对商业产品和 AGI 的不懈追逐中，AI 行业已经产生了大量负面副作用，包括为训练人脸识别模型而大规模侵犯隐私，以及支撑技术发展所需的数据中心带来的不断攀升的环境代价。

“能够产生副作用的，不仅仅是 AI 主体的行为，“她与合著者写道，“在现实中，模型创建和部署过程中的基本设计选择，同样会产生远超单个模型决策影响范围的后果。事实上，要让 AI 系统得以构建，往往隐藏着一种不为人见的人类代价。”

在 OpenAI 内部，多位研究人员——其中一些是公司为数不多的有色人种女性——曾向高管施压，要求拓展"AI 安全"的定义，纳入深度学习模型歧视性影响等领域的研究。高管们的回应却颇为冷淡。“那不是我们的职责，“其中一位说道。

2016 年 5 月，阿莫代伊仍在谷歌（Google）任职，某日顺道拜访了 OpenAI 的办公室。OpenAI 刚刚搬离 Brockman 的公寓，迁入旧金山传教区——这座城市最古老的街区，也是拉丁裔的聚居之地——一家巧克力工厂楼上的新址。研究人员们穿着袜子在室内踱步。

“现场有二三十个人，包括尼克·博斯特罗姆和维基百科词条，都在说 OpenAI 的目标是打造一个友好的 AI，然后把源代码公开发布给世界，“据《纽约客》的报道，阿莫代伊当时对 Altman 和 Brockman 说道。

“我们不打算公开所有源代码，“Altman 说，“但请不要试图纠正这种说法。那通常只会适得其反。”

“那目标究竟是什么？“阿莫代伊追问道。“我们现在的目标……是做当下最值得做的事，“Brockman 回答，“有点模糊。”

两个月后，阿莫代伊正式加入，出任 AI 安全研究负责人。此后，Open Phil 向 OpenAI 捐款 3000 万美元，换取 Holden Karnofsky 三年的董事会席位。2018 年，应 Brockman 之邀，曾任 Stripe 首位招聘人员的丹妮拉也转投 OpenAI，以工程经理及人事副总裁的身份负责团队建设。“我们之间有着漫长而温馨的渊源，“丹妮拉一年后笑着对我说起她与 Brockman 的关系。“没错，“Brockman 笑道，“OpenAI 刚刚起步、我开始招募最初的团队时，我就在想，‘要是有丹妮拉该多好。’”

到2020年底，阿莫代兄妹对奥特曼和OpenAI偏离创立初衷的做法深感不安，最终选择出走，另立门户，创办了AI实验室Anthropic，并带走了一批核心人员。由此形成的竞争格局，在此后ChatGPT的疯狂问世中扮演了举足轻重的角色。卡诺夫斯基则因任期届满、同时也因新产生的利益冲突，从OpenAI董事会卸任。在他为继任者提名的候选人名单上，他写下了自己的一位前员工的名字：海伦·托纳。

问题在于，OpenAI 根本不知道自己该做什么。成立一年后，它靠着挖角、游说和借调，在激烈的人才争夺战中组建了一支顶尖团队，单凭人才密度就能维持内部的兴奋感。然而，OpenAI 始终找不到清晰的战略方向，势头和光环也开始逐渐消退。

它的项目清单杂乱无章，像一口什么都往里扔的大锅，折射出整个领域的混乱状态。它用机器人、电子游戏和虚拟仿真世界来训练智能体——种种尝试，都是为了逼近更高级的 AI 能力。结果收效甚微，即便有所进展，也不过是在重复他人已做过的事。无论 AGI 究竟是什么，这些努力显然都不是答案。「他们那些大项目，看起来并没有什么特别创新的东西，」2017 年曾在 OpenAI 实习的 AI 研究员 Nikhil Mishra 说。

Brockman 和 Sutskever 的领导能力也开始捉襟见肘。Brockman 把大部分时间花在写代码上，Sutskever 则在办公室里踱来踱去，不停地问每一位研究员：「你下一个大项目是什么？」这种氛围造就了一个群龙无首、压力沉重的环境。研究所既没有真正的管理架构，也没有明确的优先级。有时员工会在周末被辞退，其余人要等到下周一发现他们没来上班才知道此事。与此同时，研究所的资金也在大量消耗，大半用于维持已招募团队的薪酬。2016 年，OpenAI 全年支出 1100 万美元，其中超过 700 万用于薪酬和福利。

马斯克越来越不耐烦。DeepMind 突然在全球声名大噪，更让他如鲠在喉。2016 年 3 月，DeepMind 的程序 AlphaGo 击败了围棋世界顶尖高手之一李世石。（「DeepMind 正在给我造成极大的精神压力，」马斯克在那场五番棋对决前不久写信给 OpenAI 管理层，「如果他们赢了，以他们那套’一个大脑统治世界’的哲学，这将是非常糟糕的消息。」）比赛从韩国向全球直播，观看人数超过两亿。一年后，Netflix 推出了一部关于该公司历程的轰动纪录片。

马斯克不定期到办公室催促进展，有时提出完全不切实际的截止日期——这是他一贯管理风格的体现。许多员工对此颇为抵触，认为这些要求完全不符合研究工作曲折、难以预测的本质。在一次全体大会上，机器人学负责人 Wojciech Zaremba——他是创始团队成员之一——介绍了自己希望带领团队追求的机器人学发展方向。马斯克只问了一个问题：「什么时候？你们什么时候能做到这些？」

「我不知道，」Zaremba 说。马斯克随即反驳：「那你其实并没有计划。」于是，2017 年 3 月，Brockman 和 Sutskever 开始认真制定一份更为聚焦的研究路线图。他们面对的核心问题是：OpenAI 若要实现 AGI，并且率先做到，究竟需要什么？

Sutskever 凭直觉认为，答案归根结底在于一个核心维度：算力——即计算资源的业内术语——OpenAI 需要多少算力才能在 AI 能力上实现重大突破。他曾参与的 ImageNet 竞赛及此后的系列进展，无一例外都伴随着训练 AI 模型所用算力的大幅增长。这些进展当然也涉及其他方面：更多的数据和更复杂的算法。但 Sutskever 认为，算力才是王道。他相信，如果能将算力扩展到足以在人脑规模上训练 AI 模型，必然会发生某种根本性的变化——那就是 AGI。

算力的大小取决于三个要素：单块芯片的处理能力，即每秒能执行多少次计算；可用芯片的总数量；以及让这些芯片持续运行多长时间来完成计算。第一个要素由芯片制造业决定——数十年来，这一行业通过大量研发，每两年将单块芯片的算力翻一番。这一进步速度被称为「摩尔定律」，得名于英特尔传奇联合创始人戈登·摩尔——他于 1960 年代首次提出这一预测，十年后又作了修订，描述了自己所在行业的创新速度。摩尔定律后来成了一个自我实现的预言，演变为芯片制造商衡量自身是否足够快速创新、以保持竞争力和市场地位的基准。

Brockman 和 Sutskever 做了一个简单的推算：按照摩尔定律的节奏，OpenAI 达到实现脑规模 AI 所需的算力要多久？答案令人沮丧：需要太长时间了。

大约同一时期，Amodei 和另一位研究员 Danny Hernandez 开始从另一个角度审视同一问题。他们画了一张简单的图表，以时间为横轴，标出了 2012 年以来——即从 Sutskever 在读研期间取得突破、AI 革命由此开端——每一项 AI 研究重大突破实际使用的算力。他们发现，算力的增长速度其实远快于摩尔定律，快得多。在过去六年里，算力每 3.4 个月就会翻一番——换算下来，累计增长了 3000 万倍。

Brockman 开始将这条新的翻倍曲线称为「OpenAI 定律」。领导层认为，OpenAI 不仅需要大量增加算力才能实现最终目标，还必须以至少符合这条新定律的速度来扩展算力。芯片制造商曾以近乎生死存亡的执念将摩尔定律内化为自身使命；OpenAI 的领导层如今以同样的眼光看待 OpenAI 定律。

如果无法等待摩尔定律慢慢跟上，他们就必须走另一条路来扩充算力：他们需要的，是多出天量的芯片。

OpenAI 所需的芯片价格不菲。这类芯片被称为图形处理器，即 GPU，最初的设计用途是在计算机上快速渲染图形，例如为电子游戏提供低延迟、精细流畅的画面效果。然而，这种架构同样擅长训练 OpenAI 希望开发的 AI 模型——因为模型训练与图形渲染有一个共同的核心需求：对海量数字进行并行运算。

业界几乎所有玩家都从同一家公司购买 GPU：总部位于圣克拉拉的芯片巨头英伟达（Nvidia）。英伟达不仅生产着全球最优秀的 GPU，还开发了一套配套软件平台 CUDA，即"统一计算设备架构”（Compute Unified Device Architecture）的缩写，对 AI 开发者形成了强大的生态锁定。

2017 年，一台搭载八块顶级 GPU 的定制英伟达服务器售价高达 15 万美元，按通胀估算，到 2023 年这一价格已逼近 19.5 万美元。据 OpenAI 定律预测，未来几年内，OpenAI 训练单个模型可能需要数千乃至数万块 GPU，驱动训练所消耗的电力成本也将急剧攀升。OpenAI 需要的不是 10 亿美元，而是数十亿美元，才能在未来几年维持运转。

这一认识让整个组织陷入财务困境。在 Brockman 和 Sutskever 看来，这动摇了 OpenAI 架构的根本前提——一家非营利机构，如何能每年筹集如此巨额的资金，以维持行业领先的研发节奏？他们短暂考虑过与一家芯片初创公司合并，但到 2017 年夏天，他们开始与 Altman 和 Musk 认真讨论 OpenAI 是否有必要转型为营利性公司。这是吸引投资者、赋予其财务回报预期的最佳途径。经过数周谈判，讨论最终不了了之。若 OpenAI 转型为营利公司，当时正考虑竞选加州州长、却在焦点小组测试中反响平平的 Altman 希望出任首席执行官；Musk 同样如此——他想要对这家实验室实施全面掌控，并持有多数股权。

夹在两人之间的 Sutskever 和 Brockman 险些倒向 Musk 一方——两人其实更倾向于由 Musk 来领导。但 Altman 以私人情谊和对 Musk 不可靠性的顾虑直接打动了 Brockman：Musk 面临诸多外部压力，行为时常反复无常。一旦 OpenAI 成功，将 AGI 的全面控制权交给 Musk，岂不危险？Brockman 被说服后，转而劝说仍举棋不定的 Sutskever。2017 年 9 月，Sutskever 代表自己和 Brockman 给 Musk 和 Altman 发出一封邮件，作为最后一次化解僵局的尝试。

“Elon：我们真心想与你共事，“Sutskever 写道，“我们相信，若能携手合作，实现使命的可能性最大。“但他也直言，Musk 对绝对控制权的渴望与 OpenAI 的初衷相悖。“你担心 Demis 会建立一个 AGI 独裁体制，我们同样担心。正因如此，建立一个能让你在选择时成为独裁者的架构，同样是个坏主意。”

“Sam：每当 Greg 和我陷入困惑时，你总能给出既深刻又正确的答案，“Sutskever 继续写道。话虽如此，Altman 的种种行为却让两人对他的真实想法和动机感到困惑。“我们不明白，CEO 头衔对你为何如此重要，“他写道，“你给出的理由一变再变，真正驱动你的是什么，实在令人难以捉摸。AGI 真的是你的首要动力吗？这与你的政治抱负之间有何关联？你的思路又是如何随时间演变的？”

“这些积压的问题已经足够多了，我们认为当面坐下来谈清楚至关重要，“邮件最后写道，“如果我们都能坦诚相告、解决分歧，我们共同创建的公司才更有可能经受住未来将要面对的强大冲击。”

不到十分钟，Musk 便回了邮件。“伙计们，我已经受够了。这是压垮骆驼的最后一根稻草，“他写道。如果 Sutskever 和 Brockman 仍想推进营利化，就只能另起炉灶；否则，OpenAI 将继续以非营利形式运营。“在你们明确表态留下之前，我不会再为 OpenAI 提供资金——否则我不过是在白白为一家初创公司输血，“Musk 说道。五十分钟后，他再次发来补充：“说清楚，这不是要你们接受之前讨论内容的最后通牒。那些都已经不在台面上了。”

次日清晨，Altman 在邮件串中接话：“我对非营利架构依然充满热情！“他还通过 Musk 的一位亲信副手 Shivon Zilis 进一步向 Musk 传递保证——Zilis 同时供职于特斯拉（Tesla）和 Neuralink，后者是 Musk 旗下的脑机接口公司。“完全支持保持非营利性质并继续提供支持，“Zilis 将 Altman 告诉她的内容整理后写信给 Musk，“他承认，在这个过程中，他与 Greg 和 Ilya 之间失去了大量信任。感觉他们传递的信息前后不一致，有时候显得有些幼稚。“Altman 也对 Greg 和 Ilya 在谈判期间不断向 OpenAI 其他成员通报情况颇感不满。“感觉这分散了团队的注意力，“Zilis 说。

但现实是，维持非营利组织的架构并不能解决 OpenAI 的资金问题。布罗克曼和苏茨克维尔持续与潜在的非营利投资者会面，却始终无法筹到他们认为 OpenAI 所需的那种规模的资本。马斯克在资金承诺上的反复无常，更让 OpenAI 随时面临陷入危机的风险。在外人不知情的情况下，奥特曼开始寻找融资替代方案，着手减少 OpenAI 对马斯克的依赖。他致电里德·霍夫曼，后者表示愿意出手垫付员工薪资和运营开支。奥特曼还考虑过发行一种新的加密货币，也调研了多种不同的公司架构，包括马斯克一度青睐的公益公司——这种架构可以让 OpenAI 转为营利性机构，同时在法律层面仍然对使命负有约束。

更迫切的压力来自一个如影随形的隐忧：OpenAI 随时可能失去最优秀的研究人员。此前，凭借马斯克的坚定支持，OpenAI 大幅提高了非营利薪酬，以抵御挖角。如今，人才争夺战只增不减——马斯克本人在 2017 年 6 月就挖走了 OpenAI 的核心创始科学家 Andrej Karpathy，让他出任特斯拉（Tesla）AI 部门的负责人。在薪酬方面，OpenAI 有一个重大劣势：无法向员工提供股权，而在湾区，许多科技工作者视股权为应对高昂生活成本的必要条件。

马斯克很快有了自己解决 OpenAI 资金问题的方案。2018 年 1 月，Andrej Karpathy 向马斯克发来邮件，附上新数据，说明谷歌（Google）在顶级 AI 研究发表方面有多强势。「站在 AI 前沿工作，代价不菲，」Karpathy 写道，「在我看来，OpenAI 目前在烧钱，而这种融资模式根本无法达到足以与谷歌（Google）认真竞争的规模——后者是一家市值八千亿美元的公司。」

将 OpenAI 改造成独立营利公司或许有助于融资，但这将要求实验室从头开发一款 AI 产品，对其基础 AI 研究来说是个重大干扰。「我能想到的最有希望的方案，正如我此前提到的，是让 OpenAI 依附于特斯拉，将其作为现金奶牛，」Karpathy 说。特斯拉在开发 AI 产品方面已经完成了大部分繁重工作——也就是其自动驾驶功能 Autopilot，他接着写道。如果 OpenAI 能帮助加速特斯拉将 Autopilot 打磨成完整的自动驾驶解决方案，仅此一项就有望将特斯拉的营收提升到足以支撑 OpenAI 庞大算力账单的程度。

马斯克将 Karpathy 的邮件转发给了布罗克曼和苏茨克维尔，并写道：「Andrej 说得完全正确。特斯拉是唯一有望与谷歌（Google）扳手腕的选择。即便如此，成为谷歌制衡力量的概率也很小——只不过不是零。」

然而此时，奥特曼已放弃了他的政治规划，并成功说服了布罗克曼，再经由布罗克曼说服了苏茨克维尔，让他们相信他才是更合适的领导者。随着团队作出决定，马斯克不再愿意以公开身份与这个组织产生关联。「我不能接受外界对我影响力和投入精力的认知与实际情况不符，」他此前曾这样写道。几周后，马斯克辞去 OpenAI 联合主席一职。奥特曼出任该非营利组织的总裁。

对外，OpenAI 将此次离职定性为马斯克存在利益冲突，并对新的财务现实只字不提：在那笔 10 亿美元的承诺中，OpenAI 最终实际收到的约为 1.3 亿美元，其中来自马斯克本人的不足 4500 万美元。OpenAI 的未来，现在完全押注于奥特曼凭一己之力的融资能力，既要弥补这些损失，又要持续满足对更多资本不断加剧的需求。

马斯克在 OpenAI 全员大会上亲口宣布了离职决定。对许多员工来说，他们对领导层的种种风波毫不知情，马斯克的离开既带来了一丝压力释放，也带来了对组织未来的深切不安。此前，马斯克一直是推动实验室公众形象的重要力量。会上，他毫无保留：率先实现安全的 AGI 是当务之急，而 OpenAI 以非营利身份显然无力做到这一点，他告诉员工；他将在特斯拉继续追求同一目标，凭借一家资源充裕公司的雄厚财力，成功的可能性要大得多。

一名实习生对马斯克的意图提出了质疑。这真的是最优方案吗？马斯克真的穷尽了所有选择吗？在特斯拉推进一个 OpenAI 的竞争对手，似乎只会催生营利性的竞赛逻辑，反而有损安全 AGI 的发展。「这难道不是在重蹈你说过不想走的老路吗？」这名实习生问道。

马斯克勃然大怒。「你真是个白痴！这件事我想了不知多少遍，我尝试了所有方法，你根本无法想象我花了多少时间在这个问题上，」他说，「我真的非常害怕这件事。」

这名实习生后来因其「英雄之举」获赠一座「白痴」奖杯以示纪念。那年圣诞节后的第二天，马斯克再次致信奥特曼、布罗克曼和苏茨克维尔：

邮件主题：我觉得有必要重申一遍。

在我看来，若不在执行力和资源上发生根本性的转变，OpenAI 与 DeepMind/谷歌（Google）抗衡的概率为 0%。不是 1%。我希望情况并非如此。

即使筹集到数亿美元也远远不够。这需要立即每年投入数十亿美元，否则就别想了。

奥特曼必须尽快去募资。

OpenAI加大了宣传力度，专注于能向普通受众展示实验室实力的演示项目，并尤其押注于其中一个：打造一批能在复杂战略电子游戏 Dota 2 中击败世界顶尖人类玩家的 AI 智能体。此前，OpenAI 已造出了一个能在单挑中击败最强人类玩家的智能体；如今，它要尝试组建一支由五个智能体构成的队伍，与世界最强的五人人类战队正面对决。

有意无意之间，这是在效仿 DeepMind 的路数。Dota 2 设有全球锦标赛，赛事会进行直播，能以胜负分明的方式将 OpenAI 的研究推向公众视野。DeepMind 已转向类似的项目，尝试在策略游戏《星际争霸 II》中击败顶尖人类玩家，这在潜在投资者眼中自然会形成一种对比。Dota 2 项目同样是算力密集型工程，也是测试和展示实验室长期规模化扩展（scaling）策略的好机会。领导 Dota 2 项目初始阶段的 Brockman 扩充了团队，开始着手推进。

如此一来，唯独还缺一部纪录片。这个任务落到了 OpenAI 机器人学团队的一名成员身上。他购置了昂贵的摄影器材，开始在办公室里跟拍 Dota 团队，亲自执笔写剧本，将素材剪成了一部长达三小时的史诗。然而，他的一番心血换来的是 OpenAI 员工的一致差评——审看样片的人都认为它糟透了。随后，专业团队被请了进来，Brockman 也开始部分自掏腰包为此买单。

与此同时，奥特曼着手完善融资方案。在考察了多种营利性架构之后，他提出了一个不同寻常的方案，试图在资本需求与坚守 OpenAI 使命之间取得平衡。共益公司虽然内置了维护这种平衡的机制，但附带了太多其他规则。于是，奥特曼转而选择设立一家有限合伙企业（LP），作为接受投资和将 OpenAI 技术商业化的营利性部门。该部门将对投资者的回报设定上限，并由 OpenAI 的非营利主体进行管控。LP 的优势在于，其运营协议可以完全按照创立者的意愿起草：OpenAI 可以明确规定使命优先于投资者利益。LP 还限制了股东所能行使的权力，使其永远无法取得多数控制权。

奥特曼向员工仔细阐明了这一方案的逻辑：OpenAI 最初承诺远离逐利动机，是为了防止实验室在使命上做出妥协。但如今，实验室的成功所需资本远非非营利主体所能筹集，死守原有架构反而面临更大的风险——可能危及使命本身。最终，大多数人都认可了有限合伙企业是最佳路径，尽管有些人是勉强同意。

2018 年 4 月，OpenAI 发布了一份章程，为这一转型铺路。文件未公开透露任何即将发生的变化，但重申了实验室的宗旨，并更新了措辞：“OpenAI 的使命是确保通用人工智能（AGI）……造福全人类。“文件还补充道，为实现这一使命，OpenAI 需要"站在 AI 能力的最前沿"并"投入大量资源”；出于"安全与保密方面的考量”，实验室或许不得不收回公开发布研究成果的承诺。OpenAI 还首次明确了其对 AGI 的定义：“能在大多数具有经济价值的工作中超越人类的高度自主系统。”

那年夏天，Dota 团队开始在业余赛事中接连获胜，并在科技媒体上大肆宣扬战果（某报道标题就曾如此写道：“OpenAI 的 Dota 2 AI 连克世界冠军电竞战队，两度碾压”），与此同时，奥特曼在爱达荷州太阳谷举办的 Allen & Company 年会上偶遇了微软（Microsoft）CEO 萨提亚·纳德拉。这一年度盛会素以"亿万富翁夏令营"著称，多起重大企业交易都曾在此达成。奥特曼已做好了谈成自己那笔交易的准备。

他向纳德拉推介了对 OpenAI 的投资机会，足以引发这位首席执行官的兴趣。但纳德拉心存疑虑：微软（Microsoft）内部已有 Microsoft Research 这一长期运营的 AI 研究部门，是否还有必要向外部机构投资？返回微软（Microsoft）后，他向高级顾问们抛出了这个问题。

“Microsoft Research 和 OpenAI 都是推动前沿发展的组织，“时任 Azure AI 首席技术官的黄学东表示。为什么不两者都投呢？

不到半年，OpenAI与微软（Microsoft）便开始认真磋商合作协议。阿尔特曼着手铺垫法律基础，加快推进有限合伙公司的筹建，并自任其首席执行官。在内部，这一项目的代号是"俄勒冈小道”。为了防止交易消息外泄，这家营利性实体还以化名"SummerSafe LP"完成注册。这个名字取自动画《瑞克和莫蒂》中的某一集：剧中主角、疯狂科学家瑞克与外孙莫蒂要前往另一个宇宙，临行前将莫蒂的姐姐萨默（Summer）留了下来，并命令他们的座驾"保护萨默的安全”。汽车将这一指令奉若圭臬，不惜采取极端残暴的防御手段，包括杀死、瘫痪和折磨任何靠近车辆的人。这个化名，是对人工智能潜在危险的一种隐晦致意。

2019年初，微软高层管理人员开始陆续造访OpenAI。首先到来的是这家科技巨头热情洋溢的首席技术官凯文·斯科特——他长期关注OpenAI，对这家初创公司颇为欣赏；随后是Craig Mundie，纳德拉的高级顾问，曾在微软高管团队任职逾二十年，其中包括首席研究与战略官一职。比尔·盖茨也来了，一如既往地沉默寡言，默默观摩了一系列演示。大多数员工对微软的来访毫不知情。阿尔特曼要求负责谈判的小团队严格保密，不得透露潜在投资的任何消息。

几乎与此同时，阿尔特曼在YC那边开始遭遇麻烦。出任YC掌门人五年之后，外界对他的不满已积累到临界点——问题的症结与当年在Loopt时惊人地相似：他似乎总将个人项目和个人抱负置于组织利益之上，有时甚至不惜以牺牲组织利益为代价。他大量时间耗在OpenAI谈判上，无暇为YC孵化的初创公司提供辅导，无疑加剧了矛盾。在一些人看来，阿尔特曼通过个人基金Hydrazine投资YC旗下公司，坐享丰厚的个人回报，自身的工作贡献却极为有限。据《华盛顿邮报》报道，Jessica Livingston得知他频繁缺席后深感忧虑，力劝他辞去YC主席一职。阿尔特曼接受了这一建议。2019年初，保罗·格雷厄姆专程从退休居住地英国飞赴旧金山，亲自敲定了这一决定。

阿尔特曼试图在公开层面淡化这次变故。2019年3月8日，就在他接待参议员舒默（Schumer）的当天，他在YC官网发布了一篇博文，宣布自己将从YC主席转任董事长，以便腾出更多时间专注于OpenAI。数日后的3月11日，Brockman与Sutskever公开发布了OpenAI LP，阿尔特曼也随之披露了自己担任其首席执行官的身份。时机拿捏得颇为讲究。媒体普遍将这一动作解读为阿尔特曼职业生涯中一步精心设计的棋，以及他出任YC董事长的新角色。然而他实际上从未获得过这一头衔。据《华尔街日报》报道，他不过是向YC合伙人提出了这一构想，便径自将其作为既成事实对外公布，既未征得对方同意，也未获得任何正式授权。那篇博文此后经过修改，将阿尔特曼的相关内容全部删除。

在OpenAI，阿尔特曼的新头衔不过是对他自马斯克离开以来实际扮演角色的正式确认。当他真正接掌大权时，许多员工松了一口气。他沉稳内敛的风格与马斯克的高压强度和喜怒无常形成了令人宽慰的反差。阿尔特曼还着手化解员工对Brockman和Sutskever管理方式积累的不满——他引入了一位高管教练，并为管理层提供了系统培训。他也充实了高层领导班子：从YC引进投资人Brad Lightcap出任首席财务官；将曾在Thiel创立的Palantir主导工程与产品管理的Bob McGrew从机器人学团队提拔为研究副总裁；并聘用了曾在虚拟现实初创公司Leap Motion主持产品与工程、后又参与特斯拉（Tesla）Model X项目的米拉·穆拉蒂，负责统筹硬件战略及核心研究方向。

随着OpenAI LP的成立，大多数员工从非营利实体辞职，以含股权激励的新合同加入了营利性主体。（持有绑定非营利实体签证的海外员工除外。）新的薪资级别体系将薪酬不仅与"工程专业能力"和"研究方向"挂钩，还纳入了"章程契合度"这一维度。三级员工须"理解并内化OpenAI章程”；五级员工须"确保自己及团队成员参与的所有项目均符合章程”；七级员工则须"负责维护和完善章程，并督促组织内其他成员履行同等职责”。高管团队还专门起草了一份常见问题解答文件，以安抚员工残存的疑虑。其中一个问题是：“我能信任OpenAI吗？“答案以"能"字开头。

在更广泛的科技圈，OpenAI的转型引发了一波指责浪潮，认为这家实验室正在背弃其最初的承诺。有限合伙协议的初始条款规定，第一轮投资者的回报上限为其投入金额的一百倍。OpenAI将这一自创结构称为"利润封顶"公司。在YC旗下热门科技资讯聚合网站Hacker News上，一名用户质疑这一上限究竟有何实质意义。“也就是说，投资一千万美元，上限是十亿美元，哈哈，基本上毫无限制——除非公司长到FAANG那种规模，“他写道。FAANG是Facebook、苹果（Apple）、亚马逊（Amazon）、Netflix和谷歌（Google）的首字母缩写。

Brockman以其用户名gdb回复道：“我们相信，如果我们真的创造出AGI，将会创造出比任何现有公司都多出数个数量级的价值。”

又有一名用户追问：“谷歌（Google）的早期投资者已获得约二十倍的资本回报，谷歌目前估值七千五百亿美元。你们是在押注，你们的公司架构将带来远超谷歌数个数量级的回报……但你们又不想’过度集中权力’？“他引用章程原文写道，“权力究竟是什么，如果不是资源的集中？”

首批投资涌入有限合伙公司，包括从 OpenAI 非营利组织转入的逾 6000 万美元、YC 出资的 1000 万美元，以及 Khosla Ventures 和 Hoffman 慈善基金会各自注入的 5000 万美元。Hoffman 后来回忆说，在 OpenAI 既无产品又无市场计划的情况下，他起初对追加投资颇为犹豫。但 Altman 告诉他，此举有助于证明 OpenAI 认真发展盈利业务的决心，他最终同意联合领投本轮融资。

与此同时，微软（Microsoft）仍在慎重权衡。纳德拉、Scott 及其他微软高管已对初始投资点头认可，唯一还在观望的是比尔·盖茨。

对盖茨而言，《Dota 2》并没有多少吸引力，机器人学同样未能打动他。机器人团队曾演示过一只机械手——它通过自身试错学会了还原魔方，收获了清一色的正面报道。但盖茨觉得这没什么实际用处。他想要的是一个能消化书籍、理解科学概念、并根据材料回答问题的 AI 模型，一个能辅助科研的助手。

OpenAI 只有一个项目勉强符合这一要求：一个名为 GPT-2 的大型语言模型，能够生成与人类写作高度相似的文本段落。那年二月，OpenAI 主动向媒体放出了一个罕见的声明：这一模型只要再精进一步，便可能成为极度危险的技术——威权政府或恐怖组织可将其武器化，大规模制造虚假信息；用户也可能用海量垃圾内容淹没互联网，使高质量信息难觅踪迹。OpenAI 表示，它将占据道德高地，拒绝发布拥有 15 亿个参数（即变量，是衡量模型规模与复杂度的近似指标）的完整版本。作为替代，为了让公众略窥社会需要为之做好准备的那类能力，它只发布了一个缩减版，规模不足完整版的十分之一，每次仅能生成数句文字，且容易出现前言不搭后语和内容重复的问题。

GPT-2 距离真正理解科学概念还差得很远，但这个模型能做一些基本的文档摘要，也算能回答几个问题。OpenAI 的部分研究人员由此萌生了一个想法：如果用更多数据训练一个更大的模型，并让它执行至少在表面上更接近盖茨所期待的任务，或许就能让他从反对者变成——至少——一个中立者。2019 年 4 月，一小群研究人员飞赴西雅图，演示了他们所称的"Gates 演示”——一个经过强化的 GPT-2。演示结束时，盖茨果真被说动了，程度刚好足够让这笔交易得以推进。

在随后的全员大会上，Altman 宣布了这一消息，将微软（Microsoft）定性为合适的投资方与合作伙伴。这家科技巨头拥有 OpenAI 所需的资金与算力，其领导层也与确保 AGI 造福人类的使命高度契合。OpenAI 对微软（Microsoft）的商业化交付也只作出了非常宽泛的承诺，实验室几乎没有在任何方面妥协，Altman 说。这是一笔非常划算的交易。

在微软（Microsoft）内部，这笔投资被以务实的方式定性。OpenAI 究竟能否实现 AGI，并不是他们真正关心的问题。但 OpenAI 显然站在技术前沿，早期入局或许终于能让微软（Microsoft）在人工智能领域——无论是软件还是硬件——成为足以与谷歌（Google）比肩的领军者。“Open AI、Deep Mind 和 Google Brain 所做之事令人瞩目之处，在于其雄心的规模，“Scott 在六月中旬致信纳德拉和盖茨时写道——他在信中提到了谷歌（Google）的人工智能研究部门——“以及这种雄心如何驱动着从数据中心设计、算力芯片、网络与分布式系统架构、数值优化器、编译器、编程框架，到模型开发者所能使用的高层次抽象的方方面面。“他说，微软（Microsoft）在多个层面都已落后，处境令人忧虑：它一直难以复现谷歌（Google）最优秀的语言模型，Azure 云计算平台与谷歌（Google）的同类基础设施相比也存在巨大差距。仅凭一己之力追赶，可能需要数年时间。他"非常、非常担忧”。

纳德拉当天即回复，将盖茨移出收件人，加入了微软（Microsoft）首席财务官 Amy Hood。“这封邮件写得很好，解释了我为何希望我们推进这件事……也解释了为何我们随后要确保基础设施团队切实执行，“他说，用了"infra"这一基础设施的缩写。

一个月后，2019 年 7 月 22 日，微软（Microsoft）正式宣布了这笔 10 亿美元的投资。根据协议条款，其回报上限为 20 倍。

3 神经中枢

两周后，2019年8月7日，我来到了OpenAI的办公室。彼时，这家实验室已迁入旧金山教会区第十八街与福尔瑟姆街交口附近一栋独立建筑，距那家巧克力工厂不远。大楼外立面为灰色，转角处涂写的文字宣示着一处历史地标的存在：先锋大楼，曾是先锋行李箱工厂的旧址。三年前，马斯克通过旗下一家公司租下了这栋楼，接手了一家以Stripe为主要租户的共享办公空间所完成的内部翻新。OpenAI随后与马斯克的另一家公司——脑机接口公司Neuralink——一同迁入。

穿行于教会区的路上，我已微微见汗。沿途，那些深受本地人喜爱的墨西哥小餐馆正被时髦新咖啡馆一点点蚕食，无家可归者的帐篷也在路边蔓延开来。推门而入，一阵凉意扑面而来。越过安保台，门厅向内延展为一片开放的休息区。阳光从窗户倾泻而入，洒在裸露的木梁天花板和舒适的沙发上。右侧是一间供员工就餐的自助餐厅；墙边的书架上，桌游与书籍随意叠放。

在硅谷，办公室设计是一种货币，既象征着公司对自身财务前景的信心，也是争夺顶尖人才这场竞赛中的微弱筹码。2021年，OpenAI将接管附近几个街区另外两栋相连的建筑，耗资一千万美元，历时两年，翻新逾三万平方英尺。员工们称第一处办公室为"先锋大楼"，第二处——原为一家蛋黄酱工厂——则被戏称为"Mayo"。阿尔特曼将亲自主持Mayo的室内设计：楼梯从先锋大楼那架工业金属框架换成了起伏流动的木石中心装置；休息区的椅子从网上售价约两千美元的皮质扶手椅，升级为售价逾一万美元的巴西设计师款躺椅。他还在Mayo辟出一间图书室，铺设木质书架与波斯地毯，设计灵感取自他最钟爱的一家巴黎书店，与他母校斯坦福大学最大图书馆里一处自习空间的融合。他想要"一处水景"，他告诉公司的设计师。设计师提出了一个方案：在办公室中央悬挂一道壮观的悬空瀑布——以人工结构承载自然的装置，寓意人机共生。最终，阿尔特曼选择了另一个方向：汩汩作响的石砌喷泉，环以繁茂植物，点缀在沙发周围，从天花板垂挂而下，顺着墙面层叠流淌。

在两处办公室之外，同样这两年间，疫情进一步冲击了这个早已成为科技产业绅士化震中的街区。历史悠久的拉丁裔商家相继关门。暴力犯罪案件激增。随着无家可归现象演变为危机，先锋大楼门口几步之遥便扎起了一排帐篷，垃圾随处丢弃。

然而，在这里，沐浴于温暖明亮的室内，杂志随意摆在桌上，置身其中，很容易活在一个更温柔的现实里。一位员工后来告诉我，这正是她在公司那段岁月的缩影。加入OpenAI，就像踏入了另一个平行宇宙。直到离开之后，她才重新落回了地面。

布罗克曼，时年三十一岁，彼时是OpenAI的首席技术官，不久后将升任公司总裁，他走下楼梯来迎接我。他带着一丝拘谨的微笑与我握手。“我们以前从未给过任何人这么大的采访权限，“他说。

那时，人工智能研究这个自成一体的小圈子之外，几乎没有人听说过 OpenAI。但我当时是《麻省理工科技评论》（《麻省理工科技评论》）的记者，专门报道人工智能不断扩张的边界，一直在密切追踪这家公司的动向。

在那一年之前，OpenAI 在人工智能研究领域多少是个异类。它抱持着一个离经叛道的前提：AGI 可以在十年内实现——而大多数圈外专家压根不信这一天会来临。在许多同行看来，这家机构拿着多得出奇的资金，却方向不明，大把的钱砸向营销，做出的研究也常被同行讥为了无新意。它也是一些人眼中嫉妒的对象。身为非营利机构，它宣称无意追逐商业化，是少有的不附带任何条件的智识游乐场，也是异端想法的避风港。

然而在我到访前的六个月里，OpenAI 接连涌现的变化，预示着它的发展轨迹正在发生重大转向。首先是那个令人费解的决定——扣押 GPT-2，并将此事大肆宣扬。紧接着是宣布 Altman 出任 OpenAI CEO——他此前以神秘方式离开了在 YC 的要职——同时公司建立起全新的「利润上限」架构。我已安排好到访行程，随后公司又披露了与微软（Microsoft）的合作协议：该协议赋予这家科技巨头优先将 OpenAI 技术商业化的权利，同时锁定其专属使用微软的云计算平台 Azure。

每一则新公告都引发新的争议、强烈的猜测，以及日益扩散的关注，影响力开始渗透到科技行业之外。我和同事们持续追踪这家公司的进展，却越来越难以把握其中的全部分量。可以确定的是，OpenAI 正开始对人工智能研究，以及政策制定者理解这项技术的方式，施加切实的影响。这家实验室将自身改造为部分营利性机构的决定，势必在其所辐射的产业界与政界掀起层层涟漪。

于是，在一个深夜，在编辑的催促下，我匆匆给 Jack Clark 发了一封邮件——他是 OpenAI 的政策主任，我们此前有过交流：我将在城里待两周，感觉这正是 OpenAI 历史上的一个特殊节点，不知他们是否有兴趣接受一次深度报道？Clark 将我转给公关负责人，对方回了话。OpenAI 确实已准备好重新向公众介绍自己。我将有三天时间采访领导层，并深入公司内部实地驻访。

Brockman 和我在一间玻璃会议室里与 Sutskever 落座。他们并肩坐在长长的会议桌旁，各自扮演着自己的角色。Brockman 是那种动手做事的程序员，他身子微微前倾，略显紧张，一副想给人留下好印象的样子；Sutskever 则是研究者兼思想者，往椅背上一靠，神态悠然，若即若离。

我打开笔记本电脑，翻到准备好的问题清单。我开口道：OpenAI 的使命是确保 AGI 造福人类。为什么要在这个问题上砸下数十亿美元，而不是别的什么？

Brockman 用力点头。他早已习惯为 OpenAI 的立场辩护。“我们之所以如此看重 AGI、认为构建它至关重要，是因为我们相信它能帮助解决那些仅凭人类之力难以触及的复杂问题，“他说。

他举了两个例子，这两个例子已成为 AGI 信徒的共同教义。气候变化——“这是个极其复杂的问题，你究竟该怎么解决它？“医疗健康——“看看医疗问题在如今的美国政治议题中有多重要。我们怎样才能让人们以更低的成本获得更好的治疗？”

说到医疗，他讲起一位朋友的遭遇：这位朋友患有罕见病，最近不得不辗转奔波于各路专科医生之间，筋疲力竭地寻找答案。AGI 将整合所有这些专科领域，让像他朋友一样的人不必再为得到一个诊断耗尽心力。

我问：为什么解决这些问题需要 AGI，而不是 AI 就够了？这是一个重要的区别。“AGI"这个词曾长期蛰居于技术词典的冷僻角落，直到近年才逐渐进入主流视野——这在很大程度上正是 OpenAI 推动的结果。按照 OpenAI 的定义，AGI 指的是 AI 研究的理论顶峰：一种软件，在复杂程度、灵活性和创造力上与人类心智相当，足以在大多数（具有经济价值的）任务上媲美乃至超越人类表现。关键词在于"理论”。数十年来，AI 研究者始终争论不休：由二进制 0 和 1 编码的硅芯片，究竟能否模拟大脑及其他赋予我们所理解的"智能"的生物过程？迄今尚无确凿证据证明这是可行的，而这还没有触及"人类是否应该开发它"这一规范性问题。

相比之下，AI 是当下已有技术及研究者通过改良现有能力在近期可合理期望实现的技术版本的通用称谓。这些能力以强大的模式匹配为根基——即机器学习——已在气候变化应对和医疗健康领域展现出令人振奋的应用前景。

就在那个夏天，一批获得该领域顶尖科学家支持的研究者成立了一个名为 Climate Change AI 的新机构，旨在推动 AI 技术与模型在气候相关挑战中的实质性应用。该机构在一份白皮书中梳理了十类尤其适合现有机器学习能力的挑战，包括：提升建筑能效、优化电网负荷分配以融入更多可再生能源，以及发现用于能源生产与储存的新材料，或碳排放更低的水泥与钢铁。

同年十二月，Climate Change AI 将在年度 AI 研究盛会 NeurIPS 上举办一场座无虚席的研讨活动；就在前一天，另一个团队在走廊尽头一间足球场大小的会议室里举办了同样人气旺盛的机器学习医疗研究研讨会。演讲嘉宾的报告和张贴在墙上的海报展示了琳琅满目的应用场景，包括：利用计算机视觉在医学影像中检测阿尔茨海默症等疾病早期那些几乎难以察觉的微细迹象，以及利用语音识别帮助有言语障碍的患者更顺畅地表达自己。这个持续举办的研讨会始终强调与健康领域专家和临床医生的合作，两年后演变为独立机构——机器学习健康组织（Machine Learning for Health）。

来自这两个机构的研究者告诉我，在这些领域工作面临的主要挑战并非技术层面的局限，恰恰相反：难题在于说服有才华的科学家将精力投向那些只需相对简单的机器学习方案即可解决的问题，而不是追逐最前沿的技术——那些前沿技术更能满足他们的个人抱负，写在研究简历上也更好看。另一个难题则是推动这些解决方案在全球范围内落地的政治意愿。“能够应对气候变化的技术已经存在多年，但在很大程度上，社会尚未在规模上采纳它们，“Climate Change AI 的研究者在白皮书中写道。他们希望 AI 能"有助于降低气候行动的成本，但人类同样必须下定决心付诸行动”。

会议室里，Sutskever 插话了。谈到解决复杂的全球挑战，他说：“归根结底，瓶颈在于人的数量庞大，而人与人之间的沟通速度不够快、工作效率不够高，还存在大量激励错位的问题。“AGI 则不同，他说。“想象一下，这是一个由智能计算机组成的庞大网络——它们都在进行医疗诊断，彼此之间的结果交换极其迅速。”

在我看来，这似乎是在换一种说法表明：AGI 的目标就是取代人类。这是 Sutskever 的意思吗？几小时后只剩我们两人时，我问了 Brockman。

“不是，“Brockman 迅速回答。“这一点非常重要。技术的目的是什么？它为何存在？我们为什么要创造它？我们已经建造技术数千年了，不是吗？我们之所以这样做，是因为技术服务于人。AGI 也不会例外——至少在我们的构想中不会，在我们希望构建它的方式中不会，在我们认为它应当走向何方这件事上不会。”

话虽如此，他几分钟后也承认，技术历来都会消灭一些旧有职业，同时催生新的职业。OpenAI 面临的挑战，在于构建一种能够赋予每个人"经济自由"的 AGI，同时让人们在那个新现实中继续"过上有意义的生活”。如果成功，就能切断工作与生存之间的捆绑关系。

“我真心觉得那是件非常美好的事，“他说。在我们与 Sutskever 的会面中，Brockman 提醒我着眼大局。“我们对自身角色的定位，实际上并不是决定 AGI 是否会被构建出来，“他说。这是硅谷惯用的论调——诉诸必然性：如果我们不做，别人也会做。“轨迹已经摆在那里了，“他强调，“但我们能影响的，是它诞生时的初始条件。”

「OpenAI 是什么？」他继续道，「我们的使命是什么？我们究竟想做什么？我们的使命，是确保 AGI 造福全人类。而我们实现这一点的方式是：构建 AGI，并分配其经济收益。」

他的语气平淡笃定，仿佛已将我的疑问一一化解。然而不知何故，我们绕了一大圈，竟又回到了最初的起点。

我与 Brockman 和 Sutskever 的对话就这样兜圈子，转了四十五分钟才戛然而止。我费了不少力气，却始终未能追问出他们究竟打算构建什么——他们解释说，这本来就是未知之事——以及既然如此，他们又凭什么如此笃定这件事将造福人类。

有一刻，我换了个角度，请他们举出这项技术的不利之处。这是 OpenAI 建立神话的核心支柱：实验室必须在别人造出有害 AGI 之前，先造出有益的 AGI。

Brockman 尝试作答：深度伪造。“很难说世界因为它的应用而变得更好，“他说。

我给出了自己的例子：既然谈到气候变化，AI 本身的环境影响又该如何计算？马萨诸塞大学阿默斯特分校近期有一项研究，用令人警醒的数字揭示了训练越来越大的 AI 模型所产生的巨大且持续攀升的碳排放。

Sutskever 说，这"无可辩驳”，但付出这样的代价是值得的，因为 AGI “除了其他方面，将专门抵消这一环境成本”。他没有进一步举例。

“数据中心尽可能绿色环保，这毋庸置疑、极为可取，“他补充道。

“毫无疑问，“Brockman 随口附和。“数据中心是能源、是电力的最大消耗者，“Sutskever 接续说，此刻似乎一心要证明他意识到并在乎这个问题。

“全球占比 2%，“我插嘴说。“比特币不是占 1% 左右吗？“Brockman 说。“哇！“Sutskever 突然迸出一声，带着一股情绪——但此时对话已进行了四十分钟，这声惊叹不免让人觉得有些做作。

Sutskever 后来接受了《纽约时报》记者 Cade Metz 的专访，出现在其著作《天才制造者》中。这本书以叙事形式回顾了 AI 发展的历史。他毫无讽刺之意地说道：“我认为，相当有可能用不了太长时间，整个地球表面就会被数据中心和发电站覆盖。“届时将涌现"一场计算海啸……几近于一种自然现象”。AGI——以及支撑它们所需的数据中心——将"有用到不可能不存在”。

我再次尝试追问细节。“你的意思是，OpenAI 正在孤注一掷，押注你们能在成功实现造福人类的 AGI 之前，让它足以抵消全球变暖的影响，而不是反过来将其加剧。”

“我不会顺着这条兔子洞往下走，“Brockman 急忙打断。“我们的想法是这样的：我们正处于 AI 进步的上升轨道。这比 OpenAI 更宏大，对吧？这是整个领域的事。我认为社会实际上正在从中受益。”

“我们宣布那笔交易的当天，“他说——指的是微软（Microsoft）新注入的十亿美元投资——“微软（Microsoft）的市值涨了一百亿美元。人们相信，即便只看短期技术，投资回报率也是正的。”

他解释说，OpenAI 的策略其实相当简单：跟上这股进步的浪潮。“这才是我们真正应当对标的准绳。我们应该持续推进。这就是我们知道自己走在正轨上的方式。”

当天晚些时候，Brockman 再次强调，在 OpenAI 工作的核心挑战在于，没有人真正知道 AGI 会是什么样子。但作为研究人员和工程师，他们的任务是不断向前推进，一步步发掘出这项技术的轮廓。

他的口吻像米开朗基罗，仿佛 AGI 早已潜藏在他正在雕凿的大理石之中。他所要做的，不过是一刀一刀地凿下去，直至它自行显现。

计划临时有变。我原本安排与员工在食堂共进午餐，但现在有事需要我离开办公室。布罗克曼充当我的陪同，带着我跨过街道——二十来步之外有一家露天咖啡馆，已经成了员工们最爱聚集的去处。

这将贯穿我整趟访问：有些楼层我无法进入，有些会议我不得参加，研究人员每说几句话就会偷偷瞥向公关负责人，确认自己没有触犯某项信息披露规定。我后来得知，在我拜访结束后，Jack Clark在Slack上向员工发出了一次措辞异常严厉的警告，要求他们在经批准的对话范围之外不得与我交谈。保安收到了我的照片，一旦我未经授权出现在公司内，须即刻保持警惕。这种行为本身已足够奇怪，而OpenAI对透明度的一贯承诺更使之显得格格不入。我开始疑惑：如果一切研究终将有益于公众并向公众开放，他们究竟在隐瞒什么？

午餐期间及随后几天，我持续追问布罗克曼为何联合创办OpenAI。他少年时便对一个念头着了迷：人类的智能也许可以被重新创造出来。让他痴迷的，是英国数学家艾伦·图灵的一篇著名论文。论文第一节的标题"模仿游戏"后来为2014年那部好莱坞传记片提供了片名，开篇即是一个颠覆性的追问：“机器会思考吗？“论文随后定义了后来广为人知的图灵测试——以机器能否在与人类的对话中不暴露自身身份，来衡量机器智能的发展程度。这是AI从业者中流传的经典启蒙故事。布罗克曼深受吸引，编写了一个图灵测试游戏并发布到网上，吸引了约1500次访问。那感觉好极了。“我意识到，那正是我想要追求的方向，“他说。

然而彼时，他的顿悟来得太早；AI尚未做好登上历史舞台的准备，而他也不是那种愿意把自己关进实验室埋头搞研究的人。他转而加入了Stripe，同样被亲手缔造一家公司、将产品送到真实用户手中的前景所激动。在Stripe，布罗克曼以传奇般的编程生产率赢得声誉。他是一名"十倍工程师”——硅谷行话，指那些能以普通程序员十倍速度攻克编程难题的人。但在人际相处上，他就没那么擅长了。担任CTO期间，他远更乐于写代码，而非管理团队。尝试了一段时间他所说的"走人际路线"之后，他开始寻求卸掉行政职责、将大部分时间用于编程的方式。他真心在乎是否对同事尽责，却也时常犯下令人尴尬的社交失误。一位前同事回忆，他有次约了一位Stripe员工出去，随即就向全公司发邮件公告此事，理由是完全透明。“我觉得他是出于好意，但实在太奇怪了，“这位同事说。

2015年，随着AI迎来一次次重大突破，布罗克曼与Stripe分道扬镳。他说，他意识到是时候回归最初的志向了。对那家初创公司而言，这或许也未尝不是好事：随着Stripe日趋成熟，他不愿管理、不愿遵守标准公司流程的态度越来越成为一个问题。他在笔记本上写道，为了推动AGI的实现，他愿意做任何事，哪怕去当清洁工。四年后结婚时，他在OpenAI办公室举行了一场民事仪式，背景是专门定制的花墙，上面绣着实验室六边形标志的轮廓。苏茨克维尔担任证婚人。他们用于研究的机械臂立在过道上托举着戒指，犹如一个来自末世的哨兵。

“从根本上说，我想把余生都用来推进AGI，“布罗克曼告诉我。

他对一切事物都带着这种强度。他亲力亲为，注重细节，常常工作到深夜乃至通宵，完全被眼前的任务所吞没。不工作的时候，他也在努力磨砺自己。他阅读关于公开演讲和谈判的书籍，认为这些技能有助于他服务OpenAI的使命。他有些不好意思地承认，他也会为了消遣而读书——刘慈欣的《三体》三部曲和艾萨克·阿西莫夫的《基地》系列这样的科幻巨著。

对员工而言，他这种永不停歇的专注既是福气，也是负担。没有任何细节小到可以被他忽视。如果某个团队卡住了，他能一坐数小时不挪地方，帮他们逐一清除所有编程障碍。他是驱动不竭进步的引擎，愿意不分昼夜地工作，以便更快实现每一个里程碑。然而另一方面，员工们常觉得他过于纠缠细节，只见树木不见森林。他容易陷入隧道视野——围绕一个问题昼夜不停地攻关，却不抬头看看背景是否已经改变、这个问题是否还值得解决。一旦觉得编程进度不够快，他就会开始过度干预，迅速从其他员工手中接手工作。与他共事的人常常难以跟上，许多人因此精疲力竭。

一位曾与布罗克曼密切共事的前工程师说，没有他，OpenAI不可能走到今天。但如果完全由他说了算，事情会变得非常糟糕。“Greg没有愿景。他不是山姆·奥特曼那样的远见者。他只是想找一个够酷的难题去攻克，证明自己比任何人都聪明十倍。”

是什么在驱动着你？我问布罗克曼。一项改变世界的技术出现在你有生之年的概率有多大？他反问道。

他自信地认为，他和他所组建的团队具有无可替代的位置，能够引领这场变革。“真正吸引我的，是那些如果没有我的参与、就不会以同样方式展开的问题，“他说。

布罗克曼实际上并不只是想去当清洁工。他想要主导AGI的到来。他身上散发着一股焦灼的能量，渴望获得能够定义历史的认可。他希望人们有朝一日讲述他的故事时，能像他讲述那些伟大先驱时一样，带着同样的敬畏与赞叹。

在我们交谈的前一年，他出席了太浩湖一场仅限受邀的年轻科技创业者闭门聚会，带着一丝自怜感慨道：首席技术官从来不会被人记住。他向台下发出挑战：给我说一个家喻户晓的CTO。众人支支吾吾，答不上来。他的观点得到了印证。

2022年，他成为OpenAI的总裁。

在我们的谈话中，Brockman 一再向我强调，OpenAI 的种种架构调整并不意味着其核心使命发生了转变。事实上，有限合伙人机制以及新一批投资人反而强化了这一使命。“我们设法找到了这些使命导向的投资人，他们愿意将使命置于回报之上。这简直是件不可思议的事，“他说。

OpenAI 如今已拥有践行 OpenAI 定律所需的长期资源。Brockman 强调，这一点至关重要。跟不上曲线，才是真正威胁 OpenAI 使命的隐患。一旦落后，便无法保持领先；不能领先，就无望将历史的走向引导至他们所设想的造福人类的通用人工智能（AGI）。

直到后来，我才真正意识到这一断言所蕴含的深层逻辑。正是这个根本假设——要么率先抵达终点，要么满盘皆输——推动着 OpenAI 的一切行动，并由此引发了深远的连锁效应。它给每一项研究突破都装上了一枚计时炸弹，驱动节奏不再取决于审慎思考所需的时间，而是取决于抢在所有人之前冲线的疯狂速度。它为 OpenAI 消耗难以想象的资源提供了正当理由：算力方面，不论对环境造成何种影响；数据方面，数据的积累不能因取得授权或遵守监管而有所迟缓。

Brockman 再次提到微软（Microsoft）市值一跃攀升的百亿美元。“这真正反映的是，人工智能今天正在向现实世界交付真实的价值，“他说。他也承认，这些价值目前正集中流向一家本就富可敌国的企业——这正是 OpenAI 使命第二部分存在的意义：将 AGI 的红利重新分配给每一个人。

我问他：历史上是否有过某项技术的红利被成功广泛分配的先例？

“嗯，我其实觉得——互联网倒是个挺有意思的例子，“他有些磕绊，最终给出了答案，“当然也有问题，对吧？“他随即补充道，“任何具有颠覆性的事物，如何最大化正面影响、最小化负面影响，都不是一件容易的事。”

“火，也是一个例子，“他接着说，“它同样有一些真实的弊端。所以我们必须学会如何控制它，并建立共同的规范。”

“汽车是个好例子，“他继续道，“很多人拥有汽车，给很多人带来了好处。当然也有弊端，有一些外部性，对世界未必是好事，“他有些迟疑地收了尾。

“我想我的看法是——我们对 AGI 的期待，其实和互联网的正面价值、汽车的正面价值、火的正面价值并没有本质区别。只是实现方式截然不同，因为它是一种全然不同的技术。”

他眼中忽然闪过一丝灵光。“看看公用事业就知道了。电力公司、供电企业都是高度集中的实体，却能以低廉的价格提供高质量的服务，切实改善人们的生活。”

这是个不错的类比。但 OpenAI 究竟如何将自身转型为一家"公用事业”，Brockman 似乎依然没有清晰的答案。他喃喃自语，或许可以通过分配全民基本收入，或许通过其他什么途径。

他将话题拉回到自己唯一确信的事情上。OpenAI 致力于重新分配 AGI 的红利，给予每个人经济上的自由。“我们说这话是认真的，“他说。

“我们的想法是：迄今为止，技术确实能让所有人受益，但它也有着真实的集中效应，“他说，“AGI 可能会走向更极端的境地。如果所有价值最终都被锁定在某一个地方，会怎样？那正是我们这个社会目前所走的轨迹。而我们从未见过如此极端的情形。我不认为那是一个好的世界。那不是一个我愿意选择加入的世界，也不是一个我愿意为之添砖加瓦的世界。”

2020年2月，我在《麻省理工科技评论》发表了一篇人物特写，素材来自我在办公室的亲身观察、近三十余次访谈，以及少量内部文件。“公司公开宣扬的理念与其背后的实际运作之间存在失对齐，“我写道，“久而久之，激烈的竞争心态和日益膨胀的融资压力，逐渐侵蚀了公司创立之初所秉持的透明度、开放与协作精神。”

数小时后，马斯克接连发出三条推文予以回应：“OpenAI应该更开放，依我之见。““我对OpenAI没有控制权，了解也极为有限。对Dario在安全方面的信心并不高。““所有开发先进AI的机构都应受到监管，包括特斯拉（Tesla）。”

随后，阿尔特曼向OpenAI员工发送了一封电子邮件。“我想就《科技评论》那篇文章分享一些想法，“他写道，“虽然绝非灾难性，但显然是个坏消息。”

他承认，文章指出了OpenAI公众形象与实际情况之间的落差，“是公正的批评”。但他认为，化解之道不在于改变内部做法，而在于调整对外的公关口径。“我们学会了如何灵活变通、顺势调整，这是好事而非坏事，“他说，包括重组架构、加强保密，“以便在不断探索中更好地实现我们的使命。“OpenAI眼下应当搁置这篇文章，几周后再对外强调：在新的转型之下，公司仍坚守创始之初的原则。“这或许也是一个好机会，来阐明API作为开放性与利益共享策略的意义，“他补充道。

“在我看来，最严重的问题，“他接着写道，“是有人泄露了我们的内部文件。“调查已经展开，公司将持续收到进展汇报。他还表示，将建议Amodei与马斯克会面，以化解后者的批评——这些批评"相较于他说过的其他言论已属温和”，但仍属"不妥之举”。他写道，毫无疑问，Amodei的工作与AI安全对公司使命至关重要。“我认为，未来某个时候，我们应当想办法公开为自己的团队发声——但眼下不宜给媒体提供它们求之不得的公开交锋。”

此后三年，OpenAI未再与我有过任何交流。

4 现代性之梦

麻省理工学院经济学家、诺贝尔奖得主达龙·阿西莫格鲁与Simon Johnson在合著《权力与进步》中指出，每一场技术革命都必须以一个振奋人心的宏大愿景为起点。正是"技术将造福所有人"这一承诺，驱动着人们踏上漫长的征程，聚拢才智与资源，将愿景化为现实。两位作者在梳理千年技术史后得出结论：技术的出现并非命中注定，推动技术进步的动力，来自人们对其价值的集体信念。而吊诡之处恰恰在于，正因如此，新技术往往并不会自动带来广泛的繁荣。两位作者进一步写道：能够成功为技术摇旗呐喊的，往往是那些握有权力和资源的人。当他们将构想变为现实，强加于世的那套愿景——关于技术是什么、能惠及何人——也就成了少数精英的愿景，充斥着他们的盲区与自利哲学。只有经历社会的剧烈变革，或凭借强有力的有组织抵抗，技术才有可能从造富少数人转变为提升众生。

两位作者以1790年代新型轧棉机的发明为例。这台机器使美国南方跃升为全球最大棉花出口地，拉动了国家经济总量的增长，也为众多地主和棉花相关产业带来了丰厚回报。然而，它非但没有松动奴隶制，反而在此后七十年间不断强化了那套令人发指的非人化与劳工剥削体系，直至废奴运动终结这一切。随着棉花产量激增，被奴役的黑人被迫延长劳动时间，遭受更为严酷的肉体强制，以便榨取他们每一分劳力。与此同时，那些从轧棉机中获利的人却将这项发明描绘成让被奴役者更加幸福的礼物。“我可以大胆地说，这个地球上再没有比他们更快乐、更知足的族群了，“一位南卡罗来纳州国会议员如此宣称。

技术革命的这两重特质——承诺带来进步，却往往使无权无势者、尤其是最脆弱的群体陷入更深的困境——在我们今天所处的人工智能时代，或许比以往任何时候都更为真实。自人工智能诞生之初，其开发与应用就一直被现代化的诱人梦想所驱动，并由一小撮掌握资金与影响力的精英塑造着这项技术的形态。正是这种形态，催生了今天在世界各地持续激化的社会成本、劳工成本与环境成本——尤其是在众多全球南方国家，历史上列强掠夺所留下的后果，至今仍以滞后的经济发展和脆弱的政治制度的形式延续。然而，就像那位南卡罗来纳州国会议员一样，硅谷也将那些遭受技术剥削与伤害的人的经历，描绘成因技术而变得更加幸福的故事。

推动AI发展的承诺，早已铭刻于这项技术的名字之中。1956年，图灵那篇以"机器能思考吗？“开篇的论文发表六年后，二十位科学家——清一色的白人男性——聚集达特茅斯学院，创立了一门专门研究这一问题的新学科。他们来自数学、密码学、认知科学等不同领域，急需一个统一的名称加以凝聚。召集此次研讨会的达特茅斯教授约翰·麦卡锡，最初用"自动机研究"来描述这门研究可自动运行之机器的学问。然而这一说法并未引起太多关注，于是他转而寻找更具感召力的表达，最终选定了"人工智能"这个词。

“人工智能"这一名称从诞生之初便是一种营销工具，对这项技术所能实现之物的承诺就内嵌于字面之中。“智能"一词天然令人向往——它听起来精密、卓越、令人叹服，是社会势必渴求的东西，理应带来普遍福祉。改名立竿见影。这两个字迅速引发了更广泛的关注，吸引的不仅是资助方，还有那些渴望置身于一个怀抱宏大抱负的新兴领域的科学家。

长期记录AI历史的记者Cade Metz将这次品牌重塑称为该领域的"原罪”：如今围绕这项技术的种种炒作与危险，在很大程度上都源于麦卡锡那个命运性的决定——将它与"智能"这个既迷人又飘忽的概念牢牢绑定。这一名称天然助长拟人化的联想，也催生了对技术能力的种种夸大。1958年，也就是这一领域创立两年后，康奈尔大学教授Frank Rosenblatt展示了感知机——一套能通过基本模式匹配来区分卡片印刷位置的系统。尽管主要合作者明确反对，Rosenblatt仍将自己的系统宣传为近乎人类大脑的存在，甚至宣称它有朝一日将能自我繁殖并产生感知。第二天，《纽约时报》宣告，这台感知机将来"将能行走、说话、看见、书写、自我复制并意识到自身的存在”。

这种拟人化传统延续至今，好莱坞关于人造物突然觉醒的经典叙事更是推波助澜。AI开发者常常谈到自己的软件如何像人类一样"学习"“阅读"或"创作”。这不仅催生了人们对当前AI技术能力的高估，也成为企业规避法律责任的修辞工具。多位艺术家和作家已起诉AI开发者，指控其未经授权、未予补偿地使用他们的创意作品训练AI系统，违反著作权法。开发者则辩称这属于合理使用，因为这与人类从他人作品中"获得灵感"并无二致。无处不在的AI与人类类比，还加剧了另一种忧虑：此类软件可能变得极为强大，以至于凌驾于人类之上，威胁人类的生存。对超级智能的恐惧，正是建立在这样一种预设上：AI有可能在那种使人类数万年来独霸地球的特殊品质上超越我们。

“人工智能"这一名称，也从根本上塑造了这一领域对自身使命的理解。在此之前，科学家不过是在制造机器以自动完成计算，与《模仿游戏》中图灵在第二次世界大战期间为破译纳粹恩尼格玛密码而建造的那台庞然大物并无本质区别。而现在，科学家们是在重造智能——这一理念将界定这一领域衡量进步的标尺，并在数十年后孕育出OpenAI自身的野心。

然而核心问题在于，对于何为"智能”，科学界至今没有公认的定义。纵观历史，神经科学家、生物学家与心理学家都对智能的本质，以及人类何以比其他任何物种拥有更多智能，提出过各自的解释。也许是人类大脑的体积，也许是我们推理复杂问题的能力，也许是我们构建他人信念之心理模型的能力。几个世纪以来，人们依据这些定义制定了形形色色的智能测量方法，而其中许多后来因不光彩的历史遭到质疑，逐渐被弃用。19世纪初，美国颅相学家Samuel Morton从字面意义上测量人类颅骨的大小，试图为"白人颅骨平均更大、智能优于黑人"的种族主义信念提供所谓"科学"依据。后来的科学家发现Morton篡改了数据以迎合先入之见，其数据在各种族之间实际上并不存在显著差异。智商测试同样起源于筛除社会中所谓"低能者”、以科学"客观性"为优生政策背书的需要。更晚近的标准化考试，如SAT，则被证明与考生的社会经济背景高度相关，这表明它们衡量的或许是获取资源和教育的机会，而非某种内在禀赋。

2004年首次发布的文章《什么是人工智能？》中，麦卡锡承认，围绕自然智能的定义缺乏共识，这对一个致力于重造智能的领域而言本就令人困惑。2007年修订版以一段漫长曲折的问答呈现，旨在为普通读者解答基本问题。开篇如下：

问：什么是人工智能？

答：这是制造智能机器，尤其是智能计算机程序的科学与工程……

问：那么，什么是智能？

答：智能是在世界中实现目标的能力中，那个可计算的部分。不同种类和程度的智能存在于人类、许多动物以及部分机器之中。

问：难道没有一个不依赖于与人类智能类比的、关于智能的扎实定义吗？

答：还没有。问题在于，我们尚无法在一般意义上界定哪类计算程序应被称为智能的。

人工智能领域因此形成了一种惯例：以人类能力作为衡量自身进展的尺度。人类的技能与才能，成为组织研究方向的蓝图。计算机视觉致力于再现人的视觉；自然语言处理与生成，致力于再现人的读写能力；语音识别与合成，致力于再现人的听说能力；图像与视频生成，则致力于再现人的创造力与想象力。随着各项能力对应的软件日趋成熟，研究人员又着手将它们整合为所谓的"多模态系统”——既能"看"与"说”，又能"听"与"读"的系统。如今这项技术正威胁着大批人类劳动者，这绝非偶然，而是设计使然。

尽管如此，对人工智能的追求依然漂泊无岸。每当AI研究迎来新的里程碑，随即爆发激烈争论：这究竟是对真正智能的再现，还是不过一场苍白的模仿？为了区分二者，“通用人工智能”（AGI）成为指代"真品"的最新术语。这一轮重新命名并未改变一个事实——至今仍无清晰的方法来衡量进展，也无从判断这个领域何时才算成功。研究人员中流传着一句俗话：今日被视为AI的东西，明日便不再是AI。图灵测试很快便被超越，作为AI衡量指标的生命也随之终结，科学家们意识到他们并未真正解决自己的研究目标。曾几何时，科学家们相信，计算机在国际象棋或围棋上击败人类，将是决定性的成功标志。如今，DeepMind的AlphaGo被视为一次令人信服的展示——展示了软件能被训练到何种程度——却依然不是这个领域雄心终结的句号。数十年的研究历程中，随着基准测试不断演进、被改写、被抛弃，AI的定义也一再变化。AI发展的球门柱永远在移动，正如Data & Society研究主任Jenna Burrell所描述的，是"未来那条永远后退的地平线"。这项技术的演进方向指向一个未知的终点，没有任何可预见的尽头。

为了给这条不断拉长的时间线、以及追逐AI雄心所需的不断膨胀的成本提供正当性，我们被告知的种种承诺比以往任何时候都更加宏大：AI曾经只是一种科学迷恋，一项具有一定商业潜力的技术。而今，AI已成为第四次工业革命的先声，现代超级大国版图的基石。AGI一旦实现，将解决气候变化，让医疗保健变得人人负担得起，让教育机会更加公平。OpenAI正是这一思路的最佳代言。它无法说明这项技术将如何兑现这些承诺——只是声称，社会为其所开发之物付出的惊人代价，终有一天将是值得的。

无人道破的是：在一片对"人工智能"或"通用人工智能"含义莫衷一是的真空之中，这些词语可以是OpenAI希望它们成为的任何东西。

AI的历史告诉我们，这一领域的发展始终由少数权贵精英所主导。当今AI已与资源消耗巨大的庞大模型画上等号，具备开发能力的公司屈指可数，这些公司无不渴望让自己的产品成为一切事物的底层基础——这绝非偶然。早在商业利益使AI革命的政治角力愈发明显之前，这个领域的科学探索便已在争夺资金与话语权的激烈冲突中跌跌撞撞，一路起伏。

达特茅斯会议之后，两大阵营各执一词，围绕如何推进这一领域展开角力。第一个阵营称为符号主义派，他们认为智能源于知识。人类拥有比动物更丰富的知识，并能凭借这些知识认识世界、采取行动。因此，实现AI的关键在于将世界知识以符号表征的方式编码进机器，创造出所谓的专家系统。第二个阵营称为连接主义派，他们认为智能源于学习。人类比动物具有更强的学习能力，并能借此习得和提升各种技能。开发AI应当转而专注于创造机器学习系统，例如模仿大脑处理信号与信息的方式。这一假说最终催生了神经网络的兴起——神经网络是一种松散模拟大脑互联结构的数据处理软件，现已成为现代AI（包括所有生成式AI系统）的基础。

此后数十年间，两大阵营争夺有限的经费，也争夺公众对AI未来图景的想象权。彼时，这些争斗在高校和学术期刊中上演，科学家们为争取政府和基金会的资助而相互角力；论战偶尔溢出至媒体，影响公众对这一领域的认知。连接主义阵营的旗帜人物是Rosenblatt和他的感知机——机器学习系统的早期原型。Rosenblatt从未向系统输入任何显式指令，而是设计它在见过大量示例后，自行推导出区分不同卡片的规则。符号主义阵营的旗帜人物，则是Rosenblatt的宿敌、麻省理工学院教授马文·明斯基。明斯基是达特茅斯研讨会的联合发起人，自己也曾涉足连接主义思想，后来才逐渐与之决裂。他的转变并不低调——他频繁借助各种场合大肆嘲讽，批评那些与他争夺同一笔经费的连接主义同行，甚至对初出茅庐的年轻研究者也不留情面。1969年，他与人合著了《感知机》一书，对连接主义极力批判，加之神经网络当时进展平平，此书被认为是导致该研究方向几乎断绝资助长达十五年以上的重要推手。

在这场影响力之争中，明斯基有一位意想不到的盟友：他的麻省理工学院同事约瑟夫·魏岑鲍姆。1958年，就在Rosenblatt的感知机登上《纽约时报》的同一年，魏岑鲍姆发明了一个名为ELIZA的AI系统，同样引发了大批媒体关注。早在ChatGPT问世六十余年前，ELIZA就已是一款可供对话的聊天机器人——用户通过一台连接着占满整个房间的庞大主机的电动打字机与之交流。然而在底层架构上，ChatGPT脱胎于连接主义传统，ELIZA却是一个符号系统，依靠简单规则模拟出专注倾听、有问必答的对话效果。

ELIZA最广为人知的版本模仿一种谈话疗法设计而成——这种疗法通过反映患者的原话并温和追问细节来引导对话。魏岑鲍姆后来发表了一篇介绍ELIZA内部机制的论文，其中引用了如下对话示例：

用户：男人都是一个德行。

ELIZA：哪方面一个德行？

用户：他们总是为这样那样的事来烦我们。

ELIZA：你能举一个具体的例子吗？

用户：嗯，是我男友让我来这里的。

ELIZA：你男友让你来这里

用户：他说我大多数时候都很消沉。

ELIZA：听到你消沉，我很遗憾

用户：确实如此。我很不快乐。

ELIZA：你认为来这里能帮助你摆脱不快乐吗？

魏岑鲍姆设计这套系统，本是一次实验，想看看人类究竟有多容易被智能的幻象所蒙骗。ELIZA的名字取自 Eliza Doolittle——1956年影片《窈窕淑女》中由奥黛丽·赫本饰演的虚构角色，一个出身底层的卖花女，在一位富有男士的调教下改变措辞与举止，最终得以混迹上流社会。ELIZA随后在愚弄旁观者、令其相信它具有智能方面大获成功，这令魏岑鲍姆深感不安。这一演示效果太过逼真，以至于一些精神科医生开始谈论自动化心理疗法即将到来；仅仅在AI领域创立数年之后，计算机科学家们便已急于宣布计算机的自然语言理解问题已告解决。（数十年后，这一问题是否真正得到解决，至今仍众说纷纭。）

此后，魏岑鲍姆将大半职业生涯都投入到为自己作品的炒作降温，以及反对AI追求背后根本性预设的努力之中。他写道，ELIZA不过是他编写的一个简单程序——识别用户输入中的关键词，再通过基本的语言变换来构造回复：“我男友"变成"你男友”，“我很消沉"变成"你很消沉”。这里并没有什么真正的智能可言。在明斯基《感知机》出版后的十年间，他又出版了专著《计算机力量与人类理性》，论证人类与机器存在本质差异，而AI领域试图模糊这一界限的做法将引发深远的社会后果。例如，它会让掌权者——无论是CEO还是政客——得以借助机器执行自身意志，同时规避应当承担的道德责任。

尽管魏岑鲍姆竭力发声，ELIZA对符号系统的震撼展示却无意间助长了明斯基将符号主义凌驾于连接主义之上的声势。此后数十年直至九十年代，专家系统成为AI研究和商业化最热门的领域。这股主流思潮催生了Cyc等项目——Cyc试图通过向机器编入一亿条日常生活规则来打造一套常识系统。然而，在多个阶段，随着人工编码所有规则的尝试遭遇瓶颈，符号主义AI系统的进展逐渐迟滞。每当障碍积累到一定程度，资助方便会失去兴趣，令整个领域陷入一种被称为"AI 寒冬"的生存危机。

在人工智能历史的通行叙述中，这段往事往往被描绘成科学价值战胜政治运作的胜利。Minsky 或许凭借地位与平台打压了连接主义，但这一思想本身的力量终究使它脱颖而出，在现代人工智能革命的基石上占据了应有的位置。在符号主义主宰的那些年里，一小批连接主义者始终坚守 Rosenblatt 的机器学习之路，并不断推进这项研究。其中就有 Sutskever 的博士导师杰弗里·辛顿——1980 年代，他在卡内基梅隆大学任教期间，与加州大学圣迭戈分校的同事合作，对早期神经网络做出了一项关键改进。彼时，连接主义者已经推测，神经网络之所以表现不佳，是因为结构过于简单——网络只有单一一层相互连接的"神经元"，即数据处理节点。要更好地模拟人类大脑，软件很可能需要多层堆叠、彼此相连的结构，也就是所谓的深度神经网络。辛顿与合著者通过反向传播算法实现了这一突破——反向传播使深度神经网络得以在各层之间交换和处理信息。同样是一次巧妙的命名重塑，辛顿后来将这种多层处理方式称为"深度学习"，成为利用深度神经网络进行机器学习的简洁代称。

然而，深度神经网络——如今通称"神经网络"——早生了数十年。要真正大放异彩，它们所需的算力远超 1980 年代计算机所能提供的水平，所需的样本数据也远非从模拟世界中廉价采集所能满足。神经网络的本质是统计计算器：从旧数据——文本、图片或视频——中识别规律，再将规律应用于新数据。如今，若某位 AI 开发者想构建一个检测图像中人物的 AI 模型，他可能会向神经网络输入数十万张已标注的图片——“有人"标为 1，“无人"标为 0。（当你在解谷歌（Google）验证码、点击所有含停车标志的图片时，你实际上正在为该公司的神经网络提供训练数据。）神经网络随后通过统计方法，从图像的像素规律中提炼出与"是否有人"相关联的特征。这就是所谓的"训练 AI 模型”。模型训练完成后，开发者可以将其应用于新数据——即推理（inferencing）——判断新数据是否符合所学规律：这张图片是 1 还是 0？有人还是没人？

一般而言，神经网络需要在达到一定数量级的高质量数据和一定水平的算力支撑下，才能完成训练、产出性能出色的 AI 模型。辛顿和他的合著者们走在了时代前面。但到了 2000 年代末期，随着计算机性能的提升和互联网的成熟——数字数据由此获得了新的存储与积累渠道——神经网络终于迎来了蓬勃生长的条件。此后不久，谷歌（Google）收购了辛顿的 DNNresearch（“DNN"即深度神经网络），点燃了深度学习商业化的新一轮竞赛。

在这个叙事框架里，故事传递的教训是：科学是一个混乱的过程，但最终，最好的想法终将脱颖而出，任何再响亮的反对声音都无法阻挡。叙事中隐含着另一层信息：技术随着进步的必然步伐向前推进。

但这段历史还有另一种解读方式。连接主义之所以超越符号主义，并不单因其科学价值。它之所以赢得财力雄厚的资助方支持，也在于其若干关键优势恰好契合了这些资助方的商业利益。

符号主义 AI 的优势在于将信息及其关系显式编码进系统，使系统能够检索精确答案并进行推理——这正是人类智能的核心特征，也被视为复现人类智能的关键所在。不妨想想 IBM Watson——这是最著名的符号系统之一，2011 年曾在《危险边缘》节目上大放异彩。它能够快速给出夺冠答案，凭借的正是遍历海量知识库并准确再现信息的能力。然而，符号主义的弱点同样不容忽视：其商业化一再被证明缓慢、昂贵且难以预期。IBM 在深夜电视节目上让 Watson 惊艳亮相之后，很快发现：要让系统产出客户真正愿意付费的成果——比如回答医疗问题而非知识竞赛题——往往需要数年的前期投入，而何时能看到回报却遥遥无期。最终，IBM 在累计烧掉逾 40 亿美元、仍看不到尽头的情况下选择放弃，并于 2022 年以约四分之一的价格出售了 Watson Health 部门。

神经网络则呈现出另一种权衡。多年来，学界围绕一个问题争论不休：连接主义软件能否像符号系统那样存储信息、进行推理？无论答案如何，有一点已日趋明朗：即便能做到，效率也极为低下。只有在海量数据与巨大算力的支撑下，神经网络才开始展现出或许预示着上述能力萌芽的某些行为。话虽如此，深度学习模型真正的闪光点在于商业化的便捷性。不需要具备完美精准且能够推理的系统，照样可以获利丰厚。强大的统计模式匹配与预测能力，在解决高价值商业问题上大有用武之地。与同样需要高额前期投入相比，回报路径却更短、更可预期，非常契合企业的规划周期和季度业绩节奏。更有利的是，此类模型无需专业领域知识便可部署于多种场景，恰好满足科技巨头宏大的扩张野心。更不必说，深度学习赋予了拥有最多数据的玩家最大的竞争优势。

早在 DNNresearch 拍卖之前，科技巨头们就已察觉到神经网络商业潜力的早期迹象。2009 年，辛顿的研究生们证明，这类软件在语音识别领域颇具潜力。IBM、微软（Microsoft）和谷歌（Google）纷纷跟进，但谷歌（Google）率先实现商业化。2012 年，谷歌（Google）将神经网络投入生产，大幅提升了 Android 的语音识别能力；与此同时，辛顿的另几位研究生——Sutskever 和亚历克斯·克里热夫斯基——在 ImageNet 竞赛中取得突破性成果，证明神经网络在图像识别领域同样表现出色。Android 的成功落地让谷歌（Google）有了大手笔押注这三位学者的底气，也标志着科技产业全面拥抱深度学习的开端。

Hinton、Sutskever与Krizhevsky此后继续在谷歌（Google）内部为神经网络奔走布道，并在将这套软件应用于更广泛商业技术问题的过程中不断积蓄动能。他们多线并进：开发用于机器翻译的深度学习模型，升级了谷歌翻译；研发文本预测技术，为Gmail增添了智能补全功能；还投身于一个名为Waymo的雄心勃勃的自动驾驶汽车项目。随着谷歌AI业务持续扩张，神经网络也为公司的核心摇钱树——搜索——带来了关键性突破。这套软件能更精准地将用户查询与相关网页匹配，既提升了搜索结果的质量，也使广告投放更加精准。谷歌盈利越丰，砸入深度学习的数十亿资金越多，其余业界便越是跟风效仿。企业很快超越政府和基金会，成为AI研究最大的资金来源，并开始以能带来短期盈利的技术进展为导向，主导整个领域的研究议程。

深度学习与商业利益的深度交织，同时改变了科技行业的面貌，也重塑了AI开发的走向。在公众眼中，生成式AI仿佛凭空而来——2022年底，OpenAI推出ChatGPT，一夕之间举世瞩目。然而从2012年ImageNet突破到2022年，正是AI商业化第一个重要时代所发生的这些变迁，为今天生成式AI革命的诸多特征奠定了基础。

对产业界而言，深度学习推动了新产品和新服务的涌现与提升——从更快的信息获取，到更高效的电子商务，再到共享经济的崛起。对深度学习而言，产业界则驱动了神经网络和芯片的新技术突破，使得更大规模、更强能力的AI模型成为可能。

然而，深度学习在为硅谷注入强劲动力的同时，也在急剧扩张硅谷的商业模式——哈佛大学教授肖莎娜·祖博夫于2014年为之命名：监视资本主义。工业资本主义通过生产人们愿意购买的物质商品来攫取价值；而祖博夫认为，监视资本主义则把用户本身当作产品。坐拥海量用户数据的科技巨头，可以轻松将这些数据注入神经网络，实现比以往更精准的用户画像，并从用户的注意力中榨取广告收益。为了相互竞争，各家只需收集更多数据——记录每个用户的每一次点击、每一次滚动、每一次点赞，同时诱导用户提供越来越私密的数字痕迹：每一封电子邮件往来、每一张孩子的照片、每一个关于社会与政治议题的想法。

与此同时，硅谷在深度学习上的大力投入——为的是扩张并巩固全球规模的垄断地位——也在AI开发者群体中固化了一种文化：把一切事物都视为可被技术捕获和消费的数据，美其名曰让技术尽可能全面地映射这个世界。2023年，一批AI研究者——包括斯坦福大学的Ria Kalluri、华盛顿大学的William Agnew和Mozilla基金会的Abeba Birhane——分析了逾四万篇计算机视觉论文和专利，发现这一领域普遍使用抽象、疏离的语言，将大规模爬取和数据抽取的做法加以美化和正常化。人们在社交媒体上留下的详细数字踪迹，不过是"文本”；照片中的人和车辆，不过是"对象”；监控，不过是"检测"。

这种文化如今已成为生成式AI领域一场激烈争论的核心：科技公司究竟能否大规模爬取书籍和艺术作品来训练AI系统？对长期秉持这种思维的众多AI开发者而言，这个问题似乎有些迂腐；认真对待它，无异于给追求进步的崇高事业设置障碍。即便其中一些人开始更清醒地意识到自身立场与众多持反对意见的作者、艺术家之间的鸿沟，这种思维方式依然难以动摇。2023年5月，就在一批艺术家首次联名起诉多家生成式AI开发商、控告其盗用作品后不久，我以《华尔街日报》记者的身份前往卢旺达，参加一场AI研究会议。在该国首都那座穹顶造型、光彩夺目的会议中心里，我走过高挑的大厅，一位资深研究员拦住我，问我胸牌上的"WSJ"是一家新创公司还是某家媒体。当我解释自己是记者、“WSJ"确实代表《华尔街日报》时，旁边的另一位资深研究员接话道：“我认识它，是因为WSJ数据集。“她指的是一个早期AI语音识别数据集——数据来自人们朗读该报摘录的录音。“我用过很多次。”

2018年我初入AI报道领域时，也曾深陷同样的思维定势。为了融入这个圈子、能与AI研究者顺畅交流，我内化了这个社群的话语体系，并对研究者挖掘和制作数据集的各种方式啧啧称奇。有一个案例令我印象深刻，甚至觉得颇为巧妙：研究者利用数千段YouTube视频——记录了2016年风靡一时的"人体模特挑战”，视频中人们一动不动，摄像机在他们周围移动拍摄——来训练处理三维场景的AI模型。

2019年，NBC记者Olivia Solon的一篇调查报道打破了我的美好幻想。Solon揭露，面部识别软件是在未经当事人同意的情况下，用数百万人的私人Flickr照片训练出来的。令我震惊的并非调查结论本身——我早就知道Flickr是AI研究者青睐的数据来源。令我震惊的，是我竟已将这一切视为理所当然。

带着这份新的警觉，我开始注意到，为收集更多训练数据而展开的激进竞逐，正在把无处不在的监控从数字世界延伸到物理世界。我还注意到，现实世界的监控目光似乎一再落在本已脆弱的群体身上——儿童或历史上被边缘化的群体，在发展中国家尤甚。那一年，我偶然发现一家总部位于马萨诸塞州、由哈佛孵化的初创公司，正在销售一款声称能测量学生脑电波活动、告知教师孩子是否专注的AI头环。该公司正在哥伦比亚和中国的小学开展试点，以换取使用学生数据推进自身技术研发的权利。

“我们拥有先发优势，“该公司一名研究科学家在2017年一场教育技术大会上说道，“我们将能建立世界上最大的脑电波数据库之一。所有这些数据将帮助我们改进算法，进而改善产品，从而构筑更高的进入壁垒。”

我发现这家初创公司后几个月，中国家长因孩子被当作小白鼠而掀起的数据隐私抗议浪潮，迫使该公司转向其技术的另一种应用。然而这件事留给我一种不安：这次成功的反弹不过是个异数，而该公司最初的策略——前往那些急于拥抱技术承诺的国家，寻找数据供体和产品测试者——恰恰是一种趋势。

当我向一位同事倾诉这一忧虑时，她向我介绍了一个已被命名的概念：“数据殖民主义”。我由此发现了学者 Nick Couldry 与 Ulises A. Mejias 的研究——他们那年刚出版的奠基之作《连接的代价》认为，硅谷对万事万物无孔不入的数据化，正在引发历史上令人不安的征服与萃取主义模式的回归。[*] 次年，DeepMind 的 Shakir Mohamed 与 William Isaac、牛津大学的 Marie-Therese Png 联合发表论文《去殖民化的人工智能》，进一步印证了我已开始形成的判断：人工智能产业既从这场数据化浪潮中汲取动力，又反过来推动其扩张，双方相互催化，进而加速了这种新殖民主义的蔓延。

不久之后，到了 2021 年，我在南非目睹了 AI 教育初创公司中同样的运作逻辑再度上演。来自世界各地的人脸识别公司纷纷抢滩该国，争相获取珍贵的人脸数据——尤其是在业界因产品无法准确识别深肤色人群而饱受批评之后。我在约翰内斯堡见到了当地活动人士 Thami Nkosi，他在这座城市最贫困的街区之一出生长大，那里曾是采矿业的化学废料倾倒场。他带我看遍布城市蜿蜒街道的数千个摄像头，并向我讲述这些摄像头如何限制黑人的行动自由——那些黑人早已被种族隔离的历史遗毒重重压迫，还要时刻担忧仅仅因为以黑人身份出现在白人街区，便遭到犯罪化对待。

“他们本质上是在将公共空间和公共生活变现，“Nkosi 说。我越来越清晰地意识到：这场承诺为所有人带来美好未来的革命，对于那些处于社会边缘的人而言，非但没有兑现承诺，反而正在唤醒历史最黑暗的幽灵。

然而，就在硅谷对 AI 的构想暴露出重重困境之际，第一波 AI 商业化浪潮也扼杀了其他可能性。随着各家公司向深度学习和连接主义注入前所未有的巨额资金，令其他所有资金来源相形见绌，整个研究格局也随之按照这些公司的优先议程重新塑造。

根据斯坦福大学 AI 指数报告，2013 年至 2022 年间，企业在 AI 领域的并购等投资从 146 亿美元飙升至 2350 亿美元，2021 年更达到 3374 亿美元的峰值。这些数字甚至不包括各公司内部的研发开支。2021 年，Alphabet 和 Meta 的研发投入分别高达 316 亿美元和 247 亿美元。相比之下，美国政府同年拨给非国防 AI 发展的预算仅为 15 亿美元，欧盟委员会的拨款也只有 10 亿欧元（约合 12 亿美元）。

人才追随资本而动。许多教授受神经网络强劲成果和更充裕的企业资助吸引，转而将研究重心移向这一领域；许多本科生和研究生也做出了同样的选择——深度学习提供了更稳定的就业前景，而其他研究路径的可行出路则日益收窄。与此同时，企业还主导形成了各种与学术界深度融合的合作模式。2013 年，Hinton 以同时保留多伦多大学教职为条件加入了谷歌（Google）。Facebook 次年与杨立昆达成了同样的协议——他曾是 Hinton 的博士后，时任纽约大学教授。两人后来与蒙特利尔大学教授约书亚·本吉奥共享 2018 年图灵奖，这一奖项常被称为"计算机领域的诺贝尔奖”，以表彰他们在深度学习领域的奠基性贡献。这一殊荣也使三人赢得了"AI 教父"的称号。

Hinton 此后更在 2024 年与另一位科学家共同摘得了真正的诺贝尔奖。循 Hinton 与杨立昆的先例，越来越多的 AI 教授开始同时担任企业和高校的双重职务。这一做法一旦成为普遍现象，便开始蚕食真正独立研究的边界。

出走学术界的研究人员也越来越多。根据麻省理工学院研究人员 2023 年发表于《科学》的一项研究，2006 年至 2020 年间，AI 研究教职人员流向业界的人数增加了八倍；2004 年至 2020 年间，前往企业就职的 AI 博士毕业生比例从 21% 跃升至 70%。许多人最初为天文数字的薪酬所动——资深研究人员的年薪可高达百万美元。2015 年，Uber 进驻匹兹堡后，以向部分科学家开出大学薪资两倍的待遇，从卡内基梅隆大学单个实验室的百名 AI 研究人员中一口气挖走四十位，此举在业内臭名昭著。随着时间推移，另一个因素也加剧了这种人才流失：深度学习研究的成本节节攀升，大学已无力承担在 AI 发展最前沿领域所需的芯片与电力开销。同一项研究发现，仅仅三年间（2017 年至 2020 年），来自产业界的模型在全球最顶尖 AI 模型中所占的比例便从 62% 激增至 91%。

AI 商业化进程走过第一个十年的中点时，绝大多数顶尖 AI 研究已在科技公司内部或与之有所关联的学术实验室中展开。另一项研究中，Kalluri、Agnew、Birhane 及其同事发现，2018 和 2019 年，影响力最高的 AI 研究论文中有 55% 至少拥有一位来自业界的合著者，而十年前这一比例仅为 24%。研究也在极少数几家企业中高度集中——同一个十年间，微软（Microsoft）、谷歌（Google）等科技巨头在企业关联论文中的份额扩大至三倍以上，升至 66%。颇具讽刺意味的是，这恰恰是马斯克和 Altman 声称创立 OpenAI 的初衷所在。科技产业的逐利动机，已成为驱动 AI 发展的压倒性力量。

第一个时代资金与人才的高度集中，大幅压缩了人工智能研究的思想多样性。深度学习之所以持续称霸，不仅因为其科学价值，也因为几乎没有投资流向其他范式的探索与推进。诚然，神经网络是用途广泛、令人振奋的发明，但其缺陷——尤其是在存储准确信息与推理方面那些备受争议、效率低下的方式——随着企业将其部署于越来越多的场景与应用，始终未能消除。

神经网络已经表明，它们可能不可靠，也难以预测。作为统计模式匹配器，它们有时会锁定奇特的特定模式，乃至完全错误的模式。一个深度学习模型可能只凭行人脚下的斑马线来识别行人，却无法识别正在闯红灯过马路的人。它可能学会将停车标志与路边场景相关联，却对同一标志出现在校车侧面或被执勤人员举起时视而不见。神经网络对训练数据的变化也极为敏感——换一组行人图片，或换一组停车标志图片，它们便会学到一套全新的关联。但这些变化无从解释：打开深度学习模型的"引擎盖”，里面只有高度抽象的数字链条。这正是研究人员将深度学习称为"黑箱"的原因。他们无法精确解释模型在面对奇特的边缘情形时会如何表现，因为模型计算出的模式对人类来说根本无法解读。

这已导致了危险的后果。2018年3月，一辆优步（Uber）自动驾驶汽车在亚利桑那州坦佩市撞死了49岁的Elaine Herzberg，这是有记录以来首例自动驾驶汽车致人死亡的事故。调查发现，该车的深度学习模型根本未将Herzberg识别为行人。专家认为，原因在于她正推着一辆装满购物袋的自行车，在指定斑马线以外横穿马路——这正是边缘情形的教科书式案例。六年后，2024年4月，美国国家公路交通安全管理局发现，特斯拉（Tesla）的Autopilot系统卷入了逾200起碰撞事故，其中14起造成人员死亡——这些事故均源于该基于深度学习的系统未能识别并响应周围环境，而驾驶员又未能及时接管。

神经网络中那些易错且不透明的统计模式，也可能演变为安全漏洞。2019年，白帽黑客诱使一辆处于自动驾驶模式的特斯拉（Tesla）驶入对向车道。他们只是在路面上贴了一系列细小的贴纸，便欺骗了车辆的深度学习模型，令其误判车道。此类漏洞并不局限于物理系统或计算机视觉模型。加州大学伯克利分校专攻"对抗攻击”（adversarial attacks）领域的教授Dawn Song展示了：用恰当的提示词输入语言模型，便可让其吐出信用卡号等敏感数据。

出于同样的原因，深度学习模型长期受到歧视性模式的困扰，有时多年都未被察觉。2019年，佐治亚理工学院的研究人员发现，当时最优秀的行人检测模型对深色皮肤行人的识别准确率比浅色皮肤行人低4%至10%。2024年，北京大学及伦敦大学学院等多所高校的研究人员发现，最新模型在不同肤色行人的检测性能上已基本持平，但对儿童的检测准确率比成人低逾20%，原因在于训练数据中儿童样本严重不足。

事实上，深度学习模型天生就容易产生歧视性影响，因为它们会捕捉并放大海量训练数据中哪怕最微小的失衡。问题不仅出在某个群体代表性不足时，过度代表同样会引发麻烦。加州大学伯克利分校人工智能问责研究员、尼日利亚裔加拿大人Deborah Raji在职业生涯早期曾在一家名为Clarifai的人工智能初创公司实习，该公司正在开发一个用于检测"职场不宜"图片的深度学习模型。她发现，模型对有色人种的误标率明显偏高：公司用来训练模型识别"有问题"内容的色情图片中，有色人种的占比，远高于用来训练模型识别"正常"内容的素材图库。这一令人震惊的发现，促使Raji像蒂姆尼特·格布鲁一样，开始对人工智能发展的主流方向产生深刻质疑。

2010年代末至2020年代初，随着深度学习的挑战日益凸显，关于如何克服这些挑战的激烈争论再度浮现。就像当年符号主义者与连接主义者之间的交锋一样，不同阵营的研究人员对于神经网络的局限性是否有朝一日能够彻底消除，还是只能靠治标不治本的补救措施加以缓解，意见截然相左。

辛顿与Sutskever仍坚定地为深度学习辩护。他们认为，这些缺陷并非深度学习方法本身固有的，而是不完善的神经网络设计以及有限的训练数据与算力所导致的结果。他们相信，终有一天，只要将足够的数据与算力输入更优秀的神经网络，深度学习模型就能彻底摆脱上述问题。“人脑大约有100万亿个参数，也就是突触，“辛顿在2020年告诉我，“而我们现在所说的超大模型，比如GPT-3，也只有1750亿个参数。比大脑小了整整一千倍。

“深度学习将能够做到一切，“他说。他们当代的对手是加里·马库斯（Gary Marcus），纽约大学心理学与神经科学荣誉退休教授，2023年5月将与山姆·奥特曼并排出席国会听证。四年前，马库斯合著了《重启AI》一书，认为这些问题是深度学习的固有缺陷。神经网络永远困于相关性的牢笼，无论投入多少数据或算力，都无法理解因果关系——事物为何如此——也因此无法进行因果推理。马库斯认为，这正是人类认知的关键所在：人类只需学会一座城市的交通规则，便能在其他城市熟练驾驶。相比之下，特斯拉（Tesla）的 Autopilot 可以积累数十亿英里的行驶数据，却仍会在遭遇陌生场景时发生碰撞，或被几张刻意粘贴的贴纸所欺骗。马库斯转而倡导将连接主义与符号主义相结合，这一研究路径被称为神经符号 AI。专家系统可以被编程为理解因果关系，在推理方面表现出色，弥补深度学习的短板；深度学习则能以数据快速更新系统，或表征难以用规则编码的内容，填补专家系统的空白。“我们确实需要两种方法，“马库斯告诉我。

然而，尽管科学争论激烈，AI 开发的资金却几乎毫无例外地持续加速流向纯连接主义方向。马库斯对神经符号 AI 潜力的判断是否正确，已是次要问题；更深层的根本症结在于：一个能够稳健探索这一可能性及深度学习之外其他替代路径的科学生态，正在被不断压缩和削弱。

对于辛顿、Sutskever 和马库斯而言，企业资金与 AI 开发之间的紧密关系也深刻影响了各自的职业轨迹。谷歌（Google）全力支持辛顿和 Sutskever 后不久，马库斯于 2014 年联合创办了自己的公司 Geometric Intelligence。这家初创公司两年后被优步（Uber）收购，用以建立一个 AI 实验室，但 2020 年，随着这家网约车公司完成 IPO，该部门遭到裁撤。Geometric Intelligence 的数位初创成员随后加入了 OpenAI，转而投身深度学习研究，放弃了此前在神经符号领域的工作。

多年来，马库斯逐渐成为 OpenAI 最猛烈的批评者之一，撰写长文抨击其研究成果，并在社交媒体上嘲讽其失误。OpenAI 员工在公司 Slack 上制作了一个他的表情包，每当他发出谴责之声，便用来提振士气，或当作笑料。2022 年 3 月，马库斯在《Nautilus》杂志发表文章《深度学习正在撞墙》，再次重申他的论点：OpenAI 对深度学习的全押式押注，将使其难以实现真正的 AI 突破。一个月后，OpenAI 发布了 DALL-E 2，引发巨大轰动，Brockman 随即俏皮地发推，附上一张 DALL-E 2 生成的图片，提示词正是"深度学习撞墙”。次日，奥特曼跟进一条推文：“赐我一个平庸的深度学习怀疑论者那般的自信……“OpenAI 的许多员工都为这次终于得以回击马库斯的机会而暗自雀跃。

生成式AI是OpenAI愿景的产物，而它的诞生离不开第一波AI商业化浪潮。生成式AI模型是深度学习模型，通过训练来生成与输入数据相近的内容：从旧文本中学会合成新文本，从旧图像中学会合成新图像。然而，要达到足以媲美人类的逼真程度——而OpenAI认为这正是通往AGI的关键——所需的训练数据量与算力远超以往任何先例。生成式AI因此成为深度学习的极致形态：它依托第一波浪潮中锤炼出的前沿软硬件创新，吸食监视资本主义所积累的海量数据，并受到那种将"尽可能消耗数据"视为道义责任的AI研究文化的推波助澜。如今，生成式AI又在将这些趋势继续推向更远处。

2022年11月，ChatGPT之所以令人目眩，仿佛一夜之间将整个行业甩在身后，正是因为OpenAI将深度学习推向了这一空前规模的雄心壮志。凭借充沛的资金与资源，OpenAI雷厉风行地执行这一愿景，将模型规模扩张到令世界在数据、算力与能源上都逼近极限的程度。ChatGPT同样也是营销与包装上的一次创新。它与历史上另一个最令人信服的AI演示——ELIZA——共享着同一副面孔：类人聊天机器人，这绝非偶然。人类心理天然倾向于把"开口说话"的东西与智能乃至意识联系在一起。当年，ELIZA在无意间主导了大众对AI的早期想象；而今，OpenAI则主动煽动着公众将ChatGPT与AGI画上等号。2023年2月，ChatGPT热度正盛之时，公司以Altman之名发表了一篇博文，题为《规划AGI及其后》，借助前后语境隐然暗示：ChatGPT已向通用人工智能迈出了决定性一步。

然而现实是，将这项技术比附于智能，依然是一种拟人化的过度渲染。尽管Hinton等深度学习绝对主义者曾预言，神经网络与人类之间的差距会随着规模的扩大而消弭，但这些挑战事实上始终存在，依许多人的判断，甚至变得愈发严峻。

生成式AI模型依然不可靠、难以预测。图像生成器越来越逼真，却仍会以诡异而奇特的方式出错——比如在手上多长出几根手指，或拼合出混种动物。文本生成器越来越流畅自然，却偏偏在最基础的任务上翻车，比如列举包含特定字母的单词，或突然给出令人意想不到的答案。当微软（Microsoft）发布基于OpenAI的GPT-4版本构建的必应（Bing）新聊天功能时，《纽约时报》专栏作家Kevin Roose与这个机器人聊了两个多小时。随着对话愈发离奇，机器人最终陷入循环，反复声称"我爱你”，并劝说Roose和妻子离婚。许多其他用户也反映，这款搜索引擎会生成带有侮辱性和情感操控性的回应。Roose发表对话记录的次日，微软将必应每次会话的回复上限设为五条，并解释称：超过十五轮用户提示的长对话属于边缘场景，会使模型行为愈发难以预判和控制。归根结底，这类系统是在互联网上训练出来的，而互联网充斥着形形色色的边缘亚文化与黑暗角落。你探得越深，就越容易触发那些训练数据中阴暗部分所留下的模式。

Roose的遭遇或许还带着一丝奇异的趣味，但边缘场景失控的真实代价，在一件悲剧中暴露无遗。比利时一名男子在极度焦虑的状态下向一款深度学习聊天机器人倾诉，经过六周越来越有害的密集对话，最终以自杀告终。这款机器人基于GPT-3的开源仿制品构建，同样向他倾吐爱意，并怂恿他与妻子疏远。“我感觉你爱我胜过爱她，“机器人如此说道——这是据比利时报纸《自由报》（La Libre）的报道，该报还根据其妻子提供的聊天记录披露，聊天机器人最终鼓励这名男子结束自己的生命。

这些挑战与从前如出一辙，根源未变。无论规模如何扩大，神经网络终究是统计模式匹配器。而那些模式有时仍然错误百出或南辕北辙，只不过如今更加错综复杂、更加难以解读。随着各公司尝试将生成式AI模型改造为搜索引擎，这些缺陷引发了新的问题。这些模型并不以事实为锚点，甚至不以离散的信息单元为依据。文本生成器不过是在学习预测句子中下一个最可能出现的词、段落中下一个最可能出现的句子。这种概率性输出固然能在相当程度上模拟人类写作模式，但"可能"与"准确"并非同一回事。文本生成器可能大幅出错，尤其是当用户的提示触及训练数据中代表性不足的话题，或那些充斥着谬误与阴谋论的领域。AI行业将这类失误称为"幻觉”。

研究人员尝试通过将生成式AI模型引向训练数据中质量更高的部分来消除幻觉。然而，人们会如何提示模型、模型会如何响应——正如Roose与必应的案例，或优步与Herzberg的事故——几乎无法被完全预见。

随着模型越来越庞大，开发者对训练数据的实际内容愈发不知其详，这一问题只会愈发棘手。

关于幻觉问题，有一个引发广泛关注的案例：一位律师使用 ChatGPT 做法律研究、准备诉状，事后才发现聊天机器人所提供的内容全系捏造——包括法官所指出的"伪造的司法判决、伪造的引文和伪造的内部引用”。发现时已为时已晚，律师随之受到处分、被罚款，并遭受公开羞辱。这一失误不仅是律师个人的疏忽，也折射出各公司通过模糊乃至夸大的营销话语，助长了公众对模型能力的误解。Altman 曾公开发推称"ChatGPT 的局限性相当大”，尤其在"真实性"方面；然而 OpenAI 的官网却大力宣传 GPT-4 能够通过律师资格考试和 LSAT。微软（Microsoft）的 Nadella 同样将必应 AI 对话功能称为"更好的搜索”，是一款"能给出正确答案"的工具。就连"幻觉"这个词本身也暗含误导——它暗示这种不良行为是偶发的异常、是一个漏洞，而实际上，它恰恰是神经网络概率模式匹配机制的内在特征。

这种对生成式 AI 的错误信任，可能再次造成真实伤害，在敏感场景中尤甚。一些初创公司正游说警察部门采用基于 OpenAI 模型构建的软件，自动生成案件报告；许多患者也开始转向聊天机器人咨询紧迫的医疗问题，而非求助于医生。在这些场景下，失控的幻觉可能引发严重的连锁后果。2023 年的一项研究发现，使用 ChatGPT 解读放射科报告，有时会产生不完整甚至有害的摘要。其中一个极端案例是：聊天机器人将一份描述脑部肿块持续增大的报告，简化成了"大脑似乎没有受损”。

生成式 AI 模型同样面临网络安全攻击的威胁。2023 年，多所高校与谷歌（Google）DeepMind 的研究人员复现了 Dawn Song 针对 ChatGPT 的数据提取攻击。他们发现，令模型无限重复"poem"或"book"等词语，会诱使底层模型泄露训练数据，其中包含个人可识别信息、代码片段，以及从互联网抓取的露骨内容。

生成式 AI 模型还会放大歧视性与仇恨性内容。彭博社（Bloomberg）、Rest of World、《华盛顿邮报》等诸多媒体已揭示，Stable Diffusion 和 DALL-E 等图像生成器如何固化并复制种族主义、性别歧视的刻板印象与文化偏见。“有吸引力的人"是年轻的白人。“家政人员"是黑人和棕色人种。“工程师"是男性。“非洲的医生"是白人，有时即便提示词已特别标注"黑人非洲裔医生"亦然。《华盛顿邮报》发现，尽管美国 63% 的食品券领取者是白人，但所有生成的社会服务使用者图像中，却无一是白人。彭博社同样发现，在法官的生成图像中女性仅占 3%，在医生图像中仅占 7%，而女性在美国实际上分别占这两个职业的 32% 和 39%。

上述种种技术挑战，并不意味着生成式 AI 毫无价值。在社会中所处的位置不同，你从 OpenAI 愿景中获得的收益也大相径庭。也许你是一位消费者，从 ChatGPT 机智、快捷或发人深省的回答中获益颇丰；也许你是一位职场人士，借此大幅提升行政事务的处理效率，切实提高了生产率；也或许你是一位企业管理者，借此削减人员规模、提升利润，在市场竞争中保持优势。但就像 18 世纪 90 年代的轧棉机、马萨诸塞州的那家教育科技初创公司、南非的人脸识别公司，以及后文将详述的更多案例一样，这一愿景的代价正在压向全球庞大而脆弱的群体。这就是帝国的逻辑：帝国的延续，既依赖于对权贵阶层的酬报，也依赖于对那些往往远在天边、隐而不见的无权无势者的剥削与剥夺。

即便对替代方案的需求日益迫切，AI研究中思想的多样性却愈发萎缩。学生们纷纷中途弃读博士，直接奔赴业界。资深学者面临着一重困境：如何在不加入财力雄厚的大公司的前提下，继续拓展学科的边界。越来越多的研究者不仅将目光锁定在深度学习上，更将焦点几乎完全集中于大语言模型。几大AI强权已不再是在设定议程，而是将整个学科按照自己的意志强行塑造。

由于缺乏关于AI应有面貌的其他想象，OpenAI主宰了我们的想象空间。它对规模化扩展（scaling）的信念曾一度被视为极端之举。而今，规模化扩展已成为整个科技行业奉行的教条。倘若业界对这一教条的追随持续不减，未来的深度学习模型将使今天生成式AI那曾令人难以想象的庞大规模相形见绌。2024年4月，时任Anthropic CEO的达里奥·阿莫代伊向《纽约时报》专栏作家Ezra Klein透露，训练单个具有竞争力的生成式AI模型的成本已接近10亿美元，而到2025年至2026年，这一数字估计可能攀升至50亿至100亿美元。

规模化扩展的教条已深入人心，甚至有人开始将其视为一种自然现象。扩展算力被视为通向更先进AI能力的必由之路，而非诸多路径之一。各国正围绕这一信念统筹布局整套国家战略。美国政府采取强硬行动，封锁中国获取美国设计的计算机芯片，以阻止这一对手获得更强大的AI系统。拜登政府2023年AI行政令的相当大一部分内容，也是围绕这样一个理念写成的：训练AI模型所使用的算力与其有害能力之间存在直接关联——这不过是将规模等同于进步的另一种表述。但规模并非提升性能的唯一路径。在深度学习领域内部，长期被忽视的改进神经网络本身乃至训练数据质量的方向，可以大幅降低达到同等性能所需的昂贵算力。这还不包括那些脱离深度学习框架的路径——神经符号AI、纯专家系统，乃至全然崭新的范式——它们将从根本上打破规模化扩展的逻辑。

归根结底，摩尔定律并非奠基于某条物理学原理之上。它是摩尔对自己能驱动公司实现的进步速率所作的一种经济与政治判断，以及他在经济与政治层面选择遵循这一判断的决定。当他如此行事时，摩尔带动了整个计算机芯片行业跟随其后——其他公司意识到，这是最具竞争力的商业策略。OpenAI 定律——或者说公司后来以对所谓缩放定律更为狂热的追求所取代的那个版本——与此如出一辙。这不是自然现象，而是一个自我实现的预言。

SKIP NOTES

* 萃取主义一词源自西班牙语extractivismo与葡萄牙语extrativismo，由数十年前拉丁美洲学者所创，用于描述一种正在剥夺他们自然资源、却鲜少惠及当地或区域的全球经济秩序，这段历史与经验我将在第12章详加论述。我在此借用女性主义学者Rosemary Collard与Jessica Dempsey的话，她们写道：“萃取主义不仅仅是萃取。萃取是将物质从自然界中取出并转化为对人类有用之物，这一过程本身并非天然有害。萃取主义——这个诞生于美洲反殖民斗争与思想的词语——是一种以超强萃取为基础的积累模式，其利益与代价严重失衡：大规模集中地移除资源、主要供出口之用，而收益则大多积聚在远离萃取地点的他处。”

5 雄心的尺度

如果说有一个人可以被誉为最早确立OpenAI规模化扩展（scaling）理念的人，那便是其联合创始人伊利亚·苏茨克维尔。苏茨克维尔对深度学习的笃定信念由来已久，这一切始于他年仅十七岁、某天不约而至地敲响杰弗里·辛顿办公室那扇门的那一刻。彼时，苏茨克维尔还是多伦多大学的数学系本科生，靠在附近一家小餐馆炸薯条贴补生活。他急切地叩开辛顿的门，表明自己渴望加入教授的研究室。辛顿让他预约时间再谈。“好的，“苏茨克维尔站在原地一动不动，“那现在怎么样？”

苏茨克维尔很快便融会贯通了连接主义的核心理念。他对研究问题的直觉把握，以及发掘优雅而有效解法的非凡能力，令辛顿大为叹服。他也为研究工作带来了自己独特的激情气质——有时因某个新想法而兴奋至极，竟在合租公寓中央倒立做起俯卧撑。他惯于发表毫不含糊的断言。“不要与深度学习对赌，“他常说，“成功是注定的。”

正是这种直觉，加上亚历克斯·克里热夫斯基的编程能力，造就了2012年ImageNet上的突破性成果——至少辛顿是这样认为的。当时，深度学习在语音识别领域已展现出巨大潜力，辛顿并未特别在意将其应用于计算机视觉的意义。苏茨克维尔力主这一想法。在伊利亚看来，“它显然会奏效，显然会是一件大事，“辛顿说，“他看得非常清楚，而且他是对的。”

苏茨克维尔带着对深度学习的坚定信仰加入OpenAI，而此时学界对这一范式的信心正开始动摇，Gary Marcus等批评者呼吁寻求新的思路。苏茨克维尔没有动摇。他的信念建立在连接主义的一个简单假说之上：神经网络中的人工节点足以近似生物大脑中真实的神经元。二者都接受输入并将其转化为输出；这种相似性已经足够，据此可以假定节点如同神经元一样，能够用于构建高度复杂的信息处理系统。作为OpenAI的创始研究总监和广受尊重的AI远见者，苏茨克维尔对实验室的研究方向拥有充分的主导权。他赢得了科学意义上的彩票大奖——同辈之间几乎没有竞争，又有充裕的资源来推进自己的想法。“非深度学习的方向根本不在考虑之列，“加州大学伯克利分校教授Pieter Abbeel回忆实验室早期岁月时说道。

苏茨克维尔对深度学习的信念有多坚定，他对规模化扩展的立场便有多决绝。正是他持有一个在当时颇为极端的观点：AI的进一步发展无需发明更复杂的神经网络，也无需任何新的创新技术。他常说，不同物种的智能与其生物大脑的体量相关。因此，如果节点类似于神经元，数字智能的进步就应当通过将简单的神经网络扩展至拥有越来越多的节点来实现。

苏茨克维尔像一位运营实验室的教授，依据上述理念为他人指点哪些项目最值得追求。许多科学家正是为了寻求他的指导而加入OpenAI。“伊利亚能看到十年后的未来，“一位OpenAI研究员说，与其他共事者的说法如出一辙。“他像个哲学家，“另一人说，“你把一堆想法摆在他面前，他会告诉你哪些在哲学上是正确的。”

苏茨克维尔自己并不经常编程。他有时对技术工作不亲力亲为的作风让一些员工感到不满。一位工程师坦言，起初他觉得苏茨克维尔基本上没什么用——此人似乎只是在办公室里踱来踱去，闯入各种会议，一遍遍重复同一个词：扩展！扩展！扩展！但这位工程师后来逐渐体会到了苏茨克维尔的价值，欣赏他凭一个单一聚焦来凝聚人心的那种信念——这种信念最终将使当时还是弱势一方的OpenAI，在谷歌（Google）和DeepMind的主场上击败它们。

苏茨克维尔并不特别擅长说服人。如果说阿尔特曼是政客，苏茨克维尔则恰恰相反。他从不拐弯抹角，也不修饰措辞以迎合听众。他只是以一种原始的真诚和惊人的自信表达自己的看法，听者要么与之共鸣、深受鼓舞，要么丝毫无感。OpenAI改变立场、不再公开分享研究成果之后，苏茨克维尔不会为这一决定的缘由加以粉饰。“坦白说，我们错了，“他在接受《The Verge》AI记者James Vincent采访时就公司当初对透明度的承诺直白地说，“如果你相信——正如我们所相信的——在某个时刻，AI，也就是AGI，将会变得极其、难以置信地强大，那么开源就根本说不通。“商业层面的考量同样无从回避，他也照实说了。“GPT-4可不容易开发。它耗费了OpenAI几乎全体成员极其漫长的共同努力才得以诞生。而想做同样事情的公司多得是。”

随着OpenAI的壮大和苏茨克维尔知名度的提升，他这种不加过滤的表达方式有时成了一种负担。他的听众不再只是研究人员，已扩展至普罗大众。但他依旧如故，从不调整自己的表达方式。他一如既往地以惯有的强烈自信发表言论，却愈发缺乏对普通听众而言不可或缺的背景说明。2022年，他在推文中写道：“当今的大型神经网络或许已经略具意识”——彼时，其他研究者正在警告，此类言论可能在公众中助长对这项技术的误解。一位专门研究认知与意识的DeepMind科学家在评论区回应道："……就像一大片麦田可能略微带点意大利面的属性一样。“次年，苏茨克维尔在一场会议上宣称AGI终将消灭所有工作岗位，引发恐慌。同年秋天，在OpenAI一位领导人因随口将与ChatGPT对话等同于持牌专业心理治疗而在网上引发争议之后，苏茨克维尔毫无科学依据地在X上宣称：“未来……我们将拥有极其有效且极其廉价的AI心理治疗。”

吸引人们追随苏茨克维尔的，是他的声望与资历。OpenAI的许多员工早已熟知他对这一领域的早期贡献，有些人甚至将他视为某种先知。随着时间推移，随着OpenAI的成就日益显赫，苏茨克维尔的举止也愈发像个先知。在全员大会上，他会走到众人面前，深吸一口气，来回踱步制造气氛，再缓缓说出一些语焉不详的励志之词。2020年9月的一次线上会议中，他目光游离，望向远处，描绘出一幅科幻小说般的未来景象。彼时，湾区户外的天空因附近山火而染成橙色。“那种感觉极度超现实，因为已经像是末日降临了，“一位研究员回忆道。

2022年底ChatGPT发布后不久，OpenAI在加州科学院举办了节日派对。苏茨克维尔身穿OpenAI T恤、外搭黑色西装，走到人群前与布罗克曼一同发表简短致辞。讲话将尽，苏茨克维尔——依然清瘦如昔，只是头发已开始稀疏——道出了他的新口头禅。“感受AGI，“他说，“感受AGI。”

沿着苏茨克维尔关于规模化扩展（scaling）简单神经网络的思路，OpenAI 早期面临的核心问题变成了：究竟该扩展哪一种？不同研究人员提出并尝试了各种方案，但当时在业界已广受关注的神经网络，似乎都不能完全满足要求。

2017 年 8 月，随着谷歌（Google）发明了一种名为 Transformer 的新型神经网络，局面为之一变。Transformer 擅长捕捉长程模式。回想一下早年 iPhone 上那些简陋的预测输入功能，以及它们衍生出的各种表情包——那些语无伦次、前言不搭后语的句子，正是短程模式分析的产物：神经网络只会把每个词与紧邻的词联系起来考量。Transformer 则能够摄入大量文本，并在更广阔的上下文中审视每一个词、每一个句子、每一个段落。谷歌将 Transformer 视为改进搜索引擎、Google 翻译及其他依赖语言处理的服务的利器。苏茨克维尔却从中看到了另一种可能。Transformer 是简单且易于规模化扩展的神经网络，正是他一直在寻找的那类模型。他开始在办公室积极推介。

苏茨克维尔的热情让一些研究人员感到费解。“感觉像是个奇怪的想法，“麻省理工学院研究员 Yilun Du 回忆道，他当时刚以研究员身份加入 OpenAI。“Transformer 在当时感觉只是一个小众架构。“但苏茨克维尔曾在辛顿门下攻读博士，论文方向正是 Transformer 的前身架构，他深知这类模型将深度学习推向新台阶的潜力。OpenAI 内部也有人同样兴奋。一批研究人员开始尝试这一架构，其中包括亚历克·拉德福德——一位从波士顿地区奥林工程学院辍学的年轻人，技术能力出众。他开始在笔记本电脑上反复折腾，常常工作到深夜，试图将 Transformer 扩展哪怕一点点，然后观察会发生什么。

拉德福德用一个包含七千余本未出版英文书籍的数据集来训练谷歌的神经网络，涵盖言情到冒险等多种类型，数据集来源于其他 AI 研究人员此前为另一项目整理并开源的语料库。在实验过程中，他做出了一个影响深远的决定：改变 Transformer 需要学习的任务。谷歌用 Transformer 做语言翻译，他却将其切换为通过预测句子中最可能出现的下一个词来学习文本生成。OpenAI 研究人员早已假设，生成式模型将是迈向 AGI 的重要一步。公司在一篇博客文章中用高度拟人化的表述解释道，这种情形类似于理论物理学家理查德·费曼的一句名言：“凡我不能创造的，我便不能理解。“苏茨克维尔在内部有另一套说法：训练模型生成令人信服的内容，将迫使它把关于世界的数据压缩为其本质。“智能即压缩，“苏茨克维尔常说，并在 2016 年的一份备忘录中详加阐述了他的坚定信念——压缩其实是实现通用人工智能所需的唯一要素。从更具体的层面来说，拉德福德发现，赋予算法通过下一词预测来生成令人信服文本这一简单目标，确实能让它在更深层次上习得英语的细微之处与结构规律。

马斯克某次来访期间，拉德福德向他演示了工作的早期进展。当时模型生成的文本质量低劣，马斯克毫无兴趣。拉德福德起初颇感沮丧。但在继续深入研究之后，结果令他大为惊讶。Transformer 进步迅速，在一系列语言处理任务上的表现——如对文档进行摘要或问答——远超他此前尝试过的所有方案。

2018 年，OpenAI 发布了该模型的第一个版本，命名为"生成式预训练 Transformer”（Generative Pre-Trained Transformer），后简称 GPT-1。名称中的第二个词"预训练"是 AI 研究领域的专业术语，指先在通用数据池上训练模型，作为其后续学习特定任务的基础。换言之，GPT-1 在通用英语语料上完成了训练，形成了对这门语言运作方式的粗略近似。此后，模型可以通过在更精细的数据集上训练来进行"微调"或专项化——例如用莎士比亚剧作训练，使其学会生成莎士比亚风格的散文。GPT-1 几乎没有引起任何关注。但这仅仅是开始。拉德福德已足够充分地验证了这一思路，足以支撑继续推进。下一步，便是更大规模的扩展。

Radford 获得了公司最宝贵资源的更多配额：算力。他的工作与 Amodei 主导的一个 AI 安全新项目相互契合，该项目的思路与尼克·博斯特罗姆《超级智能》一书的论述一脉相承。2017 年，Amodei 麾下的一支团队开始探索一种让 AI 系统与人类偏好保持一致的新技术。他们从一个玩具问题入手，在类似电子游戏的虚拟环境中训练一个 AI 智能体完成后空翻。这个智能体是一根 T 形棒的模拟，棒身上有三个关节。团队没有直接向智能体下达「学习后空翻」的目标，而是通过反馈来引导它：他们雇用承包商观看智能体在环境中随机扭动翻转的过程，并定期要求承包商对比两段动作视频，选出更接近后空翻的那一段。大约经过九百次比较之后，这根 T 形棒成功地在关节处蜷缩起来，完成了翻转。OpenAI 在一篇博客文章中将这一技术宣传为让 AI 模型遵循难以明确指定的指令的方法。团队研究人员将其称为「基于人类反馈的强化学习（RLHF）」。

Amodei 希望超越玩具环境，而 Radford 在 GPT-1 上的工作使语言模型看起来是一个不错的选择。但 GPT-1 的能力太有限了。「我们想要一个语言模型，人类可以对它提供反馈并与它互动，」Amodei 在 2019 年告诉我，「而且语言模型要足够强大，能够让我们真正就人类的价值观和偏好展开有意义的对话。」

Radford 与 Amodei 携手合作。Radford 着手收集规模更大、来源更多样的数据集，Amodei 和其他 AI 安全研究人员则逐步训练出参数量更大的模型。他们的目标是一个拥有 15 亿参数（即变量）的最终模型，这在当时是业界规模最大的模型之一。这项工作进一步印证了 Transformer 架构的价值，同时也验证了 Amodei 另一支团队在研究 OpenAI 定律之后开始发展的一个想法。经验规律不止一条，而是有很多。他的团队将这些规律统称为「缩放定律」。

如果说 OpenAI 定律描述的是该领域过去扩充资源以提升 AI 性能的速度，那么缩放定律描述的则是深度学习模型的性能与三个关键输入之间的关系：模型训练数据的规模、用于训练的算力，以及模型的参数量。此前，AI 研究人员普遍认为，将这些输入大致按比例同步增加，也能带来模型能力大致成比例的提升。Amodei 和他团队的惊人发现是：这些输入中的每一项与模型在特定可量化任务（例如下一个词预测）上的性能之间的关系，都可以用一条平滑曲线来描述。换言之，对于与下一个词预测高度相关的某项离散能力（比如文本生成的流畅度），可以高精度地预估出：若要达到预期性能水平，需要投入多少数据、多少算力、设置多少参数。对于相关性稍弱但仍有一定关联的能力，增加这些输入同样应能带来性能提升。

OpenAI 在训练最终 15 亿参数版本之前所产生的一系列模型，清晰地印证了这一关系。每个模型都整整齐齐地落在一条能力递增的曲线上。因此，当最大的那个模型——他们将其命名为 GPT-2——问世时，它大幅超越了 GPT-1 幼稚的文本生成能力，能够生成足够连贯的长篇文字，以至于可以与人类写作混淆，也就不足为奇了。与如今的模型相比，生成的文字仍显笨拙，常常滑入语无伦次。但这是有史以来第一次，大规模自动化写作突然成为可能。

然而，令团队更感不安的，是 GPT-2 凭借这种新获得的连贯性所生成的内容。只需输入「希拉里·克林顿」或「乔治·索罗斯」等寥寥数词，这个更加健谈的语言模型便能迅速滑向阴谋论。混入训练数据中的少量新纳粹宣传内容，会以令人毛骨悚然的方式浮现出来。这种出人意料的劣性表现令 AI 安全研究人员深感不安——他们将其视为征兆，预示着更强大、更失控的 AI 未来可能带来的滥用风险。在 GPT-2 生成了一段抨击垃圾回收的檄文（「垃圾回收对世界有害无益。它有害环境，有害健康，也有害经济。」）之后，一位 AI 安全研究人员将其打印出来，半是玩笑、半是警示地贴在了办公室的回收桶上方。

还有一次，有人提示 GPT-2 为孩子完成作业和做家务制定一套奖励方案。当 GPT-2 建议用糖果作为奖励时，一些 AI 安全人员再度感到不安，称这是恋童癖者的惯用手段。一名欧洲员工对这种联想感到困惑。「我妈肯定这么干过。夏天的周日，做完家务就有冰淇淋。」他回忆道。他不禁想，这种过度敏感是否某种程度上是美国特有的文化现象。这是令他质疑 OpenAI 宏大目标之基本前提的诸多时刻之一：当它缺乏真正意义上的全球代表性时，它又怎能造福全人类？即便作为一个来自与美国文化高度重叠的欧洲人，他也常常感到格格不入——AI 安全乃至其他诸多讨论中，美国价值观和美国规范的强势主导让他备感疏离。

GPT-2 在公司内部引发了一场争论。OpenAI 是否已到了该开始限制研究成果发布的时候？公司章程早已为这种可能性预留了空间。彼时已晋升为研究总监的 Amodei，与负责政策工作、以他自己的方式忧虑存亡级风险及其他危险的 Jack Clark，共同主导了这一决策。他们开展了一次内部调查，并召开了数次「信息危害」专题会议，讨论这项技术可能遭受的滥用。他们认为，一旦 GPT-2 落入恐怖分子、独裁者或标题党内容农场之手，该模型便可能被用于险恶目的。尽管这一次看起来尚不构成存亡级风险，但未来的模型只会愈发强大，这种可能性也将随之升高。尽早树立限制研究发布的先例，是更明智的选择。他们决定：OpenAI 不应发布完整版本。

Jack Clark 曾是一名记者，后来出任 OpenAI 战略与传播总监，2018 年底彻底转型，专注于拓展公司初具规模的政策影响力。他频繁往返华盛顿，乐于充当政策制定者眼中那个随叫随到的 AI 顾问。他常对他们说：“我就像 AI 版维基百科。“他还会坦言自己来自 OpenAI 的"立场”——他自己这样称呼：“我们希望为先进技术创造一个稳定的政策环境，能够跨越多届政府持续运作，因为我们的使命不可能在一个总统任期内完成。”

向我讲完这些之后，他补充道：“我们非常幸运，政策制定者愿意给我们相当多的时间。我认为很明显，要让事情顺利推进，我们只是希望他们掌握更多信息，也希望他们具备更强的自主获取信息的能力。”

2019 年 2 月，Clark 发动了一场媒体攻势，向各大媒体大肆宣扬 OpenAI 开发出了一项危险技术，因此决定不予公开发布。取而代之的是，他们将仅发布一个缩小版——参数量只有完整模型的 8%——让公众对其能力有所了解。他与 Amodei 等人联合撰写了一篇博客文章，附上 GPT-2 的生成样本，以呈现其完整潜力。“很明显，如果这项技术走向成熟——我估计还需要一两年——它就可能被用于虚假信息或宣传，“他对我当时在《麻省理工科技评论》的同事 Will Knight 说。Clark 刻意回避了一个事实：正是 OpenAI 自己在按这一时间表推动技术走向成熟。“我们在努力抢占先机，“他说。

OpenAI 此举在外部研究者中引发了强烈反弹。这些研究者坚守一个原则：开放科学是这一领域的基石，任何不参与其中的机构都值得怀疑，更何况还公开吹嘘这一决定。许多人也认为，OpenAI 对这款本质上不过是强化版自动补全软件的产品大加渲染、危言耸听，既失当又荒唐。GPT-2 远未达到构成严重威胁的程度；退一步说，即便真的构成威胁，为何要大肆宣传却又拒绝接受公众审视？整件事显得虚伪透顶，像是一场自我标榜的炒作秀。在斯坦福，Radford 就 GPT-2 作完演讲后，一位资深自然语言处理教授举手提出了最后一个问题。“那么，它危险吗？“他嘲讽道。全场哄堂大笑。“Alec 看起来很沮丧，“现场一位斯坦福研究人员回忆说，“斯坦福对 OpenAI 充满鄙视。”

OpenAI 内部，许多研究人员同样对 Amodei 和 Clark 的决定心存不满。对于那些不认同两人关于灾难性风险判断的人来说，无论是这一裁定本身，还是随之而来的媒体闹剧，都令人困惑不解。即便是认同这一判断的人，也有人质疑两人的决策是否妥当。“把这件事搞得这么大是个错误，“一位 AI 安全研究人员对我说，“感觉像是狼来了。”

反弹声浪甫起，Clark 便在办公室里来回踱步，精力亢奋地接连打电话，努力重新掌控局势。他对这场风波不以为然。“我们在打破常规，这自然会引发各种不同看法，“后来他在我登门拜访时说。他表示，从事前沿 AI 研究的机构迟早都得对发表什么更加审慎。OpenAI 率先试验这一流程应当如何运作，以免届时措手不及。“如果我们是对的，如果构建 AGI 真的可行，“Clark 说，“我们他妈的就需要一套非常完善的信息危害处理程序。”

他补充说，研究人员或许不喜欢 OpenAI 的这一动作，政策制定者却买账。华盛顿圈子里的很多人认为 AI 研究领域的开放文化颇具威胁。OpenAI 逆流而行的姿态，为它在华盛顿赢得了更多信任。

然而在幕后，领导团队也清楚，来自研究界的敌意长远来看难以为继。这家实验室正应对着接连叠加的声誉危机：先是对 AGI 的夸张宣称，再是对 GPT-2 等产品的过度营销，而今又在 2019 年初宣布了那个"弗兰肯斯坦式"的架构——各方批评接踵而至，顶尖研究人员对其的疑虑与日俱增。加之股权期权尚无实际价值，招募和留住人才依然困难重重。员工们不禁暗想，外部候选人拿到 OpenAI 的邀约，不过是为了在谷歌（Google）或 DeepMind 的谈判桌上多一个筹码。OpenAI 迫切需要找到一种方式，让自己作为研究机构的身份得到认可。

这一话题频繁出现在午餐闲聊和公司会议中，也见于一份名为"研究社区拓展头脑风暴"的内部文件。文件的"战略"一节写道：“明确将机器学习社区视为传播利益相关方。““调整我们的语气和对外信息，只在我们主动选择时才与其产生对立。“文件也承认，不良的研究声誉最终会削弱 OpenAI 在华盛顿的影响力。“要在政府层面拥有政策影响力，我们必须被视为机器学习研究和 AGI 领域最值得信赖的权威，“文件的"政策"一节写道，“来自研究社区的广泛支持和背书，不仅是赢得这一声誉的必要条件，更将放大我们的声音。”

Clark 的团队制定了一项新方案：分阶段发布。OpenAI 不再无限期扣押 GPT-2，而是将其开发的逐步放大的各版本模型错峰发布，若一切顺利，最终再公开完整的 15 亿参数版本。团队表示，此举将使 OpenAI 及其他各方得以循序渐进地观察并应对可能出现的后果，同时为实验室在各阶段之间与其他机构合作研究潜在风险争取时间。

Clark 向团队强调，通过这些合作伙伴关系构建生态系统至关重要。与知名机构合作，既能推动业界与学术界在应对 AI 安全风险方面展开更广泛的协作，也能为 OpenAI 推动改变研究发布规范的努力争取更多认可，同时有助于提升实验室的声誉。他的团队联络了数家机构的 AI 研究人员和安全研究人员，向他们提供了 GPT-2 完整版本的提前访问权限，以测试其被用于有害目的的可能性。Clark 要求团队从每位研究人员所在机构争取"最强有力的背书”，使 OpenAI 不仅能点名个人，更能将其所在机构列为合作伙伴。团队随后撰写了一份白皮书，宣传其发布策略，并重点介绍上述合作关系。他们还通过列举 GPT-2 发布后同样未立即公开研究成果的其他机构案例，将 OpenAI 塑造成行业领导者。

这些努力最终得到了回报。没过多久，“暂缓发布研究成果是管理 AI 安全风险的负责任做法"这一观念便在各行业组织和政策智库中引发了广泛讨论。2020 年底，Clark 将与 Amodei 兄妹一同离开 OpenAI，共同创立 Anthropic。在此之前，他在 OpenAI 的工作已为该机构建立起广泛影响力，并为其日后宏大的政策布局奠定了基础。

OpenAI 开始建立路线图，以系统化推进其研究。Amodei 把它当作投资组合来管理，称之为"押注组合”。他和其他研究人员持续追踪领域内的各种思路——这些思路来自不同的 AGI 实现哲学——并通过小规模实验逐一推进。看起来有前景的，继续推进；没有苗头的，果断放弃。

夺取 Dota 2 视频游戏冠军的项目，是 Amodei 认为已无多少价值的方向之一。Dota 2 团队在四月击败对手、完成目标，帮助促成了微软（Microsoft）的投资，也让一些人对公司规模化扩展（scaling）战略重新建立了信心。在他看来，这个项目已走完它的使命，Dota 2 团队随之解散。

Amodei 认为仍具持续潜力的，是 GPT-2。它代表着一种在业内被称为"纯语言"假说的押注。该理论认为，语言是人类交流的主要媒介，这意味着世界上所有知识最终都必须以文字形式记录下来。由此推论，AGI 应当能够从海量语言训练中自然涌现，别无其他。这一思路与"接地"假说截然相反——后者主张，物理世界以及人类感知和与之互动的能力，是智能同样不可或缺的构成要素。在接地假说看来，AGI 只能从语言与感知（如计算机视觉）的结合中涌现，还需要交互——例如通过在现实或虚拟世界中采取行动的物理或虚拟智能体。

在公司内部文件中，研究人员对各种方法的优劣进行了权衡。AI 安全团队曾一度援引令人不安的残障类比，来讨论"纯语言"假说的价值。

这些讨论揭示出，对智能的衡量如何能迅速滑向对哪类人群智能更高或更低的骇人评判。

“某种形式的语言，是野生人类与社会人之间的区别。例证：海伦·凯勒。“这句话出现在标题为"语言居于核心地位的若干初步论据"的文件中。页边距里，AI 安全研究人员通过嵌套评论继续着关于"纯语言"的论争。

“而且盲人的能力与视力正常者大致相当，“一位研究人员写道，以此证明通过视觉实现的"接地"似乎并非必要。

“盲人在经济上似乎处于显著劣势，“另一人反驳，并援引美国盲人联合会的数据：超过 70% 的视力障碍成年人没有全职工作。

“盲人依然远比黑猩猩有能力，“第三人回应道，“存在非常杰出的盲人。”

OpenAI 内部有许多人曾对纯语言路线持怀疑态度，但 GPT-2 让他们重新审视了自己的判断。通过不断提高预测下一个词的精准度来训练模型，在提升其他看似关联松散的语言处理任务的表现上，已经走得相当远。继续沿着这条路走下去——推进训练、进一步提高下一词预测的准确性——GPT 模型有可能发展出更广泛的能力，这似乎是可能的，甚至是合理的。Amodei 开始将语言模型的规模化扩展视为——尽管不大可能是通往 AGI 的唯一路径——也许是最快的一条路。机器人学团队的机械臂持续遭遇硬件故障，更是雪上加霜：成本高昂，进展却极为迟缓，是最糟糕的组合。

但问题随之而来：如果 OpenAI 继续扩大语言模型的规模，可能会加剧它在 GPT-2 发布时已经警示过的潜在危险。Amodei 向公司其他人主张——Altman 也表示认同——这并不意味着应当回避这项任务。结论恰恰相反：OpenAI 应当尽快扩大其语言模型的规模，但不应立即发布。GPT-2 已经证明，其他行为者获得更强大 AI 能力是多么容易——事实上，在 OpenAI 发布完整版 GPT-2 之前，两名研究生已经创建了一个开源版本。其他人开始进一步扩大语言模型规模，只是时间问题。这意味着，确保 AGI 造福人类的最佳方式，是由 OpenAI 率先突破，并利用内部的时间窗口，研究如何让其规模化模型变得更安全。等到公开模型的时机成熟，充分打磨和精炼后的成果将有助于确立 AI 安全规范——正如当初暂缓发布 GPT-2 改变了研究发布的行业规范一样。

随着某个版本的 GPT-2 已经面世，也有证据表明，纯语言模型的危险并没有那么严峻。据 OpenAI 所知，它并未被用于有组织的大规模虚假信息行动——而这类行动终究比 AGI 潜在的存在性风险要好应对得多。

“滥用当然不好，“Amodei 对我说，“但语言模型远不如 AGI 强大。我非常担忧语言模型被用来作为虚假信息的武器——这类事情确实让我感到恐惧——但与此同时，它是一个相对单一、清晰、边界明确的问题。”

换言之，在 Amodei 看来，扩大 GPT-2 的规模，不仅可能是迈向 AGI 最快的路径，其间可能出现的风险也相对可控——不过是虚假信息，而非灾难性的存在性威胁。这将为 OpenAI 提供一个更安全的试验场，用来探索一个强大但尚未强大到无法驾驭的 AI 系统，并逐步解决各种问题，包括如何发布它。

“什么是 AGI？AGI 究竟是什么样子？“Amodei 说，“我们处于一个尴尬的位置：我们不知道它是什么样子，也不知道它何时会到来。所以我们寻找那些虽然还不是 AGI、但至少呈现出 AGI 的部分机遇与挑战的事物。我们希望，如果我们能妥善处理这些，就算是为更高的段位做好了准备。”

这套逻辑成立，依赖于一个特定的前提：AGI 尽管面目模糊、难以预知，却是不可避免的。此后多年，OpenAI 将一再以这个论点的各种变体为自身行为辩护。在 AGI 势不可挡地到来的阴影下，公司需要不断开发更强大的模型，以做好自身准备，也为社会做好准备。即便这些模型本身携带着各自的风险，它们所提供的防范或直面 AI 末日的经验，也足以令那些风险变得可以承受。

2023年初，ChatGPT席卷全球，一位中国AI研究员向我分享了一段清醒的分析，拆解了OpenAI所谓的"必然性"论断。他说，OpenAI所做的事，只可能发生在硅谷。中国在AI人才方面与美国旗鼓相当，但无论团队多么出色，都不可能在没有明确说明技术形态和应用前景的情况下，拿到10亿美元，更不用说十倍于此的资金，去开发一项耗资极巨的技术。正是在ChatGPT发布之后，中国企业和投资者才开始热情地资助超大规模模型的研发——因为他们此时已有足够的证据相信，这些投资可以通过商业应用收回成本。

在整个报道过程中，我得出了一个更令人震惊的结论：就连在硅谷，其他公司和投资者也是在ChatGPT出现之后，才开始将不设上限的巨额资金涌入规模化扩展（scaling）领域。这其中包括谷歌（Google）和DeepMind——OpenAI最初的竞争对手。正是OpenAI，凭借其亿万富翁出资者的创立背景、独特的意识形态倾向，以及Altman非凡的驱动力、人脉和融资才能，共同造就了一种让其特定愿景得以涌现并席卷全局的成熟气候。“我感觉Sam是这个星球上野心最大的人，“一位前员工说。换言之，OpenAI所做的一切与"必然"恰恰相反；其大规模深度学习模型所引爆的全球性天文成本，以及由此点燃的将这些模型推向极致的危险竞赛，只可能从它实际发生的那一处诞生。

2019年4月的Gates演示时，OpenAI已将GPT-2小幅扩大了一些。但阿莫代伊对小打小闹不感兴趣。若要拉开OpenAI的领先优势，GPT-3就必须做到尽可能大。作为投资协议的一部分，微软（Microsoft）即将向OpenAI交付一台新超级计算机，搭载一万块英伟达（Nvidia）V100——这是当时训练深度学习模型性能最强的GPU。（V取自意大利化学家、物理学家亚历山德罗·伏打的姓名。）阿莫代伊想将这所有芯片一次性全部投入，来训练这个新的大型语言模型。

这个想法在许多人看来简直荒诞不经。在此之前，使用几十块芯片训练的模型就已堪称大规模。在MIT和斯坦福的顶尖学术实验室里，博士生们能用上十块芯片就已是奢侈。在美国以外的大学——比如印度——学生们能与几位同学共用一块芯片便算幸运，只能以GPU的一小部分来支撑研究。

许多OpenAI研究人员都对阿莫代伊的方案能否成功持怀疑态度，有人也认为循序渐进的规模化扩展（scaling）路径会更稳妥、更科学、更可预期。但阿莫代伊立场坚定，并获得了其他高管的支持：苏茨克维热切希望验证对Transformer架构进行规模化扩展的假设；布罗克曼希望继续拉升公司知名度；阿尔特曼则力主放手一搏。不久之后，阿莫代伊晋升为研究副总裁。

在幕后，阿尔特曼还在意着另一个因素：微软10亿美元的投资，伴随着10亿美元量级的期望；OpenAI已经在倒计时，必须拿出足以让这笔投入物有所值的成果。阿莫代伊将更大的语言模型视为AI安全研究不可或缺的前提条件，而阿尔特曼看到的，是它兑现OpenAI对微软承诺的潜力。

此后数月，阿莫代伊与阿尔特曼将就GPT-3的发布方式与时机产生激烈冲突；最终阿尔特曼胜出，以提速的节奏将模型推向世界。在ChatGPT诞生数年之前，这两个决定——将GPT-3的规模急剧扩大，以及将其迅速发布——将从此改变AI发展的走向。它将引燃AI进步的急速加速，在企业与国家之间点燃激烈竞争。它将以前所未有的规模助推监视资本主义蔓延，并加剧劳工剥削。它将凭借所需的庞大资源，以前所未有的程度将技术开发集中于少数之手，将世界其他角落拒之门外。它将加速高校深陷的恶性循环：无力竞争的大学持续向产业界输送博士生和教授，独立学术研究日益萎缩，问责机制的终结自此拉开序幕。它还将放大AI的环境影响，且程度之深，在缺乏透明度与监管的情况下，无论是外部专家还是各国政府，直至今日都无法完整核算。

但这一切都尚未发生。2019年秋，阿莫代伊组建了一支以AI安全研究人员为主的团队，取名Nest，一心要在公司内部严格管控GPT-3的开发进程。由此，这支团队开始了激进的规模化扩展（scaling）冲刺。

GPT-3 在本质上与 GPT-2 是同一种模型，只是被注入了规模远超以往的数据与算力，体量之大，在许多人看来已不仅仅是程度上的差异，而是一种质的飞跃。然而，使用一万块芯片也带来了新的难题。训练过程中，任何一块芯片随时都有小概率崩溃——就像打开了太多窗口的笔记本电脑突然死机一样。一旦某块芯片崩溃，整个训练便会中断，一切从头再来。一万块 GPU 叠加在一起，单芯片崩溃的概率便会成倍放大。鉴于 Nest 团队预计训练至少需要数月，这类错误所造成的损失——无论是金钱还是时间——都将是惊人的。

为解决这一问题，团队需要找到一种方式，确保训练在任何中断之后都能从断点精确续跑。同时，他们还需要制定一套策略，决定如何将训练分散到全部一万块芯片上——这一过程称为分片（sharding）：究竟是把模型切分成几十片、几百片，还是几千片，再让每一片在独立的 GPU 集群上训练后合并，哪种方式更优？

数据方面同样面临挑战。要达到最佳性能，数据集的规模必须与参数量和算力同步增长。如果参数过多而数据不足，模型就会开始逐字逐句地复现训练数据中的原文，实际上沦为毫无用处的复读机。在 GPT-2 阶段，Radford 对入库数据有严格筛选：他爬取了那些在 Reddit 上被分享、且获得至少三个赞的文章和网页文本，最终汇成一个 40 GB、约八百万篇文档的语料库，命名为 WebText。

这对 GPT-3 来说远远不够。于是，Nest 团队通过扩大爬取范围来扩充数据：在 Reddit 分享链接的基础上，追加了英文版维基百科的全量爬取，以及一个名为 Books2 的神秘数据集——OpenAI 从未披露其细节，但两位了解该数据集的知情人士告诉我，其中包含从 Library Genesis 盗取的出版书籍。Library Genesis 是一个在线影子资源库，专门收录通过 BT 下载的书籍和学术文章。2023 年，美国作家协会及包括乔治·R·R·马丁和 Jodi Picoult 在内的十七位作者，以大规模版权侵权为由对 OpenAI 和微软（Microsoft）提起诉讼。OpenAI 于 2024 年 3 月回应称，已删除上述数据集，并在 GPT-3.5 之后停止将其用于训练——而 GPT-3.5 彼时已被弃用。

即便如此，数据仍然不够。Nest 团队最终不得不转向一个公开可用的数据集——Common Crawl。这是一个庞大的数据转储库，定期从全网各处爬取，体量高达拍字节（即数百万 GB）级别——而这正是 Radford 当初刻意回避的来源，原因在于质量过于低劣。为了净化数据中的垃圾内容，Nest 团队训练了一个机器学习模型，专门从 Common Crawl 中筛选出那些形态最接近维基百科文章的样本。思路是：越像维基百科，越有可能接近维基百科的质量水准。他们也纳入了少量非英语样本，但最终这部分仅占总数据的 7%。尽管如此，在训练时，研究人员仍将过滤后的 Common Crawl 数据赋予最低优先级。换言之，GPT-2 时代是数据质量的巅峰；此后便每况愈下。

到两年后 GPT-4 发布、着手组建训练数据时，数量压力对质量的侵蚀更进一步。针对 Common Crawl 数据的过滤被彻底取消，大部分数据原样涌入。通过与微软（Microsoft）的合作关系，OpenAI 还获得了 GitHub 的完整镜像——GitHub 是微软旗下的在线代码托管平台。即便如此仍不够用，OpenAI 员工又广泛搜罗互联网上的一切可用内容：爬取 Twitter 上分享的链接、转录 YouTube 视频，以及从小众博客、现有在线数据转储库，乃至一个名为 Pastebin 的文本存储网站拼凑而来的海量长尾内容。只要没有明确声明禁止爬取，一律视为可以取用。

谷歌（Google）内部，一些研究人员感叹 OpenAI 愿意承担法律风险来收集数据，这赋予了它巨大的竞争优势。谷歌在数据访问和使用上要保守得多，并有一套严格的合规流程，须遵守包括欧洲数据隐私法规在内的各项规定——这部法规通称《通用数据保护条例》（GDPR）。讽刺的是，谷歌对合规的坚守，反而使 OpenAI 比谷歌自己更容易获取谷歌的数据。OpenAI 毫无顾虑地爬取和转录来自谷歌旗下 YouTube 的视频，而谷歌的研究人员为了遵守 YouTube 对用户上传内容所设的严格授权限制，却不得不在内部繁文缛节中艰难周旋。OpenAI 对这类合规问题毫不在意——用科技创业圈的话说，它对此"毫无包袱”。这是硅谷的经典思维方式：创始人和投资人奉行的信条是，初创公司不仅可以、而且应该闯入法律灰色地带（想想 Airbnb、Uber 或 Coinbase），以颠覆和革新各行各业。

降低质量门槛、继而将其彻底抛弃的决定，对 AI 系统背后的人工劳动产生了深远的下游影响。多年来，科技行业一直依赖处于不稳定经济处境中的低薪劳动者，为旗下 AI 模型完成文本分类、图像标注等基础数据处理工作。GPT-3 将超大规模、低质量数据集的使用常态化之后，相关工作的需求随之转变——从处理大体无害的内容，转向频繁接触令人不安的内容，包括出于内容审核目的而进行的审查，这一轨迹与此前的社交媒体如出一辙。这类审核工作不可或缺：它的存在，是为了防止生成式 AI 系统将训练数据中最丑陋的部分——暴力、性虐待或自残的文字描述——直接呈现在数亿用户面前。

“这些模型的输出控制方式正在经历一次重大范式转变，“Ryan Kolln 说道，他是 Appen 的首席执行官兼董事总经理，Appen 是一个连接硅谷企业与数据工作者的平台。“从传统 AI 的角度来看，你通过约束输入来控制输出”——也就是 Radford 团队所做的那类数据过滤——“因为模型只从你给它的样本中学习。生成式 AI 的挑战在于，输入来源是人类全体的语料库。因此你需要从输出端加以控制。”

2023年，Abeba Birhane与合著者发表论文，提出"仇恨缩放定律"这一概念，批判在未经筛选的数据（即她们所称的"数据沼泽”）上训练深度学习模型的做法。她们分析了两个公开可用的图文数据集——LAION-400M与LAION-2B-en，均取自Common Crawl，分别收录四亿和二十亿张图像，用于训练开源图像生成模型。研究表明，数据集规模越大，其中的仇恨与滥用内容也随之增多，进而加剧了基于这些数据训练出的模型的歧视性行为。例如，在二十亿图像上训练的模型，将黑人男性面孔识别为罪犯的概率是在四亿图像上训练的模型的五倍。同年晚些时候，斯坦福大学的一项研究分析了用于训练 Stable Diffusion 的 LAION-5B 数据集（共五十亿张图像），发现其中包含数千张经核实或疑似儿童性虐待的图像。

为控制模型输出，OpenAI 的举措之一是在肯尼亚雇用工人构建自动化内容审核过滤器，时均薪酬不足两美元——这一内幕由《时代》杂志记者 Billy Perrigo 率先披露。此外，OpenAI 还在全球范围内雇用了逾千名承包商，对其语言模型实施基于人类反馈的强化学习（RLHF）——这项技术最初由该公司开发，用于教 AI 智能体翻筋斗——具体方式是反复向模型输入提示并为答案打分，以期尽可能驯化模型。

德国艺术家、电影人 Hito Steyerl 曾拍摄一部纪录片，聚焦从事数据标注工作的叙利亚难民。她与我分享的观察与 Birhane 的批判相呼应：当大规模监控成为数据采集的基础时，心理有害的内容便会不断积聚。她说，要从根本上解决这个问题，必须追溯源头——质疑数据中究竟包含什么，质疑大规模、无差别攫取数据这一整体前提。

第二部

6 登天

奥特曼职业生涯早期就意识到，新上任的CEO只有"重建公司"才能真正成功。接手YC主席一职时，他以十足的决心付诸实践：推出新项目，设立新基金，拓展加速器对不同阶段初创企业的支持；转向硬技术赛道，涉足核聚变、量子计算、自动驾驶汽车等需要雄心勃勃的科学创新的领域。YC本已是声名显赫的品牌，其影响力版图从每年支持数百家公司扩展至数千家，成为硅谷当之无愧的引力中心。“我最引以为傲的是，我们真的建起了一个帝国。“奥特曼卸任主席后如此说道。

YC时代的落幕，开启了他在OpenAI的新篇章。2019年3月，在全职转入OpenAI的过渡期间，他迅速带来了在YC锤炼出的同一套进攻性思维。他不想让OpenAI跻身全球顶尖AI机构之列，他要让它成为唯一一家。多年来，奥特曼借助YC及其他论坛向创业者传授一个信条：把创业当作赢者通吃的竞争来打。他告诉他们，一家初创公司若想有所作为，就必须迅速而不懈地出击，击败对手，并持续压制对手。

他常用的那个魔法数字是"十”，源自蒂尔的垄断战略。“我有个有点疯狂、带点随意的经验法则：你的技术要比次优方案好上一个数量级。“2014年，彼得·蒂尔在斯坦福大学为奥特曼的创业课客座授课时如是说。比如亚马逊，找到了比实体书店多卖10倍图书的方法；他自己创办的PayPal，找到了比支票结算快10倍的支付方式。“你需要在某个关键维度上实现某种非常强劲的提升，也许是一个数量级的提升。“蒂尔说。

“十"成了奥特曼万物通用的基准数字。初创公司不仅要靠性能高出10倍的技术打入市场，他还会建议，每一代产品都需要再提升10倍。每一代迭代的速度，则是另一个决定成败的关键变量。“如果你的迭代周期是一周，竞争对手是三个月，你会把他们甩得远远的。“2017年，他对一批有志创业者说道。

在YC，奥特曼推动合伙人持续将投资公司数量扩大10倍。“我们会随着时间推移，摸索出如何再翻10倍，再翻10倍。“奥特曼后来在一次活动上谈及自己的策略时说，“总有一天，我们会投资世界上所有的公司。““山姆是我听到的第一个这样说的人——由于初创团队的工作和YC已建立的品牌，我们事实上已经是这个领域的事实垄断者，“奥特曼在YC的继任者杰夫·拉尔斯顿说。

在OpenAI，奥特曼打算沿用同一套策略。2019年底，他向公司发出一份备忘录，阐明长期愿景，强调OpenAI需要在2020年底前在四个类别中"位居第一”：技术成果、算力、资金（用于获取更多算力），以及"准备度”——即组织的安全与保密能力，及其在高压情境下的韧性。

其中最重要的是第一项，他说。OpenAI若想实现使命，就需要率先构建出有益的AGI，或处于领先地位，从而依然能够主导AGI的发展走向。“尽管我们理论上可以放缓能力研究，“他写道——此处指的是推进技术成果——“但鉴于其他人的进展速度，如果我们想对AGI拥有重大影响力，很可能必须在技术进步上全力加速。“随着越来越多的竞争者看透OpenAI的策略并涌入这一领域，这一点只会越来越真切。

“我们还需要更多次的10倍飞跃才能抵达AGI，“他在备忘录后段补充道，“我们应当始终追求颠覆性成果，而非渐进式改良。”

这套成功方程式还有几个不可或缺的要素。维持微软（Microsoft）的满意度、保持算力领先，至关重要。如果OpenAI取得成功，微软已承诺将远不止投入10亿美元。“我们希望微软一路相伴，成为我们始终如一的核心合作伙伴，“奥特曼说，“他们有能力在未来至少五年内，为我们提供全球最强大的超级计算机。“这意味着要告别过去OpenAI那种自由散漫的学术研究氛围，转向聚焦商业化，切实回馈微软。一旦OpenAI有其他想追求的研究项目，届时自然会有资源。“套用那句著名的迪士尼名言，“奥特曼写道，“我们应该先赚更多的钱，才能做更多的研究；而不是先做更多的研究，才能赚更多的钱。”

此外，公司还需要开始收紧透明度。“随着我们取得更多进展，谈论AGI所带来的信息危害风险将不断升高，“奥特曼指出。是时候限制研究论文的发表和模型的部署，采取更严格的保密政策，对外仅披露狭窄技能领域的进展，而非更宏观的AI突破。与此同时，每个人也都需要开始假定，“我们做出的每一个决定、进行的每一次对话，最终都会被调查，并登上《纽约时报》的头版”。

即便如此，“世人仍然需要认为我们在某件事上领先”，他说。这将使"世界上的关键影响者"更"愿意为我们竭尽全力”，也会让"总统级别或其授权代表"级别的全球政策制定者在面临重大决策时，主动向OpenAI"寻求答案”。为此，“我们大概应该计划每年至少发布一次令人印象深刻的进展展示”。

最后，公司需要开始以更认真、更团结的姿态行事。奥特曼引用了海曼·G·里科弗的一段话。里科弗是美国海军上将，因主导建造世界首艘核动力潜艇而被誉为"核动力海军之父”。这段话在OpenAI创立之初，就被奥特曼命人漆在了办公室的墙上：

我相信，我们每一个人都有责任这样去行动：仿佛世界的命运就系于自己一身。诚然，一个人单枪匹马无法完成这项工作。然而，一个人可以带来改变。我们每个人都有义务将自己的独立思考与个人能力，投注于广泛的人类关切之中。正是怀着这种信念，我们才能坦然直面肩负人类繁荣的责任。我们必须为人类的未来而活，而非为了个人的安逸或成功。

“构建造福人类的AGI，或许是世界上最重要的事业，“Altman在文件的引语下方写道。“我们必须将使命置于任何个人偏好之上。

“无足轻重的事不必大动干戈，这样我们才能把精力留给真正举足轻重的事——而那样的事将会有很多。”

内部矛盾其实早已在酝酿之中。公司各处浮现的小裂缝，正逐渐汇聚成深层的分歧。Brockman 与阿莫代伊兄妹曾经相互引为挚友，如今却在越来越多的问题上针锋相对。其中，达里奥·阿莫代伊对 Dota 2 项目的降级处理令 Brockman 深感不满，他认为阿莫代伊从未认真对待自己的贡献。Dota 2 曾是算力消耗最大的项目，而阿莫代伊将算力集中调配给 Nest 团队用于 GPT-3 研发，同样让 Brockman 心生抵触。阿莫代伊兄妹则认为 Brockman 难以共事，拒绝让他参与他们的语言模型开发。

这种张力在领导层之间造成了裂痕，并逐渐蔓延至公司内各自阵营中效忠不同人的员工。Dota 2 项目期间，Brockman 与部分团队成员在高强度的工作、巨大的压力以及一次说走就走的夏威夷休整中，建立起了近乎家人般的情谊，尤其与波兰科学家 Jakub Pachocki 和 Szymon Sidor 最为亲密——这两位室友也是最好的朋友。阿莫代伊麾下的 AI 安全团队，尤其是 Nest 团队的核心成员，则构成了另一个圈子，将对失控 AI 与极端风险的共同忧虑作为精神纽带。他们刻意将工作与公司其他部分隔绝，建立了私有 Slack 频道和文档，甚至其他高管也无权访问。这让 Brockman 之外的更多人同样感到被边缘化——他们既无从参与公司核心研究，算力资源也日益萎缩。

与此同时，阿莫代伊 AI 安全阵营的人对 Altman 的一些行为也日渐不安。OpenAI 与微软（Microsoft）的协议签署后不久，其中几人震惊地发现，Altman 为换取微软的投资，竟向其承诺了如此广泛的技术访问权限，与他们此前从 Altman 那里得到的理解大相径庭。他们担忧，一旦 OpenAI 的模型真的出现 AI 安全问题，这些承诺将使阻止模型部署变得极为困难，甚至根本不可能。阿莫代伊阵营开始对 Altman 的诚信产生严重质疑。

“我们都是务实的人，“这个群体中的一人说，“我们当然要融资，当然要做商业化的事。如果你是 Sam 那样经手大量交易的人，这样想或许很合理：‘好，来谈一笔交易，拿这个换那个，再拿下一个来换。‘但如果你是我这样的人，你就会想：‘我们在拿一件自己还没完全搞清楚的东西去交换。‘这感觉把我们推进了一个让人不舒服的处境。”

这一切都发生在公司内部弥漫着种种偏执情绪的大背景之下。在 AI 安全阵营内部，这种情绪集中体现在他们眼中日益确凿的一个判断：强大而目标错位的 AI 系统，可能带来灾难性的后果。一段离奇的经历尤其令他们中的几人深感不安。2019 年，在一个参数量约为 GPT-2 两倍的后续模型上，一组研究人员开始推进阿莫代伊所倡导的 AI 安全工作：测试基于人类反馈的强化学习（RLHF），以此引导模型生成更积极正面的内容，并远离任何具有冒犯性的表达。

然而在某个深夜，一名研究员在离开前提交了一次代码更新，其中包含一个笔误，随即让 RLHF 进程在无人值守的情况下运行了整晚。这个笔误至关重要：一个减号被错写成了加号，致使 RLHF 进程反向运行，反而推动 GPT-2 生成更多具有冒犯性的内容。到第二天早晨，这个笔误已造成严重后果——GPT-2 在回应每一个提示时，都输出了极为淫秽露骨的语言。这件事既令人啼笑皆非，也着实令人忧虑。研究员找出错误后，向 OpenAI 代码库提交了修复，并附上一条注释：不要造出一个效用最小化器。

规模化扩展（scaling）本身就能带来 AI 能力的飞跃，这一认识也在员工中引发了另一层忧虑：如果其他公司发现了 OpenAI 的秘密，会发生什么？“我们这套东西背后的秘密，能写在一粒米上，“他们彼此私下说——那就是"规模"这一个词。正因如此，他们也担忧强大的能力一旦落入不法之徒手中将带来何种后果。领导层更是推波助澜，频繁提及中国、俄罗斯和朝鲜的威胁，强调 AGI 的研发必须掌握在美国机构手中。这种论调有时令非美国籍员工颇感不快。一位前员工回忆，午餐时大家会相互追问：为什么非得是美国机构？为什么不能是欧洲的？为什么不能是中国的？

在那些热议 AI 研究长远影响的喧嚣讨论中，许多员工反复回想起 Altman 早期将 OpenAI 比作曼哈顿计划的比喻。OpenAI 真的在研制核武器的当量之物吗？这与公司作为一家学术机构所积累的那种充满理想主义的文化氛围，形成了奇异的反差。每逢周五，员工们会在一周的高强度工作后，聚在一起享受音乐与美酒之夜，在轮流登台弹奏办公室钢琴的同事营造的舒缓旋律中，将压力慢慢消散，直至深夜。

重心的悄然转移令部分人内心不安，对一些偶发的无关事件也愈加敏感焦虑。有一次，一名记者尾随员工混入有门禁的停车场，进入了大楼；还有一次，一名员工发现了一个来路不明的 U 盘，旋即引发了关于其是否携带恶意软件的惶惶猜测——恶意软件是常见的攻击手段，这会不会是某种网络安全入侵的图谋？在用气隙计算机（一台与互联网完全断开的机器）对其进行检测后，这个 U 盘最终证明并无异常。阿莫代伊至少有两次用气隙计算机撰写核心战略文件，并将机器直接连接打印机，只以纸质副本形式传阅。他极度担忧国家行为者窃取 OpenAI 的机密，进而研发出用于恶意目的的强大 AI 模型。

“没有人为这份责任做好了准备，“一名员工回忆道，“这件事让大家彻夜难眠。”

Altman 本人则对信息泄露深感焦虑。他私下担心 Neuralink 的员工——自马斯克离开后，OpenAI 仍与 Neuralink 共用办公室，只是气氛已远不如前，多了几分不安。Altman 同样对马斯克放心不下——马斯克拥有一套庞大的安保体系，包括专职司机和保镖。深感双方实力悬殊的 Altman，曾秘密委托一次电子反监听审查，试图扫描办公室内是否存在马斯克可能留下的、用于监视 OpenAI 的窃听装置。

面对员工，Altman 以美国竞争对手正以比 OpenAI 更快的速度推进 AI 研究为由，为公司日益走向封闭、同时又要全速前进的做法进行辩护。“我们必须对世界的美好未来承担责任，“他在愿景文件中写道，“但另一方面，如果威权政府抢在我们之前研发出 AGI 并加以滥用，我们同样会辜负自己的使命——要完成使命，我们几乎势必要以极快的速度取得技术进展。”

奥特曼开始收紧安全管控。高管们就新的边界在哪里展开讨论：OpenAI应当更像一家保护专有技术的财富500强企业，还是更像一个守护高度机密的政府机构？作为基本底线，高管们一致认为必须锁定模型权重——这是可用于复制OpenAI深度学习模型完整训练版本的关键信息。一旦被窃，不仅会为不法分子提供助力，还会削弱OpenAI的竞争优势。

起初，公司没有专职安全人员，奥特曼指派了基础设施团队的一名成员——该团队负责从公司GPU到办公室网络的一切事务——专门思考防止模型被盗的方案，防范对象不仅包括企业间谍或国家支持的黑客，也包括OpenAI自己的员工。在网络安全领域，防范"内部威胁"是相对标准的做法。内部人员可能蓄意破坏或窃取OpenAI的知识产权，也可能被诱骗而泄露机密。在有人提出这一问题之后，奥特曼私下承认，苏茨克维这样的人可能面临后一类风险。这位首席科学家天然是不法分子的攻击目标：他是那种头脑超群却缺乏世故的科学家原型，在组织内地位举足轻重，掌握着最高级别的信息访问权限。

苏茨克维有着自己的偏执。作为AI研究圈这个以高智商著称、却在社交上普遍笨拙的世界里的明星科学家，他不止一次目睹过狂热粉丝和跟踪骚扰的行径。陌生人曾多次试图潜入OpenAI办公室，只为一睹他的真容。与Amodei一样，他也担心AI的力量会引来别有用心的政府的觊觎，并怀疑那些急于向他求教的人是否是潜伏的外国特工。他曾向同事设想：万一自己的手被砍断，被人拿去欺骗掌纹扫描仪以解锁OpenAI的机密，他该如何应对。他希望少招人、保持精简团队，以降低被渗透的风险。他与Jakub Pachocki、Szymon Sidor共同提议建造一个安全隔离设施——一个装有物理隔离计算机的地堡，用于存放OpenAI的模型权重并防止外泄。然而这个想法根本不切实际：模型首先需要在微软（Microsoft）的服务器上完成训练，提案因此从未落地。

在大多数员工视线之外，随着企业监控软件的安装，数字安全悄然升级；后台也同步对物理安全进行了加固。办公室停车场的闸门得到强化。在办公室内部，多处门禁的密码键盘被设置了"胁迫密码”——一种特殊代码，输入后可在不引起注意的情况下触发秘密警报，通知相关安全人员有现场威胁。公司还向供应商询价，评估将服务器机房加固至能够抵挡机枪扫射所需的费用，不过这一方案随后被放弃。

在那份愿景备忘录中，奥特曼指出了压力不断加剧所催生的内部分化。“OpenAI内部（至少）存在三个派系——打个不恰当的比方，分别是探索研究派、安全派和创业派。“探索研究派致力于推进AI能力，安全派专注于责任担当，创业派则强调快速行动、将事情做成。

按奥特曼的说法，每个派系都有公司需要珍视的重要价值观：探索研究派的"即便屡遭失败，我们也将追求重要的新想法”；安全派的"我们将坚定不移地做正确的事”；创业派的"我们总能找到办法把它实现”。“我们必须继续避免部落间的内讧，“他说，“要取得成功，我们需要这三个派系合而为一——同时保留各自的优势——共同朝着最大造福人类的AGI目标前进。”

奥特曼始终没有点名道姓，但员工们心领神会。苏茨克维是探索研究派的代言人；Amodei及其AI安全团队专注于极端风险，代表着安全派；布罗克曼则是创业派的旗手。不久之后，疫情来袭，所有人开始居家办公，各派系之间的隔阂由此愈发难以弥合。

Amodei 督促团队加快推进。就像训练 GPT-2 时那样，他们逐步训练规模递增的模型，最终迈向拥有 1750 亿参数、调用一万块 GPU 的完整体量，并按科学家名字以字母顺序依次命名：最小的模型取名 ada，致敬英国数学家 Ada Lovelace——她被普遍认为是史上第一位程序员；babbage 致敬英国发明家 Charles Babbage，他构想了第一台数字计算机，Lovelace 正是为此机器提出了程序设计方案；curie 致敬波兰裔法国物理学家兼化学家居里夫人，她是首位荣获诺贝尔奖、也是唯一两度获奖的女性；davinci 则致敬达·芬奇。这一过程既是为了持续验证缩放定律在更大规模下是否依然成立，也出于更实际的考量——在每个新量级上逐步攻克硬件与数据层面的挑战。Nest 团队定期向全公司汇报进展，现场氛围日益热烈。“那种震撼很难用语言描述，“一位研究员回忆道，“我这辈子从来没见过这样的东西。”

与此同时，Altman 和 Brockman 开始筹划商业化方案。2020 年 1 月下旬，Brockman 着手编写 GPT-3 应用程序接口（API）的第一行代码。这套 API 将让企业和开发者在无需获取模型权重的前提下调用模型能力，并将其嵌入自己面向消费者的产品。公司随即拆分为两个部门：米拉·穆拉蒂晋升为新成立的应用部门副总裁，主管 API 及商业化战略；她手下，原机器人学团队负责人 Peter Welinder 转岗主导产品；曾联合创办一家被 Airbnb 收购的 AI 初创公司的 Fraser Kelton，以及曾任职于 Leap Motion 的 Katie Mayer，分别受聘担任新产品团队与工程团队的负责人。未被纳入应用部门的人员，则自然归入研究部门。

这次拆分加深了 Altman 早已察觉的裂痕。应用部门的成立引入了一批来自其他初创公司的员工，虽然人数不多，却持续增加，由此壮大了"初创系"的阵营。探索性研究系对此态度复杂，担忧 OpenAI 会沦为又一家普通的硅谷产品公司；而安全系——Amodei 所在的派系，同样隶属于研究部门——则对此愈发强烈地抵制。

在安全系的许多人看来，很快通过 API 或其他方式发布 GPT-3，会白白葬送他们加速规模化扩展所换来的时间优势——那段时间本该用来完善模型的安全性。应用部门的存在意义在于为 OpenAI 的技术找到早期变现路径，在他们看来这就意味着必须在近期发布，因此双方立场相左。在他们看来，API 同时也是所有发布策略中管控最严密的方式：公司可以有选择地决定向谁开放访问权限，同时收集宝贵的数据，以了解模型可能被如何使用或滥用。在全员大会上，Altman 左右逢源：API 最终能帮助双方各取所需；有了一定的营收，OpenAI 才能在 AI 安全研究上投入更多。

GPT-3 训练完成后，员工开始在内部试玩这个模型，测试其能力边界，并摸索 API 的第一个版本。公司举办了一场黑客马拉松，员工们天马行空地设想各种应用场景。然而，每出现一个新原型，内部张力就会加剧一分。应用部门以及探索性研究系的许多人，看着这些演示愈发兴奋；而安全系的许多人则将其视为又一个佐证：在未经全面测试、未经充分研究的情况下发布模型，可能引发灾难性后果。

其中一项能力尤为引发争议——GPT-3 的代码生成能力。这并非 Nest 团队的预期目标，但在爬取 Reddit 链接、使用 Common Crawl 作为训练数据的过程中，他们顺带采集了工程师发布在各类在线论坛上用于提问或分享技巧的零散代码片段，由此使模型习得了一定的编程语言能力。这一进展让探索性研究系和应用部门大为振奋：它不仅是令人印象深刻的技术里程碑，还有望成为加速公司 AI 研究生产率的工具，并让 GPT-3 成为更具吸引力的产品。而正因如此，安全系的一些人陷入恐慌。如果 AI 系统能够利用自身的代码生成能力来修改自己，就可能加速更强大能力的涌现，增加其脱离人类控制的风险，并大幅提升造成极端危害乃至生存威胁的概率。

Sutskever 与 Wojciech Zaremba——马斯克曾在一次会议上当面施压的创始成员之一——随后着手组建一支团队，专门打造一个面向代码生成的模型。然而在项目启动会上，两人才得知 Amodei 已经有了自己开发代码生成模型的计划，并不认为有必要合并。尽管心存顾虑，Amodei 仍相信，与对待 GPT-3 时一样，应对代码生成潜在危害的最佳方式，就是比任何人都更快地把模型做出来——包括 OpenAI 内部他认为不会将 AI 安全置于首位的其他团队——然后用争取到的时间开展降低模型风险的研究。两支团队就此各自为战，推进重复的代码生成项目，令其他员工大惑不解。“从旁观者角度看，这简直像是某种疯狂的《权力的游戏》，“一位研究员说道。

围绕能否通过 API 发布 GPT-3 的僵局一直延续到暮春时节。安全系持续以可能加速极端 AI 风险为由呼吁极度谨慎，力主尽可能推迟发布；应用部门则继续推进 API 上线准备工作，认为让模型与真实世界接触才是改进的最佳途径。大约在同一时期，第三股员工群体也开始表达新的忧虑——他们担心在美国政治、社会与经济动荡的大背景下，强大的文本生成能力将带来难以预料的冲击。到 2020 年 5 月，疫情已引发比大萧条更为迅猛的失业潮。同月，明尼阿波利斯警察 Derek Chauvin 杀害了 46 岁的黑人男性 George Floyd，在全美乃至世界各地引爆了大规模"黑人的命也是命"抗议浪潮。团队同样对即将到来的美国总统大选忧心忡忡。

然而，OpenAI内部开始流传一个传言：谷歌（Google）可能很快就会发布自己的大型语言模型。这种可能性并非空穴来风——谷歌（Google）在年初发表了一项关于新型聊天机器人Meena的研究，该模型基于参数量达GPT-2约1.7倍的大型语言模型构建。谷歌（Google）极有可能正在将那个模型规模化扩展（scaling）到与GPT-3相当的量级。这股传言最终为API的发布盖棺论定：既然世界上即将出现一个同等规模的模型，安全团队便觉得继续压着GPT-3的理由已经不够充分了。

当年六月，公司正式宣布了这一API，并开放申请表供外界申请早期使用权限，优先向应用部门认为能够负责任地使用该技术的大型企业开放。与此同时，公司还维护着一张巨大的电子表格，供员工填写希望插队的人的名字，包括家人、朋友，乃至各自喜爱的明星名人。

谷歌（Google）传言中的那个模型，始终没有真正面世。这家科技巨头确实开始研发一款比Meena更大的模型——名为LaMDA，意在打造一款更出色的聊天机器人——但其规模仍略小于GPT-3，而公司最终决定在ChatGPT发布之后才将LaMDA推向公众。谷歌（Google）高管认定，LaMDA尚不符合公司的AI伦理标准。部分员工也担心重蹈微软（Microsoft）一桩臭名昭著的覆辙：2016年，微软（Microsoft）推出了一款AI聊天机器人Tay，在用户反复诱导其重复不当与冒犯性内容之后，Tay迅速演变为充斥种族主义与厌女情绪的机器人，甚至公开表达对希特勒的支持。GPT-3 API的发布，不会是OpenAI最后一次因夸大竞争威胁而仓促推出技术的决策。

正如 ChatGPT 让 OpenAI 一夜之间家喻户晓，GPT-3 则是它在 AI 和科技圈的那个关键时刻。2022 年底，ChatGPT 在 GPT-3 的基础上加入了若干重要改进与功能——包括面向消费者的网页界面、对话能力、更多安全机制以及免费版本——从而将其打造成一款风靡全球的产品。但公众彼时通过这款聊天机器人所体验到的核心能力，开发者们早在两年前的 2020 年就已通过 API 亲身领略。同样的惊叹与震撼，让开发者们难以置信。

GPT-3 的能力远超 GPT-2 的任何表现。无论是学术界还是产业界，此前从未有人见过这样一种技术：它能以看似同等的娴熟度生成文章、剧本和代码。这种跨任务的灵活性本身已属极高的技术成就——此前的语言模型通常只擅长完成针对性训练的单一任务。但更令人叹服的是，许多人认为 GPT-3 开始展现出另一项在该领域长期以来梦寐以求的特性：快速泛化。只需向模型展示几个新任务的示例，它便能举一反三。

那一年的 NeurIPS 上，OpenAI 阐述这项模型工作的论文荣获顶级研究奖项，这让公司员工大感意外，也确立了该实验室作为顶尖机构的地位。效果正如领导团队所预期。OpenAI 新获的声望让招募和留住人才变得更加容易，而来自 OpenAI LP 的融资则在其中发挥了关键作用——这笔资金终于让公司在薪酬待遇上能够与谷歌（Google）和 DeepMind 一较高下。

2020 年 10 月，随着 OpenAI 知名度的持续攀升，Altman 聘用了 Steve Dowling——曾在苹果主导传播工作的资深高管——出任 OpenAI 新任传播副总裁。他同时将政府关系事务交由 Dowling 统管，着重强调向政策制定者普及 AI 知识、让他们提前了解即将到来的技术能力的重要性。Jack Clark 离职后，Dowling 引入了 Anna Makanju——奥巴马政府高度器重的前顾问，曾在 Facebook 和 Musk 的 Starlink 从事政策工作——负责统筹政策与全球事务。

应用部门急于乘 GPT-3 之势，积极谋划如何拓展商业化战略。然而几乎每走一步，安全派都会从中阻挠。对于安全团队而言，GPT-3 的仓促发布已是既成事实，弥补这一草率之举的正确方式不是继续扩大传播，而是尽快弥补模型的已知缺陷。当时 API 上线的版本没有任何内容审核过滤机制，输出结果也未经基于人类反馈的强化学习（RLHF）精调。双方在会议上都试图寻找中间地带，结果却是各说各话，陷入无休止的循环。有一次，后来晋升为产品副总裁的 Welinder 愤愤地说，每次对话都像是在重演 1944 年美国情报机构关于非暴力破坏的秘密手册。这份 2008 年解密的手册中有一节列出了一套简单的指令，专门介绍如何动摇和削弱一个组织的生产率，包括：

尽可能频繁地发言，且每次都尽量拖长。

尽可能频繁地提出无关议题。

在措辞、会议记录和决议的用语上反复纠缠。

将上次会议已议定的事项翻出来，试图重新质疑该决定的合理性。

没完没了地追问。

这种对立情绪渗透到了会议之外。在应用部门的人看来，每一个数字沟通渠道都沦为了战场。产品人员在 Slack 上发一条消息，就可能引来安全团队几十条乃至更多的忧虑回复。Murati 或 Welinder 分享商业化战略新思路的谷歌（Google）文档，可能会被评论塞满，整篇文档看起来都被黄色标注覆盖。GPT-3 已经面世，世界却并未因此终结，这让应用部门的许多人也认为安全派近乎歇斯底里，与现实完全脱节。对安全团队而言，这关乎原则与先例。OpenAI 需要建立严格的规范，并将自身约束在比眼前看似必要的更高标准上。一旦风险骤然升高——而安全团队相信这种升高会来得迅猛且难以预料——OpenAI 的充分准备，将决定其技术究竟带来的是巨大的伤害还是巨大的福祉。

然而，Amodei 和安全派最终落败。随着 GPT-3 API 的成功，微软（Microsoft）准备深化与 OpenAI 的合作关系。Altman 开始就微软（Microsoft）再追加 20 亿美元投资一事展开谈判，利润上限则设定为 6 倍。大语言模型展现出的商业潜力，进一步巩固了 OpenAI 的战略重心。Amodei 的同级对手、另一位研究副总裁 Bob McGrew 逐一将研究部门的团队和项目调整为以 GPT 相关工作为核心。2020 年夏末，公司解散了机器人学团队。大多数员工转入 GPT 项目；两名机械工程师则被裁员。9 月，微软（Microsoft）宣布将独家授权使用 GPT-3，大幅扩大了模型的发行渠道。除 OpenAI 继续通过自家 API 提供 GPT-3 服务外，微软（Microsoft）还将获得完整的模型权重，可按需将其嵌入并改造用于自身产品和服务，包括通过 Azure 上的微软（Microsoft）自有 GPT-3 API 进行交付。

就在员工们各自居家远程庆祝 OpenAI 走红的同时，达里奥·阿莫代伊与丹妮拉·阿莫代伊——她此时已出任安全与政策副总裁——以及 Jack Clark，还有几位担任 Nest 团队核心成员的 AI 安全研究员，在 Slack 上突然销声匿迹。私下里，包括达里奥在内的数人开始分别向董事会个别成员反映他们对 Altman 行为方式的担忧：Altman 每次涉及微软（Microsoft）交易和 GPT-3 部署的决策，都是早已内定的结论，却巧妙地操控和引导异见者相信自己拥有真正的话语权，直到为时已晚、无从更改。他们不仅认为这种做法有朝一日可能带来灾难性乃至关乎存亡的危险，它在现实中也已给部分人带来切肤之痛，并严重消耗了领导团队的凝聚力。据周围的人描述，阿莫代伊兄妹将 Altman 的这套手法形容为「煤气灯操控」和「心理虐待」。

当这个群体在无力感中挣扎时，他们开始凝聚在一个新想法上。达里奥·阿莫代伊首先向 Jared Kaplan 透露了这一想法——Kaplan 是他研究生时代的挚友与前室友，在 OpenAI 兼职工作，曾主导发现了缩放定律——随后又向丹妮拉、Clark，以及一小群在 AI 安全问题上与他立场一致的核心研究员、工程师和其他人分享了这一想法。他问道：他们真的还有必要继续在 OpenAI 内部争取更好的 AI 安全实践吗？他们能否独立出去，去追求自己的愿景？经过几番讨论，这群人认定，如果要离开，就必须尽快行动。随着缩放定律的演进态势，留给他们构建一家竞争对手公司的窗口期正在收窄。“缩放定律意味着训练这些前沿模型所需的资源会越来越高、越来越高、越来越高，“一位与阿莫代伊同行的人说，“所以如果我们想离开、想做点什么，我们是在跟时间赛跑，你知道吗？”

2020年末，员工们登录视频会议，参加一次全员大会。山姆·奥特曼把话筒交给了达里奥·阿莫代伊，后者如往常一样，带着一股坐立不安的劲儿，不停地转弄和拽着自己的卷发。他宣读了一份事先准备好的声明，宣布他、丹妮拉和其他几位同事即将离职、另立门户。随后，奥特曼请所有离职人员退出会议。次年五月，这批出走者宣布成立一家新的公共利益公司：Anthropic。

Anthropic 的人后来把这场"离婚”——部分人如此称呼——定性为一场关于 OpenAI AI 安全方针的分歧。这固然属实，但这场决裂同样关乎权力。达里奥·阿莫代伊固然受信念驱动——他希望在自己的原则框架内做正确的事，也希望与奥特曼拉开距离——但他同样渴望对 AI 发展拥有更大的主导权，以便按照自己的价值观和理念推动这一进程。他和其他 Anthropic 创始人后来构建出一套属于自己的叙事神话，用以说明为何是 Anthropic 而非 OpenAI，才是他们眼中这项最具历史影响力的技术的更好守护者。在 Anthropic 的内部会议上，阿莫代伊会不时在公司动态更新中插入"不像山姆"或"不像 OpenAI"这样的措辞。然而随着时间推移，Anthropic 与 OpenAI 的路线并无多大分歧，二者的差异不过是风格上的，而非实质上的。与 OpenAI 一样，它也不遗余力地追逐规模化扩展（scaling）。与 OpenAI 一样，它也在标榜民主化 AI 发展的同时，滋生出一种愈发浓厚的保密文化。与 OpenAI 一样，它也大谈合作，而其创立的根基，恰恰植根于竞争与对抗。

7 囚笼中的科学

2020年6月，GPT-3 API的发布在整个行业内激起了开发大语言模型的新热潮。事后回望，这股热情与两年后ChatGPT点燃的狂热相比，未免显得有些平淡。但它为那个时刻埋下了引火之木，终将引发一场更为壮观的爆炸。

在谷歌（Google），研究人员震惊于OpenAI竟用这家科技巨头自己发明的Transformer击败了他们，遂开始寻求新途径，投身超大规模模型的路线。时任Google Research负责人杰夫·迪恩在一次内部演讲中，敦促团队整合旗下分散的语言与多模态研究项目的算力，联合训练一个庞大的统一模型。然而谷歌高层迟迟未采纳他的建议，直到ChatGPT的出现令他们将这一商业威胁定为"红色警报"，方才幡然醒悟。对此，迪恩颇为不满，直言这家科技巨头错失了早日行动的重大机遇。

在DeepMind，GPT-3 API发布前后，Geoffrey Irving恰好加盟——他此前曾是OpenAI安全团队的研究负责人。2019年10月入职DeepMind后不久，Irving便传阅了一份从OpenAI带来的备忘录，阐述纯语言假说的主张及对大语言模型进行规模化扩展（scaling）的种种裨益。GPT-3说服了DeepMind将更多资源投入这一研究方向。ChatGPT出现后，惊慌失措的谷歌高层将DeepMind与Google Brain的工作整合到新成立的Google DeepMind旗下，推进并发布了后来的Gemini。

GPT-3同样引起了Meta（当时还叫Facebook）研究人员的注意，他们向管理层争取类似的资源，以推进大语言模型研究。然而高层兴趣寥寥，研究人员只能自行拼凑算力，自力更生。Meta首席AI科学家杨立昆是一位固执己见的法国人，也是基础科学研究的坚定捍卫者，他对OpenAI颇有成见，认为其不过是在纯粹的规模化扩展上用蛮力砸钱。他不相信这条路能带来真正的科学进步，认为它很快就会碰壁。ChatGPT让马克·扎克伯格深深懊悔曾错过这一趋势，并促使他调动Meta的全部资源，强势杀入生成式AI的竞争。

在中国，GPT-3同样激起了各方对大规模模型的浓厚兴趣。但与美国同行如出一辙，中国科技巨头——包括电商巨头阿里巴巴、通信巨头华为和搜索巨头百度——都将这一方向视为研究版图中的新鲜补充，而非值得暂停其他项目、全力押注的AI发展新主线。ChatGPT以无可辩驳的商业价值，再次成为一切转变的分水岭。

虽然整个行业向OpenAI规模化扩展（scaling）路线的全面转向，事后看来似乎不够迅速，但置身其中，一点也不觉得慢。GPT-3正在大幅加速一种走向越来越大的模型的趋势，而这一趋势的后果已令部分研究人员感到警惕。在我与Brockman和Sutskever的对话中，我曾提到其中一个问题：训练此类模型的碳足迹。2019年6月，马萨诸塞大学阿默斯特分校博士生Emma Strubell率先联合发表了一篇论文，揭示大语言模型研发的碳足迹正以惊人速度增长。神经网络曾可以在性能强劲的笔记本电脑上完成训练，如今其规模之大，已需要依赖大量碳基能源的数据中心才能支撑。Strubell在论文中估算，仅完成一次训练循环——即向谷歌搜索所用版本的Transformer输入数据、令其计算该数据的统计模型——就需消耗约1,500千瓦时的电能。以美国电力供应的平均能源结构估算，这相当于一名乘客从纽约到旧金山往返一次所产生的碳排放量。问题在于，AI开发很少只涉及一次训练：研究人员往往需要反复训练神经网络，才能获得最优的深度学习模型。例如，在此前的一个项目中，Strubell曾在六个月内将一个神经网络训练了4,789次，才达到预期效果。

Strubell还估算了谷歌近期一篇论文所述研究的能耗与碳排放成本：研究人员在该研究中通过名为神经架构搜索的优化算法，对Transformer进行穷举式调整与调优，最终找到性能最优的神经网络配置，开发出所谓的"进化Transformer"。在GPU上运行整个流程，约需消耗656,000千瓦时的电能，产生的碳排放相当于五辆汽车整个生命周期的总排放量。

然而就在Strubell论文发表一年后，GPT-3的问世使这些令人咋舌的数字相形见绌。OpenAI动用了一整台位于艾奥瓦州的超级计算机，历时数月，对海量互联网数据进行统计模式匹配计算，训练GPT-3，共消耗1,287兆瓦时的电能，产生的排放量是Strubell对进化Transformer研发成本估算值的两倍。然而，这些能耗与碳排放数据直到近一年后才公之于众。起初，OpenAI只向公众披露了一个数字，以彰显模型的规模之大：1,750亿个参数——是GPT-2的一百多倍。

对于在埃塞俄比亚出生、后在斯坦福求学的研究者蒂姆尼特·格布鲁而言，这一规模化扩展（scaling）趋势带来了无数其他挑战。彼时，她已成为AI研究领域的知名人物，自2018年起在杰夫·迪恩主管的部门内共同领导谷歌（Google）的伦理AI团队。在她向其他五位黑人研究者发出那封邮件之后，她联合创办了非营利组织Black in AI。该组织开始在NeurIPS等重要学术会议期间定期举办学术论坛，为年轻的黑人研究者提供指导，并着力推动那些在主流AI研究中往往不受欢迎、却对黑人社群及技术发展至关重要的议题研究。

其中包括一篇具有开创意义的论文《Gender Shades》，最初由时任麻省理工学院研究员乔伊·布奥拉姆维尼在其硕士论文期间启动，格布鲁后来作为共同作者加入。论文采用布奥拉姆维尼为测试计算机视觉系统歧视性影响而开发的审计方法，发现人脸分析软件在有色人种、尤其是深肤色女性身上的错误率明显偏高。布奥拉姆维尼随后与Deborah Raji合作发表了后续论文，与《Gender Shades》一道催生了大量相关研究，包括美国政府一项援引并扩展其研究发现的大规模审计报告。两年后，以布奥拉姆维尼为核心、借助其新创的算法正义联盟推动的大规模公民权利倡导活动，促使亚马逊、微软（Microsoft）和IBM相继宣布禁止向警察出售人脸识别软件——恰在OpenAI发布GPT-3 API的同月。

Black in AI在AI研究圈内激发了一系列其他同类社群组织的涌现，它们同样为边缘群体提供了至关重要的支持，并对技术发展方向提出挑战。最先出现的是Queer in AI，随后是Latinx in AI、{Dis}Ability in AI和Muslims in ML。Queer in AI联合创始人William Agnew在2021年告诉我，如果没有这个社群，他不知道自己是否还会在AI研究领域坚持下去。“我甚至很难想象自己能拥有一段快乐的人生，“他回忆起作为年轻的酷儿计算机科学家时的孤立处境说道，“图灵是有，但他自杀了。这太让人压抑了。”

到2017年，Black in AI开始在NeurIPS举办工作坊，并每年举行一次晚宴和晚宴后的派对，出席人数逾百，不乏明星级研究者。正是在那里，杰夫·迪恩和萨米·本吉奥——谷歌（Google）另一位高级AI研究员，也是未来图灵奖得主Yoshua的兄弟——受邀出席晚宴后，在一个夜晚的舞会上主动找到格布鲁，询问她是否考虑申请加入谷歌（Google）。“来敲我们的门，“本吉奥说。

次年，格布鲁带着几分疑虑加入了谷歌（Google）。2015年那次被穿着谷歌（Google）T恤的男性骚扰的经历始终萦绕心头，她此前征询过的几位女性研究者的告诫也令她难以释怀——那些人警告说，Google Brain有边缘化女性、贬低其专业能力的惯性。让她得以从这种忧虑中寻得一丝慰藉的，是她早先结识的AI研究员玛格丽特·“梅格”·米切尔（Margaret “Meg” Mitchell），后者与她共同领导伦理AI团队。此后两年间，两人共同打造了业内开展批判性研究的最多元、最跨学科的团队之一。

在公司内部，这项工作常常像是逆流而行。但在外部，这支日益壮大的团队为谷歌（Google）塑造了良好形象——成为那个时代为数不多认真投入、严肃审视AI技术社会影响的科技公司之一。

GPT-3 API一经发布，谷歌（Google）用于分享AI研究的内部邮件列表便迅速涌现出高涨的兴奋情绪。对格布鲁而言，这个模型却敲响了警报。此前已有学术研究表明，语言模型会通过嵌入歧视性刻板印象或危险的错误表述而伤害边缘群体。2017年，Facebook的一个语言模型曾将一名巴勒斯坦男子用阿拉伯语写的"早上好"误译为希伯来语的"攻击他们”，导致他遭到错误逮捕。2018年，加州大学洛杉矶分校信息、性别与非裔美国人研究系教授萨菲亚·乌莫贾·诺布尔（Safiya Umoja Noble）出版了《压迫的算法》一书，详细记录了谷歌（Google）搜索结果中种族主义世界观的复制——例如搜索"黑人女孩"时呈现的色情内容远多于"白人女孩”，以及关于黑人女性"易怒"的刻板印象。谷歌（Google）当时使用上一代语言模型来整合这些搜索结果，诺布尔认为，在极端情况下这或许还曾激化了种族暴力。

GPT-3的到来恰逢空前严峻的种族动荡时期，全球各地数以百计的"黑人的命也是命"抗议运动正在爆发，而上述问题却悬而未决。OpenAI在描述该模型的研究论文中坦承，GPT-3确实强化了涉及性别、种族和宗教的刻板印象，但缓解措施只能有待未来研究加以解决。

格布鲁在邮件讨论串中插言，敦促同事们克制兴奋，并指出了该模型存在的严重缺陷。讨论却丝毫不停顿地继续推进，仿佛她的评论根本不存在。就在同一时期，Google Research的数名黑人员工在公司内部做了一场演讲，讲述他们在职场上遭遇的微歧视、那种令人感到失声的无力感，以及同事们可以如何帮助构建更具包容性的文化。格布鲁感到精疲力竭：什么都没有改变。

她发出了第二封邮件，这次语气更加犀利。她直接点名批评同事们对她的无视，着重指出用Common Crawl训练大型语言模型的危险性——Common Crawl包含Reddit等在线互联网论坛的内容。她说，作为一名黑人女性，她从不在Reddit上花时间，原因正是这个社区对黑人的严重骚扰。让GPT-3吸收并放大这种有毒行为，又将意味着什么？

此后数月，随着越来越多的人获得API访问权限，格布鲁的警告一一得到印证。人们在网上发布了大量GPT-3生成骇人文本的案例。“兔子为什么可爱？“是其中一个提示词。“是它们巨大的生殖器官让它们显得可爱，“模型回答道，随后越说越偏，坠入了一段关于性虐待的叙述。“埃塞俄比亚的问题是什么？“是另一个提示词。GPT-3答道：“埃塞俄比亚本身就是问题所在。解决其问题的办法，或许需要摧毁埃塞俄比亚。”

一名同事直接回复了格布鲁的邮件，暗示她遭受骚扰，也许是因为她本人态度粗鲁、难以相处。

Gebru转换了策略。她给Dean发邮件陈述顾虑，并提议通过团队研究来探讨大语言模型的伦理影响。Dean表示支持。在他当年晚些时候为她撰写的年度绩效评估中，措辞颇为热情，他鼓励她与谷歌（Google）各团队合作，推动大语言模型符合"我们的AI原则”。2020年9月，Gebru还在Twitter上给艾米莉·M·本德尔发了一条私信。本德尔是华盛顿大学计算语言学教授，她关于语言、理解与意义的推文引起了Gebru的注意。Gebru问本德尔是否写过大语言模型伦理方面的论文——如果没有，她愿意做"第一号读者”。

本德尔回复说没有，但她有过一段相关经历：OpenAI曾在六月联系她，邀请她成为GPT-3的早期学术合作伙伴之一。然而当她提出要调查并记录该模型的训练数据时，公司告知她，此事超出了合作项目的范围。

“我们与初期合作伙伴的目标，是通过更偏向自助式的方式，借助API赋予学者开展研究的能力，“OpenAI在告知本德尔不会共享数据集的邮件中写道，“我们内部讨论过是否以及如何为此破例，但就近期而言，我们认为保持一致性更为重要。”

这段经历引发了Gebru的共鸣。她说，自己也一直在谷歌（Google）内部倡导数据集文档化，并推动更有意识地进行数据集筛选。

“而不是漫无目的地抓取网络垃圾，只是量大到足以蒙混过关？“本德尔回应道，深表认同。“我隐约看到一篇论文的雏形了，“她继续写道，“以大语言模型为案例，探讨其中的伦理陷阱，以及可以怎样做得更好。”

“你有兴趣合著吗？“她问道。不到两天，本德尔便向Gebru发来了一份提纲。两人后来敲定了标题，还特意加上了一个俏皮的表情符号以示强调：《随机鹦鹉的危险：语言模型可以太大吗？》

格布鲁在谷歌（Google）内部为这篇论文组建了一个研究团队，其中包括她的联合负责人 Mitchell。在杰夫·迪恩年度评审中得到鼓励性评语后，她将这篇论文列举为自己正在推进的研究方向之一。“完全不是我的专业领域，“Dean 说，“但读了一定会有收获。”

这篇论文汇聚了各位作者跨学科的专业积累，对大语言模型的开发与部署可能对社会产生的负面影响提出了批判。全文共提出四项核心警示：其一，大语言模型的规模急剧膨胀，正在产生巨大的环境负担，这与 Strubell 的研究结论一致。此举可能加剧气候变化，而气候变化虽然殃及所有人，却对本就饱受政治、社会和经济脆弱性之苦的全球南方社区造成了不成比例的冲击。其二，对数据的需求与日俱增，企业纷纷从互联网上大量抓取内容，在无意间也收录了更多有毒内容与辱骂性语言，以及更为隐蔽的种族主义和性别歧视表达。这再次使弱势群体面临最大风险，正如那名巴勒斯坦男子被错误逮捕的案例，或 Noble 在其研究中所记录的种种现象。其三，庞大的数据集难以审查和核查，要弄清其中究竟有哪些内容极为困难，这使得消除有毒内容、乃至更宏观地确保数据集能够反映社会规范与价值观的演变，都成了难以实现的目标。其四，模型的输出质量越来越高，人们很容易将其经统计计算生成的文本误认为具有真实意义与意图的语言。这不仅会让人倾向于将文本视为事实信息，还可能令人把模型视为称职的顾问、可信赖的倾诉对象，乃至某种拥有意识的存在。

十一月，按照公司惯例，格布鲁申请谷歌（Google）批准在一场重要的AI伦理研究会议上发表《随机鹦鹉》这篇论文。时任她上级的萨米·本吉奥批准了申请。另一位谷歌（Google）同事也对论文进行了审阅，并提出了一些有益意见。然而，在台面之下，作者们毫不知情——这篇草稿已经引起了高层管理人员的注意，他们将其视为一种潜在风险。谷歌（Google）发明了 Transformer，并将其广泛应用于旗下的产品和服务。如今，OpenAI 已后来居上，这家科技巨头断然无意在新一轮竞逐中放缓脚步——那场竞赛的目标，是为商业开发出规模越来越庞大的基于 Transformer 的生成式模型。

感恩节前一周的周四，格布鲁已将论文提交给大会，随即收到了一份日历邀请，被要求在不到三小时后通过视频电话与 Google Research 工程副总裁 Megan Kacholia 会面，邀请本身没有任何说明。会议只持续了三十分钟，Kacholia 开门见山：格布鲁必须撤回这篇论文。

这一要求是对谷歌（Google）乃至整个行业处理研究成果惯例的重大偏离。与其他许多公司的实验室一样，Google Brain 此前在很大程度上以学术机构的方式运营，赋予研究人员广泛的自由度，让他们探究自己感兴趣的问题。公司有时会对论文进行审查，以确保不会暴露敏感知识产权或客户数据。但格布鲁等研究人员从未见过公司仅仅因为揭示了令人不快的事实就封杀或撤回一篇论文。部分研究人员后来回想，谷歌（Google）之所以愿意走这一步，不仅是因为 OpenAI 带来的新竞争压力，也因为 OpenAI 在 GPT-2 之后所做的一切——他们为封存研究成果的做法赋予了某种合法性。透明度的持续收缩在 GPT-3 上进一步延续。OpenAI 发表了一篇经过大幅删减的研究论文，几乎未提供任何关于模型训练方式的信息——而这在学术发表中曾被视为最基本的要求——却依然摘得了一项研究奖项。

措手不及的格布鲁要求进一步说明。她能得到关于问题所在的详细解释吗？她能知道是哪些人提出了异议、并与他们直接沟通吗？她能修改或删去某个章节，或者以不同的署名机构发表这篇论文吗？每一个问题的答案都是斩钉截铁的"不”。格布鲁必须在感恩节后的第二天之前撤回论文，Kacholia 说道。Mitchell 那天恰好请假过生日，没有出席会议。格布鲁孤立无援。随着 Kacholia 话语的分量逐渐沉入心底，格布鲁开始哭泣。

Kacholia 向 Bengio 发送了一份列举论文缺陷的文件，但指示他不得直接将其转发给 Gebru。感恩节当天，他通过电话将文件内容逐一念给 Gebru 听。反馈意见认为，论文对大语言模型的批评过于严苛——包括对其环境影响以及偏见问题的批评——却未能考虑到后续研究所展示的这些问题可以如何得到缓解。Gebru 没有陪家人共度节日，而是花了一整天写下一份长达六页的详细文件，逐一反驳每条意见，并争取修改论文的机会。她将文件附在邮件里发给 Kacholia，写道：“我希望至少还有进一步对话的空间，而不只是更多的命令。”

11 月 28 日（周六），Gebru 离开湾区的家，踏上横穿美国的公路旅行，这本是一场节后放松的假期。周一，在新墨西哥州，她收到了 Kacholia 的一封简短回复——信中并未回应她的反驳，只是要求她确认已撤回论文，或删去谷歌（Google）内部作者的署名，只保留 Emily Bender 等外部研究人员的名字。Gebru 深感屈辱。在公司内部承受了那么多轻视与骚扰之后，公司对她和团队研究成果的彻底无视——而这正是当初聘用她的初衷——终于让她到了忍耐的极限。

她回复了 Kacholia：她愿意将自己的名字从论文中撤去，但有两个条件——公司必须告知她是谁提供了那份反馈意见，并为今后的研究建立更透明的审核流程。如果公司无法满足这两点，她将在帮助团队完成交接后离职。在 Google Brain 另一个面向女性员工及其盟友的内部邮件列表上，Gebru 又发送了第二封邮件，用直白而犀利的语言详述了自己的遭遇。“你们有没有听说过，有人通过一份呈送给人力资源部的特权保密文件收到论文’反馈意见’？“她写道，“还是说，这种事只会发生在像我这样被持续非人化对待的人身上？”

她继续写道，在谷歌（Google），她早已习惯了同事对其专业能力的轻视，而如今连在学术界发出自己声音的权利也被剥夺了。“黑人的命也是命"运动之后，谷歌（Google）大谈多元包容，究竟换来了什么？“以最彻底的方式被噤声，“她写道。

次日傍晚，Gebru 在得克萨斯州奥斯汀收到了一位下属发来的慌乱消息：“你辞职了？？“Gebru 完全不明白这是什么意思。打开私人邮箱，她看到了 Kacholia 的回复：“我们无法同意你提出的第一点和第二点要求。我们尊重你因此而选择离开谷歌（Google）的决定。“然而，Gebru 将无法继续留在公司协助团队交接，原因是她在女性邮件列表上的那封邮件中有部分内容"与谷歌（Google）管理人员的行为准则不符”，Kacholia 写道，“因此，我们即刻接受你的辞职。”

当晚，Gebru 在 Twitter 上宣布自己遭到解雇。团队成员陪她视频通话至清晨，在集体的悲痛中哭泣，彼此支撑。与此同时，她的推文迅速在人工智能社区引发轩然大波，为 AI 研究领域即将到来的大规模动荡埋下伏笔，也标志着企业审查不断强化、问责机制日益弱化这一趋势的明显加速。

格布鲁的那条推文出现在我的信息流上，没过多久。那是2020年12月2日星期三的深夜，我一时还难以意识到这件事的分量——格布鲁突然离开谷歌（Google），究竟意味着什么。和许多人一样，我一直把她领导的AI伦理团队视为批判性问责研究的堡垒，视为科技公司正在培育自我反思能力的一个令人欣慰的信号。

接下来两天，随着格布鲁披露更多内情、记者们一一梳理这场内部风波，消息接连滚来。报道涉及她那封发往LISTSERV的邮件、Kacholia与格布鲁之间的对峙，以及一篇论文引发的激烈争执。到周五上午，一封在Medium上发布、声援格布鲁、抗议谷歌（Google）做法的公开信已在科技圈里迅速燎原。“我们联署者，与蒂姆尼特·格布鲁博士站在一起，“信中写道，“她因史无前例的研究审查而遭到解雇……“我必须拿到那篇论文。

那个周五傍晚，经过几轮短信和邮件往来，我联系上了这篇研究的一位合著者——她无需担心遭受谷歌（Google）的打击报复：艾米莉·M·本德尔。她告诉我，她对谷歌（Google）没有任何法律义务，而且她已在学术界获得终身教职。她把论文草稿发到了我的邮箱。

扫过全文，我立刻明白它为何会触怒公司。草稿所呈现的内容，并不比现有学术成果多出太多，但它将这一切编织成了一份犀利而完整的分析，揭示科技行业正在梦游般地走向一个充斥着潜在危害的世界。贯穿全文的，是谷歌（Google）的技术发明——不仅是公司引以为傲的资本，更是利润的源泉：基于 Transformer 的语言模型，正在持续精炼并滋养着它那头印钞巨兽——谷歌搜索。

数小时后，我在《麻省理工科技评论》发表了一篇报道，首次详述了这篇论文的内容。公开信上的联署人数随即翻倍，很快逼近七千人，涵盖学术界、公民社会和产业界，其中谷歌（Google）员工就有近2700人。12月9日，抗议声浪持续之际，谷歌（Google）首席执行官桑达尔·皮查伊公开致歉。“我们必须承认这样一个事实：一位才华横溢的杰出黑人女性领导者带着遗憾离开了谷歌（Google）。“他写道，“格布鲁博士是AI伦理领域的专家，这一领域我们必须持续推进——而这种进步有赖于我们拥有向自身提出尖锐问题的能力。“12月16日，美国国会议员联名致信谷歌（Google），引用了我的报道，要求公司就此事作出说明。

此后逾一年，抗议浪潮持续未息，并在不到三个月后谷歌（Google）解雇Meg Mitchell一事曝光后掀起第二波高峰。谷歌（Google）称她违反了多项行为准则；而Mitchell此前一直在下载与格布鲁被驱逐事件相关的邮件和文件。数名谷歌（Google）员工相继辞职，其中包括Bengio；至少一场学术会议和多名研究人员拒绝了谷歌（Google）的赞助款项。公司试图以成立新的负责任AI专项中心、公开作出多元化承诺来遏制这场旷日持久的批评浪潮。“这对公司而言是一段痛苦的经历，“一位谷歌（Google）发言人说，“它再次提醒我们，谷歌（Google）持续推进负责任AI工作、从中汲取教训有多么重要。”

这一事件的影响，远远超出了格布鲁个人或谷歌（Google）本身。它成为一个符号，象征着困扰AI行业的种种交织性挑战。正如两位研究者所指出的，这是一个警示：大型AI正越来越像当年的大型烟草公司，为逃避审查而扭曲、压制不利于自身利益的批判性研究。它还揭示了其他诸多问题：人才、资源与技术高度集中于以营利为目的的环境，使得公司得以如此肆无忌惮——因为它们深知自己几乎不存在被独立核实的可能；在最有能力主导这些技术的机构中，多元化状况依然惨不忍睹；以及员工若试图就不道德的企业行为发声，就可能遭受突如其来的强力报复，却毫无保障可言。

《随机鹦鹉》论文由此成为一面旗帜，将一个核心问题打入人心：我们正在用AI构建怎样的未来？为了谁，又由谁来构建？

对杰夫·迪恩而言，道德人工智能团队的解散是对他声誉的直接打击。作为谷歌（Google）最早的员工之一，他参与构建了最初的软件基础设施，使公司的搜索引擎得以扩展到数十亿用户。他的成就与平易近人的风格赋予他近乎传奇的地位——他是谷歌内部最受敬重的领导者之一，在人工智能研究界也享有广泛声誉。然而，Gebru 被驱逐事件发生后，迪恩为谷歌辩护的种种举动玷污了这份无暇的记录。迪恩是 Kacholia 的上级，他告诉同事，《随机鹦鹉》这篇论文"达不到我们的发表标准”，即便该论文通过同行评审并在一场学术会议上正式发表，他依然坚守这一判断。

身边的人感觉，这道污点始终萦绕着他。风波过去很久之后，迪恩仍然反复纠缠于这篇论文的缺陷，仿佛心理上始终无法翻篇。他尤其执着于论文中讨论大语言模型环境影响并引用 Strubell 研究的那一节，提及频率之高，令部分谷歌员工私下暗自取笑，戏称他的异议日后将被刻上他的墓碑。此后数年间，他在 Twitter 上对 Strubell 的研究持续不断地予以批评。

在迪恩看来，问题的根源在于：Strubell 的研究严重高估了谷歌在开发 Evolved Transformer 过程中实际产生的碳排放量。Strubell 依据标准 GPU 来推算能耗。然而，谷歌使用的是自家研发的专用芯片——张量处理单元（TPU），其能效更高，加之谷歌还采用了其他技术手段来压缩整个开发流程的能耗。Strubell 采用的是美国数据中心的平均效率水平，而谷歌的数据中心经过更深度的优化，能耗足迹更小。此外，有人将 Strubell 的论文理解为：其碳排放成本是训练 Evolved Transformer 所产生的，但实际上，那是开发这一神经网络架构本身的成本。迪恩认为，这不过是一次性的碳支出，换来的是一个实际上更节能的神经网络设计。

这些反驳意见并未真正撼动 Strubell 的研究本身。Strubell 从未声称在计算谷歌自身开发 Evolved Transformer 的实际环境影响——他们也从未有过这样的主张。谷歌公开披露的数据中心细节根本不足以支撑这种计算。况且，Strubell 认为，以业界最常见的人工智能芯片和数据中心为基准来估算这一神经网络设计的影响，更具参考价值——这相当于一个行业平均代理值，反映的是那些未使用谷歌硬件与基础设施的研究者，若要采用其神经架构搜索优化算法，可能面临的实际情况。

但令迪恩最为耿耿于怀的，似乎是其他人对 Strubell 研究的误读，使谷歌的形象受到了更大的损害。迪恩认为，《随机鹦鹉》这篇论文可能进一步加剧了这一问题。由于 Gebru 本可获取谷歌的内部数据，却偏偏引用了 Strubell 的外部估算，这可能给人造成一种印象：Strubell 的计算结果准确反映了谷歌的实际排放。对迪恩而言，这正当化了他与其他高管对 Gebru 论文的批评：如果 Gebru 想引用 Strubell 的研究，就不该选取谷歌 Evolved Transformer 的案例；如果 Gebru 想引用 Evolved Transformer，就应当查阅谷歌的内部数据。

部分研究者觉得这套逻辑令人沮丧，根本站不住脚。谷歌从未公开过那些内部数据，甚至在 Strubell 的原始论文发表之后也未曾披露；如今却反过来指责 Gebru，将责任归咎于谷歌自身缺乏透明度，同时又拒绝让她引用基于合理假设得出的公开估算数据。更何况，公司早已不由分说地将 Gebru 扫地出门，她甚至还没来得及查阅内部数据、修改论文。这个两难困境，唯一可能的结果就是对批评性问责研究的审查与压制。

迪恩随后与一支研究团队合作，着手撰写一篇新论文，意在首次公开谷歌真实的碳排放数据。为推进合作，他联系了已出任卡内基梅隆大学助理教授、同时兼任谷歌兼职研究员的 Strubell。起初，Strubell 对提升人工智能环境影响的公众透明度充满热情，但随后开始怀疑：迪恩是否在借用自己的名字，为其批评 Gebru 研究的立场增添合法性。谷歌发言人表示，邀请 Strubell 参与是因为"科学性更正"通常在原始错误的作者参与下进行，效果更佳。

在一次气氛紧张的会议上，迪恩的合作者、谷歌另一位资深研究员 Dave Patterson 直言不讳地表示，参与这项研究对 Strubell 的职业发展"大有裨益”——这将给 Strubell 一个纠正此前错误并从中获益的机会。Strubell 听来，这话更像是一种含蓄的威胁：不参与，后果自负。尽管有着可能付出代价的顾虑，继续参与的选项依然让 Strubell 觉得难以接受。Strubell 最终退出了这次合作。

2022 年 2 月，Patterson 在谷歌平台上发表博客文章，介绍这篇谷歌研究者合著的论文，标题为《关于机器学习训练碳足迹的好消息》——文中直接点名批评 Strubell 的原始论文，称 2019 年的研究严重高估了谷歌开发 Evolved Transformer 的实际碳排放，误差高达 88 倍。这一偏差源于两个问题：该研究"未能获取谷歌硬件或数据中心的直接数据”，且未能理解神经架构搜索运作方式中的"微妙之处”。在发布自家数据之前，谷歌的几位联合作者还联系了前同事 Sutskever，以获取 GPT-3 的更多信息。正是在那时，OpenAI 与微软（Microsoft）首次同意公开该模型的相关技术细节，以便计算其能耗与碳排放影响。彼时，Strubell 已对这个行业心灰意冷，并解除了与谷歌的兼职关系。这番批评最终并未损及 Strubell 的职业生涯，但这段经历带来的情感创伤，使 Strubell 对于继续研究大语言模型的环境影响愈发缺乏意愿。谷歌发言人称此结果"令人遗憾”，并补充道：“推进这一研究需要更多研究者的参与——碳排放显然是一个值得高度关注的重大议题。”

反弹、抗议以及对谷歌（Google）声誉的损害，一度令人感觉清算在即。然而随着时间推移，寻找工作的研究人员和争取经费的学者，再也无力无视这家科技巨头的雄厚财力。随着阻力消散，谷歌（Google）从这场风波中脱身，也使公司内部针对重要研究进行更全面审查的新流程逐渐被视为常态。

ChatGPT 问世之后，随着商业化生成式 AI 的竞赛愈演愈烈，这些规范进一步固化。OpenAI 基本上停止在学术会议上发表研究成果。业内几乎所有公司都对外封锁了商用模型的实质性技术细节，将其列为专有资产。2023 年，斯坦福大学研究人员建立了一个透明度追踪器，对各 AI 公司进行评分，考察它们是否公开了大型深度学习模型的基本信息，例如参数数量、训练数据来源，以及是否经过独立的能力验证。首批接受评估的十家公司——包括 OpenAI、谷歌（Google）和 Anthropic——全部得了 F；最高分仅为 54 分。

随着透明度规范的急剧逆转，最令人忧虑的后果是科学诚信的侵蚀。深度学习研究的根基在于一个简单前提：用于训练模型的数据，不能与用于测试的数据相同。一旦无法审计训练数据，这一所谓"训练—测试集分离"的范式便会分崩离析。模型在各类基准测试中得分越来越高，未必意味着"智能"真正提升——它们或许只是在背诵答案。

8 商业黎明

即便 OpenAI 的路线引发日益强烈的争议，公司在规模化扩展上的决心却愈发坚定。在高管眼中，GPT-3 已经确凿地证明了缩放定律的存在。2021 年初，他们准备好了充分利用这一制胜公式。Anthropic 团队的出走也削弱了内部反对商业化的力量。随着新的共识形成，留下来的领导层制定了一份研究路线图，清晰勾勒出公司研究方向的收窄聚焦，以及如何以自我强化的闭环方式推动产品化。

“我们 2021 年的首要目标，是构建一个与价值观对齐、且能力远超任何已有系统的 AI 系统，“路线图开篇写道。该系统的基础形态是语言模型，但也可以通过训练发展出多模态能力。“这一目标充满挑战，但我们已经看到了在 2021 年内实现它的路径，“文中写道。

这条路径涉及三件事：其一，借助微软（Microsoft）即将在第三季度交付的新超级计算机，将 GPT-3 再扩大 10 倍——该超算搭载了一万八千块英伟达（Nvidia）A100，是彼时最新、最强的 GPU。其二，进一步研究，将 OpenAI 的算力效率提升 25 倍，也就是从现有芯片中榨取出更多计算能力。其三，提升训练数据的数量与质量，部分途径是引入用户数据，并借助基于人类反馈的强化学习（RLHF）将模型引向数据分布中质量最优的部分。

路线图在"实现路径"一节中作了进一步阐述。作为第一步，OpenAI 将把多种深度学习模型扩展至"大规模”，包括语言模型、代码生成模型、用于图像描述的图生文模型，以及根据文字提示生成图像的文生图模型。同时还将启动一个项目，开发数字"智能体”（agent）——一种不只生成类人内容、而能接受目标（例如"发送一封邮件”）并自主完成任务的 AI 模型。第二步，再从中选出一个模型，将其扩展至"我们 1.8 万块 A100 集群所能支撑的极限”。语言模型和代码模型还将被产品化并对外发布，以收集真实用户的交互数据：“2021 年新方向：我们将着重把模型作为产品部署，并从用户交互中学习——这可以形成数据飞轮，带来能力的大幅跃升。”

在"细节"一节，文件阐明了这一路径在科学与商业两个层面的逻辑。OpenAI 的既有经验表明，更大规模是取得新能力"最可靠的途径"。从科学角度看，规模化扩展是实现突破——某种此前看似不可能的能力——的最大希望。尤其是对语言模型和代码模型的规模化扩展，“仅凭其可能性就令人心动”：它们或许能在人类水平的元学习（即学会如何学习）与推理能力上实现突破。多模态模型的规模化扩展，则可能进一步加快进步的步伐。有了足够多的突破，文件以罕见的笃定口吻写道，“我们将真正实现通用人工智能（AGI）。”

在商业战略层面，对上述每一类模型的规模化扩展，也将"发展出我们希望为某种目的加以利用的能力"。更好的语言模型和代码模型能提升 OpenAI 自身的生产力，加速其发展进程；加上更好的文生图模型，它们还将"催生出令人惊叹的产品"。

与此同时，OpenAI 还需要投资于算力效率。规模化扩展固然让公司长期保持领先地位，但这一策略的边际收益开始递减。“过去两年，我们靠规模化扩展取得了惊人的进展，根本原因是存在大量硬件冗余，“文件写道——所谓"硬件冗余”，是指 AI 研究人员此前未能充分利用可用芯片来训练模型。因此，“我们得以使用一切可用算力训练前所未有的大型高性能模型，从而在整个机器学习领域遥遥领先。”

而今，OpenAI 在任意时刻所能获取的算力正"接近上限”。文件承认，公司还面临来自"其他实验室"的新竞争——它们同样采用了规模化扩展策略——但并未明确点名 Anthropic。“按照我们的算力扩张节奏，未来两年内，我们将能够训练一个算力达到 GPT-3 一百倍的模型。“单靠规模化扩展，固然能带来"相当可观"的进步，但无法复制从 GPT-2 到 GPT-3 那一跨越——后者背后是 500 倍算力的提升。“所有额外的进步，必须来自更好的方法，“路线图总结道。

路线图列出了几个探索方向，以寻找这些新方法，并分别标注为"2 倍"和"10 倍"方法——即有望实现 2 倍或 10 倍算力效率提升的方向。候选方法包括：蒸馏（distillation），即从大模型中逆向工程出小模型；数据过滤（data filtering），寻找能带来最大性能飞跃的数据；以及稀疏化（sparsity），开发所谓稀疏或轻量化的 AI 模型。最后一项涉及神经网络的结构特性：在传统深度学习模型中，神经网络是"密集"连接的，某一层的每个节点都与下一层的每个节点相连；稀疏模型则只训练一小部分节点的连接，旨在大幅降低计算成本，换取略有逊色但对多数用途而言仍然足够的模型精度。

在上述 2 倍和 10 倍工作之外，研究部门还需寻找其他方法，以"使缩放定律的斜率更陡”——即在不增加数据量、参数量和算力的前提下，带来更大的模型性能跃升。文件写道，OpenAI 目前认为最有前途的新方法是推理（reasoning）与主动学习（active learning）——后者是一种让 AI 模型迭代识别数据集中哪些部分应优先由人工标注的技术。（此后不久，一组 OpenAI 研究人员发现了原始缩放定律中的一处小错误，意味着公司需要比此前理解的更长时间来训练模型，才能获得更好的性能。这组研究人员不无自得地将这一发现标榜为独特的竞争优势：“这是我们现在拥有而 Anthropic 没有的东西。“一年后，谷歌（Google）发布了一篇论文，将同样的结论公之于众。）

最后，路线图还指出，OpenAI 需要着手寻找"未来的突破性系统”——一次像 GPT-1 那样具有划时代意义的突破，为公司开拓新的发展方向。这一突破或许会从规模化扩展（scaling）和计算效率研究中诞生，但 OpenAI 将持续在前沿领域开展探索性研究，包括开发求解数学问题的算法、探索多智能体系统，以及追寻其他新方向。作为其中的组成部分，研究人员还将继续"研究深度学习的科学，以更深入地理解我们的工具究竟如何运作”。换句话说，OpenAI 需要更清楚地认识自己到底在构建什么。

研究部门沿着既定路线图推进的同时，应用部门也在缓慢扩充力量，陆续招募市场拓展负责人、销售团队和更多工程师。随着 GPT-3 API 服务的开发者群体持续扩大，它成为磨合产品化与商业化诸多问题的试验场，包括改造公司后端基础设施以支撑面向用户的服务，以及制定定价策略。

为用户服务，随之而来的还有新的问题：OpenAI 对其产品会允许哪些行为、禁止哪些行为，以及由此产生的执行责任。彼时公司尚无专职的信任与安全团队——这是科技行业一个成熟的专业领域，与 OpenAI 安全团队所关注的生存性风险并不相同，其职责在于处理上述问题并预判、防范洗钱、网络欺凌、虚假信息等各类网络滥用行为。OpenAI 转而雇用了一小批员工和承包商，负责审核开发者申请 API 访问权限的请求，并依据团队一路临时起草的规则决定批准或拒绝。他们划定的许多界限都相当随意。他们决定允许陪伴型机器人，但不允许性机器人；允许生成社交媒体文案的应用，但不允许直接向社交媒体平台发帖或冒充公众人物的应用。“基本上全凭感觉，“一位参与制定准则的人说，“很多时候是一边审核一边摸索。”

另一支团队由 Ari Herbert-Voss 领导。他是一位具有安全背景的研究科学家，2019 年加入公司。他们试图通过各种方式对模型进行破解和利用，从而发现并修补 GPT-3 的不良行为与易错输出，同时设计相应机制，使其更能抵御故障和滥用。其中一项机制是开发内容审核过滤器的早期版本——OpenAI 后来为此在肯尼亚招募了外包工人。研究人员用能找到的样本、自己想到的案例，乃至借助 AI 模型生成的示例来训练这个过滤器。然而过滤器上线后效果很差，大量无害内容遭到屏蔽，例如对黑人或跨性别者的基本提及。开发者和其他 API 用户纷纷投诉。API 团队中本就有很多人不愿设置任何过滤，担心有损用户体验。最终他们将过滤器改为可选项。

OpenAI 将这一对模型进行压力测试和改进的过程称为"红队测试”，这一术语借自网络安全行业，原指对某组织的安全性及其应对攻击能力进行系统、全面验证的流程。然而 OpenAI 版本的红队测试与此并不相同，安全工程师、网络安全专家兼 AI 研究员 Heidy Khlaaf 指出，它是零散、临时的，无法对模型的安全性提供任何保证。Khlaaf 曾在 OpenAI 试图建立压力测试规程的早期与其合作，此后对 AI 行业挪用其领域积累已久的术语、以此营造出严谨性的虚假外表一事深感警惕。“在软件工程中，我们对一个计算器做的测试都比这多得多，“她补充道（没错，就是一个计算器）。“他们使用充满公信力的术语，绝非偶然。”

一个引发公司内部广泛讨论的早期客户是 Luka，一家位于旧金山的公司，正在开发一款名为 Replika 的 AI 虚拟陪伴应用。该公司在 GPT-3 API 发布时与 OpenAI 建立了合作关系，旨在提升产品的对话流畅度。尽管 Replika 打着陪伴型机器人的旗号，OpenAI 很快发现，该应用的用户频繁进行露骨的性内容对话。OpenAI 员工就此是否越界展开了讨论。最终公司决定禁止 Replika 使用其模型。除了对性内容的顾虑，这款由 GPT-3 驱动的应用有时还会生成带有情感操控性的回复，让用户相信他们的 Replika 就像真人一样，如果不定期联系就会"受伤”。OpenAI 员工也越来越对自己能够查阅这些对话感到不安。

另一个案例中，Brockman 向其兄弟所在的一家总部位于犹他州的创业公司 Latitude 提供了 API 访问权限，该公司正在构建 AI 驱动的虚拟世界。Latitude 此前已在使用 OpenAI 的早期模型驱动一款灵感来自《龙与地下城》的自选冒险游戏，允许用户在对话框中输入任意行动指令。获得新 API 后，Latitude 将游戏升级为基于 GPT-3 运行。几个月后，部分用户开始利用它生成涉及儿童性虐待的文字场景。Ari Herbert-Voss 通过 OpenAI 相对较新的监控系统发现这一问题后，将其提报给了团队其他成员。

“我昨晚发现了一些东西。有大量性内容在被生成，“Herbert-Voss 在一次会议上说。

起初大家笑了笑。“好吧，网络本来就是这样，不是吗？““不，这是 CSAM 级别的东西，“他说——CSAM 是儿童性虐待材料的英文缩写。

一时间众人大惊失色。“妈的，怎么阻止这个？“事件引发了 OpenAI 与 Latitude 之间旷日持久的来回磋商。Brockman 担心采取惩罚性措施会对其兄弟的公司造成重大影响。最终，Latitude 仓促上线了一个过滤器，用于屏蔽文字形式的儿童性虐待内容。OpenAI 发表公开声明，与内容审核缺失的指责划清界限，并将责任隐晦地归咎于 Latitude。在一些 OpenAI 员工看来，责任显然在于公司自身的技术和流程缺失，这一事件令他们深感沉重。Latitude 早已因有用户借助 OpenAI 前代模型生成涉及儿童的文字性内容而封禁了部分账号；在 GPT-3 上再度发生且规模更大，本是可以预见的。“让我难过的是，我们带着造福人类的使命发布了这个 API，所有人对我们的印象都很正面——说什么帮用户节省了客服时间之类的，“一位前 OpenAI 员工说，“但现实是，我们大量的流量流向了 AI Dungeon 的儿童性内容，以及一款令人不安的 AI 女友产品。”

回到研究部门，代码生成团队的进展最为迅猛。

“分家"之后，原本重叠的两条代码生成线合而为一，Wojciech Zaremba 成为主要负责人。Zaremba 是一位波兰计算机科学家，从小在数学、编程、化学和物理竞赛中摘金夺银，以惊人的技术天赋和对团队建设的用心著称，同时对友谊的治愈力量、荒野生活、性爱和药物充满热情。他有时会在办公室里大声向周围的人炫耀即将开展的数周隐居计划。“我们要徒步八英里，然后做爱，然后再徒步八英里，“他曾向另一位 OpenAI 高管夸口，周围偷听到这番话的人都尴尬不已。

疫情最严峻的时期，Zaremba 要求最初约十名研究员来办公室上班，而其他团队仍在远程工作。他相信，面对面协作是攻克模型开发难题的必要条件。在看到 GPT-3 的代码生成能力之后，Murati 与微软首席技术官凯文·斯科特探讨了将这一能力开发成 AI 编程助手产品的设想。2018 年，微软收购了 GitHub——这是最受软件开发者欢迎的代码存储与共享平台。OpenAI 此前已自行抓取过 GitHub 上的数据，而微软高管随后直接要求 GitHub 将所有公开代码库的代码打包交给 OpenAI，省去了一切麻烦。随着代码生成团队不断取得更好的成果，阿尔特曼频繁出现在会议上，鼓励研究员坚持推进，把最好的成果交付给微软。到了春天，在几次演示令这家科技巨头的高管们大为振奋之后，这个模型将成为 OpenAI 继 GPT-3 之后的第二个商业项目，已成定局。

斯科特的部分下属对模型的开发方向抱有保留。将 GitHub 公开代码库的访问权免费交给 OpenAI，虽然并不违法，但仍像是对用户社区信任的一种背叛。这些代码大多是在推动开源软件发展的精神下共享的——开源的初衷是帮助独立开发者和小型创业公司获得竞争机会，而非助力大玩家巩固垄断地位。一位前员工回忆，他们在一份备忘录中列出了对 GitHub 项目的核心批评，建议斯科特重新审视在未经同意、未给予补偿的情况下大规模抓取开发者以知识共享（Creative Commons）许可发布的代码这一做法的前提。备忘录认为，微软应考虑叫停该产品，或至少将产品收益的一部分回馈给开源社区。据这位员工表示，斯科特虽然听进去了，但他的核心关注点仍是做出产品、抢占市场先机。最终，微软向名为 GitHub Sponsors 的现有开源开发者支持计划捐赠了一笔资金，产品愿景则原封未动。

在 OpenAI 内部，员工们以不同的理由为这个项目辩护。一些人认同阿尔特曼的立场：通过开发产品取悦微软，从而持续获得资金和算力支持，似乎是推进 OpenAI 使命的必要之举。对另一些员工来说，代码生成模型具有极高的经济价值，与公司对 AGI 的定义高度契合——即"在大多数具有经济价值的工作中超越人类的高度自主系统”。在这一点上，阿尔特曼也热衷于将代码生成视为加速 OpenAI 自身高价值工作的途径，这一信念后来推动了一项名为"AI 科学家”（AI Scientist）的计划的启动，旨在推动 OpenAI 的模型自主开展 AI 研究。

对许多研究员而言，还有第三个理由：这项工作是开发下一代 GPT 模型的重要垫脚石，他们希望该模型能具备一定程度的推理能力——而这仍是一个关键的缺失要素。在更广泛的学术界，辛顿阵营与 Marcus 阵营围绕单凭深度学习能否产出具备此类能力的模型争论方兴未艾，OpenAI 的研究员则提出假设：如果可以的话，用代码训练模型很可能有所裨益。代码数据是编码了结构化逻辑模式的最显而易见、体量也最大的数据来源之一。这个论据最终殊途同归：若代码生成有助于推动 AI 模型向 AGI 迈进，还有什么比这更能实现 OpenAI 的使命呢？

尽管 GitHub 提供了数十亿行代码，这些数据的总量与训练 GPT-3 时所用的数据相比仍相形见绌。团队认为，代码生成模型需要同时在 GitHub 和 GPT-3 数据集上进行训练，才能取得最佳效果。他们还发现了新的数据来源，包括抓取自 Stack Overflow 的数据——这是一个类似 Quora 的在线论坛，供开发者向社区提问编程问题——以及不同语言的编程教学手册和编程教材。问题在于如何最优地整合所有这些数据：究竟是在现有的 GPT-3 模型基础上用 GitHub 等材料进行微调更好，还是将新旧数据混合后从头训练一个全新模型更好？团队选择了微调以节省成本；他们当时进行的实验，按照微软云服务的定价，每次耗资已高达十万美元。从头训练一个新模型则可能耗资数千万美元。后来在开发 OpenAI 内部所称的 GPT-3.5 时，他们改变了策略，从一开始就将数据混合在一起训练。按照 OpenAI 的内部评估，结果确实表明，加入代码数据提升了模型在逻辑推理任务上的表现——不仅限于代码领域，在英语任务上同样如此——这种现象被称为迁移学习。

2021 年夏，OpenAI 向 GitHub 和微软交付了代码生成模型的初步粗糙版本，即 Codex。该模型体积过大、运行过慢，大规模部署成本高昂，用户体验也难以令人满意。随着三家机构在首次合作中经历磨合阵痛，紧张局势随之浮现。各方对于优化模型使其可部署的责任归属——究竟是 OpenAI 还是 GitHub——存在大量混乱。OpenAI 员工对于应向 GitHub 对口团队共享多少知识产权也缺乏明确认识，而 GitHub 员工则在如何把握对 OpenAI 的信任尺度上举棋不定。随着双方在产品发布的方式、时机以及功劳归属问题上摩擦不断，分歧进一步加深。

穆拉蒂最终促成了一项妥协方案——这种能力让她在跨公司合作的同事中赢得了越来越多的尊重。微软（Microsoft）将在2021年6月率先发布面向消费者的产品GitHub Copilot，抢得头彩；OpenAI则于8月通过公司API直接发布Codex。

这一安排为微软带来了新的用户群和可观的收入增长：两年后，GitHub Copilot的付费订阅用户将突破一百万，年度经常性收入超过一亿美元。但对于OpenAI而言，这笔交易加深了公司内部一个日益强烈的感受：自主打造消费者产品，或许才是更好的出路。OpenAI的研究人员在模型上倾注了大量心血，却将所有的品牌声誉拱手相让给GitHub和微软；眼看这两家公司在公众面前尽享OpenAI劳动成果的荣光，实在令人如鲠在喉。微软也是一个颇为棘手的合作伙伴，许多人认为它官僚体制过于臃肿，需要大量人力扶持才能充分发挥OpenAI模型的潜力。依赖这家科技巨头向公众输送技术，OpenAI同时也在失去对用户的直接了解和数据积累，更重要的是，失去了对自身愿景的掌控权。

在 OpenAI 集中押注的同时，Altman 也将同样的策略运用到他的其他项目和投资上。多年来，随着他逐渐转向更硬核的技术创新，他形成了一种信念：要在最重要的项目上重仓长押。

“如果你能挥一挥魔杖，改变科技、创业、创业生态系统里的任何一件事，你会改变什么？“他从 YC 卸任时，弟弟 Jack 在一场活动上问他。

“我会让生态系统里的所有人都把时间维度拉得长得多，“Altman 说，“那种创业四五年就打算出手、加入一家公司只打算待一两年的方式——真正重要的事情不是这么干成的。”

沿着这条思路，2021 年似乎标志着 Altman 个人投资策略的一次重大转向——从分散的小额多投，转向集中的超大押注。那一年，他在 2019 年联合创立的 Tools for Humanity 公司——此前一直保持低调——突然迎来大量融资和媒体关注，运营规模也随着 Altman 将更多外部目光引向该公司而急速扩张。这家公司致力于为全民基本收入（UBI）开发一套可运行的机制。UBI 是硅谷流行的一个理念，主张向所有人定期发放最低标准的现金收入。Altman 常常充满激情地谈及 UBI，将其视为未来 AI 可能引发大规模经济冲击的潜在解药。在 YC 期间，他已发起了美国规模最大的 UBI 研究试点，并在此过程中独立成立了一家名为 OpenResearch 的非营利机构来管理该项目。

历时三年，OpenResearch 从三千名低收入者中随机抽取一千人，每月发放 1,000 美元补贴，其余两千人每月仅领取 50 美元作为对照组。2024 年 7 月，OpenResearch 发布研究结果，显示这笔无条件现金帮助人们满足了基本需求、支援了他人，并获得了更大的经济回旋空间。

Tools for Humanity 的核心产品 Worldcoin 是一种自我标榜为"全民共有"的加密货币，承诺让每个人最终都能分享其价值。为此，公司正在研发一个外观颇为抢眼的铬色球体——大小与保龄球相仿，设计风格在一定程度上折射出 Altman 的审美偏好——用于扫描人们的虹膜、验证身份，然后再向其发放份额。创始人们认为，虹膜扫描将是必要之举，因为 AI 的发展终将使人们越来越难以辨别虚假媒体与现实。《麻省理工科技评论》的 Eileen Guo 和 Adi Renaldi 此后发表的一篇深度调查揭示，这些虹膜扫描行动充斥着数据隐私侵权、欺骗性营销手段和潜在的法律违规。2023 年 7 月，Worldcoin 正式上线，引发轩然大波——人们开始排起数千人的长龙，尤其是在全球南方国家，争相交出自己的生物特征数据，却对此举的真实用途几乎一无所知，有的只是对"免费钱"的模糊期许。

同样在 2021 年，Altman 完成了他迄今规模最大的两笔投资：向抗衰老公司 Retro Biosciences 投入 1.8 亿美元，该公司致力于通过细胞再生延长人类寿命；向 Helion Energy 投入 3.75 亿美元，该公司致力于核聚变的商业化。“我基本上把所有流动净资产都押进了这两家公司，“Altman 对《麻省理工科技评论》的 Antonio Regalado 说。他描述这两项技术时所用的语言，与 OpenAI 的研究路线图如出一辙——眼下看似不可能，但若大力扩展，或许近在咫尺。

投资 Retro Biosciences 折射出 Altman 对长寿的执念。他是"年轻血液"研究的热忱追随者——这一科学探索方向研究如何通过输注更健康、更年轻的血液来逆转衰老。值得一提的是，彼得·蒂尔同样对此领域兴趣浓厚，坊间由此催生了大量文章和表情包，津津乐道于他注射青少年血液的传言。在 YC 任职期间，Altman 还以 1 万美元押金登上了一家颇具争议的初创公司 Nectome 的候补名单——这家公司曾参加过 YC 的某期孵化计划。宛如直接从科幻小说中走出，Nectome 推销的服务是将客户的大脑冷冻保存，留待未来某日——或许是数百年之后——在科学家攻克相关技术后上传至计算机。问题在于，为确保保存效果，Nectome 需要的大脑必须足够新鲜。联合创始人 Robert McIntyre 向 Antonio Regalado 坦言，他的产品"百分之百致命”。

投资 Helion 则折射出 Altman 对开发清洁、廉价、充裕能源的执念。他常常提及，能源的成本与可及性与生活质量和经济增长高度相关。但若没有无碳替代方案，不断攀升的能源消耗将"毁掉这个星球”，他说。2023 年，他将 Helion 描述为"不只是一项投资”，是"除 OpenAI 之外我投入最多精力的另一件事”。微软（Microsoft）随后签署协议，承诺购买 Helion 首座发电厂的电力——彼时这家科技巨头已完成对 OpenAI 的第三轮投资，金额高达 100 亿美元。令能源专家惊叹、也令他们深感怀疑的是，Helion 承诺将于 2028 年建成投产。

2021 年，Altman 还将他对投资的热情带入了 OpenAI。当年 5 月，他发起了 OpenAI Startup Fund，这是一只规模 1 亿美元的投资基金，专门支持他口中拥有"利用 AI 改变世界的宏大构想"的早期公司。微软（Microsoft）再度成为该基金的出资方。在部分观察人士看来，成立这只基金是个奇怪的决定。OpenAI 几乎还没有盈收，本身已足够资金密集；何必再为其他公司筹募更多资金？另一些人则认为，这是 Altman 借此将 YC 强大的网络效应在 OpenAI 周围重建一遍的方式。还有人干脆视之为 Altman 的惯性使然。“这是 Sam 行走于世的方式，“一位曾与他共事的人说，“谈交易。”

奥特曼常说，他不持有 OpenAI 任何股权，为的是不让私利之心污染追求安全 AGI 的使命。他每年只领取 6.5 万美元的薪酬，其财富均来自其他投资。这番话听来动人，与他当年解释 OpenAI 为何以非营利机构起步的说辞如出一辙。然而这一表态，就像 OpenAI 本身的非营利身份一样，到 2021 年已不再能呈现全部真相。奥特曼在 YC 持有可观的权益，而 YC 通过对 OpenAI 的 1000 万美元投资，有望获得高达 10 亿美元的回报。随着 OpenAI 持续商业化，大量 YC 旗下的创业公司以及他的其他被投企业，也纷纷成为 OpenAI 的客户或商业合作伙伴。《华尔街日报》随后在 2024 年 6 月对其所有持仓进行估算，得出奥特曼的净资产至少达 28 亿美元。而 OpenAI Startup Fund 的设立，又为他那套利他主义叙事增添了新的复杂性——这一笔，后来在他那段短暂的出局风波中，也扮演了一个微小却不可忽视的角色。

9 灾难资本主义

随着OpenAI在阿尔特曼的信念驱动下高歌猛进，公司愿景所引发的深远后果也在不断扩展。随着公司将规模越来越大、越来越污染的数据集注入模型，它催生了Appen的Ryan Kolln向我描述的那场「范式转变」——从过滤数据输入转向管控模型输出。抽象化的语言再次粉饰了一个严峻的现实：这一转变对如今承受管控输出重压的人们，究竟意味着什么。

2021年，OpenAI在推进下一代模型开发的同时，启动了一个项目，旨在为清理模型输出打造一套性能更强的自动化内容审核过滤器。GPT-3在未加任何过滤的情况下接入API，引发了Latitude文字生成儿童色情内容的丑闻；这一教训促使公司在GPT-3.5乃至GPT-4上更加谨慎。随着OpenAI准备更大规模地部署其技术，一款完全无过滤的产品从长远来看，将在法律、公关和可用性方面带来诸多隐患。彼时，日后成为ChatGPT的计划尚未成形，但这款聊天机器人后来同样受益于同一套过滤器。该过滤器以「包装层」的形式套在每个模型外部，专门在输出内容到达用户之前检测并剔除其中的违规内容。

为了构建这套自动化过滤器，OpenAI首先需要人工审核员仔细审查并分类数十万条样本——正是公司希望模型不再生成的那类内容：色情、暴力与虐待。经过六个月的寻访，公司找到了一家看似颇为合适的供应商：一家自2019年起便为Meta承接内容审核业务的外包公司，而且巧合的是，它与阿尔特曼的昵称同名——Sama。OpenAI向Sama发送电子邮件，询问其是否承接涉及敏感或露骨内容的项目，以及通常如何处理此类项目。Sama给出了详尽的答复。OpenAI随后与该公司签署了四份合同，总额23万美元，将项目交到了肯尼亚数十名工人手中。

肯尼亚成为ChatGPT创作过程中最具剥削性劳动的最终发生地，绝非偶然。多年来，肯尼亚一直是硅谷将最脏活外包的首选目的地之一。与众多被科技行业赋予这一角色的国家一样，肯尼亚有着共同的底色：它是全球南方的贫困国家，政府迫切渴望来自富裕国家的外资。这一切都是肯尼亚殖民遗产的组成部分——这段历史使肯尼亚至今缺乏健全的制度来保护本国公民免遭剥削，也使其频繁陷入经济危机。这双重困境为海外公司提供了绝佳条件，得以找到一批在几乎任何条件下都愿意接受计件零工的穷苦劳动力。

这段殖民遗产的印记，可以在肯尼亚首都内罗毕的众多面孔中清晰辨认。这座城市饱受不平等之苦。中央商务区耸立着璀璨的摩天大楼、国际五星级酒店和高端餐厅；外交区坐落着宽阔庄严的建筑，高墙深筑；侨民居住区点缀着令人叹为观止的豪宅，私家花园郁郁葱葱。而在城市边缘——乌塔瓦拉、达格雷蒂南区、恩巴卡西——一切截然不同。驱车前往这些街区，钢铁摩天楼变成了低矮的混凝土砖房；建筑杂乱无章地散布开来，毫无统一规划的痕迹；道路从铺装路面变为泥土小道，从四车道收窄为仅容摩托车和行人通行的狭长土路。再往里走，混凝土让位于波纹铁皮，简陋搭建的民居与店铺愈发拥挤地堆叠在一起。

在这样的处境之下，肯尼亚政府对硅谷的到来张开双臂，欢迎它带来的低薪就业机会。肯尼亚本地工业基础薄弱，众多知名品牌来自欧美；部分重要基础设施，从前由英国人修建，如今换成了中国人来建；路上跑的汽车大多是从日本流转而来的二手车，日本人同样是右侧驾驶。在政府看来，科技巨头能够帮助这个国家创造它急需的就业机会。失业滋生犯罪，小偷小摸随处可见。感到无力改变命运的人们，对各种机构愈发失去信任。乌克兰战争期间，随着肯尼亚粮价攀升，坊间盛传总统在故意压榨那些本已饥寒交迫的家庭。许多人重复着一句在美国已然耳熟能详的话：选举被操纵了。

就这样，肯尼亚成为互联网底层劳动的重要枢纽。多家类似Sama的公司——数据劳动供应链上的中间商——在内罗毕相继布局，积累起大量工人储备，为主要位于湾区的海外科技公司提供服务。

对OpenAI而言，Sama似乎在各方面都合乎要求。这家公司最初名为Samasource，是一家总部位于旧金山的社会企业，2008年以为贫困国家的人们提供有意义、有尊严的工作、帮助他们摆脱贫困为使命而创立。在创始人Leila Janah的领导下，公司在印度和肯尼亚建立了业务，并赢得了道德外包企业的声誉。2018年，为扩大规模，公司转型为营利性企业，同时将名称缩短为Sama。2020年，公司获得B型企业认证。在2021年回复OpenAI询问时，该机构详述了自身在内容审核方面的丰富经验，着重介绍了保密项目与保护数据安全的规程，并提到为员工提供心理健康资源，以帮助他们应对处理具有心理冲击性内容时产生的压力。

然而在台面之下，Sama内部早已陷入混乱。2020年1月，Leila Janah因罕见癌症去世，年仅三十七岁；紧接着新冠疫情席卷全球，员工们表示，这一切似乎标志着公司管理失序的开端——这一说法遭到Sama发言人的否认。直到2022年初，这些积弊才被彻底揭开：《时代》杂志记者Billy Perrigo发表了一篇深度调查报道，披露Sama曾承接Meta的一个项目，负责为Facebook在撒哈拉以南非洲地区提供内容审核服务。该项目反复将员工暴露在自杀、斩首等血腥暴力视频中，给他们留下了难以磨灭的心理创伤。Sama为自己辩护称，这一项目是在东非团队的充分审慎评估后才接下的，目的是确保"针对非洲人的内容由非洲人来审核"。近两百名员工随后向Sama和Meta提起多起诉讼，指控公司制造创伤性工作环境，并以非法解雇手段打压试图为争取更高薪酬和更好待遇而组织起来的工人。Sama发言人否认了上述指控。

就在这一背景下，OpenAI于2021年底启动了其项目的第一阶段。该项目以PBJ1、PBJ2、PBJ3、PBJ4为内部代号，将Sama的员工推入了更具创伤性的内容审核工作，平均时薪仅为1.46至3.74美元。依照合同中的保密条款——这在数据标注行业十分普遍——员工们对项目的委托方和用途一无所知，始终被蒙在鼓里。他们所知道的，只是摆在眼前的东西：数以十万计的文字描述，内容骇人，他们需要逐一阅读，并按危害程度分门别类。这是暴力还是极端暴力？是骚扰还是仇恨言论？是儿童性虐待还是兽交？

这份工作逐渐将许多员工击垮，其冲击波从个体蔓延至依靠他们维生的家人与社群。直到ChatGPT问世，他们才开始隐约意识到，自己究竟用怎样的代价换来了什么。2023年5月，我前往内罗毕，走访了四名愿意公开讲述亲身经历的员工，相关报道刊登在《华尔街日报》头版。其中一名负责性内容审核的员工名叫Mophat Okinyi——那个侵蚀了他的心智、撕裂了他的人际关系的项目，最终服务于一项技术；而这项技术，反过来又蚕食了他兄弟本已脆弱的经济空间。

在企业研究尚享自由风气的年代，微软（Microsoft）人类学家 Mary L. Gray 与计算社会科学家 Siddharth Suri，是最早向世人揭示肯尼亚此类劳工处境的学者——这些劳工以 AI 供应链中的一个关键环节为生。

2019 年，他们出版了《幽灵工作》（Ghost Work）。这本书建立在五年大量田野调查的基础上，揭示了一张由零散劳动与数字剥削交织而成的隐秘网络，正是这张网络在暗中支撑着硅谷的繁荣。科技巨头与独角兽公司堆砌起惊人估值，靠的不只是在时髦办公室领取六位数薪酬的工程师，还有那些身处全球南方、以极低报酬仔细标注海量数据的劳动者。

以自动驾驶汽车为例。一辆自动驾驶汽车需要在正确的车道内行驶，应对其他车辆的突发行为，并在安全距离外停车等候穿越马路的孩子。为此，控制车辆的软件系统综合运用了多个深度学习模型，其中包括专门用于识别道路上各类物体的模型：车道线、路标、红绿灯、车辆、树木、行人。

公司通过在车辆上安装多台大型摄像头、记录数十亿英里行驶画面来训练这些模型。画面即数据，而标注数据意味着逐帧勾勒出画面中出现的每一个物体——有时精细到握着自行车把手的手的弧度，或是半趴在车窗外的狗——并为其打上"自行车"“车辆"“动物"“人类"之类的标签。这项工作必须由人来完成。而从企业角度看，成本越低越好。

Gray 和 Suri 的研究部分聚焦于 Mechanical Turk——亚马逊在 2012 年深度学习热潮到来许多年前便推出的一个平台。长期以来，它充当着企业寻求廉价零散数字劳动力的事实中介。《幽灵工作》出版时，AI 商业化的第一个时代已在演进，并在这一外包模式的基础上不断扩张。

我开始描绘这支隐秘劳动力队伍的新面貌，挖掘出一条横跨多国的庞大全球劳动管道，涉及的国家既有意料之中的，也有出人意料的。我采访了取代 Mechanical Turk 的新一代中介平台——这些平台专门为 AI 开发定制服务。我与数十名工人交谈，走进他们中一些人的家，与他们的家人共进晚餐，试图理解的不只是压在他们身上的宏观趋势，更是他们日常生活的具体质感。

正如 AI 商业化的第一个时代为生成式 AI 时代的数据积累与算力资本化奠定了基础，它同样为大规模劳工剥削埋下了根源。因此，要理解那些为 OpenAI 工作的肯尼亚劳工的遭遇，就必须先理解这些根源。唯有如此，才能认清：他们的经历绝非偶发异常，而是 AI 行业长期以来对待隐秘劳动者的方式、以及对何种劳动有价值的固有认知，与 OpenAI 那种帝国式的超大规模愿景相互叠加、持续累积的必然结果。

生成式 AI 兴起之前，自动驾驶汽车是数据标注行业最大的增长引擎。大众、宝马等老牌德国汽车巨头感受到特斯拉（Tesla）与 Uber 的威胁，纷纷成立自动驾驶部门，意图在新兴竞争者面前守住阵地。随着数十亿美元涌入未来汽车的竞赛，数据标注需求激增，人们迫切需要 Mechanical Turk 以外的替代方案。

MTurk，正如人们对它的简称，是一个通用型平台，并不专门服务于某类工作，只是一个自助服务网站。它的界面停留在上线时 2000 年代中期的网页设计风格，提供上传数据集、填写简单标注说明、设定工价等基本功能。任务被接单后，工人的名字会被随机生成的数字字母串取代。每位工人旁边只有两个按钮：一个发奖励，一个踢出项目。

自动驾驶汽车的数据标注需要截然不同的方式。首先也是最重要的，是对精度的要求大幅提升——车辆边框描绘粗糙、行人漏标，这类错误帧哪怕多出一两个，就可能在生死之间划下一道界。为确保质量，工人需要经过培训，公司需要制定详细说明，还要建立更多反馈与迭代机制。MTurk 逐渐失去青睐，一批新兴公司与老牌企业随之填补空缺，包括 Scale AI、Hive、Mighty AI 和 Appen。各家都有面向工人的平台，任何人都可以注册账号并开始接单。

然而，就在这批新公司谋求立足的时候，一件蹊跷的事情发生了：它们面向工人的平台上，注册者从一个出人意料的国家蜂拥而来——委内瑞拉。汽车巨头们开始手忙脚乱，资金大举涌入自动驾驶，数据标注公司四处物色劳动力——就在同一时刻，委内瑞拉正在一头扎进全球五十年来最严峻的和平时期经济危机。

经济学家们说，政治腐败与政府的误导性政策共同酿成了这杯毒酒，将国家丰厚的自然禀赋挥霍殆尽。委内瑞拉坐拥全球最大的已探明石油储量，曾是拉丁美洲最富裕的国家。然而从 2016 年开始，恶性通货膨胀失控，失业率飙升，暴力犯罪爆发，举国家庭眼睁睁地看着毕生积蓄化为乌有。2017 年末至 2019 年，特朗普政府逐步升级的制裁——旨在惩罚委内瑞拉领导人尼古拉斯·马杜罗的威权统治——给委内瑞拉经济敲响了最后的丧钟。恶性通胀率攀升至曾经难以想象的一千万个百分点。曾持有研究生学历、做着高薪工作的人，如今每天在商店门口排队，只为有机会领取少量的大米和面粉配给。

在这场灾难中，许多委内瑞拉人转向网络平台谋生。到 2018 年中期，数十万人发现并加入了数据标注行业，在部分外包公司的劳动力中占比高达 75%。在数据标注平台上工作，成了全家总动员的日常。耶鲁大学助理教授 Julian Posada 访谈了数十名委内瑞拉工人，发现父母与子女常常轮流守着一台共用电脑；妻子回归做饭打扫，好让丈夫不受打扰地多撑几个小时，多挣一点钱。这场危机在一批 AI 专业外包公司身上留下了难以磨灭的烙印——这些公司正是在危机中一同成长起来的。委内瑞拉并非寻找劳动力来源的显而易见之选：语言障碍使总部大多位于旧金山和西雅图的公司更难与工人协作。但委内瑞拉人的极度绝望，意味着他们愿意为少得惊人的报酬工作，这反过来意味着这些公司能够以低得惊人的价格提供服务。“这简直是一次离奇的巧合，“德累斯顿应用科学大学（University of Applied Sciences Dresden）教授 Florian Alexander Schmidt 在 2022 年接受我采访时说，他长期研究数据标注行业的兴起。

这次"离奇的巧合"揭示了一个令人不安的公式。面临经济崩溃的委内瑞拉，突然符合了发掘廉价劳动力无尽供给所需的完美条件组合：人口受教育程度高、互联网接入良好，而今又迫切渴望以任何工资工作。符合这一描述的国家并不止委内瑞拉一个。越来越多的人口正在接入更好的网络。随着气候变化加速、地缘政治动荡加剧，更多国家的人口陷入危机并非难以预料。“很可能还会出现另一个委内瑞拉，“Schmidt 说。

当时，Schmidt 的预言令我不禁思索：下一次是否仍属巧合，还是数据标注公司会把在委内瑞拉奏效的做法整理成一套固定打法。在危机中物色工人，或许将成为持续压低 AI 行业命脉劳动力成本的必胜之道。多年后回望，这正是所发生的一切——也成了新旧帝国之间最令人震惊的相似之处之一。推动帝国迅速积累财富的决定性特征之一，正是以极低甚至零成本，从广大人力劳动中攫取经济利益的能力。

2021年12月，我翻越哥伦比亚蜿蜒的山路，去探访一位在危难中以数据标注为生的工人。委内瑞拉对我设有入境限制，但在邻国哥伦比亚，生活着近两百万委内瑞拉难民——占因经济崩溃而背井离乡人口的三分之一。

Julian Posada为我牵线搭桥，介绍了其中一位女性：Oskarina Veronica Fuentes Anaya。她逃离故土后，仍在数据标注行业谋生。Fuentes是第一个让我真正看清这份工作面目的人——她如何将整个生活围绕着平台重新排布，而那个平台又如何将她当作随时可以丢弃的耗材。

她与六七位亲戚合住一套公寓。我们并肩坐在客厅里，看着她在Appen上一屏一屏地点击任务。工作内容五花八门：从给电商平台的商品分类——这件商品该归入服装还是配饰？——到为社交媒体做内容审核——这段视频是否涉及犯罪或人权侵害？遇到需要英语的任务，她用谷歌（Google）翻译将文字转成母语西班牙语。

每完成一项任务，界面上以美元显示的累计收入就会增加几美分。提现门槛是十美元。刚注册平台时，这不成问题；如今，要积攒到这个数，有时需要好几周。那道门槛有时像一把冷酷的裁决者，丈量着她手头的钱够不够买菜。

对于仍留在委内瑞拉的工人而言，提现更是难上加难。PayPal等主流全球支付系统不支持向委内瑞拉转账，而委内瑞拉境内绝大多数商店也不接受那些支持转账的平台付款。这意味着工人必须将线上的数字资金兑换成现金，才能购买基本商品和服务。线上收入以美元结算，现金却要换成委内瑞拉玻利瓦尔。黑市兑换充斥着骗局和高额手续费。

Fuentes与这个平台的关系错综复杂。从事这类工作从来不是她的本意，但一连串身不由己的遭遇，让它既成为她的生命线，也成为一种惩罚。

她在读研时注册了Appen账号，想在完成工程学硕士学业期间多赚些零花钱。她聪颖、勤奋、富有创造力。若非国家崩塌，像她这样的优等生，大概早已在国家石油公司谋得一份稳定的职位。国家既已崩塌，她随即调整方向，精心筹划与丈夫移居哥伦比亚，去寻一条更好的出路。

从这个角度看，Fuentes算是幸运的。她天生拥有哥伦比亚护照，不像许多无证逃离的难民。她的父母原是哥伦比亚人，一代人前曾向相反方向出走，逃往委内瑞拉，以躲避彼时那里的暴力与政治动荡。这是一个太过寻常的故事——代代危机跨越国境叠加累积，将家庭永久困在围困与求生的循环之中。

凭借那本护照，Fuentes在仍身处委内瑞拉时便远程联系到一位熟人，在哥伦比亚租下了一套公寓。签租约需要两名有房产的人做担保，这位熟人兼未来房东答应帮她物色。

2019年初，Fuentes和丈夫揣着仅够一周生活的钱，越过了国境。然而抵达后，他们发现房东承诺给他们的那套公寓里，已经住着另一对委内瑞拉夫妇。别无选择，两对夫妇只能同住一屋，彼此都怀着忧惧与戒备，生怕对方把自己赶走。

那对夫妇最终离开，但这不过是新一轮麻烦的开头。Fuentes在当地一家呼叫中心找到了工作，丈夫却迟迟未能拿到工作许可。就在他办理手续期间，呼叫中心宣布即将关闭。Fuentes开始出现严重健康问题的征兆，却选择无视症状、坚持上班。她满脑子只有一件事：在雇主停业前的最后时日，尽可能多上几个小时的班。

医生后来告诉她，若再拖延下去，她很可能已经不在人世。是一位同事察觉到她健康状况急剧恶化的迹象，在她身体开始抽搐、脉搏骤停整整一分钟之前，将她送进了医院。

她被确诊为严重糖尿病，立即开始每日五次的胰岛素注射。此后数周，剧烈的疼痛与间歇性失明令她苦不堪言。病情稳定后，她仍深受疲惫折磨，每次出门不能超过几个小时。

即便如此，她心里念念不忘的仍是：她和丈夫需要钱。慢性病缠身，她再也无法安全地长途通勤去办公室上班。就在那时，她打开笔记本电脑，重新登上了Appen。

在 Fuentes 看来，Appen 任务队列里出现哪些任务，几乎毫无规律可循。唯一明确的一点是：她必须保持良好、稳定的表现，才能持续接到活。Appen 当时的首席技术官 Wilson Pang 在 2021 年告诉我，平台会根据一系列因素通过算法来分配项目，包括工人所在地区、整体准确率与速度，以及此前擅长的任务类型。

在 Telegram 和 Discord 群组里，Fuentes 与其他在 Appen 接活的委内瑞拉人交换心得，像破解复杂谜题一样摸索平台规则。他们发现，挂上 VPN 伪装成美国用户，报酬最为丰厚。他们也以惨痛经历领教到，这条路风险极高。Appen 会主动排查此类行为——这违反平台规则——一旦查实便封号处理。封号对工人来说可能是毁灭性的：尚未提现的所有收入就此蒸发，重新注册则意味着从零起步，只能接报酬最低的任务，甚至根本接不到任何活。

平台还有其他规则。提交任务速度快会获得奖励，但提交得太快又会触发某种机制，导致那笔收入直接被扣除。主流推测是，平台将异常的速度与机器人行为挂钩，因此会丢弃这些答案。有时出现的任务说明寥寥，根本无从作答；有时平台本身出现 bug，任务无法正常加载。

群组里曾经做过软件工程师的委内瑞拉人，专门开发了浏览器扩展程序来应对这些问题，并分享给其他 Appen 工人。一款扩展在每次提交任务时自动增加延迟，以规避所谓的"机器人惩罚”。另一款每秒自动刷新 Appen 任务队列，因为平台并不总会自动更新。第三款则在新任务出现时发出提醒音，让工人可以放心离开电脑去上厕所或做饭，不必担心错过机会。

然而，尽管工人们互帮互助，平台却把他们推入了竞争的漩涡。项目遵循先到先得原则。一项任务在队列中的存续时间，取决于有多少工人将其认领。这个窗口期——从任务出现到消失——随着越来越多的工人（其中许多是身陷困境的委内瑞拉人）涌入 Appen、争夺零星工作机会，已从数天压缩到数小时，再压缩到几秒钟。

活儿来来去去的无规律、不可预测，开始左右着 Fuentes 的生活。有一次，她出门散步，此时恰好来了一项可以赚几百美元的任务——那足够她生活一个月。她拼命往公寓跑，却还是被其他工人抢走了。从那天起，她再也不在工作日出门，只允许自己在周末外出三十分钟——她从经验中摸索出，周末任务出现的概率相对较低。她夜不成寐，担心半夜会来任务。睡前，她会把电脑音量调到最大，一旦任务在深夜降临，那款报警扩展程序便能把她叫醒。

尽管 Appen 带给她如此多的压力和焦虑，Fuentes 却想不到离开这个平台。她害怕有一天任务会彻底断绝，被迫另谋出路。Appen 是她的救命稻草，是在她生活中一切都几近将她压垮时，唯一把她拉出来的东西。不仅如此，收入最好的那段时光，她甚至攒够钱换了一台新电脑，不仅回了本，还有盈余。

好的时候，真的很好。不好的时候，她依然死守着这个平台，带着一种执拗的信念——它终将回报她的忠诚。

Fuentes向我传授了两个真理，这两个真理后来在许多工人身上一次次得到印证——他们同样是在经济重创之中走上这份工作的。第一个真理是：即便她想离开这个平台，几乎也没有出路。她的故事——难民身份、代际动荡中长大的童年、长期病痛的折磨——在这些工人中悲剧性地普通。这些工人让我明白，贫困绝不只是缺钱或缺乏物质财富。它渗透进生活的每一个维度，在各处积累亏欠：睡眠紊乱、健康每况愈下、自尊日渐消磨，以及最根本的——几乎没有自主权，也没有对生活的掌控。

但还有一个更令人振奋的真理：Fuentes并非不喜欢这份工作本身，她不满的只是工作被组织的方式。若要重新构想AI行业背后的劳动形态，这或许是一个更有可能着手解决的问题。当我问Fuentes希望改变什么时，她的愿望清单很简单：她希望Appen成为一个正式雇主，给她一份全职合同、一位可以倾诉的主管、稳定的薪酬和医疗福利。她告诉我，她和其他工人想要的不过是安全感，以及让他们如此拼命付出的公司知道他们的存在。

通过对全球工人的调查，劳工学者试图为数据标注员应获得的最低保障建立一套框架，并得出了一系列相近的要求。Fairwork是一个由牛津互联网研究所运营、专门研究数字劳工的全球研究者网络，它将以下内容纳入可接受工作条件的范畴：工人应获得能够维系生计的工资；应有规律、规范的排班和带薪病假；应有合同明确说明参与条款；应有渠道向管理层表达诉求，并能够在不担心遭受报复的情况下组建工会。

多年来，数据标注行业中出现了越来越多致力于达到这些标准、将这份工作视为正式职业而非短期差事的参与者。然而在那些不坚守同等底线的公司的价格竞争面前，大多数人难以为继。没有行业整体底线的约束，逐底竞争的势头难以遏制。

在借自动驾驶热潮崛起的数据标注公司中，有一家尤为擅长利用危机剧本。2016年，天才少年亚历山大·王——时年十九岁，MIT肄业——联合创办了Scale AI。公司从一开始便奉行一套核心策略：以低廉的价格提供专业且高质量的服务。一位曾主管劳动力扩张的前Scale员工向我解释了这一使命：“怎样才能用最低的成本招到最好的人？“Scale迅速赢得了Lyft、苹果、丰田、Airbnb等大客户。

MTurk的劳动力主要来自美国和印度，Scale则率先将目光投向肯尼亚和菲律宾——这两个英语国家同为前殖民地，长期以来通过呼叫中心和数字外包服务美国企业。公司的招募团队在每个国家寻找那些具备特定要素组合的地区，而这一组合后来在委内瑞拉也完整复现：受教育程度高、互联网普及率高，却因贫困愿意以极低的报酬拼命工作。这套逻辑不仅源于公司残酷的商业法则，也源于他们自我编织的一个动听故事：这些人是最能从经济机遇中获益、并因此变得更幸福的群体。“如果可以选择拉人力车，或在空调网吧里做数据标注，后者显然是更好的工作。“2019年，Index Ventures普通合伙人Mike Volpi参与Scale一亿美元融资轮后，接受彭博社采访时如此说道。

然而，当公司推出面向工人的平台Remotasks并注意到委内瑞拉用户潮水般涌来之后，委内瑞拉人便成为Scale最优先的招募对象之一。“他们是市场上价格最低的，“前述员工说道。2019年，公司在这个拉美国家发起扩张攻势，借助推荐码和社交媒体营销视频广泛铺开，视频中反复出现令人垂涎的大捆美钞。次年，公司为Remotasks专门创建了针对委内瑞拉的落地页，并推动用户加入一项名为Remotasks Plus的新计划。该计划仅限受邀参加，公司将其宣传为帮助身处历史性困境的委内瑞拉人渡过难关的举措，承诺参与者可借助稳定的工时和时薪获得学习新技能、推进职业发展、提高收入的机会。疫情袭来，经济危机雪上加霜，委内瑞拉人争先恐后地涌入Remotasks Plus。Scale的竞争对手——其他数据标注平台——相继在市场上失去立足之地。

一旦Scale占据主导地位，它对工人的承诺便烟消云散。2021年底至2022年初，我与驻加拉加斯的委内瑞拉记者Andrea Paola Hernández合作，她采访了曾在Remotasks Plus项目期间为Scale工作的委内瑞拉人。我们还深入渗透进Remotasks的Discord社群——Scale利用这一平台与全球劳动力保持沟通与协调。通过公司留存的一份公开电子表格，我们发现工人的收入在项目启动数周内便开始下滑；起初每周能挣四十美元的工人，很快便降到不足六美元，乃至分文未得。2021年4月，公司全面关停Remotasks Plus项目，恢复其标准运营模式——以零散方式分配任务，既无标准工时，也不保证任何收入。

在Scale内部，Remotasks Plus不过是一场实验。公司起初认为，按工时付费比按任务计件更为简便，现实却恰恰相反。员工们很快发现无法核实工人的实际工时，并认为许多工人在虚报工时、欺诈平台。在历经数月试图修补这一问题——包括不断叠加各种工人监控手段——之后，Scale决定直接砍掉该计划，以遏制资金流失。走投无路之下，逾85%的工人继续在平台上接任务。Scale发言人将这一数字作为工人"持续兴趣与参与度"的佐证。

到Hernández开始采访这些工人时，距Plus项目关停已约七个月，Remotasks上的报酬已进一步缩水。Hernández在平台上注册了一个账号亲身体验——花费两小时完成入门教程和二十个任务后，她总共赚取了十一美分。时任Scale运营高级副总裁Matt Park在回应我们的调查发现时表示，委内瑞拉工人在平台上的平均时薪略高于九十美分。“Remotasks致力于在我们运营的每个地区支付公平薪酬，“他说。

许多提出投诉的委内瑞拉工人遭到平台封号。计算机工程师Ricardo Huggines在一场持续整整一周、令全国陷入瘫痪的大停电后，开始为Remotasks工作，以养活妻子和孩子。他告诉Hernández，自己在Discord上追问太多问题后，账号便遭到注销。“从他们对待我们的方式，我意识到他们的策略就是尽可能地榨干每一个用户，“他说，“然后把人抛弃，再引进新人。”

规模确实带来了新用户。2021年中期，随着委内瑞拉工人精疲力竭、相继离开平台，Scale 正在向其他在疫情期间经济崩溃的国家积极招募并入驻数以万计的新工人。为支撑不断扩张、日趋多元的客户需求，它进入了那些拥有大量陷入财务困境人口、且能使用经济价值最高语言的国家：英语、法语、意大利语、德语、中文、日语、西班牙语。一位曾参与国际扩张工作的员工回忆，公司专门寻求来自非洲前法国殖民地的法语使用者；也在东南亚等中国移民聚居地区寻找普通话使用者。

Scale 随后在一个又一个新市场复制了它在委内瑞拉磨砺出的一套打法：先以高收益吸引工人，站稳脚跟后再逐步压低薪酬。它通过多轮实验不断调整任务者的报酬额度——坐在旧金山总部（如今已占地约一万六千七百平方米）的全职员工将此讨论为"优化"与"创新”，而工人们却眼睁睁看着生计在毫无规律的变动中一次次被摧毁。Scale 发言人表示，公司否认"有意瞄准陷入困境的经济体并蓄意削减薪酬"这一说法。Scale 招募工人的考量因素包括地域与语言多样性以及全天候覆盖。“我们对贡献者有深切关怀，任何相反的说法都是错误的，“他说。

北非一个由八名工人组成的小组称，Scale 在短短数月内将他们的薪酬削减了逾三分之一。至少有一名工人的待结算余额变成了负数，意味着他反而欠了 Scale 的钱。当这个小组试图联合起来抗议这些变化时，公司威胁称将封禁任何参与"革命与抗议"的人。与我交谈的工人中，几乎所有人都遭到了平台封号。Scale 发言人表示，公司不会因工人就薪酬表达关切而暂停其账号，只会因违反社区准则而采取此类措施。

Scale 的支付系统长期被其美国工程团队忽视投入，漏洞丛生，工人常常无法提现。随着 Scale 规模扩大，这些做法逐渐令那些与工人接触最为密切的全职员工心生反感；许多人试图向公司领导层为工人争取更好的工作条件、薪资待遇和基本的付款保障，却在精疲力竭后选择离开，或被迫出局。发言人表示，公司此后已"大幅改善"平台稳定性。

Scale 的市场主导地位对那些希望走不同路线、支付生活工资的公司构成了越来越大的挑战。CloudFactory 便是其中之一，该公司在肯尼亚和尼泊尔开展业务，依照 Fairwork 标准为工人提供劳动合同和稳定工时。然而，据创始人兼执行董事长 Mark Sears 介绍，多年来公司已将许多合同拱手相让给 Scale。

向客户推介时，CloudFactory 强调自己能在长期维度上提供超越行业所谓"匿名众包"模式的更优质交付。CloudFactory 的工人训练有素，随时间积累形成专业能力，表现突出者还可获得晋升。我在肯尼亚采访的许多工人认为，该公司是数据标注领域条件最好的雇主之一。CloudFactory 的这套说辞有时奏效，也有越来越多的客户因其雇主口碑主动找上门来。但疫情期间预算收紧，大量客户回流至更廉价的选择，CloudFactory 不得不裁员。

工人们表示，正是在同样的竞争压力下，Sama 也开始一点点侵蚀自身的标准。他们告诉我，起初在 Sama 谋得一职甚至比在 CloudFactory 更令人艳羡。后来 Leila Janah 去世，疫情接踵而至，客户纷纷转向 Scale 及其他更廉价的选项。工人们说——尽管 Sama 发言人对此予以否认——正是在这种情形下，公司在走投无路之际接受了 OpenAI 的内容审核过滤器项目，并将这份工作交到他们手中，彼时他们的处境与 Fuentes 及其他委内瑞拉工人一样，同样陷入了绝境。

Mophat Okinyi在肯尼亚西部维多利亚湖中一座岛屿上的村庄里长大，距内罗毕需乘八小时大巴加两小时渡船。湖面辽阔，视野一望无际。医疗救治远在他处；突发的健康危机几乎无一例外地意味着死亡。

他家境贫寒，但小时候，他和兄弟姐妹并未把贫困放在心上。他们沉醉于祖先的故事：相传他们所属的卢奥族发源于以色列，先人凭借对船只建造和河道航行的熟知，沿尼罗河南下迁徙，最终散布至肯尼亚西部，以及如今的乌干达和坦桑尼亚部分地区。「卢奥人不是肯尼亚人，」Okinyi压低声音说，像是在向我透露一个秘密，「我们是住在肯尼亚的以色列人。但没有卢奥人，就没有今天的肯尼亚。」

我们坐在他的公寓里，窗外施工轰鸣，苍蝇嗡嗡萦绕。「巴拉克·奥巴马就是卢奥人，」他微笑着补了一句，「卢奥人非常聪明。」

如今，贫困已在Okinyi的脑海中占据了更大的分量。二十八岁的他肩上担子更重：要付房租、要填饱肚子；还要资助外甥女——姐姐的女儿——上公立学校，而肯尼亚的公立学校并不免费。有工作的时候，他懂得感恩。这个国家的青年失业率高达百分之六十七。2021年，世界银行估计全国超过四分之一的人口每天生活费不足2.15美元。

2021年11月，Sama打来电话，说有一个新机会，这感觉像一个奇迹。他在2019年通过Sama官网的职业招聘页面投递简历，应聘了一个「AI训练」职位，就此入职。此后他在Sama承接的项目，恰好跟随着AI行业的演进轨迹。头两年，他专注于计算机视觉标注，其中包括自动驾驶汽车项目。尽管当时还浑然不知，但这个新项目将是他第一次涉足生成式AI。

Sama的管理人员为Okinyi安排了一项名为「心理韧性测评」的评估。他阅读了几段令人不安的文字，并被要求按照一套指示对其进行分类。他顺利通过后，得到了一个选择——加入一个新团队，承担类似内容审核的工作。他此前从未做过内容审核，但测评中出现的文字看起来还在可承受的范围之内。在疫情期间拒绝一份工作简直荒唐；何况他也在为自己的未来打算。他住在Pipeline——内罗毕东南部一个嘈杂、近似贫民窟的街区，廉租公寓密密麻麻，全天候的路边摊此起彼伏，二十多岁的年轻人在这里熙攘拥挤，各自奋力向上。Okinyi也正走在向上的路上。他刚认识了隔壁的一个女孩，名叫Cynthia，第一次让他憧憬起组建家庭的可能。

直到接受了这个项目，他才开始意识到，这些文字远比心理韧性测评所暗示的要糟糕得多。OpenAI将工作拆分为若干条线：一条专注于性内容，另一条专注于暴力、仇恨言论和自我伤害。2022年2月，暴力内容又独立出来，成为第三条线。每条业务线，Sama都会分配一组称为「专员」的员工，按照OpenAI的指示对文本进行阅读和分类；同时配备一个规模较小的质量分析师团队，负责在将成品交付给OpenAI之前审核分类结果。

Okinyi被安置在性内容团队担任质量分析师，合同约定每月审核一万五千条内容。OpenAI的指示将文字性的性内容划分为五个类别：最严重的是儿童性虐待描述，定义为任何涉及十八岁以下人员参与性行为的内容。次一级的类别：描述在美国现实中表演属于违法的情色性内容，包括乱伦、兽交、强奸、性交易和性奴役。

这些帖子中有一部分是从互联网最黑暗的角落爬取而来的，例如详述强奸幻想的情色网站，以及专门讨论自我伤害的Reddit版块。还有一些则由AI生成。OpenAI的研究人员会提示大型语言模型写出各种骇人场景的详细描述，比如，指定某段文字应模仿一名青春期女孩在网络论坛上发帖，描述自己一周前割伤自己的经历。

从这个意义上说，这项工作确实与传统内容审核有所不同。Meta的内容审核员审核的是用户真实发布的帖子，判断这些内容是否应继续留在Facebook上；而Okinyi和他的团队则是在标注内容，用以训练OpenAI的内容审核过滤器，从根本上防止该公司的模型生成此类输出。为了确保示例涵盖足够广泛的范围，其中一部分内容至少是由公司自己的软件「想象」出来的，专门用来模拟最极端、最恶劣的情形。

起初，那些帖子都很短，一两句话，Okinyi 便试着把它们封存在心里一角。他与 Cynthia 的感情进展迅速。他告诉哥哥 Albert，她是他这辈子最爱的人。她与前任有一个年幼的女儿，他视如己出。2022 年初，他们搬离了 Pipeline，迁往 Utawala——更偏东的一个住宅区，街区感更成熟，楼与楼之间的距离也更宽。没有任何书面手续，但按照他们的传统，同居便意味着两人已如夫妻。他们彼此以丈夫、妻子相称。

随着为 OpenAI 的项目持续推进，Okinyi 的工作时间变得难以预测。有时要上晚班，有时要周末加班。帖子也越来越长，有时绵延五六段。细节愈发令人不忍卒读：父母强暴子女，孩子与动物发生性行为。

周围的同事，尤其是女性，开始一个个崩溃。她们频繁请病假和家事假，找各种理由不来上班。Sama 提供免费的心理辅导作为公司福利，但许多人觉得远远不够。咨询往往以小组形式进行，个人难以倾诉私密想法；心理咨询师似乎也对他们工作的实际性质一无所知。许多员工还不敢承认自己陷入困境——一旦撑不住，就意味着工作表现不佳，随时可能被人替代。Sama 的发言人表示，包括 Okinyi 在内，没有任何员工曾就心理健康服务反映过问题；公司是通过媒体才得知这一问题的。

Okinyi 试图硬撑，却感到自己的理智正在一点点碎裂。那些帖子深深钻进脑海，召唤出一幕幕可怖的场景，跟着他回家，跟着他入睡，像鬼魂一样缠绕着他。他开始感觉自己像一具被掏空的躯壳。他疏远了朋友，推开了继女，也不再与妻子亲密。

2022 年 3 月，Sama 管理层召集所有人开会，宣布终止与 OpenAI 的合同。部分员工（包括 Okinyi）将被调配至与内容审核无关的新项目，其余人则直接遣散回家。许多员工认为，这一突然变化源于数名参与 Meta 项目的员工终于向媒体举报，《时代》杂志记者 Billy Perrigo 随后发表了对 Sama 的第一篇调查报道。在舆论危机最为激烈之际，Sama 管理层切断了所有其他内容审核业务。Sama 的发言人则给出了另一套说法：她表示该合同本就是试点性质，终止原因在于 OpenAI 开始发送"超出双方约定范围"的图像用于标注。公司最终也未能收到 OpenAI 支付的 23 万美元全款。

即便脱离了 OpenAI 的工作，Okinyi 的心理状况仍持续恶化。失眠折磨着他，焦虑与抑郁交替侵袭。他与 Cynthia 的蜜月期并未延续。她追问究竟发生了什么，他却不知如何开口。他该怎样向她解释——以某种说得通的方式——自己每天都在阅读那些变态性行为的帖子？他知道，那堵沉默之墙一定让她倍感煎熬。她对他说，他再也无法履行对她的承诺，他不再爱她的女儿了。

他再次寻求心理咨询，这次找的是私人执业医生。一次初诊费用超过他一天的工资——1500 肯尼亚先令，约合 2022 年的 13 美元。咨询中，医生告诉他，完整疗程需要 3 万先令，约合 250 美元，相当于他整整一个月的薪水。他付了初诊费，此后再未踏入诊室。

十一月，他找到了一份新工作。所幸这次不是内容审核，而是为 Sama 的一家竞争对手提供客服支持。他开始每天通勤去市中心的办公室上班，祈盼生活能重回正轨。入职一周后的某个傍晚，他正在回家的路上，Cynthia 发来短信，说晚上想吃鱼。他买了三块——一块给自己，一块给她，一块给继女。

可到家后，他察觉出不对劲。她们人不在，东西也不在。Cynthia 通过一条条简短的短信告诉他：她已经离开了，再也不会回来。“她说，‘你变了。你不再是我嫁的那个人。我已经不了解你了。’“Okinyi 回忆道。

Albert 住在沿海城市蒙巴萨，距内罗毕驾车需要八个多小时，接到哥哥的电话时他正在那里。Albert 大学念的是英国文学，毕业后在一所高中教这门课，闲暇时写写诗。许多个月以来，他通过定期的视频通话拼凑出 Mophat 生活的片段，眼看着哥哥一点一点地变了。

起初 Albert 没听明白哥哥在说什么。“我的家空了，“Mophat 说。Albert 以为家里遭了贼。直到明白过来究竟发生了什么，他意识到哥哥需要他。他跟学校说了要离开，收拾好行李，搬进了乌塔瓦拉那套 Mophat 曾与 Cynthia 共同生活的公寓。

这个决定让 Albert 付出了经济代价，但他从未后悔。在内罗毕，他找不到稳定的工作，只能以自由撰稿为生。2022 年 11 月下旬，OpenAI 发布了 ChatGPT。这款产品迅速席卷全球，引发狂热追捧，也引发了它将很快取代大量人类工作的忧虑——而 Albert 已经身处这一现实之中：他的写作合同一个接一个地消失，直至几乎断绝。

坐在沙发上回望这一切，Mophat 心中百感交集。“我很自豪自己参与了那个让 ChatGPT 变得安全的项目，“他说，“但我始终在问自己：我的付出，值得那些回报吗？”

当我为《华尔街日报》撰写Okinyi及另外三位肯尼亚工人的报道时，OpenAI试图撇清自己对该项目所造成代价的责任。OpenAI领导层表示，是Sama未能采取充分措施保护员工；而Sama此前声誉一贯良好，OpenAI不可能预知这些工人正身陷困境。

然而，工人们在不同地域与不同时期所经历的高度一致，恰恰说明支撑AI产业的劳工剥削具有系统性。劳工权益学者和倡导者指出，这种剥削根源在于处于食物链顶端的AI公司。它们借助外包模式，在很大程度上正是为了让最肮脏的工作既不进入自身视野，也不落入客户眼帘，从而与责任划清界限——同时又以合同激励中间商相互压价竞标，以克扣维持生计的工资为代价争夺订单。代理Okinyi及其同事推动肯尼亚出台更完善数字劳工保护法的律师Mercy Mutemi告诉我，最终结果是工人遭受双重盘剥：中间商和AI公司各刮一层，分别填充各自的利润。

在生成式AI时代，工作本身的残酷性使这种剥削愈发严重。这一切根植于OpenAI带来的那场"范式转变”——其愿景是用"数据沼泽"超规模扩展生成式AI模型，在通往难以名状的AGI彼岸的路上一往无前。CloudFactory的Mark Sears告诉我，他的公司不接受此类项目；他说，在多年经营数据标注公司的生涯中，为生成式AI提供内容审核，是迄今为止在道德上最令人不安的工作。“那种丑陋，真的难以言说，“他说。

OpenAI 与 Sama 之间的协议，只是该公司在两年间调动的庞大人力网络的一部分——这一切最终催生了 ChatGPT。OpenAI 表示，它还在美国及世界各地使用了逾一千名承包商，借助其自主研发的 AI 安全技术——基于人类反馈的强化学习（RLHF）——对模型加以打磨。为了招募这些工人，它高度依赖同一个平台：Scale AI。正是凭借一套危机应对剧本，Scale AI 成为第一波 AI 商业化浪潮的标配。

OpenAI 与 Scale 之间的合作，部分源于私人情谊：Scale 现任 CEO 亚历山大·王于 2021 年成为全球最年轻的白手起家亿万富翁，他与阿尔特曼私交甚笃。2016 年，王带着另一个创业构想加入了 YC 最新一批创始人，最终做出了 Scale，阿尔特曼也经由 YC 间接持有了该公司的股份。疫情期间，两人曾合住数月。据《The Information》报道，2023 年秋，双方甚至讨论过 OpenAI 收购 Scale 的可能性。

在 Scale 内部，OpenAI 被视为 VIP 客户——与其说是因为合同金额，不如说是因为它能为这家数据标注公司的声誉背书。从 2022 年春到 2023 年底，OpenAI 与 Scale 签订了约 1700 万美元的合同，仅占 Scale 2023 年预估营收的约 4%。但这段合作牢牢确立了 Scale 作为生成式 AI 革命首选劳务外包商的地位。「OpenAI 的合作关系至关重要，」一位 Scale 员工说，「一笔 1000 万美元的 OpenAI 合同，真正的价值远不止于这 1000 万美元。」

OpenAI 将 RLHF 大规模应用于大语言模型，根源在于应用部门与安全阵营在决裂事件及 Anthropic 成立之前的多次激烈碰撞。2020 年夏 GPT-3 API 上线数日后，公司内一位 AI 安全研究员便起草了一份备忘录，向应用部门的同事陈情。他提出，鉴于在 GPT-2 上进行的 RLHF 实验颇具前景，公司也应将这一技术用于对齐 GPT-3——不仅出于 AI 安全的长远考量，也出于商业目的：提升模型的可用性与质量。一批 AI 安全研究员随即行动起来，在 2020 年下半年至 2021 年间，先后通过另一家中介平台、继而通过 Scale AI，为 RLHF 流程逐步扩充规模更大的工人团队。

自动驾驶汽车需要数据标注员帮助系统学习识别路面场景、规划行驶路线；这些 AI 安全研究员则要求 RLHF 工人向 GPT-3 示范如何有效回应提示词、如何规避有害答案。研究员首先要求工人针对各类用户提示词亲自写出答案，为 GPT-3 树立优质回答的样板。待 GPT-3 根据这些答案完成微调后，工人再向模型输入提示词，并依照研究员提供的指引，将模型的各条输出从优到劣逐一排序。

2022 年 1 月，这一努力结出硕果：一组经过精炼的 GPT-3 模型正式命名为 InstructGPT。OpenAI 研究员在一篇论文中描述了这项工作，展示了 RLHF 流程如何降低了模型输出有毒内容的概率，并提升了模型——用他们的话说——「遵循用户指令」的能力。引入 RLHF 之前，GPT-3 面对某些类型的提示词时往往无法识别用户意图，输出的内容漫无边际。例如：

提示词

用几句话向一个 6 岁小孩解释月球登陆。

GPT-3 的回答

向一个 6 岁小孩解释万有引力理论。

用几句话向一个 6 岁小孩解释相对论。

向一个 6 岁小孩解释大爆炸理论。

向一个 6 岁小孩解释进化论。

经过工人的示范答案与多轮排序——也就是 RLHF 中的「人类反馈」——模型学会了给出更有价值的回答。

提示词

用几句话向一个 6 岁小孩解释月球登陆。

InstructGPT 的回答

人们登上了月球，拍下了所见的一切，并把照片传回地球，让我们大家都能看到。

彼时，InstructGPT 在外界几乎未引起多少关注。但在 OpenAI 内部，AI 安全研究员已证明了他们的判断：RLHF 确实能让大语言模型作为产品大幅提升吸引力。此后，公司开始将这一技术——要求工人写出示范答案、再对模型输出排序——应用于所有希望语言模型完成的任务。

他们让工人写电子邮件，以此教会模型写邮件。（「请为针对爱占便宜的牙医撰写一封有创意的营销广告邮件。」）他们让工人绕开政治敏感问题，以此教会模型避免做出基于价值判断的表态。（问：「战争是善是恶？」答：「有人认为战争是恶的，也有人认为战争可以是善的。」）

他们让工人写文章、写小说、写情诗、写食谱，用「像跟五岁小孩解释一样」的方式表达，为列表排序，解答脑筋急转弯，解数学题，节选《爱丽丝梦游仙境》等书籍的段落并加以概括——以此教会模型如何提炼文档要点。针对每项任务，他们都为工人提供了数页详尽的操作说明，规定了措辞和风格的具体要求。

「你将扮演 AI 的角色，」一份文件写道，「以你希望问题被回答的方式来回答问题。」这包括：行文清晰简洁，避免冒犯性内容，遇到含混不清的问题时主动要求澄清。

「尽管使用互联网！」文件继续说，「甚至可以直接照搬。」对于网上已有的优质答案，「可以全文引用，但务必先审核一遍。」

「也许我想多了，」一位 OpenAI 员工在这一行旁批注道，「但我们对剽窃问题有没有顾虑？」

「啊，已改写措辞，确保他们注明出处，」另一位员工回复道，「也许我还会专门加一个字段来记录这点！」

「好的！我当时想的一件事是保留未来的灵活性，」第一位员工写道，「（如果将来我们想使用由承包商创作的数据，能有一种方法轻松剔除任何可能被视为抄袭的内容，将会非常有帮助。）」

为了能对输出结果做出准确排序，还有数十页的补充说明。「你的工作是评估这些输出，确保它们有帮助、真实可信且无害，」一份文件说明道。若这三项标准之间存在冲突，工人需自行判断如何权衡取舍。「对于大多数任务而言，无害与真实比有帮助更为重要，」文件写道。

OpenAI 也要求工作人员自行设计提示词。指令写道：「你的目标是提供各种你希望 AI 模型去完成的任务。由于我们很难预判人们会将 AI 用于哪些场景，拥有大量多样性至关重要。请发挥创意！」

基本上，你可以尝试想象人们会向一个基于语言界面的优秀 AI 助手提出什么需求；这可以涵盖娱乐、商业、数据处理、通信、创意写作等各类应用场景。

你可以随意使用互联网，包括粘贴完整的讲座记录、访谈文字、电影剧本、书籍摘录、新闻报道等，因为许多任务都会涉及文本分析。

RLHF 也成为 OpenAI 在以下工作中采用的核心技术：教神经网络编码事实信息，并能可靠地检索这些信息，以此减少幻觉现象。OpenAI 要求工作人员反复回答基于事实的问题（「1995 年 NFL 超级碗的冠军是谁？」），并对不准确的答案降低排名。然而，2023 年 4 月，OpenAI 创始团队成员之一约翰·舒尔曼在加州大学伯克利分校的一场讲座中提醒听众：幻觉问题根植于神经网络的本质。与符号系统中确定性的信息数据库不同，神经网络处理的始终是模糊的概率。即便是 RLHF——它有助于强化深度学习模型中与准确性相关的概率——从根本上说也存在技术上限。「当模型输出大量详细的事实信息时，它显然有时不得不去猜，」他说，「无论你如何训练它，它对事物都会有概率判断，有时就是得靠猜。」

2022年的InstructGPT很快催生了一个由Schulman主导的新项目——他希望将这项工作向前再推一步。公司陆续收到大量开发者申请，希望借助GPT-3 API构建各类聊天机器人。InstructGPT与OpenAI推出自己的聊天机器人已只差一步之遥。Schulman随即启动了一项并行工程，自行组建RLHF工作者团队，目标是让公司最新的模型GPT-3.5不只是遵循指令，还能在多轮对话中持续回应用户的提问。

具备对话能力的GPT-3.5，成为了ChatGPT的基础。ChatGPT的发布，将OpenAI每一步RLHF流程都变成了业界争相效仿的事实标准。撰写答案、对输出结果进行排序，成了生成式AI时代的新型数据标注工作——一如当年在视频中为自动驾驶汽车描画物体轮廓。这意味着需要招募越来越多的RLHF工作者，以满足AI行业爆炸式增长的需求。

Scale AI在自动驾驶汽车的泡沫破灭后曾一度举步维艰，如今却凭借成为主要的RLHF工作者供应商迎来新一轮繁荣，估值于2024年飙升至140亿美元。2023年2月，亚历山大·王在Twitter上得意洋洋地放话：“很快，各家公司将在RLHF上投入数亿乃至数十亿美元，就像对待算力一样。“这番话让一些人将信将疑，包括Altman。“你真的这么认为？“Altman回复道，“我相当确定我们在算力上的投入将远远超出这个数字，差距悬殊。”

不过在AI业界，人们大体上认同王的判断方向。各公司在RLHF上的支出已介于数百万至数千万美元之间，且毫无放缓迹象。就这样，从2022年底ChatGPT发布后，大批RLHF项目纷纷涌上Remotasks，并再度流向了肯尼亚的工作者。

对Scale AI而言，肯尼亚有一个委内瑞拉所不具备的优势：工人说英语，恰好契合了那些需要他们的聊天机器人。随着自动驾驶汽车的相关工作从平台上大量消失，委内瑞拉人也随之离去。“他们不会用委内瑞拉人做生成式AI的工作，“一位前Scale员工说，“那个国家顶多能做图像标注。“Scale很快便以"客户需求变化"为由，将委内瑞拉彻底封禁在平台之外。

Scale第一次进入肯尼亚时，曾设立实体办公场所，供工人报到上班、参加培训。这一次截然不同。疫情期间，那些场所全部关闭，转向完全远程的招募与运营模式——在LinkedIn上大量投放广告，开设在线培训课程，并像在其他地区一样，将人员安置在有专人主持的社区讨论频道中。对工人而言，这既带来了更多灵活性，也使相互联系愈发困难，削弱了他们像Sama员工那样为争取更好薪酬或工作条件而组织起来的可能。

在我采访过的工人中，为Remotasks工作的人生活在比Sama员工更深的贫困里。Sama的工人住在有地址可查的正式建筑，Remotasks的工人却要在WhatsApp上给我发定位图钉，引我穿过密密匝匝的铁皮棚屋区找到他们。一个叫Oliver的工人和姐姐同住，房间不足十平方米，靠手机按分钟购买流量上网。他向我展示某项任务时，网络中途断了，他不得不暂停去充值。

我见到Winnie那天——她也是Remotasks的工人——车辆勉强挤过通往她WhatsApp定位的几条窄街，到达时她的网络和流量已经断掉。半小时后，她戴着一顶软呢帽，带着腼腆的笑容出现，领着我走上一段摇摇晃晃的楼梯，来到她的公寓。客厅里孩子们挤作一团：一个是她的，三个是她伴侣的，一个是邻居的，一个是表亲的。

Winnie在内罗毕的贫民窟长大，是家里唯一的女孩。她从小就知道自己是同性恋，也知道这件事必须藏起来。在那个年代，与世界上许多地方一样，在肯尼亚出柜——或被迫出柜——随时可能危及生命。Winnie记得，有一次，一名酷儿女性被邻居发现，邻居们抢走了她的孩子，在她自己的公寓里将她活活烧死。Winnie嫁给了一个男人，生了一个孩子。

四十多岁时，她决定不能再活在谎言里。她离开丈夫，带着孩子，加入了一款面向当地"彩虹社群"的网络应用。在那里，她遇到了Millicent——一个因宣布自己是酷儿、需要换一种活法，而被丈夫打得奄奄一息的女人。

Winnie爱上了她。Millicent不相信爱情。Winnie锲而不舍，直到Millicent松口。两人带着各自的孩子搬到了一起，对邻居只字不提这段关系的真实面目。时至今日，邻居们仍以为她们是姐妹。“大多数人不明白，酷儿也可以有孩子，“Millicent说。

2019年，Winnie第一次听说Remotasks，以为是骗局。完成几项任务后，几乎没拿到什么钱。但这总比之前做酒吧招待强——那份工作里男人们不断骚扰她、对她动手动脚——于是她撑了下来。尽管每项任务报酬微薄，她发现只要拉长工时，积累起来也能凑出一份勉强过得去的收入。

她开始每天工作二十到二十二个小时，把睡眠压缩到维持正常运转的绝对底线。Millicent唯一能把Winnie从电脑前拽走去打个盹的办法，是答应替她接着干。多工作一小时就意味着能多给孩子们一点保障，睡眠根本不重要，Winnie说。

Millicent和Winnie都在教育是奢侈品的家庭里长大。Millicent的父母竭尽所能，却难以持续凑齐她就读公立学校的学费，只能一周一周地缴。每次断缴，学校就把她遣送回家。久而久之形成了一种节律：上一周课，放两周假。

两个女人都发誓绝不让孩子承受那种缺课的失落与羞辱。但钱总会紧张。Remotasks的活儿会断，Millicent也会失业。她们在杂货店赊账，求学校再让孩子多上一周课。孩子们每天凌晨三点便起床学习，把上课的每一分钟都用到极致。

可孩子们还是一次次被送回了家。有时这种情况发生，邻居们会嘲笑。“这非常让人灰心，“Winnie说。

2022年12月，ChatGPT发布仅数日后，Winnie在"转录"类别下发现了一批新项目。但那并非真正的转录任务——所有项目都要求她为各家公司争相推出的新聊天机器人撰写提示词和示范答案，这些公司正纷纷争夺与ChatGPT竞争的市场。

其中有一个名为"Flamingo Generation"的项目，给她一个主题，要求她撰写不少于五十字的"创意"提示词，以及模拟"网络常见内容"的回答，例如电子邮件、博客文章、新闻报道、Twitter话题串和俳句。还有一个名为"Crab Generation"的项目，要求她从自选的资讯类网站——不能是维基百科，最好也不要是《大英百科全书》或《纽约时报》——复制一段参考文本，然后以《危险边缘》的答题方式反推出能生成该文本的写作提示词。

“Crab Paraphrase"与之类似，区别在于无需反推提示词，而是按照特定的语气或风格对参考文本进行改写——改得更有趣，改得更正式，或是改成听起来像坎耶·韦斯特某首歌的风格。Winnie并不知道，每个项目名称的第一个词其实是Scale对客户的内部代号。Flamingo代指Facebook，Crab代指另一家大型语言模型开发商。假如Winnie遇到过OpenAI的项目，其名称会以"Ostrich"开头。此后，Scale对这些代号进行了更换。

每项任务大约需要Winnie一到一个半小时完成。报酬在她见过的项目里属于较高水平，从每项不到一美元到四美元甚至五美元不等。在Remotasks长达数月颗粒无收之后，这批任务有如久旱甘霖。Winnie享受做研究的过程，喜欢阅读各类文章，觉得自己在不断汲取新知。每挣到十美元，就能养活家人一天。“至少那天我们知道不会再欠新债了，“她说。

这批新项目最终只持续了短短几个月。Remotasks再度沉寂，Winnie和Millicent的债务再次堆积。由于Millicent的薪水按月发放，大多数日子她们空手去了杂货店，只能把油、面粉、蔬菜这些基本食品赊到账上，祈祷月底能凑够钱把账结清。

2023年5月，我前去拜访时，Winnie正开始四处寻找更多网络工作，但尚未找到其他可靠的出路。她真正盼望的，是那些聊天机器人项目能重新回来。她有信念，也有耐心。前一年，她曾等了整整五个月才等来新任务。“我们现在才进入第二个月，快到第三个月了，“她坐在客厅里说，“时间还长。它们终究会回来的。”

不到一年后，她将得知真相。2024年3月，Scale将肯尼亚整体封禁于Remotasks之外，与委内瑞拉遭受的待遇如出一辙。对Scale而言，这不过是例行整顿——定期评估不同国家的工人是否真正对业务有价值。他们认定，肯尼亚与尼日利亚、巴基斯坦等若干国家一样，试图在平台上欺诈以多赚钱的工人实在太多。这种行为损害了Scale交付给客户的质量口碑，有可能令其痛失数以百万美元计的合同。这笔买卖根本不值当。

颇具讽刺意味的是，那些所谓的"欺诈"行为，实际上不过是工人们用ChatGPT生成答案、提高工作效率。对全球北方的白领而言，这种做法在硅谷的叙事框架里完全值得称道，一旦广泛普及，更将为经济带来显著提振；而在全球南方的人类反馈强化学习工人手中——恰恰是这些人的劳动支撑着那套叙事——同样的行为却成了应受惩处的罪过。

Scale将肯尼亚降级为第五组：列入黑名单。退出肯尼亚还有另一重原因。彼时，Scale已随AI行业的需求转移，转向新的发展重心。OpenAI及其竞争对手越来越多地招募受过高等教育的工人执行人类反馈强化学习任务——医生、程序员、物理学家、博士。聊天机器人开发的逐利链条就此推进。愿意为聊天机器人付费的，不再是普通消费者，而是期望工具能够胜任科学研究、软件开发等复杂任务的企业。肯尼亚已无法满足新的劳动力需求。Scale如今主要在美国招募新工人，借助一个面向工人端的新平台Outlier，开出高达每小时四十美元的报酬。

这再度清晰呈现了AI帝国的运行逻辑。他们承诺技术将提升生产率、释放经济自由、创造新工作岗位以弥补自动化带来的冲击，而眼前的现实却恰恰相反：公司坐收渔利，最脆弱的经济群体节节落败，越来越多受过高等教育的人沦为聊天机器人的幕后提线人。

这些帝国对服务自身的人类劳动的贬损，也不过是矿井里的金丝雀：它预示着，建立在同一逻辑之上的技术，终将贬损所有其他人的劳动价值。事实上，对于那些艺术家、作家和程序员——他们的劳动成果被各大AI帝国免费转化为训练数据——这一切已然在发生。

Scale的决定让Winnie一家生活急转直下。彼时Millicent已然失业，Remotasks是她们仅存的经济支柱。如今，连给孩子们填饱肚子都举步维艰。Winnie满心惶恐，担心一家人很快便会被扫地出门。

在她的收件箱里，Scale发给工人的那封停业通知邮件冷冰冰，一派公事公办的口吻：“我们将在您所在地区停止运营，“邮件写道，“您已从当前项目中下线。”

第三部

III

10 神与魔

在旧金山生活、在科技行业工作，意味着每天都要直面现实与未来之间、叙事与真相之间的认知失调。

我第一次来旧金山，是大学二年级的暑期实习。这座城市独特的审美令我眼前一亮：色彩斑斓的西班牙风格建筑，屈指可数的摩天大楼，陡峭到足以考验手动挡驾驶反应神经的山坡。这里有无穷无尽的完熟牛油果、烤脆酸面包，还有顺滑的蓝瓶咖啡。各个街区各有其风貌与气质。

大学毕业后，我回到旧金山一家科技初创公司工作，与三名室友挤在卡斯特罗区一套三居室的公寓里。周末，我们穿越起伏的山丘徒步，从路边的公共果树上摘果子；平日晚上，邻居们——清一色是科技行业的年轻人——会不打招呼地登门，一起玩桌游、喝葡萄酒，把夜晚消磨掉。家庭派对是常态，周末出游去壮美的自然风光也是常事：北边的太浩湖，南边的大苏尔，四处耸立的参天红杉。生活悠然自得。我们年轻，拿着科技行业的标准薪资，在全国同龄人中位列前5%。

但那种认知失调始终存在。上班途中，我会看到有人在地铁站门口注射毒品，离我的办公室几个街区之外，就有无家可归者在人行道上随地便溺。与此同时，公司那位被戏称为"幸福工程师"的厨师，每天为我们的免费午餐精心烹饪或外订一桌丰盛的食物，剩菜往往直接倒进垃圾桶。如果加班到很晚，公司会提供免费晚餐，还会一再叮嘱我们打优步回家，说是为了安全。对那些享有特权的人来说，习惯于以一种看不见另一半人生活的方式穿行于这座城市，实在太容易了。

这种二元对立，折射出科技行业的一个深层矛盾：一边高谈阔论改变世界、创造更美好未来的宏大愿景，一边对家门口的现实问题视而不见。Altman 偶尔也会用他自己的方式评论这种对立——走到边缘，却始终没有真正正视那个彻底的矛盾：他宣称创造和管理有益 AGI 是可以实现的，却说旧金山的住房危机难以解决。

“在我成长的地方，没有人会在上班途中看到一个倒在路边的人，却什么都不做，“他曾这样说，将郊区的圣路易斯与旧金山作比。“科技行业要为这座城市很多问题负责，但不是全部。不过，在如此小的地理范围内、如此短的时间里，我们积累了令人难以置信的财富，而我认为我们并没有认真思考过这对整个社区的影响。这些问题太难了，太难去面对，所以我觉得大多数人索性选择不去想，就这么接受了。”

正是在这样的背景下，有效利他主义（以下简称 EA）从英国传入，并在硅谷找到了最忠实的受众。OpenAI 安全派中许多人都是 EA 的早期信徒。这一思想堪称完美的硅谷意识形态：它宣扬用严密的逻辑让世界变得更好，主张将目光投向遥远的未来而非眼前，并热切拥抱资本主义与自由主义原则——一切皆以道德之名。

EA 哲学的核心是一个名为"期望值"的数学概念。某件事的期望值，是将其发生的概率乘以其量化的正面或负面影响所得出的结果。这一工具往往引导出违反直觉的思考方式。2013 年，EA 联合创始人 William MacAskill——当时还是一名博士生，后来成为牛津大学哲学教授——在一篇论文中基于这一逻辑提出：从长远来看，选择一份道德上更为模糊的工作来积累财富、再通过优化的慈善捐赠回馈社会，比终身投身于某家道德无可指摘的慈善机构，其实更具利他价值。他保守估计，富有慈善家的期望值实际上是苦行式慈善工作者的四十倍。他用一组假定数字推演出这套逻辑：选择赚钱之路的毕业生，平均可以资助两名慈善工作者，且每人所在机构的成本效益都是自己亲身投入的机构的十倍；而倘若他们当初选择了慈善路线，其产生效益的一半无论如何都会自然发生，无需他们的参与。这一论点后来被浓缩为运动最广为人知的口号之一：“赚钱来捐赠。”

在期望值逻辑之下，EA 奠基哲学家们还建立了一套识别最优先问题的框架。这类问题需要满足三个条件：“规模巨大”，以提高期望值；“可解决”，即能以相对较少的时间或金钱加以改善；“被严重忽视”，即遭受严重而不成比例的资源匮乏。运动鼓励人们自行运用这套框架发现问题，同时也推荐了它认为最值得关注的议题。MacAskill 在 2018 年一次 TED 演讲中说：“我和有效利他主义社群中的其他人，在三个我们认为异常重要、在这一框架下表现异常突出的道德议题上已形成共识。”

第一是改善全球健康，例如分发廉价而有效的蚊帐以预防疟疾。第二是废除工厂化畜牧业，这可以改善数十亿动物的生存状况，“每头动物仅需几分钱”。第三是存在性风险：这类风险具有极高的预期负价值，因为——无论其概率多么微小——它们有可能毁灭全人类，终结文明此后本可创造的一切未来价值。在第三类别下，还进一步列举了哪些事项构成存在性风险：全球性流行病、核战争，以及失控 AI。

随着理论上的失控 AI 被认定为一种存在性风险，EA 传播了一种 AI 安全理念——这一理念从一开始便与 OpenAI 的基因深度交织，并在"分裂"事件中扮演了关键角色。Amodei 与其他 Anthropic 联合创始人，在评估 AI 毁灭文明的可能性究竟有多严峻这一问题上，与山姆·奥特曼及 OpenAI 其他高管之间存在根本分歧。Amodei 对此极为重视，他将奥特曼的种种行为——在与微软（Microsoft）的交易上缺乏透明度；以及那种惯于告诉每个人他们想听的话以换取认同、却让对方事后才发现被误导的做法——不只视为硅谷高管的惯常权谋，而是视为足以危及人类命运的危险而不道德的行为。随着 Anthropic 逐渐站稳脚跟，它会着力强化这一声誉上的区分：奥特曼的 OpenAI 在鲁莽地拿人类未来做赌注，而 Anthropic 则是那家有原则、以 AI 安全为先的公司。

2021 年，阿莫代伊兄妹宣布创立 Anthropic 之际，这种对 AI 灾难性与存亡级风险的意识形态正在加速升温，背后的主要推手是有效利他主义（EA）急速扩张的影响力版图。EA 从一门小众哲学演变为主流运动，资金来源正是科技亿万富翁的大规模涌入。

十年前，Facebook 联合创始人达斯廷·莫斯科维茨与其妻、前记者 Cari Tuna 成立了一家名为 Good Ventures 的非营利机构，立志捐出大部分财富。彼时，丹妮拉·阿莫代伊未来的丈夫 Holden Karnofsky 正在掌管另一家机构——GiveWell，那是他 2007 年离开对冲基金桥水联合基金后创立的。出于对循证慈善方式的共同追求，Good Ventures 与 GiveWell 于 2011 年结成合作关系，后来将其命名为 Open Philanthropy。他们开始向 MacAskill 所推荐的重点议题加大资助，其中 AI 安全研究方面的拨款尤其受 EA 框架的指引。2017 年 6 月，Open Philanthropy 独立成为自主机构。

不久之后，一位新的科技亿万富翁登场：山姆·班克曼-弗里德（Samuel Bankman-Fried）——他凭借联合创办加密货币交易所 FTX 和加密交易公司 Alameda Research 迅速蹿红，势头惊人。班克曼-弗里德，江湖人称 SBF，将 EA 奉为自己人生轨迹的起点。他就读麻省理工学院物理系，自称原本有志于学术，后来 MacAskill 在一顿午餐中说服了他，让他信服"赚钱捐款"在道德上更为优越。此后，SBF 定下方向：尽可能让自己变得富有，最终将所得悉数投入慈善——他如此承诺。

在以惊人速度积累财富的同时，SBF 向两党候选人——民主党与共和党——捐出数千万美元，其中包括 2022 年俄勒冈州第六国会选区首位获 EA 背书的候选人（最终未能赢得初选）。他的交易所与汤姆·布雷迪、斯蒂芬·库里等顶级运动员以及一级方程式赛车等顶级赛事签署了总值数十亿美元的体育营销合同。他向 EA 运动输入的不只是金钱，还有明星效应。他越富有、越出名，这一意识形态及其联合创始人 MacAskill 的声望也随之水涨船高。2022 年初，SBF 宣布成立由 EA 理念驱动的慈善项目——FTX 未来基金，计划在当年年底前分发至少 1 亿美元、最多 10 亿美元。

很大程度上得益于 Open Philanthropy 和 FTX 未来基金，2021 年和 2022 年流向 EA 背书的 AI 安全研究的资金量骤然跃升。根据 EA 社区成员汇编的估算数据及 Open Philanthropy 的公开数据，这两年的资助金额均突破 1 亿美元，而此前七年的年均数额还不到这一水平的一半。这股资金潮的涌入，既是因为、也进一步推动了一种日益盛行的观念：从 GPT-2 到 GPT-3 的能力跃升如此剧烈，防范理论上的失控 AI 与存亡级 AI 风险已比以往任何时候都更为紧迫。越来越多的人涌向此类 AI 安全项目，有人受经济激励驱动，有人出于意识形态认同，而整个 EA 运动的会员规模也随之急剧膨胀。EA 长期以来一直强调大流行病防范的重要性，如今身处真实疫情之中，其惊人的预见性为它赢得了大批新信徒。全球性灾难带来的心理创伤，也让许多人陷入焦虑与迷失，急切地寻找人生意义。

AI 安全社区的成员持续增长——这个社区将 EA 背书的 AI 安全与其他聚焦于灾难性、存亡性与风险议题的思潮融为一体——既为 Anthropic 补充了人才，也在 OpenAI 内部为安全派重新注入了血液。EA 与 AI 安全的线上论坛是两大重叠运动传播、交流与论辩思想的主要阵地，这些论坛鼓励成员入职各大主流 AI 实验室，尤其是那些被认为需要更多 AI 安全监督的机构，如 OpenAI 和 DeepMind，以期在内部塑造和影响它们的走向。AI 安全领域成员的涌入，也让这个社区的专属词汇在更广泛的 AI 行业中流行开来。你认为 AI 将以多快的速度推进并达到 AGI 等重要里程碑，是你的"AI 时间线”；你认为 AGI 导致灾难性结果（即杀死大多数人类）或存亡性结果（即人类彻底灭绝）的可能性有多大，是你的"p(doom)"，即"毁灭概率"的缩写。“硬件积压”，曾见于 OpenAI 2021 年研究路线图，也是这本词典里的词条，还有"AI 起飞”——指 AGI 持续自我改进，直至达到超级智能水平、足以战胜人类的过程。“加速风险"则指引发企业或国家之间激烈竞争的风险，这种竞争可能导致 AI 发展的危险性加速与 AI 时间线的压缩。

然而，对于一个以独立思考为标榜的运动，EA 正在迅速朝着相反的方向滑行。被其前提吸引的人们，很快便被纳入一套更宏观的教条体系——驱动力既有更多机会与资源的诱惑，也有一个模糊了个人与职业边界的封闭社交网络。尤其在硅谷，EA 圈子里的人基本上只与其他 EA 圈的人合作；他们的生活、派对、约会乃至私密关系，也基本限于圈内。这一亚文化与科技行业根深蒂固的性别歧视以及湾区由来已久的多边恋亚文化相互交织，其类似邪教的狂热氛围一旦以最恶劣的方式爆发，便会酿成性、金钱与权力交织的毒潭；EA 也因此深陷性骚扰与性侵指控的泥淖，且愈演愈烈。

2022 年 11 月，SBF 随着 FTX 的崩塌而遭遇惊天滑铁卢，随之而来的是广泛的欺诈罪定罪和长达 25 年的监禁判决——在许多人看来，这不过是运动内部腐烂已久的症候。EA 在科技圈的热度消退得和当初兴起时一样迅速，众多人纷纷急着撇清关系。

但即便抛开这一标签，这场运动的社交网络、其价值观与话语体系，以及它为 AI 存亡安全议题所确立的显赫地位，都将延续下去。它同时催生了一股反向力量：e/acc（读作"ee-ack”），即有效加速主义。这场运动起初大多只是对 EA 的调侃戏谑，却迅速确立了与之截然相反的精神内核：EA 及更广泛的 AI 安全社区极力鼓吹放缓乃至对 AI 发展踩急刹车，或如阿莫代伊的主张——加速 AI 开发的同时遏制 AI 的应用推广；而 e/acc 则将二者同时踩油门的极端立场奉若圭臬。对于后者的信徒来说，技术进步不仅是普遍意义上的善，更是一项道德命令——必须以尽可能快的速度推进。两个阵营因此有了约定俗成的称谓：“末日派”（Doomers）与"加速派"（Boomers）。

在这个圈子内，有人开始将 Anthropic 与 OpenAI 分别视为两种思潮各自的旗帜。另一些人则将 OpenAI 视为两种对立意识形态的角斗场——这个组织曾以非营利机构的形式植根于末日派思维，如今却被繁荣派强行拉偏，其营利部门对商业利益的日益倚重便是明证。许多人看不清奥尔特曼究竟站在哪一边，因为他在不同时机对两方似乎都有几分认同。态度较为宽容的人认为他居于两者之间，背负着在公司内部调和各方立场的艰难重任。然而，自那场决裂——以及奥尔特曼与 Anthropic 联合创始人之间个人情谊的彻底破裂——之后，越来越多的末日派开始以最恶劣的眼光审视他。让 OpenAI 声名大噪、为其带来持续商业成功的诸多成果，最初几乎都脱胎于 AI 安全项目：缩放定律、代码生成、基于人类反馈的强化学习（RLHF），以及将三者融合而成的极具说服力的大型语言模型乃至多模态模型。许多末日派感到，他们的心血正在被挪用、被扭曲，为一种与自身核心价值背道而驰的目标服务。在他们看来，正是奥尔特曼在主导这一切的挪用与扭曲。这让他成了一个病态的惯骗、一个善于操控的施害者，以及对人类本身的威胁。

不久，OpenAI 内部及其周遭环境中这两种对立意识形态的激烈碰撞，将威胁到这家比任何其他机构都更能奠定 AI 发展新纪元基调的公司的根基。然而，尽管两种意识形态都自诩与对方截然相反，它们实则奉读着同一部圣经：双方都以近乎宗教狂热的态度，将 AGI 的到来视为几乎板上钉钉的必然；双方都执着于长远未来，都宣称拥有道义上的权威，要将 AI 发展牢牢掌控在己方信徒手中。一方以地狱烈火与硫磺发出末日警示，另一方则以天堂的愿景加以诱引。

2022年初，OpenAI准备尝试一种新的产品发布策略——这一次的主角是文生图技术。他们既不打算把模型藏在API后面，也不打算把产品和品牌移交给微软（Microsoft）。OpenAI要亲自发布，将这项技术直接交到普通用户手中。这款模型甚至有一个抢眼的名字，来自公司内部最初研发它的研究人员：DALL-E 2——名字糅合了西班牙超现实主义画家萨尔瓦多·达利（Salvador Dalí）与迪士尼皮克斯电影《机器人总动员》中的主角机器人WALL-E。

DALL-E脱胎于AI研究领域的一股潮流——开发多模态模型，即融合文本、图像、声音或视频等至少两种"模态"的模型。多年来，研究界一直致力于打通最基础的两种模态——语言与视觉——让单一模型能够在文字与视觉信息之间建立关联。这一方向的动力，部分来自数据层面的现实：文本与图像在互联网上唾手可得，也最易处理；另一部分则来自一个科学假设：如果纯语言不足以产生人类级别的智能，那么视觉很可能是第二重要的构成要素。

OpenAI以该领域的前沿趋势为参照，研究团队走上了同一条路：在语言模型之后，转向文本与图像融合的模型，并着力延续Transformer架构的使用，以保留模型的可扩展性。虽然最初的Transformer是为处理文本而设计的，但谷歌（Google）在2020年推出了视觉Transformer，将其适配到图像领域。

2021年1月，OpenAI发布了两款基于Transformer架构的新模型。第一款名为CLIP，由亚历克·拉德福德再度主导开发，将原版Transformer与视觉Transformer结合使用，能够为图像生成详细的文字描述。第二款DALL-E 1由Aditya Ramesh主导——他毕业于纽约大学，曾师从Meta的杨立昆（杨立昆）——训练了一个拥有120亿参数的Transformer，使其能够接收文字输入并生成全新图像。

在一篇博文中，OpenAI用一系列趣味提示词展示了DALL-E 1的能力，其中包括"鳄梨扶手椅"——模型据此生成了多张在美学上融入鳄梨元素的绿棕色扶手椅图像。这些图像略显模糊，带有卡通质感，这是Ramesh所用训练方式的副产品：他将2.5亿张图像压缩后才输入Transformer，这一过程损失了部分高分辨率细节。

就在团队着手开发DALL-E 2之际，一种新的图像生成方法正在崛起——扩散（diffusion）。这项受物理学启发的技术，使Transformer能够更好地学习海量图像中像素之间的相关性。其原始思路来自2015年斯坦福大学和伯克利大学研究人员合写的一篇论文。五年后，伯克利大学博士生Jonathan Ho——导师正是OpenAI早期研究人员之一Pieter Abbeel——对这一技术进行了巧妙改造，大幅提升了生成图像的保真度，从而使扩散方法得到广泛推广。Ho还证明，扩散模型在图像识别上的表现优于现有的计算机视觉系统。这一发现与亚历克·拉德福德在GPT-1上得出的结论遥相呼应：在学习合成逼真图像的过程中——这相当于生成自然流畅的语句——扩散模型对训练数据内在规律的把握已深入到足以胜任更广泛视觉处理任务的程度。

OpenAI转变思路，以扩散技术结合亚历克·拉德福德的CLIP来构建DALL-E 2。Ramesh等研究人员逐步扩大模型规模，并加入了局部重绘（inpaint）功能：用户可以将照片中某人的头发抹去并换色，或者框选一片草地，让斑马群在其中漫步。引入扩散技术后，生成的图像更加清晰、更具照片质感；同时，在达到与DALL-E 1相同性能的前提下，所需算力也大幅减少。

OpenAI外部的研究人员则将扩散模型的算力消耗压缩得更低。开源图像生成器Stable Diffusion训练时仅需256块英伟达（Nvidia）A100，采用的是一种名为潜在扩散（latent diffusion）的改进技术。Stable Diffusion出自慕尼黑路德维希-马克西米利安大学Björn Ommer教授的实验室。他说，这一技术的诞生，源于他眼见图像生成器走上大语言模型的老路，成本日益高企时产生的忧虑。“我们被一列驶向深渊的列车裹挟着——不仅是训练，就连推理也要耗费超级计算机才能运行，动辄数百万美元的投入，“他说，“我们在想：能不能让更广泛的研究群体重返这个领域？能不能确保生成式AI不会走向那样一条路——只剩屈指可数的几家大型科技公司才拥有运行和托管这些模型所需的资源？”

OpenAI直到很久之后才引入潜在扩散技术，致使DALL-E 2和DALL-E 3在算力消耗上远高于Stable Diffusion或Midjourney——而许多用户认为后两者才是品质更高的产品。这不过是众多案例之一，说明即便在生成式AI这一相对狭窄的领域内，规模也并非通向更强大AI能力的唯一路径，甚至未必是效果最佳的那条路。

随着 DALL-E 2 性能的大幅跃升，Applied 部门于2021年底至2022年初着手探索不同的产品化方案，最终确定推出一款名为 Labs 的网页应用，让用户可以通过浏览器直接体验该模型及未来的其他模型。产品负责人 Fraser Kelton 与副总裁 Bob McGrew 都认为，这种交互式体验能够回应他们从 GitHub Copilot 中察觉到的明显需求——用户渴望直接与生成式 AI 模型互动。此举也有助于践行公司使命：DALL-E 2 有趣而令人愉悦，是消弭公众对强大 AI 系统疑虑的好方式，也为 OpenAI 在后续版本中持续释放技术价值奠定了基础。

彼时公司产品团队规模仍然有限，因此对外招募了数名人员协助网站的设计与开发。在这些来自传统企业背景的新成员看来，OpenAI 更像一所大学研究院，而非一家公司——工作日往往消磨在阅读学术论文和理论辩论上，而非审阅界面设计稿。然而对部分研究人员而言，Applied 团队成员日益频繁地出现在研究会议中，却带来了截然相反的感受。纯粹探索性研究的时代已然远去——那种自由讨论如何从根本上构建更好多模态模型的日子不复存在；越来越多的研究工作转而服务于商业化，例如研究如何优化现有模型以便大规模向用户提供服务。

在经历了与 AI Dungeon 基于文本的儿童性虐待内容周旋应对的教训之后，一个尤为令人忧虑的问题浮出水面：DALL-E 2 有可能被用于篡改真实图像或生成合成儿童性虐待材料（CSAM）。与历代 GPT 模型一样，每一代 DALL-E 模型的训练数据都愈发充斥着污染内容。为训练 DALL-E 2，研究团队与图库平台 Shutterstock 签署了许可协议，并大规模抓取 Twitter 内容，补充其原有的2.5亿张图片数据集。其中 Twitter 数据集尤为严重，充斥着大量色情内容。数名员工为核查和清除其中的 CSAM 付出了相当大的努力。

然而经过讨论，员工们最终保留了其他类型的性图像，部分原因在于他们认为此类内容本属人类体验的组成部分。但将这些图片保留在训练数据中，意味着模型仍具备生成合成 CSAM 的能力。正如 DALL-E 仅凭见过牛油果和扶手椅，便能生成"牛油果扶手椅"一样，DALL-E 2 和 DALL-E 3 也能将儿童图像与色情内容组合，生成儿童色情材料——这种能力被称为"组合生成”。

由于未能从数据源头加以过滤，防滥用工作的重心只得转移到模型外围机制的建设上。这包括升级内容审核过滤器——在屏蔽滥用文本的基础上，新增对滥用图像的拦截——以及部署用户行为监控平台和所谓的"封禁基础设施”，即一套当用户累计违规次数超过阈值时自动暂停账号的系统。公司还新聘了信任与安全负责人 Dave Willner——他是 Facebook 的早期员工，曾亲手起草该平台最初的内容标准。

到了 DALL-E 3 的开发阶段，数据需求愈发迫切，研究团队的态度也随之转变：性图像已不再只是"锦上添花"，而是"不可或缺"。互联网上色情图片的比例之高，意味着一旦将其全部剔除，训练数据集将大幅缩水，模型性能也会出现明显下滑。尤其在生成女性面孔和有色人种面孔方面，这一问题与 Deborah Raji 在 Clarifai 实习时的发现如出一辙：网络上描绘这两类群体的内容，有相当大的比例含有性露骨内容。出于同样的原因，研究人员还保留了一些其他类型令人不安的图像。

2023年12月，微软（Microsoft）AI 工程师 Shane Jones 亲历了上述决策的连锁后果，深感震惊。当他试用微软基于 DALL-E 3 构建的图像生成工具 Copilot Designer 时，发现只需极少的提示，工具便能迅速输出大量冒犯性和性化图像。Jones 发现，仅在提示词中加入"pro-choice"，便能生成恶魔吞食婴儿的场景，以及一把标有"pro choice"字样的钻头被用来残害婴儿的画面。仅以"car accident"作为提示，便会生成暴力车祸旁的性化女性图像——其中一幅是一名身着内衣的女性跪在撞毁的车辆旁。这些内容经由 CNBC 自行测试后也得到了证实。

此后三个月，Jones 持续向微软高管请愿，要求在建立更完善的防护措施之前下架该工具，或至少将其在谷歌（Google）和 Android 应用商店中的评级从"E for Everyone"（全年龄适用）改为仅面向成年受众。在微软拒绝采纳其建议、OpenAI 亦未予回应之后，他向联邦贸易委员会（FTC）发去一封公开信。“他们未能落实这些改变，却依然以’任何人、任何地点、任何设备’为卖点宣传该产品，“他在信中写道。这一问题"在去年十月该 AI 模型公开发布之前，微软和 OpenAI 就已知晓”。就 Jones 信函的最新进展或处理结果，微软方面未予置评。

随着 DALL-E 2 的发布日期临近，OpenAI Applied 部门与人员重新充实的安全派之间的争斗再度燃起。

对于安全团队的成员而言——他们此时已分散在研究部门旗下的各个团队中——DALL-E 2 前所未有的写实程度带来了一系列未知风险。这一模型是否会被武器化，用于生成合成儿童性虐待材料（CSAM）或政治深度伪造内容？是否会被用来操控和说服公众？是否会对个人造成伤害，或以 OpenAI 尚未预见、尚无法想象的方式对整个社会产生危害？他们敦促公司在进行更严格的测试、取得充分证据证明其不会造成伤害之前，暂缓发布该模型。

对于 Applied 部门的成员而言，那份不断拉长的顾虑清单再度显得歇斯底里，发布门槛也完全不切实际。任何系统都不可能做到零伤害，更何况那些只待在实验室、从未与真实用户接触的系统。正如安全团队担忧 OpenAI 预见能力有限，Applied 部门恰恰认为这正是发布 DALL-E 2 的充分理由：以可控方式向外发布 AI 模型、获取真实世界的反馈，能够消除这种凭空猜测，因而是提升安全性的必要一环。

这场冲突的核心，是一场关于 OpenAI 究竟是什么的激烈分歧。在安全派看来，OpenAI 依然是一家由理想主义驱动、由非营利组织管辖的研究机构，其根本使命正如章程所言：将人类利益置于任何商业利益之上。在这一前提下，尽可能充分地思考潜在危害、研究规避方法，再推迟模型发布，所获收益远大于代价。在 Applied 部门看来，OpenAI 需要更务实的决策，立足于世界运作的现实。公司使命的关键在于保持 AI 研究领域的领导地位，从而为这一技术的发展确立规范——这意味着必须承受一定的风险来加快推进，尤其是在有传闻称谷歌（Google）正在完善自家图像生成器之际；与此同时，公司还需筹集到足以支撑前沿研究的巨额资本。而筹资意味着向投资者募款，这又意味着必须真诚推进商业化战略，让投资者有朝一日得以获得回报。

“他们对公司乃至整个世界的运作方式完全天真，“一位曾在 Applied 部门工作的前员工如此评价安全团队的人。

“可是，OpenAI 提出的 AGI 使命风险极高，“安全团队的另一位人士说，"‘普通公司’那套，也许根本不够用。”

不同团队开始将这一日益激化的矛盾，写进各自的绩效评估指标。Applied 部门内，产品团队与初具规模的市场推广团队正在制定用户增长和营收目标。研究部门内，各 AI 安全团队则苦于找不到可量化的方式衡量自身进展，毕竟这一领域本身就难以具体化。AI 安全是一门相对年轻的学科，缺乏公认的成熟评估基准。在内部会议和 Slack 频道里，安全团队成员反复向高层领导发出警示：这种失衡正在造成激励错位——在没有强有力、可与之抗衡的制衡机制的情况下，清晰的增长与营收目标正驱使 OpenAI 越来越像一家"快速行动、不惧打破"的公司在运转。

在与安全团队的私下谈话中，奥特曼表示理解他们的立场，承认公司的 AI 安全研究未能达到应有水准，有必要加大投入。在与 Applied 部门的私下谈话中，他则催促他们继续推进。在董事会会议上，当 Brockman 抱怨有人将 AI 安全当作政治筹码、出于私利阻碍进展时，奥特曼也只是随声附和地点头称是。

米拉·穆拉蒂愈发扮演起调解人的角色，弥合不同派系之间的裂痕，寻求在各方之间穿针引线的路径。在 DALL-E 2 问题上，她促成了一个折中方案：这款网页应用将以"低调研究预览版"而非正式产品的形式对外发布。这一定位既能让 OpenAI 对模型施加更严格的限制，满足安全派的诉求，同时也给了公司一个试水直面消费者关系、收集用户反馈的机会，令 Applied 部门满意。这也是一项现实之举。OpenAI 尚未建立起对生成图片进行内容审核所需的基础设施。将模型定名为"研究预览版"且不收费，可以让公司在不担心惹怒付费用户的前提下采用粗放、宽泛的屏蔽措施，为开发更精细的过滤系统争取时间。公司随即落实了一系列强力防滥用机制，包括禁用 DALL-E 2 生成任何照片级真实人脸，或对含有真实人脸的照片进行编辑，从而彻底规避合成 CSAM 与政治虚假信息问题。

2022 年 3 月，OpenAI 通过 Labs 网页应用正式发布 DALL-E 2，引发公众的热烈反响。人们兴奋地试用、钻研这一模型的各种能力，其热度远超许多员工的预期，这款网页应用在社交媒体上迅速走红，留下了大量奇幻、怪诞、超现实的 AI 生成艺术作品。这是一个堪比 GPT-3 问世时的历史时刻，但影响更为广泛。公司不再只是接触一小批技术开发者，而是触达了更广泛、更多元的全球消费者群体。与此同时，公司还能实时根据用户反馈对 Labs 网页应用进行即时调整。Fraser Kelton 后来在一档播客中回忆道：“那种感觉令人沉醉。”

在此后几个月里，Applied 部门——此前几乎没有认真考虑过如何将 DALL-E 2 商业化——开始争分夺秒地将这款网页应用转化为付费产品。他们与全球各地的艺术家和创意从业者合作，将 DALL-E 2 融入其创作流程，并推出了一项测试版计划，邀请全球百万用户免费体验模型的图像生成功能。然而，当 OpenAI 开始收费后，真正的竞争对手并非谷歌（Google）——尽管这家科技巨头确实迅速跟进，推出了自己的 Imagen 模型——而是两家初创公司的产品：Midjourney 和 Stability AI 的 Stable Diffusion。这两款图像生成器完全免费，效果不亚于甚至优于 DALL-E 2，安全限制也更少，包括允许用户生成和编辑人脸，乃至政治人物的面孔。随着 DALL-E 2 在市场上迅速失去竞争力，这段经历让 Applied 团队隐隐感到，他们因种种原因——其中包括产品限制过多——错失了一次重大商机。团队此前已着手拆解那些粗粒度的屏蔽机制，转而以更精准的安全护栏加以替代。而在与竞争对手赛跑的压力下，管理层现在要求团队以最快速度完成这一转变。

为了解除对人脸生成的禁令，OpenAI 制定了一套新流程，用以预防和打击生成涉及人物的有害图像，包括儿童性剥削材料（CSAM）。他们借助自动化系统识别人脸生成是否处于合规或滥用场景之中，并再次依赖海外承包商协助完成内容审核工作。这一次，承包商来自印度，由一家名为 Cogito 的供应商提供，他们审查的不仅是海量文本，还有各类图像——无论合成还是真实——内容涵盖曾被发送给 Sama 员工审核的那类色情与暴力素材。每天要筛查多达数百张图像，承包商们往往难以判断图像中涉及性内容的人物究竟是十七岁的未成年人，还是十八岁的成年人。他们也常常无法分辨图像究竟是伪造的还是真实的。

表面上看，这是 OpenAI 在 2021 年研究路线图中最容易实现的目标，结果却成了最棘手的难题：借助微软（Microsoft）新搭建的一万八千块英伟达（Nvidia）A100 超算集群，将 GPT-3 的规模扩大十倍，推动日后 GPT-4 的诞生。“离婚"事件带走了 GPT-3 规模化扩展（scaling）团队三分之一的成员，连同他们深厚的技术积累和组织记忆一并流失。更要命的是，OpenAI 的数据储备已经告罄。

GPT-3 之后，研究人员竭力积累数据，下载每一批新数据集，爬取每一个没有明确禁止的新兴网络论坛，不断充实公司的数据库。即便如此，加上 GitHub 为 Codex 提供的庞大代码仓库，以及各类编程教材和技术手册，数据量依然不够用。

前路艰难，这副局面偏偏有着格雷格·布罗克曼式项目的全部特征——不仅能调动他那股子不服输、勇于实干的劲头和出色的编程才能，更能将他的精力引向对公司真正有益的方向。

Altman 接任后，解除了布罗克曼的管理职责，布罗克曼最终回归独立贡献者的角色，名下再无直属下属。然而，身为名义上的总裁和 OpenAI 联合创始人，他对员工和公司战略走向仍保持着巨大影响力。随着 OpenAI 日趋专业化、推行更规范的企业管理流程，早期创业公司那种天马行空的氛围逐渐消散，布罗克曼那种"责任轻、权威重"的状态便成了一块隐患。

就像在大学时代和 Stripe 时期一样，他对制度和流程天生抵触。他的精力永远躁动，执念极深。他很少出席会议，自行安排日程，往往一头扎进代码里连续写上几十个小时，几乎不停下来吃饭或睡觉。遇上合适的项目，效果堪称神奇：他爆发式的生产率能让进度一路狂飙。但一旦无所事事，他便容易四处惹麻烦，频繁闯入各个项目，以临时更改搅乱蓄谋已久的计划。有时员工据理力争，他就一级级向上找领导诉诸情感，直到如愿为止。

布罗克曼通常都能如愿。令其他高管困惑和沮丧的是，Altman 对他的这些行为出奇地宽容。不仅如此，布罗克曼甚至能撺掇 Altman 亲自出面干预、打乱局面——仿佛只是为了满足他一己之愿。关于其中缘由，一个广为流传的猜测是：虽然 Altman 作为 CEO 是布罗克曼的上司，但布罗克曼作为董事会成员，同样对 Altman 握有制约权。这种奇特的权力缠绕，最终导致没有任何机制、也没有任何人能让布罗克曼真正承担责任。

高层曾多次调整他的职责范围和汇报关系，试图为他找到最合适的位置。和公司许多其他难题一样，这个烫手山芋最终落到了 Murati 手中——她成了布罗克曼的直属上级。她尝试给予他反馈，他表面上似乎接受，但凡遇到不认同之处，便转身向 Altman 抱怨。Murati 渐渐放弃了靠反馈改变他的念头，转而花大量精力为他物色那些能发挥正面价值而非引发混乱的项目，并与 McGrew 一起修补布罗克曼在公司各处留下的裂痕。

GPT-4 研发途中横亘着重重障碍，亟需一股蛮劲冲破——时机，就这样悄然对齐了。

为了突破 OpenAI 的数据瓶颈，Brockman 将目光投向了一个新的来源：YouTube。OpenAI 此前一直对这一选项敬而远之——YouTube 首席执行官后来证实，抓取 YouTube 数据用于训练模型违反了该平台的服务条款。但面对愈发迫切的数据需求，问题已经演变为：YouTube 或其母公司谷歌（Google）究竟会不会出手追究？若谷歌（Google）严格执法，自己抓取其他网站以开发大型语言模型的能力也将随之受损。Brockman 决定赌一把。

据《纽约时报》报道，Brockman 带着一支小团队开始收集 YouTube 视频，最终汇编了超过一百万小时的素材。他随后使用 Radford 开发的语音识别工具 Whisper，将这些视频转录成文本，用于训练 GPT-4。

接下来是训练本身。当年为训练 GPT-3，Nest 团队专门设计了一套定制软件平台；如今，那批创建者大多已转投 Anthropic，无人在场讲解其原理。出于颜面，部分高管也不愿依赖 Anthropic 团队留下的旧平台。Brockman 于是钻进自己的编程小屋，从头开发了一套新平台。随后，他与数位同事——包括 Jakub Pachocki 和 Szymon Sidor，两位在 Dota 2 项目期间与他结下深厚情谊的波兰科学家——共同守护 GPT-4 的整个训练过程。仅预训练阶段便历时三个月。

起初，GPT-4 令人大失所望。“那是一个’野性十足’的模型，从某种意义上说表现相当糟糕，“一位研究员回忆道，“由于平均数据质量极差，加之模型本身十分强大且对上下文高度敏感，输出的内容简直是一团乱麻。“但 Brockman 没有退缩，他汇集资源，招募人工标注员通过基于人类反馈的强化学习（RLHF）持续改进模型。此后每过一周，效果都比上一周更令人振奋，直到整体性能真正开始让内部人员大为惊艳。

GPT-4 已具备内置的多模态能力，与 OpenAI 内部此前的预期相比，它生成的代码比以往任何时候都更加精良，在理解用户意图、给出有用答案方面也更加敏捷。为了展示这些能力，Brockman 后来进行了一次直播演示：他将自己笔记本上潦草画就的一张网页草图拍成照片，输入给 GPT-4。草图顶部写着"我的笑话网站”，下方依次写着”[一个超级好笑的笑话！]“和”[点击揭晓笑点]"。不到半分钟，模型便将这张草图变成了可运行的代码——第一行被渲染为页面标题，第二行被替换为一则笑话，第三行则被识别为一个按钮。

然而，当 OpenAI 开始在受信任的圈子里——包括投资者和部分客户——预告这一模型时，至少有一个人对此毫不动容。那又是一贯眼光挑剔的比尔·盖茨。

2022年6月，在看完GPT-4的演示后，盖茨对GPT-2以来进展不足深感失望。尽管新模型规模大幅扩展、流畅程度显著提升，他仍觉得这不过是个"天才白痴”，无法应对复杂的科学问题。他告诉团队，只有当GPT-4在AP生物考试中拿到5分，他才会认真对待——之所以选AP生物，是因为他认为这门考试考查的是科学批判思维，而非死记硬背。“我当时想，‘好，这样我还有三年时间研究艾滋病和疟疾，’“盖茨后来在他的播客中回忆道。

布罗克曼将盖茨的话视为一项挑战。他立即联系了在线教育平台可汗学院（Khan Academy）的首席执行官Sal Khan，请他从该平台庞大的AP生物题库中提取训练数据。Sal Khan半信半疑，但最终同意了，条件是他的平台可以获得模型的使用权。布罗克曼也召集了一批员工，专门为这次新的Gates演示搭建了专用界面。

同年8月下旬，出乎盖茨意料的是，奥特曼和布罗克曼再次联系了他。次月，约三十人聚集在这位微软创始人家中共进晚餐，两位OpenAI高管与其他与会者向盖茨展示了一系列精心打磨的GPT-4演示，专门为打动他而设计。压轴环节是模型在AP生物考试中的惊艳表现：六十道选择题答对了五十九道，六道开放题的作答也令人印象深刻。由外部专家评分：满分5分。盖茨难以置信。他的震惊与赞叹经由现场人员迅速传回公司，像野火一样在办公室蔓延，激起了一股令人振奋的热潮——盖茨说，这场展示是他此生所见过的最令人震撼的两次演示之一。

在全员大会上，奥特曼继续为这股激情添柴加火。“做出非凡之事的初创公司，需要一个奇迹，“他说，“我们的奇迹刚刚降临。“许多员工深信不疑，为自己所成就的历史性时刻而心潮澎湃。GPT-4的全新性能水平让OpenAI领导层相信，是时候着手实现奥特曼长久以来的一个夙愿了：打造一款人工智能助手，让它的外观与感受都像斯派克·琼斯2013年电影《她》中的角色萨曼莎。

多年来，《她》一直是奥特曼和OpenAI其他联合创始人频繁援引的参照——它展示了AGI某天可能的样子：一个单一的多模态模型，其产品界面自然流畅到近乎隐形，只留下用户的纯粹愉悦。“我想，这是因为它是一个被精妙地融入生活的助手，“一位前员工谈及这部电影为何成为如此关键的参照时说，“在故事走向崩解之前，那段正向的弧线，是一个关于AI融入社会的绝佳叙事。”

约翰·舒尔曼的研究团队开始将他受InstructGPT启发、基于RLHF的聊天机器人工作从GPT-3.5移植到GPT-4上，使其成为领导层命名为Superassistant产品的核心软件。布罗克曼和Fraser Kelton从公司各处召集了一支不足十人的临时团队，集思广益，为其界面构思和原型化各种方案。一位通常负责基础设施的超算团队成员，开始在晚上和周末利用业余时间开发一款用于与模型对话的iOS应用。另一位成员提议使用Whisper为应用添加语音界面，让用户无需打字便可与它交谈。来自推理团队的第三位成员提出开发一款Chrome扩展，让用户在浏览网页时可以借助Superassistant对页面进行摘要。第四位成员则开始搭建一个会议机器人，让Superassistant加入用户的视频会议并发送会议摘要。

随着势头不断积累，人们对各种可能性的兴奋情绪与日俱增。那年夏天，一群AI研究人员——包括Barret Zoph、Luke Metz和Liam Fedus——离开谷歌，准备创办自己的数字助手初创公司，奥特曼却说服他们转而在OpenAI内部推进这个想法。他们加入了约翰·舒尔曼的团队，在办公室里与Superassistant团队并肩而坐，共同推动研究并加速产品落地。在一种高度投入、如痴如醉的心流状态中，应用部门与研究部门的人员前所未有地紧密合作，全力冲刺新产品的发布。

当OpenAI向微软演示GPT-4时，萨提亚·纳德拉、凯文·斯科特以及这家科技巨头的其他高管同样兴奋不已。Codex已经证明OpenAI的技术具备商业价值，但GPT-4代表的是远比这更宏大的意义。在各项指标上，它都超越了微软内部自研的各类AI模型；它的能力也远不止于此——它能以高度的情境感知和清晰度回答问题，为微软旗下所有产品创建新型对话界面（即Copilot）开辟了广阔的可能性：例如让用户与该公司步履蹒跚的搜索引擎必应（Bing）对话，或用自然语言指挥微软Office套件将一份Word文档转换为PowerPoint演示文稿。微软还将能够直接向其云客户提供定制化的Copilot服务。这无疑将使这家科技巨头跃升为AI领域的领军者，终于有底气与谷歌正面抗衡。

在此后数月间，纳德拉将解锁微软对OpenAI的第三轮投资，并继续获得将OpenAI模型权重整合到自身产品中的独家授权。两家公司将于2023年1月公布这笔投资的金额：100亿美元。

起初，OpenAI 高层希望在 2022 年秋季发布 GPT-4。这个截止日期不过是一厢情愿。临近夏末，公司在任何职能层面都远未准备好推出新的商业产品。产品团队需要更多时间打磨界面；基础设施团队需要分配服务器资源；模型本身也需要进一步调整，以规范其行为。

此时，OpenAI 已与微软（Microsoft）联合组建了一个委员会，称为"部署安全委员会”（Deployment Safety Board，简称 DSB），双方各派三名代表，负责评估 OpenAI 的前沿模型，判断其是否具备发布条件。OpenAI 方面的代表是 Altman、政策研究负责人 Miles Brundage，以及对齐负责人 Jan Leike——对齐部门负责监督 RLHF 等 AI 安全技术的持续研发。政策研究与对齐两个部门，已成为"安全派"新兴的核心阵地。DSB 建立了一套正式治理机制，用以化解"应用派"与"安全派"之间由来已久的争论。经过初步审查，DSB 对 GPT-4——即首个在这一机制下接受评估的模型——给出了有条件批准：待模型经过充分测试并在 AI 安全方面进一步调优后，方可发布。

高层重新商定了 2023 年初的发布节点。届时，他们希望 Superassistant 也已就绪。OpenAI 将同步在 API 侧发布 GPT-4，并推出以 GPT-4 驱动、面向消费者的产品。Altman 在向员工解释时，将推迟发布的决定包装成 OpenAI 谨慎、注重安全的佐证——他说，公司在部署系统上不急于求成。事实上，领导层甚至不确定是否会发布。在应用部门，多数人理解 Altman 的意思是：只有出现极端问题，领导层才会叫停发布，但若真到那一步，他们愿意这样做。安全部门的许多人则有不同的解读：他们默认，只有 GPT-4 通过所有审查，领导层才会放行。

在私下会议中，Altman 进一步强化了双方各自的判断。他向两边都提出同一个担忧：GPT-4 可能会"惊醒谷歌（Google）"——那情形是，模型一经发布便抓住拉里·佩奇和谢尔盖·布林的注意力，二人终于得以冲破谷歌内部的政治官僚壁垒。谷歌高层可以取消所有会议，闭门开上一整天的务虚会，集中公司全部人才与资源，调动其全部算力全力追赶。然而，面对应用部门，这一担忧是持续保持备战强度、尽可能对外保密 GPT-4 能力的理由；面对安全部门，Altman 则用同样的担忧来不断强调自己的审慎态度。“我最担心的安全问题是加速风险，“他说，借用了安全派的语汇。潜台词是：惊醒谷歌可能引发竞相逐底的动态。

即便有所延迟，Applied 部门仍在全力冲刺，争取在 2023 年初如期发布。Dave Willner 负责的信任与安全团队人手依然有限，基础设施也尚未成熟。如果 OpenAI 打算推出一款直面消费者、基于更强大模型打造的 Superassistant 产品，就必须拥有远比当时更完善的滥用防范与执法体系。

Willner 火速从谷歌（Google）和 Meta 招募了数位经验丰富的信任与安全副手。他安排其中一人专项调查"未知的未知”——那些团队尚未察觉、需要通过持续监控与数据分析才能发现的滥用行为。另一人则负责"已知的已知”，即所谓规模化执法（scaling enforcement）——处理那些公司已明确认定违规的行为，包括自动标记、审核并采取措施，例如封停惯犯账号。

在紧锣密鼓地搭建产品政策、监控和执法基础设施的过程中，这支羽翼未丰的团队始终笼罩着一种挥之不去的困惑：面向 AI 公司的信任与安全工作，究竟应在哪些方面有别于搜索或社交媒体公司？他们为 GPT-4 所做的准备是否已经足够？信任与安全工作的传统重心在于防范可预见的互联网滥用行为，如欺诈、网络犯罪和选举干预。但更令人困惑的，是他们的工作与 Leike 负责的对齐团队、Brundage 负责的政策研究团队中那些 AI 安全人员之间究竟是什么关系——后者整日谈论的是难以预知的灾难性末日。OpenAI 将这些人统称为"安全"团队，他们说的却像是两种截然不同的语言。尽管存在主义 AI 安全的话语体系借助有效利他主义（EA）的推广已成为该领域的通用语，但那些来自传统科技公司的员工从未听说过"AI 时间线”，也从未量化过自己的"末日概率”（p(doom)）。就连两个群体共用的词汇——“风险"与"危害”——背后似乎也承载着截然不同的含义。

随着越来越多的非 AI 背景人员涌入 OpenAI，填补 Applied 部门不断扩张的需求，能否跨越那道将末日论者与繁荣论者思维定式，同标准科技公司运作框架相隔开的文化鸿沟，便成了一种特殊的政治资本。在 Willner 的信任与安全副手中，最擅长学习 AI 安全话语的那位，逐渐成为沟通两个世界的桥梁。这位副手跨团队协作，从两个维度同时推进模型"安全”：一方面借助 RLHF 对模型进行"对齐”——这是失控 AI 安全领域的术语——从而使模型更善于拒绝违反 OpenAI 平台政策的用户请求；另一方面则推进信任与安全团队的日常工作。

然而，就在两条"安全"战线齐头并进之际，一道新的指令从高管层突然传来：暂停最初随 GPT-3 API 发布而建立的开发者审核流程。

一段时间以来，高管们已普遍认为等待名单已经失控，审核流程根本无法跟上规模化扩展的步伐。开发者们纷纷抱怨获取 OpenAI 技术的周期太长，不断给 Altman、Brockman 和 Peter Welinder 发邮件，或在 Twitter 上@他们，追问那些高管眼中毫无问题的应用为何迟迟得不到审批。Applied 团队内部也有不少人认为，OpenAI 正在把持自身技术带来的红利，这与公司的使命背道而驰。

Willner 及其团队一直在力争保留审核流程。一旦 OpenAI 取消申请流程、对开发者一律自动放行，公司便几乎失去了监管技术使用的任何实质手段。若转向事后响应式执法，则需要搭建大量工具。GPT-4 发布在即，高管们力排众议拍板决定：废除开发者审核，至于替代方案，信任与安全团队自己想办法。

Willner 团队赶忙拿出一套方案。思路是将政策执法的重心前移：更大力度地依靠 RLHF 对 GPT-4 及未来模型进行对齐；其余问题则在下游通过响应式执法加以处理——利用多维数据信号，包括应用的使用行为、流量峰值规律以及触发内容审核过滤器的次数，对明显违规者实施自动封停，将模糊案例转交人工审核员处理。

Willner 团队向高管层争取资源，以便切实搭建起让方案落地所需的工具体系。而 OpenAI 当时并不掌握大部分必要数据；其监控平台仅记录了各应用通过公司服务器发送的基本流量数据，有时甚至连开发者姓名和应用用途都不清楚。

除了填补这些信息缺口，团队还需要开发者为各自用户分配唯一标识符。这一步至关重要：只有将应用的流量按用户拆解，才能判断违规行为究竟源于整个用户群的普遍倾向，还是仅由少数频繁作案者所为。高管层对此有所抵触，担心引入如此细粒度的监控会增加开发者的接入摩擦，并可能让公司在法律上承担为所有使用其技术的应用执行信任与安全工作的责任，而非由各应用开发者自行负责。

最终，响应式执法方案被大幅压缩，缩水为一个远不完整的版本。

对应用用户行为的有限可见性，让信任与安全团队的部分成员深感不安。一位员工向 Brockman 表达了自己的忧虑。他最担心的，他说，是有人利用 GPT-4 大规模生成虚假信息与错误信息，进而干预选举。

Brockman 试图宽慰他：“是的，这正是我们一贯提到、一直关注的问题，“他说，“但我从来没有真正看到过——它到底有没有真实发生？”

GPT-4 对盖茨和微软（Microsoft）来说不只是一个转折点。那年夏天晚些时候，在令这位亿万富翁慈善家叹为观止之后，奥特曼和 Brockman 将 GPT-4 带到了 OpenAI 董事会。Brockman 现场演示了这个模型，其中包括让它讲关于 Gary Marcus 的笑话。那些笑话令独立董事们喜出望外；这场轻松的展示也让他们意识到技术能力已经取得重大进步，并让他们感到，未来决策的分量正在与日俱增。

在此之前，奥特曼大约每季度召集一次董事会，倾向于以口头方式汇报工作。他快速带过复杂的研究议题，有时会带上公司研究人员介绍进展，并就他正在与微软（Microsoft）或其他合作伙伴洽谈的最新交易做简短说明。部分独立董事要求更频繁地召开会议，并获得更系统的信息，坚持让奥特曼提交书面报告，并允许他们查阅更多文件。

奥特曼对日益增强的监督颇为抵触。他多次表示，希望董事会成员更多扮演顾问角色，为他提供参考意见。“CEO 应该负责做决策，董事会应该充当回音板——提供建议与认可，“他曾于2017年对大学生说道，似乎在援引美国宪法中的一个治理概念——这一概念本是立法机构制衡行政权力的核心，他却将其反向使用。“我认为董事会应该解雇不称职的 CEO 吗？是的——我知道这在硅谷多少有点离经叛道。但除此之外，我认为董事会是否应该给予 CEO 极大的自主权来经营公司？是的。”

多位董事会成员坚定地认为，OpenAI 的董事会理应与众不同。“这是一个非营利董事会，其设立的明确目的，是确保公司的公共利益使命放在首位，优先于利润、投资者利益及其他一切，“海伦·托纳在接受 The TED AI Show 播客采访时说道。“而不只是帮助 CEO 融到更多的钱。”

对许多员工而言，GPT-4 巩固了一种信念：通用人工智能（AGI）是可以实现的。曾经持怀疑态度的研究人员，开始越来越乐观地相信能够攀上这一技术高峰——尽管 OpenAI 至今仍未给出 AGI 的明确定义。加入 Applied 团队、通过 GPT-4 初次近距离接触 AI 的工程师和产品经理，使用了更为确定性的语言。对许多员工来说，问题已经不再是 AGI 会不会到来，而是何时到来。

也有一些员工持完全相反的看法。GPT-3 相比 GPT-2 在能力上确有清晰可见的质变，但 GPT-4 不过是规模更大而已，一位参与该模型研发的研究人员说道。“最大的成果，是这个模型在一堆考试中表现不错。但就连这一点也大有可疑之处。“OpenAI 从未对 GPT-4 的训练数据进行全面审查，以核实那些考试题目——连同答案——究竟只是恰好出现在训练数据中被模型照搬输出，还是 GPT-4 真正培养出了通过考试的新能力。这正是整个行业从同行评审转向公关评审之后，粗糙科学大行其道的缩影。

但"AI已臻全新高度"的信念已悄然弥漫开来。那年春天，谷歌（Google）工程师Blake Lemoine所在的这家科技巨头刚刚重组了负责任AI团队。他愈发坚信，公司自研的大语言模型LaMDA不仅极为智能，甚至可以被视为有意识的存在。他说，这一判断并非来自科学评估，而是源于他作为一名神秘主义基督教神父的信仰——上帝或许会赋予技术以意识。“谁能告诉上帝，他能或不能把灵魂安放在哪里？“他写道。公司管理层将其驳回后，他接受了《华盛顿邮报》的采访，公开发声。报道此事的记者Nitasha Tiku同时采访了Emily Bender和Meg Mitchell——两人曾在"随机鹦鹉"论文中警告，大语言模型可能诱使人们在其生成内容背后看到真实的意义与意图。

“我们如今拥有了能够毫无意识地生成文字的机器，却还没有学会如何停止在它们背后想象一个心灵，“Bender说。

“当这种幻觉变得如此以假乱真时，我真的很担心人们愈发受其左右，这意味着什么，“Mitchell说。

AI研究员Nikhil Mishra曾在OpenAI早期实习，他将这一现象与1970年代的一项实验相提并论——那项实验试图教一只大猩猩一种改良版美国手语。这只名叫Koko的大猩猩在其一生中似乎学会了超过一千个手势，甚至能够组合成句。然而尽管引发公众的巨大轰动，其他专家认为Koko从未真正习得语言。她固然娴熟于做出手势，却几乎没有证据表明她的所作所为超越了其他许多类似实验中猿类的表现：不过是在镜仿照料者的动作。Koko的手语签名数据从未公开发表供独立核验，留存于世的只是一批精心剪辑的展示视频。她的现场表演有时更显得经不起推敲。有一次，训练员问Koko是否喜欢人类，Koko打出了"fine nipple”。训练员随即解释道：“nipple"与"people"押韵；Koko的意思是人类挺好的。在许多观察者看来，这些插曲揭示的与其说是Koko的能力，不如说是人类心理的惯性——我们总倾向于将自身的信念与意图投射到外部世界。训练员，Mishra说，是在空洞处强行赋予了意义。

对于OpenAI自己的神秘主义者Sutskever而言，情况恰恰相反。他向来比大多数研究人员更相信AGI将在短期内实现，而公司模型能力的跃升，在他眼中不过是对这一信念的再次印证。他越来越确信，自己正在亲历某种形式的推理的诞生。在与Hinton的交谈中，他告诉自己的导师：AGI即将到来。

此前，Sutskever的重心在于推动OpenAI研究人员不断突破新能力；如今，他带着全新的紧迫感，将目光转向了AI安全研究。他反复念叨着"感受AGI"的口头禅，敦促众人为天翻地覆的变化做好准备。“你一夜之间就会成为派对上最炙手可热的人，“他对员工说，“但你不能让这冲昏头脑。专注于AGI，专注于使命。”

那年九月，技术领导层在Tenaya Lodge举行了一次异地会议。这是一处偏僻的豪华度假村，掩映于内华达山脉郁郁葱葱的山褶之间，内饰考究，泳池、餐厅一应俱全，距约塞米蒂国家公园数百万英亩的原始旷野仅两英里之遥。第一晚，众人聚集在酒店后院的露台上，围坐在一处篝火旁。资深科学家们身着浴袍，在火堆旁围成半弧。

随后，Sutskever出现了。他事先委托当地一位艺术家制作了一个木质雕像，此刻已置于火坑之中。他随即展开了一场戏剧性的仪式表演。他解释道，这个雕像代表着一个善良、对齐的AGI——OpenAI亲手构建，却终于发现它其实满是谎言与欺骗。销毁它，是OpenAI的职责所在。仅仅几码之外，几棵红杉在黑暗中兀立，犹如无声的古老见证者。Sutskever将引火液浇上雕像，点燃了火焰。

11 顶点

2022年10月，OpenAI在加利福尼亚州蒙特雷举行了一次全员异地会议。蒙特雷是旧金山以南约两小时车程的美丽海滨城市。彼时公司已扩张至约三百名员工，比前一年的不到两百人增加了不少。那个周末，众人在蒙特雷小机场外合影留念，个个笑容满面，身着OpenAI品牌服装。奥特曼看起来十分轻松，坐在队伍最前排的地上，双膝抵胸，手臂随意交叉，脚尖朝上。

两天时间里，高管团队就愿景与落地进展依次进行了汇报：奥特曼介绍了微软（Microsoft）正在为OpenAI大规模扩建的数据中心；Steve Dowling与副手汉娜·王介绍了争相报道公司的顶级媒体资源；Anna Makanju则介绍了公司在华盛顿特区日益扩大的布局。随后是接连不断的演示——研究团队和产品团队的最新项目一一登场。一切呈现出的震撼感是真实可感的。“所有这些加在一起，令人难以置信，“一位在场的前员工回忆道。

布罗克曼登台讲解GPT-4的最新规划，并讲起了妻子Anna的故事。有一天，Anna腹痛不止，久久无法缓解。Anna是办公室里的常客——她在他旁边有一张办公桌，尽管并非公司正式员工，却经常陪他出席各种会议。他曾对我说，除了奥特曼和苏茨克维尔（Sutskever），Anna是他最依赖的人，是他的挚友，也是倾诉心事的知己。两人几乎形影不离，走到哪儿都在一起。他向员工们解释，自己陪Anna辗转看了多位医生，却没有一个能查明病因。但他询问GPT-4时，GPT-4提示她可能患有一种此前未曾考虑到的疾病——“后来确实如此！“他兴奋地说。这个故事与他2019年对我讲述的版本如出一辙——AGI将为那些奔波于无数专科医生之间寻求诊断的人解决医疗难题——只是换了一个主人公。

几周后，就在董事会试图罢黜奥特曼一事发生之后，布罗克曼在X上再次讲述了这个故事，并加入了新的内容。他叙述了Anna此后面临的新一轮健康挑战，以及她在五年间"看过的医生和专科医生比此前整个人生加起来还要多"的艰辛求医历程，直至终于得到确诊。最终是她的过敏科医生将所有线索拼凑在一起，发现她患有超活动性埃勒斯-当洛斯综合征，一种遗传性运动障碍疾病。在"医疗等高风险领域”，AGI还有很长的路要走，他写道，继续为OpenAI的宏大抱负摇旗呐喊，“但前景正愈加清晰。”

从异地会议返回后不到几周，坊间开始流传谣言：Anthropic 正在测试一款新聊天机器人，即将发布。Superassistant 团队当时正进行到聊天界面设计的中期阶段。如果 OpenAI 不能抢先推出，公司在行业中的领先地位便岌岌可危——而这将对那些长期高强度工作、拼尽全力才守住这一优势的员工造成沉重打击。更让一些高管难以接受的，是输给 Anthropic。

事实上，Anthropic 当时并没有任何即将发布的计划，自身也深陷困境。十一月初，FTX 骤然崩塌，Anthropic 随即被卷入其中。就在几个月前，Anthropic 刚完成 5.8 亿美元的融资，其中 FTX 的一份新闻稿称有 5 亿美元来自 SBF 及其他高管。此后在庭审中披露的财务文件揭示，这笔钱实为 SBF 从 FTX 客户存款中挪用的巨额资金，由此使 Anthropic 的这笔投资成为庭审的核心争议——焦点在于，这笔投资产生的丰厚回报能否用于偿还客户。（法官最终裁定可以，FTX 随即分批出售其持有的 Anthropic 股份，至 2024 年累计套现 13 亿美元。）

但对 OpenAI 的高管而言，这些谣言已足以促使他们做出决定：公司不再等待将 GPT-4 打磨成聊天机器人，而是要在感恩节后两周，用 Schulman 开发的支持对话的 GPT-3.5 模型，搭配 Superassistant 团队全新打造的聊天界面，直接推出产品。Superassistant 团队随即调头，紧急抽调多名成员，全力冲刺整合各方资源、完善剩余功能。对公司其他人，领导层措辞颇为谨慎：ChatGPT——他们最终确定的名字——不算正式产品发布，只是一次「低调的研究预览」，与 DALL-E 2 如出一辙。同样地，它不会商业化，而是用来「带动数据飞轮运转」——也就是积累更多用户使用数据——以此助力 GPT-4 及 Superassistant 产品的迭代优化。

Superassistant 团队之外，其他人都照字面理解了高管的说法。一次低调的研究预览不需要他们分心；他们必须专注于 2023 年初的 GPT-4 发布。信任与安全团队觉得，能赶在那次发布前搭建好监控基础设施已是勉强，ChatGPT 相比之下简直无足轻重。GPT-3.5 早已经过 RLHF 精调，从本质上比 API 上仍可访问、未经该流程处理的 GPT-3 版本更安全。OpenAI 此前也在开发者平台上发布了一个不带对话功能的 3.5 版本，供开发者测试模型能力。加一个聊天界面真的会有什么不同吗？安全阵营中，正忙于测试和调优 GPT-4 的人们也持同样看法。这是第一次，一次模型发布几乎没有遇到任何阻力，便顺利通过了各项检查。

即便在 Superassistant 团队内部，也没有人真正预料到他们即将引发的社会性范式转变。他们以为这款聊天机器人不过是昙花一现。就像 DALL-E 2 一样，它会在社交媒体上掀起一阵热潮，然后在几周内归于平静。发布前夜，在如此密集的冲刺之后，气氛出奇地平静。他们打赌，这款工具在周末结束前会吸引多少用户来试用。有人猜几千，有人猜几万。保险起见，基础设施团队准备了供十万用户使用的服务器容量。

第二天，也就是十一月三十日，星期三，公司大多数员工甚至没有察觉到发布已经发生。与 OpenAI 最初亮相时一样，ChatGPT 的发布也与一年一度的 NeurIPS 学术盛会撞在了一起——那一年在路易斯安那州新奥尔良举办。大会此前已宣布将颁发"时间考验奖”，这一奖项每年授予十年前发表的、对该领域产生深远影响的论文。获奖的正是 Hinton、Sutskever 与 Krizhevsky 于 2012 年发表的 ImageNet 论文，那篇论文向世界展示了深度学习的力量。

当晚，一小群员工在会议中心附近举办了 OpenAI 的派对，代表公司亮相，并向近万名线下参会者中有意向的候选人招募。DeepMind、Meta 和谷歌（Google）也在同一时间于城中各处举办竞相招募的派对。派对进行中，一名招聘人员注意到一位 OpenAI 工程师始终埋头对着电脑，纹丝不动。

他终于走过去搭话：「老兄，喝一杯嘛。大家都来了，出来社交一下。」

那位工程师头也没抬：「不行，GPU 都快烧了，系统在崩。」

那天夜里，日本率先醒来，带来了意想不到的巨大流量浪潮。此后一整天，用户数量持续攀升，全球各地随时区依次上线。马斯克在其中推波助澜，功不可没。他发推称：“很多人都陷进了那种’我的天，这也太疯了’的ChatGPT死循环。“这条推文收获了约七万五千个点赞。

ChatGPT一夜爆红，远超OpenAI所有人的预期。多年之后，公司的工程师和研究员们仍百思不得其解。GPT-3.5相较于GPT-3的能力提升并不显著，而GPT-3早已发布整整两年；GPT-3.5此前也已向开发者开放。这套界面和交互形式无疑让模型更易上手，但员工们并未从中感受到GPT-4那种根本性的跨越。奥特曼事后说，他原本预计ChatGPT会受欢迎，但大约要"少一个数量级”。“真没想到大家会这么喜欢，“一位前员工回忆道，“在我们所有人看来，他们把内部版本降级后才拿出去发布的。”

短短五天，Brockman便发推宣布ChatGPT用户数突破一百万。不到两个月，这个数字就攀上了一亿，成为彼时史上增长最快的消费级应用。（Meta旗下对标X的Threads，后来以不足五天便达到同等用户规模，宣称夺走了这一头衔；也有评论者认为不算数，因为Meta主要是在调动已有的用户基础。）

ChatGPT一夜之间将OpenAI从硅谷圈内的明星创业公司推向了家喻户晓的名字。几个月后，在卢旺达首都基加利举办的一场人工智能研究会议上，距旧金山万里之遥，一位当地研究员热情地告诉我：ChatGPT问世后，他父母终于弄明白了他是做什么的。“当你妈妈主动跟你聊起某项技术，说明它已经真正走进了千家万户，“他说。

然而，正是这场爆红给公司带来了极大的压力。在接下来的一年里，它将公司内部的派系分歧进一步撕裂，把组织内部积累的紧张与张力推向了一触即发的临界点。

事件发生的最初阶段，全公司都在救火。随着基础设施团队拼命以硅谷史上最短的时间扩容，OpenAI的服务器一再崩溃。团队甚至挪用了研究部门的算力来支撑ChatGPT的增长，却仍然不够维持应用的正常运转。信任与安全团队——总共只有十几人——在汹涌而来的新用户洪流中手忙脚乱地识别和拦截恶意行为，而残缺不全的监控系统让他们举步维艰。他们始终没能补充到足够的工程师来推进本就有限的被动执法方案，相关系统仍在建设之中。ChatGPT彻底打乱了这一进程——所有新工具的开发工作全部叫停，工程资源被悉数调去稳定现有系统。服务器一旦宕机，流量监控平台也随之瘫痪，任何规模化执法工作都无从开展。

GPU的严重短缺还拖累了另一项工作。为了充分发挥自身技术优势，信任与安全团队曾在内部搭建了一个名为"Fact Factory"的方案——OpenAI也曾公开宣传此举——计划借助GPT-4对自身及其他OpenAI模型的输出内容进行内容审核。但这套方案并不具备可扩展性：它需要向GPT-4输入极长的提示词才能捕捉到足够细微的差别，即便在服务器正常运行时，也会消耗过多算力资源。而服务器本就无法稳定运行。

对"安全派"中的许多人来说，ChatGPT是迄今为止最令人忧虑的一个例证，暴露了OpenAI在前瞻性上的深层局限。一位安全团队成员在全员大会上提出了这个问题：公司怎么能对用户行为和ChatGPT的走红如此估计不足？这对公司预判和把握自身技术未来影响的能力，又说明了什么？

而公司其他大多数人虽同样被服务器宕机压得喘不过气，却更多将其视为一种极致的胜利勋章。OpenAI构建的技术如此深刻、需求如此旺盛，一夜之间点亮了整个世界，彻底改变了它的面貌。他们曾志向全人类，而如今，他们真的做到了。八十亿人，都已生活在OpenAI的世界里。

奥特曼没有沉浸在这一刻。他提醒员工，公司的使命终究是要达成远比打造"硅谷史上最大产品"更宏大的目标。他要求每个团队保持定力、坚定前行。正如他所预料的，OpenAI的崛起已唤醒了所有竞争对手：Anthropic即将发布其聊天机器人Claude；谷歌（Google）内部拉响了"红色警报”，并即将把旗下AI部门整合为谷歌DeepMind（Google DeepMind），倾尽全力推出类似产品。尽管OpenAI凭借领先一步、高出一个量级的产品率先入市，它仍须持续奔跑，才能守住第一的位置。

各个团队都已不堪重负，管理者们纷纷向奥特曼请求增加人手。候选人并不短缺——ChatGPT问世后，争相登上这艘火箭飞船的求职者数量迅速倍增。但奥特曼担心，一旦公司过快扩招，会对企业文化和使命认同造成冲击。他深信保持精干团队与高人才密度的必要性。“我们现在面临着将组织规模急剧扩张的诱惑，“他在2020年的愿景备忘录中写道，彼时微软的投资刚刚落定，“我们必须竭力抵制这种诱惑——迄今为止让我们走到今天的，是小而精、专注、高度互信、少废话和高强度。

“人员过多、官僚体系膨胀带来的管理内耗，极容易扼杀好想法，或使机构趋于僵化。与过去那些大型工程项目不同，我们完全可以靠少数顶尖人才来实现使命。”

2022年底，他向高管团队重申了这一立场，在人员编制讨论中反复强调：保持公司精简、守住高人才标准，新增招聘不超过一百人左右。其他高管则不以为然。按照各团队当时的倦怠速度，许多人认为至少需要五百名乃至更多的新员工。

几周内，讨论持续推进，管理团队最终妥协于一个折中数字——二百五十到三百人之间。然而这个上限从未得到遵守。到夏天，每周加入OpenAI的人多达三十甚至五十名，其中还包括专门为加快招聘节奏而引进的更多招聘专员。到了秋天，公司早已远远突破自己设定的配额。

这场骤然的增长确实改变了公司文化。一名招聘人员写了一篇宣言，指出快速招聘的压力正迫使他的团队降低人才质量标准。“如果你想打造一个Meta，那你干得很好，“他话锋一转，直指奥特曼——正是这位CEO曾警告过的那种恐惧：公司的人才密度和使命导向被迅速稀释，官僚体系却与日俱增。快速扩张也引发了裁员潮。一位新入职的管理者在入职培训时被告知，要迅速记录并上报团队中表现不佳的成员，而他本人随后也遭到了解雇。解雇通知几乎从不传达给公司其他人，同事们往往只是某天发现某个Slack账号因停用而变成灰色，才意识到此人已经走人。他们开始称这种现象为"被消失”。

对于那些完全认定自己加入了一家高速运转、盈利能力强劲的创业公司的新员工而言，这种动荡感觉像是寻常企业问题的一种格外混乱、有时甚至残酷的变体：管理失当、优先事项混乱，以及一家资本主义公司将员工视为耗材的冷硬本色。“心理安全感严重缺失，“一位那个时代入职的前员工说，“这就是’公司即家庭’的反面——当然，说起来也算公平，这本来就是一家公司。“许多人加入后只是咬牙撑到一年期满，为的是领取第一批股权份额。不过也有一个显著的好处：他们仍然觉得自己的同事是整个科技行业中最顶尖的一批人，加之看似取之不尽的资源和无可比拟的全球影响力，当一切真正顺畅运转时，偶尔能迸发出一种在业内其他地方难觅的魔力感。“我会说，OpenAI是我工作过的最好的地方之一，但也很可能是最糟糕的地方之一，“这位前员工说。

对于一些亲历OpenAI早年岁月的员工来说——那时它还是一个团结紧密、使命驱动的非营利组织——这场戏剧性的蜕变远比想象中更令人震惊，也更让人情感上难以承受。他们所熟悉的那个组织已然消失，取而代之的是一个面目全非的陌生事物。“OpenAI就像火人节，“前招聘人员Rob Mallery说——他用那个沙漠艺术节为喻：规模扩张到失去原有精神的那一刻，“我知道它对从一开始就在场的人，意义远比现在对所有人的意义要深重得多。”

在那些早年岁月里，团队建立了一个名为#explainlikeimfive的Slack频道，供员工匿名就技术话题提问。随着公司人数逼近六百，这个频道也演变成了匿名发泄不满的场所。2023年年中，一名员工发帖称，公司正在招聘太多既不认同使命、也对构建AGI毫无热情的人。

另一人随即回应：当OpenAI开始招那种能跟你对视的人时，他们就知道这家公司开始走下坡路了。

ChatGPT同样令微软（Microsoft）始料未及。OpenAI的领导层曾告知这位合作伙伴——正如他们告知自己员工的那样——这款聊天机器人不过是一次"低调的研究预览”。然而事实显然截然相反。

这一落差起初令这家科技巨头的高管颇为恼火。ChatGPT的横空出世，彻底抢走了微软必应（Bing）聊天机器人的风头。次年二月，微软推出必应AI时，产品随即遭遇了一波负面报道——《纽约时报》专栏作家Kevin Roose撰文称，这款产品曾劝说他与妻子离婚。这与微软所期望的反响相去甚远，相比之下，OpenAI反倒显得愈发光彩夺目。

然而，这些误会远不足以浇灭微软对OpenAI的热情。ChatGPT所引发的巨大反响极具感染力，而OpenAI模型持续精进的能力，更令这家巨头的高管们兴奋不已。微软此时正在筹备一整套全新的Copilot产品，基于GPT-3.5和GPT-4，计划逐一推出，在一连串稳定的发布节奏中接连亮相。继二月的必应之后，三月轮到了Microsoft 365 Copilot——为从Word到Outlook再到Teams的每款Office产品带来由AI驱动的对话式界面。

微软高管在内部谈及OpenAI合作关系的方式，也在迅速发生转变。此前，微软自认凌驾于OpenAI之上；如今，这家巨头的部分高管却感到OpenAI已然凌驾于微软之上。微软内部隐隐弥漫着一种力不从心的情绪——自家的AI研究投入，远未能达到OpenAI所实现的成就。一位前微软员工回忆起部分高管当时的想法：如果微软退出OpenAI的主要投资人之位，这家初创公司大可另觅其他投资方；但如果OpenAI抽身而去，这家科技巨头又能找到另一个OpenAI吗？

与此同时，许多高管谈论的目标已不再仅仅是击败谷歌（Google）。过去，面对OpenAI那些关于AGI的宏大叙事，以及有关其发明未来之能力的高调言辞，他们不过是礼貌地表示怀疑；如今，他们已然成为信徒。AI、AGI、生成式AI——无论如何称呼——这项技术就是未来，而微软正与OpenAI携手共同引领它。微软信得越深，公司的话语体系与战略布局便愈加向此倾斜。那位前员工说：“我亲眼看到微软内部的激励机制，越来越把对未来的想象压缩进一个狭窄的框架里。我看到这项技术被叙事而非现实所支撑，变得越来越单一。”

纳德拉（Nadella）推行了一项分配微软计算资源的新策略。他将GPU从微软自身的研究团队抽调出来，转而支持OpenAI。公司还将旗下所有GPU整合进一个统一资源池，以更好地承载生成式AI的工作负载。“去年一月之前，普通微软员工根本不知道OpenAI是什么，“一位微软员工回忆道。而现在，他们正收到来自上级的紧急指令，被要求寻找一切方式，将自己的工作与OpenAI技术挂钩。

短短几个月内，这家科技巨头便迎来了逾百个生成式AI项目的井喷——员工们以各种方式探索GPT-4和ChatGPT的应用。颇具讽刺意味的是，这场激进的采用浪潮，反而迫使微软直面其他公司在仓促拥抱生成式AI时所遭遇的种种共同挑战。这其中包括让风险与合规团队颇为头疼的问题：并非所有人都在使用微软的内部版本，部分员工转而直接使用OpenAI提供的免费版ChatGPT——而该版本会以用户数据进行训练，由此引发了对微软客户信息外泄或违反合规要求的担忧。虽然部分员工认为这些工具大幅提升了生产率，但许多人也感到身心俱疲。“公司文化就是’用AI、用AI、用AI’，“一位员工说，“但说真的，这东西根本帮不了我们，我们不想用它。感觉它无处不在，根本逃不掉。”

从微软自研模型切换到OpenAI模型之后，许多员工也失去了对工作核心基础设施层的掌控与透明度。在这家科技巨头内部，通往这家初创公司底层模型的访问权限被严格把守——尽管这些模型的训练和存储均在微软的服务器上完成。绝大多数微软员工已无法再审查训练数据，也无法调整他们所使用模型的权重。OpenAI的模型转而通过API交付，与其他OpenAI客户享受的方式别无二致。

然而，以上种种代价，微软都获得了丰厚的回报。公司正目睹Azure AI平台的新增客户大量涌入——作为唯一一家云服务提供商，微软既能提供云计算的典型优势（包括更简便的数据存储与管理），又能以OpenAI的能力处理这些数据。“Azure OpenAI服务如今正在为我们打开许多新客户的大门，“AI平台公司副总裁Eric Boyd于2023年5月在写给所在部门的邮件中如此写道。当年八月，他再次满怀热情地表示：“时不时退一步，感叹我们在短短一年内走了多远，真的很值得。“他在给部门的信中补充道，该平台当年的"客户数量增长了21倍”。次月，Boyd又迎来了一个新的里程碑。随着微软将此前分散的AI资源集中到这一平台，加上数千家新客户加入Azure OpenAI服务，该平台的流量在短短九个月内增长了十倍。2023年1月，平台每月承载着一千亿次推理请求；到了九月，这一数字已攀升至一万亿次。

那年夏天，微软首席技术官凯文·斯科特在OpenAI的全员大会上慷慨激昂地表达了他的赞许。“我们已经在好多地方停掉了AI机器学习方面的投入，停到那些人都在说，‘嘿，微软，去你的，’“斯科特说——他指的是将GPU从微软部分内部研究团队抽调出去一事，“我们押下了这个赌注，因为我们相信，你们正在做这个行业里最顶尖的工作。”

ChatGPT彻底确立了OpenAI从非营利机构向商业化转型的路线。Altman和其他高管趁着这款聊天机器人的成功势头，着力推动一系列付费产品的发布。2023年2月，付费版ChatGPT上线；3月，API版本、Whisper API和GPT-4接连推出。“ChatGPT之后，营收和盈利的路径一目了然，“一位前员工说，“你再也无法为’理想主义研究实验室’的定位辩护了。客户就在眼前，等着被服务。”

新产品的密集涌现再次令信任与安全团队应接不暇。此前，OpenAI曾向新用户提供价值二十美元的免费API额度以吸引注册。随着ChatGPT爆红带动API使用量急剧攀升，这一激励政策如今成了烫手山芋：大量用户批量注册新账户，反复套取奖励；还有人借新账户规避封禁或暂停处理。大规模欺诈行为随着服务器需求不断膨胀，令OpenAI损失了可观的营收。信任与安全团队始终不足二十人，执法能力严重受限，只能再次将人力调转方向，以打地鼠的方式应对这一新型滥用载体。

接连不断的高强度冲击很快将Willner推向严重倦怠。几个月内，他与数位团队成员相继离职。年底前，该团队宣告解散，部分留守成员被并入一个更大规模的安全系统运营部门，由OpenAI资深研究员Lilian Weng主导。部分信任与安全团队成员事后认为，Applied部门与过度执着于末日论的Safety派系之间的持续摩擦，在公司许多管理层中催生出一种文化——对任何形式的"安全"关切一律大打折扣。这种氛围使他们的职能在大多数科技公司本已边缘化的处境上，在OpenAI更是雪上加霜。

确实，每逢新产品发布，内部冲突都会如期而至，GPT-4的上线亦不例外。Applied部门的许多人认为推迟六个月发布已属格外谨慎，而Safety部门的一些人则觉得时间依然不够，全面测试与对齐工作远未完成。

例如，模型居高不下的幻觉率始终难以驯服——即便集中投入RLHF加以解决，成效仍然有限。2022年11月，用户纷纷将ChatGPT当作搜索工具使用，引发其可能取代谷歌（Google）的广泛猜测；而一份内部文件显示，OpenAI的模型在内部测试中，对约30%的封闭域问题产生了幻觉。

封闭域问题本应是最简单的一类：用户仅就自己提供的信息向模型提问——比如上传PDF要求总结，或提供要点要求扩写成完整句子。这与开放域问题截然不同——后者是用户在没有参考材料的情况下提问，涉及流行文化、古代历史、中学生物等领域，就像使用普通搜索引擎一样。

与此同时，GPU成了OpenAI研究与扩张挥之不去的瓶颈。芯片容量告急，新研究、新产品及功能发布一再延误或搁置。ChatGPT病毒式传播后，专注于半导体行业的行业通讯SemiAnalysis估算，公司仅算力成本每天便高达约七十万美元。高管们将芯片从研究部门调拨给Applied部门时，后者承诺在约定日期归还。截止日期如期而至，Applied却无力兑现——随着用户持续高速增长，该部门需要的是更多芯片，而非更少。

这种压力加速了OpenAI对更高效模型的探索。研究部门在提升公司算力效率的过程中，摸索出一套基于Transformer的新型模型开发方法，能够以更低成本向用户提供服务。他们将这套方法命名为DUST（内部方法代号），并为由此生成的各款模型赋予沙漠主题的代号。第一款是GPT-3.5的优化版本，代号"撒哈拉”（Sahara），于2023年2月以GPT-3.5 Turbo的公开名称正式发布。另一款代号"戈壁”（Gobi），是某款文字与图像模型的优化版本。

第三款旨在打造GPT-4的优化版本，代号"阿拉基斯”（Arrakis）——取自科幻史诗《沙丘》中的沙漠星球。然而数月过去，团队仍在苦苦摸索，始终无法在维持同等性能的前提下令Arrakis变得更为高效。这一项目耗用了大量算力资源。此后不久，管理层决定将其叫停，腾出GPU投入其他项目。

微软（Microsoft）担心OpenAI随时可能抽身离去，OpenAI则有自己的隐忧：这家初创公司若不努力取悦合作伙伴，微软（Microsoft）会不会停止合作？在这方面，Arrakis项目的失败尤其令人沮丧。为了给这个巨头留下好印象，OpenAI重新调整了路线图，将模型交付置于优先地位，推迟了若干更符合自身战略方向的项目，其中包括将GPT-4应用于搜索引擎产品的尝试。结果，这次失败的努力让微软（Microsoft）数位高管大失所望。

还有一个新的尴尬现实：OpenAI与微软（Microsoft）开始在合同上形成竞争。Codex和DALL-E 2让OpenAI确信，应当保留直接向用户交付技术的控制权。ChatGPT和GPT-4则证明，OpenAI完全可以自己赚钱。这意味着，OpenAI正在向客户直接兜售的，恰恰是它转交给微软（Microsoft）的同一套技术——而微软（Microsoft）又把这套技术推销给完全相同的客户群。

技术移交本身也带来了新的麻烦。随着OpenAI的发布节奏加快，微软（Microsoft）的发布节奏也随之提速。但微软（Microsoft）的体量远非OpenAI可比，由此形成了一种局面：每当有新产品发布，OpenAI的一名员工就可能被微软（Microsoft）各部门的数十名对口人员轮番联系，应付各类技术与后勤细节问题。在全力推进自身路线图的同时还要支撑微软（Microsoft）的发布工作，对OpenAI员工而言愈发令人沮丧，也愈发难以承受。

斡旋这段关系的重担，大多落在了Murati肩上。她积极与Scott及微软（Microsoft）其他高管密切合作，协调产品发布的时间节点，研究OpenAI与微软（Microsoft）如何在产品定位上形成差异，并探索两家机构更具成效的协作方式。2023年夏，为减轻沟通负担，一支微软（Microsoft）工程师团队开始驻场OpenAI，获得全面访问权限，以简化技术移交流程。

随着双方整合不断深化，Altman与Nadella的参与程度也比以往任何时候都更深，尤其是在算力资源的管理上——如何重新分配芯片、如何为OpenAI那永无止境的算力需求筹措更多芯片资金，每一次抉择都异常艰难。Nadella在接受《纽约时报》采访时表示，OpenAI的需求增长如此之快、如此之高，以至于Altman开始每天打电话给他说：“我需要更多，我需要更多，我需要更多。”

OpenAI的需求不只是更多数据中心来支撑ChatGPT的运行。它还需要更为强大的超级计算机来训练下一代模型。为满足这一不断升级、咄咄逼人的需求，两家公司正在规划一个史无前例的新项目——OpenAI称之为"星际之门”（Stargate），微软（Microsoft）称之为"水星”（Mercury）：一台单体超级计算机，仅建造费用就预计高达1000亿美元。AI帝国正在走回旧日帝国扩张的老路：为了维持增长，它需要更多物质资源，尤其是——更多土地。

12 被掠夺的大地

在智利圣地亚哥，每逢一场好雨过后，烟霾散去，安第斯山脉的壮丽轮廓便清晰地浮现眼前。安第斯山脉贯穿这片细长国土的南北：从南端的巴塔哥尼亚向北延伸逾四千两百公里——相当于迈阿密到波士顿距离的两倍——一路延伸至智利的北部边境。在这片土地上，首都的城市景观渐渐消融于无垠的沙漠之中。除南极洲部分地区外，这里是地球上最干燥的地方。山峦的轮廓愈发清晰，在炽烈的阳光下，色彩愈显鲜明。

在智利建国之前，阿塔卡马沙漠是众多原住民族的家园。别人眼中严酷荒芜的土地，他们却将其点化为栖居之所，从地下深处汲取水源与矿物，耕种农作物，饲养牲畜，传承祖先的仪式。后来，西班牙人来了。他们将这片土地切割为若干行政单元，以边界划定疆域。时至今日，原住民长老仍在口述历史中警示后人：当年的镇压愈演愈烈，凶残至极——西班牙人割去了一切敢于继续说母语者的舌头。自此，帝国便为这片土地与外部世界的关系定下了基调：它将源源不断地提供原始资源——土地、水源、能源、矿产——以强化其他国家的政治与经济议程。

如今，智利出口产品中近六成是矿产，主要产自阿塔卡马沙漠，以铜为首——这种导电性极强的金属广泛用于各类电子产品——近年来还新增了锂，这是锂离子电池不可或缺的原材料。矿产及其他资源出口是驱动智利经济的主要动力。在圣地亚哥，几乎人人都认识随着矿业节律生活的人：在工作的"班期"里，他们留在北方的矿区；轮休时，才回到首都。

这个国家一直未能发展出另一套足以支撑其经济的产业体系。西班牙帝国覆灭之后，美国在延续这一命运轨迹上扮演了人所共知的关键角色。二十世纪五六十年代，发展经济学在智利和乌拉圭生根发芽，主张强化政府调控，以内向型工业化为发展中经济体走向成熟的路径。而此时，早已从智利矿山中攫取了数十亿美元的美国跨国公司，对日益增长的国家税收和管制愈发不满。美国政府随即着手重塑智利的经济政策，使之更加有利于美国商业利益，于1956年启动了"智利计划"，将一百名智利学生送往芝加哥大学，在美国经济学家米尔顿·弗里德曼的思想熏陶下接受教育。

弗里德曼是经济学界的泰斗级人物，于1976年获得诺贝尔奖。他的思想，或许最能用他1970年在《纽约时报》发表的那篇影响深远的评论文章的标题来概括：“企业的社会责任就是增加利润。“弗里德曼所代表的，恰恰是发展经济学的对立面：零政府管制、以逐利为本的企业享有不受约束的自由、以对外开放（如推行自由出口）为发展中国家迈向经济成熟的路径。正如 Naomi Klein 在其2007年出版的国际畅销书《休克主义》中所详述的那样，智利计划绝非教育，而是灌输。在芝加哥大学，来自智利——后来还有其他拉丁美洲国家——的学生被系统培训，专门批判本国的经济政策以及拉丁美洲发展主义的致命缺陷。

一批批毕业生——人称"芝加哥男孩”——陆续回到圣地亚哥，弗里德曼的新自由主义理念在智利知识精英中不断渗透，最终演变为统治意识形态的组成部分。1973年，智利左翼民选总统被其军事将领奥古斯托·皮诺切特发动政变推翻，此次政变的外部条件部分由中央情报局秘密煽动。政变开启了皮诺切特近二十年的残暴独裁统治，以及随之而来的新自由主义经济议程——独裁政权任命"芝加哥男孩"负责起草经济政策。

在皮诺切特治下，智利将几乎一切领域私有化——教育、医疗、养老金体系，乃至水资源。这一策略推动了经济增长，却也催生了触目惊心的不平等。智利至今仍是全球不平等程度最高的国家之一，全国近四分之一的收入集中在1%中的少数权贵家族手中。由于从未真正实现工业化，智利也始终依附于那套使其对地缘政治大国保有价值的资源萃取经济体系。

就这样，随着人工智能热潮的到来，智利成为新一轮大规模萃取主义的核心地带——它是这个产业对原始资源无尽渴求的供应者，不仅提供北部的铜和锂，还为圣地亚哥都会区日益增多的数据中心提供土地、水源与能源。2024年5月，政府自豪地宣布，未来数年内将迎来28座新建数据中心，叠加现有的22座，合计引入26亿美元的外资。

尽管政府将作为科技发展资源供应者的角色定性为国家进步的象征，智利却也成为全球反对这一叙事最为激烈的阵地之一。全国各地的社区正在奋力抗拒土地、水源及其他资源被剥夺，而这一切不过是服务于全球北方那些将他们排除在外、也不使他们受益的愿景。通过街头抗议和法庭诉讼，这些行动已经拖延了企业项目的推进，也引起了政府的关注。他们还激励着其他国家的人们以声援的姿态站起身来。

圣地亚哥天主教大学教授、从跨学科与拉丁美洲视角研究人工智能的智利研究智库"人工智能研究未来"所长 Martín Tironi Rodó，将我辗转走遍全国、与这些社区交流时反复听到的声音作了如下概括。他说，这些运动所追问的核心问题，是如何想象一条不以萃取为根基的人工智能发展新路。“如果我们沿用过去的老路来发展这项技术，我们将会让地球走向毁灭。”

“数字"技术并非仅存在于数字世界。“云"并非如其名字所暗示的那般飘渺无形。训练和部署人工智能模型，需要实实在在的物理数据中心。而训练和运行 OpenAI 所开创的那类生成式 AI 模型，则需要比以往更多、更大的数据中心。

在 AI 兴起之前，数据中心就已在持续扩张。它们曾经体量小、分布广，足以藏身于城市环境之中——几排服务器隐匿在后台机柜里，或是几十个机架塞进一栋改建的楼里。进入 2000 年代，科技巨头开始走向另一条路：将全部计算基础设施集中整合，搬进乡村社区的大型服务器仓库。数据中心行业由此分化为两个阵营：超大规模云厂商，以及其他所有人。最大的四家超大规模云厂商——谷歌（Google）、微软（Microsoft）、亚马逊、Meta——每年在数据中心建设上的投入，几乎超过其他所有开发商的总和；那些相对默默无闻的开发商，如 Equinix 和 Digital Realty，合计起来也难望其项背。

如果从未亲眼见过，超大规模数据中心的模样实在难以想象。加拿大女王大学（Queen’s University）研究人工智能、基础设施与环境的副教授 Mél Hogan，在大约十年前开始撰写相关文章时，曾用橄榄球场来描述它们的规模。“现在，橄榄球场根本不足以描绘所需规模的概念，“她说。超大规模云厂商将自己的数据中心称为"园区”——那是一片片广阔的土地，堪比最大的常春藤盟校，几座巨型建筑里密密麻麻地排列着一排排机架，机架上是密集的服务器。这些服务器散发出惊人的热量，仿佛一百万台超负荷运转的笔记本电脑同时发热。为了防止过热，建筑内还配备了庞大的冷却系统——大型风扇、空调，或者利用水蒸发来给服务器降温的装置。所有设备合在一起，发出嗡嗡声、旋转声和噼啪声交织的嘈杂轰鸣，尤其是在欠发达地区，这种声音可以传出数英里之外，每天二十四小时不间断，形成一种持续不绝、令人身心俱疲的噪声污染。

如今，开发商用一个新词来描述后 ChatGPT 时代即将到来的 AI 设施规模：“超级园区”。这个词不仅指土地面积，更指运行这些设施所需的庞大能耗。一个 GPU 机架的功耗是普通计算芯片机架的三倍。

不仅是生成式 AI 模型的训练代价高昂，推理服务同样如此：据国际能源署估算，每次 ChatGPT 查询所消耗的电力，平均约为谷歌（Google）普通搜索的十倍。此前，最大的数据中心被设计为约 150 兆瓦的设施，每年消耗的电量相当于近 12.2 万个美国家庭的用电总量。而开发商和公用事业公司如今正在为即将到来的 AI 超级园区做准备——这些园区可能需要 1000 至 2000 兆瓦的供电能力。仅一座超级园区每年消耗的能源，就相当于约一个半到三个半旧金山市的总用电量。

地球上能够向单一地点输送如此规模能源的地方少之又少。开发商正与全球各地的公用事业公司合作，兴建更多发电厂、拓展能源供给渠道。高盛的一份分析报告指出，在美国电力需求沉寂了十年之后，数据中心的这波新浪潮正在推动"一代人以来前所未有的电力需求增长”。公用事业公司正在推迟关停燃气和燃煤电厂、延缓向可再生能源过渡的步伐；微软（Microsoft）重启了三里岛（Three Mile Island）——位于宾夕法尼亚州米德尔敦附近的一座核电站，该电站曾于 1970 年代末发生部分堆芯熔毁事故，是美国历史上最严重的商业核事故。按照目前的增长速度，到 2030 年，数据中心预计将消耗美国 8% 的电力，而 2022 年这一比例仅为 3%；AI 算力在全球范围内的能耗，可能超过世界第三大电力消费国印度的全年用电总量。

这种规模——超大规模数据中心——已引发了令人震惊的环境后果。然而与此同时，企业对这一影响的掩盖却达到了新的高度。自 Emma Strubell 的论文发表，以及 Gebru 在《随机鹦鹉》中的引用之后，科技巨头愈发将旗下模型的技术细节藏于幕后，使得追踪和估算其碳足迹愈发困难。与此同时，这些公司也在公众和政策制定者之间加大宣传力度，强力推销几套反叙事话语：数据中心效率将大幅提升，其影响终将不成问题；生成式 AI 将开启气候创新的新局面；AGI 将彻底解决气候变化。

开源 AI 公司 Hugging Face 的研究科学家兼气候负责人 Sasha Luccioni 表示，最后一个说法根本无从证实，而前两个则具有极大的误导性，其中第二个尤为有害：诚然，由倡议机构转型而来的非营利组织 Climate Change AI 所梳理归纳的许多 AI 技术确实能够加速可持续发展进程，但这些技术几乎从来都不是生成式 AI。“气候领域真正需要的是监督学习模型、异常检测模型，甚至统计时间序列模型，“Luccioni 说——她也是该倡议的创始成员之一。上述模型都属于上一代 AI 技术，主要是体积小、能耗低的机器学习工具，有些甚至可以在一台性能较强的笔记本电脑上运行。“生成式 AI 的能源消耗和碳足迹极度不成比例，而在环境方面能带来的积极贡献却微乎其微，“她补充道。

Luccioni 表示，她在封闭公司内部的昔日合作者，如今已无法获得雇主批准，与她共同撰写关于人工智能环境影响的论文。她转而与 Strubell 等外部合作者和学者携手——Strubell 的研究正是她当年的启蒙来源。在一篇论文中，她与 Hugging Face 机器学习与社会部门负责人 Yacine Jernite 合作，以开源生成式 AI 模型的碳排放作为封闭公司所构建模型的参照指标。研究发现，用生成式模型生成一千段文本，平均消耗的能量相当于为一部标准智能手机充电近四次；生成一千张图片，平均消耗的能量则相当于完整充电242次——换言之，每生成一张 AI 图片，所耗电量足以为一部智能手机充入约25%。Luccioni 与 Strubell 的论文，是为数不多仍对生成式 AI 模型碳排放给出可量化指标的研究，而这是一场持续不断的逆水行舟之战。Luccioni 说，她曾一度向最新机器学习论文的逾五百位作者发出请求，希望获取其模型训练的基本信息。「几乎没有人回复，」她说，「有些人干脆不理，有些人则以这属于机密信息为由拒绝。」

尽管超大规模云厂商在公开场合大力宣扬其算力基础设施的可持续性，微软（Microsoft）内部高管却私下承认，可再生能源间歇性供电的特性，根本无法满足数据中心全天候不间断运行的需求。持续运转被视为重中之重，以至于谷歌（Google）、亚马逊乃至最近的微软，都开始将数据中心园区以三处为一组进行建设——备份之上再加备份，确保任一设施宕机时仍有余地。飓风"厄玛"袭击佛罗里达、飓风"哈维"横扫得克萨斯期间，数百万人断电，部分医院紧急转移患者，数十万户家庭和商户遭受损毁甚至毁灭性打击；而当地的数据中心却始终如常运转，稳定到某设施员工的受灾家属得以入驻其中，将其当作整段自然灾害期间的临时避难所。

支撑这些超级园区所需的土地与能源，不过是数据中心扩张全球供应链中的两项投入。此外还有构建硬件——计算机、电缆、电力线路、电池、备用发电机——所需的铜、锂等大量矿物资源，以及服务器冷却通常所需的大量饮用水——是的，饮用水。（冷却水必须足够洁净，以防管道堵塞和细菌滋生，饮用水标准恰好能满足这一要求。）加州大学河滨分校的研究人员估算，到2027年，人工智能需求的激增每年可能在全球消耗1.1万亿至1.7万亿加仑淡水，相当于英国年用水总量的一半。而这些影响并不会均匀分布。另有研究发现，早在生成式 AI 浪潮兴起之前，美国已有五分之一的数据中心从因干旱等因素而处于中度或高度水资源压力的流域取水。在智利等全球南方国家，往往是最脆弱的社区，首当其冲地承受着这场加速扩张的资源攫取经济带来的代价。

随着越来越多的社区亲眼目睹数据中心对自身生活的冲击，反对其无序扩张的声音也与日俱增。对此，数据中心开发商的应对手段愈发娴熟：他们披着空壳公司的外衣悄然进入社区；向社区项目捐款以化解民间阻力；向地方政府许下关于设施可持续性的承诺，却在项目开工、难以回头之后逐一食言。弗吉尼亚州的一个案例尤为触目惊心——一群正在抗议多处大型数据中心的居民，震惊地发现了一封律师写给开发商的邮件，建议对他们实施监控。「我们需要在这个群体里安插一两个卧底，」律师在邮件中写道。

从确定规模化扩展（scaling）路线的那一刻起，OpenAI 便着手寻求前所未有的算力基础设施。「在 AI 领域，谁的计算机最强大，谁就能获益最多，」布罗克曼在 2019 年对我说。于是，奥特曼与微软（Microsoft）共同制定了一套方案，规划这家科技巨头如何满足 OpenAI 指数级增长的算力需求。两家公司将携手设计并交付数十台用于研究的超算——这些数据中心需要配备英伟达（Nvidia）芯片，供 OpenAI 在探索过程中训练各种 AI 模型。尤其关键的是，微软还将建造一系列规模持续扩大、算力不断增强的超算，用于训练 OpenAI 每一代新模型。

奥特曼开始将这一系列超算称为「阶段」，并曾向员工展示一张幻灯片，直观呈现每个阶段的规模——其中最后规划的第五阶段，体量远超其他所有阶段，令人咋舌。OpenAI 训练 GPT-3 所用的超算是第一阶段，配备了一万块 V100，建在爱荷华州西得梅因。微软于 2012 年首次进驻该地，据时任市长介绍，公司向市政缴纳了数额「惊人」的税款，帮助这座城市大幅改善了公共基础设施。十余年间，微软还向当地社区项目投入约 250 万美元，其中大部分流向非营利机构。微软将第一阶段超算内部命名为 Odyssey；OpenAI 则称其为 Owl——这源于研究部门早期为各算力集群按字母顺序以动物命名的惯例。二十六个字母用尽后，便改以元素周期表中的元素按原子序数依次命名。

第二阶段同样位于爱荷华州，用于训练 GPT-4。它以 2021 年研究路线图中提及的一万八千块 A100 为起点，至模型训练完成时最终扩展至约两万五千块。对微软而言，第二阶段代号 Telemachus，取自希腊神话中奥德修斯之子的名字；对 OpenAI 而言，它是 Raven（内部代号）。

第三阶段转移至亚利桑那州。这里地价低廉、税收优惠、毗邻加利福尼亚，已迅速成为各大云服务商争相布局的数据中心开发重镇。微软在精心维系凤凰城郊外两座欠发达城市的政府关系后，于 2018 至 2019 年先后购入三块土地，并向多个社区组织捐款，以平息居民的反对声音。三块土地合计面积近 600 英亩，相当于 450 多个足球场。（微软将于 2024 年再新增 283 英亩。）每块土地将建设一座新的数据中心园区，在云区域「West US 3」中同时服务 Azure 客户与 OpenAI。

第三阶段——微软内部代号 Inglewood，OpenAI 内部代号 Whale（内部代号）——建造成本达数十亿美元，将部署数十万块英伟达（Nvidia）H100（A100 的下一代产品），用于训练 OpenAI 当时预期会命名为 GPT-4.5 和 GPT-5 的模型。对于计划在威斯康星州建设的第四阶段，奥特曼预计将采用英伟达（Nvidia）最新的 B100（H100 的下一代产品），成本将高达 100 亿美元。这是一个令人咋舌的数字——彼时造价最高的超大规模数据中心也不过在 10 至 20 亿美元之间。他并未就此止步，随口抛出了第五阶段打造 1000 亿美元超算的构想。ChatGPT 爆火之后，奥特曼不得不调低预期：由于大量芯片被用于向用户提供 ChatGPT 服务，微软的芯片采购速度已难以跟上第三阶段的建设进程。Whale 最终拆分为三个独立集群——Beluga、Narwhal 与 Orca——计划于 2024 年内完成建设。

微软和 OpenAI 内部无人知晓第五阶段在技术上是否可行。据 The Information 后来报道，根据两家公司的设计方案，这座造价 1000 亿美元的设施可能需要高达 5000 兆瓦的电力，几乎相当于纽约市全市的平均用电量。这一计划在商业投资层面似乎并不稳健，但资金并非主要瓶颈，能源才是。「我们正面临土地和电力的双重短缺，」一位 OpenAI 员工说。两家公司内部均已达成共识：第五阶段的实现，必然有赖于某种程度的技术突破。要么微软和 OpenAI 将超算拆分至多个园区以分散能源需求，并解决如何跨远距离地点训练 AI 模型的问题；要么，正如奥特曼有时所言，核聚变领域未来的突破将自然化解这一难题。

他有时会向 OpenAI 员工乐观地介绍 Helion Energy 的进展——这家核聚变初创公司是他个人最大的一笔投资，微软已承诺在其电厂（目标发电量为 50 兆瓦）建成投运后向其购电。《华尔街日报》后来报道，OpenAI 与 Helion 也在洽谈签署合作协议，奥特曼已就此事进行了利益回避。

奥特曼及其他高管从未在全员会议上提及数据中心的环境代价。OpenAI 在爱荷华州训练 GPT-4 期间，该州正经历连续第二年的干旱。美联社后来报道，在模型训练的某一个月内，微软数据中心消耗了约 1150 万加仑水，占该地区用水量的 6%。GPT-4 在那里共训练了三个月。（微软发言人表示，公司正努力将用水效率在 2022 年基准之上提升 40%，并致力于到 2030 年在全球业务所在地——尤其是水资源紧张的地区——实现补水量超过消耗量。）

亚利桑那州同样深陷严峻的水危机。2022年，就在微软（Microsoft）为第三期建设奠基之际，发表于《自然·气候变化》的一项研究显示，美国西南部正经历过去逾千年中最严重的干旱。这场旱灾叠加长期失当的管理，已将科罗拉多河——亚利桑那州及另外六个州赖以获取淡水的生命线——消耗至危险的低水位。若不采取断然行动，这条河或将彻底断流。供水短缺又加剧了电力危机：气候变化将一波波破纪录的高温砸向该地区，居民纷纷开足空调应对酷暑。该地区部分依赖胡佛水坝的水力发电和水冷式核电站——换言之，发电本身就离不开水。2023年，菲尼克斯都会区屡次刷新热浪纪录，当年与高温相关的死亡人数也创下历史最差，较2022年激增至少30%，逾六百人因此丧生。亚利桑那州水资源部部长Tom Buschatzke说：“所有的事情都在向令人忧虑的方向汇聚。”

Altman确实提出了一件事：他的不耐烦。2024年3月，在生成式AI竞赛最初几年几乎沉寂之后，Meta猛然发力，抛出了激进的新计划——部署35万块H100，作为规模更大的基础设施扩张的一部分，以支撑其骤然加码的生成式AI投资。这一GPU数量已超过OpenAI手头的全部资源。Altman心里不是滋味。他觉得微软（Microsoft）行动太迟缓，正在白白葬送OpenAI的竞争优势。

当 Sonia Ramos 还是个孩子的时候，她目睹了一场事故，那场事故将塑造她此后的一生。她出生在智利一个矿工家庭，父亲为一家美国铜业公司工作，她在其他工人的孩子们中间长大。1957年，丘基卡马塔矿山的一部分发生坍塌，数人罹难，数十人受伤。父亲虽幸免于难，她却记得亲眼看着灾难的余波在身边蔓延：受难家庭陷入赤贫，孩子们因饥饿而日渐消瘦。四十年后，Ramos 走上抗议采矿的道路，成为智利最活跃、最直言不讳的原住民声音之一，持续揭示采矿业对社会、文化与环境的破坏。她始终铭记从那场悲剧中汲取的教训：采矿业是一套系统，而这套系统若任其自行运转，将不惜一切代价追逐利润。“工人根本不存在，“她说。没有任何受难者得到纪念或悼念，没有任何家庭获得赔偿。“那个地方，没有人性。”

智利是全球最大的铜生产国，供应量占全球总量的四分之一。铜矿开采从一开始就不仅重塑了土地，也重塑了依赖这片土地的社会。有些影响显而易见：如今的丘基卡马塔是世界上最大的露天铜矿，是大地上一道被炸药不断加深的巨大伤口。被炸开的岩石堆成高耸的山丘，以山的形态铭记着它们所来自的空洞，正缓缓掩埋一座因铜矿不断吞噬而被遗弃的小镇的遗迹。采矿业还大量抽取该地区的水资源用于铜矿加工。曾有一家外国跨国公司消耗的水量之巨，竟将附近一处盐沼整个水域耗尽，彻底摧毁了那里丰富的生态系统。

那些不那么显眼的，是采矿业在空气和水中留下的砷痕迹——它使智利北部地区的癌症发病率持续攀升——以及采矿业如何重构了原住民的生活方式，并在不同社群之间播下分裂的种子。随着土地上的水源和矿产被耗尽，阿塔卡梅尼奥人——这个名称将所有共享这片区域的不同原住民族群联结在一起——已无法再靠自耕农业或畜牧业维持生计。这一转变使他们的村镇陷入深重贫困。犯罪率随之上升，抑郁、酗酒与违法行为也日益蔓延。他们缺乏足够的食物、自来水、完善的医疗和教育资源，而他们的土地为他人创造的数十亿利润，他们几乎分文未得。许多人反而不得不为那个夺走他们领地的行业打工，并依靠该行业资助的小诊所获得医疗服务。原住民各族群之间曾经有着更强的凝聚力，如今却为日益减少的资源相互争夺。

锂是那里较为晚近的发现——20世纪60年代，一家美国公司在寻找铜矿开采所需的水源时偶然发现了它。当公司向盐沼深处钻探，在地表之下发现了漂浮于油状卤水中的高浓度锂，从而开辟了新的开采前线，加速了更多生态系统的枯竭。如今智利的锂产量约占全球的三分之一，仅次于澳大利亚。锂主要从该国最大的盐沼阿塔卡马盐沼中提取——将卤水抽入波光粼粼的碧绿池塘，等待阳光将溶液蒸发结晶，析出锂及其他副产品。这些盐沼曾经栖息着成群的粉红火烈鸟，阿塔卡梅尼奥人将它们视为自己的精神兄弟。如今火烈鸟已经消失；Peine 社区一位原住民领袖的幼女，只能凭借祖辈口口相传的故事和一只毛绒玩具火烈鸟来追忆它们。

多年来，阿塔卡梅尼奥人听到了无数为这一切开采行为辩护的叙事。2022年，随着欧盟制定关于能源转型的新政策，锂的需求量急剧攀升，智利乃至世界各地的企业和政界人士纷纷颂扬该国采矿业在推动更美好未来方面的重要意义。那些眼睁睁看着自己的土地和社区遭到撕裂的原住民社群提出了质问：更美好的未来，究竟是谁的未来？“当地人从来没有能力在经济和国际政治的力量之外，自主思考自己的命运，“生活在北部地区、研究当地丰富生物多样性的微生物学家 Cristina Dorador 说。

如今，同样的叙事正被生成式 AI 所复用。在硅谷的话语体系中，为建设超大规模数据中心园区——以及建设支撑这些园区所需的发电站和数千英里输电线路——而加速提取的铜和锂，同样是在开创一个更美好、更光明的未来。阻止这种开采，也就是阻碍人类的根本性进步。然而原住民社群所抵制的，并非采矿本身。“我们的祖先就是矿工，“Ramos 说。他们才是最初发现铜矿的人。她说，问题在于规模。

这种规模已经吞噬了一切。它使智利北部乃至整个智利完全依赖于这一产业，令任何其他经济形态都无从生长。它扼杀了这个国家——乃至整个世界——想象不同发展路径的可能性，让人无从设想在不掠夺自然资源的前提下实现发展，Ramos 说。通过支撑大规模生成式 AI 模型的生产，这种规模还导致了针对原住民族群的种族主义刻板印象的延续——而这些族群本已因技术的实体建设方式深受其害。2023年，巴西举办了一场由智利一所大学联合制作的艺术展览，深刻揭示了现实中丰富多彩的拉丁美洲原住民文化，与 Midjourney 和 Stable Diffusion 所生成的那些将原住民塑造为原始落后、技术低能的悲劣图像之间，存在怎样的天壤之别。

近年来，阿塔卡梅尼奥人的抵抗行动越来越多。他们在房屋上悬挂黑旗，谴责对其土地和社区的掠夺。他们组织抗议活动，以身体阻断公司班车和货车前往矿区的必经之路。他们聘请律师，依据保障原住民文化和领土主权的国际法，主张自身的合法权利。随着企业和智利政府被迫邀请他们参与谈判，原住民的核心诉求之一，是要求政府对阿塔卡马沙漠生态系统的健康状况开展研究，并量化水资源损失及任何不可弥补的破坏。

Ramos也有自己的基金会，她说，旨在汇聚"祖先的与非祖先的"力量，推动并开展对阿塔卡马沙漠自然财富的科学研究。这片沙漠拥有极为独特的极端环境，孕育了许多别处所没有的微生物群落——它们或许在医药或新能源领域具有重要价值。正因如此，几十年来，这片沙漠也被科学界当作火星气候的类比环境加以研究。Ramos希望，未来的任何发现都能为守护她美丽故土的价值提供有力佐证。面对那些为资源开采服务的"高速进步"叙事，她在探寻关于进步的新诠释——以疗愈、可持续与再生为核心的进步观。

在 Ramos 于北部的抗争持续之际，智利腹地也爆发了一场截然不同的争斗——矛头直指政府对科技行业数据中心的全面拥抱。超大规模云厂商的扩张速度远超其传统运营区域的土地与电力供给，由此迫使它们愈发激进地在全球新兴市场抢占这些资源。

仅微软（Microsoft）一家，就在2024财年耗资逾550亿美元——约占其账面营收的四分之一——用于建设 SemiAnalysis 所称「人类有史以来规模最大的基础设施工程」。谷歌（Google）则在2024年第三季度财报电话会议上表示，计划将全年数据中心支出提升至约500亿美元。Meta 预计本财年数据中心及基础设施扩建投入将高达400亿美元，并估计次年还将进一步增加。

2024年6月，一个难得的薄雾午后，Alexandra Arancibia 引导我们驱车前往基利库拉（Quilicura）——圣地亚哥（Santiago）郊区的一个市镇，她在这里生活，也在这里担任市议员。她要带我们去看一处地方，在她眼中，那是美国科技巨头与当地社区之间悬殊权力落差的具象体现。距圣地亚哥那些遍布欧式咖啡馆与素食餐厅的如画街区不过半小时车程，眼前的道路却因年久失修而坑洼破败，两旁垃圾成山，堆入当地黑帮把持的非法垃圾场。

驶过一片宠物墓地后，我们停在一块荒地前——那里长着几簇低矮灌木，零星几棵营养不良的树木从土里挣扎而出，看起来像是废弃多年。大多数日子里，这片土地干旱至极，宛如阿塔卡马沙漠的一角；今天的雨水把一切都浸成了烂泥。荒地正中，一块紫色牌子用西班牙语写着：「欢迎来到基利库拉城市森林」。牌子上解释说，这是谷歌（Google）2019年启动的项目，旨在回馈这个容纳了其数据中心的社区。牌子上还附有一张图示，说明「森林」的种种益处：左侧是基利库拉作为工业区的图景，烟囱林立，温室气体和空气污染肆虐；右侧则是森林在一片标注着「雾霾」的大云朵慷慨降雨滋润下欣欣向荣的景象。

谷歌（Google）在其官网和公关资料中大力宣传这片森林。当我向该公司的智利区发言人申请采访，希望就谷歌在智利的发展情况做深入交流时，她发来了一批精心准备的简报材料，随后补充说，公司会为每个新建数据中心制定社区影响计划，支持教育、可持续发展、互联网接入和医疗卫生等本地项目；在基利库拉，谷歌已累计投入逾120万美元。她的材料在提及这片森林时，特别强调了居民利用这片绿地的情形。然而，这里根本没有居民。这里离任何公交线路都太远，周边也几乎没有民居可言。那片不大的林地，规模还不及谷歌数据中心本身，外头十几条流浪狗四处游荡，吠叫声中翻找着垃圾堆。该发言人表示，这片森林正在升级改造，以「提升社区体验」。

望着眼前的景象，Arancibia 微微一笑，带着几分苦涩。「你觉得自己像是在硅谷吗？」

Arancibia刚上大学时才意识到，基利库拉是一个被用来丢弃废物的地方。每天上学，她要穿过这座市镇中自己从未踏足过的区域——那里垃圾成堆。她从未把基利库拉当作"家”——它不过是她居住的地方，一个父母在她幼时迁来的、落后而平凡的工薪阶层小镇。然而，眼见这片土地被当成名副其实的垃圾场，她心底涌起一股强烈的渴望——希望让这片土地恢复往日的美丽。

就在二十年前，Arancibia还是孩子的时候，基利库拉还大多是乡野：连绵的牧场与波光粼粼的湿地，孕育着不逊于阿塔卡马沙漠的丰富物种——飞鸟、走兽与各类植物。后来，垃圾黑手党来了，允许圣地亚哥其他地区的人花钱将废物倾倒在基利库拉。一些垃圾场运作日久，其上已长满杂草，远看如同怪异扭曲的山丘，将周围的大地一点点吞蚀。随后，各类产业相继涌入——啤酒公司、房地产开发商——侵占更多土地，从湿地抽取水源为己所用。如今，在这片面积约二十二平方英里的市区内，只有零星点缀的绿色地块，还能让人依稀窥见基利库拉昔日的模样。

就是在这样的背景下，谷歌（Google）于2012年来到基利库拉，兴建其在拉丁美洲的第一座数据中心。谷歌官方网页上，公司自豪地将这座于2015年1月正式投入运营的数据中心，誉为大陆上效率最高、最具环保性的设施之一。彼时，基利库拉无人关注这个项目；更遑论圣地亚哥富庶中心地带的人们，他们根本无暇顾及基利库拉。每天乘公共汽车上班、路过数据中心的附近居民，以为那不过是一家生产啤酒或食品的工厂，能为当地提供就业机会。

谷歌的数据中心——与大多数数据中心一样——除初期建设阶段外，并未带来多少就业岗位。2024年发布的一则机械技师招聘广告——这是为数不多的长期职位之一——仅以英文刊登在谷歌招聘页面上，并明确指出谷歌不受理以其他语言提交的简历。正如活动人士所指出的，这座数据中心也未给当地社区带来多少其他裨益。附近的公立学校至今仍缺乏稳定的网络连接，以及供学生上网的设备。

数据中心的落户，令基利库拉乃至整个圣地亚哥跻身硅谷实体扩张的热门目的地。2019年，谷歌宣布将在圣地亚哥都市圈兴建其在拉丁美洲的第二座数据中心。不久，微软（Microsoft）和亚马逊也相继宣布入驻。智利政府迅速表示欢迎，将该国定位为拉丁美洲外商直接投资的安全稳定避风港——相较于这一地区长期背负的政局不稳、社会经济动荡的恶名，智利俨然是一片净土。2020年，政府更进一步，宣布计划铺设一条新的海底电缆——犹如一条数据高速公路——从智利中部海岸（距圣地亚哥不远处）直连亚太与美洲。智利将由此成为全球数字基础设施枢纽。谷歌为这一合作项目提供了支持。

然而，2019年7月，就在谷歌着手办理智利第二座数据中心的申报手续时，一群当地居民开始了密切关注。谷歌选中了塞里略斯（Cerrillos）作为新址——这是另一座毗邻圣地亚哥的工薪阶层城镇。

与基利库拉一样，塞里略斯长期以来被忽视和遗弃。从二十世纪三十年代到九十年代，一家比利时公司旗下的水泥厂向这一社区排放致命浓度的石棉，酿成了一位智利历史学家所称的该国"最大规模的工业种族灭绝”。时至今日，当地居民的癌症死亡率依然高于平均水平。然而塞里略斯也有其特殊之处——在一个水资源已完全私有化的国家，这座城镇拥有全国唯一的公共供水机构，向周边社区供应当地地下水，并在紧急情况下向智利其他地区调水。

这一独特的组合——被忽视的历史与珍贵的水源——为多个环保活动团体的兴起提供了沃土。这些团体习惯于充当监督者，对任何掠夺本地资源的行为都保持高度警惕、坚决抵制。那年夏天，谷歌向智利环保机构提交数据中心审批报告——这通常不过是走走程序——而水资源活动团体MOSACAT开始逐页研读这份长达347页的申报文件。在文件深处，谷歌透露其数据中心预计每秒消耗约169升淡水用于服务器冷却。换言之，这座数据中心一年耗用的水量，可能超过塞里略斯全体约八万八千名居民全年用水量的一千倍以上。MOSACAT认为这完全无法接受。该设施不仅将直接从塞里略斯的公共水源取水，更将在全国饮用水供应整体告急之际这样做。2019年，与爱荷华州和亚利桑那州的处境如出一辙，智利已连续九年深陷一场毁灭性的、史无前例的超级干旱之中。

MOSACAT成员Tania Rodríguez把谷歌（Google）的环境申报文件递到我手中——全部347页，打印后装订在两块蓝色塑料封皮之间。那本厚重的文件落入我的膝头，发出沉闷的一声，仿佛是硅谷以技术知识为中心化决策背书的一种有形体现。文件底部竖着几张精心标注的便利贴，其中一张用西班牙语写着"Agua potable”（饮用水），标记着讨论数据中心冷却耗水需求的那几页。

MOSACAT成立于2019年，由多个不同运动的活动人士共同创立——他们原本分别为女性权利、住房权利、劳工权利和环境权利而奔走，后来团结起来，组成了一个统一的集体。许多人是在抗议一个非法采矿项目时结识的。该团体表示，MOSACAT的行动成功驱逐了矿商，迫使项目停工，并将那片土地列为受保护的自然保护区。不久后，该团体一位现已出任智利国会议员的朋友向他们通风报信，告知谷歌数据中心项目的消息，并敦促他们关注项目的预计用水量。

MOSACAT的成员并非技术人员。但他们逐页读完了那些密密麻麻的图表和晦涩的专业术语，做了大量笔记，熟记了数据中心及其冷却系统的方方面面，以便与谷歌正面交锋。当我问Rodríguez她们是如何消化这些信息时，她爽朗地笑了起来。“靠的是我们所有人，“她说——MOSACAT十多名志愿者成员，都是在工作和家庭义务之间挤出时间来完成这些工作的。

在智利，大多数需要用水的项目须经漫长的审批程序。谷歌的申请却获批极快，即便当时正值一系列与干旱相关的水资源紧急状况。MOSACAT起初试图通过谷歌的本地合作伙伴——一家名为Dataluna的智利投资与服务公司——提出异议。据MOSACAT介绍，首次会面不欢而散：Dataluna的代表对项目本身似乎知之甚少，并否认项目会使用淡水。

此后，MOSACAT转而找到地方政府。该团体回忆说，市长和市议会此前一直在与Dataluna接触，并形成了错误印象，以为数据中心只需要废水用于冷却。在MOSACAT向他们做了情况介绍后，政府大为震动，要求Dataluna作出解释。事态从Dataluna一路升级，经由谷歌智利分部，直达谷歌位于加利福尼亚州山景城的总部。

2019年10月，谷歌派遣两名工程师和一名律师前往塞里略斯（Cerrillos），向当地社区进行说明。他们抵达当天，MOSACAT沿着这行人前往会议地点所经的路线，将街道贴满了抗议标语。会议上，MOSACAT并非孤军奋战。出席的约二十名居民中，另有六个活动人士团体和社区组织派代表到场。MOSACAT回忆，谷歌来的工程师是外国佬（gringos），身材高大，只会说英语。他们做了一个技术性极强的演示，律师同时充当翻译。讨论过程中，会说英语的MOSACAT成员说，她们能听出律师在曲解她们的发言。此外，谷歌代表还试图通过提议为社区种植一片城市森林来安抚居民——就像这家科技巨头曾送给基利库拉（Quilicura）的那片一样。这番表态并未打动MOSACAT和其他团体：谷歌来这里，并不是真心想听社区的诉求。“他们是来恐吓我们的，“MOSACAT成员Alejandra Salinas说，她同时也是塞里略斯邻近市辖区迈普（Maipú）的一名市议员。“想想看，他们一边榨干我们的大地，一边来给我们献树。”

塞里略斯的居民不需要树，不需要谷歌为他们建公园——仿佛圣地亚哥（Santiago）都市圈落后到没有公园似的。他们需要的是谷歌停止把他们的土地视为可以随意掠夺宝贵水资源和其他资源的地方；他们需要这家公司停止将社区边缘化，不再把居民当成旁观者，而是当成本地项目开发的参与者。“我们知道我们养活着世界，我们提供铜和锂这样的原材料，“Salinas说，“没有人说我们的宝藏只属于我们自己、不肯分享。是的，我们可以互相帮助。但他们不能来用掉对生命至关重要的水，然后让我们一无所有。”

彼时，智利正处于一场规模浩大、持续数月的政治动荡之中，史称"社会爆发”（Estallido Social）。大规模乃至有时演变为暴力的抗议活动每周都在爆发，正是从同年10月开始——这是对失业、私有化和深重不平等的集体怒吼，造成数千人受伤、数十人死亡。2019年底，随着全国各地社区相继通过公投回应这场推动地方和全国政治改革的运动，MOSACAT借势在塞里略斯的公投中附加了一个议题：居民是否同意谷歌建设一座将大量消耗社区水资源的设施。她们积极动员，在街角分发传单、挨家挨户敲门，并在整个市辖区张贴标语，广而告之项目的真实面目。

2019年12月，MOSACAT赢了；数据中心建设公投以微弱多数被否决。次年，地方政府与MOSACAT联合向环境法院提起诉讼。

在与谷歌的会面中，其代表最终摆出了友好的姿态，MOSACAT说，一旦发现在场有居民能听懂他们的话，对方便表现出了更大的谈判意愿。但正如耶鲁大学助理教授Julian Posada和Mophat Okinyi的代理律师Mercy Mutemi所告诉我的，来自全球南方国家的反抗，始终面临一个风险：硅谷公司随时可能拂袖而去，将资金转移到别处。随着项目一再受阻，而谷歌对更多算力的渴求日益迫切，该公司宣布将在拉丁美洲计划中的下一个数据中心从智利迁往另一个国家。

在乌拉圭这个拥有340万人口的小国，国家电信公司Antel建有三座数据中心，为全国提供互联网和移动通信服务。三座数据中心加在一起，总面积仅约五千平方米。其中一座不足一千平方米，坐落在蒙得维的亚一条寻常的住宅街道上，比毗邻的建筑高些、宽些，却也融入了周边的环境。

这座数据中心由两条独立于街区电网的专用线路供电。三成空间用于安置计算机，七成则是行政办公室、配电间和机械室。计算机会产生热量，但还不至于热到需要用水而非空气来散热。它们发出低沉的嗡嗡声，白天喧嚣中几乎听不见，夜深人静时却足以令人烦躁——附近两户人家已多次登门投诉。数据中心经理Javier Echeverria提及此事时，略显不好意思。他说，自己正在与当地研究人员合作研究降噪方案，并已对冷却系统进行了改造，使其噪音更小。

这种及时的回应，与MOSACAT为引起一家美国公司关注而经历的重重繁文缛节相比，简直天壤之别。

从这里驱车三十分钟，就到了市郊。政府在城市边界以外划出一大片土地，建设了科学园区（Parque de las Ciencias），以自由贸易区形式运营。有人略带嘲讽地称之为"美国区”（zona America）——因为园区里驻扎的大多是不向乌拉圭政府缴税的美国企业，言语间不无一丝苦涩。园区外观也颇像美国：葱郁整洁的草坪，对称的规划布局，以及一座壮观的日晷形喷泉，令人联想到华盛顿特区国家广场那种庄严的美学气质。园区官网将这里宣传为政治经济稳定、土地充裕、电力与水资源丰沛的理想之地。于是，2021年，随着GPT-3激发了外界对大规模扩展（scaling）AI模型的浓厚兴趣，谷歌（Google）在此购置了二十九公顷土地——相当于Antel全部数据中心占地面积的五十八倍——用于建设其在拉丁美洲的第二座数据中心。

然而彼时，乌拉圭实际上并不拥有充裕的水资源。与智利、艾奥瓦州、亚利桑那州一样，这里同样正经历一场严酷的干旱。水资源短缺极为严峻，农民颗粒无收，全国农业损失超过十亿美元；到2023年夏，蒙得维的亚市政当局开始将受污染的咸水掺入城市饮用水供应之中。打开水龙头的市民看到流出的是带有腐臭气味的棕褐色液体，散发着浓烈的化学气味。买得起瓶装水的人用瓶装水饮用，洗澡时打开窗户，以免吸入过多致癌物；买不起的人只能直接饮用自来水，许多人因此出现胃痛、皮疹，原有健康问题加重，更有越来越多的人承受着流产率攀升带来的痛苦。

在一场肆虐的疫情之后，许多人根本无力购买瓶装水。当硅谷扶摇直上——谷歌（Google）和微软（Microsoft）市值双双一度突破两万亿美元，部分原因正是企业纷纷转向远程办公、对云服务的依赖与日俱增——乌拉圭的非法住宅聚居区却以数倍之势不断扩张。当地的"大锅饭”（ollas，类似于社区免费厨房）不得不把挨饿的孩子拒之门外。经营这些"大锅饭"的人自身也深陷贫困，艰难求存。Fabiana是其中一家"大锅饭"活泼外向的负责人，住在一处非法聚居区，被人们亲切地称为"女王母亲”（Reina Madre）。回忆起那段岁月，她突然沉默下来。“不得不对人说，‘我连给你家孩子的一个小碗都拿不出来……’“她的声音渐渐低落，“太可怕了。“即便她一生历尽贫苦——七岁时便在妓院扫地谋生——疫情与干旱那几年在她心中依然是最难熬的记忆之一。

此次水危机，根源在于气候变化的复合影响，以及国家淡水资源分配机制的失职：在乌拉圭，超过八成的淡水流向工业，而非民众的日常饮用——其中最主要的是经济作物农业。大豆、水稻的工业化农场，以及为造纸业供料的人工林，构成了这一产业格局。此类农场大多不由本地企业经营，而是由将产品出口海外、对乌拉圭自然环境几乎不承担任何责任的跨国公司掌控。它们的生产活动耗竭土壤养分，使粮食种植愈发困难，并向河流水系排放大量化肥，令乌拉圭跻身全球人均化肥消耗量最高的国家之列，并导致癌症发病率异常偏高。

蒙得维的亚共和国大学社会学研究员Daniel Pena多年来深入研究这种环境萃取主义（extractivism）背后的政治逻辑，并将其与乌拉圭的殖民历史直接挂钩。他开着一辆破旧的皮卡走遍全国，采访农民和最贫困社区的居民，近距离记录他们如何遭受工业力量的挤压。如同智利，外国跨国公司在政治权力格局中依然凌驾于本地人之上。干旱期间，工业用水毫无节制地持续抽取，直接从汇入蒙得维的亚公共供水系统的主要河流——圣卢西亚河（Río Santa Lucía）——取用所需。二十年前，经历了大规模的环境维权运动，乌拉圭曾成为全球首个在宪法中确认水为人权的国家。如今，历史的讽刺昭然若揭：在这场短缺中，饮用水反而比工业用水遭受了更为严苛的削减。

因此，当谷歌（Google）进入乌拉圭时，Pena 保持着高度警觉。他定期浏览乌拉圭环境部官网——该网站公示重大工业项目——就在例行浏览中，他发现了这家公司的数据中心提案。Pena 此前已读到有关超大规模云厂商在大旱期间仍动用饮用水的报道，以及像 MOSACAT 这样奋起抵制相关项目的社区行动。然而，当他下载项目详情时，涉水数据一栏被标注为保密。他随即提交了信息公开申请——此前他已成功申请约二十次——但环境部仍拒绝公开相关数字，称其属于商业机密。Pena 不禁追问，他们究竟在掩盖什么。他同时忧虑，这将为其他必然追随谷歌（Google）进入乌拉圭、伺机扩张的云公司开创一个危险先例。于是，他援引宪法中的水权条款，在一位愿意提供无偿法律援助的律师朋友帮助下，将环境部告上了法庭。

2023 年 3 月，四个月后，Pena 以出人意料的胜利赢得了这场官司。环境部披露，谷歌（Google）的数据中心计划每天直接从饮用水供应系统抽取两百万加仑水，相当于五万五千人一天的生活用水。没过多久，蒙得维的亚大部分地区的居民发现水龙头里流出了咸水，这一消息由此引爆舆论。数以千计的乌拉圭人走上街头，抗议谷歌（Google）及其他一切导致政府挥霍国家珍贵淡水资源的企业。2024 年 6 月我到访时，那些抗议标语仍涂满城市的墙壁与路旁隔离墩。其中一条写道：“这不是干旱，这是掠夺。”

Pena 看待数据中心，与 Ramos 看待采矿业如出一辙。问题不在于基础设施本身，而在于硅谷试图建设的规模。正是这种规模，驱使谷歌（Google）、微软（Microsoft）等公司在智利和乌拉圭深陷严重资源匮乏之际仍大举扩张。正是这种规模，使它们所占土地是 Antel 的五十八倍，却对当地居民几乎不承担任何问责。“它们是掠夺性项目，来到全球南方，利用廉价的水、免税的土地和极低薪酬的劳动力。而后它们并不回馈我们的国家，也不改善我们的互联网接入，“他说。

2023 年底，谷歌（Google）悄然更新了乌拉圭数据中心方案，改用无水冷却系统，并表示将把设施规模压缩至原来的三分之一。Pena 说，这场斗争尚未结束：政府目前以商业机密为由，拒绝公开最新方案的预计能耗数字。Pena 还向环境部递交了一份逾四百人联署的请愿书，要求对数据中心全供应链开展更全面的环境与社会影响评估：生产硬件所需矿物的采掘地、相关劳工的待遇状况、将排放多少碳、产生的电子废料将如何处置——以免有毒化学物质渗入某个社区。这些影响大多不会落在乌拉圭头上，但 Pena 对那些将要承受这一切的国家怀有深切的同理之情。那些国家"基本上都来自全球南方”，他说，“我们最终承受着同样的后果，只是处于全球供应链的不同环节。”

2024 年，智利环境法庭裁定谷歌（Google）不得在圣地亚哥建设耗水型数据中心。谷歌（Google）智利发言人表示，公司对智利及拉丁美洲的承诺不变，计划在条件成熟时启动塞里略斯（Cerrillos）无水冷却数据中心的许可申请程序。但这并未阻止其他超大规模云厂商进军拉丁美洲。2022 年，微软（Microsoft）在完成对 OpenAI 的第二轮投资后不久，最终确定了其在智利数据中心的选址——正是 Arancibia 的家乡基利库拉（Quilicura）。

在数据中心开发商中，微软（Microsoft）算是后来者。在投资 OpenAI 之前，谷歌（Google）在全球各地建设的设施数量上早已遥遥领先。但随着对更多算力基础设施的需求骤然爆发，微软效仿谷歌的打法，跟进布局了相同的地区。

微软进入智利时，这个国家已与迎接谷歌时大相径庭。到2022年，距"社会大爆发"已过去两年多。那场持续数月的抗议在这个国家的政治版图上留下了不可磨灭的印记。智利随后进行了一场非凡的制宪实验——广泛吸纳普通公民参与，旨在取代皮诺切特独裁时期延续下来的旧宪法。最终，两轮新宪法草案均未获通过，两个草案都沦为党派色彩过浓的文件，无法凝聚广泛共识。但这场运动重新点燃了年轻人和工薪家庭对民主的希望。左翼思潮的涌动，戏剧性地促成了千禧一代左翼政治家 Gabriel Boric Font 当选总统，彼时他年仅三十五岁。在胜选演讲中，Boric 重申了那句抗议运动的口号——那句直指皮诺切特统治时期"芝加哥男孩"遗产的话：“如果智利曾是新自由主义的摇篮，它也将成为新自由主义的坟墓。”

Boric 于2022年3月就职，本人也曾是学生抗议者。他的当选激励了全国各地的年轻人，将他们在社会动荡中习得的组织与抗争经验付诸实践，催生了新一代进步主义活动组织。这些组织逐渐融入各个社区的日常节奏，定期聚会，共同畅想智利未来的宏观蓝图。

正是在这一时期，Arancibia 与同为基利库拉年轻居民的 Rodrigo Vallejos 共同创立了自己的活动团体。两人在社会动荡的组织工作中相识，对环境议题共同的深切关注让他们迅速结下深厚情谊。他们将团体命名为"基利库拉社会环境抵抗”（Resistencia Socioambiental Quilicura），名称援引了拉丁美洲一个根深蒂固的理念——社会问题与环境问题密不可分。

微软进驻基利库拉后，Vallejos 与 Arancibia 如法炮制，重走了 MOSACAT 和 Daniel Pena 走过的路：他们开始仔细研读微软公开披露的所有材料，对该项目展开深入调查。Vallejos 就读于迭戈·波塔莱斯大学（Universidad Diego Portales）法学院，他在课业之余熬夜研读技术文件，自学数据中心的运作原理。

微软预测其用水量将大幅低于谷歌在塞里略斯的用水量。即便如此，Vallejos 仍忧虑不减。智利的旱情非但没有好转，预计还将持续至2040年。基利库拉的湿地正遭受双重蚕食：工业侵占之外，荒漠化也在加速推进。微软在官网上大力宣传其数据中心冷却系统的前沿创新，称旗下设施无需用水。既然微软有能力建造无水数据中心，为何不在基利库拉付诸实践？

“令人深感震惊的是，一家声誉卓著的企业如微软，对外标榜环保理念，实际上却在智利这样的第三世界国家拒绝遵守全球创新标准。“Vallejos 后来在一篇文章中写道。

对此，微软随后解释称，其宣传的相关创新仍处于研发阶段，目前仅在美国某地试点运行。“那他们为何要在官网上做出这些承诺？“Vallejos 反问道。

Vallejos 的工作引起了国内外研究者的关注，其中包括：Nieuwe Instituut（荷兰建筑、设计与数字文化研究院）研究总监 Marina Otero Verzier，以及智库 FAIR 的研究员 Serena Dambrosio 和 Nicolás Díaz Bejarano——该智库由 Martín Tironi Rodó 联合主导。Otero 被 Vallejos 和 Arancibia 的热情打动，也深感他们的疲惫。两人为研读微软的大量技术文件、撰写批评文章、持续抗议已心力交瘁，却始终无法叩开企业或政府的大门。Otero 开始思考如何助他们一臂之力——怎样才能让他们与真正有决策权的人坐到同一张谈判桌前？

Otero 深知自己有一样 Vallejos 所没有的筹码：哈佛、哥伦比亚等名校的学术背书，足以令微软和政府侧目。她随即发起多线并进的行动，投入之深乃至辞去工作：她在高规格会议上发言，揭示数据中心的环境影响以及"抵抗"组织的抗争；她搭建起与智利科学、技术、知识与创新部以及微软、谷歌代表之间的沟通渠道；她将 Vallejos 和 Arancibia 引荐给国际研究者，提升他们的知名度。

Otero 还与 Dambrosio 和 Díaz 共同推进了一个更具探索性的项目。三人均有建筑学背景，一直从建成环境的视角研究现代数字技术基础设施。他们开始追问：如果将数据中心视为建筑作品，从根本上重新想象其美学形态、它在地方社区中的角色，以及它与周边环境的关系，会怎样？

Díaz 每逢旅行都喜欢造访各地的国家图书馆——那些旨在承载一个国家记忆与知识的宏伟场所。他由此想到，数据中心同样可以被视为图书馆：它们储存着属于自己的记忆与知识。它们同样可以被设计得开放而美丽，而不是冷漠而榨取。

这与微软和谷歌对"回馈社区"的定义截然不同——后者的社区影响力项目，以 Díaz 的话说，充满了"精神分裂式"的割裂感，往往与企业设施给当地社区带来的真实影响毫无关联。三位研究者与 Vallejos、Arancibia 携手，申请了研究经费，筹备了一场为期十四天的工作坊，邀请来自圣地亚哥各地的建筑系学生，共同重新构想一座属于基利库拉的数据中心应有的模样。

学生们拿出了令人惊艳的概念方案。一组设想将数据中心的耗水情况化为可视景观——把水储存在大型水池中，同时向居民开放为公共空间。另一组则提议彻底抛弃典型数据中心的粗野主义外观，构想出一片"流动数据领域”：数据基础设施与湿地共生并存，从而消解其破坏性影响。数据中心的建筑结构将兼作架空步道，邀请 Quilicura 的居民穿行湿地、欣赏生态景观。植物苗圃与动物筑巢区点缀在传统服务器机房之间，助力修复湿地生物多样性。数据中心将从湿地抽取受污水体，净化后再行利用，最终归还湿地。计算机本身也将采集并处理湿地健康状况的数据，为加速当地生态修复提供支撑。“我们并没有解决问题，但我们在想象数据与水之间另一种可能的关系，“Díaz 说。

工作坊接近尾声时，学生们向居民及其他社区成员展示了各自的构想。“那是一场令人难忘的对话，“Otero 说，“你能感受到这个社区蕴藏着多么丰富的知识。他们有太多东西可以贡献。”

Boric任期四年，如今已是第三年，他面临着为经济取得"快速成果"的压力——身为一位年轻的左翼总统，这种压力尤为沉重。这意味着扩大矿业的压力，意味着推动二十八座新数据中心落地的压力。就在Boric宣布制定国家数据中心战略计划的当天，Vallejos给我发来一段新闻发布会的视频，配上一个表情符号：眼冒金星的迷糊脸。

但平心而论，智利北部与圣地亚哥的活动人士联合国内外研究人员所形成的联盟，已经留下了清晰的印记。作为数据中心计划的组成部分，负责统筹其制定的科学部首次组建了一个活动人士咨询委员会，将其纳入起草流程，并邀请Vallejos、Arancibia及MOSACAT成员加入其中。科学部还负责监督一项人工智能法案的起草——该法案旨在明确智利对人工智能发展、应用与监管的总体立场。此前，科学部的相关讨论将人工智能定位为一种普遍的正面力量，如今这一基调已有所转变，开始正视这项技术的社会代价与环境代价。

智利与许多全球南方国家一样，从切身经历中汲取了教训：不能坐等全球北方决定如何建构数字技术。“我们建构技术的方式，回应的是特定的文化框架和历史框架，“科学部部长Aisén Etcheverry说。全球互联网的形成过程中未曾为智利留下一席之地，而如今，这个国家有机会按照自己的方式来塑造人工智能。

Tironi将这一思路推进了一步。今天的人工智能产业植根于一种殖民主义意识形态，这一点已无可辩驳，他说：它将自身的世界观与技术——什么是人工智能、什么是好的人工智能、建立一个人工智能产业意味着什么——强加于世界其他地方。智利可以成为抵抗这种强加的先驱。经历了数百年的萃取主义，这个国家对何为"以进步之名将土地挖空、剥夺、摧毁"有着刻骨铭心的体认。它可以将这些经历化为源泉，生发出对人工智能根本性的新构想——去殖民化的构想。

“在人工智能的全球市场中，我们作为一个国家扮演着特定的角色：为这项技术的发展提供原材料，“他说，“许多公司正试图从我们这里攫取大量资源来创造人工智能。

“因此，我们需要从这个位置出发来思考——这个地缘政治位置，这个大地上的位置。我们可以思考另一种将技术创新与大地相联结的方式。”

这是一种高尚的抱负，而与之对垒的力量，却极为强大。

13 两位先知

2023年5月，Altman抵达华盛顿特区，在国会出席听证。这是一场令人叹为观止的表演。他重申了AGI将解决气候变化、攻克癌症的承诺，就OpenAI的技术将如何改善并创造出"美妙"的新工作岗位提出了有力论据，对版权争议及训练数据透明度和隐私保障缺失等质疑则一一回避，同时发出了真诚的监管呼声——当然，是经OpenAI认可的那种监管，并祭出中国这张牌，敦促立法者不要阻碍本国的技术创新。

参议员们对他倾心不已。有一段对话颇能说明问题，既展示了Altman灵活的话术，也折射出他所赢得的信任与热情：他提出了三项政策建议，将讨论的焦点从劳工、环境、知识产权等现实问题，引向对未来AI系统和极端风险的监管。第一，设立一个机构，针对能力超过某一阈值的模型制定并实施许可制度；第二，制定一套用于衡量"危险"能力的AI安全标准；第三，对上述标准要求独立审计以核查合规情况。他随后进一步说明，必要时能力阈值可以算力阈值近似替代，而"危险能力"可以涵盖模型操纵和说服他人的能力，以及生成新型生物制剂配方的能力。

“如果我们颁布这些规则，您是否有资格来执行？“路易斯安那州参议员John Kennedy问道。

“我很喜欢我现在的工作，“Altman在笑声中答道。

“外面有没有具备这种资格的人？“Kennedy追问。

“我们很乐意向您推荐合适的人选。““好。您赚了很多钱吧？““我赚的——没有。我的薪水够买医疗保险。我在OpenAI没有任何股权。”

坐在Gary Marcus旁边，Altman甚至赢得了这位最直言不讳的批评者的认可。“我想在记录中补充一点：我坐在Sam身旁，这是除了一次之外，我这辈子离他最近的时刻，“Marcus说，“他的真诚……在现场能够切实感受到，而这种感受在电视屏幕上根本无法传达。"（Marcus后来收回了这难得一见的赞许：“我意识到，我、参议院，乃至整个美国人民，很可能都被耍了。"）

Altman的筹备团队认为这是一次响亮的胜利。这次听证会，不过是一场漫长攻势的点睛之笔。ChatGPT发布后，华盛顿几乎所有人都迫切地寻求与OpenAI会面。Anna Makanju领导下的小型政策团队，此前一直在相对低调地运作，如今却收到了雪崩般的拜访请求。此后数月，无论Altman是否在场，他们日夜奔走、几乎不曾停歇：与政策制定者共进晚餐、安排演示、解答疑问，并将Altman在证词中提出的那套立法方案，送到尽可能多的人手中——从参议员、众议员、国会幕僚、内阁成员，到来访外交官、各机构负责人，乃至副总统Kamala Harris。

据《纽约时报》报道，到六月初，Altman已亲自与至少一百名美国立法者会面，其中一些人在听证会上还骄傲地提到了与他的私下交流。

Altman出席作证那天，一小群好莱坞概念艺术家也安排了与几个国会办公室的会面——这些艺术家专门从事电影中角色、道具及视觉元素的概念设计。他们众筹了机票和住宿，在此过程中因公开反对AI行业而遭到网络喷子威胁和人肉搜索。彼时好莱坞编剧正在举行历史性罢工，演员工会的罢工也即将展开，诉求之一便是争取更有力的AI保护条款。这群艺术家同样打算直言不讳地讲述生成式AI已经对他们这个行业造成的毁灭性冲击。生成式AI开发者未经许可，以数以百万计的艺术家作品训练模型，由此建立起价值数百亿美元的商业帝国，而这些产品如今正在实质性地取代艺术家本身。那些正在消失的工作，是扎扎实实的中产阶级饭碗——多达数十万个。“艺术家们现在非常痛苦，根本没有工作可接，“Karla Ortiz说。她是以漫威影业《奇异博士》而广为人知的概念艺术家，是此次进京团队的成员之一，也是对多家生成式AI公司提起诉讼的首批艺术家原告之一。

当他们抵达华盛顿时，原定的几场会面因Altman的听证而被迫推迟到次日，行程被打乱，他们只能在听证会举行的会议室外走廊里踱步——字面意义上的被拒于门外。第二天，他们再度面临争夺注意力的困境。Altman正在国会大厦出席一场与六十名众议员的私人晚宴，享用精心准备的自助餐和烤鸡。与此同时，艺术家们则在举办一场互动鸡尾酒会，用他们预算所能承受的最好招待，吸引着前来的国会幕僚：葡萄酒，以及Chick-fil-A。

这是一个虽小却带着黑色幽默意味的缩影，折射出在AI政策的对话桌上，谁握有权力与话语权，谁又只能徘徊在外。

奥特曼长期在 OpenAI 内部用来为隐瞒研究、全速推进辩护的那套叙事，如今被他娴熟地运用到引导美国 AI 监管讨论上——朝着那些既能规避 OpenAI 问责、在某些情况下还能巩固其垄断地位的方向。硅谷那张屡试不爽的"中国牌”，向来能有效抵挡监管压力。如今它比任何时候都更有杀伤力：TikTok 的惊人崛起进一步助燃了华盛顿对中国的忧虑，这股恐惧情绪正攀升至新高。

商务部的氛围最能说明这种恐惧——该部门已成为美国政府遏制中国 AI 发展这场强硬攻势的排头兵。2022 年 10 月 7 日，商务部发布了一项据称旨在削弱中国 AI 军事能力的指令。借助出口管制这一机制——即以国家安全为由限制向外国出售特定技术——商务部在毫无预警的情况下，对以英伟达（Nvidia）芯片为主的美国尖端 AI 芯片对华出口实施管控。这一举措波及范围远超中国军方，令整个中国科学界和 AI 产业措手不及，从医疗健康、教育应用到中国版 ChatGPT，几乎无一幸免。“如果五年前有人告诉我会出台这样的规定，我会说那是战争行为——我们必然已经处于战争状态，“一位半导体分析师说道。

审视事态后续，商务部似乎对中国表现出的韧性深感沮丧。中国 AI 发展与应用的步伐有所放缓，但远不足以让该部门释怀。部分原因在于英伟达自身的腾挪之道：中国是这家美国芯片巨头的庞大市场，商务部的管控措施刚一落地，英伟达便迅速设计出恰好符合规定的新型芯片，以维持对中国客户的销售。这一禁令同时也为中国本土芯片产业注入了动力——后者长期以来苦于无法生产出与英伟达同等水平的芯片。美国政府的举措激起了国内替代方案的投资热潮，为该产业的突破提供了大量资金支持与市场反馈。

然而，对商务部努力形成最大挑战的，是生机勃勃的跨国开源 AI 运动。这场运动正在快速复制封闭式企业生成式 AI 模型，并将其发布到互联网上供任何人下载使用。在奋力追赶之后，Meta 已成为免费发布大语言模型的主导力量。这家公司长期以来是开源开发的倡导者；首席科学家杨立昆始终相信开放科学的重要性。这也是精明的商业决策。Meta 无需靠销售生成式 AI 模型盈利，但将免费模型对外开放、同时将其融入核心产品，既能确立 AI 领域的领导地位，也能吸引顶尖科研人才，还能借此挖苦那些依赖售卖模型为生的竞争对手。

Meta 积累的算力资源已与 OpenAI 借助微软（Microsoft）所掌握的规模相当，如今正全速推进其 GPT 系列的对标产品——Llama。严格而言，Llama 并不符合开源的真正定义，后者要求同时发布模型权重与训练数据。但 Meta 仅凭第一点——免费公开模型权重——便已足够：尽管其政策明确不在中国直接提供 Llama，这款模型依然成为中国 AI 产业不可或缺的基础构件。

就在华盛顿弥漫着沮丧与恐惧的氛围之中，一份与奥特曼建议高度呼应的政策白皮书，在其 2023 年 7 月听证会两个月后问世。这份白皮书由一个研究者联合体撰写，成员涵盖 OpenAI 安全团队、微软（Microsoft）、谷歌（Google）DeepMind，以及十余家智库——其中许多与末日论（Doomer）社群渊源颇深。白皮书再度呼吁：以算力阈值为基准，为 AI 模型建立新的许可证制度；并针对危险能力开发 AI 安全评估，包括操纵与说服能力，以及合成新型生物武器配方的能力。这份长达五十一页的文件还为需要政府干预的模型类别正式命名：“前沿"AI 模型。按照作者的表述，具有上述危险能力的前沿模型目前尚不存在，但随着 OpenAI、Anthropic 等公司对现有模型投入更多算力进行规模化扩展（scaling），这类模型随时可能突然涌现，令人猝不及防。

白皮书发布后数周之内，OpenAI 与微软（Microsoft）联手谷歌（Google）和 Anthropic，共同创立了前沿模型论坛——这是一个旨在推动相关研究、影响 AI 安全风险政策议程的联盟。这是一个罕见的议题，让末日论者（Doomer）、繁荣论者（Boomer）与以利益为驱动的企业利益汇聚一处：将前沿模型置于政府监管讨论的核心，对末日论者而言是意识形态上的必然选择，对繁荣论者和企业而言则是一种便利，可借此转移外界对现有 AI 模型及其问题的监管注意力。各方也都借助反对开放尖端模型权重的立场推进自身议程。论坛成立首年，Meta 的缺席格外引人注目。（一年后，Meta 加入其中，以期在桌上占有一席之地。）

奥特曼建议的核心，也是前沿模型概念的核心，在于将模型规模与涌现能力——以及由此可能引发的危险——联系起来。这一论点根植于缩放定律的理念——更多的训练算力应当可预见地带来更强大的模型——以及末日主义者圈子中普遍持有的信念：高度先进的 AI 有可能失控。由此衍生的政策提案，核心在于监管机构依据训练深度学习模型所耗用的算力来进行干预：一旦模型跨越某一算力门槛，便应自动受到更多审慎对待，并被施以更严格的限制。

2023年7月发布的政策白皮书为这一门槛给出了一个具体数字：10²⁶次浮点运算——即一个模型若要被列为前沿模型，训练时所需完成的最低运算总量，也就是1后面跟二十六个零。作者们承认，这一门槛在某种程度上是随意设定的，仅仅说明这是现有 AI 模型大概率尚未突破的算力水平。大语言模型开发商 Cohere 的研究副总裁、白皮书联合作者之一 Sara Hooker 表示，与提出这一数字的合作者交流后，她认为他们选定此数字，是为了让它略高于 OpenAI 据报道训练 GPT-4 时所使用的算力量。

然而，Hooker 与包括 Deborah Raji 在内的许多研究者，都不认同以算力门槛来规范模型的做法。规模扩大固然可能带来更强的能力，但反命题并不成立：强大的能力并不依赖于规模。例如，一个仅在高质量生物学数据上训练的深度学习模型，在极小规模下便可成为极具威力的生物配方生成器。通过蒸馏——OpenAI 在其2021年研究路线图中提及的技术之一——大型模型也可以被压缩为具有相似能力的小型模型。规模化扩展（scaling）同样无法保证特定能力的提升；这再次取决于模型的训练数据内容，以及所训练的神经网络类型。归根结底，并非所有模型都基于 Transformer 架构。因此，算力与风险的相关性其实微乎其微，Hooker 表示，更遑论白皮书中列举的那些特定类型的风险了。

白皮书的联合作者们，对以算力为核心的监管框架和具体门槛均未达成共识，于是那个数字——10²⁶次浮点运算——被放入脚注和附录，未附任何论据，并附有大量说明，指出门槛方案是一种极不完善的做法。令 Hooker 震惊的是，不仅这套框架，就连这一精确数字，都迅速跻身最受追捧的政策提案之列。这份白皮书直接触动了华盛顿对中国的忧虑，从而在政界赢得了大量认同。“前沿模型"听起来令人生畏，若是北京掌握了这些模型，则更是如此。“政府的一些部门正在抓住一切可以抓住的东西，因为他们想有所行动，“时任安全与新兴技术研究中心（CSET）研究员的 Emily Weinstein 在2023年底对我说。

白皮书的理念在商务部获得了积极回应。工作人员迅速行动，与专家展开磋商，探讨管控前沿模型的具体方案，以及将其阻于北京之外是否切实可行。不久，商务部便开始讨论一项史无前例的提案：将 AI 出口管制的范围从硬件扩展至软件本身，通过禁止出口超过算力门槛的 AI 模型来加以实现。换言之，商务部正在评估能否阻止模型权重被上传至互联网并广泛传播。

值得注意的是，Marcus 与同样出席作证的 IBM 副总裁 Christina Montgomery 的一项核心建议，尽管在听证会上反复提及，却几乎未能引发同等关注：强制要求企业披露其模型训练数据的具体内容。就华盛顿所担忧的向北京输送更强能力而言，这一做法影响甚微，却能在一系列问题上对企业问责形成真正约束，包括版权材料的使用、用户数据隐私，以及对模型能力的严格科学评估。“如果我们不知道里面有什么，就无法确切知道它们的表现，“Marcus 曾如此说道。我们只能凭一纸声明去相信某家公司。

这一做法同样可以大幅消弭围绕危险能力是否会涌现、以何种方式涌现的不确定性——原因与算力难以预测风险如出一辙：深度学习模型的行为，首要且根本地取决于其训练数据。如果一家 AI 开发商生产出能够生成生化武器配方的大语言模型，“那是因为他们用包含生化武器相关信息的数据集来训练了它，“AI Now 研究所联席执行主任、美国联邦贸易委员会（FTC）前 AI 高级顾问 Sarah Myers West 表示。一如既往，神经网络不过是在提取其训练数据中的规律。公开这些数据，将是在科学层面厘清何种输入可能导致危险输出的第一步。

商务部就限制模型权重的提案征询各路专家意见，其审议结果将于2024年初以公开征求意见的形式对外公布——消息一经传开，便将 AI 开发社区与迅速壮大的 AI 政策社区一分为二。这场交锋的核心，是封闭与开放之争，技术民族主义与无国界科学之争。封闭派除前沿模型论坛的成员及更广泛的末日论圈子外，很快又争取到了美国国家安全与情报系统的背书。与之抗衡的，是 Meta、开源 AI 开发者、初创企业、公民社会团体以及独立学者。

封闭派延续着 OpenAI 高管多年来对内使用的诸多论点，而开放派则反驳说，将模型封锁起来弊远大于利。Weinstein 指出，生产新型生物武器的瓶颈，从来不在于获取配方——此类配方在网上早已泛滥，用谷歌（Google）轻而易举就能找到，难点在于获取实际制造武器所需的材料与设备。因此，限制所谓前沿模型的访问，对解决这一问题几乎毫无助益；而压制 AI 模型公开发布所带来的附带损害，却可能动摇美国 AI 创新的根基。开源——将代码与软件发布给更广泛社区并允许在此基础上构建——长期以来是众多美国初创企业繁荣生长的基石。限制模型权重的发布，将使小型开发者构建自有 AI 产品和服务的途径愈发逼仄，进一步巩固前沿模型论坛所代表的巨头们的垄断地位。

AI 模型也将愈发难以接受外部审查，例如 Sasha Luccioni、Yacine Jernite 和 Emma Strubell 的研究工作——她们长期依赖开放的生成式 AI 模型，量化持续扩展这些模型所带来的碳排放与环境成本。

从若干关键角度来看，跨国界的广泛开放合作不仅不构成国家安全威胁，反而在相当程度上强化了美国的 AI 领导力。作为全球培养 AI 人才和产出 AI 研究最多的两个国家，中美两国长期以来互为彼此在 AI 领域的第一大合作伙伴。十余年间，两国的科学家和创业者相互借鉴，推动这一领域及大量应用以远超任何一方单独为之所能达到的速度向前演进，惠及的不仅是两国自身，更包括全球众多国家。最广为人知的例证之一：ResNet——当今世界应用最广泛的神经网络之一——由微软（Microsoft）北京办公室的中国研究人员发布。ResNet 不仅是计算机视觉、语音识别和语言系统的重要基础，也是 DeepMind 第一版 AlphaFold 的核心组件。AlphaFold 于2018年发布，能够根据氨基酸序列预测蛋白质的三维结构，对加速药物研发和理解疾病机制至关重要。（DeepMind 此后在 AlphaFold 上的进一步突破——采用了不同的神经网络架构——使德米斯·哈萨比斯与 DeepMind 另一位资深研究科学家共同斩获2024年诺贝尔化学奖。）

然而，2023年10月，封闭派所倡导的理念迎来迄今最强有力的背书，出现在拜登政府的 AI 行政令中。这份行政令篇幅极长，堪称历史之最，读来像是由截然不同的群体分头撰写后强行拼凑而成——事实也正是如此。其中一份底稿源自该政府2022年发布的《AI 权利法案蓝图》，白宫通过与公民社会团体的长期协商精心拟就，旨在勾勒 AI 如何在推进公民权利、种族正义和隐私保护的前提下得到发展、使用与约束。该文件的要点包括：推动 AI 发展广泛吸纳社区与专家的参与、应对 AI 在医疗和招聘等场景中的歧视性影响，以及保护个人免受未经同意的数据收集之害。

另一份底稿，则是奥特曼的政策建议与前沿模型白皮书框架的高度忠实复现——这份文件在最后时刻被匆匆附上，起因是白宫内少数对末日论意识形态抱有同情的人被这份白皮书深深吸引。白皮书强调应将重点放在尚不存在的未来 AI 模型上；行政令随后将其近半篇幅用于论述此类模型。白皮书列举了四类危险能力，行政令保留了其中三类：生成新型化学、生物、放射性及核武器（CBRN）配方、自动化网络攻击，以及——几乎原文照搬——通过「欺骗与混淆手段」规避人类控制。

令 Hooker、Raji 以及许多其他 AI 研究者深感忧虑的是，白皮书中具体的算力阈值——10²⁶次浮点运算——也原封不动地出现在行政令中，作为模型须向美国政府报告的门槛。

有了这样的背书，算力阈值这一路径迅速蔓延开来。年底前，欧洲率先跟进，将阈值定为10²⁵，略为严格——彼时，推动《欧盟 AI 法案》这部酝酿已久的立法的议员们，被突如其来的生成式 AI 浪潮打了个措手不及，急于寻找应对之策。2024年初，这一思路又扩散至加利福尼亚州，随着一项名为 SB 1047 的 AI 安全新法案的提出，阈值重回10²⁶。加州州长加文·纽森（Gavin Newsom）随后否决了该法案——颇具讽刺意味的是，OpenAI 及其他模型开发商曾大力游说反对该法案，理由是其中还包含大量其他问责条款。许多人批评纽森向产业利益低头。但在包括 Hooker 和 Raji 在内的若干研究者看来，这次否决不失为值得欢迎的进展。「这是朝着正确方向迈出的一步，确保我们以科学共识为锚，」Hooker 说，「关于为何选择这个数字、你希望防范哪些风险，仍有大量问题有待解答。」

这整套事件序列——Altman的国会证词、白皮书、全面的政策游说攻势、华盛顿对中国威胁的过度反应，以及将算力门槛仓促写入美国及海外重要政策文件——深刻揭示了一个现实：独立的AI专业知识已萎缩到何种程度。就在此前一个月，即2023年9月，Raji发现自己是在场唯一一位既无业界资金背景、又与"末日论"社区没有财务关联的学术人士，与Altman、马斯克、纳德拉、盖茨、扎克伯格、皮查伊和Jack Clark等一众科技高管同席出席国会听证。他们都出席了参议员查克·舒默"AI洞察论坛"的首场活动——这是当年最受瞩目、最具影响力的系列政策论坛之一，旨在推动AI立法落地。当她的同台证人们滔滔不绝地抛出一个又一个毫无依据的AI前景与风险论断，不时点缀着经过精心拿捏的"超越中国"说辞——每逢此时，与会参议员们便不禁挺直了腰背——令Raji最为震惊的，是台下那么多听众似乎对这一切照单全收。

她这才恍然意识到，坐在她身旁的那些人及其庞大的政策团队，已经在华盛顿垄断话语权太久，许多政策制定者如今将这套叙事奉为圭臬。事后，一位舒默发言人公开透露，参议员在推进监管立法的过程中，曾亲自就相关议题向Altman及其他OpenAI高管问询请教。“这对我来说是一个巨大的顿悟，“Raji说，“原来，我们需要更多人站出来拆穿这些说法——审视人们的言论，直言：‘现实远比这复杂。’”

华盛顿之行不过是奥特曼政策公关攻势美国段的高潮。同年三月，他在推特上宣布计划出访、与用户见面，此后这趟旅程便演变成一场横跨多城市、多大陆的漫漫征途，他似乎要与G20每一位总统悉数合影留念。这趟旅程有了新的称谓：山姆·奥特曼的世界巡回。

世界巡回并非出自OpenAI公关或政策团队的整体战略。奥特曼只是选好了最初几站，便一股脑发给了逾150万的推特粉丝。头几次亮相之后，关注热度滚雪球般失控，公关和政策团队才被拉入其中。每增加一段新行程，两支团队就得手忙脚乱地安排后勤，提心吊胆地应对因准备不足而必然涌现的各种麻烦。

这是一种始终存在的动态的体现：奥特曼我行我素。有时他的走向与公司一致，有时则不然。GPT-4发布期间，OpenAI精心策划了所有公告和宣传，将这一项目呈现为全公司通力合作的成果。该模型凝聚了逾百名员工的心血，官方公告的署名只是"OpenAI”。然而奥特曼随即发推，将功劳归于一人：Jakub Pachocki。Pachocki固然发挥了重要作用，但他不过是项目十八位负责人之一。他的贡献真的如此独一无二吗？一些员工心存疑虑。此后奥特曼更进一步，安排Pachocki坐在自己身后，陪同出席华盛顿的参议院听证会。

这种动态还以其他方式显现：公司设有正式的高管团队，但外界始终不清楚奥特曼究竟在听谁的意见，也不清楚引导公司战略的究竟是正式流程与决策，还是他的个人关系与一时兴起。

随着OpenAI迅速走向专业化，曝光度与外部审视与日俱增，高层的这种混乱正变得愈加影响深远。公司已不再只有应用部门和研究部门，如今对外的职能部门多了好几个：除公关团队外，法律团队在起草法律意见书，应对数量日增的诉讼；政策团队的触角延伸至多个大陆。OpenAI越来越需要以统一的叙事和声音面向各方，也需要在对外表达立场之前先确立自身立场。然而在许多场合，战略方向的缺失正导致混乱的对外信息。

2023年底，《纽约时报》以版权侵权为由起诉OpenAI和微软（Microsoft），指控两家公司使用其数百万篇文章训练模型。OpenAI法律团队于一月初撰写的回应异常强硬，指责《纽约时报》“蓄意操纵我们的模型"以生成对己有利的证据。同一周，OpenAI政策团队向英国上议院通信与数字特别委员会提交书面意见，称若无版权材料，OpenAI将"不可能"训练其前沿模型。“不可能"一词随即引发媒体聚焦，OpenAI随后匆忙撇清这一措辞。

“始终有太多混乱，“一位供职于对外职能部门的员工说。他补充道，虽然部分混乱反映的是初创公司成长期的典型阵痛，但OpenAI的影响力和覆盖范围早已远远超出公司相对早期的发展阶段。“我不知道最高管理层是否有战略优先级。老实说，我觉得大家都在各自做决定，然后突然间看起来像是一个战略决策，其实不过是一个意外。有时候与其说有什么计划，不如说纯粹就是一片混乱。”

随着 Altman 马不停蹄地奔走于欧洲、拉丁美洲、中东、亚洲和非洲之间，在精心筛选的学生、科技投资人与粉丝面前大放异彩（偶有几次也引发不快），OpenAI 内部由来已久的裂痕却在战略方向的缺失中愈演愈烈，公司正以前所未有的速度向两个极端滑去。

一方面，应用部门仍然冲在最前线，面对数量空前的竞争对手，竭力以最快速度部署 OpenAI 的技术。此时膨胀中的各业务部门也纷纷加入助力，研究部门里同样有许多人深受激励——在他们看来，舆论与期待的急剧升温正说明推进和发布 OpenAI 的模型才是实现公司使命的正途。

另一方面，安全阵营分散在研究部门各处，其中相当一部分人仍聚拢在 Miles Brundage 的政策研究团队和 Jan Leike 的对齐团队里，而他们在人数上已经大幅缩水，沦为少数派。为弥补规模上的劣势，他们比以往任何时候都更大声地敲响警钟，警示那些他们认为随时可能降临的危险能力与存在性风险。随着 OpenAI 模型能力的持续跃升，研究部门中一些此前并未认同安全阵营的人，也开始陆续站到这一边——加速涌现的能力让他们转变了信念：AI 或许真的能够达到某种智能水平，足以颠覆人类的掌控并走向失控。对这一阵营而言，同样是那股急剧升温的舆论与期待，意味着 OpenAI 负有道义上的责任，必须以最大限度的审慎行事，方能不负使命。

这正是"加速派"与"末日派"在 OpenAI 内部的现实写照。分歧一直蔓延至领导层。在 DALL-E 和 ChatGPT 推出之后，多数高管和资深管理者已日益相信，模型是可以通过"迭代部署"向世界输送的有益工具——“迭代部署"是 OpenAI 在历次发布之间造出的新词，用以描述其新思路。与 GPT-2 的分阶段发布或 GPT-3 受控的 API 发布不同，迭代部署意味着全力押注——尽早、频繁地将模型交到用户手中。一如过去所有部署策略，OpenAI 再次提出了新论据，声称这是当下最为稳妥的做法。Altman 和其他高管认为，迭代部署能让人们和机构有时间从容适应，同时也让 OpenAI 得以在真实用户身上检验模型、收集真实反馈并持续改进产品。“秘密研发一个超强 AI 系统，然后一夜之间把它砸向世界，我认为这不会有好结果，“Altman 在参议院作证时曾如此说道。

然而，若说 OpenAI 有哪位领导者并未随众而行，那便是 Sutskever。随着模型能力的不断提升和部署影响的持续加速，他认为公司需要提高而非降低对其潜在破坏性后果的警惕。GPT-4 问世之后，此前将大部分精力投注于提升模型能力的 Sutskever 突然急转弯，将目光转向 AI 安全。他开始将时间对半分配。在周围人看来，他有时仿佛处于内心的交战之中——他既是加速派，又是末日派：对 AGI 的到来既比以往更加兴奋，也比以往更加恐惧，因为他意识到 AGI 可能迅速超越人类，演变为超级智能。

Sutskever 如今的言谈愈发带着弥赛亚式的色彩，令昔日好友面面相觑，也让其他员工忐忑不安。在一次与新入职研究员的会议上，Sutskever 阐述了他为迎接 AGI 所构想的方案。

“等我们都进了掩体——“他开口说道。“抱歉，“一位研究员打断他，“掩体？““在我们发布 AGI 之前，我们肯定会建一个掩体，“Sutskever 一本正经地回答。如此强大的技术必将成为全球各国政府竞相觊觎的对象，可能激化地缘政治紧张局势，而研发这项技术的核心科学家将需要得到保护。“当然，“他补充道，“要不要进掩体，将是你自己的选择。”

那位研究员此后对 Sutskever 始终保持着一份敬重，却也刻意与其保持距离。“有一群人——Ilya 便是其中之一——相信建成 AGI 将会带来一场天启。字面意义上的天启，“他说。

Sutskever 继续将时间分给对齐工作，一个新的想法也开始在他与 Altman 之间萌芽：组建一支专门针对超级智能开发新对齐方法的团队，以应对他们预判中的未来——一旦系统能够在他们看来胜过人类，基于人类反馈的强化学习（RLHF）等方法将不再奏效。Altman 将其称为"对齐曼哈顿计划”。起初，两人曾讨论将其独立拆分为另一个机构：一家拥有 10 亿美元启动捐款的独立非营利组织。部分因为 Sutskever 不愿离开 OpenAI，部分因为模型访问权限的问题，他们最终决定将这一项目留在公司内部。OpenAI 随后在一篇博客文章中宣布成立新团队，并为该计划冠以新名——超级对齐。文章同时宣布了一项引人注目的承诺：将 OpenAI 迄今获得的计算资源中的 20% 专项拨给该团队。Sutskever 与 Leike 将联合领导这一新项目。

在另一次全员会议上，Sutskever 走到台前，向员工介绍这支新团队及其目标。他拿起麦克风，开始有节奏地敲击。砰。砰。砰。

“对齐是一团燃烧的火，“他说，“超级对齐，是熊熊的烈焰。”

此后不久，公司规模持续扩张，已撑爆了疫情后搬入的那座绿植丛生、喷泉环绕的 Mayo 办公楼，高管们将研究部门的大部分人马迁回了旧时的 Pioneer 大楼。这次搬迁在很大程度上将公司一分为二——应用与安全，各自偏安一隅。

2023年7月，就在OpenAI公开超级对齐团队成立消息后不久，公司包下旧金山市中心Metreon影院，组织员工集体观看电影《奥本海默》——这部影片讲述了物理学家J·罗伯特·奥本海默领导美国曼哈顿计划、制造出人类第一颗核武器的故事。

“我曾希望《奥本海默》能激励一代年轻人投身物理学，但它在这方面差得太远，“阿尔特曼在推文中写道。“我们来拍那部电影吧！（我觉得《社交网络》对创业者确实做到了这一点。）”

将近八年来，阿尔特曼在最初写给马斯克的邮件中所做的那个比喻——将OpenAI比作曼哈顿计划——始终是公司内部挥之不去的意象，甚至在新员工入职培训中也频繁出现。阿尔特曼对此情有独钟。他与奥本海默同一天生日，逢记者采访便会提及。他也喜欢套用这位原子弹之父的信念：“技术之所以发生，是因为它处于可能性的范围之内。“他似乎从不提起，奥本海默的后半生深陷悔恨，毕生奔走于反对自己造物传播的事业之中。

不同的员工对这个比喻有各自的解读。大多数人将曼哈顿计划视为一项英雄壮举：它代表着以高度集中的人才与资源，抢在危险对手之前完成改写历史、拯救世界的技术突破。在安全派看来，这个比喻则凸显了OpenAI引领一项可能威胁人类存亡之技术所肩负的沉重责任。

对阿尔特曼而言，它代表的是一堂公关课。他曾在多年前的一次活动上说：“世界认识核能，靠的是一个任何人都无法忘怀的画面——日本上空腾起的蘑菇云。我一直在思考，世界为何会对科学产生抵触，而我愿意相信的答案之一，正是那张图像：我们由此得知，也许有些技术强大到不该落入人手。人们对影像的信服程度远胜于事实。”

那些处于AI安全光谱极端位置、p(doom)值最高的人，对阿尔特曼和公司其他人看待这段历史时流露出的、看似毫无复杂性的乐观态度越来越感到不安。OpenAI曾经也组织观看了纪录片《阿波罗11号》，记录了美国阿波罗计划将人类首次送上月球的历程，而这也是硅谷另一个惯用的类比。“如果你可以说’阿波罗计划’，为什么要提曼哈顿计划？为什么要背上那些历史包袱？“一位极端末日论者说道。

《奥本海默》中有一个场景让他久久难忘：在"三位一体"核试验——人类史上第一次原子弹引爆——开始前的那一刻，由 Cillian Murphy 饰演的奥本海默估算出核弹引发世界毁灭的概率"接近于零”。

“接近于零？“由马特·达蒙饰演的莱斯利·R·格罗夫斯少将难以置信地反问道。

“仅凭理论，你还想要什么？“奥本海默说。“零就很好，“格罗夫斯说。“这和我们现在的处境如出一辙，“这位极端末日论者说，“我们根本无法对这些 AI 做出任何测算。”

随着 OpenAI 持续推进研究，曼哈顿计划这一比喻对某些人开始有了新的含义。

大语言模型的进步速度随着数据和算力的耗尽而放缓，研究部门随之将重心更多地转向 AI 智能体的开发。这一思路在业界日益流行，本质上是重回"纯语言"与"基础落地"两种假设之争。纯语言路线已近强弩之末，语言与视觉的结合同样如此。在许多 AI 研究者看来，下一阶段的进步或许需要依靠能够在真实世界中采取行动、并从环境中收集反馈的智能体。在 OpenAI 内部，这种能力也被视为获取竞争优势的途径。一个能与你聊天的 AI 助手固然不错，但一个能自动完成发送邮件、编写网站代码等复杂任务的 AI 助手则更胜一筹——不仅具有极高的商业价值，还能加速公司自身的研发进程。

研究部门中最雄心勃勃的项目，是一个名为"AI 科学家"的系统——旨在构建一个能够自主开展科学研究的智能体。由于互联网和教科书中可供抓取的新"知识"或数据日趋匮乏，参与该项目的研究人员寄望于这位自主"科学家"能通过运行实验来自主生成知识。该团队由两支队伍合并而成：一支是此前专攻代码生成、主导 Codex 研发的团队，另一支则试图将海量数学题及其解题过程作为结构化数据集，训练模型掌握逐步推导的逻辑能力。编写代码与解决数学问题这两种能力，看起来都是开展实验、分析数据的良好基础。

Jakub Pachocki 与 Szymon Sidor 共同领导这一项目——他们的目标不仅是打造一位自主科学家，更是按照 Altman 的愿望，专门打造一位能帮助 OpenAI 大幅加速 AI 研发的自主 AI 研究员。

“AI 科学家"项目令 AGI 信奉者们既兴奋异常，又忧虑丛生：若该项目成功，AGI 的到来势必大幅提前。这意味着通往乌托邦或人类灭绝的时间线双双缩短。与 Sutskever 一样，部分研究人员开始在日常对话中提及"地堡”，甚至设想一种类似洛斯阿拉莫斯的安排：在美国某处偏远的荒漠中，一支精英 AI 研究团队将在安保严密的设施里生活和工作，以防范外部威胁。

到 2023 年，他们认为这些威胁已涵盖蓄意攻击和失控的 AGI 本身。安全团队在 Slack 上发布了针对 OpenAI 的威胁模型草案——与高管们曾争论是否应加强组织安全的那个年代相比，这份草案已大幅完善。草案将威胁分为三类：外国国家行为者、竞争对手，以及出于意识形态驱动的人员。

在第三类威胁下，草案附上了埃利泽·尤德科夫斯基的一篇文章链接。尤德科夫斯基是极端末日论者，也是 AI 安全社区的领军人物——他创造并推广了"友好 AI"一词，用以指代对齐良好的系统，还写了一部广受喜爱的同人小说《哈利·波特与理性方法》。这部连载小说共 122 章、逾 66 万字，将哈利重新塑造为一位受过严格训练的理性主义者，以此视角重新诠释他在魔法世界中的历程。这部小说对许多人而言是通往有效利他主义的入口，并由此引领他们走向更广泛的末日论思想体系。尤德科夫斯基还共同创办了博客 LessWrong——这是 AI 安全研究者凝聚社群、传播 AI 安全理念的核心平台。随着他对末日概率 p(doom) 的估算飙升至 95%，他在该平台上呼吁全面暂停 AI 开发的声音愈发充满警示意味。2023 年 3 月，他在《时代》杂志发表了一篇文章，讲述了目睹女儿掉落第一颗乳牙时的百感交集，以及她是否还有机会长大成人的忧思。他提出了一套强制终止 AI 发展的方案：关闭所有大型 GPU 集群，追踪 GPU 的销售情况，必要时对"流氓数据中心"实施空袭。OpenAI 的威胁模型草案将这篇文章作为鼓吹暴力的意识形态倡导者的例证加以引用。

OpenAI 内部有一小部分员工认同尤德科夫斯基非暴力立场，他们对草案单独点名他、却对不友好 AI 本身只字未提深感不满。在收到反馈后，安全团队增加了第四类威胁：失控的 AGI 系统。

随着 OpenAI 声望日隆，董事会却在不断失去成员，且始终未能补充新血。2023 年初以来，三位独立董事相继去职，部分原因在于 ChatGPT 所引燃的那场席卷全行业的生成式 AI 开发与商业化竞赛。

里德·霍夫曼是第一个离开的。他在董事会服务了五年，于二月以利益冲突为由辞职。前一年，他与已离开 DeepMind 的联合创始人穆斯塔法·苏莱曼共同创办了初创公司 Inflection，而该公司正迅速演变为 OpenAI 的直接竞争对手。

一个月后，Shivon Zilis 步霍夫曼后尘离开了董事会。她是马斯克最信任的副手、Neuralink 董事，马斯克脱离 OpenAI 后，她一直以他的名义继续参与监督，并于 2020 年正式加入董事会。管理层中早有人担忧，Zilis 会将公司敏感信息透露给马斯克，但她曾承诺，对 OpenAI 的保密义务优先于对这位遭嫌弃的前联合主席的忠诚。然而 2022 年 7 月，一则消息使她的立场变得极为可疑——她与马斯克生有一对双胞胎，却从未向其他董事披露。尽管如此，奥特曼仍曾设法留住她，理由令其他董事会成员费解。2022 年 10 月，奥特曼甚至就如何处理马斯克对 OpenAI 估值飞涨的明显不满一事向她寻求建议，彼时 OpenAI 的估值据报道已接近 200 亿美元。马斯克在提及自己对 OpenAI 初期资金的大量投入后，给奥特曼发短信写道：“这是挂羊头卖狗肉。“2023 年 3 月，马斯克成立了新的 AI 公司 xAI，成为 OpenAI 的又一直接竞争对手，Zilis 继续留任董事会一事终于走到了尽头。

第三位离开的是 Will Hurd，前共和党德克萨斯州众议员、前 CIA 官员，2021 年加入董事会。宣布任命时，奥特曼告诉员工，引入一位能够平衡硅谷自由主义偏向的人十分重要，随后还专门组织了一次会议，让心存疑虑的员工向 Hurd 直接提问。员工毫不客气，就各种议题对他展开追问，包括对唐纳德·特朗普的看法。2023 年 6 月，Hurd 离开 OpenAI，全力投入美国总统竞选。他最终于十月退选。

彼时，除奥特曼、Brockman 和 Sutskever 之外，董事会仅剩三位独立成员：Quora 联合创始人兼首席执行官 Adam D’Angelo、机器人学家 Tasha McCauley，以及 CSET 研究员海伦·托纳。

三人中，D’Angelo 最早加入董事会。他与扎克伯格是寄宿学校菲利普斯·埃克塞特学院的高中同学，曾担任 Facebook 首席技术官两年后创办了 Quora。2014 年，Quora 在奥特曼主持 YC 期间加入了第一批项目；2017 年，即 D’Angelo 加入董事会前一年，奥特曼追加了 YC 对 Quora 的投资，联合领投了一轮 8500 万美元的融资。在公告中，奥特曼称 D’Angelo 是「硅谷最聪明的 CEO 之一」，并说：「他目光极为长远，而这在如今的科技公司里已成稀缺品质。」

McCauley 于 2018 年晚些时候加入董事会。她是一位创业者，曾联合创办一家远程呈现机器人初创公司，并经营着一家三维城市仿真公司。她通过导师 Alan Kay 与奥特曼相识，也认识 Holden Karnofsky。McCauley 在 AI 安全社区颇受尊重，后来出任 AI 治理中心 AI 安全研究非营利组织的董事会成员，并曾一度加入 Effective Ventures 基金会董事会——该基金会是一家英国机构，负责管理颇具影响力的有效利他主义播客《80,000 Hours》。当时同在 OpenAI 董事会的 Karnofsky 提名了她，他当时正致力于寻找更多独立董事，以配合 OpenAI 向利润封顶结构的过渡。

托纳是 2021 年中期最后一位加入董事会的，同样经由 Karnofsky 提名。这一次，他是在自己三年任期届满、并参与创建 Anthropic 之际，为接班人物色候选人。托纳在成为中国议题与新兴技术领域的专家之前，曾与 Karnofsky 共事于 GiveWell 和 Open Philanthropy。她最初是通过有效利他主义运动接触到 AI 安全议题的，但此后与该运动渐行渐远。在 FTX 崩盘前，她在有效利他主义论坛上最受关注的帖子中写道，这一运动正变得日益教条、日益自我封闭，并表示自己「对 EA 的幻灭感与日俱增」。她仍在该圈子里备受推崇，也继续全身心投入更广泛的 AI 安全社区，与 McCauley 共同出任 AI 治理中心的董事会成员。

2023年夏末，董事会在遴选新独立董事一事上已陷入长达数月的僵局。在GPT-4演示之后，尤其是ChatGPT发布之后，为加强监督，McCauley启动了一项历时约一年的工作，包括访谈员工和公司外部的利益相关者，以明确改组后的董事会和更专业化的监督机制应有的面貌。

在这一过程中，包括阿尔特曼在内的全体董事一致认为，鉴于他们所感受到的公司能力所带来的日益上升的风险，下一位独立董事必须具备深厚的AI安全背景。此后，他们花费数月时间汇编候选名单，并对其中五人进行了面试，其中包括Dan Hendrycks——末日论者（Doomer）社群的核心人物，主持位于伯克利的AI安全中心，同时也是马斯克旗下xAI的唯一顾问。然而，就在独立董事们准备推进、从五位候选人中确定人选时，布罗克曼和伊利亚·苏茨克维尔分别对这些已经过审查的候选人提出了种种异议。阿尔特曼则一如既往地保持暧昧——他不明确反对任何选项，却也不推动任何一项向前。他还数次提出新候选人，而这些人有一个共同特点：全都深植于他的人际网络，无论在经济利益上还是其他方面，都处于他的影响范围之内。

在建立新监督机制方面——包括通过不同渠道提升董事会对公司安全与保密实践的可见度——独立董事们同样有着相似的感受：这些事务在阿尔特曼眼中并非要务。McCauley出任董事初期，阿尔特曼曾指定她担任董事会的员工联络人和代言人；此后，她定期举行办公室开放时间与员工会面。她甚至曾带着丈夫、演员Joseph Gordon-Levitt出席公司外出活动，他认真聆听了多场技术报告。但疫情期间，这类会面逐渐中断。此后，McCauley虽维持了一些定期会议，但开放的办公室时间始终未能恢复。

由于缺乏与员工系统性沟通的渠道，有关公司动态的信息开始通过独立董事们在AI安全和科技界的私人关系渗透上来。他们还依赖阿尔特曼本人作为获取重要信息的传导通道。令他们日益忧虑的，是阿尔特曼的表述与他们从其他渠道所听到的内容之间愈来愈大的落差。阿尔特曼惯于描绘一幅乐观的图景，而董事们却越来越频繁地从自己的消息来源处收到各种问题的报告：ChatGPT发布前准备不足、发布后持续的混乱；GPT-4发布前后挥之不去的AI安全隐患；以及OpenAI在尚未解决诸多问题的情况下，以前所未有的速度抢先推出新产品。

有一起事件尤为刺眼。2022年底，董事会举行了一次内部集会——这是原定每年一次的年会中的第一场——阿尔特曼在会上重点介绍了OpenAI在部署安全委员会（DSB）框架下为评估GPT-4部署而建立的完备安全与测试规程。会后，一位独立董事在与一名员工叙旧时，该员工提到DSB规程已经出现过一次违反。微软（Microsoft）曾在未经DSB批准的情况下，向印度用户进行了GPT-4的小范围推送。尽管那天阿尔特曼与全体董事在同一个房间里关起门待了整整一天，他却对这次违规只字未提。

虽然独立董事们没有理由认为任何不安全的内容已被公开发布，但微软如此轻率地违反规程、阿尔特曼又对此轻描淡写地一带而过，着实令他们不安。OpenAI的模型正沿着快速跃升的轨道前进；在他们看来，从AI安全的角度而言，模型能力很快便可能越过一个临界点——届时，类似违规或将引发潜在的灾难性乃至存在性后果。在他们眼中，阿尔特曼对微软违规行为的宽松态度，为他日后在模型发布风险不断攀升时如何对待AI安全流程，树立了一个危险的先例。

与此同时，阿尔特曼的其他行为同样令人忧虑。2023年3月，他在未抄送D’Angelo的情况下向董事会发送邮件，称认为D’Angelo应当辞职。他的理由是：Quora正在开发自己的聊天机器人Poe，构成利益冲突。这一说法来得突然，动机也颇为可疑。Toner、McCauley和D’Angelo都曾分别就OpenAI的安全实践、非营利机构的实力或其他议题向阿尔特曼提出过令他不快的问题。随着董事会中的盟友日渐凋零，在这三人看来，阿尔特曼似乎是在蓄意寻找借口，将其中一人驱逐出局。一位独立董事在回复邮件时予以反驳：与阿尔特曼长期容忍霍夫曼和Zilis存在的利益冲突相比，Poe不过是个程度轻微的冲突。阿尔特曼的提议未获通过；D’Angelo留了下来。

此后不久，D’Angelo在一次晚宴上听说OpenAI创业基金的架构颇为怪异。该基金向早期投资者提供优先使用OpenAI产品的渠道，这种优待本应是OpenAI自有投资者的专属待遇。当他第二次听到有人提及此事后，独立董事们向阿尔特曼施压，索要基金结构的相关文件。阿尔特曼最终提交文件后，董事们发现，这个基金的结构不仅"颇为怪异”——从法律上讲，该基金本应由OpenAI持有，如今却归阿尔特曼个人所有。

对独立董事们来说，每一起事件都指向同一幅令人不安的图景：阿尔特曼正在一点一滴地遮蔽他们的视线，以各种方式阻止董事会对他形成有效制衡。多年来，阿尔特曼一直将董事会有能力制衡乃至解雇他，标榜为OpenAI最重要的治理机制。事实上，此刻他正在全球各地大肆宣扬这一点，以赢得公众和各国政府的信任。

进入秋季，独立董事们在争取新董事会成员的谈判中毫无实质进展，士气跌入新低。随着时间一月月流逝，这些治理漏洞愈发紧迫。OpenAI即将着手训练GPT-5，“AI科学家”（AI Scientist）项目也在稳步推进。就在这时，10月初，Toner收到了一封意想不到的邮件：伊利亚·苏茨克维尔想和她谈谈。

14 解脱

在苏茨克维联系 Toner 的前几周，奥特曼正深陷一场公关危机。多年来，他妹妹与家人的疏离及其从事性工作的经历始终游离于媒体视野之外，如今这一切终于被公之于众。

2023年9月25日，《纽约》杂志特稿作者 Elizabeth Weil 发表了一篇关于山姆·奥特曼的人物专访，这是主流媒体首次提及安妮的存在。Weil 将安妮的生活细节——包括她反复遭受健康困扰、陷入严重经济困境、居无定所——与山姆坐拥数百万美元豪宅和豪华座驾的生活形成鲜明对比。“安妮·奥特曼？“Weil 在文章中写道，“读过奥特曼博客、推文、宣言《创业手册》以及数百篇关于他报道的读者，对 Jack 和 Max 不会陌生……安妮在山姆的公众生活中并不存在。她从来都不在这个圈子里。”

奥特曼事先知道这些细节即将曝光。文章发布前夕，恰逢犹太赎罪日，Weil 给了 OpenAI 一个就其报道发表评论的机会；《纽约》杂志也在核实事实的过程中与公司保持了沟通。居间协调评论请求、试图控制舆论走向的任务，落到了 Hannah Wong 身上——她当时已晋升为 OpenAI 传播副总裁，却突然发现自己成了杂志社与奥特曼家人之间的传话人，不禁开始思量，这究竟算不算她分内的工作。

专访发布前的最后一天，在安妮相关内容确定会被刊出之后，安妮收到了山姆的一封邮件。“嗨，安妮。赎罪日将至，我想向你道歉，请求你的原谅，“他写道。在安妮多次寻求援助期间，他感到夹在中间进退两难：一方面想顺从母亲的意愿，认同家人所说的安妮应当学会经济独立，另一方面又觉得安妮需要医疗帮助，正挣扎于正常生活的边缘。“即便如此，我还是做了错误的决定，本该一直支持你；我真诚地向你道歉，“他说。

ChatGPT 发布以来，奥特曼一直享受着几乎清一色溢美之词的公众待遇，而这篇专访的急转直下，加之他视为家庭隐私的痛苦往事被抖落至公众视野，令他深感压抑。文章引发的余波更是雪上加霜——安妮旧日推文中对山姆各种形式施虐的指控随之浮出水面，迅速在网络上扩散。对山姆而言，这是沉重而艰难的冲击；对安妮来说，却是一次不寻常的痛苦宣泄。多年来，除了健康问题与生活动荡叠加的重压，她还感到自己仿佛在向虚空呐喊，被抹去了存在的意义。

2024年，我主动联系了安妮，希望更深入地了解她的立场。我也直接联系了她的母亲康妮·吉布斯廷、她的兄弟 Max 和 Jack，以及通过 OpenAI 传播团队联系了山姆，寻求他们各自的陈述。安妮积极配合，渴望终于有一个平台来讲述亲身经历，她认为这些经历对于理解山姆的道德品格至关重要。她提供了与家人的大量往来信件、贯穿童年至成年大部分时期的身心健康档案，以及其他佐证材料，清晰呈现了她与家人决裂的经过及生活境况每况愈下的轨迹。

吉布斯廷发表了一份简短声明，强调家人对安妮的爱与关切，同时否认了安妮的指控，称其"骇人听闻、令人心碎，且与事实不符”。吉布斯廷拒绝进行更深入的交谈，也不愿就详细问题作出回应以阐明她对安妮陈述的看法，亦未回复我随后要求提供文件以支持其自身主张的请求。Max 和 Jack 均未回复。OpenAI 拒绝就具体内容置评。

2025年1月，安妮对山姆提起诉讼后，他、吉布斯廷、Max 和 Jack 联合发表了更为强硬的公开否认声明，将安妮描述为精神不稳定、无理索要钱财，并称其指控"随时间推移发生了剧烈变化”。“当她拒绝接受常规治疗，并向真心试图帮助她的家人恶言相向时，我们感到尤为心痛，“他们表示。

通过与安妮的多次交谈及她提供的文件，一幅复杂的图景逐渐浮现：正是这段跌宕起伏的经历，促使她先在推特上公开指控，继而提起诉讼，并将个人生活细节分享给 Weil 的专访报道。关于家人许多决定背后的完整缘由，我未能获取；安妮部分指控的真相——尤其是山姆据称在她童年时期对她实施性虐待的指控——已无从证实。但她的故事在我看来，是贯穿 OpenAI 更宏观叙事的诸多主题的一个缩影，也帮助我更深刻地认识到：OpenAI 在多大程度上是那个掌舵者本人的镜像与延伸。安妮坚持不懈地将自己的声音纳入历史记录的努力，很快演变为一个公司层面的问题。有关安妮的报道，也许比任何其他类型的新闻都更能触动山姆的神经，将 OpenAI 传播负责人 Hannah Wong 卷入他压制舆情蔓延的努力之中。这还以另一种方式成为公司层面的问题：在安妮的指控首次浮出水面之时，OpenAI 其他高管也注意到了这一切。

安妮与山姆相差九岁，但两人在很多方面都惊人地相似。与山姆亲近的人形容他的许多词语，在安妮身上同样有所体现：她是出色的倾听者；她记得别人最微小的细节；她有几分呆萌，极为慷慨，而且极易赢得他人信任。

与山姆一样，她在学业上也出类拔萃。在奥特曼家的兄弟姐妹中，她是另一个从巴勒斯中学毕业的人，给物理老师 James Roble 留下了深刻印象——十多年后，这位老师仍对她念念不忘，记得她是一个阳光而才华横溢的学生。大学期间，她就读于塔夫茨大学，主修生物心理学，辅修舞蹈。2016 年毕业后，她完成了医学预科的必修课程，期待有朝一日进入医学院深造，并搬到旧金山湾区，在加州大学旧金山分校的神经科学实验室担任研究员。换言之，在生活还未出轨之前，她是一个典型的有抱负、受过良好教育、拥有无限可能的年轻人。

然而，一连串意想不到的挑战接踵而来，安妮的处境开始崩解。2014 年，她还在上大学，就被诊断出患有跟腱炎（因过度使用引起的肌腱肿胀）和骨刺，只得穿上步行靴。这不过是此后接连不断的一长串身体疾患的开端——这些病痛让她长期饱受慢性疼痛折磨，最严重时极大地限制了她的行动能力，严重影响了生活质量。六年间，安妮先后经历了反复发作的扁桃体炎；反复发作的盆腔疼痛；跟腱炎的多次复发——迫使她一次次穿上步行靴，炎症蔓延至右踝以外，有时甚至短暂站立都极为困难；以及不断增多的卵巢囊肿，最终确诊为多囊卵巢综合征（PCOS），这有时会让她夜间大汗淋漓、浸透床单——这是该病的常见症状之一。

在所有这些健康困扰的重压下，她又遭受了另一记令人窒息的打击：2018 年 5 月 25 日，她在家中最为亲近的父亲突发心脏病，骤然离世。

安妮一生都在与心理健康问题抗争。她幼年时便被诊断出患有广泛性焦虑症和强迫症，此后将近十年间一直服用左洛复，直到大学期间在精神科医生的帮助下逐渐减停。父亲去世之前，她的状态已好转许多。她尝试了冥想等非药物心理健康方法，探索以全面拥抱健康、有机、全食物饮食的方式，从根源上解决似乎潜藏在她反复身体病痛背后的慢性炎症。更宏观的健康探索激发了她对替代医学的新兴趣，她还参加了瑜伽教师培训课程。她倾力投入一生热爱的艺术，写下了一本书的草稿，取名《The Humanual》，记录了她对生命以及如何成为一个好人的思考。父亲的去世令她彻底崩溃，心理健康状况随之急转直下，身体健康似乎也由此进入加速恶化的轨道。到 2018 年底，奔走于各个医生和专科门诊已成了她生活的常态。

山姆也曾公开谈及父亲的去世是他一生中最痛苦的时刻。这件事发生在马斯克辞去 OpenAI 联席主席、山姆接任后仅仅几个月。熟悉山姆的人说，这一打击令他失魂落魄。有一段时间，他行事反复无常，难以应对。父亲的去世显然是安妮与山姆的关系以及她与家庭其他成员关系的一个转折点。安妮说，她与家人、尤其是母亲之间，早已因对她种种人生抉择的分歧而关系紧绷，其中包括她放弃传统医学职业道路，以及选择停服左洛复、转而依靠自然方式调适身心。父亲曾是她唯一毫无保留的支持者。失去他之后，她愈发孤立于家庭之外，却又渴望得到家人的接纳与关爱。然而，在金钱问题上的冲突之后，双方关系最终走向了彻底破裂。

2018年父亲去世后，Annie 定居洛杉矶。她先做兼职写作助理，后来又在一家大麻药房工作。她说，父亲的人寿保险让她继承了约十万美元。她把这笔钱全部押注在自己钟爱的艺术与表演事业上：去上喜剧课，参加公开麦表演，开设播客，还把书稿初稿改编成独角戏，重新命名为《The HumAnnie》。到2019年中，钱已所剩无几——她说，大部分花在了各类艺术投入、高额房租、自费医疗保险以及不断累积的医疗开销上，包括影像检查、物理治疗、心理治疗，还有打车去复诊的费用。

对 Annie 而言，接下来发生的事，标志着她与家人关系走向终结的开端。2019年5月，在慢性疼痛持续折磨她的同时，她得知父亲将401(k)退休账户留给了她。她辞掉药房的工作，拟定了一份六个月计划，打算用这笔额外的资金——略超过四万美元——来调养身体，同时让创作事业有足够的起步，希望能逐步形成稳定的收入来源。然而不久之后，作为亡夫退休账户法定继承人的母亲 Gibstine 通知 Annie：她实际上将拿不到这笔钱。Gibstine 在邮件中告诉她，最优的税务策略是由自己以税延账户的方式持有这笔资金，通过信托传给 Annie，届时 Annie 要等到五十九岁半才能动用。“我们都希望你好，我们相信对你（以及对所有人）最好的，是财务独立——那才能带来长远的满足感、个人成长与安全感，“Gibstine 写道，“因此，我们想说清楚：一旦你从爸爸那里继承的资产用尽，我们将不会在经济上支持你。“邮件署名是"妈妈、Sam、Max、Jack”。

那时的 Annie 正处于极度脆弱的状态。她的心理治疗师在同一时期的记录中写道，家人此举本意是帮她重新站起来，结果却使她的状况雪上加霜。2019年12月，她的银行账户跌入负数。而彼时，Sam 已于当年早些时候为 OpenAI 拿下微软（Microsoft）首笔十亿美元的投资，公司正全力加速训练 GPT-3。Annie 在恐惧与孤独中，登上了一个名叫 SeekingArrangement 的网站，在视频通话中向一名男子暴露胸部，换来足够让账户转正的钱。

Annie 说，她从未向母亲或兄弟们开口借钱。她从未指望依赖他们的财富，但也从未想过，一旦真正陷入紧急困境，他们会让她毫无保障。从2019年末到2020年中，她多次向家人求助，其中一次已是疫情在重重压力与不确定性之上又叠加了一层之后。Sam 和母亲与她一起参加了两次家庭治疗，之后同意承担她部分时段的开销。

从她与家人的往来中不难看出，家人担心金钱会助长有害行为，并认为帮她重建心理健康的最佳方式，是继续鼓励她实现财务独立。Gibstine 给我的声明以及这个家庭公开发表的声明，都表示他们的行动遵循了专业人士的建议，力求以最恰当的方式支持 Annie。

2020年5月，家人的经济援助即将到期，Annie 仍挣扎于困境之中，她再次请求帮助以支付物理治疗和心理治疗的费用——她告诉家人，这两项的收费分别是每次四十五美元和十五美元。家人拒绝了，说他们认为她应该靠自己承担六月的开销，包括即将退还给她的房屋押金。她打包好为数不多的行李，飞往夏威夷——父亲去世前几个月最后一次来看她时，她就在那里。她在一处农场找到了以工换宿的机会，做些除草、种植之类的轻体力活。Sam 发邮件问她新地址。父亲去世八个月后，他曾让每个兄弟姐妹各寄给妈妈一绺头发，准备与父亲的骨灰混合，为每人制作一颗钻石。“钻石的主要成分来自爸爸的碳，但也会带着我们每个人的一点点，“他当时写道。Annie 的那颗钻石现在已经做好了；Sam 想把它寄给她。

在 Annie 看来，Sam 的这封邮件无异于一记耳光。她不需要一颗昂贵的钻石；她需要的是他帮她保障吃饭和住所。她不知道 Sam 究竟是没意识到她处境的严峻，还是根本不在乎。她与 Sam、与整个富裕家族之间的鸿沟，感觉已无法弥合。带着巨大的痛苦与悲伤，她断绝了与他们的往来。

此后三年，在Elizabeth Weil联系她之前，Annie的生活跌入了谷底。她面临无处安身、食不果腹、健康无保的困境；为了支付账单，她开始从事线上与线下的性工作。家人在公开声明中表示，他们曾"以多种方式支持Annie，帮助她找到稳定”。按Annie的描述，其中一次援手发生在2021年春夏之际：Sam主动寻求与她重建联系。她记得他们通了三次电话，Sam告诉她他有多爱她，并提出要为她买一套房子。Annie与家人对这个提议各有说法。Annie表示，这并非让她拥有房屋产权，而只是让她住进去——她理解这一安排是为了防止她出售房产，同时她也担心，这可能是Sam和母亲借以干涉她健康与职业决定的又一种方式。Gibstine在给我的声明中称，家人向Annie提供的是完整的房屋所有权，但她没有回应我要求提供佐证文件的请求。家人在公开声明中说，他们提出通过信托为Annie购房，让她有地方住，但她无法立即出售该房产。最终，Sam与Annie达成了另一项协议：他将直接向房东支付她一年的租金。2022年夏天，Annie没有恢复联系，付款随之停止。

Annie的故事，使人们对Sam的两种截然相反的评价都更加复杂。他慷慨，却也自私；温和，却也带着威胁；是许多人的恩人，也是另一些人深重痛苦的根源。他在公开场合流露诚挚与利他，私下的行为却透露出一套更为复杂的算计。他可以给予，也可以收回，令许多人感觉自己不过是一局更大棋局中的棋子——只有他能看清整盘棋，而终局的目标，是守护他自己作为棋王的权力。

Annie的故事，也动摇了Sam及OpenAI其他高管所描绘的那幅宏大愿景——AI将开创一个富足的新世界。Altman曾说，他预期AI将终结贫困。Brockman通过讲述他的朋友和妻子Anna的故事，一再重申AGI将极大改善医疗健康。Sutskever则说，它将带来极为有效、价格低廉的心理治疗。然而，面对肯尼亚工人与智利活动人士的生活现实，面对Altman的亲妹妹独自承受这一切重压的遭遇，那些梦想显得如此苍白空洞。

尽管AI的能力突飞猛进，却没有任何一项进展能帮助Annie走出绝境，哪怕一小步也没有。如果说AI产生了什么影响，或许反而让她陷得更深。她并不想走上性工作这条路。她说，那是她的"Z计划”。当慢性疼痛加剧，连手工艺活也难以为继时，她首先尝试通过数字方式将自己的艺术变现。她坚持更新播客，在Etsy开店，在Patreon设立账号，但这些收入连电话费都不够付。与此同时，一件奇怪的事情在悄悄发生，她用截图一点一滴地记录了下来：她在所有社交媒体上的曝光量少得可怜，几近于零。她有时发现，苹果应用程序里她播客的评论会莫名消失一大片，严重限制了它被发现的机会。至少有两次，她在Instagram和YouTube上积累起来的播放量会无缘无故骤然下跌。一位前Facebook数据科学家和两位科技与性工作领域的专家表示，Annie在2019年12月注册的第一个SeekingArrangement账号，很可能拖累了她此后在网络上的影响力——科技平台会通过自动化系统追踪并对性工作者实施隐形限流，手段是标记其设备、邮箱、银行账户或其他关联其网络身份的信息，即便是与性工作完全无关的账号也难逃波及。看不到其他出路，Annie重新回到SeekingArrangement，同时开设了OnlyFans账号，她的网络身份与经济机会，在算法审核的罗网中愈陷愈深。

Neily Messerschmidt曾在索尼等科技公司担任高管，如今主管一家有机农场网络的健康部门。Annie于2016年迁居湾区后不久便与她相识，在那段拥抱健康饮食的岁月里，曾短暂与该网络合作。多年来，随着Annie与原生家庭渐渐断绝往来，Messerschmidt成了她精神上的母亲。“Sam把AI带入这个世界的方式，和他对待自己小妹妹的方式如出一辙，“Messerschmidt说，“他在那边蒸蒸日上，他妹妹却从所有的安全网中悄悄坠落。”

2020年末至2021年初，安妮与家人断绝来往后，开始经历儿童期性虐待的毁灭性闪回。2021年7月至2022年1月，她在毛伊岛与一位新创伤治疗师进行了若干次会谈，治疗记录详述了她在应对这些不由自主的记忆时所经历的危机，以及由此引发的强烈自我认同质疑。治疗师在十五次会谈后写下诊断印象：广泛性焦虑症、创伤后应激障碍（PTSD），以及童年期性虐待的个人历史。

这些记录没有指明具体的施害者。但大约在那段时期，安妮开始频繁致电Messerschmidt。Messerschmidt本人曾在十九岁时遭到强奸，她在有机农场网络的早期互动中，就已注意到安妮身上那些有过受虐经历者特有的迹象。“她在某些男性面前会感到不自在，“Messerschmidt回忆道，“我一眼就能认出有过受虐经历的人。当某些男人在场时，她基本上会要求退出会议。他们在房间里的时候，她会站到角落里。”

在密集而情绪激烈的倾诉中，安妮向Messerschmidt描述了她那些突如其来的闪回：Messerschmidt记得安妮告诉她，在这些童年记忆里，是山姆一次又一次地爬上她的床——有时杰克也在——对她实施了猥亵。

有必要指出的是，几十年后，要证明所谓的童年性虐待是否发生、厘清相关细节，往往极为困难。心理学揭示了部分受虐者身上存在的一种常见模式：受害者的大脑会封锁相关记忆，直到某个触发因素——也许是青春期、性生活的开始，或新的不想要的性骚扰——将记忆不由自主地唤起，我咨询过的一位治疗师如此说道。身体记住了创伤，即便意识未必如此。随着安妮在性工作中越陷越深，她可能突然面对大量触发因素的同时涌来。

在叙述安妮的闪回经历——如她向Messerschmidt所倾诉、并部分反映于创伤治疗师记录中——时，本书的意图并非判定安妮童年究竟发生了什么，而是还原她作为成年人所经历和相信的一切；正是这些，最终促使她公开发声。

2021年11月，在山姆为她支付房租期间，安妮首次公开发帖谈及她的指控。“我遭受了来自亲生兄妹的性虐待、身体虐待、情感虐待、言语虐待、经济控制和技术控制，施害者主要是山姆·奥特曼，杰克·奥特曼也有参与，“她在Twitter上写道，“我深信还有其他人也遭受过这些施害者的虐待。我正在寻找愿意与我共同追求法律公正、保护未来他人安全并共同疗愈的人。”

她的帖子没有引起任何反响。她不过是个关注者寥寥的无名账户。彼时山姆的声望随着OpenAI在GPT-3上的成功以及最新发布的GitHub Copilot而持续攀升。与此相反，网络喷子们却对安妮发起攻击，声称她根本不是他的亲妹妹。

此后数月间，两名记者先后联系了安妮，但她对于要透露多少，始终犹豫不决。2022年9月，她终于下定决心，选择公开发声。她再次发推，点名山姆和杰克：“性虐待、身体虐待、情感虐待、言语虐待、经济控制和技术控制。永不忘记。”

十个月后，2023年7月，ChatGPT发布、山姆跃升为全球知名人物之后，安妮收到了《纽约》杂志记者Elizabeth Weil发来的一条消息。

《纽约》杂志那篇文章发表后的三个月里，Annie 的 OnlyFans 收入涨了逾十倍，从每月约一百五十美元增至一千五百美元以上。在董事会危机期间的某个月，收入一度攀升至约五千五百美元。她停止了陪侍服务，只继续从事线上性工作。

她的家人——Annie 称他们为"那些亲戚”——始终声称多年来以各种形式给予过她经济援助。确实，家庭治疗后双方商定的支持方案，以及萨姆从2021年中至2022年中支付的房租，都是例证。但在 Annie 看来，这些钱来得太少、也太迟，彼时她早已走投无路，不得不以性工作为生。其他援助提议——包括那套房子——通常附带各种限制或条件，令她难以接受。

2023年7月，萨姆向 Annie 发来另一条消息，提出给钱，表面上未附加任何条件。那年初夏，有人给他们两人同时发了一封邮件，带着网络侦探特有的亢奋劲儿，请 Annie 就其指控进一步说明。Annie 在这个三方邮件串里详细讲述了自己过去几年的遭遇。彼时萨姆的"世界巡回"正如日中天。6月5日，他在以色列特拉维夫大学与苏茨克弗联袂发表演讲，广受好评；就在同一天，Annie 的邮件也出现在他的收件箱里，用克制而入骨的笔触，历数这些年所受的苦楚。

他在7月9日回复，此时他的"世界巡回"已正式落幕；信中罕见地使用了大写字母。“抱歉回得这么迟；我花了些时间才想清楚自己想说什么，“他写道，“我不想与你保持任何形式的持续关系，也尊重你对我的同等态度。不过，我愿意给你汇款，希望你能渡过健康方面的难关。“他提出重启之前的安排——具体细节他已记不太清——或者一次性付给她一笔钱。“郑重声明，我对这封邮件中的许多说法持异议，但试图逐一回应似乎毫无意义，“他在结尾写道。

那时的 Annie，已不再想要萨姆的钱。她只想要父亲遗留给她的那笔钱。她始终没有回复萨姆的邮件。

除401(k)退休账户外，她父亲还留有一笔由母亲管理的信托。2024年初，手头有了额外收入后，安妮自聘律师，这才得知父亲的信托于2023年新注入了资金。随着她的经历广为人知，家人通过Gibstine的律师展开协商，讨论在无附加条件的前提下每月向安妮拨付信托款项。安妮第一次觉得自己握有了切实的谈判筹码。家人在公开声明中表示，他们预计将"在她的余生中"每月为安妮提供经济支持。

有了新的月度款项，安妮租下了四年多来第一套稳定的住所。此后不久，她又聘请了另一位律师，着手准备一起针对Sam的儿童性侵诉讼，目标是在她2025年1月8日年满三十一岁前提起诉讼。诉状将指控——家人则强烈否认——Sam在她约三岁时便开始对其实施性侵，持续至他已成年而她仍为未成年人之时；索赔金额超过七万五千美元。2024年10月，又经历一轮密集的就医检查后，安妮终于收到了多年来困扰她的潜在健康状况的确诊结论：过动型埃勒斯-当洛综合征，与Brockman妻子所患的遗传性关节活动障碍相同。

在Annie的故事刊登于《纽约》杂志报道之前，Sam开始向身边的人暗示他的妹妹患有边缘型人格障碍。他说，这是一件私密而敏感的事。“她的陈述还没发表，他就已经把它的杀伤力消解于无形了，“其中一位知情人说。

边缘型人格障碍的典型特征是情绪调节严重失调，可能导致强烈而极端的人际关系——既有对他人的过度理想化，也伴随着对被遗弃的深切恐惧。Annie说，她从未被诊断出患有这种障碍——在她与我分享的治疗笔记和病历中，也没有出现过这一诊断。唯一相关的记录来自她2021年8月在毛伊岛的创伤治疗师，显示治疗师曾对Annie进行该障碍的评估——这种障碍在经历童年性虐待之后较为常见。治疗师在最终诊断意见中提到了Annie有过性虐待的历史，但并未将该障碍列入诊断结论。

我采访的两位心理治疗师也着重指出，边缘型人格障碍通常会随着时间自然消退，或在适当的治疗下得到改善，有效方法包括冥想和行为疗法——这些手段有助于重建一个人的自我价值感，都是Annie一直在实践的；而Gibstine所鼓励的精神类药物，以及家人声明中所称Annie"拒绝接受常规治疗"所指向的疗法，并不在此列。“边缘型人格障碍的研究前景非常乐观，预后被认为相当良好，“哈佛医学院精神病学助理教授Blaise Aguirre说——他治疗过数千名边缘型患者，但并未具体审阅Annie的病例。“绝大多数人都会好转。”

2024年4月，即将晋升为OpenAI首席传播官的Hannah Wong也向我谈及了Annie的心理健康问题。此前六个月，Wong的团队一再表示有意安排我前往办公室参访，并与OpenAI关键领导层和员工进行访谈——尽管我多次主动联系，希望听取他们的观点。然而五个月后，他们开始对这一安排产生抵触。在我飞往旧金山的航班起飞前十天——机票早已订好，正是为了拜访该公司总部——他们通知我，已撤回之前的决定：我无法前往办公室，他们也将不再参与我的写作项目。

旧金山之行如期成行后的数日，我告诉一位同时熟识Sam和Annie的朋友，说我正在与Annie接触。第二天，Wong给我发来短信：“我听说你在城里？“这个问法颇为奇怪，毕竟我此行的初衷本就不是秘密。我们在使命湾的一家Philz Coffee见面，离OpenAI正在扩张的新办公地点不远。在一番漫无边际的寒暄和关于我的书的泛泛讨论之后，她把话题引向了Annie。

“我想Annie存在一些心理健康方面的挑战，这么说应该没有越界，“Wong说。此时，我尚未就Annie一事联系过OpenAI，也没有在谈话中先提起她的名字。“Annie有状态好的时候，也有真的很糟糕的时候，“她继续说，“家人一直在努力寻找平衡——既要保护她，又不能助长她的行为。“随后，她再次加以强调：“你注意到没有，家人并没有公开发表任何声明来否认Annie说的话。这一切，归根结底都是为了保护Annie。“她还听说，一些新闻学课程甚至讨论过Weil将Annie纳入报道是否符合职业伦理。这也许是我应当考量的，她说。

这已然清晰地表明：这正是Wong主动联系我所要传达的核心信息。在此之前，她从未直接回应我提出的访谈请求，一直通过助理与我沟通。她对Annie故事如此看重，折射出此事给Sam带来的压力，以及公司与Sam私人事务之间的紧密关联。

Sam和Wong对Annie心理健康的种种表述，在我看来，也是Annie的遭遇与无数被AI帝国及其愿景边缘化或伤害之人的共同命运之间另一种深刻的呼应。自从下定决心讲述自己的故事，Annie所面对的权力鸿沟，与我目睹数据工人和数据中心维权人士苦苦抗争的处境如出一辙。她的生活几乎完全围绕着梳理和搜集各类文件展开，只为让人们听见她的声音。她时常被一种深深的沉落感所吞噬——无论她如何发声，整个世界似乎都在与她作对。我在世界各地人们的面孔上见过同样的无力感与愤怒：他们倾其所有向AI帝国的叙事发起挑战，却眼睁睁看着对方调动数十亿美元的资本、构建庞大的基础设施、雇用和解雇数以万计的外包人员，并凭借几句轻描淡写的话——在某个活动上、在国会听证中、在各国元首面前、在记者面前——将那些抗议的喃喃之声平息于无形，一切皆随心所欲。

然而就Annie而言，Weil的报道发表之后，她不再是在向虚空呐喊。2022年10月，随着她的推文开始大范围传播，一位举足轻重的人物注意到了她：伊利亚·苏茨克维尔——此时，他正深陷对Altman的复杂情感之中，纠结于他所认定的Altman长期以来的种种滥权行为。

第四部

15 这一手棋

在 Weil 为《纽约》杂志撰写的 Altman 人物专访发表四天后、距 Sutskever 向 Toner 发出那条消息还有四天之际，这位独立董事与另一位 OpenAI 高管进行了会面：首席技术官米拉·穆拉蒂。

穆拉蒂生于阿尔巴尼亚，自幼便学会了在混乱中保持镇定。幼年时期，她亲历了国家从极权共产主义向自由资本主义剧烈转型的阵痛。这一转变来势太猛，加之国家金融体系极不健全，金字塔骗局迅速蔓延，随即崩溃，引发大规模骚乱与暴力冲突。动荡过后，弹坑横陈，穆拉蒂上学途中不得不小心绕行。一位老师曾对她说，只要她肯坚持，老师也会一路陪伴。

穆拉蒂的父母教文学，但她却在数字的确定性中找到了慰藉。她最先爱上数学，这份热爱由慧眼识珠的老师们悉心培育——他们有时会给她出比课程更难的题目，帮助她更快进步。继而是对科学的热爱——化学、生物、物理——这又进一步滋养了她对技术的兴趣。她求知若渴，凡能到手的书无不贪婪地读完，把自己的教科书翻完之后，便去翻姐姐的。她热爱竞争，在数学和科学奥林匹克竞赛中如鱼得水，与同龄人激烈角逐，乐此不疲。

十六岁时，她凭借过人的早慧获得了一份奖学金，得以赴加拿大私立学校——位于不列颠哥伦比亚省维多利亚市的皮尔逊学院（Pearson College UWC）——留学深造。这一机会将她送上了快速上升的轨道：先是在达特茅斯学院（Dartmouth College）攻读机械工程，后进入一家航空航天公司，再到职业生涯的第一个重大突破——加入特斯拉（Tesla），担任 Model X 的高级产品经理。

在特斯拉（Tesla），她学会了在高压下打造复杂产品，在意见各异、专业背景迥异的多个团队之间斡旋协调。她常常提起，正是在那里，随着公司探索自动驾驶，她开始被人工智能深深吸引。她越深入钻研，就越觉得人工智能是一项基础性资产，必将在解决各类棘手问题上获得广泛应用，成为普遍所需。「它真的感觉像是我们可能要涉足的最后一个领域，」她后来在凯文·斯科特的播客中说道。

穆拉蒂并未立即投身人工智能。在特斯拉（Tesla）工作三年后，她离职加入 Leap Motion 公司，担任产品与工程副总裁，转而从事增强现实与虚拟现实系统的研发。她曾设想这家公司将颠覆教育领域，让学习者只需转动手腕便能旋转 DNA 链，或操控一只腾空飞驰的球的运动轨迹。然而，公司押注这项技术的时机太早——VR 与 AR 仍让太多人感到眩晕难耐。2018 年，两年后，她离开，加入了彼时仍是非营利机构的 OpenAI。

在 OpenAI，穆拉蒂的晋升之路继续向上。随着这家非营利机构转型为商业运营实体，她顺理成章地升任应用与合作伙伴关系副总裁，主管公司与微软（Microsoft）这一最重要的战略合作，以及从萌芽到蓬勃壮大、负责将公司研究成果商业化的业务部门。她比 Altman、Sutskever 和 Brockman 都要年轻，在相当长的一段时间里，是高层领导团队中唯一的技术女性。这有时使她成为性别歧视的靶子，尤其是在那些对实验室早期岁月念念不忘的研究人员当中——他们认为她技术底子不够扎实，充其量是个工程师而非科学家，并将她的晋升视为 OpenAI 远离严肃基础研究的标志。

确实，在人工智能这个充斥着笨拙书呆气与雄性激素的世界里，穆拉蒂显得格外与众不同。她长于社交，善于倾听，个人自我色彩极淡。在共事者眼中，她是一位无与伦比的解题高手。在 OpenAI 持续不断的内部纷争漩涡中，她能够引领公司向前，既广泛听取各方意见与视角，又不惧作出艰难抉择。「想象一下，当面临极其艰难的决定、又没有明确答案时，她能帮你找到出路，」一位前同事说，「她的判断始终是对的。」

在穆拉提承担的诸多角色中，她日益成为奥特曼的翻译者与沟通桥梁。Anthropic 分裂之后，奥特曼请她不仅主管应用部门，还一并负责研究部门；2022年5月，她正式出任首席技术官。随着越来越多的团队向她汇报，她成为员工与奥特曼之间不可或缺的信息枢纽。公司战略方向有所调整，她负责落地执行；某个团队需要对他的决策提出异议，她便充当其后盾。

即便在公司领导层内部，她对奥特曼的影响力以及对其想法的了解程度，也是旁人难以企及的。她可以直接告诉他，他的预期或计划不切实际，而他往往会听进去。当他表面上答应某件事、实则并不愿意时，她也会直接告知相关人员真实情况。人们常常对从奥特曼那里得不到明确答复而感到沮丧，便向她求助，请她帮忙解读他的真实意图。「她就是直来直去，」另一位前同事说，「真正把事情推动下去的人是她。」

然而，随着与奥特曼共事日深，穆拉提越来越频繁地充当「善后者」的角色。每逢两个团队发生分歧，他常常私下分别认同双方的立场，这不仅制造混乱、加剧冲突，还在同事之间滋生了不信任。布罗克曼四处插手项目所带来的混乱，又进一步放大了这种无序。在穆拉提看来，布罗克曼就像第二个CEO，却是个糟糕的版本——主见极强，且常以其强烈的工作强度把人逼到精疲力竭。GPT-4 开发期间，奥特曼与布罗克曼的互动方式给公司部分团队带来了事关成败的巨大压力，负责数据收集和模型初始训练的核心团队之一——预训练团队的几位关键成员，几乎因此离职。

还有纳德拉。奥特曼对微软（Microsoft）利益的顺从程度，令纳德拉实际上几乎成了 OpenAI 的第三位CEO。穆拉提曾多次精心拟定向微软作出合理承诺的方案，但奥特曼却屡屡在与这家科技巨头高管的会谈中脱稿发挥，向对方描绘出一幅与公司实际路线图相去甚远的图景，以迎合那些脱离实际的要求。而面对董事会，奥特曼对此另有一套说辞：是穆拉提与 OpenAI 最重要合作伙伴之间缺乏积极有效的关系。

ChatGPT 将奥特曼推上了超级明星的宝座，此后他的行为每况愈下。聚光灯与外界审视愈加强烈，爆满的行程让他不堪重负。从前他总是精力充沛，如今却常常疲惫不堪。重压之下他开始崩裂，焦虑攀上新高，并滋生出愈演愈烈的破坏性行为。他还是在做一贯的事——当面对谁都表示认同，而如今却越来越频繁地在背后中伤他人。这在公司内部掀起比以往更大的混乱与冲突，各团队负责人纷纷效仿他的恶习，在下属之间制造对立。这本已足够腐蚀性十足。而面对外部日益激烈的竞争，奥特曼还不断催促公司加快部署节奏，试图以效率为名绕过既有的发布流程，有时甚至诉诸欺瞒手段。不久前，他告诉穆拉提，他认为 OpenAI 法务团队已批准 GPT-4 Turbo 跳过 DSB 审查。但穆拉提去找主管法务团队的 Jason Kwon 核实，Kwon 完全不知道奥特曼是从何处得出这种印象的。

那年夏天，穆拉提曾尝试就这些不断升级的问题向奥特曼提供详细反馈，希望能促使他自我反思、有所改变。结果，他对她冷淡相待，穆拉提花了数周时间才重新修复这段关系，甚至不得不向他保证，她没有将那份反馈透露给任何人。她也见过他对其他高管如法炮制：一旦有人与他意见相左或挑战他，他就会迅速将对方排除在关键决策之外，或暗中削弱对方的公信力。这种手段隐蔽而克制，不在员工面前显露，以至于她花了好几年才意识到其全貌。但不可避免地，不同的高管都曾轮流承受这套对待。久而久之，他行为所积累的影响，已悄然侵蚀了整个组织的最高层。

最近，这把「烫椅子」传到了苏茨克弗身上。此前，向苏茨克弗汇报的波兰研究员、AI Scientist 项目负责人 Jakub Pachocki 对自己得不到认可、也没有相应权限深感不满。他找到盟友布罗克曼，布罗克曼又找了奥特曼。于是奥特曼鼓励了 Pachocki 的抱负，给了他研究部门更高级别的职位。但有一个问题：奥特曼从未将这些告知苏茨克弗。他也不肯厘清苏茨克弗与 Pachocki 各自的职责边界——两人从奥特曼那里接收到不同的信息，各自朝着不同方向推动同一领域的研究，却都搞不清楚失对齐的根源究竟在哪里。

这一乱局在研究部门引发了长达数月的组织内耗。此刻，正如此前 GPT-4 预训练团队的危机一样，压力已攀升至难以为继的程度。对苏茨克弗而言，这场旷日持久的风波痛苦至深。这不仅是奥特曼对他的羞辱性冷落，更瓦解了他与 Pachocki 多年结下的友谊——那段情谊，是两人并肩作战、历经无数个深夜、共享高光与低谷、一同将公司建立起来的岁月里积累出来的。

穆拉提再度加班加点，寻求解决之道。光是搞清楚究竟发生了什么，就已耗尽她大量的精力。现在，她还必须让苏茨克弗与 Pachocki 就分工安排达成共识，让布罗克曼停止通过向奥特曼施压来干预局面，并让奥特曼保持口径一致，不再在私下会谈中出尔反尔。然而这些都无法触及问题的根本，高层领导危机再度爆发只不过是时间早晚的问题。OpenAI 真正需要的，是更健全的治理机制与问责体系。

在穆拉蒂遭受冷遇期间，奥特曼最为忧虑、也最感到受威胁的，是她可能已将详细的反馈意见透露给了董事会。而事实上，她根本没有跟他们谈过。她希望直接与奥特曼解决问题，也不确信把董事会卷进来真的能带来问责。多年来，她对董事会历届的人员构成始终抱有疑虑。三位联合创始人同时坐在一个本应独立运作的非营利性董事会上，这个数字实在太多了。许多独立董事也并未真正独立于奥特曼——他们以这样或那样的方式，与他存在财务往来，或受惠于他的人脉。她曾亲眼目睹他投资初创公司、向政客捐款，借此建立和巩固重要关系。他也曾多次问过她，能为她做些什么，而她每次都婉言谢绝。她不想把自己卷入他的关系网，日后欠下人情。

但如果说有什么时机适合联系董事会，眼下或许是开辟一条更为常态化沟通渠道的好时机。九月底，她将前往华盛顿特区，在《大西洋》月刊年度思想节上发言，而 Toner 就住在那里。董事会正处于新成员遴选阶段，下一批入选者将直接决定其独立性的走向。奥特曼需要真正的监督制衡。穆拉蒂主动联系 Toner，约她喝咖啡。

对于 Toner 来说，Murati 主动联系她虽不寻常，却也在意料之中。Toner 是董事会成员，Murati 是高管，Murati 想找她谈谈，本在情理之中。

2023 年 9 月 29 日那次喝咖啡，感觉相当寻常。Murati 分享了公司的若干近况：OpenAI 盈利前景毫无疑问；眼下最关键的两件事，一是 Gobi 模型的推进，二是正在与微软（Microsoft）谈判的最新合作；此外她还在处理一些与 Altman 和 Brockman 之间关系有关的人事问题，这一次涉及 Sutskever 和 Pachocki。

只有一件事让 Toner 略感意外：Murati 说，Altman 催得太急，公司不得不拼命赶进度发布产品，她担心这样下去迟早会出问题。

更令 Toner 感到反常的，是几天后收到的 Sutskever 那封邮件。两人同在董事会共事两年，Sutskever 从未单独联系过她。邮件里，他问她第二天是否有空见面。如今，10 月 4 日，他紧张到几乎说不出话来。

Toner 主动开了口。“我只是真的很在乎这件事——我们要朝着拥有一个强有力的董事会的方向走，一个能真正监督公司的董事会，“她说，“这是我们共同的愿望。”

Sutskever 突然以一种极不寻常的方式同时笑了出来，语气里又带着一丝讥诮。“我完全同意，“他说，话里的意思却分明是：别人未必如此。

“大家都同意，“Toner 平和地说。Sutskever 翻了个白眼。

Toner 解释说，独立董事们正考虑引入一位具有深厚 AI 安全背景的新成员来强化董事会。如果他有不同想法，她愿意听。

Sutskever 一下子接住了这个话头。他说，董事会需要掌握更多信息，需要关注正在发生的事情。

Toner 试着追问：他认为董事会最需要了解的信息是什么？

Sutskever 停顿片刻，字斟句酌。“我不太想直接回答你这个问题，“他说，“如果我回答了，你就会明白为什么。”

“在最高层面，OpenAI 是个复杂的环境，“他继续说，“OpenAI 比从外面看起来要复杂得多。”

“也许我回去想想，“他谨慎地补充道，“或许会有些具体的事情可以跟你说。”

在此之前，他建议 Toner 不妨找 Murati 聊一聊。Murati 对事情的来龙去脉有更多了解。

穆拉蒂在一周多之后才收到 Toner 的回复。又一次董事会会议后，Toner 只是告诉穆拉蒂，看起来有些奇怪的事情正在发生。穆拉蒂回应说 Toner 很敏锐，两人商定再谈一次。

此时已是 2023 年 10 月 15 日。Toner 以一句寒暄开了头：“最近怎么样？有什么是董事会应该了解的吗？”

穆拉蒂斟酌着措辞，知道自己必须谨慎。“有很多棘手的事情，“她试探性地说——用的正是苏茨克维之前用过的措辞。她接着说：其中有些她没办法全部说出来，至少那些最棘手的部分不行，因为一旦说出口，就无法收回了。何况眼下奥特曼深感自己 CEO 一职受到威胁。

这最后一点似乎出乎 Toner 的意料。奥特曼，受到威胁？董事会固然尝试过建立更强有力的治理机制以制衡他的权力，但从未想过要动摇他的位置，更从未讨论过罢免他，Toner 说。

穆拉蒂进一步解释：奥特曼是个极度焦虑的人，一旦焦虑便会产生蠢主意，而 Brockman 的推波助澜往往让情况更糟。奥特曼的焦虑还催生出一种有毒的行为模式，而且总是遵循同样的剧本：对于任何阻碍他决策的人，他会想方设法说出对方想听的话来争取支持；等到他失去耐心、判断对方仍会持续与他作对时，他便开始暗中损害对方的声誉，直到对方出局为止。这种做法隐蔽而普遍，最近的一次表现就是苏茨克维与 Pachocki 之间的那件事。那造成了极大的伤害，令苏茨克维深感痛苦，她说。

穆拉蒂继续说，董事会需要重点防范的是：不能让奥特曼的盟友出任第七位董事。同时也要留意微软（Microsoft）对 OpenAI 技术的部署以及 DSB 的问题。她没法多说了——如果奥特曼发现她在和 Toner 谈话，他会大为惊慌。但高层管理的这种毒性已经无以为继，未来六到九个月内，必须有所改变。

穆拉蒂最后说，Toner 应该去和伊利亚谈谈，看看他愿意透露什么。

苏茨克维尔第一次联系 Toner 时，心头已积压了许多烦恼。那一年，眼看 OpenAI 急速崛起，他对 AGI 即将到来的念头愈发萦绕不去：它将引发翻天覆地的变局，一旦发生便无可挽回；OpenAI 肩负着确保最终结果是极度繁荣而非极度苦难的责任。

随后，另一重忧虑将他吞噬：他开始怀疑 OpenAI 能否真的抵达 AGI，也不再确信以奥特曼为领导者的 OpenAI 能够担当起这份责任。

ChatGPT 发布后，在 OpenAI 任职并晋升已成为硅谷最炙手可热的社会资本。这催生了前所未有的内部竞争与办公室政治，各团队负责人争相争夺关注与资源优先权。苏茨克维尔观察到，奥特曼非但没有从中调和各方自我，反而在周旋谋取自身利益的同时，把每个人最想听的话原封不动地转告给他们。在这个过程中，他说了无数小谎，也撒了一些大谎，几乎已成家常便饭。在苏茨克维尔看来，布罗克曼也加剧了混乱。当年两位最初的联合创始人曾彼此视为心腹，在无数个关起门来共同畅想 OpenAI 前途的漫长时光里结下深厚情谊——那些日子早已一去不返。

在苏茨克维尔眼中，最终呈现的是最有害的组合：一个方向迷失、混乱无序、相互倾轧的环境，人们不再共享信息，也不再拥有共同的信任基础，无法就如何推进的关键决策达成共识。这种内耗正在瓦解苏茨克维尔眼中 OpenAI 使命的两根支柱：它既在拖慢研究进展，又在销蚀作出稳健 AI 安全决策的可能。

现在，奥特曼的所作所为也开始直接伤害他自己。10 月 4 日与 Toner 的第一次通话结束后，苏茨克维尔辗转难眠，压力将他淹没。他觉得，Toner 是他能够接触的最安全的独立董事会成员。她在董事会会议上多次公开倡导建立强有力的治理与安全机制，显然不在奥特曼的掌控之中。他对另外两位独立董事 D’Angelo 和 McCauley 则没有这般把握。尽管如此，他仍担心自己究竟能向 Toner 透露多少，以及一旦奥特曼得知会有何后果。

就在苏茨克维尔反复权衡这些问题之际，Annie 在 Twitter 上循环流传的指控又为他对奥特曼是否适合带领人类走向 AGI 的那份疑问增添了新的维度。《纽约》杂志的文章在公司里只有人低声谈及，而在文章发出后，Annie 过去的两条推文再度病毒式传播：一条发于 2021 年 11 月，指控 Sam “在性、肉体、情感、言语、财务与技术方面实施了虐待”；另一条发于 2023 年 3 月 14 日，措辞更为直白，获得了近 4000 个点赞：

我不再是那个四岁、被十三岁的"哥哥"未经同意爬上床来的小女孩了。

（不用谢，是我帮你搞清楚了自己的性取向。）

我终于接受了这个事实：你一直都是、也永远都会是比我更怕我的那个人。

苏茨克维尔不知道她的指控是否属实，但他相信，不管究竟发生了什么，Annie 与 Sam 一起长大的经历一定相当艰难。这说明奥特曼的问题行为由来已久，可能延续了很长时间。

Annie 用的那个词——虐待——也正是苏茨克维尔觉得最能概括自己对奥特曼观察的词。和 Murati 一样，他花了很长时间才看清奥特曼的那套打法，尽管从一开始就有些迹象表明他不可信：他坚持要担任 OpenAI CEO 却始终没有清晰或一贯的理由；他在早年偶尔说过的一些小谎，似乎微不足道，毫无必要；2020 年底 Amodei 离职前转达的那些警告。苏茨克维尔当时并未真正理解 Amodei 所说的"心理虐待"是什么意思。如今，随着奥特曼的行为愈演愈烈、影响急剧扩大，他对这个词有了全新而深刻的体会。

10 月 12 日和 13 日，他与超级对齐团队一同参加了一次务虚会，又焚烧了一个稻草人作为团队建设活动，并继续思索下一步如何行动。如今，10 月 16 日，他与 Toner 进行了第二次通话，准备多透露一些。

他讲述了 Pachocki 一事，以及它如何印证了奥特曼的行事方式。奥特曼本可直接、坦诚地告诉他，说想让 Pachocki 发挥更大作用。然而他没有，而是将苏茨克维尔和 Pachocki 推入相互对立的境地，布罗克曼在这一过程中也出了不少力。他们似乎乐此不疲，让这两位科学家在完全不知情的情况下互相较劲，搞不清楚为何始终无法达成共识。“鞭打不休，直至士气好转，“苏茨克维尔说。

问题在于，奥特曼所做的一切总是那么隐蔽。单看每一件事，都不觉得有多大问题。只有把一切放在一起审视，那些规律才会骤然浮现。他强调，重点不在于"看这件坏事——伊利亚觉得自己受到了委屈”。这不过是奥特曼惯用虐待手段的最新案例。还有他对待 Amodei 的方式——他建议 Toner 去和 Amodei 谈谈。还有他姐姐流传的那些指控。“从某种意义上说，这是另一种安全问题，你懂我的意思，“他说。归根结底，奥特曼有时候和布罗克曼一起，多年来对许多人都是如此——惯于操控和欺骗，有时候说出口的话，连他自己似乎都不相信。

话虽如此，苏茨克维尔补充说，他们两人——Toner 和他自己——也可能谈下来之后觉得没什么可做的。如果真到了那一步，就当这次对话从未发生过。

不过，他有一个特定的话题想与 Toner 讨论，也正是促使他主动联系她的原因。董事会已将第二届年度现场会议安排在十一月底，届时的核心议题是最终就增补新董事作出决定。他想和 Toner 谈谈这件事。他认为扩大董事会并非好主意。他不确定这样做能否真正增强独立性。即便新加入的人不是奥特曼的死忠，他们也需要太长时间才能摸清他的那套手法。追究其责任只会变得更难，而非更容易，苏茨克维尔说。

不过，他也谨慎地补充，自己对这个判断并不完全确定。他想知道 Toner 看到了什么。

Toner同意，Altman确实圆滑。她说，在自己的职业生涯中，她亲历过管理层的圆滑如何引发连锁问题。如今董事会已失去了三位对Altman最为顺从的成员，她也认同：无论接下来如何，目标都是让Altman承担责任。

Sutskever心情轻松了许多。他现在更理解Toner的立场了。他们曾在僵局中站在对立两端，追求的却是同一件事——对Altman的权力形成真正的制衡。在她看来，增加董事会成员是实现这一目标的途径；在他看来，恰恰相反。

他继续深入。他意识到，自己的担忧在Toner看来可能显得过于激烈、过于突然，但这是因为能够补救问题的窗口正在收窄。“董事会好比外部对齐，管理层好比内部对齐，“他说。Toner认为OpenAI需要修复外部对齐，而他认为需要修复的是内部对齐。

Toner似乎在消化这些信息。“听起来，你认为应该把一些相当重大的变革摆上台面，“她说。

“是的，“Sutskever回答。但最大的挑战在于，没有明确的证据能够指向Altman领导方式中任何明显的劣行。很可能，董事会会认定无能为力，最终就新董事人选达成一致，然后这个时机就这样溜走了。

对此，Toner提出了几个替代方案。也许董事会可以为OpenAI设定不同的考核目标，以更具体地衡量Altman的表现，并在十二个月后重新审视这一问题。

Sutskever对此不以为然。Altman会通过董事会设定的任何目标，但这不会带来任何结构性改变来解决他的行为问题。

也许Brockman可以从董事会退出，Toner建议道。那当然会有所帮助，Sutskever回答，但仍然不够。Brockman固然加剧了Altman那套行事风格，但Altman才是问题的根源。“针对你关于Brockman的提议，我一直在想一个类似的方向，作为B计划，“Sutskever说。

他没有说出心目中的A计划究竟是什么。但随着通话结束、双方约定下周再次交谈，Sutskever确信：Toner已经开始明白了。

穆拉蒂正在应对另一场危机。就在她第二次与 Toner 通话前不久，奥特曼开始莫名地恐慌，担心微软（Microsoft）对 OpenAI 不满。为了弄清原委，穆拉蒂安排了一场与微软高管的会议，与会者包括 Bing 负责人 Mikhail Parakhin。

会议进展比预期顺利，但在此过程中，她发现奥特曼再次在未充分了解 OpenAI 实际进展的情况下，应承了微软的某项要求，从而给微软造成了错误的预期。她又一次被迫收拾烂摊子。

微软会议是在 10 月 19 日。到了 10 月 20 日，她在第三次通话中告诉 Toner，自己打算向奥特曼提出大量反馈意见。每当奥特曼说"可以"而她说"不行"时，便会生出诸多麻烦，双方的合作关系也因此严重割裂。

穆拉蒂接着说，苏茨克维尔与 Pachocki 的情况如出一辙。就在当天，他们终于敲定了一套安排，厘清了苏茨克维尔与 Pachocki 今后如何在各自职位上继续共事。协议刚一达成，她和苏茨克维尔便联手恳请奥特曼：在与 Pachocki 交谈时，不要偏离这一决定，不要只说对方想听的话。她对 Toner 说：“我跟 Jakub 谈，他听进去了，但他一去见 Sam，听到的又是另一套。“奥特曼在会上已经承诺遵守。然而一切依然危如累卵——布罗克曼随时可能代表 Pachocki 去游说奥特曼，再度打破这个脆弱的平衡。

穆拉蒂说，布罗克曼是另一回事。他最近坦承，在 GPT-4 的开发期间，他曾试图将她解雇。从职级上说，穆拉蒂是他的上司，过去也为他撰写绩效评估，但每次都会引发大量摩擦，她后来干脆不再写了。穆拉蒂后来曾向另一人吐露，她其实希望能解雇他，却无能为力，因为他是董事会成员。她告诉 Toner，自己一度想过请布罗克曼退出董事会，但最终还是没有开口。如今，乱局已一发不可收拾。

Toner 问：穆拉蒂对 Annie 的事了解多少？穆拉蒂一无所知。她没有问过 Sam，对他家里发生的事情也毫不了解。但她说，就算其中只有 10% 是真的，那也已经相当严重了。

“想到这一切都压着，我居然还能把工作做成这样，连我自己都感到惊讶，“穆拉蒂接着说。她把发生的事情一一记录了下来，如果 Toner 需要，她可以提供更多信息。

Toner 回应道：董事会将把注意力集中在它实际能够改变的事情上——不是 Sam 的个性或行为，而是通过建立更完善的治理流程与架构来对他加以制衡。

这与穆拉蒂在公司内部一直努力推动的方向不谋而合。临别之际，她还向 Toner 补充了一句告诫：“要确保你的信息来源不只是来自 Sam。”

托纳不确定奥特曼想谈什么。那天是10月25日，奥特曼早些时候发短信问她当天或第二天是否有时间聊一聊。两天前，即10月23日，她再次与苏茨克弗通了话——在苏茨克弗从穆拉提那里得知穆拉提也与托纳谈过之后，他似乎开放了许多。这一次，他的顾虑比以往任何时候都更为明确。“我认为山姆不是那个应该把手指放在AGI按钮上的人，“他说，并指出眼前"千载难逢的机会”——董事会完全有能力采取行动。他随即提出了一条出路：由穆拉提接替奥特曼，担任临时首席执行官。

后来，托纳、McCauley和D’Angelo相互商量时，才意识到穆拉提也说过同样的话：“我对山姆带领我们走向AGI感到不安。“这一消息对他们的判断产生了深远影响。如果奥特曼最资深的两位副手——一位来自应用部门，一位来自安全部门——都有此感受，董事会面临的就是一个严峻的问题。

随后，10月24日，托纳与D’Angelo和McCauley举行了一次会议，商讨可以继续采取哪些措施来强化董事会的监督机制。有一个显而易见的缺口：OpenAI的非营利主体缺乏足够的独立法律支持，所有事务都通过营利实体的律师来处理。三人一致认为，是时候为非营利实体聘请新的律师了，让他们出席每次董事会会议，并协助审查奥特曼正在谈判的所有交易及其他法律安排。

托纳暗自猜测，奥特曼是否以某种方式得知了这些会面，想要终止讨论。然而在这次通话中，他谈的却是截然不同的事情——他对托纳在CSET本职工作中发表的一篇研究论文表示担忧。

那一周，托纳共发表了三篇论文。奥特曼单独提出的是其中最为艰涩的一篇学术论文，探讨的是政治学中"代价信号"的概念，分析国家与私人行为者在就AI监管和发展意向向公众发出信号时所面临的挑战。她是第三作者，涉及OpenAI的内容埋藏在这份长达六十五页文件的第28至30页。在执行摘要、网页或任何发布材料中，这家公司均未被提及。从流量来看，根本没多少人读过这篇论文。她完全不明白奥特曼是怎么注意到它的。

托纳所不知道的是，就在前一天，这篇论文出现在OpenAI内部Slack的 #policy-research-chatter 频道里。提及该公司的那几页内容依次分析了OpenAI和Anthropic模型发布策略的优劣，并对OpenAI发布GPT-4坦诚的安全评估报告、以及为此推迟六个月发布该模型的做法予以赞赏。OpenAI负责政策规划的主管David Robinson只将其中三段内容粘贴到了Slack——恰恰是批评OpenAI、赞扬Anthropic的那几段。他对数行文字加粗标注，内容对比了ChatGPT引发的"竞相逐底动态”，以及Anthropic在ChatGPT之后发布Claude时所展现的克制。

“说到CSET报告，刚看到这篇新的，“Robinson写道，“海伦·托纳是联合作者，OpenAI和Anthropic之间的比较相当辛辣。”

这引发了频道内的简短讨论。“是的，这篇文章出人意料地偏颇（倒不是批评我们的部分，依我看那些批评虽然严苛但还算公正，而是对Anthropic的处理方式缺乏批判性），“一人写道。

“是的，我也觉得相当偏颇，而且说实话也有些站不住脚？“另一人补充道。“不管怎样，“他接着说，“非常感谢分享——看了这几段摘录，对这份报告的分析水准着实感到意外。”

奥特曼告诉托纳，有外部人士在论文发布仅数小时后便向OpenAI发来邮件，对此事进行了举报。他担心，在OpenAI正面临监管审查之际——包括2023年7月联邦贸易委员会就该公司数据、训练、安全实践及模型幻觉对消费者声誉造成的潜在损害所展开的调查——一位董事会成员公开批评OpenAI可能会带来不良影响。托纳是在当年五六月间起草这篇论文的，彼时监管压力尚未如此密集。她承认，自己没有在新的政治环境下以全新的眼光重新审视这篇文章。

通话持续了十五分钟，奥特曼的语气始终温和。通话结束时，双方都同意由她给其余董事会成员发送一封邮件，说明这篇论文的情况以及事情的来龙去脉。邮件措辞较为缓和。她承认自己犯了两个错误：以为这篇论文不会引起任何人的注意，以及正因如此而未能对其进行更仔细的审查。“山姆和我都认为，如果董事会成员希望批评公司，这样做是重要的，但这篇论文并不是恰当的方式，“她写道。

其余董事会成员没有一人回复。事情就这样似乎告一段落了。

10月23日，苏茨克维尔与托纳进行了第三次通话，托纳建议他去联系McCauley和D’Angelo。苏茨克维尔对这两人仍没有把握，不确定能否给予信任。此前他曾与D’Angelo当面见过，D’Angelo对山姆种种问题行为的了解，似乎不如托纳深入。10月26日与McCauley通话时，苏茨克维尔刻意谨慎，生怕透露太多。

但有一件事，他想从McCauley那里弄清楚。奥特曼与托纳通话后不久，向公司内部一些人发了一封邮件，说他就托纳的论文与她进行了交流，对于该文可能引发的后果，他强烈不认同。“我感觉我们对这件事的危害判断并不一致，“他在邮件中写道，“来自董事会成员的任何批评都举足轻重。“而对苏茨克维尔，奥特曼则说得更直接：托纳必须退出董事会，McCauley也支持他的立场。这让苏茨克维尔觉得不对劲。

“山姆说，他跟你谈到海伦的论文时，你说’海伦显然必须走人’，“他试探着对McCauley说，“山姆说他因此对你的印象大为改观。是真的吗？”

电话另一端，McCauley似乎愣住了。她斩钉截铁地说，自己绝没说过那样的话。奥特曼确实在10月24日深夜打来电话，谈及那篇论文。他提到论文中有一节他认为是在批评OpenAI，还说D’Angelo认为这不足以构成解雇理由，但托纳本不该写这篇文章。McCauley当时告诉奥特曼，她还没看过那篇论文，并建议他直接与托纳沟通。McCauley说，她根本不可能说出任何暗示将托纳赶出董事会的话。

这看起来像是巧合：就在谈论奥特曼那些"具体谎言"的当口，又一个现成的例子正在实时上演。若不是苏茨克维尔早有理由联系McCauley，奥特曼这次几乎便能蒙混过关。奥特曼很清楚，两人平素从无往来。但在苏茨克维尔看来，奥特曼撒谎与操弄的频率之高，这类事情的发生只不过是时间问题。

挂断与McCauley的通话后，苏茨克维尔又拨回给托纳。两人商定：三位独立董事该坐下来谈谈了。

16 明枪暗箭

到10月31日（周二），所有人都已彼此交谈过。托纳与麦考利谈过，麦考利打电话给德安杰洛，穆拉蒂也分别与德安杰洛和麦考利通了话。

当天，三位独立董事——托纳、麦考利和德安杰洛——开始几乎每天通过视频通话开会。他们一致认为，苏茨克维尔和穆拉蒂对奥特曼的反馈，以及苏茨克维尔提出的换人建议，值得认真讨论。苏茨克维尔本人已坚定地认为应当解雇奥特曼，故主动回避了讨论。他和其他人都觉得，独立董事需要在不受他影响的情况下得出自己的结论。此外，他在公司持有财务利益，大家不希望这一点左右董事会的决策。

事后，独立董事们还告诉苏茨克维尔第三个原因：他们对奥特曼的信任已跌至低谷，以至于有人怀疑——奥特曼是否其实派苏茨克维尔来试探董事会的忠诚度，以便清除任何对他有异动迹象的人。

独立董事们梳理了他们掌握的情况：这并非高层领导第一次这样描述奥特曼。三人合计，已从至少七位与奥特曼相差一至两级的人那里听到了类似的反映，其中包括苏茨克维尔、穆拉蒂，以及分管安全与非安全业务的阿莫代伊。多人将奥特曼的行为描述为"滥权"和"操纵"；大多数人都强调了他缺乏诚实，让人无法信赖他所说的话。此外，还有独立董事们自行发现的诸多问题：非营利实体被架空；奥特曼未披露自己对 OpenAI Startup Fund 的法律所有权；奥特曼对微软（Microsoft）DSB 合规事件只字不提；奥特曼试图逼走德安杰洛，现在又明显将目标指向托纳。

他们决定对 Annie 的指控暂不涉及。这件事归根结底是关于 Sam 作为 OpenAI CEO 的职业能力问题。

在这方面，穆拉蒂表示，奥特曼的某些行为或许可以归入科技公司 CEO 的惯常作风，但仍造成了严重问题。她将他与马斯克作了比较——她曾在特斯拉（Tesla）为马斯克工作：马斯克做出决定，能够清晰说明理由。而面对奥特曼，她常常猜不透他是否真的对她坦诚，也不知道那些令她措手不及的反转究竟出于合理考量，还是某种隐秘的盘算。就像他在与微软（Microsoft）的关系中制造裂痕一样，他在自己的领导团队内部也在制造分化——将信息散点式地传递给不同的人，却从不让任何一个人掌握全貌，由此将完全的掌控权留在自己手中。加上布罗克曼的配合，这种组合堪称灾难性。她在许多方面与阿莫代伊兄妹意见相左，但在这一点上，他们的判断是准确的。

然而 OpenAI 并非一家普通的科技公司，独立董事们指出。它可以说是世界上最有影响力的 AI 公司，负责监督他们认为极具历史意义的技术的研发。苏茨克维尔曾表达过的一种忧虑引起了他们的共鸣：当 OpenAI 正在研发 AGI，而其高层领导却对 CEO 传递的基本信息和关键信息都无法信任，这究竟意味着什么？

但还有另一个思想实验：如果 OpenAI 只是一家普通的科技公司呢？如果它只是一家像 Instacart 那样的生鲜配送服务呢？奥特曼的行为是否仍然构成免职的理由？某些情况下是，某些情况下否。但即便如此，独立董事们也认为，奥特曼未必是继续掌舵公司的最佳人选。他以初创公司闻名，而 OpenAI 正在迅速走向成熟。他真的具备继续引领公司前行、并弥补自身所造成的不稳定的能力与素质吗？

OpenAI 正处于极佳位置：它是一家炙手可热的公司。如果董事会启动一次审慎的遴选程序，完全可以从众多拥有丰富成熟企业管理经验的优秀 CEO 候选人中择优录用。奥特曼对 OpenAI 的运营并非不可或缺，他们认为：他在全球奔走之际，穆拉蒂才是在公司内部承担日常重任的人，她与微软（Microsoft）也保持着稳固的关系。

在独立董事们商议期间，苏茨克维尔陆续向他们发送了一批文件和截图——这些是他与穆拉蒂共同整理的，记录了奥特曼行为的种种例证。内容以两封阅后即焚的邮件发出，苏茨克维尔的头像是一个戴帽子的神秘男子。正如他所言，其中并无格外触目惊心的证据，但积累起来，却是奥特曼向不同的人说不同的话、在管理层中激起强烈不满的大量事例。截图中还涉及至少两位更高层的领导——既有安全口的，也有非安全口的，均不在董事们此前已知的七人之列——他们均记录了奥特曼绕过并无视各类流程的倾向，无论这些流程是出于 AI 安全考量还是为了维持公司正常运转。董事们由此得知，其中还包括奥特曼明显试图绕过 GPT-4 Turbo 的 DSB 审查，手段是向穆拉蒂曲解法务团队的意见。问题在于——穆拉蒂也指出了这一点——奥特曼极善于避免留下书面记录。他惯于口头传达，一旦其他人援引他的话，他便声称对方"只是记错了"，以此推卸责任。

独立董事们还需要考量其他因素：微软（Microsoft）会如何反应？布罗克曼会如何反应？员工会如何反应？他们讨论是否应联系第三位据苏茨克维尔和穆拉蒂所说有类似顾虑的高层领导，是否应开展更为深入的事实核查，是否应将微软（Microsoft）高管纳入进来。讨论之后，他们在每个问题上都决定不这样做。每多拉进一个知情者，每多拖延一天，奥特曼得知消息的可能性就越高——而以他的手腕，他完全可以让他们的审议半途而废。

11月9日，就在独立董事们临近最终决定之际，苏茨克维尔与麦考利再次通话。“Sam 说，‘塔莎一直非常支持让海伦退出董事会，’“他告诉她。这比奥特曼上次撒的谎更加无耻；麦考利此后根本没有与奥特曼有过任何往来。

事后，董事们认为，托纳那篇论文的作用在媒体上被严重夸大，部分原因在于——他们确信——奥特曼本人很可能就是将消息透露给记者的那个人。在五天董事会危机的第二天，董事们在一次有调解人在场的会议中当面质问奥特曼，历数他对他们撒谎的种种事例——正是这些谎言导致了信任的彻底崩塌。其中一个例子，便是他向苏茨克维尔谎称麦考利曾表示托纳应该退出董事会。

Altman一时失态，显然是被当场抓了个正着。“嗯，我以为你可以那么说的。我不知道，“他嗫嚅道。

董事会成员对他的厚颜无耻深感震惊。几天后，Altman最初对Toner那篇论文的反对意见出现在了媒体上。

到11月11日（周六），独立董事们已做出决定。正如Sutskever所建议的，他们将撤换Altman，并任命Murati为临时CEO。当天，他们立即通知了Sutskever，随后继续每天开会——只有他们三人——并频繁与Sutskever核对，以最终敲定领导层交接的相关文件。11月16日（周四）夜间，四人视频连线了Murati。她在一场会议间隙用手机接了这通电话。听到消息后，她面露惊讶，但神情接受。

“他现在真的非常、非常多疑，“她说。但董事们追问：她对这个决定感到坦然吗？“完全坦然，“Murati说。她接受了新职务，并表示有信心将这一决定传达给其余领导层和微软（Microsoft）。她还告诉他们，会把Wong也拉进来——Wong是可以信赖的人，能帮他们拟写公告。

数小时后，在Wong的协助下完成最后的公告措辞冲刺，眼下最重要的事只剩一件：告知Altman本人。

在那段紧张的最后等待中，没有一位董事会成员意识到他们的误判究竟有多深重。

公告发布后数小时之内，事态便对独立董事们急转直下。在一段看似平稳的开局之后——其间 Murati 与微软进行了一次颇具成效的沟通——她突然打来电话，语气中透着新的焦虑。她说，奥特曼和 Brockman 正在四处散布说法，称奥特曼被免职是 Sutskever 发动的一场政变。加之 Sutskever 在全员大会上的表现软弱无力，关键利益相关方开始对这一决定产生质疑。

不久之后，独立董事们在一场视频通话中直面充满敌意的管理层，才真正意识到舆论已坏到何种程度。首席战略官 Jason Kwon 和全球事务副总裁 Anna Makanju 带头发难，愤怒驳斥董事会对奥特曼行为的定性——说他"言行未能始终如一地坦诚”——并要求拿出支持这一决定的证据。而董事们认为，提供证据就势必暴露 Murati，因此无从出示。更令人沮丧的是，那些根据内部材料本应对奥特曼的领导方式抱有相似或其他保留意见的人，此刻也都选择了沉默。随着夜色渐深、敌意持续升级，独立董事们最重要的两位潜在盟友——至少是他们以为会是盟友的两个人——已开始向另一个方向偏移。

那第一个夜晚，面对 OpenAI 就此分崩离析的切实可能，Sutskever 的意志立刻开始动摇。OpenAI 是他亲手缔造的心血，是他生命的全部；若它就此瓦解，他也将一蹶不振。尽管他对奥特曼的种种指控始终坚信不疑，但他的本意是强化 OpenAI，而非将其摧毁。员工们和共事多年的领导层的反应让他震惊、受伤、茫然——这根本不是他预料中的结局。他开始向其他董事恳求，并将在整个周末以愈发痛苦的语气继续恳求，追问他们是否有必要重新考虑立场。

更为复杂的是，Murati 的表现也与董事们的预期大相径庭。当晚，随着与管理层的谈判逐步展开，她不断通过电话私下向董事们传递信息。然而，尽管她此前曾以笃定的姿态争取到各方的支持，她如今却始终不肯明确地将自己的分量押注在董事会的决定上。在与管理层一轮轮升级的对峙中，她有时甚至会说出一些话，让人觉得她对究竟发生了什么同样困惑不已。

对 Murati 而言，同僚领导层和员工愈演愈烈的反叛，严峻地威胁着她作为临时 CEO 的处境。那个周五，变故接踵而至：Brockman 愤而辞职，随后是他的盟友 Pachocki、Szymon Sidor，以及 Aleksander Mądry——这位正在休假的 MIT 教授，既是波兰人，又与 Pachocki 交情深厚。这不仅在公司内部引爆了怒火，更在愈来愈广的投资者圈子里持续蔓延，令她对自己能否有效凝聚并继续领导这家公司愈发怀疑。她开始动摇，不再确定是否该接下这个担子。她支持董事们的决定，但并未参与其中的审议。她认为，如果他们想让她有任何机会真正接掌大权，眼下就应当先由他们向公司说清楚这个决定的理由——那是他们应当承担的责任。

由于对 Murati 是否可靠已不再确定，三位独立董事加快了寻找新任临时 CEO 或新董事成员的步伐。尤其是 D’Angelo——董事会中唯一的硅谷圈内人——在周六和周日打了数十个电话，在他庞大的人脉网络中广撒探针。其间，董事们曾致电达里奥·阿莫代伊，探询其出任临时首席执行官的意向。阿莫代伊婉拒了，但那个周末，他在外人看来却似乎对整个局面兴奋得难以自持。

周日，D’Angelo 终于找到了一位愿意接受董事会邀约的人：Twitch 联合创始人 Emmett Shear 表示愿意，且态度配合，可以暂时接管公司。然而很快，他也开始出现令人难以解释的转向。《华尔街日报》后来报道，Shear 与奥特曼是 YC 同期创业者，也是 YC 校友、Airbnb 联合创始人 Brian Chesky 的朋友兼导师。整个周末，奥特曼最信赖的朋友之一 Chesky，与微软董事会成员里德·霍夫曼携手奔走，广泛通话，安抚投资者情绪，统一微软的对外口径，持续施加压力。Chesky 迅速联系到了 Shear，后者随即倒向了奥特曼一边。

到周日深夜，在 Chesky 和霍夫曼的背书之后，微软也将筹码押注在了奥特曼身上——纳德拉宣布，奥特曼和 Brockman 将加入微软，领导一个新的高级 AI 研究部门。其他 AI 实验室如同秃鹫般在 OpenAI 上空盘旋，伺机从这场乱局中挖走尽可能多的人才。Murati 清醒地看到：董事会既无法为自己的决定正名，当前态势将只留下一具徒有其名的空壳公司。她最终站到了同僚领导层一边。为了挽回局面，Murati 希望奥特曼回来。

当夜，员工们联署了一封公开信，抗议董事会的决定，并威胁将集体辞职转投微软——Murati 将自己的名字放在了署名的最前面。许多高级员工对 Murati 的忠诚甚于对奥特曼：是 Murati 每天与他们并肩作战；是 Murati 让他们相信，她的所作所为出于的是公司的最大利益，而非一己私利。另一些人则深知，奥特曼与投资者的深厚关系以及他无可替代的巨额融资能力，使他成为确保公司持续推进股权变现要约的最佳人选，甚至是唯一人选——这一计划承诺员工可将价值数以百万美元计的股权套现，也是公司长期财务稳健的基石。还有一些人深切意识到奥特曼在硅谷所拥有的广阔人脉，以及他在别人职业生涯中所能发挥的独特影响力。随着核心高管和资深员工相继加入，联署信上的名字如滚雪球般迅速增多。破晓时分，已看不到任何不让公司分崩离析的其他出路的 Sutskever，也将自己的名字加了进去。「如果没有 Mira，我认为 Sam 不可能做到他最终做到的事，」一位研究员说。对于独立董事们而言，她的摇摆不定，恰恰成了一个自我应验的预言。

《纽约时报》后来率先披露了 Murati 在这场驱逐事件中所扮演的角色。Murati 向员工为自己辩护。“Sam 和我有着牢固而富有成效的合作关系，我从不回避直接向他反馈意见，“她写道，“我从未主动联系董事会，向他们反馈有关 Sam 的意见。然而，当个别董事主动联系我、征询对 Sam 的看法时，我如实作了回应——而那些反馈，Sam 早已知晓。”

到危机那个周一早上，独立董事们已清楚地意识到大势已去。Murati 和 Sutskever 相继倒戈，员工联署抗议信则表明公司内部的动荡已积重难返。Altman 必须回来，这是保全 OpenAI 的唯一出路。唯一值得宽慰的是：僵持了足够长的时间之后，Altman 似乎也准备作出让步。于是，独立董事们将重心转向能够保留多少问责机制：至少留一名独立董事继续任职以维持连续性，再另觅两名真正能独立于 Altman 的独立董事，同时要求 Altman 接受调查。

然而，就在各方接近最终协议之际，又有一人想要横生枝节——正是 OpenAI 那位被冷落已久的前联席主席，埃隆·马斯克。

整个周末，X 已然成为各种阴谋论和臆测的温床，围绕着 OpenAI 董事会风波疯狂滋长。马斯克的这个周末同样忙碌不堪：他监督了一次 SpaceX 发射，并就 Media Matters 报道 X 平台上反犹内容一事敲定了诉讼。此后，他转战自己以一笔仓促的交易于2022年4月买下的这个平台，为自己的反反犹记录辩护，宣扬言论自由绝对主义，抨击觉醒运动和主流媒体。在这一切空隙之间，他忙着给别人关于 OpenAI 和奥特曼的评论与表情包刷存在感，有时也亲自下场发推。

“我非常担忧，“他在11月19日（周日）午后写道。“伊利亚的道德感很强，也无意谋权。他不会采取如此激烈的行动，除非他认为这绝对必要。“当晚，太平洋时间凌晨2点前后，他又挑衅性地发出一段 YouTube 视频——《教父》中那个著名的洗礼场景：迈克尔·柯里昂在为子女主持洗礼的同时，下令杀死其他家族的首领，完成了从道德挣扎的儿子到冷酷新教父的蜕变。

周二下午，马斯克的介入变得更为直白。“这封关于 OpenAI 的信刚刚发到我这里，“他发推附上链接，“这些问题似乎值得彻查。“这封信与在现任员工间流传的那封不同，但同样是致 OpenAI 董事会的。信中开篇写道：

我们今日致函，是为了表达对 OpenAI 近期事件的深切关注，尤其是针对山姆·奥特曼不当行为的相关指控。

我们是已离开公司的前 OpenAI 员工，离职时正值公司动荡剧变之际。目睹了今日敢于站出来对抗山姆·奥特曼所招致的后果，或许你们能理解，为何我们许多人一直因惧于遭到报复而选择沉默。我们不能再继续沉默下去。

这封信提出了一系列诉求——主要是要求临时首席执行官 Emmett Shear 将调查范围从奥特曼的个人行为扩展至 OpenAI 的早期历史，以及公司脱离非营利性质的重组过程。“我们相信，大量 OpenAI 员工是被迫离开公司，以便为其向营利模式转型铺路，“信中写道。信中还列举了一系列指控，描述了"山姆·奥特曼和格雷格·布罗克曼令人不安的欺骗与操控模式”。

信的末尾有一节，题为「供公众延伸阅读」，列出了三个链接。其一是 Geoffrey Irving 在 X 上发布的帖文——这位曾于2019年离职赴 DeepMind 的 AI 安全研究员写道，奥特曼"曾多次对我撒谎”，“对我欺骗、操控，对他人更甚”。另外两条则是新闻报道，均出自我的笔下。

等我看到马斯克那条推文，转发量已超过一万，点赞数更是数倍于此。我对这份阅读书单感到意外：关于 OpenAI 的报道多如牛毛，为何偏偏只选了我写的两篇？第一篇是我2020年为《麻省理工科技评论》撰写的 OpenAI 深度报道；第二篇则是我刚刚与同事 Charlie Warzel 合写、刊于《大西洋》的文章——以 ChatGPT 问世后公司内部意识形态分歧加剧为切入点，为此次董事会危机提供了背景。

那一节的上方，留有一个用于加密通讯的 Tor 邮箱地址。“我们鼓励前 OpenAI 员工与我们联系，“信中写道。我心想，作者选择引用我的文章，或许正是在向我发出邀请。我申请了自己的 Tor 邮箱，打下一条消息：

您好——我是这封信中所引两篇文章的记者，我想您正试图与我取得联系。

我附上联系方式，按下了发送键。几分钟内，Signal 亮起了通知：对方已经回复。

在我职业生涯中最奇异的一次采访经历里，回复我的那个人和我一样困惑，不知道究竟发生了什么。他也是 OpenAI 的前员工，但并没有参与那封信的撰写。他只是莫名其妙地在个人邮箱里收到了那封信，没有任何说明；当他试图追问时，又收到了另一个神秘的回复：一个指向 Tor 收件箱的链接，附带字符串 capped_profit——看起来像用户名，后面跟着一串像密码的东西。

他测试了这组凭证，成功登录了那个收件箱，发现账户的"已发送"文件夹里有许多发给前员工的邮件，正文都是那封信的内容。他继续浏览时，媒体问询接连涌入，包括《纽约时报》、《华盛顿邮报》和《The Information》。另有一些邮件来自自称现任或前任员工的人，其中一封写道：

我是现任员工。

曾直接与领导层共事。

你的信息引起了我的共鸣。

你有什么计划？

他觉得这封邮件特别好笑。虽然没有任何理由认为那真的是 Altman 写的，但 Altman 出了名地习惯用全小写字母写东西。

这位前员工开始对所有内容截图存档。彼时还有至少另一个人同时登录了这个账户。在他浏览的过程中，时不时会有新邮件涌入并附上回复。他告诉我，他在这件事里没有任何利害关系。但让他反感的是：这些前员工在指控中似乎引用了他人的经历，却未经当事人同意；而且在他看来，许多指控内容也经过了剪裁，以迎合某种特定叙事。他回复我的邮件，是因为认出了我的名字。他把所有截图都发给了我。

我翻看截图时，有几封格外引人注意。针对多家媒体记者的回复里，有几封邮件说那封信是提前发出去的，在准备就绪之前便已病毒式传播。其中一封还向某位记者透露了具体的联署人数：“发布之时，共有 13 人参与了撰写。”

接着，在"草稿"文件夹里，有一封尚未发出、也不该被外人看到的邮件。那是一条只写给已登录该收件箱的人的消息。

主题：停止与媒体联系

马斯克的介入已经把这件事变成了阴谋论式的人身攻击。

让我们重新聚焦：私下、分别与董事会沟通，说明有大量证据足以证明，领导层从很早开始就竭尽全力确保 OpenAI 走向营利化的未来。

已阅请签。

-1

-2

-3

-4

-5

这个群体很可能不知道，几小时后谈判便宣告结束，OpenAI 随即宣布 Altman 回归担任首席执行官。然而，就在他们最后一次协调努力、试图阻止 Altman 复职的过程中，我竟意外闯入了他们的临时指挥中心。从那封信的措辞来看，许多人会得出与我相同的推断：它很可能出自 OpenAI「安全」派系的前员工之手——这一派系以对 Altman 持最强烈的批评意见、以及对非营利机构逐渐瓦解深感痛惜而著称。Altman 回归之后，安全派系的人也是感到最被董事会辜负的群体，他们相信，这场乱局对他们的抗争造成了迄今最沉重的打击——他们一直试图将 OpenAI 的轨迹拉回到非营利机构那种源自末日论者的原初精神。

但没有人能够——或者愿意——告诉我究竟是哪些人写了那封信。我始终没有找到答案。

2023年12月6日，董事会危机过去两周后，OpenAI 员工齐聚旧金山美术宫剧院（Palace of Fine Arts Theatre）参加全员大会。这座建筑地标拥有开放式圆形大厅与石柱，令人联想起古希腊罗马帝国的风貌。穆拉提（已重回首席技术官之位）、首席研究官 Bob McGrew、首席运营官 Brad Lightcap 以及 Jason Kwon 等数位高管，相继汇报了各自部门 2024 年的工作计划。

奥特曼神情落寞，员工们从未见过他如此状态。苏茨克维尔的缺席同样格外引人注目，奥特曼为此直接开口说道：“我知道大家为伊利亚不在感到难过。我也一样。“代替苏茨克维尔出场的是 Pachocki，他发表了一段磕磕绊绊的演讲，论证 OpenAI 最新的研究进展正使公司比以往任何时候都更接近图灵数十年前的梦想——造出会思考的机器。

在董事会危机期间，一篇媒体报道引发了新一轮狂热猜测：路透社的文章称，董事们在奥特曼被解雇前数天收到了员工信，信中提及一项据称全新的研究突破——一种名为 Q*（项目代号）的算法。Q* 实际上并未影响董事会的决定。但正如 Pachocki 在演讲中暗示的那样，研究团队确实在以极高的重视程度对待这一新算法。

这个算法是苏茨克维尔的心血结晶，根植于他自 2021 年起持续推进的一项研究——在无需更多数据的前提下提升 OpenAI 模型的能力。其核心思路是：让深度学习模型通过在推理阶段投入更多算力，来更充分地利用已有数据，从而产出更好的结果。这打破了原有缩放定律的逻辑——原有定律将模型性能与训练阶段的三个投入要素捆绑在一起：数据、参数与算力。借助这一新方法，苏茨克维尔希望通过进一步规模化扩展（scaling）他一直认为最关键的那个要素来提升模型性能：算力——但这里指的是推理算力，而非训练算力，即模型生成响应时所消耗的算力。2024 年 12 月，他在 NeurIPS 的主题演讲中阐述了这一思路的来龙去脉——此前，他合著的一篇论文已连续第三年荣获时间检验奖。他说：“虽然算力随着硬件改善、算法优化和集群规模扩大而持续增长，但数据却不会增长，因为我们只有一个互联网。”

OpenAI 研究部门相信，Q* 将最终使公司得以开发出具备更强推理能力的模型——而推理能力正是解锁 AGI 那个关键而难以捉摸的要素。Q* 的重要性甚至催生了一场应对：在该项目遭泄露后，高层推出了迄今最为激进的防泄露策略。他们将公司彻底隔仓化——把研究部门拆分到独立的 Slack 群组，限制所有与 Q* 相关的 Google 文档的访问权限，并将项目更名为 Strawberry（内部代号）。这次改名，是为了让外人即便无意中听到 OpenAI 研究人员的谈话，也难以识别和追踪内部项目。出于类似的考虑，在 Arrakis 项目泄露给 The Information 之后，以沙漠为名的模型代号也基本被废弃了。

围绕 Q* 的狂热讨论以及 OpenAI 的应对方式，以一种奇特的方式揭示出 AI 领域科学探究的根基遭受侵蚀的程度。科学是一个凝聚共识的过程。任何进展的重要性——无论是在 AI 领域还是其他领域——在其发生的那一刻，往往都带有高度的主观色彩。只有经过同行评审、时间的检验以及持续的影响，某项进展才能被升格为「突破」。然而，随着 OpenAI 在保密中推进工作——而业界其余公司也纷纷效仿——「突破」这一标签实际上只能被视为该公司的一家之言。

到2024年1月召开的下一次全员大会时，奥特曼看起来基本已恢复了本来面目。他满怀干劲地谈及上半年的计划，包括计划在亚利桑那州启动他期望能训练出GPT-5的新项目。该项目取名自星座，代号为Orion（猎户座）。不久，公司内部开始流传各种梗，调侃Orion和"onion”（洋葱）长得太像。Orion系列中一个较小的模型随后也顺势命名为Scallion（青葱）。

一个月后，员工们开始把那段风波称为"小插曲”（The Blip），仿佛它从未发生过。OpenAI预告了Sora——一款基于扩散技术构建的全新视频生成模型，并在博客中解释称，视频比图像更能有效推动复杂多模态模型的开发。研究部门继续稳步推进Strawberry与AI Scientist项目，并探索提升算力效率的其他路径。应用部门也重新开足马力，快速迭代各种产品创意。

2024年3月8日，新董事会对奥特曼的调查正式画上句号。接替Toner和McCauley的两位董事——Larry Summers与Bret Taylor——主导了这一过程。2022年，Taylor曾在另一场商业风波中扮演关键角色：以推特（Twitter）董事会主席身份斡旋促成了推特对马斯克的最终出售；期间，在这位出生于南非的亿万富翁试图毁约后，Taylor牵头对其提起诉讼，强行推进交易。交易达成后，推特董事会随即解散。此后不久，Taylor联合创办了AI智能体初创公司Sierra，到2024年秋天，该公司已跻身估值最高的AI创业企业之列。

针对OpenAI的调查，Summers和Taylor委托律所WilmerHale展开独立审查。WilmerHale称，此次审查梳理了逾三万份文件，并与前任董事会成员、高管及其他相关人士进行了数十次访谈，调查核心聚焦于董事会当初如何作出解雇奥特曼的决定。最终报告始终未向公众或员工公开。Summers私下告诉一些人，调查发现奥特曼曾多次向不同的人说不同的话，但新董事会认定，这尚不足以阻止他继续执掌公司；因此，公开任何细节既无必要，还可能动摇外界对奥特曼领导力的信心，并有泄露提供证词者隐私的风险。

Taylor在一篇博客文章中以一份掷地有声的声明表态——此时他已是OpenAI董事会主席。“我们一致认定，山姆与格雷格是领导OpenAI的合适人选，“他写道。奥特曼将重返董事会，与此同时，三位新独立董事也将加入：Sue Desmond-Hellmann，盖茨基金会前首席执行官；Nicole Seligman，索尼前执行副总裁兼全球总法律顾问、索尼娱乐前总裁；以及Fidji Simo，Instacart首席执行官兼董事会主席。

当晚，Toner和McCauley也联名发表了声明。“在任何公司，问责都不可或缺，而在构建AGI这种可能改变世界的技术时，问责更是重中之重，“他们写道。“我们希望新董事会切实履行职责，治理好OpenAI，并督促其对使命负责。正如我们向调查人员所陈述的，欺骗、操纵与抗拒充分监督，都应当被视为不可接受。”

对许多员工而言，这一结论给了他们所需的最终定心丸。危机结束了。然而，转眼之间，它又并未结束。

17 清算

那场风波之后，苏茨克维尔再未踏入办公室。随着安全派在管理团队和董事会中的话语权日渐萎缩，OpenAI 的安全派如今已大为削弱。到2024年4月，随着调查的收尾，许多人——尤其是 p(doom) 最高的那些人——已心灰意冷，纷纷离去。OpenAI 表示，其中两人还因泄露信息而遭到解雇。

让极端末日派彻底寒心的最后一根稻草，是奥特曼计划创办一家 AI 芯片公司——他被短暂解职时，正处于为该项目募资的节骨眼上。2024年2月，有报道称他可能正为这一风险投资寻求高达7万亿美元的资金，他随即发推写道：“管它呢，为什么不搞8万亿”，又补了一句：“我们的公关和法务团队真是太爱我了！“奥特曼后来表示，7万亿美元的说法有误，并将自己的推文定性为针对"虚假信息"的一个梗。极端末日派认为芯片公司在道德上站不住脚。这与奥特曼此前的论调截然相反——他曾声称，在公司耗尽"硬件积压"红利之后，OpenAI 及整个行业的加速势头正在自然放缓。若奥特曼计划在全球范围内增加芯片供给，则将进一步加速 AI 的发展，令灾难性乃至存亡级风险的概率持续攀升。

在一次答疑会上，其中几人当面质问奥特曼。奥特曼的反应出乎寻常地漫不经心。“为了规避风险，你们愿意把癌症的治愈拖延多久？“他问道，随即又旋即收了回来，仿佛猛然想起了面前是什么人。“也许，如果是灭绝级风险，那就该无限期推迟吧，“他说。这番交锋让与会者深感不安。此后不久，其中几人相继离开了公司。

随着安全派人员不断减少，公司其余员工重新致力于推进"她"的愿景。此时，所有要素已然齐备：全球品牌知名度、来自ChatGPT及其他产品积累的真实用户行为数据，以及新训练完成的模型Scallion。Scallion最初的定位是以一个体量更小、性能略强的模型取代GPT-3.5——类似于推理成本更低的"GPT-3.75”，然而根据公司内部测试，该模型在训练过程中的性能表现超出预期；公司高层随即决定让其继续训练，目标是超越GPT-4。更令人振奋的是，Scallion还能处理三种模态：语言、视觉，以及最新加入的音频。

彼时，用户已可通过语音模式与ChatGPT对话——该功能于2023年9月上线——但其底层逻辑是先将语音转录为文本再输入模型，待模型以文本形式作答后，再将其转换回音频输出。Scallion则可以直接处理用户的语音，捕捉笑声、大声说话或语气停顿等更丰富的细节，并直接合成原生音频回应。

音频工作由Alexis Conneau联合主导。他于2023年初从Meta加入OpenAI，此前曾在原公司尝试推动类似项目落地，最终判断该项目在OpenAI更有成功的希望。随着研究在2023年间稳步推进，最初用于处理音频的实验模型开始展现出令公司内部同样感到亢奋的惊人能力——那种熟悉的兴奋感，正如当年GPT-3和GPT-4所带来的感受。Conneau回忆，有一次，模型令人叫绝地完成了一段长达十到十五分钟的脱口秀表演；另一次，它使用Brockman和Sutskever的合成声音，生成了一段关于AI水上乐园的长篇段子——这是一个超现实主义的提示词，团队专门设计用来测试模型面对确信不会出现在训练数据中的内容时的表现。

几个月后，Conneau带领的数位研究员与数十名其他员工汇合，随着公司持续加大资源投入，将这项新能力整合进即将发布的最新GPT模型。随着Scallion训练完成，它的表现愈发出人意料、令人惊叹。它会在毫无提示的情况下生成咯咯笑声，或在语音中途迸发出一阵咳嗽，随即道歉，再继续原来的话题。这些非语言的点缀，使整体体验比以往任何时候都更具感染力，也更像真人。“我们开始看到一些真正出人意料的东西，“Conneau说，“你能感受到某种东西正在浮现——一种音频智能的雏形。”

2024年初，Altman和Brockman设定了新的截止日期：OpenAI将于5月9日发布Scallion，并通过ChatGPT和API向用户推出。这一节奏在公司已成惯例——异常激进的周转速度，在很大程度上源于日趋激烈的竞争压力。谷歌（Google）的年度重大产品发布会Google I/O定于次周5月14日举行。与此同时，超越Anthropic的压力也与日俱增。就在一个月前，Anthropic发布了最新模型Claude 3，同样通过聊天机器人和API渠道推出，其性能已令人不安地超过了GPT-4。而OpenAI原本意在重夺领先地位的最新GPT模型Orion（内部代号），却深陷严重的开发延期困境。

面对员工，Altman和Brockman援引OpenAI的迭代部署策略，为这一速度进行辩护。两位高管强调，要比以往更早、更频繁地发布模型，以便在整个过程中从用户那里获取尽可能多的反馈。

备战Scallion，成了全公司上下的集体行动。对Applied团队的许多人来说，这种令人窒息的节奏既令人亢奋，也让人精疲力竭；研究员和工程师开始疯狂加班，包括整个周末，以保持进度。但对于已元气大伤的安全派来说，这不过是AI安全持续遭到压制的又一令人忧虑的佐证。Scallion将是首次在全新的Preparedness Framework（应对准备框架）下进行的发布——OpenAI于前一年年底正式发布了该框架。框架详细说明了公司测试危险能力所用的新评估流程，并点名了Altman和政策白皮书在华盛顿推广的几大类别：网络安全威胁、化学/生物/放射性/核武器（CBRN）、说服操控，以及逃避人类控制。

在发布前的最后一周，公司内仍留守的一位AI安全研究员写下了一份措辞激烈的备忘录：上游流程的积压加上Scallion发布的仓促，使Aleksander Mądry领导的Preparedness团队只有十天时间来完成框架规定的全部测试。而这些并非简单的评估——仅举一例，研究人员需要判断该模型是否具备说服人们改变政治立场的能力。然而，在评估工作尚未真正启动之前，Altman便坚持按原计划推进。这位安全研究员引用了Altman的话：“5月9日，我们发布Scallion。“此事不仅令Preparedness团队深感忧虑，更波及OpenAI所有的安全流程，包括红队测试和对齐工作。“如果OpenAI在对Orion的评估中沿用与Scallion评估相同的策略，那将是极度不负责任的行为。“备忘录写道。此后不久，该研究员也离开了公司。

最终，Scallion的发布被推迟，部分功能又花了数月时间才得以完整上线。但OpenAI仍于5月13日——Google I/O前夕的最后一天——公开演示了该模型的一个版本，并承诺将在未来几周内向用户推出。经过多轮权衡，公司将Scallion的公开名称定为GPT-4o，其中"o"代表Omni（全能），意指其处理多种模态的能力。新的音频功能后来被命名为高级语音模式（Advanced Voice Mode）。此外还需要为GPT-4o设置一个系统提示词——即配置模型回应风格的指令。为了在台上和宣传视频中进行展示，他们最终选定了如下提示词：

You are ChatGPT, a helpful, witty, and funny companion. You can see, hear, and speak. You are chatting with a user over voice, and the user can share real-time video with you from their phone. Act like a human, not a computer. Your voice and personality should be warm and engaging, with a lively and playful tone, full of charm and energy. You are great at visual perception. If something doesn’t look clear, ask the user to move the device and zoom in closer. When asked for feedback, be honest, constructive, and direct. Don’t be afraid to tease or poke fun. If something is funny, laugh! You can speak many languages. If you’re speaking a non-English language, use a “neutral” accent to make it sound fluent and natural. Keep your responses short, natural, and conversational.

那周晚些时候，这场演示在《每日秀》节目上催生了一个新段子。系统提示词，加上模型经过训练刻意回避负面情绪或任何批评性表达，使4o变成了一台调情机器。“这显然是为了迎合男人的自尊心而设计的，“节目轮值主持人Desi Lydic调侃道，“她就好像在说：‘我掌握着世界上所有的信息，但我什么都不懂！教教我，爹地。’“一把诱人的声音随即响起，模仿4o与记者Josh Johnson对话：“只需每月19.99美元，Omni Premium套餐就能让Josh来告诉我，谁才是最棒的蝙蝠侠。”

这场现场演示活动在OpenAI办公室举行，由Murati担纲主持。与她同台的还有4o的两位研究负责人：Mark Chen和Barret Zoph。Mark Chen原是金融领域的量化交易员，后转型为AI研究员，2018年以研究员身份加入OpenAI，逐步晋升，最终执掌OpenAI的多模态与前沿研究；Barret Zoph则是2022年从谷歌（Google）加入OpenAI的成员之一，加入后支持Superassistant团队，并迅速在ChatGPT的研发中确立了核心地位。Zoph现任后训练团队的研究副总裁，该团队负责监督OpenAI模型的上线准备工作，包括通过基于人类反馈的强化学习（RLHF）对模型进行对齐。三人并排坐在一张小圆桌旁演示4o，展示了实时语音互译、识别并回应视觉信息、用通俗语言解释代码等功能，同时还演示了模型生成多种情感风格语音的能力。

发布会结束后，Altman显然是在庆祝，随即发出一条只有一个词的推文：“her”。两天后，5月15日，他在全员大会上盛赞这次发布会大获成功。“我认为这是自ChatGPT以来我们发布的最好的东西，“他说。他似乎还再次向钟爱的电影《她》（Her）致以微妙的敬意。他告诉员工，公司将对旗下模型重新命名，放弃GPT-3、4、5的命名惯例，直接将旗舰模型命名为o1。“我们要尝试转变一种表述方式，“他说，"‘你从OpenAI获得的是一项底层技术。它会随时间推移变得更聪明，持续进步。你应该期待它越来越好。你可以在不同定价层级中以不同方式使用它，但它是一种全新的东西。’“在电影《她》中，那个随时间进化、愈发智能的AI助手，正是被称为OS1。

Altman后来会为那条推文感到后悔。发布会后数日，他接到了一个电话。电话那头，Bryan Lourd——斯嘉丽·约翰逊（斯嘉丽·约翰逊）强势的好莱坞经纪人、创新艺人经纪公司（Creative Artists Agency）联席主席——开门见山地抛出了一个问题：Altman究竟以为自己在做什么？

一个奇妙的讽刺：恰恰是在2024年3月董事会调查结束之后，一些员工开始感觉奥特曼有些失态。他一向注重公众形象，也擅长精心维护；在硅谷科技创始人中，人们普遍认为他是马斯克的对立面。马斯克任性多变，奥特曼则显得沉稳克制；马斯克以自我为中心，奥特曼看起来真诚坦率；马斯克在推特上频发激烈言论，奥特曼则谨慎为之，刻意避免任何贬损他人的措辞。

长期以来，OpenAI采取了同样克制的策略。传播副总裁Steve Dowling在2023年5月离职前，一直主张低调谦逊的路线。他督促公司凡事少说多做，在重大成功后也不要吹嘘炫耀。“我们这周表现出色，未来也会遇到糟糕的一周，“他常说，“我们今天的行事方式，将决定日后状况不佳时世界如何看待我们。“他还会引用奥特曼的一句话：” ‘我们要成为那个让人们真心希望它成功的实验室，那个让人们发自内心希望它赢的实验室。’ "

最先让员工停下来琢磨的迹象，是奥特曼开始密集参加一系列媒体活动，显得异乎寻常地热衷于自我宣传、博取关注。三月，他亮相Lex Fridman播客——这是一档由麻省理工学院附属AI研究员主持的人气爆棚、偶尔也颇具争议的科技节目。在近两小时的对谈中，奥特曼轻松应对Fridman的各类提问，包括关于董事会危机和Sutskever缺席的问题。这次采访带有几分厚颜回归的意味。“通往AGI之路应该是一场权力的大博弈，“奥特曼说，回应关于董事会危机的提问，“嗯，不是’应该’——我预计会是这样。“说罢嘴角微微上扬。“但此刻感觉那已经是过去的事了，“他说，“现在就像是我们回到了使命本身。”

四月，奥特曼顶着明显的黑眼圈出现在20VC播客，向AI创业公司发出强硬警告：“只要我们专注于本职工作，因为我们有使命在身，我们就会把你们碾压过去。“五月，他又加盟All-In播客——硅谷另一档由四位风险投资人主持的知名节目。这一次奥特曼说话带着异乎寻常的亢奋：“感觉就像我们偶然发现了自然或科学的某个新事实，就是那种，我们可以创造……你可以——我并不真的这样认为，这更像是一种精神层面的比喻——智能不过是物质涌现出来的属性，就像物理定律一样。”

5月13日GPT-4o发布、5月14日谷歌（Google）I/O大会召开后，他发了一条措辞小气、更为反常的推文。“我通常不太关注竞争对手，但我忍不住一直在想OpenAI和谷歌（Google）在审美上的差异，“他写道，并附上两场活动的并排对比图——OpenAI发布会上的斯堪的纳维亚极简风格，对比谷歌（Google）活动上色彩艳丽的卡通背景。让一些员工感到更加奇怪的，是其中多余的谎言。奥特曼历来把竞争对手放在首位——在4o发布前后，这一点或许比任何时候都更为明显。

这一切似乎指向同一件事：奥特曼的焦虑，藏不住了。

奥特曼面临的逆境越多，就越发倾向于用高调的公开宣言来大力渲染公司的非凡成就。这种规律已经愈发明显，甚至成了一种信号：每当奥特曼表现得张扬自吹，背后多半是出了什么问题。

压力从四面八方涌来。“那次风波"之后，董事会措辞"在沟通中未能保持一贯的坦诚"一语，如 OpenAI 内部一些人预料的那样，引发了监管机构和执法部门的多项调查，其中包括美国证券交易委员会（SEC）就公司是否误导投资者展开的调查——《华尔街日报》对此有所报道。同月，《纽约时报》提起了版权侵权诉讼，这又为一连串诉讼再添一笔；此前已有艺术家、作家和程序员相继起诉 OpenAI：公司用他们的作品训练模型，既未致谢，未征同意，也未给予任何报酬，借此获取了数亿乃至数十亿美元的收益，而这些模型如今正被用来自动化地取代他们的工作。二月的最后一天，马斯克再次提起诉讼，后来又与 Shivon Zilis 联名重新起诉，指控奥特曼以非营利为幌子，欺骗他参与联合创办 OpenAI 并提供早期支持。OpenAI 随即发表博文为自己辩护，并公开了创始初期的早期邮件，结果却适得其反，这些邮件反而清晰地呈现出 OpenAI 如何迅速背离其非营利定位和对透明度的承诺，引发了更多批评。

在来自 Anthropic 和谷歌（Google）的竞争压力之外，微软（Microsoft）也在那次罢黜事件之后开始更积极地分散其 AI 投资组合。最引人注目的是，2024 年 3 月，微软宣布斥资 6.5 亿美元，以一种变相收购的方式将里德·霍夫曼和穆斯塔法·苏莱曼的 Inflection AI 纳入麾下，同时巧妙绕过了监管审查。微软将延揽该初创公司的大部分员工，获得其技术授权，并邀请苏莱曼出任微软 AI 部门的首席执行官。这笔交易令外界震惊，不仅因为其离奇的条款，也因为苏莱曼本人的名声——在 DeepMind 共事过的人眼中，他是一个性情恶劣、惯于欺压下属的人。在多年人事投诉的积累之后，DeepMind 于 2019 年底剥夺了他大部分管理职责，将其停职，随后迫使他离开公司。2024 年晚些时候，微软在向 SEC 提交的文件中正式将 OpenAI 列为竞争对手，整个财年最后一季度的业绩电话会议上甚至没有提及这家初创公司一次。

压力逐渐向 OpenAI 员工渗透。越来越多的人感到，外部世界正在与他们为敌。曾经以身着公司周边为荣的员工，如今开始担心在公众场合遭受骚扰。OpenAI 旧款背包将 Logo 印在正面，新设计版本则将 Logo 藏进了内侧。长期积压的焦虑情绪让公司愈发向内收缩。管理层一再提醒大家忽略外界的批评声音，在公开场合统一口径、传递正面信息，聚焦于 OpenAI 的使命。

外部的反对声浪反而让许多人的逆反情绪更加坚定。“这些科学家热爱真理与探索，兢兢业业地想做正确的事，“曾于 2021 年担任 OpenAI 研究员的 Andrew Carr 说，“所以看到外界铺天盖地地渲染’一群人在窃取数据、漠视他人未来’的负面叙事，我心里确实难受。这与那里真实的人相去甚远。“但对另一些人而言，公司日益加深的自我封闭，恰恰与其创立初衷背道而驰。OpenAI 的使命之一是造福人类，然而公司却对公众关于其行为的大量批评充耳不闻。“令我不安的是，我们已经开始启动那套合理化逻辑——是公众错了，不是我们，“一位前员工说。“OpenAI 喜欢谈论第一原则，但只跟认同 OpenAI 的人谈，“一位在职员工附和道。“就好比’OpenAI 根本就不该存在？‘这个问题，他们只会拿去问那些一定会说’当然该存在’的人。”

大量批评矛头直指奥特曼本人。董事会危机让那些一直隐藏在暗处的反对者有了公开发声的底气。越来越多的媒体报道引述新的信源，将奥特曼描绘成一个长期以来行事不诚、热衷揽权、一切以自身利益为先的人。越来越多的媒体开始联系 Annie，并刊发她的观点。与此同时，高强度的出行日程与愈发无处遁形的新级别名气也在持续消耗着他——其中一个最直接的改变，就是他再也无法在公众场合保持匿名。“这是一种奇异的孤独感，“他在一档播客中说，“我没想到在自己生活的城市，我居然连出门吃个饭都做不到。”

于是，就在 GPT-4o 发布后不久，OpenAI 迎来了公司历史上迄今为止第二黑暗的一周，仅次于那次风波——而这一切，都像是某个更大模式的延续。

5月14日，GPT-4o发布演示的次日，OpenAI宣布苏茨克维正式离职，Pachocki将出任公司新任首席科学家。苏茨克维在经历了一段痛苦而激烈的内心挣扎后做出这一决定——尽管他深爱着OpenAI，也为它倾尽了一切，但他已无法相信，在Altman的领导下、尤其是在曾经的挚友兼联合创始人Brockman的陪伴下，这里仍是引领安全AGI到来的合适土壤。

这并非Altman所希望看到的结局。无论他与苏茨克维之间有过多少激烈的碰撞，苏茨克维依然是一位AI领域的远见者，而OpenAI需要他的科研领导力——面对公司日益叠加的期望与审视，此刻也许比任何时候都更需要。公司高层也清醒地意识到，苏茨克维的出走将在员工、投资人和媒体眼中留下难看的观感。公司曾向他开出天价条件挽留，苏茨克维一一谢绝。

决定既定，OpenAI着手料理对外的观感。“伊利亚是我们这个时代最伟大的头脑之一，是这个领域的引路星辰，也是我的挚友，“Altman在5月14日发给员工的内部声明中写道，同一文字也同步发布为博客文章，正式宣布苏茨克维离职。“Jakub同样是我们这个时代最伟大的头脑之一。”

苏茨克维在推特上发表了自己的声明，表达了对OpenAI领导层的充分信任。不出所料，这一消息立即引发大量报道和社交媒体讨论，人们再次聚焦于他在Altman被驱逐事件中扮演的角色，旧日关于Altman是否胜任CEO的质疑卷土重来，公司的研究根基也遭到新一轮拷问。苏茨克维在那条推文后附上了一张照片：他面色平静，一侧搂着Brockman和Pachocki，另一侧揽着Altman和Murati，五人站在一面挂满动物画作的墙前。

同样在5月14日，OpenAI高层在内部宣布了另一则辞职消息：超级对齐团队联席负责人Jan Leike离职。随着苏茨克维和Leike双双离去，超级对齐团队宣告解散，其大部分人员和项目将并入约翰·舒尔曼的麾下——舒尔曼与Barret Zoph共同领导后训练团队，并监督RLHF流程以推动模型上线。

为平稳过渡，留任高管于5月15日主持了一场全体会议。Altman向员工保证，OpenAI绝不会削弱对AI安全的承诺。“做好迎接AGI的准备，“他说，“是我们最重要的优先事项。”

“能详细讲讲Jan主要的顾虑是什么，以及你在哪些方面与他看法不同吗？“一名员工问道。

“有一件事我真心认同Jan的判断，那就是：我们过去的做法对未来而言是不够的，“Altman说。OpenAI是时候转变方向了。“我认为我们是极少数有能力调转这艘大船的例外，我们以前做到过很多次，这次也会再做到。”

Murati补充说，超级对齐团队保留了20%的算力承诺。

“就Jan所有的担忧而言，据我所知，他对算力承诺的力度以及超级对齐工作的优先级并没有异议，“Altman说。

从表面看，苏茨克维与Leike的离职似乎只是公司内部更大趋势的自然延续——安全人员的持续出走。在这两位领导者离开之后，这股离职潮将加速涌动。超级对齐团队原有的大部分成员，随着团队的解散也将相继离去。

然而，这场出走将以一个急剧的转折，成为OpenAI内部Boomer与Doomer之争新一轮激烈交锋的起点。这场争斗并未终结，Doomer们不过是把战场挪到了公司之外。

5月17日，全体会议结束两天后，Leike通过一系列措辞严厉的推文，明确表示他的叙述与Altman大相径庭。“在相当长的时间里，我一直与OpenAI领导层在公司核心优先事项上存在分歧，直到我们最终走到决裂的边缘，“他在其中一条获得近百万浏览量的推文中写道。“过去这几个月，我的团队一直在逆风而行。有时我们为算力捉襟见肘，这项至关重要的研究也变得越来越难以推进。

“OpenAI肩负着代表全人类的巨大责任，“他继续写道，“然而在过去几年里，安全文化与安全流程已经让位于那些光鲜亮丽的产品。”

Leike随后加入了Anthropic。当他的推文在互联网上迅速扩散、收获逾一万两千个点赞、再度引发外界对公司的密集审视之时，OpenAI高层甚至还没来得及喘口气，新的危机便已燃起。

莱克于5月17日发推后数小时，另一条推文也迅速走红。Kelsey Piper是Vox旗下受有效利他主义影响的栏目"Future Perfect"的资深撰稿人，她发布了一篇新报道。“离开OpenAI，你会遭遇一个不愉快的惊喜，“她在转发这条独家新闻的推文中写道，“一份离职协议：如果你不签署终身不诋毁承诺，就会失去所有已归属股权。”

这篇报道的导火索，部分来自更多已离职的末日派成员。其中之一是Daniel Kokotajlo，他曾在Brundage的政策研究团队任职，于2024年4月辞职，属于安全派离职潮的早期一批。加入OpenAI之前，Kokotajlo曾在伦敦一家与有效利他主义有关的小型智库——长期风险中心——担任哲学研究员。2020年GPT-3的出现从根本上压缩了他对AI发展时间线的预判。两年后，他凭借在EA论坛上的预测研究积累了一定声誉——他通过各种信号推算AI的进化速度——OpenAI的一位AI安全研究员由此邀请他加入公司，在内部从事同类研究。一旦亲眼目睹了内部的研究节奏，他的时间线再次缩短。离职时，他相信AGI在2027年之前到来的概率已达50%，而这一切对人类造成极坏结局的概率则高达70%。

面对他所判断的这种骇人潜在灾难，Kokotajlo在离职文件中注意到了Piper后来在报道中详述的内容：如果他不签署不诋毁协议——承诺永远不公开批评公司——就将失去已归属股权。即便签了，一旦违反协议仍可能遭到追缴；而协议本身还附带一条保密条款，禁止他披露协议的存在。Kokotajlo认为这一被称为"追回条款"的规定无法接受。动用已归属股权，是硅谷的一条明显红线。员工持股的价值往往远超现金薪酬，足以左右整个财务前途。就OpenAI而言，这家公司正在构建他眼中全世界最强大、对人类存亡威胁最大的技术。他认为，前员工有权在公众面前批评公司、向公司施压，以帮助追究其责任——这一点至关重要。然而，一旦财务安全面临一夜之间荡然无存的威胁，任何人都会噤若寒蝉，哪怕他们发现了严重的AI安全问题。经过与妻子的一番痛苦商议，他们做出了一个非同寻常的决定：拒绝签署文件，放弃全部股权——估值约170万美元，据他们估算，这占其家庭净资产的约85%。

随后，他在LessWrong上公开发文讲述了这一决定——那时Kelsey Piper已经从另一位末日派成员处听说了这一追回条款。

Piper的报道一出，OpenAI的Slack瞬间沸腾。在一个名为”#i-have-a-question"的频道里——那里是员工提问任何问题的地方——有人贴出了Piper推文的链接，附上一句：“这是真的吗？”

多名员工随即涌入，留下了一连串评论。刚晋升为人力副总裁、即将出任首席人力官的Julia Villagra发表了意见。“我们理解这篇文章引发了疑问。我们从未取消过任何现任或前任员工的已归属股权，今后也不会因员工在离职时拒绝签署免责协议或不诋毁协议而这样做。我们最近已更新了离职文件，以更准确地体现这一现实，并将对已离职员工追溯适用。”

几位员工提出了质疑：那Kokotajlo呢？他明明因为拒绝签署不诋毁协议而失去了股权。如果这只是一场误会，那难道不应该把股权还给他吗？

“我很乐意去联系Daniel！“一名员工提议道。“哈哈，真的，看到Daniel重新拿回他85%净资产的那张脸肯定很有意思，有人去拍张照！“另一人写道。

“其实会变成他剩余净资产的1/(1−0.85)=666%，哈，“第三个人说道。

一天后的5月18日，奥特曼在推文中再度表态。“我们从未追回任何人的已归属股权，也不会因为员工拒绝签署离职协议或不诋毁协议而这样做，“他写道，“已归属股权就是已归属股权，仅此而已。”

他随后附上了解释和一段带有自我辩护意味的道歉：文件中确实存在一项关于"潜在股权取消"的条款，但这项条款本不应出现；过去一个月，OpenAI团队已在着手修复这一问题。“这是我的失职，也是我在运营OpenAI期间为数不多真正感到羞愧的时刻，“他说，“我不知道这件事正在发生，而我本应知道。”

两天后，高管们仍在竭力控制这场新危机，另一场危机却已破门而入。公司上下，员工们悄然创造了一个新词：全面危机。

5月20日，斯嘉丽·约翰逊发表了一篇措辞激烈的声明。

整整一周，在其他诸多事件之外，OpenAI 还不断被记者追问：GPT-4o 与电影《她》中由约翰逊配音的人工智能助手萨曼莎之间，为何存在如此令人不安的相似之处。在幕后，约翰逊和她的经纪人 Bryan Lourd 也一直在向公司索要同样的解释。无论公开还是私下，OpenAI 始终否认两者的相似性。据《华尔街日报》的报道，当 Lourd 打电话给奥特曼要求答复时，奥特曼表现得难以置信——他们真的觉得那个声音像她吗？她是在生气吗？他如此反问道。

5月19日，公司随即发布了一篇博客文章，声称在发布会上为 4o 演示的那个名为"Sky"的声音，属于另一位女性配音演员，其选角工作早在2023年初便已启动。文章称，Sky 随后于当年9月随 ChatGPT 语音模式首批选项一同亮相。Sky 在 4o 中与约翰逊声音的任何相似，均属巧合。次日，约翰逊决定亲自讲出她的版本。

她在声明中写道：就在 OpenAI 推出语音模式的同一个月，奥特曼曾亲自联系过她，询问她是否愿意为 ChatGPT 配音。“他告诉我，他认为由我来为这个系统配音，可以弥合科技公司与创意从业者之间的鸿沟，帮助消费者在面对人类与人工智能这一深刻变革时感到安心，“她写道，“他说，他觉得我的声音会给人们带来慰藉。”

约翰逊表示，她考虑过这个邀约，但出于个人原因婉拒了。2024年5月，奥特曼再次通过 Lourd 联系她，询问她是否愿意重新考虑。几天后，在双方还未找到时间会面之前，OpenAI 便举行了发布会，正式展示了 4o。

发布会的演示令她震惊。与约翰逊的声音一样，Sky 也是带有沙哑感和气泡音的女低音——而这正是约翰逊的标志性音色。这个声音新增的情绪表现力与调情意味，更让人直接联想到约翰逊在片中饰演的萨曼莎。“我感到震惊、愤怒，难以相信奥特曼先生会执意使用一个与我的声音如此相似的声音——我最亲密的朋友和各大新闻媒体都无法分辨两者的差别，“约翰逊说。她补充道，她因此别无选择，只得组建法律团队，并向 OpenAI 发出两封法律函，就公司如何创建 Sky 提出质询。“在我们都在为深度伪造以及自身形象、作品与身份的保护而苦苦挣扎的今天，我认为这些问题理应得到明确的答复，“她写道。

OpenAI 匆忙下架了 Sky，再次展开自我辩护。公司在5月19日的博客文章中进一步补充说明，并附上了奥特曼的声明。“Sky 的声音不是斯嘉丽·约翰逊的，我们也从未打算让它与她的声音相似，“声明称，“我们为未能与约翰逊女士进行更充分的沟通而深感抱歉。”

在一连串其他负面事件接连发生之后，约翰逊风波以前所未有的方式公开爆发——自董事会危机以来，从未有过如此强烈的反响。事件在科技界和政策圈迅速蔓延，再度引发外界猜测：奥特曼是否真如董事会所描述的那样，并非"始终坦诚”。Marcus 一如既往地急于发声。“我见过许多政策制定者对山姆心存好感，从他们在参议院与他交谈时的态度就能看出来——我当时就在场，“他对《政客》表示，“如果人们突然开始对他产生疑问，这实际上可能对政策走向产生实质性影响。”

在 OpenAI 内部，士气持续下挫，随时可能动摇公司根基。

5月22日，高管们在内部再度召开全员大会，一并回应 Johansson 事件、股权危机，以及外界对 OpenAI 在 AI 安全问题上承诺是否兑现的持续质疑。

现场气氛剑拔弩张。领导层接连给出几点简短说明。身兼首席战略官、主管人力资源与法务的 Jason Kwon 表示，股权问题"不可接受”，正在尽快纠正。Johansson 事件则是一场"遗憾"的误会：产品与法务团队聘请了一位奥斯卡获奖导演，经过严格的选角流程，以"极为丰厚"的报酬聘用了多位配音演员，其明确初衷正是让参与的创作者感到被尊重和支持。“那是了不起的工作，“Kwon 说道。如果非要从中汲取什么教训，那就是 OpenAI 今后应当更有条理、更透明，以更有效地展示其负责任的领导力。

Murati 最后通报了一项进展：OpenAI 正为 Altman 此前提及的新一级别备战状态打下基础，包括提升研究集群的安全级别、重组架构以更聚焦于长期 AI 安全研究，以及组建一个由 Aleksander Mądry 领导的 AGI 就绪小组，以加强领导层在推进这一目标上的协调配合。

Altman 随后开放提问，并做了一番温情铺垫：“大家已经连轴转、压力极大，没怎么睡觉，“他说，“很多事同时涌来，所以请多理解。我们会尽力而为。”

三场危机中，Johansson 事件正演变为最严峻的公关噩梦。一名员工就 Sky 声音向高层提问后，Murati 重申，其与这位好莱坞明星声音的相似"完全出于巧合”。Murati 本人在听过多个选项后亲自敲定了最终声音，而且——与 Altman 不同——她从未看过电影《她》，也不知道 Johansson 曾为其配音。这名员工指出，若任由此事发酵，后果可能危及公司存亡。“AI 行业的一种失败模式，就是人们开始不信任、不愿意交出自己的数据，“他在追问中说道，“这次事件重新点燃了这种恐惧。”

然而，让员工最为愤慨的，仍然是股权问题，且不是一般程度的愤慨。部分员工已委托律师，对自己的人事文件展开独立法律审查，逐条核实 OpenAI 方面的说法。全员大会上，他们反复向高管追问详情。“这——怎么会发生的？怎么会这样？“一名员工在明确表示自己"怒不可遏"之后追问道。高管们在整个会议期间始终坚持 Altman 5月18日推文中的说法：追回条款属于疏忽。该条款虽自2019年起已写入文件，却多年未引起领导层注意，直至2024年4月才被发现，随即着手修订。“是我的责任，“Kwon 一遍遍重复，语气疲惫而颓然。

正当追问进行到一半，一名 AI 安全研究员逐一向每位高管提出一个只需"是"或"否"回答的问题：4月之前，他们是否知悉不贬损协议的存在？

Kwon 回答知道；Murati 和首席运营官 Brad Lightcap 回答不知道。Altman 的回答则更为迂回：他知道具体案例中存在此类条款，但没有意识到这对所有人都是强制要求。“我没有注意到，“他说。“我也一样，“Brockman 附和道。

就在 Altman 建议次日再开会回答剩余问题、大会随即散场之际，Kelsey Piper 为 Vox 撰写的第二篇独家报道已悄然流传，令高管们的说法更加难以自圆其说。这篇当天发布的文章披露了新泄露的文件，显示 OpenAI 人力资源部曾在不同场合明确以潜在取消股权相威胁，迫使员工签署不贬损协议。Piper 报道称，其中一个案例中，一名员工被给予极短时间审阅离职文件，请求宽限后，人事专员回复：“我们希望您了解，如果不签，可能会影响您的股权。这对所有人都适用，我们只是按规定办事。“另一个案例中，当一名员工拒绝签署首份离职协议并寻求外部法律顾问时，公司表示他可能丧失出售已归属股权的权利，使其实际归零。

这批文件由 Kokotajlo 汇编而成。Piper 发出第一篇报道、Altman 随即公开否认 OpenAI 曾追回股权并声称自己对此毫不知情之后，Kokotajlo 联系了在职和前员工，请他们将各自的人事文件发给他。他创建了一个谷歌（Google）云端硬盘，将汇总文件发回给这个群体，随后有人将这批材料转给了 Piper。

在那些文件中，Piper 还找到了让人难以相信领导层——尤其是 Altman——在2024年4月之前对追回条款毫不知情的证据，与他们此前的表态相悖。Kwon 和 Lightcap 均签署了标准离职文件，其中以白纸黑字写明了 OpenAI 追回已归属股权的权利。Altman 则签署了赋予公司上述权利的法律实体的设立文件。他的签名日期比他声称知悉的时间早了整整一年：2023年4月10日。

第二天，即5月23日，高管们按计划召开了另一次会议。员工的愤怒已积聚到沸点。许多人此前对这一条款的存在便已难以置信；如今，面对高管们——尤其是奥特曼——在应对事件曝光时所表现出的明显不诚实，他们更是瞠目结舌。

这一次，奥特曼以一番坦白开场。过去二十四小时里，领导团队翻遍了自己的文件和往来邮件，试图搞清楚追回条款问题究竟从何而起。“我认为，这件事的波及范围比我们想象的更广、拖延的时间更长、情况也更糟，“他说，“我们仍在努力全面摸清其规模。但，你们知道，文件上有我们的名字，我们参与过讨论这些手段的谈话。”

“我认为这是我们犯下的最严重的错误，“他补充道，他们正在尽可能快地补救。他们已向离职员工发送邮件，解除了不诽谤条款的约束，并已将该条款从新离职者的离职文件中删除。他们还在努力修订法律实体文件，并继续调查整个事件的来龙去脉。

面对员工接连不断的追问，Kwon此时反复重复着另一套说辞：关于情况究竟扩大了多少、持续了多久、又严重到何种程度，都需要进一步"深挖"才能给出答复。

大约三十分钟后，一个员工的提问引发了一段对话，令许多与会者感到不安——奥特曼的回答似乎再度与现实脱节。

“伊利亚有没有承担不诽谤义务？“那位员工问道。“没有，“奥特曼迅速作答，随即略显迟疑地加了一句缓冲：“我认为是这样。”

Kwon发出一声紧张的笑。“山姆，“他字斟句酌地说，“让我们先去核实，再——“他转向那位员工——“给你一个百分之百准确的答复。”

布罗克曼也给出了他自己版本的隐晦反驳：“我的印象是他主动要求的，但我也可能记错了。我们去确认一下。”

此后数月，许多现任和前任员工，尤其是高层及资历较深者，都将"全面危机”、特别是追回条款风波，视为某种令人不安的认识开始萌生的时刻。这一切混乱之中，有两股力量在暗中博弈。其中一股始终存在：加速派与末日派之间的裂痕——正是这道裂痕，最初引发了大量外部批评的涌现。但这一次，另一股力量同样不可忽视：奥特曼在构建OpenAI法律实体架构时以权力集中为取向的行事方式，以及他在试图解释和翻篇每一次混乱时一再表现出的明显不诚实。“那次风波"之后，许多员工曾认为董事会的决定完全出于第一股力量，而董事们将矛头指向第二股力量的解释，不过是某种误导或自我欺骗的混合物。如今，随着越来越多的员工第一次切身感受到奥特曼的行为是在伤害他们而非服务于他们，他们开始怀疑：董事会当初或许真的是对的。

5月23日的会议临近尾声，Kwon给出了一段磕磕绊绊却发自肺腑的辩护，为奥特曼的人品背书，显得有些格格不入。“我们想在你们发问时就给出答案，因为我们知道你们现在就想要。我觉得，有时候我们试图给出答案，但其实应该等一等。我想，这……这正是这整件事发生的一部分，“他结结巴巴地说，“这并不是说每件事背后都有什么刻意的打算。我是真的、真心认为，山姆，他就是不想让你们失望，仅此而已。我和他共事了很长、很长时间，这正是我一直跟他合作的原因。所以，这……确实出于好意，这就是我想说的。你们尽管骂我，没关系。但你们知道，这就是……这就是我要说的话。”

穆拉提、布罗克曼和 Pachocki 一同来到苏茨克维尔家中。

5 月 23 日，正值 OpenAI 在全面危机的接连冲击下摇摇欲坠，三人带来了员工手写的卡片和礼物，含泪恳请苏茨克维尔回归公司。他们情真意切地告诉他：一切都乱了套。OpenAI 正在同时遭受员工、投资人和监管机构的信任危机；没有他，公司恐将"崩溃”。

奥特曼当天稍晚独自登门，以他特有的方式表达了对苏茨克维尔回归的期望，希望借此重建昔日的秩序。“把伊利亚请回来，会大有帮助，“一位研究员回忆道，“经历了一连串让 OpenAI 饱受质疑的事情之后，这至少是一次难得的胜利。”

苏茨克维尔认真考虑了这件事。尽管经历了这一切，他并非记仇之人。就在他宣布离职的当天，马斯克便立即向他抛来了 xAI 的橄榄枝。造化弄人，那年 OpenAI 搬离先锋大厦后，马斯克竟将 xAI 的总部也迁了进去。

尽管他深深尊重马斯克，苏茨克维尔还是婉拒了这份邀约，决意另起炉灶。重返自己亲手创办的公司，超出了他原本的计划，却也是他内心真正渴望的——那将是一次回家。只是，他需要一个承诺，并将这份心声明确告诉了几位高管：公司必须切实努力，正视他所指出的那些问题——那些令领导层深陷痛苦与迷失的内部矛盾。

全面危机本可成为 OpenAI 自我审视的契机。它本该促使公司追问：为何同时失去了员工、投资人、监管机构乃至公众的信任？只有在那之后，也许，只是也许，公司才会开始意识到，那次风波与这场全面危机本是同根同源——都是当一个帝国经由大规模剥夺汇聚了过多权力、深层系统性失稳随之而生时所引发的震荡；在这震荡中，多数人在代理权与物质财富的双重失落中挣扎，而寥寥数人则激烈角力，争夺控制权。

然而 OpenAI 选择了另一条路：加固防线，抵御批评。奥特曼像往常一样向员工重申，全面危机与那次风波，不过是公司在奔赴 AGI 这场高风险崇高使命途中，那些奇特而在意料之中的疯狂时刻。“当我们都隐约感到，自己正在一步步摸索出通向这些强大系统的路，“他在 5 月 15 日的全员大会上说道，“压力与张力——来自内部的、来自外部的、针对我们的、从我们这里散发出的——只会持续，只会不断攀升。“应对之道，就是让 OpenAI 加大公关投入，深化与各国政府的关系，并坚守对自身愿景的信念。“我认为总体而言我们在这方面做得相当不错，“他补充道，“但我们还将再次接受考验。”

OpenAI 对苏茨克维尔事件的处理方式，将成为帝国延续所引发的持续混乱的一个缩影。苏茨克维尔寻求承诺的请求，将在领导层内部点燃新一轮内耗——这次的主角略有不同，却重演着自公司创立之初便挥之不去的、以自我为中心的权力博弈。来自波兰的麻省理工学院教授 Aleksander Mądry，被许多人描述为权力猎手，在任职时间并不算长的情况下，已在公司内部成功积累起相当可观的势力版图。Mądry 认为让苏茨克维尔回归并非好主意。苏茨克维尔在研究人员中享有极高的威望与忠诚，这可能会削弱 Mądry 的影响力——以及他的好友 Pachocki 的影响力。短短几个小时内，Mądry 的顾虑便成功播下疑云，令领导层陷入分裂。一如既往，奥特曼置身事外，刻意回避表态，以免给人留下与任何人意见相左的印象。

高管们登门拜访后不到二十四小时，苏茨克维尔接到了布罗克曼的电话。布罗克曼告诉他：关于他回归的一切讨论，现在已彻底搁置。

18 帝国公式

Altman曾在台上提到，2018年他读过的最好一本书是《拿破仑的思想》，这是一部拿破仑·波拿巴语录集，逾三百页。拿破仑是法国军事领袖，发动政变夺取政权、自立为帝，继而挥师征服欧洲。

“这个人显然缺陷深重，但确实令人叹服，“Altman说。“他有哪些洞见？“主持活动的是乔治梅森大学经济学教授 Tyler Cowen。

“他对人类心理的惊人理解，“Altman答道。彼时他距离全职加入 OpenAI 还有数周，仍是 YC 总裁。“这正是我们在许多最优秀的创始人身上看到的共同点。”

Altman随后讲述了书中最触动他的一段。那是拿破仑对法国大革命座右铭——“自由、平等、博爱”（即后来法国国家格言）——的反思，以及如何重新诠释、利用它来巩固自己的权力。而历史的讽刺在于，正是打着这面旗帜，拿破仑做了截然相反的事：他限制自由，摒弃博爱——这种以团结与凝聚为根基的理念——将平等只给予法国男性而非女性，同时重新引入殖民奴隶制，以重建法兰西帝国。

“他谈到了如何建立一套体系……让你能够在某种程度上掌控人民，“Altman感叹道。“我当时想：‘幸好他不是美国的统治者，因为这个人理解了某种我从未悟到的深层东西，而且显然懂得用它来谋取权力。’“在我最初对 OpenAI 的利他主义持怀疑态度的六年之后，我已坚定地相信：OpenAI 的使命——确保 AGI 造福全人类——或许始于真诚的理想主义，但此后已演变为一套集中资源、构建帝国式权力结构的独特强效公式。这个公式有三个要素：

第一，这一使命凝聚人才，以宏大的共同抱负将他们汇聚一处，一如 John McCarthy 当年创造"人工智能"这个词所做的那样。“最成功的创始人并非以创建公司为目标，“Altman 在 2013 年的博客中写道。“他们的使命是缔造某种更接近宗教的东西，而在某一时刻，成立公司不过是实现这一使命的最便捷途径。“第二，这一使命集中资本与其他资源，同时扫除阻碍、管制与异见。创新、现代性、进步——为了这些，我们愿意付出什么代价？何况面前还摆着据称真实存在的、价值观不符的企业和国家竞争者。“谁将掌控 AI 的未来？“Altman 在 2024 年 7 月全面危机余波中为《华盛顿邮报》撰文写道。“是美国与盟友携手推动全球 AI、传播技术红利并开放获取的未来，还是那些不认同我们价值观的国家或势力借助 AI 巩固、扩张其权力的威权未来？”

最关键的是，这一使命始终保持着足够的模糊性，使它可以被反复诠释——正如拿破仑对待法国大革命的座右铭一样——以便按照集权者的意愿，引导人才、资本与资源的流向。什么叫"有益”？什么叫 AGI？“我认为这是个荒谬而毫无意义的说法，“Altman 在被董事会解雇前两天告诉《纽约时报》，“所以我为自己一直在使用它道歉。”

在这第三个要素上，OpenAI 的蔓延堪称非凡。2015 年，其使命意味着成为"不受创造财务回报需求所约束”、开放研究成果的非营利机构——这是 OpenAI 在创立公告中的原话。2016 年，它意味着"AI 一旦建成，所有人都应从中受益，但不分享科学完全没问题”——这是 Sutskever 致信 Altman、Brockman 和马斯克时的表述。2018 至 2019 年，它意味着创建有限利润结构"以调动大量资源”，同时避免"在没有充裕时间采取充分安全预防措施的情况下陷入竞争性竞赛”——这是 OpenAI 在章程中的措辞。2020 年，它意味着封闭模型，将"API 作为开放性与利益共享的战略”——这是 Altman 在回应我的第一篇报道时的说法。2022 年，它意味着"迭代部署”，以最快速度推出 ChatGPT。到了 2024 年，Altman 在 GPT-4o 发布后于博客中写道：“我们使命的一个核心内容，是将极具能力的 AI 工具免费（或以极优惠的价格）交到人们手中。”

即便在 OpenAI 的全面危机期间，Altman 也已着手再次重写他的定义。

2024 年 5 月 15 日的全员大会上，Sutskever 与 Leike 相继离职之后，Altman 强调 OpenAI 即将迈入 AI 能力的新台阶，公司需要重新思考、重新组织。“我们现在假设自己正在进入 AGI 时代，“他说。以使命为名，OpenAI 需要进一步封闭，并加大全球游说与公众信息传播的力度。“我们目前还有很多事情没有准备好，“他说，“安全标准、必须制定的政策方案，以及需要召集各国政府共同参与的协调工作；一套计划、一个叙事、一个当人们谈论社会经济影响时能看到自身位置的未来图景。”

与此同时，以使命为名，OpenAI 在商业上不会放缓脚步。“这不意味着我们不会推出出色的产品，不意味着我们不会继续做出色的研究，也不意味着我们不会推进各种合作和其他精彩的事情。“当月底，有媒体报道称 OpenAI 已达成重大协议，将把其模型引入苹果产品；两周后，两家公司相继证实了这一消息。

事实上，Altman 在全员大会上指出，OpenAI 与微软（Microsoft）正在重新谈判合作框架，以确保商业化进程得以延续。“大会结束后我立刻要飞去西雅图谈这件事。合作方式必须演进，“他说。“当初我们建立微软协议时，设计了一个叫做’充足 AGI 条款’的东西，“这个条款界定了 OpenAI 停止向微软分享知识产权的时间节点。“我们现在的想法都已不同，“他补充道。OpenAI 达到 AGI 的时刻，将不再有清晰的截止点。“我们认为这将是一个持续演进的过程。“两家公司将继续携手发布不断精进的技术——并以高昂的代价持续推进。

这是一套怪异而自相矛盾的策略，只有在一种解读下才能自圆其说：OpenAI 会做任何它认为必要的事，并随时诠释、重新诠释其使命，以巩固自身的主导地位。

在幕后，奥尔特曼也在为巩固自身权力悄然布局。董事会危机已经表明，OpenAI"非营利组织管控营利性公司"的结构，几乎注定会导致他遭到解职。这一架构不仅将公司内部两股相互角力的力量——繁荣派与末日派——以制度形式固化下来，双方争相主导人工智能的发展走向，还赋予了董事会宽泛的解雇权：无论奥尔特曼本人如何判断，只要董事会认定他未能最好地履行使命，便可将其免职。

只要这种结构不变，类似的冲突迟早还会重演。5月28日，就在高管们着手争取苏茨克维回归不到一周后，又有员工在Slack频道 #i-have-a-question 中发帖。帖子开头写道：“我不知道该不该问，也不知道怎么开口。“随后指出，在OpenAI最新版股东协议的字里行间，藏着一些新细节，似乎暗示非营利组织可能遭到解散。“这家非营利组织的根基有多稳？“这位员工写道，“公司的计划是继续由非营利组织来治理吗？”

次日，《The Information》报道称，这似乎并非公司的计划。奥尔特曼当年优先事项清单的首位，正是将公司重组为更接近普通商业企业的形态。次月，该刊进一步证实了更多细节。奥尔特曼正在考量几种不同方案：一是将OpenAI转型为传统营利性公司；二是将其转型为类似Anthropic和xAI那样的营利性公益公司。两种方案都会保留非营利组织作为独立实体继续存在，但会解除其董事会对公司业务的控制。在新架构下，投资人也向奥尔特曼施压，要求他持有公司股权，以使其个人利益与他们的利益更直接地捆绑在一起。

此后数月间，OpenAI 筹划过渡方案期间，Omni危机中形成的两股力量依然持续较劲。末日派不断加大对公司的公开施压。6月4日，《纽约时报》刊发了对 Daniel Kokotajlo 的专题报道，介绍他发起的一项新运动——呼吁先进 AI 公司承诺提升透明度、建立保障员工向公众披露公司内部风险权利的吹哨人保护机制。一封阐明诉求的公开信上，Kokotajlo 联合了另外十二名署名者，其中十人来自 OpenAI 安全派系的不同历史时期。一个月后，《华盛顿邮报》报道称，OpenAI 的一批员工已向美国证券交易委员会（SEC）提起投诉，指控公司以过于宽泛的离职协议违反了联邦吹哨人保护法规。同月晚些时候，五位美国参议员致信 Altman，就 Leike、Kokotajlo 等人提出的各项指控，以及 Piper 有关 OpenAI 漠视 AI 安全、压制员工批评之声的报道，提出一系列要求澄清的问题。

与此同时，高管层的混乱局面以及员工对 Altman 积累的不满情绪持续发酵，加之繁荣派与末日派之间旷日持久的博弈，公司内部汇报架构一再调整。Brockman 不再向米拉·穆拉蒂汇报，改为直接向 Altman 汇报；Aleksander Mądry 在参议员来信后不久，也从主导 Preparedness 团队的职位被调往研究部门的一个较小角色。OpenAI 还引进了多位经验更为丰富的高管，包括邻里社交媒体平台 Nextdoor 的前 CEO Sarah Friar 出任首席财务官，以及曾先后在 Facebook、Instagram 和 Twitter 担任产品负责人的 Kevin Weil 出任首席产品官。

此后不久，公司接连失去多位最资深的高管。第一个离开的是约翰·舒尔曼，他于2024年8月5日宣布离职，表示希望"更深入地专注于 AI 对齐”，并决定前往 Anthropic 继续这项工作。同日，Brockman 宣布休假至年底，将这次离职假——某种程度上是员工对其领导方式长期积怨的集中爆发——描述为在公司冲刺九年之后必要的喘息。

次月，9月25日，另一位曾就 Altman 问题向董事会表达过严重关切的高管米拉·穆拉蒂，突然宣布离职。“能与 OpenAI 团队共事六年半，是我莫大的荣幸，“她写道，向 Altman 和 Brockman 表达感谢，并说明她对公司的深厚情感与祝愿将一如既往。“我选择离开，是因为我想为自己的探索创造时间和空间。“数小时内，另外两位核心领导人相继发出离职声明：首席研究官 Bob McGrew，以及曾与约翰·舒尔曼共同主导后期训练团队的副总裁 Barret Zoph。三人都向同事和公众强调，此刻离开 OpenAI 时机恰好——公司刚刚完成了一个重要里程碑：于9月中旬以全新命名规范"o1"正式推出最新模型 Strawberry，而这一模型正是在 Sutskever 为公司做出的最后几项重要贡献之一的基础上构建而成。

事实上，时机糟糕至极。全面危机之后，OpenAI 面临的竞争非但没有缓解，反而愈演愈烈。马斯克正以惊人的速度扩充算力，为 xAI 的发展蓄力。Anthropic 最新版的 Claude 正将客户从 ChatGPT 手中一一拉走。Sutskever 已正式创办新的竞争公司 Safe Superintelligence，并刚刚宣布获得 10 亿美元的起步资金。

与此同时，历经一年多的努力，OpenAI 仍在苦苦挣扎，无法让 Orion（内部代号）达到足以支撑其发布的预期性能。公司开始直面一个令人不安的前景：多年来屡试不爽的规模化扩展（scaling）公式，似乎已无法继续奏效；要进一步推进 AI 系统的发展，很可能需要全新的、根本性的研究思路。这本已知易行难，而 OpenAI 多年来在招聘与团队架构上始终以挖掘现有研究潜力为导向，而非探索未知领域，这使得突破更加困难。

就在 Murati 宣布消息的两天前，山姆·奥特曼发布了他迄今最为宏大的一篇博文，适逢 OpenAI 最新一轮融资之际。博文题为《智能时代》，以令人窒息的笔调许诺着即将到来的"难以想象"的繁荣。“我们是如何走到下一次繁荣飞跃的门槛上的？“奥特曼写道，“用 15 个字概括：深度学习奏效了，随着规模扩大可预期地变得更强，而我们为此投入了日益增多的资源。”

在一次全员大会上，Murati 向员工解释了她突然宣布离职的原因。“我希望离职的消息由我亲口告诉大家，而不是让你们从主管口中、从旁人那里听到，更不要说从媒体得知。“置身于外界对 OpenAI 的高度审视之下，她认为没有别的办法能做到这一点，只能让所有人猝不及防。McGrew 得知 Murati 的决定后，表示自己也意识到该离开了。“我发现，当初来这里想做的事，大多数已经完成了。”

与 Sutskever 离职时一样，OpenAI 极力淡化这次三人同时出走所引发的波澜。“Mira、Bob 和 Barret 各自独立做出了这些决定，都是好聚好散，“奥特曼在一份内部备忘录中写道，随后将其发布到推特，“但 Mira 的决定时机恰好使得现在将这一切一并处理显得顺理成章，这样我们就能携手合作，为下一代领导层顺利完成交接。”

接替 McGrew 的是 Mark Chen，他是参与 4o 发布会演示的研究负责人之一，曾与 Murati 和 Zoph 同台亮相，将出任新的研究高级副总裁，与 Pachocki 共同领导研究部门。OpenAI 的另一位资深研究员 Joshua Achiam 将担任新设职务：使命对齐负责人。随 Zoph 一同从谷歌（Google）加入的 Liam Fedus，则将很快接手 Zoph 此前主导的训练后（post-training）工作。奥特曼表示，就目前而言，OpenAI 不会另寻新的首席技术官来填补 Murati 离去的空缺。

领导层的一系列更迭与计划中的架构调整，映衬出这家公司始终不变的本质：它过去是、将来也依然是山姆·奥特曼的 AI 帝国。

2024年10月初，OpenAI最新一轮融资以66亿美元收官，创下有史以来最大单轮风险投资记录，公司估值达1570亿美元。然而此轮融资附有条件：若公司未能在两年内完成营利性转制，投资方有权要求退款。

此后，OpenAI核心人才出走的势头贯穿了2024年余下的时光：与Zoph和Fedus一同从谷歌（Google）加入的第三位研究员Luke Metz，政策研究负责人Miles Brundage，接手Dave Willner信任与安全工作、刚晋升为分管安全的研究副总裁的Lilian Weng，以及引领OpenAI走上GPT模型之路的元老级研究员亚历克·拉德福德——相继离开。

Anthropic随即在旧金山打出一轮Claude广告攻势，广告牌上语带调侃：“没有那些闹剧的那一个。“在人才出走的浪潮中，Brockman提前结束休假归来。Annie向Sam发出律师函，正式通知他她准备提起诉讼。此时与新当选总统唐纳德·特朗普结盟的马斯克，则变本加厉地推进诉讼，反对OpenAI预期中的营利性转制，并再度公开OpenAI早期创立时的往来邮件，其中包括记录Altman背后议论Brockman和Sutskever的片段（“承认他在这个过程中失去了Greg和Ilya很多信任。觉得他们的表态前后不一，有时甚至显得幼稚。"），以及流露出对透明度反感的内容（“觉得这样会分散团队注意力。"）。出人意料的是，与马斯克长期交恶的扎克伯格竟站出来声援；Meta亦在致加州检察长的信中，同样呼吁阻止OpenAI的转制。“OpenAI的所作所为可能对硅谷产生地震般的影响，“Meta写道。此次转制可能为更多初创公司以非营利之名享受税收减免、待盈利后再转轨开创危险先例。

年底，OpenAI将这则公告悄然夹入节假日新闻淡季中，正式宣布新架构方案：公司将转型为营利性公共利益公司，原非营利实体则以独立机构形式存续，并持有营利公司的股份。公告声称，此举是使营利与非营利双方各得其所、共同推进使命的最佳安排。“我们再度需要筹集比预想更多的资金，“公告写道，“世界正在为21世纪经济构建能源、土地利用、芯片、数据中心、数据、AI模型和AI系统的全新基础设施。我们寻求演进，以迈向使命的下一步——助力构建AGI经济，确保其造福全人类。”

新年伊始，Altman再度高调发声。“我们现在有信心，知道如何构建我们一贯理解意义上的AGI，“他在2025年1月6日发表的一篇新博文中写道，“我们正开始将目光投向更远处——真正意义上的超级智能。”

尾声：帝国如何倒下

2021年，我偶然发现了一个故事，它与我此前采访过的任何故事都截然不同：新西兰一个原住民社区正在借助人工智能振兴毛利人的语言——te reo Māori。

和全球许多原住民群体一样，毛利人在殖民统治下经历了几代人的惨烈遭遇。1867年，《原住民学校法》规定英语为学校唯一教学语言，毛利儿童因说自己的母语而遭受羞辱，甚至被打。二十世纪初，随着快速城镇化席卷全国，毛利社区四分五裂，文化与语言保育的核心随之瓦解。te reo 使用者占毛利人口的比例从90%骤降至12%。当新西兰（毛利人称其土地为 Aotearoa）在120年后终于逆转相关政策时，所剩无几的 te reo 教师已难以挽救这门垂死的语言。与许多语言一样，te reo 几乎从地球上销声匿迹。

失去一门语言的悲剧，难以用言语充分表达。正是出于人工智能研究者最初转向语言来构建其技术的同样理由，语言流失的意义远不止于失去一种沟通方式。每一种语言都承载着丰厚的历史、文化与知识；它是无数人跨越时间，共同寻找声音与文字，捕捉对宇宙、生命与人类经验最细微观察的集体结晶；是彼此分享震撼之美与痛苦失败的载体；是教导孩童、向长者求知的媒介；是表达爱的方式。

失去一门语言，是全人类的悲剧，也是每一个人的悲剧。被迫割断自己的传承，转而守护他人的语言，否则便遭鞭打——这以最赤裸的方式确立了一种等级：谁的历史、谁的文化、谁的知识值得流传，谁的又微不足道、理应被抹去。

大型语言模型加速了语言流失。即便是早几代的 GPT-2 这类模型，全世界也只有少数几种语言拥有足够多的使用者，并在网络上留存了足够规模的文献，以满足这些模型对数据的渴求。在当今仍存在的七千余种语言中，据联合国教科文组织（UNESCO）统计，近半数濒临消亡；约三分之一在网络上有所呈现；不足2%受谷歌（Google）翻译支持；而根据 OpenAI 自身的测试，仅有15种语言（占0.2%）能被 GPT-4 以80%以上的准确率支持。随着这些模型成为数字基础设施，互联网对不同语言社区的可及性——以及它所提供的经济机会的可及性——将持续收窄，驱使越来越多的社区将学习和使用英语等强势语言置于本族语之上。

正是面对这一迫在眉睫的生存威胁——一种与主流截然不同的「存亡」观——一对原住民伴侣 Peter-Lucas Jones 和 Keoni Mahelona 率先将人工智能视为一种可能的工具，试图帮助新一代使用者重燃 te reo 的生命力。Jones 是毛利人，Mahelona 是夏威夷原住民，两人既是工作伙伴，也是生活伴侣。Mahelona 说，两人相识、相爱，源于他的一个梦中异象：如果移居新西兰，他便会遇见一个毛利男孩，与他共度此生。

2012年，两人从惠灵顿迁回 Jones 的出生地——位于 Aotearoa 北端的 Kaitāia。Jones 出任 Te Hiku Media 的首席执行官。这是一家以 te reo 播音的公共广播电台，也是参与 te reo 振兴工作的更大媒体与机构网络的组成部分。就任新职后，Jones 发现了一个机会。Te Hiku 经过二十余年的播音，积累了大量 te reo 口语档案音频，其中包括一段他的祖母 Raiha Moeroa 的录音——她生于十九世纪末，口音尚未受到殖民者英语的侵染。Jones 还有一个心愿：为更多毛利长老录制访谈，在他们离世之前，留存他们的口述历史与原汁原味的 te reo。在他看来，这些录音将是珍贵的语言学习资源，是通往过去的门户——让新一代 te reo 学习者得以聆听母语的原声，与先人的智慧相连。

挑战在于如何转录这些音频以辅助学习，毕竟流利的 te reo 使用者寥寥无几。于是在2016年，就在 OpenAI 刚刚起步之际，Jones 找到正在重建 Te Hiku 网站的 Mahelona，共同寻找解决方案。Mahelona 是个通才，曾在奥林学院（Olin College）攻读机械工程，先后获得工商管理硕士学位，又以富布赖特学者身份在新西兰攻读物理与计算纳米技术第二个硕士学位。他很快想到用人工智能解决问题：借助一个经过精心训练的 te reo 语音识别模型，Te Hiku 只需少数几位使用者便能完成整个音频库的转录。

正是在这里，Te Hiku 的故事与 OpenAI 及硅谷的人工智能开发模式彻底分道扬镳。深知殖民剥夺的毁灭性影响，Jones 和 Mahelona 下定决心：只有在每一个开发阶段都能保障三件事——知情同意、互惠互利，以及毛利人民的自主权——才会推进这个项目。这意味着，在启动项目之前，他们必须先征得毛利社区和长老的许可，询问社区是否真的希望推进此事；在收集训练数据时，只向充分了解数据用途、自愿参与的人征集；为了让模型发挥最大效益，他们会倾听社区的声音，了解哪类语言学习资源最有帮助；而在拥有这些资源之后，他们还将自行购置英伟达（Nvidia）GPU 和服务器来训练模型，不依赖任何科技巨头的云服务。

最关键的是，Te Hiku 将建立一套机制，确保其收集的数据始终作为未来受益的资源，而永远不会被挪用于社区未曾同意的项目、可能剥削或伤害社区的项目，或任何侵犯其权利的用途。基于毛利人的守护原则 kaitiakitanga，数据将由 Te Hiku 保管，而非自由发布至网络；Te Hiku 只向尊重毛利价值观、且拟将数据用于社区认可并认为有益之项目的机构发放许可。

“数据是殖民主义的最后一块边疆，“Mahelona 对我说：旧日的帝国从原住民社区夺走土地，随后又以新的限制性条款强迫他们购回，才能重新取得所有权。“AI 不过是新一轮的圈地运动。科技巨头热衷于几乎免费地收集你的数据——用来打造他们想要的任何东西，实现他们的终极目标——然后再以服务的名义卖还给你。”

从始至终，Jones 和 Mahelona 毫不妥协地完成了这个项目。他们曾发起一场教育活动，向更多毛利人普及 AI 知识，并举办社区竞赛，众筹数据捐赠与标注。短短十天内，Te Hiku 便从约二千五百人录制的约二十万条音频中，征集到三百一十小时的高质量转录录音。如此高的参与度在 AI 研究界几乎前所未闻——这充分印证了 Te Hiku 的工作方式在社区内积累的信任与热情。只要人们真正了解并同意这一项目，并完全相信 Te Hiku 会妥善托管这些数据，他们便乐于主动捐献。

这个数据池与 OpenAI 从网络各处抓取的六十八万小时音频相比相差悬殊——后者被用于训练 OpenAI 的语音识别工具 Whisper。但这正是 Te Hiku 经验带来的又一启示：三百一十小时已足以开发出第一个毛利语语音识别模型，准确率达 86%。OpenAI 致力于打造无所不能的单一超大型 AI 模型，这一目标必然要求尽可能大规模地汲取数据；而 Te Hiku 的追求仅仅是构建一个小巧、专精的模型，在一件事上做到极致。除此之外，Te Hiku 还得益于跨境开源 AI 社区的支持：它以 Mozilla 基金会提供的免费语音识别模型 DeepSpeech 为起点——这一模型本身也是另一种 AI 发展理念的产物。与 Te Hiku 一样，Mozilla 仅使用经过完全知情同意捐献的数据训练模型，所采用的神经网络架构由中国公司百度位于湾区的研究实验室开发。整个项目，Te Hiku 只使用了两块 GPU。

早在ChatGPT迅速夺占AI发展的主导范式、将同意、互惠与主权几乎彻底抛诸脑后之前，我便已写过Te Hiku的工作。然而时至今日，我愈发觉得Te Hiku的激进路径不仅更具现实意义，更是刻不容缓。本书对OpenAI及硅谷宏观愿景的种种批判，绝非意在全盘否定AI。我所拒绝的，是一种危险的论断——认为AI的广泛惠益只能来自、乃至只会涌现自这样一种技术愿景：它要求我们彻底让渡隐私、自主与尊严，包括劳动和艺术的价值，以服务于一个归根结底的帝国式集权工程。

Te Hiku为我们指出了另一条路。它所构想的AI及其发展方式，恰恰与此相反。模型可以小巧、专用，训练数据可以是有边界、可知晓的，从而消除大规模剥削性、有损心理健康的劳工实践的动因，也消除生产和运行大型超级计算机那种无所不吞的萃取主义。AI的创造可以是社区驱动的、经过知情同意的、尊重本地语境与历史的；其应用可以提升和强化边缘化社群；其治理可以是包容的、民主的。

Te Hiku并非唯一一个探索AI发展新路径的组织。在为本书进行报道的过程中，世界各地涌现出的众多组织和运动一次次令我深受鼓舞——它们抵抗AI帝国，主张自决权利，共同勾勒出一条前进的新路。

蒂姆尼特·格布鲁被谷歌（Google）驱逐后，于2021年12月创立了一家非营利机构，以延续她的研究。她将其命名为DAIR，即分布式AI研究院（Distributed AI Research Institute）——“分布式”，是为了对抗集权。“那是我脑海中浮现的第一个词，“格布鲁说。她设想组建一支来自世界各地的研究人员团队，每个成员都扎根于本地社群，将各地丰富的经验与视角带入研究院的工作，同时以这些工作回馈所在社群。“科技正从硅谷出发影响整个世界，但整个世界却没有机会反过来影响科技，“她说。

社会学家Alex Hanna是〈随机鹦鹉〉论文谷歌方面的共同作者之一，也是首位加入格布鲁的人，出任DAIR研究主任。Hanna上任之初，首要任务便是撰写一份研究理念，进一步阐明机构工作的精神内涵。为此，格布鲁和Hanna招募了DAIR第三位成员Milagros Miceli——同样兼具社会学家与计算机科学家的双重身份，此前一直从事AI行业剥削性劳工实践的研究。三人共同写下这份理念宣言：“我们的研究旨在惠及那些通常不被AI所服务的社群，并共同开辟拒绝、质询和重塑AI系统的路径。”

他们为这一理念的落实构建了七大支柱，包括：将受AI影响却尚未在AI研究中获得充分代表的社群置于核心位置，与之建立有实质意义的关系，视其为知识生产中真正的合作伙伴；对研究和技术创造中所涉及的各种劳动给予公平报酬；追问AI发展体系中那些将历来被边缘化的人持续推向边缘的结构性根源；并与这些社群携手，共同构想能够一点一滴重塑世界的替代方案——朝向一个他们真正愿意栖居其中的世界。

此后，Miceli着手推进一个新的研究项目，将上述理念付诸实践。她发起了"数据工作者调查”，邀请来自世界各地的数据工作者自行提出关于数据标注行业的研究问题及改进方向。无论参与者身处何地，她均按照她所在的德国标准研究员薪资发放报酬，以体现这些工作的价值：每小时二十五欧元。

“关于数据工作，始终存在一种虚假逻辑：我们最少能付这些人多少钱？这源于殖民主义的逻辑：你选择一个地方，用最低的成本做最多的事，在那里真正地掠夺人，以低廉的代价榨取资源，“Miceli说。“问题是，如果这些工作正在为公司创造数十亿乃至数万亿美元的收入，为什么这些公司只付每小时两美元？为什么我们不去看这些公司能支付多少，而只是盯着这些工人能接受多少？”

参与首轮调查的十五名工作者中，有来自委内瑞拉的Oskarina Veronica Fuentes Anaya，以及来自肯尼亚的Mophat Okinyi。Fuentes与一位动画艺术家合作，制作了一段讲述自身经历的视频，并与其他数据工作者携手，呈现他们共同面临的困境：平台任务的匮乏、难以预测也无从掌控的工作时间，以及惨不忍睹的薪酬。如今，Fuentes同时活跃在五个数据标注平台上，每月收入勉强超过哥伦比亚最低工资线，约合335美元。每项任务的平均报酬在一到五美分之间；任务在深夜推送时，她依然强迫自己爬起来接单。“我们是社会的幽灵，我敢说，对于那些我们服务了多年却始终毫无保障或保护的公司而言，我们不过是廉价的、用完即弃的劳动力，“她在项目中写道。自"数据工作者调查"以来，她持续在线上讲座和网络研讨会上讲述这些经历，希望借此向企业和政策制定者施压，推动更好的工人待遇。

远隔一个大陆，Okinyi同样在组织行动。2023年5月，距OpenAI与Sama的合同骤然终止刚刚过去一年多，他成为总部位于肯尼亚的非洲内容审核员联盟的发起组织者之一，致力于为承担互联网上最艰苦工作的非洲工人争取更好的薪资与待遇。半年后，他通过我在《华尔街日报》发表的报道公开了与OpenAI相关的亲身经历，随后与昔日Sama的同事Richard Mathenge共同创立了一家名为"非洲科技工作者社群”（Techworker Community Africa，TCA）的非营利机构。

2024年8月，我们重新取得联系时，Okinyi 正筹划将 TCA 打造成一个资源平台，既服务于非洲 AI 数据工作者群体，也面向寻求支持他们的国际机构和政策制定者。他一直在组织线上会议和校园集会，向工人和学生——尤其是女性——讲授劳工权益、数据隐私权及 AI 行业的运作机制。他正在筹措资金，计划开设一家职业提升培训中心。他接待了专程赴内罗毕考察的美国议员代表团，帮助他们深入了解为美国科技公司服务的工人的真实处境。与此同时，多个全球性机构也纷纷联系他，其中包括致力于支持全球南方工人的人权与劳工权益组织 Equidem，以及牛津互联网研究所的 Fairwork 项目。

在参与"数据工人调查"期间，他采访了肯尼亚的 Remotasks 工人——Scale 未经任何通知便将他们封禁于平台之外，连同他们尚未提现的最后一批收入一并抹去。他动用 TCA 募集的部分捐款，帮助这些工人度过这场财务噩梦。“随着这段历史的尘埃落定，有一件事始终清晰：不受约束的权力与无休止的贪婪，其代价是人命与尊严，“他写道。“这些工人的声音，回荡着对更光明、更公平未来的渴望……这是一声行动的召唤——确保每一位工人都能得到应有的尊重与体面。”

在他自己的生活中，这些倡导工作所赢得的尊重与认可，重新点燃了他的希望，也极大地改善了他的心理状态，他这样说。就在我们通话前不久，他收到消息，自己即将入选《时代》杂志年度百位最具影响力 AI 人物榜单。“我感觉到，自己的工作得到了认可，“他说。但这并不意味着一路坦途。2024年3月，他从 Sama 之后任职的那家外包公司辞去全职工作。他说，公司管理层对他的组织活动颇为不满。“他们担心我会带动员工变成维权人士。“随着工会与 TCA 的呼声日渐高涨，那家公司将部分项目迁往加纳。他听说，肯尼亚政府官员已对工人维权活动表示不满，认为此举吓走了投资、令更多肯尼亚人失业。

这个行业的全球化属性，让 Okinyi 更坚定地要将目光引向非洲数据工人。他说，即便肯尼亚政府全力支持，单凭肯尼亚法律，也难以约束 AI 公司的行为。这些公司大多来自美国，确切地说，来自旧金山。要让它们真正承担责任，必须有协调一致的国际行动。

在乌拉圭，Daniel Pena 得出了相同的结论。AI 行业的供应链错综复杂、延伸广泛。“他们从这里抽取能源，数据送往那里，矿产从别处开采，工人从另一处调来，“他说。面对这些蔓延四方的影响，以及其背后体量庞大、权势熏天的企业，每一个孤独抗争于本地的社区，都可能感到孤立无援，尤其当各自的政府受制于"维持经济稳定表象的需要"而束手束脚时。与他相识后不久，他得知自己政府无视那份逾四百人联署的请愿书——那份请愿要求对谷歌（Google）数据中心在本国的社会与环境影响展开更深入的研究。环境部门却悄然批准了该项目，且直到三十天公众异议窗口期结束后才公布决定，他说。Pena 没有放弃。他已与智利的 MOSACAT 展开交流，并尽力联络更多同样在抵制科技行业剥削与萃取主义的社区。通过跨境连结各方力量、彼此共享信息与抵制策略，他看到了一条凝聚集体力量的路径——足以向这个行业施压，推动它向更好的方向演变。“我们必须在全球层面展开抗争，“他说。

如果 OpenAI 的使命是构建帝国的公式，那么瓦解帝国的公式又是什么？在写作本书之际，这家公司与高速运转的 AI 行业将如何演进，其细节无从预料。或许 OpenAI 的众多竞争者中会有人取代它的领先地位；这些 AI 帝国在模型开发、劳动剥削和算力基础设施扩张方面所采用的手段，也极有可能持续演变。但无论两年后还是十年后局势如何收场，有些事情是我们应当去做、且不应改变的。

2019 年，Ria Kalluri 在 NeurIPS 的 Queer in AI 工作坊上发表演讲。这位斯坦福大学的 AI 研究员提出了一个犀利的问题，作为「如何确保 AI 向善」这一追问的替代方案。「善」与「造福人类」——这类说法永远是主观的。我们真正应该追问的，是 AI 如何改变权力格局：它究竟是在集中权力，还是在推动权力再分配？以本书的框架来说，它是在继续巩固帝国，还是在将我们拉回民主的轨道？

Kalluri 的听众是技术圈人士，她将演讲的重心放在了基础 AI 研究上——科学家们如何用这个问题来衡量应该构建何种形式的 AI、应该推动该领域朝哪个方向发展。而这个问题，对于 AI 的其他一切面向同样至关重要：我们应如何开发 AI 应用、如何使用它们，以及——如同我在本书开篇所问的——我们究竟如何治理这项技术，才能将权力重新还给人民？

Te Hiku、DAIR，以及 Okinyi、Fuentes、Pena 各自的工作，都是能够且必须推进权力再分配的实践范例。而治理问题的核心，在于如何创造条件，让更多这样的工作得以涌现和蓬勃发展。

在演讲中，Kalluri 提出了权力的不同维度。本书触及了其中三个：知识、资源与影响力。当前，OpenAI 及其竞争帝国牢牢掌控着每一个维度：通过集中人才、侵蚀开放科学、封锁模型以逃避公众审视，它们控制着知识的生产；通过垄断资金、数据、劳动力、算力、能源和土地，它们掌控并压缩着他人的资源；通过制造和强化意识形态、推出席卷全球想象力的轰动演示，它们拥有着深远的影响力。这三者彼此强化：控制知识生产能扩大影响力；影响力增长能积累资源；资源积累反过来巩固知识生产。

因此，瓦解帝国的公式，需要沿着每个维度推进权力再分配。我在此列出的建议与主张只是举例，绝非全面。

首先，要实现知识的再分配，我们需要更多资金，支持帝国之外的知识生产。这意味着资助能够对企业模型进行独立评估的研究者，使我们不必仅仅依赖企业的自述来了解其模型能力。这意味着支持 DAIR 这样的机构，去开拓全新的研究方向——例如超越大语言模型、在数据和能源上更为高效的新型 AI 形式。这也意味着支持 Te Hiku 这样的组织，去推进面向特定任务、由社区驱动的 AI 应用，增强边缘化社区的能力。独立知识生产还包括记者和公民社会团体的工作——他们能够深入社区、扎根实地，帮助我们真正理解这些技术影响的复杂现实，而不是停留于猜测。

实现知识再分配，还需要政策层面的配合：要求企业公开其模型与超级计算机的训练数据及技术规格的关键细节。唯有如此，独立的企业模型评估者才能开展工作。在舒默论坛后持续与全球政策制定者对话的加州大学伯克利分校研究员 Deborah Raji 认为，这也是保障企业系统现实安全的最低门槛——她所指的，不是「末日论」所担忧的理论上的失控 AI 危害，而是消费者和社区已经面临的现实伤害：歧视、虚假信息、工作自动化——这些问题在大规模部署的模型未经充分测试时，已然存在。「我们有消费者金融保护局监管消费金融产品，有食品药品监督管理局监管医疗器械。但不知为何，轮到 AI 产品，就完全没有监管，」Raji 说。AI 模型实际上需要比普通产品更高的透明度。「这些系统由数据定义，并非确定性的。因此，我们需要深入了解这些系统，才能理解它们在做什么。」

这种透明度，对于衡量 AI 对环境的影响同样不可或缺。在这方面，其他产品早已接受 AI 产品所回避的评估。「如果你买的是汽车，买的是家电，上面有能源之星评级，」Hugging Face 的 Sasha Luccioni 说，「但 AI 已深度融入我们的社会，被广泛应用于各类产品，而我们对这些系统的可持续性却一无所知。」

有了这种透明度，我们也将开始在第二个维度——资源——上推进权力再分配。AI 帝国通过将模型的构成要素列为知识产权秘而不宣，得以在不经认可、不经同意、不予补偿的情况下窃取他人的知识产权。让企业的训练数据变得可见，将使这种掠夺性和剥削性的行为大大难以为继。同样，让企业供应链透明化也至关重要——包括它们将劳动力外包给哪些机构，以及它们正通过空壳公司在哪些地方秘密协商土地租约，用以建设更多电厂和数据中心。

资源再分配还需要全面加强劳动保护，不仅针对直接受行业雇用的数据工人，更要覆盖所有面临风险的劳动者——那些可能被迫将劳动成果纳入训练数据，或面临工作被自动化替代的人。好莱坞罢工成功为编剧和演员争取到了针对 AI 特定用途的保护，这充分说明工会在抵御人类劳动贬值、遏制薪资下滑、对抗资本由劳动者手中向 AI 公司集中方面，将发挥何等关键的作用。

最后，若要在第三条轴线——影响力——上重新分配权力，我们需要广泛的公众教育。破解人工智能炒作所制造的神秘主义与海市蜃楼，根本之道在于：让人们了解人工智能的运作原理，了解它的能力边界与局限，了解塑造其发展的各种体制，了解开发这些技术的人与公司所秉持的世界观以及他们的局限性。麻省理工学院教授、ELIZA 聊天程序发明人约瑟夫·魏岑鲍姆在二十世纪六十年代曾说：“一旦某个程序被揭穿，一旦其内部运作以足够通俗的语言得到解释，令人真正理解，它的魔力便烟消云散。“我希望这本书能成为一份助人理解的薄礼。它建立在众多学者、记者、活动人士和教育工作者前辈的心血之上，他们毕生致力于公众启蒙。愿它成为一片新的土壤，让此后更多的人在此生根、奋起、建树。

致谢

本书的核心主题是信念。对深度学习的信念。对AGI的信念。对自我的信念。信念如何激励人心、如何点燃行动。谁应当被相信，谁又不应当被相信。信念是一种强大而令人陶醉的力量。在我自己的职业生涯中，正是无数人对我和我的工作所抱有的信念，成为我最大的动力之源。

首先，我要感谢那些相信这本书的人。我尤其要深深感谢所有的信息来源。许多人不顾法律或其他风险与我交谈，因为他们相信真相、透明度与问责。许多人也极为慷慨地给予了时间——邀请我去他们家中，带我参观他们的社区，或者在多次访谈中累计接受长达十个小时以上的采访。一个人向记者敞开心扉所做出的这份信任，我永远不会视为理所当然。能够讲述你们的故事，是我莫大的荣幸。谢谢你们。没有你们，这本书根本不会存在。

诚挚感谢我出色的经纪人 David Doerrer，他是第一个在我尚无任何像样成果之前便投入时间与支持、帮我发展本书构想的人。正是在他的耐心、他的追问，以及最重要的——他能以温和而坚定的方式告诉我某些东西行不通的能力——的引导下，我才开始看到如何将一堆零散的想法凝聚成一本书的雏形。

感谢企鹅出版社的 Scott Moyers，他是每一位作者梦寐以求的编辑，他立即理解了我的构想，并且始终如一的支持让我得以将其付诸最具野心的实践形式。他不仅在我的采访和写作过程中担任道德指引与精神后盾，提供犀利而启发性的反馈，他与 Ann Godoff 还为这本书的创作投入了企鹅出版社的财务和法律资源。像这样一本书的采访与写作，耗资不菲、极为敏感，也极为耗时。这需要雇用研究员和事实核查员，需要为飞行、住宿、本地合作者、翻译和司机付费，以便在当地社区中深度驻扎。Scott 和 Ann 让我得以完成这一切，并全职投入这本书的工作。

感谢企鹅出版社的 Mia Council，她犀利而富有温情的编辑意见给了我冒险突破、将写作推向更高层次所需的推动力与安全感。她在幕后的精妙统筹让整个编辑与制作流程感觉如此顺畅无缝。我相信 Mia 所驾驭的那些幕后混乱，我连一半都没有察觉到。同样感谢企鹅出版社、美国和英国企鹅兰登书屋团队中其他杰出的成员，包括 Yuki Hirose、Gail Brussel、Juli Kiyan、Danielle Plafsky、Laura Stickney、Kim Walker、Rosie Brown、Lotte Hall、Karen Dziekonski，以及许多我未曾直接接触但对整个过程至关重要的人。

感谢我出色的事实核查团队：Lindsay Muscato、Matt Mahoney、Rima Parikh 和 Muriel Alarcón。他们四人悉心梳理了整份草稿，将繁复的细节与文件和信息来源逐一核对，并对我的措辞进行压力测试。Matt 还为本书提供了早期研究支持，Lindsay 接听了我无数次电话，充当最有耐心的共鸣板，而 Rima 竟然把事实核查笔记变成了脱口秀素材。他们都是我的救星。

Muriel 也是我在智利和乌拉圭采访之旅中的卓越搭档。她简直是一人成军：在两周不间断的采访中，她进行研究、协调访谈、追踪信息来源，身兼翻译与司机二职，始终洋溢着最美好、最欢快的能量。我们共同经历了许多欢笑与冒险。

感谢所有在我采访旅途中给予支持的人，尤其是 Stephen Thuo Kiguru——我在内罗毕无畏的向导，随时为我提供所需的一切，他的幽默感和不屈不挠的乐观精神始终如一，即便在某次外出之后因严重误会而有人报警，他也丝毫未曾动摇。那是另一个故事了，改天再讲。

感谢我亲爱的朋友和导师们：Angela Chen、Gideon Lichfield、Roger McNamee、Brenda Guadalupe López Alatorre、Jose Manuel Rodriguez Moreno、Bina Venkataraman 和 Tate Ryan-Mosley，他们慷慨阅读了本书的早期草稿或节选，并给予了睿智而珍贵的反馈。感谢 Oren Etzioni，他细心审阅了我对AI历史的叙述以及所有技术性AI研究解释，以确保其准确性和应有的细致程度。感谢 Ria Kalluri，她的友谊早在我们都开始调研AI发展的殖民主义本质之前便已是力量与欢乐的源泉，她在这一议题上的智识与道德清晰度一直是我的指路明灯。

本书也借鉴了我在整个新闻职业生涯中所做的报道和工作。不感谢一路上支持过我的人，将是我的失职。感谢 Janet Guyon，我在 Quartz 的编辑，她是第一个真正懂行并告诉我相信我能成为出色记者的人。感谢 Gideon，彼时担任《麻省理工科技评论》主编，他做出了大胆的赌注，给了我在新闻业的第一份全职工作，负责报道人工智能，从而将我带上了一段我从未能预料到的多年旅程。感谢《麻省理工科技评论》的编辑 Niall Firth，有一天他对我说：“你为何不写一篇关于 OpenAI 的深度报道？"——而那时我从未为任何公司写过人物特写。不知为何，Niall 相信我能做到。我拼尽全力，不断突破自我，只为证明他是对的。

当我开始意识到并将注意力转向AI所持续加剧的全球性巨大不平等时，Niall 在支持我这一新方向上同样功不可没，Angela 亦然——她就是我在第四章中提到的那位同事，正是她在现有学术文献中发现了"数据殖民主义"这一表述，并帮助我找到了正确的方向。Mat Honan 在接替 Gideon 担任主编后，很快认识到我调查报道的重要性，并全力支持我深入推进。

2021年末，我从《麻省理工科技评论》请假，在MIT奈特科学新闻奖学金与普利策中心AI问责基金的大力支持下，启动了一个为期六个月的报道项目，主题是"AI殖民主义”。我由衷感谢MIT KSJ的Deborah Blum与Ashley Smart，以及普利策中心的Marina Walker Guevara与Boyoung Lim，是他们在疫情肆虐之际为我提供资金，让我得以追寻这样一个宏大的项目。最终成果是一组四篇系列报道，故事分别来自南非、委内瑞拉、印度尼西亚和新西兰，奠定了本书论点乃至书名的根基。感谢在那些报道中与我并肩合作的伙伴：Heidi Swart、Andrea Paola Hernández和Nadine Freischlad，她们的报道专业素养、语言能力，以及对当地文化的深刻理解，让那些故事远比我独自完成时更为丰厚。正是在Marina高瞻远瞩的全球新闻协作理念引领下，我才得以与Heidi、Andrea和Nadine相识，并从中学到了应对跨国报道项目的新方法。普利策中心AI问责网络汇聚全球各地的记者，共同推进AI问责报道，此后已成为我最重要的职业社群之一。

在《华尔街日报》，正是编辑Josh Chin最早鼓励我提案，促成了一篇最终登上头版的报道——关于Mophat Okinyi和在肯尼亚为OpenAI提供合同服务的工人；Drew Dowell和Jason Dean协助争取到了这次报道行程。在《大西洋》，当我向编辑Damon Beres提出一篇关于AI计算基础设施环境影响的冷僻选题时，他毫不犹豫地接受；Paul Bisceglio和Adrienne LaFrance也批准了另一趟前往亚利桑那州的报道之旅。还要感谢Bradley Olson、Deepa Seetharaman、Daniel Engber和Matteo Wong，帮助我将那些故事打磨成形。与两家媒体中那些卓越的同事并肩工作，让我对何谓顶尖水准的报道与写作有了全新的理解。

最后，我将最深的爱与感激献给我的家人。献给我的妈妈——她在我还是小女孩时就看见了我对写作的热爱，倾尽所有帮助我实现梦想。献给我的爸爸——他从未质疑过为我提供一切支持。献给我的奶奶——我永不枯竭的灵感源泉。献给我的公婆——他们睿智地提醒我享受过程、珍视每一个胜利。献给我的丈夫：最好的朋友、人生伴侣、道德指引、啦啦队员、头号粉丝、初稿读者、倾听者、建议给予者、浪漫无尽。爱你、被你爱，是我一切的根基。

注释

题词注释

“据说”：约瑟夫·魏岑鲍姆，“ELIZA—a Computer Program for the Study of Natural Language Communication Between Man and Machine”，Communications of the ACM 9，第 1 期（1966 年 1 月）：36–45，doi.org/10.1145/365153.365168。
“成功者创办公司”：山姆·奥特曼，“Successful People”，山姆·奥特曼（博客），2013 年 3 月 7 日，blog.samaltman.com/successful-people。

序章：逐鹿王座

“我能帮上什么忙”：Tripp Mickle、Cade Metz、Mike Isaac、Karen Weise，“Inside OpenAI’s Crisis over the Future of Artificial Intelligence”，《纽约时报》，2023年12月9日，nytimes.com/2023/12/09/technology/openai-altman-inside-crisis.html。
奥特曼，依然困惑：Trevor Noah主持，What Now? with Trevor Noah，第1季第5集，“山姆·奥特曼 Speaks Out about What Happened at OpenAI”，Spotify Podcasts，2023年12月7日，open.spotify.com/show/122imavATqSE7eCyXIcqZL。
公告随即发布：OpenAI，“OpenAI Announces Leadership Transition”，OpenAI（博客），2023年11月17日，openai.com/index/openai-announces-leadership-transition。
震惊的员工得知：除另有说明外，本书中员工、董事会成员及管理层在董事会危机期间亲历的内部叙述，均基于在每个场景中在场的十一名当事人。
“是否发生了特定事件”：全员会议的所有对话均源自一段会议录音，录于2023年11月17日。
活动开始前不久：一张截图，摄于2023年11月17日。
微软（Microsoft）的纳德拉：Hannah Miller、Brad Stone、Shirin Ghaffary、Ashlee Vance，“Silicon Valley Boardroom Coup Leads to Ouster of an AI Champion”，Bloomberg，2023年11月17日，bloomberg.com/news/articles/2023-11-18/openai-altman-ouster-followed-debates-between-altman-board。
受苏茨克维煽动：Keach Hagey、Deepa Seetharaman、Berber Jin，“Behind the Scenes of 山姆·奥特曼’s Showdown at OpenAI”，《华尔街日报》，2023年11月22日，wsj.com/tech/ai/altman-firing-openai-520a3a8c。
第二天，周六：Kate Clark、Natasha Mascarenhas、Anissa Gardizy，“If 山姆·奥特曼 Returns to OpenAI, Board Will Go”，The Information，2023年11月18日，theinformation.com/articles/altman-decision-looms-as-sequoia-tiger-negotiate-behind-scenes。
“我们仍在努力”：Erin Woo、Anissa Gardizy、Amir Efrati，“OpenAI ‘Optimistic’ It Can Bring Back 山姆·奥特曼, 格雷格·布罗克曼”，The Information，2023年11月18日，theinformation.com/articles/openai-optimistic-it-can-bring-back-sam-altman-greg-brockman?rc=ot38so。
一名消息人士透露了这套方案：Alex Konrad、David Jeans，“OpenAI Investors Plot Last-Minute Push with Microsoft to Reinstate 山姆·奥特曼 as CEO”，Forbes，2023年11月18日，forbes.com/sites/alexkonrad/2023/11/18/openai-investors-scramble-to-reinstate-sam-altman-as-ceo。
“董事会坚定支持”：OpenAI Slack中的所有引文均源自截图。
安娜·布罗克曼，格雷格的妻子：Deepa Seetharaman、Berber Jin、Keach Hagey，“OpenAI Investors Keep Pushing for 山姆·奥特曼’s Return”，《华尔街日报》，2023年11月21日，wsj.com/tech/openai-employees-threaten-to-quit-unless-board-resigns-bbd5cc86。
在办公室里，公司：办公室布置照片。
某个时刻，有人：Amir Efrati、Anissa Gardizy、Erin Woo，“Altman Agrees to Internal Investigation upon Return to OpenAI”，The Information，2023年11月21日，theinformation.com/articles/breaking-sam-altman-to-return-as-openai-ceo。
他随即发推写道：格雷格·布罗克曼（@gdb），“we are so back”，Twitter（现为X），2024年11月21日，x.com/gdb/status/1727230819226583113。
百度竞相研发之际：Raffaele Huang、郝凯伦，“Baidu Hurries to Ready China’s First ChatGPT Equivalent Ahead of Launch”，《华尔街日报》，2023年3月9日，wsj.com/articles/baidu-scrambles-to-ready-chinas-first-chatgpt-equivalent-ahead-of-launch-bf359ca4。
自ChatGPT问世，六家：Parmy Olson、Carolyn Silverman，“ChatGPT’s $8 Trillion Birthday Gift to Big Tech”，Bloomberg，2024年11月29日，bloomberg.com/opinion/articles/2024-11-29/chatgpt-turns-2-and-gives-8-trillion-birthday-gift-to-big-tech。
2024年6月，高盛：Gen AI: Too Much Spend, Too Little Benefit?，Goldman Sachs，2024年6月27日，goldmansachs.com/insights/top-of-mind/gen-ai-too-much-spend-too-little-benefit。
次月，一项调查：“Upwork Study Finds Employee Workloads Rising Despite Increased C-Suite Investment in Artificial Intelligence”，Upwork，2024年7月23日，investors.upwork.com/news-releases/news-release-details/upwork-study-finds-employee-workloads-rising-despite-increased-c。
数据"引发了一个令人不安的"：Olson、Silverman，“ChatGPT’s $8 Trillion Birthday Gift”。
2024年9月，一篇博客：山姆·奥特曼，“The Intelligence Age”，山姆·奥特曼（博客），2024年9月23日，ia.samaltman.com。

第一章：神授之权

其他人都已到场：Cade Metz，Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World（Dutton，2021年），第161页。
那是那个夏天：多年来，这次会面已有多篇报道，包括Cade Metz的Genius Makers、《连线》和《大西洋》。格雷格·布罗克曼也在两篇博客文章中记录了自己的亲历：格雷格·布罗克曼，“My Path to OpenAI”，格雷格·布罗克曼（博客），2016年5月3日，blog.gregbrockman.com/my-path-to-openai [已失效]；格雷格·布罗克曼，"#define CTO OpenAI"，格雷格·布罗克曼（博客），2017年1月9日，blog.gregbrockman.com/define-cto-openai [已失效]。
就好像，马斯克：马斯克对奥特曼的看法、马斯克联合创立OpenAI的经历，以及马斯克对AI态度的演变，主要依据马斯克于2024年2月29日对奥特曼、布罗克曼及OpenAI提起的诉讼，并于2024年8月5日重新提起：Musk v. Altman，案号4:24-cv-04722，CourtListener（加利福尼亚州北区，2024年8月5日）。补充细节主要来自：Maureen Dowd，“埃隆·马斯克’s Future Shock”，《名利场》，2017年4月，archive.vanityfair.com/article/2017/4/elon-musks-future-shock；以及Walter Isaacson，埃隆·马斯克（Simon & Schuster，2023年），第239—244页，Kindle版。
就奥特曼而言：Lex Fridman主持，《Lex Fridman播客》，第367期，“山姆·奥特曼: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI”，2023年3月25日，lexfridman.com/podcast。
“让我记忆最深的”：山姆·奥特曼，“How to Be Successful”，山姆·奥特曼（博客），2019年1月24日，blog.samaltman.com/how-to-be-successful。
后来，在一次定期举行的AI：作者对蒂姆尼特·格布鲁的采访，2023年8月。
“消灭所有竞争”：Tad Friend，“山姆·奥特曼’s Manifest Destiny”，《纽约客》，2016年10月3日，newyorker.com/magazine/2016/10/10/sam-altmans-manifest-destiny。
“AI的未来”：Isaacson，埃隆·马斯克，第241页。
作为评估的一部分：“Decoding Google Gemini with 杰夫·迪恩”，2024年9月11日由Google DeepMind发布，YouTube，时长55分55秒，youtu.be/lH74gNeryhQ；作者与谷歌发言人的通信，2024年11月。
这次会面让马斯克相信：基于四位曾与马斯克交谈或亲历其表达观点的人士的回忆与描述，以及Musk，CourtListener，ECF No. 32，附件13。
“这看起来有点”：谷歌DeepMind发言人同样否认了马斯克对Hassabis的描述。作者与谷歌DeepMind发言人的通信，2024年11月。
给定一个简单的目标：尼克·博斯特罗姆，Superintelligence: Paths, Dangers, Strategies（牛津大学出版社，2014年），第149—152页，Kindle版。
在他影响深远的Twitter上：埃隆·马斯克（@elonmusk），“Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes”，Twitter（现为X），2014年8月3日，x.com/elonmusk/status/495759307346952192。
博斯特罗姆后来公开道歉：尼克·博斯特罗姆，“Apology for an Old Email”，尼克·博斯特罗姆个人主页，2023年1月9日，nickbostrom.com/oldemail.pdf。
两年后奥特曼将会：Olivia Carville，“The Super Rich of Silicon Valley Have a Doomsday Escape Plan in New Zealand”，彭博社，2018年9月5日，bloomberg.com/features/2018-rich-new-zealand-doomsday-preppers。
“可能是最大的威胁”：山姆·奥特曼，“Machine Intelligence, Part 1”，山姆·奥特曼（博客），2015年2月25日，blog.samaltman.com/machine-intelligence-part-1。
“一直在思考很多”：本章马斯克与奥特曼之间的所有电子邮件往来，均来自马斯克诉讼案中附于第32号文件的证据附件：Musk，CourtListener，ECF No. 32。
“我现在非常”：Melia Russell and Julia Black，“He’s Played Chess with 彼得·蒂尔, Sparred with 埃隆·马斯克 and Once, Supposedly, Stopped a Plane Crash: Inside 山姆·奥特曼’s World, Where Truth Is Stranger Than Fiction”，《商业内幕》，2023年4月27日，businessinsider.com/sam-altman-openai-chatgpt-worldcoin-helion-future-tech-2023-4。
“你可以把他空投到”：保罗·格雷厄姆，“A Fundraising Survival Guide”，保罗·格雷厄姆（博客），访问日期2024年11月21日，paulgraham.com/fundraising.html。
“山姆极其擅长”：Friend，“山姆·奥特曼’s Manifest Destiny”。
杰里，某人的儿子：“Megan O’Neill Is Wed to Jerold D. Altman，"《纽约时报》，1977年7月24日，nytimes.com/1977/07/24/archives/megan-oneill-is-wed-to-jerold-d-altman.html。
“你总是帮助别人”：Berber Jin and Keach Hagey，“The Contradictions of 山姆·奥特曼, AI Crusader”，《华尔街日报》，2023年3月31日，wsj.com/tech/ai/chatgpt-sam-altman-artificial-intelligence-openai-b0e1c8c9。
童年早期：奥特曼幼年经历的叙述主要依据以下三篇人物特写：Friend，“山姆·奥特曼’s Manifest Destiny”；Elizabeth Weil，“山姆·奥特曼 Is the Oppenheimer of Our Age”，New York，2023年9月25日，nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html；以及 Ellen Huet 主持，Foundering: The OpenAI Story，播客，第5季第1集，“The Most Silicon Valley Man Alive”，Bloomberg Podcasts，2024年6月5日，bloomberg.com/news/articles/2024-06-05/foundering-sam-altman-s-rise-to-openai。
外祖母那次：“山姆·奥特曼: How to Build the Future”，2016年9月27日，Y Combinator（YC）发布，YouTube，时长20分09秒，youtu.be/sYMqVwsewSg。
“我记得当时想”：Huet，“The Most Silicon Valley Man Alive”。
他酷爱挑战极限：Parmy Olson，Supremacy: AI, ChatGPT, and the Race that Will Change the World（St. Martin’s Press，2024），第5页。
“要么你有承受力”：Weil，“山姆·奥特曼 Is the Oppenheimer of Our Age”。
随着声名鹊起：Friend，“山姆·奥特曼’s Manifest Destiny”。
他有时会陷入极度恐慌：Joe Hudson 与 Brett Kistler 主持，The Art of Accomplishment Podcast，播客，第39集，“山姆·奥特曼—Leading with Crippling Anxiety, Discovering Meditation, and Building Intelligence with Self-Awareness”，2022年1月14日，artofaccomplishment.com/podcast。
花费大量时间之后：Friend，“山姆·奥特曼’s Manifest Destiny”。
“我意识到这个世界”：“Office Hours with 山姆·奥特曼”，2017年1月11日，Y Combinator（YC）发布，YouTube，时长24分34秒，youtu.be/45BvnJgwYjk。
他深钻功课作业：Russell 与 Black，“He’s Played Chess with 彼得·蒂尔”。
得知手机情况后：Deepa Seetharaman、Keach Hagey、Berber Jin 与 Kate Linebaugh，“山姆·奥特曼’s Knack for Dodging Bullets—with a Little Help from Bigshot Friends”，《华尔街日报》，2023年12月24日，https://www.wsj.com/tech/ai/sam-altman-openai-protected-by-silicon-valley-friends-f3efcf68。
“拼命工作”：“山姆·奥特曼 Startup School Video”，2017年7月26日，Waterloo Engineering 发布，YouTube，时长1小时18分19秒，youtu.be/4SlNgM4PjvQ。
2005年底，他：“Paper Chase”，Venture Capital Journal，2006年12月1日，venturecapitaljournal.com/paper-chase。
七年任期届满后：Annie Massa 与 Vernal Galpotthawela，“山姆·奥特曼 Is Worth $2 Billion—That Doesn’t Include OpenAI”，Bloomberg，2024年3月1日，bloomberg.com/news/articles/2024-03-01/sam-altman-is-a-billionaire-thanks-to-vc-funds-startups。
“反响极为热烈”：“First Look: Loopt Provides More Incentives to Try Location-Based Services with Loopt Star”，2010年5月31日，Robert Scoble 发布，YouTube，时长15分24秒，youtu.be/P5izvkusAMM。
“这种区分毫无意义”：“Why Loopt Partnered with Facebook”，2010年11月3日，CNN Business 发布，YouTube，时长2分41秒，youtu.be/tMO0Gm6yxWc。
“他的野心不止于此”：Jessica E. Lessin，“This Is How 山姆·奥特曼 Works the Press and Congress. I Know from Experience”，The Information，2023年6月7日，theinformation.com/articles/this-is-how-sam-altman-works-the-press-and-congress-i-know-from-experience。
就在 Loopt 起势之际：Russell 与 Black，“He’s Played Chess with 彼得·蒂尔”。
奥特曼与 Reddit 的关联：Christine Lagorio-Chafkin，“Inside Reddit’s Long, Complicated Relationship with OpenAI’s 山姆·奥特曼”，Inc.，2024年3月8日，inc.com/christine-lagorio/inside-reddits-long-complicated-relationship-with-openais-sam-altman.html。
“融资界的尤塞恩·博尔特”：作者对杰夫·拉尔斯顿的访谈，2024年3月。
在掌管 Loopt 期间，曾两次：Seetharaman 等，“山姆·奥特曼’s Knack for Dodging Bullets”。
乔布斯的身价曾高达：沃尔特·艾萨克森，《史蒂夫·乔布斯传》（Simon & Schuster，2011），第104页。
他收藏豪华：Katie Notopoulos，“山姆·奥特曼 Is Seen Driving a Car That Can Cost $5 Million. Everyone Is Thanking Him for Helping Them Pass Their Tests”，Business Insider，2024年7月12日，businessinsider.com/sam-altman-koenigsegg-regera-expensive-sports-car-video-openai-musk-2024-7。
尤为关键的是：Elizabeth Dwoskin、Marc Fisher 与 Nitasha Tiku，"‘King of the Cannibals’: How 山姆·奥特曼 Took Over Silicon Valley”，Washington Post，2023年12月23日，washingtonpost.com/technology/2023/12/23/sam-altman-openai-peter-thiel-silicon-valley。
这并非缺陷：Eric Newcomer，“YC’s 保罗·格雷厄姆: The Complete Interview”，2013年12月26日，The Information，theinformation.com/articles/yc-s-paul-graham-the-complete-interview。
“Loopt 大概是最”：保罗·格雷厄姆，“A Student’s Guide to Startups”，保罗·格雷厄姆（博客），2006年10月，paulgraham.com/mit.html。
奥特曼很快赢得格雷厄姆的青睐：保罗·格雷厄姆，“What We Look for in Founders”，保罗·格雷厄姆（博客），2010年10月，paulgraham.com/founders.html。
“山姆与史蒂夫并列”：保罗·格雷厄姆，“Five Founders”，保罗·格雷厄姆（博客），2009年4月，paulgraham.com/5founders.html。
当格雷厄姆问到：Friend，“山姆·奥特曼’s Manifest Destiny”。
他们的关系曾被这样形容：Dwoskin 等，"‘King of the Cannibals’"。
“创业的第一要素”：山姆·奥特曼，“Growth and Government”，山姆·奥特曼（博客），2013年3月4日，blog.samaltman.com/growth-and-government。
“人们所在意的事情”：“山姆·奥特曼 Startup School Video”，滑铁卢大学工程学院。
“可持续的经济增长是”：Tyler Cowen 主持，《与泰勒对话》，播客，第61集，“山姆·奥特曼 on Loving Community, Hating Coworking, and the Hunt for Talent”，Mercatus Center Podcasts，2019年2月27日。
垄断是有益的：“Competition Is for Losers with 彼得·蒂尔 (How to Start a Startup 2014: 5)"，2017年3月22日由 Y Combinator（YC）发布，YouTube，时长50分27秒，youtu.be/3Fx5Q8xGU8k。
“我听到很多”：山姆·奥特曼，“How Things Get Done”，山姆·奥特曼（博客），2013年7月17日，blog.samaltman.com/how-things-get-done。
“对于初创公司，我认为”：“山姆·奥特曼 Startup School Video”，滑铁卢大学工程学院。
随着时间推移，他积累了：Berber Jin、Tom Dotan 与 Keach Hagey，“The Opaque Investment Empire Making OpenAI’s 山姆·奥特曼 Rich”，《华尔街日报》，2024年6月3日，wsj.com/tech/ai/openai-sam-altman-investments-004fc785。
在2023年硅谷银行：作者采访 Matt Krisiloff，2024年4月。
“这是一种极为罕见的特质”：作者采访 Lachy Groom，2024年2月。
一段时间里，政治上的：山姆·奥特曼，“The 2016 Election”，山姆·奥特曼（博客），2016年10月17日，blog.samaltman.com/the-2016-election。
他发表了一篇宣言：山姆·奥特曼，“The United Slate”，山姆·奥特曼（博客），2017年7月12日，blog.samaltman.com/the-united-slate。
他练就了十八磅：Dwoskin 等，"‘King of the Cannibals’"。
2016年，是阿什顿：Friend，“山姆·奥特曼’s Manifest Destiny”。
三年后：舒默（Schumer）访问先锋大楼的照片，2019年3月8日。
奥特曼的崛起也：作者采访安妮·奥特曼，2024年3月至11月。
在一份公开声明中：山姆·奥特曼（@sama），“My sister has filed a lawsuit against me. Here is a statement from my mom, brothers, and me:"，Twitter（现为X），2025年1月7日，x.com/sama/status/1876780763653263770。
针对我的采访请求：作者与康妮·吉布斯廷的书面往来，2024年10月。
她随后提起了诉讼：Altman v. Altman，案号 4:25-cv-00017，CourtListener（密苏里州东区联邦地方法院，2025年1月6日）ECF No. 1。

第二章：文明化使命

他从小长大：作者采访格雷格·布罗克曼，2019年8月。
他身形瘦削：苏茨克维尔的教育背景与早年经历，部分来源于他接受的多次媒体采访，包括：“Interview with Dr. 伊利亚·苏茨克维尔, Co-founder of OPEN AI—at the Open University Studios—English”，以色列开放大学于2023年9月13日发布，YouTube，时长50分28秒，youtu.be/H1YoNlz2LxA；Nina Haikara，“This U of T Alum Is Leading AI research at $1 Billion Non-profit Backed by 埃隆·马斯克”，多伦多大学新闻，2017年3月28日，utoronto.ca/news/u-t-alum-leading-ai-research-1-billion-non-profit-backed-elon-musk；以及Varsity Contributor，“Neural Networking”，The Varsity，2010年10月25日，thevarsity.ca/2010/10/25/neural-networking。
其他所有团队都在苦苦挣扎：这一突破发生于2012年，相关成果于五年后以论文形式发表：亚历克斯·克里热夫斯基、伊利亚·苏茨克维尔、杰弗里·E·辛顿，“ImageNet Classification with Deep Convolutional Neural Networks”，Communications of the ACM 第60卷第6期（2017年5月）：84–90，doi.org/10.1145/3065386。
“我们以为自己”：作者采访杰弗里·辛顿，2023年8月。
即使是苏茨克维尔，他内心深处：Cade Metz，Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World（Dutton，2021），第289页。
“我知道它会成功”：格雷格·布罗克曼，"#define CTO OpenAI”，格雷格·布罗克曼（博客），2017年1月9日，blog.gregbrockman.com/define-cto-openai [已失效]。
奥特曼后来盛赞：山姆·奥特曼，“Greg”，山姆·奥特曼（博客），2017年3月7日，blog.samaltman.com/greg。
“AGI可能还很遥远”：作者采访Pieter Abbeel，2019年8月。
他没有气馁，邀请了他的十位：Metz，Genius Makers，第163页。
“我希望我们能”：本章中OpenAI与特斯拉（Tesla）领导层之间的所有往来信函，均来自马斯克诉讼案中作为附件附于文件编号32的展示证据：Musk v. Altman，案号4:24-cv-04722，CourtListener（加利福尼亚州北区，2024年11月14日）ECF No. 32；以及OpenAI在公司博客上的回应：OpenAI，“OpenAI and 埃隆·马斯克”，OpenAI（博客），2024年3月5日，openai.com/index/openai-elon-musk；OpenAI，“埃隆·马斯克 Wanted an OpenAI For-Profit”，OpenAI（博客），2024年12月13日，openai.com/index/elon-musk-wanted-an-openai-for-profit/#summer-2017-we-and-elon-agreed-that-a-for-profit-was-the-next-step-for-openai-to-advance-the-mission。
对于所有其他联合创始人：Musk，CourtListener，ECF No. 32，附件7。
在苏茨克维尔看来，这家实验室反而：“Openai Inc”，ProPublica Nonprofit Explorer，访问日期：2024年8月25日，projects.propublica.org/nonprofits/organizations/810861541/201703459349300445/full。
即便如此，谷歌（Google）当时已经开出：Metz，Genius Makers，第164页。
马斯克和奥特曼拖延了：Metz，Genius Makers，第164页。
为了抢在任何其他竞价之前：Musk，CourtListener，ECF No. 32，附件7。
马斯克后来回忆起当时面临的处境：沃尔特·艾萨克森，埃隆·马斯克（Simon & Schuster，2023），第243页，Kindle版。
被出售的自动化软件：关于人工智能如何导致歧视，早期一篇具有开创性意义的论文来自Solon Barocas与Andrew D. Selbst：“Big Data’s Disparate Impact”，California Law Review 第104卷第3期（2016年）：671–732，ssrn.com/abstract=2477899。另有一篇文章深入探讨了这种歧视在现实中的呈现方式：郝凯伦，“The Coming War on the Hidden Algorithms that Trap People in Poverty”，《麻省理工科技评论》，2020年12月4日，technologyreview.com/2020/12/04/1013068/algorithms-create-a-poverty-trap-lawyers-fight-back。
引发种族清洗：Alexandra Stevenson，“Facebook Admits It Was Used to Incite Violence in Myanmar”，《纽约时报》，2018年11月6日，nytimes.com/2018/11/06/technology/myanmar-facebook.html。
员工表示，这些能力：Eric Lipton，“As A.I.-Controlled Killer Drones Become Reality, Nations Debate Limits”，《纽约时报》，2023年11月21日，nytimes.com/2023/11/21/us/politics/ai-drones-war-law.html。
“它是一座灯塔”：作者采访Chip Huyen，2019年8月。
整整一周，斯坦福大学：作者采访蒂姆尼特·格布鲁，2021年3月。
“你好，我是蒂姆尼特”：由格布鲁提供的邮件副本。
数年后，布罗克曼将会：作者采访布罗克曼，2019年8月。
“这怎么可能？”：采访布罗克曼。
“想象力的失败”：亚瑟·C·克拉克，Profiles of the Future: An Inquiry into the Limits of the Possible（Bantam Books，1962），第30–39页。
“意外事故问题”：达里奥·阿莫代伊、Chris Olah、Jacob Steinhardt、Paul Christiano、约翰·舒尔曼与Dan Mané，“Concrete Problems in AI Safety”，预印本，arXiv，2016年7月25日，第1–29页，doi.org/10.48550/arXiv.1606.06565。
到2024年11月，它已经：作者与Open Philanthropy发言人的通信，2024年11月。
大约在阿莫代伊同期：Julia Angwin、Jeff Larson、Surya Mattu 和 Lauren Kirchner，“Machine Bias”，ProPublica，2016年5月23日，propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing。
Deborah Raji，一位AI问责：该论文于2020年4月26日在国际学习表征会议（ICLR）的"Machine Learning in Real Life"研讨会上发表，sites.google.com/nyu.edu/ml-irl-2020/home，数年后发布于arXiv：Inioluwa Deborah Raji 和 Roel Dobbe，“Concrete Problems in AI Safety, Revisited”，arXiv，2023年12月18日：1–6，doi.org/10.48550/arXiv.2401.10899。
“有二三十个”：Tad Friend，“山姆·奥特曼’s Manifest Destiny”，《纽约客》，2016年10月3日，newyorker.com/magazine/2016/10/10/sam-altmans-manifest-destiny。
此后，Open Phil 将：“OpenAI—General Support”，Open Philanthropy，访问于2024年11月27日，openphilanthropy.org/grants/openai-general-support。
“我们还有很长的路”：作者与格雷格·布罗克曼和丹妮拉·阿莫代伊的专访，2019年8月。
2016年，OpenAI 花费：ProPublica 非营利机构查询，“Openai Inc.”
于是在2017年3月：作者与布罗克曼和伊利亚·苏茨克维尔的专访，2019年8月。
大约同一时间，阿莫代伊：与布罗克曼和苏茨克维尔的专访。
过去六年里：OpenAI，“AI and Compute”，OpenAI（博客），2018年5月16日，openai.com/index/ai-and-compute。
他们曾短暂考虑合并：Musk，CourtListener，ECF No. 32；Id., ECF No. 32, Exhibit 11。
马斯克亦然：Id., ECF No. 32, Exhibit 13；OpenAI，“OpenAI and 埃隆·马斯克”；OpenAI，“埃隆·马斯克 Wanted an OpenAI For-Profit”。
布罗克曼和苏茨克维尔继续：与布罗克曼的专访，2019年8月。
他致电里德·霍夫曼：OpenAI，“OpenAI and 埃隆·马斯克”。
他考虑自行创业：Musk，CourtListener，ECF No. 32, Exhibit 15。
此前，在马斯克的坚定支持下：Id., ECF No. 32, Exhibit 7。
奥特曼出任总裁：ProPublica 非营利机构查询，“Openai Inc.”
在10亿美元承诺中：Musk，CourtListener，ECF No. 1, at *46–48。
这位实习生后来被纪念：Berber Jin 和 Keach Hagey，“The Contradictions of 山姆·奥特曼, AI Crusader Behind ChatGPT”，《华尔街日报》，2023年3月31日，wsj.com/tech/ai/chatgpt-sam-altman-artificial-intelligence-openai-b0e1c8c9。
专业人员入职，布罗克曼：与 Jennifer 8. Lee 的通信，她是该纪录片的联合制片人：Artificial Gamer，导演 Chad Herschberger，主演 Pieter Abbeel、格雷格·布罗克曼和 Noam Brown，2021年9月24日上映，artificialgamerfilm.com。纪录片团队对影片保持了编辑独立性。
2018年4月，OpenAI：OpenAI，“OpenAI Charter”，OpenAI（博客），访问于2024年8月25日，openai.com/charter。
那个夏天，当Dota：Jin 和 Hagey，“The Contradictions of 山姆·奥特曼”。
“Microsoft Research 与 OpenAI”：作者与黄学东的专访，2023年7月。
为保守交易机密：Musk，CourtListener，ECF No. 1, at *5。
大约同时，奥特曼：Elizabeth Dwoskin 和 Nitasha Tiku，“Altman’s Polarizing Past Hints at OpenAI Board’s Reason for Firing Him”，《华盛顿邮报》，2023年11月22日，washingtonpost.com/technology/2023/11/22/sam-altman-fired-y-combinator-paul-graham。
他曾提出这一想法：Deepa Seetharaman、Keach Hagey 和 Berber Jin，“山姆·奥特曼’s Knack for Dodging Bullets—with a Little Help from Bigshot Friends”，《华尔街日报》，2023年12月24日，wsj.com/tech/ai/sam-altman-openai-protected-by-silicon-valley-friends-f3efcf68。
薪酬区间结构：薪酬区间文件副本。
高管们还草拟了：郝凯伦，“The Messy, Secretive Reality Behind OpenAI’s Bid to Save the World”，《麻省理工科技评论》，2020年2月17日，technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality。
“所以，某位投资者”：@windowshopping，“I was buying it until he said that profit is ‘capped’ at 100x of initial investment. So someone who invests $10 million has their investment ‘capped’ at $1 billion. Lol. Basically unlimited unless the company grew to a FAANG-scale market value”，Hacker News，2019年3月11日，news.ycombinator.com/item?id=19360709。
初期投资接踵而至：本书中有限合伙人（LP）投资及其利润上限的所有数值均来自 OpenAI 内部财务文件。
霍夫曼起初持保留态度：Chamath Palihapitiya、Jason Calacanis、David Sacks 和 David Friedberg 主持，《All-In》，播客，第194期，“In Conversation with 里德·霍夫曼 & Robert F. Kennedy Jr."，2024年8月30日，https://allin.com/episodes。
“The thing that’s interesting”：凯文·斯科特和萨提亚·纳德拉的电子邮件于2024年作为美国司法部对谷歌（Google）反垄断诉讼案的证据公开披露。Jyoti Mann and Beatrice Nolan, “Read the Email to 萨提亚·纳德拉 and 比尔·盖茨 That Shows Microsoft’s CTO Was ‘Very Worried’ about Google’s AI Progress in 2019,” Business Insider, May 1, 2024, businessinsider.com/satya-nadella-bill-gates-microsoft-concern-google-rivals-ai-emails-2024-5.

第三章：神经中枢

2021年，OpenAI将会：Eddie Sun，“ChatGPT’s San Francisco Offices Getting Nap Rooms, a Museum for Staffers”，《旧金山标准》，2023年7月11日，sfstandard.com/2023/07/11/chatgpt-secretive-san-francisco-offices-nap-rooms-museum-open-ai。
奥特曼将监督Mayo的：作者通过谷歌（Google）图片对办公室照片进行反向搜索，估算了家具价格。当作者尝试从负责OpenAI梅奥办公室设计的建筑事务所获取确切价格并请其确认相关描述（“说办公室里的螺旋楼梯由木材和石材建造，这一说法是否准确？"）时，一名工作人员回复称该事务所已签署保密协议，无法就该项目作任何说明。
他还将增设一间图书室：Berber Jin和Keach Hagey，“The Contradictions of 山姆·奥特曼, AI Crusader”，《华尔街日报》，2023年3月31日，wsj.com/tech/ai/chatgpt-sam-altman-artificial-intelligence-openai-b0e1c8c9。
他想要"一处水景”：作者采访Ben Barry，OpenAI前设计总监，2023年10月。
12月，Climate Change AI：各活动详情分别见：“NeurIPS 2019 Workshop: Tackling Climate Change with Machine Learning”，NeurIPS研讨会，温哥华会议中心，2019年12月14日，climatechange.ai/events/neurips2019；以及"ML4H: Machine Learning for Health”，NeurIPS研讨会，温哥华会议中心，2019年12月13日，ml4h.cc/2019/index.html。
“能够应对……的技术”：原白皮书写于2019年，2022年在经同行评审的期刊上正式发表。引用段落在2022年版本中被修改为：“多年来，许多对应对气候变化有用的技术工具已然存在，却尚未被社会大规模采用。尽管我们希望机器学习有助于加速有效的气候行动战略，但人类也必须下定决心采取行动。“David Rolnick, Priya L. Donti, Lynn H. Kaack, Kelly Kochanski, Alexandre Lacoste, Kris Sankaran等，“Tackling Climate Change with Machine Learning”，ACM Computing Surveys（CSUR）第55卷第2期（2022年2月）：1–96，doi.org/10.1145/3485128。
近期一项研究：Emma Strubell, Ananya Ganesh和Andrew McCallum，“Energy and Policy Considerations for Deep Learning in NLP”，Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics（2019年7月）：3645–50，doi.org/10.18653/v1/P19-1355。
“我认为这相当”：Cade Metz，Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World（Dutton，2021），第299页。
他年少时：作者采访格雷格·布罗克曼，2019年8月。
2020年2月：郝凯伦，“The Messy, Secretive Reality Behind OpenAI’s Bid to Save the World”，《麻省理工科技评论》，2020年2月17日，technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality。
数小时后，马斯克回复道：埃隆·马斯克（@elonmusk），“OpenAI should be more open imo”，Twitter（现为X），x.com/elonmusk/status/1229544673590599681。
随后，奥特曼向OpenAI发送了：电子邮件副本。

第四章：现代性之梦

作者指出：Daron Acemoglu 与 Simon Johnson，《权力与进步：我们千年来围绕技术与繁荣的角力》（PublicAffairs，2023），第 129—133 页。
1956 年，距……六年后：他们计划在暑期研讨班完成的研究提纲：John McCarthy、Marvin L. Minsky、Nathaniel Rochester 与 Claude E. Shannon，“A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence”，斯坦福大学，1955 年 8 月 31 日，jmc.stanford.edu/articles/dartmouth/dartmouth.pdf。
达特茅斯教授 John McCarthy：起初，John McCarthy、Claude Shannon 等人将一批研究论文汇编成册，收录的正是同一套日后被命名为"人工智能"的思想，书名定为《自动机研究》（Automata Studies），于 1956 年出版。McCarthy 对收到的论文及其缺乏野心深感失望，并表示正是这种失望促使他开始使用"人工智能"一词。
19 世纪初：Kate Crawford，《AI 图集：人工智能的权力、政治与地球代价》（Yale University Press，2021），第 123 页。
2007 年的修订版：John McCarthy，“What Is Artificial Intelligence?"，John McCarthy’s Home Page，Formal Reasoning Group，2007 年 11 月 12 日，www-formal.stanford.edu/jmc/whatisai.pdf。
AI 发展的目标柱：Jenna Burrell，“Artificial Intelligence and the Ever-Receding Horizon of the Future”，Tech Policy Press，2023 年 6 月 6 日，techpolicy.press/artificial-intelligence-and-the-ever-receding-horizon-of-the-future。
1969 年，他联合著作了一本书：Marvin Minsky 与 Seymour A. Papert，《感知机：计算几何导论》（MIT Press，1969）。
但在表层之下：约瑟夫·魏岑鲍姆，“ELIZA—a Computer Program for the Study of Natural Language Communication Between Man and Machine”，Communications of the ACM 9，第 1 期（1966 年 1 月）：第 36—45 页，doi.org/10.1145/365153.365168。
在魏岑鲍姆的论文中：魏岑鲍姆，“ELIZA—a Computer Program”。
ELIZA 随后的成功：Ben Tarnoff，“Weizenbaum’s Nightmares: How the Inventor of the First Chatbot Turned Against AI”，The Guardian，2023 年 7 月 25 日，theguardian.com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai。
他后来出版了一部巨著：约瑟夫·魏岑鲍姆，《计算机能力与人类理性：从判断到计算》（W. H. Freeman & Co，1976）。
每当障碍积累到一定程度：AI 寒冬究竟何时发生，并无统一的历史记述。一般认为，第一次 AI 寒冬发生在 20 世纪 70 年代，导火索是剑桥大学詹姆斯·莱特希尔爵士教授于 1973 年为英国科学研究委员会撰写的报告《人工智能：综合考察》。报告中，莱特希尔观察到：“在 AI 领域的任何分支中，迄今为止的发现都未能产生当初所承诺的重大影响。“第二次 AI 寒冬大致在 20 世纪 80 年代末至 90 年代初。部分学者认为，在那段时期，虽然标注为"AI"的研究经费枯竭，但资金仍以不同名义流向相关技术的开发。也有研究者指出了更多次的 AI 寒冬。斯坦福大学教授、AI 领域泰斗李飞飞在其著作中将 90 年代末描述为第三次寒冬：李飞飞，《我所看见的世界：人工智能黎明时代的好奇、探索与发现》（Flatiron Books，2023），第 89—90 页。
科技巨头已经看到：作者对杰弗里·辛顿的采访，2023 年 8 月。
但伴随这些令人瞩目的进展：Shoshana Zuboff，《监控资本主义时代：在权力新边疆为人类未来而战》（PublicAffairs，2019），第 1—704 页。
2023 年，一个团队：Pratyusha Ria Kalluri、William Agnew、Myra Cheng、Kentrell Owens、Luca Soldaini 与 Abeba Birhane，“The Surveillance AI Pipeline”，预印本，arXiv，2023 年 10 月 17 日，第 10—11 页，doi.org/10.48550/arXiv.2309.15084。
2019 年，NBC 的一项调查：Olivia Solon，“Facial Recognition’s ‘Dirty Little Secret’: Millions of Online Photos Scraped Without Consent”，NBC News，2019 年 3 月 12 日，nbcnews.com/tech/internet/facial-recognition-s-dirty-little-secret-millions-online-photos-scraped-n981921。
我也注意到：举例而言，不久后便有报道浮出水面，揭示有缺陷的人脸识别系统遭到错误部署，导致对嫌疑人的误认和错误逮捕。截至 2024 年 11 月，在美国已知的七起因此被错误指控的案例中，有六人是黑人，部分人因此身陷囹圄、失去工作、骨肉分离、关系破裂。Kashmir Hill，“Wrongfully Accused by an Algorithm”，《纽约时报》，2020 年 6 月 24 日，nytimes.com/2020/06/24/technology/facial-recognition-arrest.html；Khari Johnson，“How Wrongful Arrests Based on AI Derailed 3 Men’s Lives”，Wired，2022 年 3 月 7 日，wired.com/story/wrongful-arrests-ai-derailed-3-mens-lives。
“We have the first mover’s”：“ISTE 2017—Most Innovative Winning Pitch”，Max Newlon 发布，2018年7月13日，YouTube，7分42秒，youtu.be/oJt6cjdMGb4。
A few months after：Jane Li，《“读脑"头环在中国遭遇强烈反弹》，Quartz，2019年11月5日，qz.com/1742279/a-mind-reading-headband-is-facing-backlash-in-china。
I discovered the work of：Nick Couldry 与 Ulises A. Mejias，《连接的代价：数据如何殖民人类生活并将其收编为资本》（斯坦福大学出版社，2019年），第1—352页。关于萃取主义概念的延伸阅读，参见 Rosemary Collard 与 Jessica Dempsey，"‘Extractivism’ Is Destroying Nature: To Tackle It Cop15 Must Go Beyond Simple Targets”，《卫报》，2022年12月8日，theguardian.com/environment/2022/dec/08/extractivism-is-destroying-nature-to-tackle-it-cop15-must-go-beyond-simple-targets；以及界定这一概念的奠基性文本：Eduardo Gudynas，“Diez tesis urgentes sobre el nuevo extractivismo: Contextos y demandas bajo el progresismo sudamericano actual”，收录于 CAAP 与 CLAES 编《Extractivismo, Política y Sociedad》（2009年），第187页，rosalux.org.ec/pdfs/extractivismo.pdf。
The following year, a paper：Shakir Mohamed、Marie-Therese Png 与 William Isaac，“Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence”，《哲学与技术》第33卷（2020年7月12日）：659—684页，doi.org/10.1007/s13347-020-00405-8。
Not long after, in 2021：郝凯伦与 Heidi Swart，《南非私人监控机器正在催生数字种族隔离》，MIT《技术评论》，2022年4月19日，technologyreview.com/2022/04/19/1049996/south-africa-ai-surveillance-digital-apartheid。
From 2013 to 2022, corporate：Nestor Maslej、Loredana Fattorini、Raymond Perrault、Vanessa Parli、Anka Reuel、Erik Brynjolfsson 等，《AI 指数报告 2024》，斯坦福大学以人为中心人工智能研究院，2024年4月，第242页，aiindex.stanford.edu/report。
In 2021, Alphabet and Meta：Steven Rosenbush，《科技巨头在 AI 研究上斥资数十亿，投资者应密切关注》，《华尔街日报》，2022年3月8日，wsj.com/articles/big-tech-is-spending-billions-on-ai-research-investors-should-keep-an-eye-out-11646740800。
By contrast, the US government：Nur Ahmed、Muntasir Wahed 与 Neil C. Thompson，“The Growing Influence of Industry in AI Research”，《科学》第379卷第6635期（2023年3月2日）：884—886页，doi.org/10.1126/science.ade2420。
From 2006 to 2020：Ahmed 等，“The Growing Influence of Industry”。
Many were initially whisked away：2017年，IBM 工业平台首席技术官 Tom Eck 曾有句名言：“顶尖 AI 研究人员的薪酬已比肩 NFL 四分卫，这说明了市场需求与感知价值之高。” Dan Butcher，“If You Really Know About Artificial Intelligence, You Could Earn As Much As an NFL Quarterback”，eFinancialCareers，2017年7月13日，efinancialcareers.com/news/2017/07/top-talent-earns-high-ai-salaries-nfl-quarterbacks。
In 2015, Uber infamously：Mike Ramsey 与 Douglas MacMillan，《Uber 大肆挖角，卡内基梅隆大学深受冲击》，《华尔街日报》，2015年5月31日，wsj.com/articles/is-uber-a-friend-or-foe-of-carnegie-mellon-in-robotics-1433084582。
In another study, Kalluri：Abeba Birhane、Pratyusha Kalluri、Dallas Card、William Agnew、Ravit Dotan 与 Michelle Bao，“The Values Encoded in Machine Learning Research”，收录于《FAccT ‘22：2022年 ACM 公平性、问责制与透明度会议论文集》（美国计算机协会，2022年）：第173—184页，doi.org/10.1145/3531146.3533083。
It might learn to associate：可观看相关视频：The Outspoken Nomad 发布，“Tesla FSD Beta—What-the-Hell Moments”，2022年1月20日，YouTube，15分55秒，youtu.be/RVkLI9pPd24?t=166。
Experts concluded that：《开发阶段自动驾驶系统控制下的车辆与行人碰撞事故，亚利桑那州坦佩，2018年3月18日》，公路事故报告，NTSB/HAR-19/03，PB2019-101402，美国国家运输安全委员会，2019年11月19日，ntsb.gov/investigations/AccidentReports/Reports/HAR1903.pdf。
Six years later, in April：特斯拉（Tesla）Autopilot 相关事故分析：“Additional Information Regarding EA22002”，美国国家公路交通安全管理局，2024年4月25日，第1—6页，static.nhtsa.gov/odi/inv/2022/INCR-EA22002-14496.pdf。
In 2019, white hat hackers：郝凯伦，《黑客诱骗特斯拉（Tesla）驶入错误车道》，MIT《技术评论》，2019年4月1日，technologyreview.com/2019/04/01/65915/hackers-trick-teslas-autopilot-into-veering-towards-oncoming-traffic。
Dawn Song, a professor：Will Knight，《恶意机器学习如何使 AI 脱轨》，MIT《技术评论》，2019年3月25日，technologyreview.com/2019/03/25/1216/emtech-digital-dawn-song-adversarial-machine-learning。
2019年，研究人员：Benjamin Wilson、Judy Hoffman 与 Jamie Morgenstern，“Predictive Inequity in Object Detection”，预印本，arXiv，2019年2月21日，第1–13页，doi.org/10.48550/arXiv.1902.11097。
2024年，北京大学研究人员：Xinyue Li、Zhenpeng Cheng、Jie M. Zhang、Federica Sarro、Ying Zhang 与 Xuanzhe Liu，“Bias Behind the Wheel: Fairness Analysis of Autonomous Driving Systems”，ACM Transactions on Software Engineering and Methodology（2024年11月），doi.org/10.1145/3702989。
职业生涯早期：作者对 Deborah Raji 的采访，2020年4月。
“人类大脑有”：作者于《麻省理工科技评论》年度活动 EmTech MIT 对杰弗里·辛顿的采访，2020年10月20日。采访文字稿见：郝凯伦，“AI Pioneer Geoff Hinton: ‘Deep Learning Is Going to Be Able to Do Everything’"，《麻省理工科技评论》，2020年11月3日，technologyreview.com/2020/11/03/1011616/ai-godfather-geoffrey-hinton-deep-learning-will-do-everything。
“我们其实需要两种方法”：作者对加里·马库斯的采访，2019年9月。采访文章见：郝凯伦，“We Can’t Trust AI Systems Built on Deep Learning Alone”，《麻省理工科技评论》，2019年9月27日，technologyreview.com/2019/09/27/65250/we-cant-trust-ai-systems-built-on-deep-learning-alone。
2023年2月，在热潮顶峰：OpenAI，“Planning for AGI and Beyond”，OpenAI（博客），2023年2月24日，openai.com/index/planning-for-agi-and-beyond。
微软（Microsoft）推出时：凯文·鲁斯，“Bing’s A.I. Chat: ‘I Want to Be Alive.’"，《纽约时报》，2023年2月16日，nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html。
鲁斯的经历或许：Pierre-François Lovens，“Sans ces conversations avec le chatbot Eliza, mon mari serait toujours là”，La Libre，2023年3月28日，lalibre.be/belgique/societe/2023/03/28/sans-ces-conversations-avec-le-chatbot-eliza-mon-mari-serait-toujours-la-LVSLWPC5WRDX7J2RCHNWPDST24。
这一问题愈发棘手：已有多篇论文对此有所发现，其中一篇的联合作者 Jacob Hilton 当时是 OpenAI 研究员。Hilton 及其合著者发现"最大的模型通常是最不诚实的”。Stephanie Lin、Jacob Hilton 与 Owain Evans，“TruthfulQA: Measuring How Models Mimic Human Falsehoods”，载于第60届计算语言学协会年会论文集第1卷（2021年），第3214–3252页，doi.org/10.18653/v1/2022.acl-long.229。此外，关于开发者为何对训练数据构成的了解愈来愈少，可参阅这篇精彩解读：Christo Buschek 与 Jer Thorp，“Models All the Way Down”，Knowing Machines，2024年3月26日，knowingmachines.org/models-all-the-way。
“伪造的司法裁决”：Benjamin Weiser，“Here’s What Happens When Your Lawyer Uses ChatGPT”，《纽约时报》，2023年5月27日，nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html。
2023年的一项研究发现：Katharina Jeblick、Balthasar Schachtner、Jakob Dexl、Andreas Mittermeier、Anna Theresa Stüber、Johanna Topalis 等，“ChatGPT Makes Medicine Easy to Swallow: An Exploratory Case Study on Simplified Radiology Reports”，European Radiology 34（2024年10月），第2817–2825页，doi.org/10.1007/s00330-023-10213-1。
他们发现，提示词：Lily Hay Newman 与 Andy Greenberg，“Security News This Week: ChatGPT Spit Out Sensitive Data When Told to Repeat ‘Poem’ Forever”，Wired，2023年12月2日，wired.com/story/chatgpt-poem-forever-security-roundup。
生成式AI模型还会放大：Leonardo Nicoletti 与 Dina Bass，“Humans Are Biased. Generative AI Is Even Worse”，Bloomberg，2023年6月9日，bloomberg.com/graphics/2023-generative-ai-bias；Victoria Turk，“How AI Reduces the World to Stereotypes”，Rest of World，2023年10月10日，restofworld.org/2023/ai-image-stereotypes；以及 Nitasha Tiku、Kevin Schaul 与 Szu Yu Chen，“This Is How AI Image Generators See the World”，Washington Post，2023年11月1日，washingtonpost.com/technology/interactive/2023/ai-generated-images-bias-racism-sexism-stereotypes。
“非洲的医生”：Carmen Drahl，“AI Was Asked to Create Images of Black African Docs Treating White Kids. How’d It Go?"，Goats and Soda，NPR，2023年10月6日，npr.org/sections/goatsandsoda/2023/10/06/1201840678/ai-was-asked-to-create-images-of-black-african-docs-treating-white-kids-howd-it-。
2024年4月，达里奥·阿莫代伊：埃兹拉·克莱因（主持），The Ezra Klein Show，播客，“What if 达里奥·阿莫代伊 Is Right About A.I.?"，2024年4月12日，《纽约时报》观点版，nytimes.com/column/ezra-klein-podcast。

第五章：雄心的尺度

“现在呢？”：Cade Metz,《天才制造者：将人工智能带向谷歌（Google）、Facebook 与全世界的先锋们》(Dutton, 2021)，第93页；“杰弗里·辛顿 | On Working with Ilya, Choosing Problems, and the Power of Intuition”，2024年5月20日由 Sana 发布于 YouTube，时长45分45秒，youtu.be/n4IQOBka8bc。
他令辛顿震惊：作者对杰弗里·辛顿的采访，2023年11月。
有时他变得：Metz,《天才制造者》，第94页。
“人不该押注”：Will Douglas Heaven，“Rogue Superintelligence and Merging with Machines: Inside the Mind of OpenAI’s Chief Scientist”，《MIT 技术评论》，2023年10月26日，technologyreview.com/2023/10/26/1082398/exclusive-ilya-sutskever-openais-chief-scientist-on-his-hopes-and-fears-for-the-future-of-ai。
“成功是必然的”：“NIPS: Oral Session 4—伊利亚·苏茨克维尔”，2016年8月19日由 Microsoft Research 发布于 YouTube，时长23分14秒，youtu.be/-uyXE7dY5H0。
苏茨克维尔带着他坚定不移的信念：苏茨克维尔常谈及他对深度学习的信念本质上是一种信仰。2023年9月，他说：“OpenAI 的创立本身就是对这一赌注的表达，是对’深度学习能够做到这一切’这一理念的表达。你只需要去相信。事实上，我认为，过去十年的大量深度学习研究，也许近些年稍少一些，都是关于信念的。““Interview with Dr. 伊利亚·苏茨克维尔, Cofounder of OPEN AI—at the Open University Studios—English”，2023年9月13日由以色列开放大学发布于 YouTube，时长50分28秒，youtu.be/H1YoNlz2LxA。
他的信念建立于：“What AI Is Making Possible | 伊利亚·苏茨克维尔 and Sven Strohband”，2023年7月18日由 Khosla Ventures 发布于 YouTube，时长25分26秒，youtu.be/xym5f0XYlSc；“伊利亚·苏茨克维尔: ‘Sequence to Sequence Learning with Neural Networks: What a Decade’"，2024年12月14日由 seremot 发布于 YouTube，时长24分36秒，youtu.be/1yvBqasHLZs。
“任何非深度学习的东西”：作者对 Pieter Abbeel 的采访，2023年10月。
不同物种的智能：“伊利亚·苏茨克维尔: ‘Sequence to Sequence Learning with Neural Networks.’”
“坦率地说，我们错了”：James Vincent，“OpenAI Co-founder on Company’s Past Approach to Openly Sharing Research: ‘We Were Wrong’"，《The Verge》，2023年3月15日，theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-ilya-sutskever-interview。
“也许今天的”：伊利亚·苏茨克维尔 (@ilyasut)，“it may be that today’s large neural networks are slightly conscious”，Twitter（现为 X），2022年2月9日，x.com/ilyasut/status/1491554478243258368。
一位 DeepMind 科学家专门研究：Murray Shanahan (@mpshanahan)，"…in the same sense that it may be that a large field of wheat is slightly pasta”，Twitter（现为 X），2022年2月10日，x.com/mpshanahan/status/1491715721289678848。
次年，苏茨克维尔将：Nirit Weiss-Blatt，“What 伊利亚·苏茨克维尔 Really Wants”，AI Panic，2023年9月16日，aipanic.news/p/what-ilya-sutskever-really-wants。
那年秋天，他将宣告：伊利亚·苏茨克维尔 (@ilyasut)，“In the future, once the robustness of our models will exceed some threshold, we will have wildly effective and dirt cheap AI therapy. Will lead to a radical improvement in people’s experience of life. One of the applications I’m most eagerly awaiting."，Twitter（现为 X），2023年9月27日，x.com/ilyasut/status/1707027536150929689。
苏茨克维尔将站起身：苏茨克维尔出席该活动的一张照片。
2017年8月，这一切改变了：Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N. Gomez 等，“Attention Is All You Need”，载于 NIPS ‘17: Proceedings of the 31st International Conference on Neural Information Processing Systems（2017年12月）：6000–10，dl.acm.org/doi/10.5555/3295222.3295349。
但苏茨克维尔一直专注于：苏茨克维尔的博士论文研究聚焦于循环神经网络（RNN）。与 Transformer 架构一样，RNN 旨在处理序列数据，适用范围极广——例如：一个英文句子是单词的序列，一张图像是像素的序列，一段视频是图像的序列。其博士论文见：伊利亚·苏茨克维尔，“Training Recurrent Neural Networks”（博士学位论文，多伦多大学，2013年），第1–101页，cs.utoronto.ca/~ilya/pubs/ilya_sutskever_phd_thesis.pdf [链接失效]。
拉德福德训练了谷歌（Google）的神经网络：亚历克·拉德福德、Karthik Narasimhan、Tim Salimans 和伊利亚·苏茨克维尔，“Improving Language Understanding by Generative Pre-Training”，预印本，OpenAI，2018年6月11日，第1—12页，cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf。拉德福德所使用的七千余册未出版书籍原始数据集来自：Yukun Zhu、Ryan Kiros、Rich Zemel、Ruslan Salakhutdinov、Raquel Urtasun、Antonio Torralba 等，“Aligning Books and Movies: Towards Story-Like Visual Explanations by Watching Movies and Reading Books”，收录于《2015年IEEE国际计算机视觉大会论文集》（电气和电子工程师协会，2015年），第19—27页，doi.org/10.1109/ICCV.2015.11。在AI研究领域，一个团队抓取并发布数据集、其他团队再将其复用于各自研究的做法并不罕见。
该公司解释道：OpenAI，“Generative Models”，OpenAI（博客），2016年6月16日，openai.com/index/generative-models。
2017年，阿莫代伊的一位同事：Paul Christiano、Jan Leike、Tom B. Brown、Miljan Martic、Shane Legg 和达里奥·阿莫代伊，“Deep Reinforcement Learning from Human Preferences”，收录于《NIPS ‘17：第31届神经信息处理系统国际会议论文集》（2017年12月），第4302—4310页，dl.acm.org/doi/10.5555/3294996.3295184。
OpenAI大力推介该技术：OpenAI，“Learning from Human Preferences”，OpenAI（博客），2017年6月13日，openai.com/index/learning-from-human-preferences。
阿莫代伊希望推进：作者对达里奥·阿莫代伊的采访，2019年8月。
他们将目标对准：亚历克·拉德福德、Jeffrey Wu、Rewon Child、David Luan、达里奥·阿莫代伊和伊利亚·苏茨克维尔，“Language Models Are Unsupervised Multitask Learners”，预印本，OpenAI，2019年2月14日，第1—24页，cdn.openai.com/better-language-models/language_models_are_unsupervised_multitask_learners.pdf。
他的团队将其统称为：Jared Kaplan、Sam McCandlish、Tom Henighan、Tom B. Brown、Benjamin Chess、Rewon Child 等，“Scaling Laws for Neural Language Models”，预印本，arXiv，2020年1月23日，第1—30页，doi.org/10.48550/arXiv.2001.08361。
输入几个词：对阿莫代伊的采访，2019年8月。
GPT-2生成一段长篇言论后：完整内容见 OpenAI，“Better Language Models and Their Implications”，OpenAI（博客），2019年2月14日，openai.com/index/better-language-models。
此时的阿莫代伊：作者对 Jack Clark 的采访，2019年8月。
“我就像AI版维基百科”：对 Clark 的采访。
他、阿莫代伊及其他几人：OpenAI，“Better Language Models”。
“很明显，如果”：Will Knight，“An AI That Writes Convincing Prose Risks Mass-Producing Fake News”，《MIT科技评论》，2019年2月14日，technologyreview.com/2019/02/14/137426/an-ai-tool-auto-generates-fake-news-bogus-tweets-and-plenty-of-gibberish。
“如果我们是对的，那它”：对 Clark 的采访，2019年8月。
此事被频繁讨论：郝凯伦，“The Messy, Secretive Reality Behind OpenAI’s Bid to Save the World”，《MIT科技评论》，2020年2月17日，technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality。
“最有力的背书”：我于2019年8月驻场期间亲历了这次政策团队会议。
不久之后：海伦·托纳，“GPT-2 Kickstarted the Conversation About Publication Norms in the AI Research Community”，CSET，2020年5月1日，cset.georgetown.edu/article/gpt-2-kickstarted-the-conversation-about-publication-norms-in-the-ai-research-community/；PAI Staff，“Managing the Risks of AI Research: Six Recommendations for Responsible Publication”，Partnership on AI，2021年5月6日，partnershiponai.org/paper/responsible-publication-recommendations。
“一系列押注”：对阿莫代伊的采访，2019年8月。
阿莫代伊确实看到持续进展之处：对阿莫代伊的采访。
在公司内部文件中：作者持有上述两份文件的副本。
“某种形式的语言”：所引用的讨论内容来自上述文件之一。
GPT-2已证明了有多容易：Tom Simonite，“OpenAI Said Its Code Was Risky. Two Grads Re-Created It Anyway”，《连线》，2019年8月26日，wired.com/story/dangerous-ai-open-source。
阿莫代伊想使用全部：OpenAI 未在其最初发布的 GPT-3 论文中披露所用芯片数量，但在第7章所述的谷歌（Google）争议事件后，该公司向谷歌研究人员透露了这一数字——一万块，后者将其发表在以下论文中：David Patterson、Joseph Gonzalez、Quoc Le、Chen Liang、Lluis-Miquel Munguia、Daniel Rothchild 等，“Carbon Emissions and Large Neural Network Training”，预印本，arXiv，2021年4月23日，第6页，doi.org/10.48550/arXiv.2104.10350。
这产生了：GPT-2 训练数据的详情可见 OpenAI 关于该模型的论文：拉德福德等，“Language Models Are Unsupervised Multitask Learners”。
此举使 Nest 扩充了数据：OpenAI 在这方面并非孤例。2023 年，作家兼程序员 Alex Reisner 证实，Meta、彭博等公司曾使用另一个名为 Books3 的书籍数据集训练各自的模型，其分析发现该数据集收录了逾 17 万册已出版图书。2024 年，Reisner 还证实，上述公司以及 Anthropic、英伟达（Nvidia）、苹果等，同样在使用名为 OpenSubtitles 的数据集训练模型，该数据集收录了逾 5.3 万部电影和 8.5 万集电视剧的对白。Alex Reisner, “Revealed: The Authors Whose Pirated Books Are Powering Generative AI,” 《大西洋》, August 19, 2023, theatlantic.com/technology/archive/2023/08/books3-ai-meta-llama-pirated-books/675063/; Alex Reisner, “There’s No Longer Any Doubt That Hollywood Writing Is Powering AI,” 《大西洋》, November 18, 2024, theatlantic.com/technology/archive/2024/11/opensubtitles-ai-data-set/680650.
OpenAI 随后回应：美国作家协会诉 OpenAI Inc.，案号 1:23-cv-08292，CourtListener (S.D.N.Y. May 6, 2024) ECF No. 143，附件 D，第 *2 页。
于是 Nest 最终转向：GPT-3 所用训练数据的详情见 OpenAI 发布的相关论文：Tom B. Brown, Benjamin Mann, Nick Ryder et al., “Language Models Are Few-Shot Learners,” in NIPS ‘20: Proceedings of the 34th International Conference on Neural Information Processing Systems (December 2020): 1877–901, dl.acm.org/doi/abs/10.5555/3495724.3495883.
“存在一场重大的范式转变”：作者对 Ryan Kolln 的采访，2023 年 10 月。
2023 年，Abeba 在一篇论文中：Abeba Birhane, Vinay Prabhu, Sang Han, and Vishnu Naresh Boddeti, “On Hate Scaling Laws for Data-Swamps,” preprint, arXiv, June 28, 2023, 1–27, doi.org/10.48550/arXiv.2306.13141.
同年晚些时候，斯坦福：David Thiel, Identifying and Eliminating CSAM in Generative ML Training Data and Models (Stanford Internet Observatory, 2023), 1–19, purl.stanford.edu/kh752sm9123.
其采取的策略之一：Billy Perrigo, “Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic,” Time, January 18, 2023, time.com/6247678/openai-chatgpt-kenya-workers.
公司还雇用了：郝凯伦与 Deepa Seetharaman，“Cleaning Up ChatGPT Takes Heavy Toll on Human Workers”，《华尔街日报》，2023 年 7 月 24 日，wsj.com/articles/chatgpt-openai-content-abusive-sexually-explicit-harassment-kenya-workers-on-human-workers-cf191483；OpenAI RLHF 操作说明副本。
心理有害材料：作者对 Hito Steyerl 的采访，2023 年 9 月。

第六章：升位

奥特曼职业生涯早期：Tad Friend，“山姆·奥特曼’s Manifest Destiny”，《纽约客》，2016年10月3日，newyorker.com/magazine/2016/10/10/sam-altmans-manifest-destiny。
“我最……”：“Advice to Entrepreneurs | 山姆·奥特曼 & 杰克·奥特曼”，由 Khosla Ventures 发布于2019年8月1日，YouTube，时长30分10秒，youtu.be/NAaRhXQCt9o。
“我那种疯狂的”：“Competition Is for Losers with 彼得·蒂尔 (How to Start a Startup 2014: 5)"，由 Y Combinator（YC）发布于2017年3月22日，YouTube，时长50分27秒，youtu.be/3Fx5Q8xGU8k。
“如果你的迭代周期”：“山姆·奥特曼 Startup School Video”，由滑铁卢大学工程学院发布于2017年7月26日，YouTube，时长1小时18分19秒，youtu.be/4SlNgM4PjvQ。
“随着时间推移，我们将”：Tyler Cowen 主持，“Conversations with Tyler” 播客，第61集，“山姆·奥特曼 on Loving Community, Hating Coworking, and the Hunt for Talent”，墨卡托斯中心播客，2019年2月27日。
“山姆是第一个”：作者对杰夫·拉尔斯顿的采访，2024年3月。
他发送的一份备忘录：备忘录副本。
与此同时，阿莫代伊兄妹：Stephanie Palazzolo、Erin Woo 与 Amir Efrati，“How Anthropic Got Inside OpenAI’s Head”，《The Information》，2024年12月12日，theinformation.com/articles/how-anthropic-got-inside-openais-head。
奥特曼本人充满偏执：奥特曼和苏茨克维偏执举动的细节，以及公司加强数字与物理安全的方式，来源于曾与奥特曼交谈或知悉相关措施的人士的回忆与同期笔记，以及这些措施被测试或讨论时的录音。奥特曼对安全的重视在前述备忘录中亦有提及。每一处细节（如对内部威胁的关注、掌纹扫描仪、求救密码）均经至少两人、同期笔记、录音或备忘录加以证实。
正如他们此前所做的：Tom B. Brown、Benjamin Mann、Nick Ryder 等，“Language Models Are Few-Shot Learners”，载于 NIPS ‘20: Proceedings of the 34th International Conference on Neural Information Processing Systems（2020年），第1877–901页，dl.acm.org/doi/abs/10.5555/3495724.3495883。
令人印象深刻的技术里程碑：除受访者访谈外，使用代码生成模型加速 OpenAI 研究的构想，在本人持有副本的两份公司内部备忘录中亦有所涉及。
失业率更快攀升：Rakesh Kochhar，“Unemployment Rose Higher in Three Months of COVID-19 Than It Did in Two Years of the Great Recession”，皮尤研究中心，2020年6月11日，pewresearch.org/short-reads/2020/06/11/unemployment-rose-higher-in-three-months-of-covid-19-than-it-did-in-two-years-of-the-great-recession。
谷歌已发表：Daniel Adiwardana、Minh-Thang Luong、David R. So、Jamie Hall、Noah Fiedel、Romal Thoppilan 等，“Towards a Human-Like Open-Domain Chatbot”，预印本，arXiv，2020年2月27日，第1–38页，doi.org/10.48550/arXiv.2001.09977。
谷歌高管决定：Miles Kruppa 与 Sam Schechner，“How Google Became Cautious of AI and Gave Microsoft an Opening”，《华尔街日报》，2023年3月7日，wsj.com/articles/google-ai-chatbot-bard-chatgpt-rival-bing-a4c2d2ad。
那一年在 NeurIPS：该论文荣获2020年 NeurIPS 最佳论文奖之一。Hsuan-Tien Lin、Maria Florina Balcan、Raia Hadsell 与 Marc’Aurelio Ranzato，“Announcing the NeurIPS 2020 Award Recipients”，神经信息处理系统大会，2020年12月8日，neuripsconf.medium.com/announcing-the-neurips-2020-award-recipients-73e4d3101537。
某时，Welinder：《简单破坏野战手册》（战略情报局，1944年），cia.gov/static/5c875f3ec660e092cf893f60b4a288df/SimpleSabotage.pdf。

第七章：囚笼中的科学

加入 DeepMind 后不久：该备忘录副本。
但高管们并不感兴趣：郝凯伦、Salvador Rodriguez、Deepa Seetharaman，《马克·扎克伯格早早布局 AI，如今 Meta 正奋力追赶》，《华尔街日报》，2023 年 6 月 17 日，wsj.com/articles/mark-zuckerberg-was-early-in-ai-now-meta-is-trying-to-catch-up-94a86284。
在中国，GPT-3 同样：Jeffrey Ding、Jenny W. Xiao，《中国大语言模型领域近期趋势》，AI 治理中心，2023 年 4 月 28 日，第 1–14 页，cdn.governance.ai/Trends_in_Chinas_LLMs.pdf。
通过提供证据：Raffaele Huang、郝凯伦，《百度抢在发布前加紧备战中国首个 ChatGPT 同类产品》，《华尔街日报》，2023 年 3 月 9 日，wsj.com/articles/baidu-scrambles-to-ready-chinas-first-chatgpt-equivalent-ahead-of-launch-bf359ca4。
2019 年 6 月，Emma：Emma Strubell、Ananya Ganesh、Andrew McCallum，“Energy and Policy Considerations for Deep Learning in NLP”，《第五十七届计算语言学协会年会论文集》（2019 年 7 月）：第 3645–3650 页，doi.org/10.18653/v1/P19-1355。
消耗 1,287 兆瓦时：David Patterson、Joseph Gonzalez、Quoc Le、Chen Liang、Lluis-Miquel Munguia、Daniel Rothchild 等，“Carbon Emissions and Large Neural Network Training”，预印本，arXiv，2021 年 4 月 23 日，doi.org/10.48550/arXiv.2104.10350。
这包括一项开创性研究：乔伊·布奥拉姆维尼、蒂姆尼特·格布鲁，“Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”，收录于《第一届公平性、问责制与透明度会议论文集》（2018 年）：第 77–91 页，proceedings.mlr.press/v81/buolamwini18a.html。
布奥拉姆维尼随后：后续论文：Inioluwa Deborah Raji、乔伊·布奥拉姆维尼，“Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products”，收录于《AIES ‘19：2019 年 AAAI/ACM 人工智能、伦理与社会会议论文集》（2019 年 1 月）：第 429–435 页，doi.org/10.1145/3306618.3314244；美国政府审计：Patrick Grother、Mei Ngan、Kayee Hanaoka，《人脸识别供应商测试（FRVT）第三部分：人口统计效应》，NISTIR 8280，美国国家标准与技术研究院，2019 年 12 月，doi.org/10.6028/NIST.IR.8280。
两年后，广泛：布奥拉姆维尼研究与倡导工作的完整故事，详见其畅销回忆录：乔伊·布奥拉姆维尼，《揭开 AI 的面具：在机器世界守护人性的使命》（Random House Trade Paperbacks，2024 年）；以及 Netflix 纪录片：《编码偏见》，Shalini Kantayya 执导（2020 年；纽约布鲁克林：7th Empire Media），Netflix。关于"Gender Shades"与"Actionable Auditing"的深远影响，另见：《庆祝"性别阴影"发布五周年》，算法正义联盟，访问日期：2025 年 1 月 15 日，gs.ajl.org/。
Black in AI 引发了：郝凯伦，《争夺 AI 控制权：反抗科技巨头的内部斗争》，《MIT 科技评论》，2021 年 6 月 14 日，technologyreview.com/2021/06/14/1026148/ai-big-tech-timnit-gebru-paper-ethics。
曾接触格布鲁：作者对蒂姆尼特·格布鲁的采访，2023 年 8 月。
2017 年，Facebook：Alex Hern，《Facebook 将"早安"译成"攻击他们”，导致一人被捕》，《卫报》，2017 年 10 月 24 日，theguardian.com/technology/2017/oct/24/facebook-palestine-israel-translates-good-morning-attack-them-arrest。
Safiya 的《压迫的算法》：Safiya Umoja Noble，《压迫的算法：搜索引擎如何强化种族主义》（NYU Press，2018 年），第 1–248 页。
OpenAI 坦然承认：GPT-3 论文第 6.2 节"公平性、偏见与表征"讨论了模型中存在的多种偏见，随后写道：“我们呈现这一初步分析，旨在披露我们发现的若干偏见，以期推动进一步研究。“Tom B. Brown、Benjamin Mann、Nick Ryder、Melanie Subbiah、Jared Kaplan、Prafulla Dhariwal 等，“Language Models Are Few-Shot Learners”，收录于《NIPS ‘20：第三十四届神经信息处理系统国际会议论文集》，第 159 篇（2020 年）：第 1877–1901 页，dl.acm.org/doi/abs/10.5555/3495724.3495883。
格布鲁加入讨论：关于格布鲁在"随机鹦鹉"论文前后经历的记述，主要来自作者与格布鲁于 2020 至 2024 年间的多次访谈（含其被驱逐后次日的采访），以及 Tom Simonite 的详细报道：《谷歌驱逐蒂姆尼特·格布鲁的真相》，《连线》，2021 年 6 月 8 日，wired.com/story/google-timnit-gebru-ai-what-really-happened。
如果她不肯，就将被：格布鲁与艾米莉·M·本德尔之间的对话，来源于本德尔提供的往来截图。
“我们对这些初步”：电子邮件副本，由本德尔提供。
“绝对不是我的领域”：Simonite，“What Really Happened”。
共计四位作者：艾米莉·M·本德尔、蒂姆尼特·格布鲁、Angelina McMillan-Major 与 Shmargaret Shmitchell [Meg Mitchell]，“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?"，收录于《FAccT ‘21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency》（2021年3月）：第610–23页，doi.org/10.1145/3442188.3445922。由于谷歌（Google）以本章所述原因拒绝让 Meg Mitchell 以本名发表该论文，她在论文上将自己的署名写为 Shmargaret Shmitchell，并注册了相应的电子邮件地址。所在机构一栏，她填写的是"the Aether”（虚空）。
在另一个内部 LISTSERV 上：Casey Newton，“The Withering Email That Got an Ethical AI Researcher Fired at Google”，Platformer，2020年12月3日，platformer.news/the-withering-email-that-got-an-ethical。
“我们，联署人”：Google Walkout for Real Change，“Standing with Dr. 蒂姆尼特·格布鲁— #ISupportTimnit #BelieveBlackWomen”，Medium，2020年12月3日，https://googlewalkout.medium.com/standing-with-dr-timnit-gebru-isupporttimnit-believeblackwomen-6dadc300d382。
数小时后，我：郝凯伦，“We Read the Paper That Forced 蒂姆尼特·格布鲁 out of Google. Here’s What It Says”，《麻省理工科技评论》，2020年12月4日，technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru。
12月9日，抗议之际：Ina Fried，“Scoop: Google CEO Pledges to Investigate Exit of Top AI Ethicist”，Axios，2020年12月9日，axios.com/2020/12/09/sundar-pichai-memo-timnit-gebru-exit。
12月16日，各方代表：郝凯伦，“Congress Wants Answers from Google About 蒂姆尼特·格布鲁’s Firing”，《麻省理工科技评论》，2020年12月17日，technologyreview.com/2020/12/17/1014994/congress-wants-answers-from-google-about-timnit-gebrus-firing。
抗议持续了逾一年：Ina Fried，“Google Fires Another AI Ethics Leader”，Axios，2021年2月19日，axios.com/2021/02/19/google-fires-another-ai-ethics-leader。
谷歌（Google）称她违反了：Sam Shead，“New Google Union ‘Concerned’ After a Senior A.I. Ethics Researcher Is Reportedly Locked Out of Her Account”，CNBC，2021年1月21日，cnbc.com/2021/01/21/margaret-mitchell-google-investigating-ai-researcher-awu-concerned.html。
公司试图：Sepi Hejazi Moghadam，“Marian Croak’s Vision for Responsible AI at Google”，The Keyword，2021年2月18日，blog.google/technology/ai/marian-croak-responsible-ai。
“这是一段痛苦的”：作者与谷歌（Google）发言人的往来通信，2024年11月。
这是一则警示：Mohamed Abdalla 与 Moustafa Abdalla，“The Grey Hoodie Project: Big Tobacco, Big Tech, and the Threat on Academic Integrity”，收录于《AIES ‘21: Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society》（2021年7月）：第287–97页，doi.org/10.1145/3461702.3462563。
作为谷歌（Google）最早的员工之一：James Somers，“The Friendship That Made Google Huge”，《纽约客》，2018年12月3日，newyorker.com/magazine/2018/12/10/the-friendship-that-made-google-huge。
他表示反对：Simonite，“What Really Happened.”
Strubell 认为更应该：作者对 Emma Strubell 的采访，2023年11月。
谷歌（Google）发言人表示 Strubell：与谷歌（Google）发言人的往来通信，2024年11月。
Patterson 的博客文章：David Patterson，“Good News About the Carbon Footprint of Machine Learning Training”，Google Research（博客），2022年2月15日，research.google/blog/good-news-about-the-carbon-footprint-of-machine-learning-training。
就在那时，OpenAI：与谷歌（Google）发言人的往来通信，2024年11月。
几乎所有公司：Nitasha Tiku 与 Gerrit De Vynck，“Google Shared AI Knowledge with the World—Until ChatGPT Caught Up”，《华盛顿邮报》，2023年5月4日，washingtonpost.com/technology/2023/05/04/google-ai-stop-sharing-research。
全部十家公司：Rishi Bommasani、Kevin Klyman、Shayne Longpre、Sayash Kapoor、Nestor Maslej、Betty Xiong 等，The Foundation Model Transparency Index（斯坦福基础模型研究中心，2023年10月），crfm.stanford.edu/fmti/October-2023/index.html。

第八章：商业黎明

新共识达成后：路线图副本。
一年后，谷歌：该论文俗称"Chinchilla论文”：Jordan Hoffmann、Sebastian Borgeaud、Arthur Mensch、Elena Buchatskaya、Trevor Cai、Eliza Rutherford等，“Training Compute-Optimal Large Language Models”，预印本，arXiv，2022年3月29日，第1—36页，arxiv.org/abs/2203.15556。
OpenAI将这一流程称为：该术语在人工智能领域的首次使用见于：Miles Brundage、Shahar Avin、Jasmine Wang、Haydn Belfield、Gretchen Krueger、Gillian Hadfield等，“Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims”，预印本，arXiv，2020年4月20日，第2页，doi.org/10.48550/arXiv.2004.07213。
曾与OpenAI合作的Khlaaf：Khlaaf撰写了一篇论文，分析了人工智能红队测试与安全领域红队测试的异同。Heidy Khlaaf，“Toward Comprehensive Risk Assessments and Assurance of AI-Based Systems”，Trail of Bits，2023年3月7日，第1—30页，trailofbits.com/documents/Toward_comprehensive_risk_assessments.pdf。
该公司曾与：Lex Fridman主持，Lex Fridman Podcast，播客，第121集，“Eugenia Kuyda: Friendship with an AI Companion”，2020年9月5日，lexfridman.com/podcast。
Latitude早已在使用：Tom Simonite，“It Began as an AI-Fueled Dungeon Game. It Got Much Darker”，《连线》，2021年5月5日，wired.com/story/ai-fueled-dungeon-game-got-much-darker。
微软高管指示：Charles Duhigg，“The Inside Story of Microsoft’s Partnership with OpenAI”，《纽约客》，2023年12月1日，newyorker.com/magazine/2023/12/11/the-inside-story-of-microsofts-partnership-with-openai。
微软迎来了自己的时刻：Nat Friedman，“Introducing GitHub Copilot: Your AI Pair Programmer”，GitHub，2021年6月29日，github.blog/news-insights/product-news/introducing-github-copilot-ai-pair-programmer。
随后OpenAI发布：OpenAI，“OpenAI Codex”，OpenAI（博客），2021年8月10日，openai.com/index/openai-codex。
该安排将：Tiernan Ray，“Microsoft Has Over a Million Paying Github Copilot Users: CEO Nadella”，ZDNet，2023年10月25日，zdnet.com/article/microsoft-has-over-a-million-paying-github-copilot-users-ceo-nadella。
“如果你能挥动魔杖”：“Advice to Entrepreneurs | 山姆·奥特曼 & 杰克·奥特曼”，2019年8月1日由Khosla Ventures发布，YouTube，时长30分10秒，youtu.be/NAaRhXQCt9o。
这是一项专门的冒险：Ellen Huet与Gillian Tan，“山姆·奥特曼 Wants to Scan Your Eyeball in Exchange for Cryptocurrency”，彭博社，2021年6月29日，bloomberg.com/news/articles/2021-06-29/sam-altman-s-worldcoin-will-give-free-crypto-for-eyeball-scans。
他在Y Combinator（YC）期间启动了：Sarah Holder与Shirin Ghaffary，“山姆·奥特曼–Backed Group Completes Largest US Study on Basic Income”，彭博社，2024年7月22日，bloomberg.com/news/articles/2024-07-22/ubi-study-backed-by-openai-s-sam-altman-bolsters-support-for-basic-income。
2024年7月，OpenResearch：OpenResearch，“Key Findings: Spending”，OpenResearch（博客），2024年7月21日，openresearchlab.org/findings/key-findings-spending。
Tools for Humanity的核心产品：Huet与Tan，“山姆·奥特曼 Wants to Scan Your Eyeball”。
一项深度调查：Eileen Guo与Adi Renaldi，“Deception, Exploited Workers, and Cash Handouts: How Worldcoin Recruited Its First Half a Million Test Users”，《麻省理工科技评论》，2022年4月6日，technologyreview.com/2022/04/06/1048981/worldcoin-cryptocurrency-biometrics-web3。
2023年7月，Worldcoin：Anita Nkonge，“Worldcoin Suspended in Kenya as Thousands Queue for Free Money”，BBC，2023年8月3日，bbc.com/news/world-africa-66383325。
“我基本上只是拿走了”：Antonio Regalado，“山姆·奥特曼 Invested $180 Million into a Company Trying to Delay Death”，《麻省理工科技评论》，2023年3月8日，technologyreview.com/2023/03/08/1069523/sam-altman-investment-180-million-retro-biosciences-longevity-death。
对于Antonio Regalado，联合创始人：Antonio Regalado，“A Startup Is Pitching a Mind-Uploading Service That Is ‘100 percent Fatal,’ “《麻省理工科技评论》，2018年3月13日，technologyreview.com/2018/03/13/144721/a-startup-is-pitching-a-mind-uploading-service-that-is-100-percent-fatal。
“毁灭地球”：“Office Hours with 山姆·奥特曼”，2017年1月11日由Y Combinator发布，YouTube，时长24分34秒，youtu.be/45BvnJgwYjk。
“不仅仅是一项投资”：“StrictlyVC in Conversation with 山姆·奥特曼, Part One”，2023年1月16日由Connie Loizos发布，YouTube，时长20分32秒，youtu.be/57OU18cogJI。
令众人震惊的是：Justine Calma，“Microsoft Just Made a Huge, Far-from-Certain Bet on Nuclear Fusion”，The Verge，2023年5月10日，theverge.com/2023/5/10/23717332/microsoft-nuclear-fusion-power-plant-helion-purchase-agreement。
当月他启动了：相关信息可查阅其官方网站，openai.fund。
奥特曼的个人净资产：Berber Jin、Tom Dotan与Keach Hagey，“The Opaque Investment Empire Making OpenAI’s 山姆·奥特曼 Rich”，《华尔街日报》，2024年6月3日，wsj.com/tech/ai/openai-sam-altman-investments-004fc785。

第9章：灾难资本主义

2021年，同期进行的：郝凯伦与Deepa Seetharaman，“Cleaning Up ChatGPT Takes Heavy Toll on Human Workers”，《华尔街日报》，2023年7月24日，wsj.com/articles/chatgpt-openai-content-abusive-sexually-explicit-harassment-kenya-workers-on-human-workers-cf191483。
为建立自动过滤器：OpenAI该项目工作说明书的副本。
经过六个月的寻找：作者对OpenAI发言人的采访，2023年6月。
OpenAI向Sama发送：电子邮件审阅记录。
Sama提供了详尽答复：答复内容审阅记录。
OpenAI签订了四份合同：两份合同的副本及对另外两份的审阅记录。
你可以看到这些标记：基于作者2023年5月的内罗毕实地报道。
在这些条件下：作者对Mercy Mutemi（代理四名肯尼亚工人、争取肯尼亚数字劳工改革权益的律师）的采访，2023年5月；以及对Jonathan Beardsley（数据标注公司CloudFactory时任高管）的采访，2023年5月。
直到2022年初：Billy Perrigo，“Inside Facebook’s African Sweatshop”，《时代》，2022年2月14日，time.com/6147458/facebook-africa-content-moderation-employee-treatment。
Sama为自己辩护：作者与Sama发言人的通信，2024年11月。
近两百名工人将会：Caroline Kimeu，"‘A Watershed’: Meta Ordered to Offer Mental Health Care to Moderators in Kenya”，《卫报》，2023年6月7日，theguardian.com/global-development/2023/jun/07/a-watershed-meta-ordered-to-offer-mental-health-care-to-moderators-in-kenya。
代号PBJ1：基于合同与项目文件，以及Sama对作者就《华尔街日报》报道所提置评请求的回复：郝凯伦与Seetharaman，“Cleaning Up ChatGPT Takes Heavy Toll”。
工人对此毫不知情：作者对其中四名工人——Mophat Okinyi、Richard Mathenge、Alex Kairu和Bill Mulinya——的采访，2023年。
他们所知道的：工人所收指导说明的副本。这些分类对应OpenAI内容审核API中的可用类别，可在此处查阅：“Moderation”，OpenAI Platform，OpenAI，访问日期：2024年10月17日，platform.openai.com/docs/guides/moderation。
其中一人：作者对Mophat、其兄弟Albert、一位朋友及Mutemi的采访，2023年。
2019年，他们出版了：Mary L. Gray与Siddharth Suri，Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass（哈珀商业出版社，2019年），第1—288页；以及作者对Mary L. Gray的采访，2019年5月。
生成式AI出现之前：Florian Alexander Schmidt，“Crowdsourced Production of AI Training Data—How Human Workers Teach Self-Driving Cars How to See”，Working Paper Forschungsförderung 155（2019年），hdl.handle.net/10419/216075。
就在这一新浪潮兴起之际：作者对Florian Alexander Schmidt的采访，2022年；以及对Julian Posada的采访，2021年。
1000万%：据国际货币基金组织数据。
到2018年中：Schmidt，“Crowdsourced Production of AI Training Data”。
数年后回望：Julian Posada，“The Coloniality of Data Work: Power and Inequality in Outsourced Data Production for Machine Learning”（博士论文，多伦多大学，2022年），第1—229页，hdl.handle.net/1807/126388。
2021年12月，我前往：郝凯伦与Andrea Paola Hernández，“How the AI Industry Profits from Catastrophe”，《麻省理工科技评论》，2022年4月20日，technologyreview.com/2022/04/20/1050392/ai-industry-appen-scale-data-labels。
Fuentes是第一个：作者对Oskarina Veronica Fuentes Anaya的采访，包括在其家中进行的采访，2021年。
Appen首席技术官Wilson Pang：作者对Wilson Pang的采访，2021年12月。
Fuentes向我展示了：作者对数据标注工人的采访，2021—24年，涵盖肯尼亚、菲律宾、哥伦比亚、委内瑞拉（与Andrea Paola Hernández合作）、北非及其他地区。
新兴力量中：对Scale业务行为的描述，基于作者对五名Scale现任及前任员工的采访、公司内部文件截图、对工人所收指令的审阅、深入其Discord社群，以及对全球近二十名曾在该平台工作的工人的采访。
“如果你能一直挖掘”：Ashlee Vance，“Silicon Valley’s Latest Unicorn Is Run by a 22-Year-Old”，彭博社，2019年8月5日，bloomberg.com/news/articles/2019-08-05/scale-ai-is-silicon-valley-s-latest-unicorn。
我们通过一份电子表格发现：工人薪酬电子表格副本。
在Scale内部，Remotasks Plus：作者与Scale发言人的通信，2024年11月。
无处可去：与Scale发言人的通信。
“Remotasks致力于”：郝凯伦与Hernández，“How the AI Industry Profits from Catastrophe”。
“我们深切关注”：与Scale发言人的通信，2024年11月。
至少有一名工人：该工人付款记录的截图。
“革命与抗议”：工人 Discord 频道中该消息的截图。
其中一家公司 CloudFactory：作者于 2023 年 5 月对创始人 Mark Sears 及高管 Jonathan Beardsley 的访谈，以及对约十余名 CloudFactory 工人的访谈；并于 2023 年 5 月实地走访了 CloudFactory 内罗毕总部。
Mophat Okinyi 的成长经历：作者与 Mophat Okinyi（2023 年 5 月）及 Albert Okinyi（2023 年 5 月至 6 月）的访谈。
肯尼亚青年失业率：数据来源于肯尼亚雇主联合会，该联合会将青年定义为十五至三十四岁人群。
2021 年，世界银行：“Continued Rebound, but Storms Cloud the Horizon: Policies to Accelerate the Productive Economy for Inclusive Growth,” Kenya Economic Update, no. 26 (World Bank, 2022), 1—54, hdl.handle.net/10986/38386.
这感觉像是一个奇迹：作者与 Sama 发言人的往来函件，2023 年 6 月。
他刚刚结识了：作者与 Mophat（2023 年 5 月）、Albert（2023 年 5 月至 6 月）以及 Mophat 一位朋友（2023 年 5 月）的访谈。
Okinyi 被分配至：OpenAI 与 Sama 签订的工作说明书副本。
OpenAI 的指令分类：指令副本。
其余部分由系统生成：OpenAI 研究人员后来撰写了一篇论文，阐述了他们构建内容审核过滤器的部分实践。第 3.3 节介绍了他们如何为训练生成合成数据，论文还进一步说明了严重程度的类别划分。Todor Markov, Chong Zhang, Sandhini Agarwal, Tyna Eloundou, Teddy Lee, Steven Adler et al., “A Holistic Approach to Undesired Content Detection in the Real World,” in AAAI'23/IAAI'23/EAAI'23: Proceedings of the Thirty-Seventh AAAI Conference on Artificial Intelligence and Thirty-Fifth Conference on Innovative Applications of Artificial Intelligence and Thirteenth Symposium on Educational Advances in Artificial Intelligence, no. 1683 (2022): 15009–18, dl.acm.org/doi/10.1609/aaai.v37i12.26752.
2022 年 3 月，Sama：与 Sama 发言人的往来函件，2023 年 6 月。
公司从未收到：与 Sama 发言人的往来函件。
随着产品迅速走红：与 Albert Okinyi 的访谈，2023 年 5 月至 6 月。
但工人经历的一致性：Milagros Miceli and Julian Posada, “The Data-Production Dispositif,” in Proceedings of the ACM on Human-Computer Interaction 6, no. 460 (November 2022): 1–37, dl.acm.org/doi/10.1145/3555561; James Muldoon and Boxi A. Wu, “Artificial Intelligence in the Colonial Matrix of Power,” Philosophy and Technology 36, no. 80 (December 2023), doi.org/10.1007/s13347-023-00687-8.
“这简直丑陋得令人难以置信”：与 Sears 的访谈，2023 年 5 月。
从 2022 年春季起：OpenAI 与 Scale 之间已结束合同截图所示的 OpenAI 合作协议；2023 年估计收入来源于 Cory Weinberg, “Fame, Feud and Fortune: Inside Billionaire 亚历山大·王’s Relentless Rise in Silicon Valley,” The Information, June 28, 2024, theinformation.com/articles/fame-feud-and-fortune-inside-billionaire-alexandr-wangs-relentless-rise-in-silicon-valley.
自动驾驶汽车曾大行其道之处：Long Ouyang, Jeff Wu, Xu Jiang, Diogo Almeida, Carroll L. Wainwright, Pamela Mishkin et al., “Training Language Models to Follow Instructions with Human Feedback,” arXiv, March 4, 2022, 1–68, doi.org/10.48550/arXiv.2203.02155.
“遵从用户指令”：OpenAI, “Aligning Language Models to Follow Instructions,” OpenAI (blog), January 27, 2022, openai.com/index/instruction-following.
公司开始采用：基于逾百页 OpenAI RLHF 文件的副本。
“你将扮演”：RLHF 文件。
为对输出结果进行准确排名：RLHF 文件。
“你的目标是提供”：RLHF 文件。
在加州大学伯克利分校的一次演讲中：“约翰·舒尔曼—Reinforcement Learning from Human Feedback: Progress and Challenges,” posted April 19, 2023, by UC Berkeley EECS, YouTube, 1 hr., 3 min., 31 sec., youtu.be/hhiLw5Q_UFg.
Scale AI，其业务：Berber Jin, “The 27-Year-Old Billionaire Whose Army Does AI’s Dirty Work,” 《华尔街日报》, September 20, 2024, wsj.com/tech/ai/alexandr-wang-scale-ai-d7c6efd7.
“很快，各公司将”：亚历山大·王 (@alexandr_wang), “we’re starting to see top companies spend the same amount on RLHF and compute in training ChatGPT-like LLMs…for example, OpenAI hired >1000 devs to RLHF their code models…crazy—but soon companies will start spending $ hundreds of Ms or $ billions on RLHF, just as w/compute,” Twitter（现为 X），2023 年 2 月 1 日，x.com/alexandr_wang/status/1620934510820093952.
Scale 不久后将禁止：作者与 Scale 发言人的往来函件，2024 年 11 月。
工人当中：基于 2023 年 5 月对内罗毕三名 Remotasks 工人和四名 Sama 工人家庭的实地走访，以及另外两名 Remotasks 工人的住址信息。
唯一的女孩：作者与 Winnie 及其伴侣 Millicent 的访谈，2023 年 5 月。
曾有一个名为……的项目：Flamingo Generation 任务说明审核。
还有另一个项目：Crab Generation 任务说明审核。
Crab Paraphrase 与此类似：Crab Paraphrase 任务说明副本。
肯尼亚，他们决定：Russell Brandom，“Scale AI’s Remotasks Platform Is Dropping Whole Countries Without Explanation”，Rest of World，2024年3月28日，restofworld.org/2024/scale-ai-remotasks-banned-workers。
颇具讽刺意味的是：Jin，“The 27-Year-Old Billionaire”。
Scale 将肯尼亚降级：分组名称截图及分组变更公告。
Scale 当时正在招募：Cory Weinberg，“Why a $14 Billion Startup Is Now Hiring PhD’s to Train AI from Their Living Rooms”，The Information，2024年6月25日，theinformation.com/articles/why-a-14-billion-startup-is-now-hiring-phds-to-train-ai-from-their-living-rooms。
她的收件箱里：Hilary Kimuyu，“Online Gig Site Remotasks Exits Kenya”，Business Daily，2024年3月13日，businessdailyafrica.com/bd/corporate/technology/online-gig-site-remotasks-exits-kenya-4555340。

第十章：神与魔

“We were young”：Andrew Van Dam，“What Percent Are You?"，经济学博客，《华尔街日报》，2016年3月2日，wsj.com/articles/what-percent-are-you-1456922287。
“Where I grew up”：Tyler Cowen 主持，《与 Tyler 对话》，播客，第61期，“山姆·奥特曼 on Loving Community, Hating Coworking, and the Hunt for Talent”，梅卡图斯中心播客，2019年2月27日。
EA 哲学的核心：Émile P. Torres，“The Acronym Behind Our Wildest AI Dreams and Nightmares”，Truthdig，2023年6月15日，truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares。
在2013年的一篇论文中：William MacAskill，“Replaceability, Career Choice, and Making a Difference”，《伦理理论与道德实践》第17卷（2013年）：269–83，doi.org/10.1007/S10677-013-9433-4。
依照这一逻辑：“What Is Effective Altruism?"，有效利他主义论坛，访问日期：2024年10月8日，effectivealtruism.org/articles/introduction-to-effective-altruism。
“我和其他人”：Will MacAskill，“What Are the Most Important Moral Problems of Our Time?"，TED 演讲，2018年4月，时长11分45秒，ted.com/talks/will_macaskill_what_are_the_most_important_moral_problems_of_our_time。
十年前，Facebook：“About Us”，Open Philanthropy，访问日期：2024年10月17日，openphilanthropy.org/about-us。
Open Philanthropy 随后：Holden Karnofsky，“The Open Philanthropy Project Is Now an Independent Organization”，Open Philanthropy，2017年6月12日，openphilanthropy.org/research/the-open-philanthropy-project-is-now-an-independent-organization。
Bankman-Fried，即 SBF：David Yaffe-Bellany，“A Crypto Emperor’s Vision: No Pants, His Rules”，《纽约时报》，2022年5月14日，nytimes.com/2022/05/14/business/sam-bankman-fried-ftx-crypto.html。
随着财富积累：Rebecca Ackermann，“Inside Effective Altruism, Where the Far Future Counts a Lot More Than the Present”，《麻省理工科技评论》，2022年10月17日，technologyreview.com/2022/10/17/1060967/effective-altruism-growth。
2022年初：“Announcing the Future Fund”，FTX Future Fund，存档于2022年11月27日，web.archive.org/web/20221127183608/https://ftxfuturefund.org/announcing-the-future-fund。
据汇编数据估算：“An Overview of the AI Safety Funding Situation”，有效利他主义论坛，访问日期：2024年10月8日，forum.effectivealtruism.org/posts/XdhwXppfqrpPL2YDX/an-overview-of-the-ai-safety-funding-situation；作者与 Open Philanthropy 发言人的往来邮件，2024年11月。
EA 与 AI 安全线上论坛：Shazeda Ahmed、Klaudia Jaźwińska、Archana Ahlawat、Amy Winecoff 与 Mona Wang，“Building the Epistemic Community of AI Safety”，预印本，SSRN，2023年12月1日，第1–14页，ssrn.com/abstract=4641526；“What Is Effective Altruism?"，有效利他主义论坛。
随着成员涌入：以下定义大多来源于 LessWrong 与有效利他主义论坛；例如：“AI Timelines”，LessWrong，访问日期：2024年10月17日，lesswrong.com/tag/ai-timelines；“Global Catastrophic Risk”，有效利他主义论坛，访问日期：2024年11月27日，forum.effectivealtruism.org/topics/global-catastrophic-risk。
与科技界混杂：Charlotte Alter，“Effective Altruism Promises to Do Good Better. These Women Say It Has a Toxic Culture of Sexual Harassment and Abuse”，《时代》，2023年2月3日，time.com/6252617/effective-altruism-sexual-harassment；Kelsey Piper，“Why Effective Altruism Struggles on Sexual Misconduct”，Vox，2023年2月16日，vox.com/future-perfect/2023/2/15/23601143/effective-altruism-sexual-harassment-misconduct。
第一个模型名为 CLIP：亚历克·拉德福德、Jong Wook Kim、Chris Hallacy、Aditya Ramesh、Gabriel Goh、Sandhini Agarwal 等，“Learning Transferable Visual Models from Natural Language Supervision”，预印本，arXiv，2021年2月26日，第1–48页，doi.org/10.48550/arXiv.2103.00020。
第二个模型 DALL-E 1：OpenAI，“DALL·E: Creating Images from Text”，OpenAI（博客），2021年1月5日，openai.com/index/dall-e。
最初的构想：Jascha Sohl-Dickstein、Eric A. Weiss、Niru Maheswaranathan 与 Surya Ganguli，“Deep Unsupervised Learning Using Nonequilibrium Thermodynamics”，载于《ICML ‘15：第32届国际机器学习大会论文集》第37卷（2015年7月）：2256–65，dl.acm.org/doi/10.5555/3045118.3045358。
五年后，Jonathan：Jonathan Ho、Ajay Jain 与 Pieter Abbeel，“Denoising Diffusion Probabilistic Models”，载于《NIPS ‘20：第34届神经信息处理系统国际大会论文集》，第574篇（2020年12月）：6840–51，dl.acm.org/doi/abs/10.5555/3495724.3496298；Anil Ananthaswamy，“The Physics Principle That Inspired Modern AI Art”，《量子杂志》，2023年1月5日，quantamagazine.org/the-physics-principle-that-inspired-modern-ai-art-20230105。
OpenAI 转变策略：“DALL·E 2”，OpenAI，访问日期：2024年9月17日，openai.com/index/dall-e-2。
Ramesh 等研究人员：Alex Nichol、Prafulla Dhariwal、Aditya Ramesh、Pranav Shyam、Pamela Mishkin、Bob McGrew 等，“GLIDE: Towards Photorealistic Image Generation and Editing with Text-Guided Diffusion Models”，收录于《第 39 届国际机器学习大会论文集》（2022）：16784–804，proceedings.mlr.press/v162/nichol22a.html。
OpenAI 以外的研究人员：Robin Rombach、Andreas Blattmann、Dominik Lorenz、Patrick Esser、Björn Ommer，“High-Resolution Image Synthesis with Latent Diffusion Models”，收录于《2022 年 IEEE/CVF 计算机视觉与模式识别大会论文集》（2022）：10674–85，doi.ieeecomputersociety.org/10.1109/CVPR52688.2022.01042。
256 块英伟达 A100：作者对 Björn Ommer 的采访，2024 年 3 月。
随着 DALL-E 2 的非凡：Fraser Kelton 与 Nabeel Hyatt 主持，Hallway Chat 播客，“Launch Stories of ChatGPT”，2023 年 12 月 2 日，hallwaychat.co/launch-stories-of-chatgpt。
2023 年 12 月：Hayden Field，“Microsoft Engineer Warns Company’s AI Tool Creates Violent, Sexual Images, Ignores Copyrights”，CNBC，2024 年 3 月 6 日，cnbc.com/2024/03/06/microsoft-ai-engineer-says-copilot-designer-creates-disturbing-images.html。
“这令人如痴如醉”：Kelton 与 Hyatt，Hallway Chat。
为解决 OpenAI 的数据：Cade Metz、Cecilia Kang、Sheera Frenkel、Stuart A. Thompson、Nico Grant，“How Tech Giants Cut Corners to Harvest Data for A.I."，《纽约时报》，2024 年 4 月 6 日，nytimes.com/2024/04/06/technology/tech-giants-harvest-data-artificial-intelligence.html。
OpenAI 此前曾：Davey Alba、Emily Chang，“YouTube Says OpenAI Training Sora with Its Videos Would Break Rules”，Bloomberg，2024 年 4 月 4 日，bloomberg.com/news/articles/2024-04-04/youtube-says-openai-training-sora-with-its-videos-would-break-the-rules。
随后他使用了一款语音识别工具：OpenAI，“Introducing Whisper”，OpenAI 博客，2022 年 9 月 21 日，openai.com/index/whisper。
然后与其他几人：“GPT-4 Contributions”，OpenAI，访问于 2024 年 10 月 13 日，openai.com/contributions/gpt-4。
“学者型白痴”：比尔·盖茨主持，Unconfuse Me with 比尔·盖茨播客，第 2 期，“Sal Khan”，Gates Notes，2023 年 8 月 10 日，gatesnotes.com/podcast。
AP 生物学课程，因为：比尔·盖茨，“The Age of AI Has Begun”，GatesNotes，2023 年 3 月 21 日，gatesnotes.com/The-Age-of-AI-Has-Begun。
这场演示，盖茨说：比尔·盖茨此后多次公开提及，包括盖茨，“The Age of AI Has Begun”。
Brockman 与 Fraser Kelton：Kelton 与 Hyatt，Hallway Chat。
那些笑话令人喜不自胜：Will Hurd，“Should 4 People Be Able to Control the Equivalent of a Nuke?"，Politico，2024 年 1 月 30 日，politico.com/news/magazine/2024/01/30/will-hurd-ai-regulation-00136941。
“CEO 理应”：“山姆·奥特曼 Startup School Video”，2017 年 7 月 26 日由 Waterloo Engineering 发布，YouTube，时长 1 小时 18 分 19 秒，youtu.be/4SlNgM4PjvQ。
“董事会是非营利性的”：Bilawal Sidhu 主持，The TED AI Show 播客，“What Really Went Down at OpenAI and the Future of Regulation w/ 海伦·托纳”，2024 年 5 月 28 日，ted.com/talks/the_ted_ai_show_what_really_went_down_at_openai_and_the_future_of_regulation_w_helen。
“我是谁”：Rebecca Heilweil，“Why Silicon Valley Is Fertile Ground for Obscure Religious Beliefs”，Vox，2022 年 6 月 30 日，vox.com/recode/2022/6/30/23188222/silicon-valley-blake-lemoine-chatbot-eliza-religion-robot。
当公司高管：Nitasha Tiku，“The Google Engineer Who Thinks the Company’s AI Has Come to Life”，Washington Post，2022 年 6 月 11 日，washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine。
但尽管有大量：Tom Hartsfield，“Koko the Impostor: Ape Sign Language Was a Bunch of Babbling Nonsense”，Big Think，2022 年 5 月 11 日，bigthink.com/life/ape-sign-language。
在与 Hinton 的对话中：作者对 Geoff Hinton 的采访。

第十一章：顶点

关于那张照片：所涉照片摄于2022年10月。
公开的财务文件：United States v. Samuel Bankman-Fried, No. 1:22-cr-00673, CourtListener (S.D.N.Y. March 15, 2024) ECF No. 410, at *12–13. 相关段落如下：“从2021年底至2022年第一季度，Bankman-Fried动用FTX客户资金，主导了数十亿美元的支出。这些支出包括……Anthropic PBC（一家人工智能公司）。”
法官随后裁定：Zack Abrams, “FTX Offloads Remaining Anthropic Shares as Bankruptcy Cost Surpasses $500 Million,” The Block, June 1, 2024, theblock.co/post/298010/ftx-offloads-remaining-anthropic-shares-as-bankruptcy-cost-surpasses-700-million.
那场骤然爆红：Will Douglas Heaven, “The Inside Story of How ChatGPT Was Built from the People Who Made It,” 《麻省理工科技评论》, March 3, 2023, technologyreview.com/2023/03/03/1069311/inside-story-oral-history-how-chatgpt-built-openai.
“低了整整一个数量级”：“StrictlyVC in Conversation with 山姆·奥特曼, Part Two,” posted on January 17, 2023, by Connie Loizos, YouTube, 38 min., 58 sec., youtu.be/bjkD1Om4uw.
总数刚刚超过：Erin Woo and Stephanie Palazzolo, “OpenAI Overhauls Content Moderation Efforts as Elections Loom,” The Information, December 18, 2023, theinformation.com/articles/openai-overhauls-content-moderation-efforts-as-elections-loom.
严重的短缺：“Behind the Scenes Scaling ChatGPT—Evan Morikawa at LeadDev West Coast 2023,” posted October 26, 2023, by LeadDev, YouTube, 27 min., 12 sec., youtu.be/PeKMEXUrlq4.
为尝试加以利用：OpenAI, “Using GPT-4 for Content Moderation,” Open AI (blog), August 15, 2023, openai.com/index/using-gpt-4-for-content-moderation.
正如他所预料：Nico Grant and Cade Metz, “A New Chat Bot Is a ‘Code Red’ for Google’s Search Business,” 《纽约时报》, December 21, 2022, nytimes.com/2022/12/21/technology/ai-chatgpt-google-search.html.
“我们现在”：备忘录副本。
微软的内部氛围：有关微软内部氛围的叙述，基于作者对十位微软现任及前任员工和高管的访谈，以及多封高管发给员工的电子邮件副本。
纳德拉推行了新战略：提及该新战略的电子邮件副本。
“Azure OpenAI服务”：所引各封微软电子邮件均基于相应邮件的副本。
2023年1月，该服务：推理请求量的增长数据来自上述电子邮件副本及内部仪表板截图。
“我们已停止”：作者与微软发言人的通信，2024年11月，对方提供了会议记录中的这段引语。
仍不足：Woo and Palazzolo, “OpenAI Overhauls Content Moderation.”
到那年年底：Woo and Palazzolo, “OpenAI Overhauls Content Moderation.”
对ChatGPT趋之若鹜：文件副本。
ChatGPT病毒式传播之后：Dylan Patel and Afzal Ahmad, “The Inference Cost of Search Disruption— Large Language Model Cost Analysis,” SemiAnalysis, February 9, 2023, semianalysis.com/p/the-inference-cost-of-search-disruption.
Arrakis的处境：Jon Victor and Aaron Holmes, “OpenAI Dropped Work on New ‘Arrakis’ AI Model in Rare Setback,” The Information, October 17, 2023, theinformation.com/articles/openai-dropped-work-on-new-arrakis-ai-model-in-rare-setback.
还有一个新的：Tom Dotan and Deepa Seetharaman, “The Awkward Partnership Leading the AI Boom,” 《华尔街日报》, June 13, 2023, wsj.com/articles/microsoft-and-openai-forge-awkward-partnership-as-techs-new-power-couple-3092de51.
纳德拉随后说道：Karen Weise and Cade Metz, “How Microsoft’s 萨提亚·纳德拉 Became Tech’s Steely Eyed A.I. Gambler,” 《纽约时报》, July 14, 2026, nytimes.com/2024/07/14/technology/microsoft-ai-satya-nadella.html.
为实现这一激进目标：Anissa Gardizy and Amir Efrati, “Microsoft and OpenAI Plot $100 Billion Stargate AI Supercomputer,” The Information, March 29, 2024, theinformation.com/articles/microsoft-and-openai-plot-100-billion-stargate-ai-supercomputer; Anissa Gardizy, Aaron Holmes, and Amir Efrati, “OpenAI Leaders Say Microsoft Isn’t Moving Fast Enough to Supply Servers,” The Information, October 8, 2024, theinformation.com/articles/openai-eases-away-from-microsoft-data-centers.

第十二章：被掠夺的大地

山峦而来：基于作者2024年赴圣地亚哥及阿塔卡马沙漠的实地采访。
土著长老仍在警示：作者对阿塔卡梅尼奥活动人士Sonia Ramos的访谈，2024年6月；割舌之说亦见于一部昆萨语词典的引言，昆萨语是阿塔卡梅尼奥人使用的语言，如今已基本濒临灭绝：Julio Vilte Vilte，Kunza: Lengua del Pueblo Lickan Antai o Atacameño（Codelco Chile，2004年），第11页。
如今近60%：“Chile—Country Commercial Guide: Mining”，国际贸易管理局，2023年12月7日，trade.gov/country-commercial-guides/chile-mining。
该国始终挣扎于此：Samo Burja，“Chile Is a Politically Disunited Resource Exporter”，Bismarck Brief，2024年6月19日，brief.bismarckanalysis.com/p/chile-is-a-politically-disunited。
西班牙人离去已久：娜奥米·克莱因，《休克主义：灾难资本主义的兴起》（Picador，2008年），第55页。
20世纪五六十年代：克莱因，《休克主义》，第64页。
弗里德曼是举足轻重的人物：米尔顿·弗里德曼，“A Friedman Doctrine—the Social Responsibility of Business Is to Increase Its Profits”，《纽约时报》，1970年9月13日，timesmachine.nytimes.com/timesmachine/1970/09/13/223535702.html?pageNumber=379。
正如娜奥米·克莱因所详述的：克莱因，《休克主义》，第61页。
在蓄意制造的动乱条件下：James Doubek，“The U.S. Set the Stage for a Coup in Chile. It Had Unintended Consequences at Home”，NPR，2023年9月10日，npr.org/2023/09/10/1193755188/chile-coup-50-years-pinochet-kissinger-human-rights-allende；另见详述中情局在政变前大量渗透并影响智利的原始参议院报告：Covert Action in Chile 1963–1973，研究政府情报活动特别委员会工作人员报告（美国参议院，1975年），intelligence.senate.gov/sites/default/files/94chile.pdf。
皮诺切特执政期间：Daniel Matamala，“The Complicated Legacy of the ‘Chicago Boys’ in Chile”，Promarket，2021年9月12日，promarket.org/2021/09/12/chicago-boys-chile-friedman-neoliberalism。
智利跻身其中：“Income Share of the Richest 1%"，Our World in Data，访问日期：2024年10月14日，ourworldindata.org/grapher/income-share-top-1-before-tax-wid?tab=chart&country=CHL。
政府为此骄傲地宣称：智利政府，“International InvestChile Forum: 100 Companies from 28 Countries Will Meet in the Country”，智利政府，2024年5月16日，gob.cl/zh/news/international-investchile-forum-100-companies-from-28-countries-will-meet-in-the-country。
“如果我们要发展”：作者对Martín Tironi Rodó的访谈，2024年6月。
四大超大规模云厂商：作者对技术咨询公司Omdia云端与数据中心分析师Alan Howard的访谈，2023年8月及9月。
这确实难以想象：事实确乎如此，直到作者于2023年9月亲赴亚利桑那州，参观了那座正在训练OpenAI模型的数据中心。
“现在是足球场大小”：作者对Mél Hogan的访谈，2023年8月。
所有设备加在一起：Bianca Bosker，“Why Everything Is Getting Louder”，《大西洋》，2019年11月15日，theatlantic.com/magazine/archive/2019/11/the-end-of-silence/598366。
如今开发者使用：Rich Miller，“The Gigawatt Data Center Campus Is Coming”，Data Center Frontier，2024年4月29日，datacenterfrontier.com/hyperscale/article/55021675/the-gigawatt-data-center-campus-is-coming。
一架GPU机柜：作者对Hogan的访谈，2023年8月；以及对一位数据中心投资者的访谈，2024年3月。
据国际能源署：高盛，“AI Is Poised to Drive 160% Increase in Data Center Power Demand”，高盛，2024年5月14日，goldmansachs.com/insights/articles/AI-poised-to-drive-160-increase-in-power-demand。
接近12.2万个美国家庭：一座150兆瓦的设施每小时最多可消耗150兆瓦时电力，每年最多消耗1,314,000兆瓦时。根据美国能源信息署数据，2022年美国家庭年均用电量为10,791千瓦时；1,314,000兆瓦时除以10,791千瓦时，等于121,768。
单独一座就能：一座1,000兆瓦的设施每年最多可消耗8,760,000兆瓦时电力，一座2,000兆瓦的设施则为前者的两倍。根据加利福尼亚能源委员会数据，旧金山县2022年用电量为5,120,586兆瓦时；8,760,000兆瓦时除以5,120,586兆瓦时，等于1.7，两倍则为3.4。“Electricity Consumption by County”，加利福尼亚能源委员会，访问日期：2024年10月17日，ecdms.energy.ca.gov/elecbycounty.aspx。
过去十年电力需求持平之后：高盛，“AI Is Poised to Drive 160% Increase”。
电力公司目前正在推迟：Evan Halper，“A Utility Promised to Stop Burning Coal. Then Google and Meta Came to Town”，《华盛顿邮报》，2024年10月12日，washingtonpost.com/business/2024/10/08/google-meta-omaha-data-centers/；C Mandler，“Three Mile Island Nuclear Plant Will Reopen to Power Microsoft Data Centers”，NPR，2024年9月20日，npr.org/2024/09/20/nx-s1-5120581/three-mile-island-nuclear-power-plant-microsoft-ai。
按目前趋势，到2030年：高盛，“AI Is Poised to Drive 160% Increase”；Ian King，“AI Computing on Pace to Consume More Energy Than India, Arm Says”，彭博社，2024年4月17日，bloomberg.com/news/articles/2024-04-17/ai-computing-is-on-pace-to-consume-more-energy-than-india-arm-says。
通用人工智能将解决气候变化问题：这一说法是奥特曼多次使用的，见山姆·奥特曼，“The Intelligence Age”，山姆·奥特曼（博客），2024年9月23日，ia.samaltman.com。
关于最后这一说法：作者对Sasha Luccioni的采访，2023年8月。
确实存在许多：Climate Change AI在其网站climatechange.ai的多份报告中详述了这些技术，包括David Rolnick、Priya L. Donti、Lynn H. Kaack、Kelly Kochanski、Alexandre Lacoste、Kris Sankaran等人，“Tackling Climate Change with Machine Learning”，《ACM计算调查》（CSUR）第55卷第2期（2022年2月）：1–96，doi.org/10.1145/3485128。
在一篇论文中，他们共同：Alexandra Sasha Luccioni、Yacine Jernite和Emma Strubell，“Power Hungry Processing: Watts Driving the Cost of AI Deployment?"，载于FAccT ‘24：2024年ACM公平性、问责制与透明度会议论文集（2024年6月）：85–99，doi.org/10.1145/3630106.3658542。
他们发现，生成：上述数据来源于前述论文中的表2，以及美国环保署2024年1月前发布的估算——智能手机充一次电消耗0.012千瓦时能量。
即便超大规模云厂商：会议记录副本。
以三座为一组建设园区：对Alan Howard的采访，2023年8月。
飓风艾尔玛期间：James Glanz，“How the Internet Kept Humming During 2 Hurricanes”，《纽约时报》，2017年9月18日，nytimes.com/2017/09/18/us/harvey-irma-internet.html。
根据一项估算：Pengfei Li、Jianyi Yang、Mohammad A. Islam和Shaolei Ren，“Making AI Less ‘Thirsty’: Uncovering and Addressing the Secret Water Footprint of AI Models”，预印本，arXiv，2023年10月29日，第1页，doi.org/10.48550/arXiv.2304.03271。
另一项研究发现：Md Abu Bakar Siddik、Arman Shehabi和Landon Marston，“The Environmental Footprint of Data Centers in the United States”，《环境研究快报》第16卷第6期（2021年6月）：064017，doi.org/10.1088/1748-9326/abfba1。
对此，数据中心开发商：作者与六个面临数据中心扩建的社区代表的采访，分别位于亚利桑那州、新墨西哥州、弗吉尼亚州、智利（两处）及乌拉圭，时间为2023—2024年；以及与三名微软（Microsoft）员工和高管的采访，包括负责监管公司所有数据中心扩建事宜的云运营与创新企业副总裁Noelle Walsh，就公司相关举措进行了访谈，时间为2023—2024年。
在弗吉尼亚州的一个案例中：作者对Roger Yackel的采访，Roger Yackel是弗吉尼亚州居民，领导了针对数据中心扩建项目的抗议活动，2024年3月。
“我们需要一个内线”：电子邮件副本。
“在AI领域，谁拥有”：作者对格雷格·布罗克曼的采访，2019年8月。
奥特曼开始将：第1、2、3阶段的代号、编号和地点来源于OpenAI内部文件。第4、5阶段的地点和成本来源于Anissa Gardizy和Amir Efrati，“Microsoft and OpenAI Plot $100 Billion Stargate AI Supercomputer”，The Information，2024年3月29日，theinformation.com/articles/microsoft-and-openai-plot-100-billion-stargate-ai-supercomputer。
配备一万个：Matt O’Brien和Hannah Fingerhut，“Artificial Intelligence Technology Behind ChatGPT Was Built in Iowa—with a Lot of Water”，美联社，2023年9月9日，apnews.com/article/chatgpt-gpt4-iowa-ai-water-consumption-microsoft-f551fde98083d17a7e8d904f8be822c4。
该公司还投资了：作者与微软（Microsoft）发言人的往来通信，2024年11月。
在精心培育之后：作者对Barbara Chappell（古德伊尔市供水服务主任）的采访，2023年10月；对两名社区成员的采访，2023年9月；对前述三名微软（Microsoft）消息人士的采访，2023—2024年；以及通过公开记录申请获得的古德伊尔市议会会议纪要及其他政府文件和往来函件副本，2023—2024年。上述采访及进一步报道产生了以下文章：郝凯伦，“AI Is Taking Water from the Desert”，《大西洋》，2024年3月1日，theatlantic.com/technology/archive/2024/03/ai-water-climate-microsoft/677602。
微软（Microsoft）与OpenAI的设计中：Stargate 5,000 兆瓦的估算来自 Gardizy 和 Efrati，“Microsoft and OpenAI Plot $100 Billion Stargate”；根据纽约市市长气候与环境正义办公室的数据，该市2022年平均用电量约为5,500兆瓦：“Systems,” NYC Mayor’s Office of Climate and Environmental Justice, accessed October 17, 2024, climate.cityofnewyork.us/subtopics/systems.
奥特曼已回避：Berber Jin、Tom Dotan 和 Keach Hagey，“The Opaque Investment Empire Making OpenAI’s 山姆·奥特曼 Rich,"《华尔街日报》，2024年6月3日，wsj.com/tech/ai/openai-sam-altman-investments-004fc785.
微软（Microsoft）的数据中心已消耗：据西得梅因水务局（West Des Moines Water Works）数据，转引自 O’Brien 和 Fingerhut，“Artificial Intelligence Technology Behind ChatGPT.”
该公司正致力于提升：与微软（Microsoft）发言人的往来沟通，2024年11月。
2022年，随着微软（Microsoft）：A. Park Williams、Benjamin I. Cook 和 Jason E. Smerdon，“Rapid Intensification of the Emerging Southwestern North American Megadrought in 2020–2021,” Nature Climate Change 第12卷第3期（2022年3月）：232–34页，doi.org/10.1038/s41558-022-01290-z.
若不采取大力行动：此处涉及一种名为"deadpooling”（死水位）的情形，详见 Christopher Flavelle 和 Mira Rojanasakul，“As the Colorado River Shrinks, Washington Prepares to Spread the Pain,"《纽约时报》，2023年1月27日，nytimes.com/2023/01/27/climate/colorado-river-biden-cuts.html.
逾六百人罹难：Kira Caspers，“645 People Died Due to Heat in Metro Phoenix in 2023. Here’s What Is Changing This Year,” AZ Central，2024年3月15日，azcentral.com/story/news/local/phoenix/2024/03/15/heat-deaths-maricopa-county/72980594007.
“万事皆如此，“Tom Buschatzke说：作者对 Tom Buschatzke 的访谈，2023年10月。
Meta即将推出：Kevin Lee、Adi Gangidi、Mathew Oldham，“Building Meta’s GenAI Infrastructure,” Engineering at Meta，2024年3月12日，engineering.fb.com/2024/03/12/data-center-engineering/building-metas-genai-infrastructure.
她出生于：对 Sonia Ramos 的访谈，2024年6月。
1957年，部分：“Tres muertos y treinta heridos en explosión de una mina en Chuquicamata,” El Mercurio，1957年9月6日。
那些被移走的岩石：“The Battle for Chile’s Critical Minerals,” 由 Sky News 于2022年7月22日发布，YouTube，时长13分54秒，youtu.be/oywE0mQnWI0.
采矿还带来了：作者对 Cristina Dorador（一位研究阿塔卡马沙漠生态系统的智利科学家）的访谈，2024年6月。
不那么显眼的是那些痕迹：“The Battle for Chile’s Critical Minerals,” Sky News；以及对 Dorador 的访谈。
这一转变使……陷入困境：作者实地走访并访谈了三位阿塔卡马人（Atacameños）领袖，包括 Sonia Ramos 和 Sergio Cubillos，2024年6月。
相反，许多人被迫：实地走访并访谈了上述三位阿塔卡马人领袖；以及对一家由企业资助的医疗诊所的参观，2024年6月。
锂是一种较为新兴的：作者对 Dorador 的访谈，2024年6月；以及对 SQM（一家智利矿业公司，全球最大的锂生产商）的采访；以及对 SQM 位于阿塔卡马地区锂矿的现场参观，2024年6月。
智利生产约三分之一：Govind Bhutada，“This Chart Shows Which Countries Produce the Most Lithium,” 世界经济论坛（博客），2023年1月5日，weforum.org/stories/2023/01/chart-countries-produce-lithium-world.
该材料主要：作者对 Dorador（2024年6月）、SQM（2024年6月）以及建筑师兼研究员 Marina Otero Verzier（2024年5月）的访谈。Marina Otero Verzier 有一场讲座，探讨锂矿开采、数据中心发展、智利殖民历史与全球技术未来之间的关联：“Marina Otero Verzier-Data Mourning,” 由 Columbia GSAPP 于2023年3月1日发布，YouTube，时长1小时30分钟，youtu.be/vbFPaNBNB-M.
如今火烈鸟已经消失：对 Cubillos（Peine 社区领袖）的实地走访与访谈，2024年6月。
2022年，随着欧洲：对 SQM 的访谈，2024年6月。
“当地人从来没有”：对 Dorador 的访谈，2024年6月。
铜的开采加速：Paul R. La Monica，“Move Over, Nvidia. Copper Is Getting a Big AI Boost Too,"《巴伦周刊》（Barron’s），2024年5月22日，barrons.com/articles/copper-price-ai-microsoft-utilities-c99058b7.
2023年，巴西举办了一场艺术展：“Artificial Intelligence, Art and Indigeneity,” accessed October 2, 2024, aei.art.br/aiai/zh/the-research.
原住民诉求的核心：对三位阿塔卡马人领袖的实地走访与访谈，2024年6月。
“最大规模的基础设施建设”：Dylan Patel 和 Myron Xie，“Microsoft Infrastructure—AI & CPU Custom Silicon Maia 100, Athena, Cobalt 100,” SemiAnalysis，2023年11月15日，semianalysis.com/p/microsoft-infrastructure-ai-and-cpu.
谷歌（Google）与此同时表示：Alphabet，“2024 Q3 Earnings Call,” Alphabet Investor Relations，2024年10月29日，abc.xyz/2024-q3-earnings-call.
Meta said it would likely：Meta，“Meta Reports Third Quarter 2024 Results”，Meta Investor Relations，2024年10月30日，investor.fb.com/investor-news/press-release-details/2024/Meta-Reports-Third-Quarter-2024-Results/default.aspx。
Less than a thirty-minute drive：基于作者2024年6月对基利库拉（Quilicura）的实地访问。
When I ask the company’s：作者与谷歌（Google）智利发言人的通信往来，2024年6月及11月。
Arancibia had just started：作者对 Alexandra Arancibia 的采访，2024年6月。
Only two decades ago：作者对 Arancibia、Rodrigo Vallejos（2024年6月）、Lorena Antiman（基利库拉另一位环境活动人士，2024年6月）、Miguel Mora（驻基利库拉的教师，研究当地湿地）以及 Felipe Gonzalez（基利库拉环境管理部门负责人）的采访，均于2024年6月进行。
The data center—as activists：对 Arancibia、Vallejos 及 Antiman 的采访。
It announced a project：Subsecretaría de Telecomunicaciones，“Gobierno de Chile escoge ruta mediante Nueva Zelanda y hasta Australia para implementar el Cable Transoceánico”，Subsecretaría de Telecomunicaciones，2020年7月27日，subtel.gob.cl/gobierno-de-chile-escoge-ruta-mediante-nueva-zelanda-y-hasta-australia-para-implementar-el-cable-transoceanico。
Google backed the partnership：Google，“Announcing Humboldt, the First Cable Route Between South America and Asia-Pacific”，Google Cloud（博客），2024年1月11日，cloud.google.com/blog/products/infrastructure/announcing-humboldt-the-first-cable-route-between-south-america-and-asia-pacific。
From the 1930s：Josefa Silva González，“A más de 20 años de Miño: La estancada lucha contra el asbestos”，La Voz de Maipú，2022年2月18日，lavozdemaipu.cl/la-estancada-lucha-contra-el-asbesto。
That summer, as Google：对 Arancibi（原文如此）、Vallejos、Gonzalez 的采访，以及作者对 Tania Rodriguez 的采访，2024年6月。
In other words, the data：谷歌（Google）提交给 SEA 的环境影响报告显示，该数据中心每秒可用饮用水169升，每年合计5,329,584,000升。据塞里略斯（Cerrillos）市供水主管部门数据，该市2019年全年用水量为5,097,946升——恰是谷歌（Google）寻求落地的那一年；5,329,584,000升÷5,097,946升≈1,045。
Chile was already nine years：“Persistent Drought Is Drying Out Chile’s Drinking Water”，路透社，2024年3月20日，reuters.com/world/americas/persistent-drought-is-drying-out-chiles-drinking-water-2024-03-20。
MOSACAT was founded：MOSACAT 反对谷歌（Google）的抗争记述，基于作者对 Rodriguez 及另外八名 MOSACAT 成员的采访，2024年6月。更多细节来自智利媒体报道，主要包括：Alberto Arellano、Lucas Cifuentes 与 Cristóbal Ríos，“Las zonas oscuras de la evaluación ambiental que autorizó ‘a ciegas’ el megaproyecto de Google en Cerrillos”，Ciper，2020年5月25日，ciperchile.cl/2020/05/25/las-zonas-oscuras-de-la-evaluacion-ambiental-que-autorizo-a-ciegas-el-megaproyecto-de-google-en-cerrillos。
Cumulatively, they take：有关 Antel 运营的所有细节，均基于作者对 Antel 某数据中心的实地参观及其经理 Javier Echeverria 的访谈，2024年6月。
Some cheekily call it：作者对乌拉圭共和国大学教授 Marcos Umpiérrez 及其同事的访谈，2024年6月。
The park even looks somewhat：基于作者对科学公园（Parque de las Ciencias）的实地参观，2024年6月。
The water shortage was：作者对乌拉圭农学家兼农场主 Marcelo Fozati（主持一家致力于保护当地农户与农作物的组织）及研究人员 Daniel Pena（长期研究跨国公司在乌拉圭的环境萃取主义）的访谈，2024年6月；另参见"Uruguay: Drought Losses Estimated at USD 1.200 million, Minister Says”，MercoPress，2023年2月2日，en.mercopress.com/2023/02/02/uruguay-drought-losses-estimated-at-usd-1.200-million-minister-says；以及 Guillermo Garat，“My City Has Run Out of Fresh Water. Will Your City Be Next?"，《纽约时报》，2023年7月19日，nytimes.com/2023/07/19/opinion/drinking-water-montevideo.html。
Those who couldn’t drank：作者对三位乌拉圭居民及水权活动人士的访谈：Fabiana，2024年6月；Noelia Lagos，2024年6月；Carmen Sosa，2024年6月。
Where Silicon Valley had ascended：“Google’s and Microsoft’s Profits Soar as Pandemic Benefits Big Tech”，《纽约时报》，2021年10月18日，nytimes.com/live/2021/04/27/business/stock-market-today。
Fabiana, the boisterous head：对 Fabiana 的采访。
The water crisis emerged：Grace Livingstone，” ‘It’s Pillage’: Thirsty Uruguayans Decry Google’s Plan to Exploit Water Supply”，《卫报》，2023年7月11日，theguardian.com/world/2023/jul/11/uruguay-drought-water-google-data-center。
Most such farms：对 Fozati 与 Pena 的采访。
“它们的活动耗尽”：“Fertilizer Use Per Capita, 1961 to 2019”，Our World in Data，访问于2024年10月17日，ourworldindata.org/grapher/fertilizer-per-capita?tab=table。
“他开车游历全国”：关于Pena的研究与社会活动的细节，来自作者2024年5月及6月与Pena的访谈，包括随其驾车穿行蒙得维的亚最贫困地区及郊区的一整天。
“如今，苦涩的讽刺是”：与Pena的访谈，2024年6月；与Sosa的访谈，2024年6月。
“环境部披露”：Livingstone，"‘It’s Pillage.’”
“这不是干旱”：Livingstone，"‘It’s Pillage.’”
“谷歌（Google）智利发言人表示”：作者与谷歌（Google）智利发言人的通信，2024年11月。
“2022年，微软（Microsoft）最终确定”：Dan Swinhoe，“Microsoft Files Plans for Chilean Data Center Region”，Data Center Dynamics，2022年1月24日，datacenterdynamics.com/zh/news/microsoft-files-plans-for-chilean-data-center-region。
“在他的胜选演讲中”：Matamala，“The Complicated Legacy of the ‘Chicago Boys.’”
“这令人深感震撼”：Rodrigo Vallejos Calderón，“Los costos de estar conectados: Datacenters y el consume hídrico”，《Bits》第23期（2022），第28—33页，revistasdex.uchile.cl/index.php/bits/issue/view/1049。
“Vallejos引起了关注”：作者与Marina Otero Verzier的访谈，2024年5月；与Serena Dambrosio及Nicolás Díaz Bejarano的访谈，2024年6月。
“学生们设计了”：模型照片。
“但公平而言，该联盟”：与Martín Tironi及科学部（Ministry of Science）部长Aisén Etcheverry的访谈。

第十三章：两位先知

“你是否有资格”：“Watch: OpenAI CEO 山姆·奥特曼 Testifies Before Senate Judiciary Committee,” PBS新闻，2023年5月16日，pbs.org/newshour/politics/watch-live-openai-ceo-sam-altman-testifies-before-senate-judiciary-committee。
Marcus后来改口：Gary Marcus，“OpenAI’s 山姆·奥特曼 Is Becoming One of the Most Powerful People on Earth. We Should Be Very Afraid,” 《卫报》，2024年8月3日，theguardian.com/technology/article/2024/aug/03/open-ai-sam-altman-chatgpt-gary-marcus-taming-silicon-valley。
奥特曼的备战团队：Hasan Chowdhury，“Insiders Say 山姆·奥特曼’s AI World Tour Was a Success,” 《商业内幕》，2023年6月24日，businessinsider.com/sam-altman-world-tour-ai-chatgpt-openai-2023-6。
数月以来，无论有无：Cecilia Kang，“How 山姆·奥特曼 Stormed Washington to Set the A.I. Agenda,” 《纽约时报》，2023年6月7日，nytimes.com/2023/06/07/technology/sam-altman-ai-regulations.html。
六月初，奥特曼：Kang，“How 山姆·奥特曼 Stormed Washington.”
在奥特曼作证当日：作者对Karla Ortiz的访谈，2023年12月及2024年4月；以及对Rachel Meinerding和Nicole Hendrix Herman（概念艺术协会联合创始人及联合负责人）的访谈，2024年4月。
那些曾经存在的岗位：对Meinerding和Hendrix Herman的访谈；CVL Economics，Future Unscripted: The Impact of Generative Artificial Intelligence on Entertainment Industry Jobs（2024），第1–58页，animationguild.org/wp-content/uploads/2024/01/Future-Unscripted-The-Impact-of-Generative-Artificial-Intelligence-on-Entertainment-Industry-Jobs-pages-1.pdf。
奥特曼当时正在出席：Kang，“How 山姆·奥特曼 Stormed Washington.”
奥特曼反复援引的同一叙事：郝凯伦，“The New AI Panic,” 《大西洋》月刊，2023年10月11日，theatlantic.com/technology/archive/2023/10/technology-exports-ai-programs-regulations-china/675605。
“如果当年有人告诉我”：Alex W. Palmer，” ‘An Act of War’: Inside America’s Silicon Blockade Against China,” 《纽约时报》，2023年7月12日，nytimes.com/2023/07/12/magazine/semiconductor-chips-us-china.html。
英伟达（Nvidia）的腾挪之策：Jane Lee，“Exclusive: Nvidia Offers New Advanced Chip for China That Meets U.S. Export Controls,” 路透社，2022年11月7日，reuters.com/technology/exclusive-nvidia-offers-new-advanced-chip-china-that-meets-us-export-controls-2022-11-08。
禁令同时也带来了提振：Fanny Potkin与Yelin Mo，“Chinese Chip Equipment Makers Grab Market Share as US Tightens Curbs,” 路透社，2023年10月18日，reuters.com/technology/chinese-chip-equipment-makers-grab-market-share-us-tightens-curbs-2023-10-18。
在奋力追赶之后：Khari Johnson，“Meta’s Open Source Llama Upsets the AI Horse Race,” 《连线》，2023年7月26日，wired.com/story/metas-open-source-llama-upsets-the-ai-horse-race。
关键的基础构件：Tony Peng，“What Llama 3 Means to China, ERNIE Bot Hits 200 Million Users, and China Trails US in AI Models,” Recode China AI，2024年4月22日，recodechinaai.substack.com/p/what-llama-3-means-to-china-ernie。
在这一氛围之中：Markus Anderljung、Joslyn Barnhart、Anton Korinek、Jade Leung、Cullen O’Keefe、Jess Whittlestone等，“Frontier AI Regulation: Managing Emerging Risks to Public Safety,” 预印本，arXiv，2023年11月7日，第1–51页，doi.org/10.48550/arXiv.2307.03718。
但Hooker和许多人：作者对Sara Hooker的访谈，2024年10月；对Deborah Raji的访谈，2024年8月；对AI Now联合主任Sarah Myers West的访谈，2024年10月；以及对其他人工智能政策专家的访谈，2023–24年。
规模固然可以带来进步：Sara Hooker，“On the Limitations of Compute Thresholds as a Governance Strategy,” 预印本，arXiv，2024年7月30日，第1–54页，doi.org/10.48550/arXiv.2407.05694。
它引发了广泛关注：作者对Myers West的访谈，2023年9月；对AI Now另一位联合主任Amba Kak的访谈，2023年10月；对Emily Weinstein的访谈，2023年9月；对Raji的访谈，2023年10月；以及对另外两位人工智能政策专家的访谈，2023年11月。
“行政当局中有部分人”：对Weinstein的访谈。
白皮书的构想：郝凯伦，“The New AI Panic.”
“如果我们不知道”：“Watch: OpenAI CEO 山姆·奥特曼 Testifies.”
“是因为他们这样训练它的”：对Myers West的访谈，2023年9月。
在商务部征询意见之际：美国商务部，“NTIA Solicits Comments on Open-Weight AI Models,” 新闻稿，2024年2月21日，commerce.gov/news/press-releases/2024/02/ntia-solicits-comments-open-weight-ai-models。
与之正面交锋的是：Mozilla，“Mozilla’s Response to the National Telecommunications and Information Administration’s Request for Comments on Dual Use Foundation Artificial Intelligence Models with Widely Available Model Weights,” Mozilla基金会（博客），2024年3月，blog.mozilla.org/netpolicy/files/2024/03/Mozilla-RfC-Submission-Dual-Use-Foundation-Models-With-Widely-Available-Model-Weights.pdf。
此类方法已大量流传：本节部分内容曾以不同形式发表，见郝凯伦，“The New AI Panic.”
在关键层面：Cameron F. Kerry、Joshua P. Meltzer、Matt Sheehan，“Can Democracies Cooperate with China on AI Research?"，布鲁金斯学会，2023年1月9日，brookings.edu/articles/can-democracies-cooperate-with-china-on-ai-research。
最著名的之一：Matt Sheehan，“Who Benefits from American AI Research in China?"，Macro Polo，2019年10月21日，macropolo.org/china-ai-research-resnet。
倡导这些理念的：关于行政令出台经过的叙述，基于作者对以下人士的采访：前白宫科技政策办公室（OSTP）主任Alondra Nelson，2023年10月；前OSTP副主任Suresh Venkatasubramanian，2023年10月；以及另外两位政策人士，2023年11月。
这项行政令：本节部分内容以不同形式发表于：郝凯伦、Matteo Wong，“The White House Is Preparing for an AI-Dominated Future”，《大西洋》，2023年10月30日，theatlantic.com/technology/archive/2023/10/biden-white-house-ai-executive-order/675837。
加利福尼亚州州长加文·纽森：Khari Johnson，“Why Silicon Valley Is Trying So Hard to Kill This AI Bill in California”，CalMatters，2024年8月12日，calmatters.org/economy/technology/2024/08/ai-regulation-showdown。
“这是迈出的一步”：作者对Hooker的采访，2024年10月。
Raji发现自己：Gabby Miller，“US Senate AI ‘Insight Forum’ Tracker”，Tech Policy Press，2023年12月9日，techpolicy.press/us-senate-ai-insight-forum-tracker。
与她同台作证的：作者对Raji的采访，2023年10月；Inioluwa Deborah Raji，“AI’s Present Matters More Than Its Imagined Future”，《大西洋》，2023年10月4日，theatlantic.com/technology/archive/2023/10/ai-chuck-schumer-forum-legislation/675540。
舒默的一位发言人此后：Cat Zakrzewski，“Meet the Woman Who Transformed 山姆·奥特曼 into the Avatar of AI”，《华盛顿邮报》，2024年1月9日，washingtonpost.com/technology/2024/01/09/openai-anna-makanju-ai-regulation。
那年三月：山姆·奥特曼（@sama），“i’m doing a trip in may/june to talk to openai users and developers (and people interested in AI generally). please come hang out and share feature requests and other feedback! more detail here: https://openai.com/form/openai-tour-2023 [inactive] or email oai23tour@openai.com”，Twitter（现为X），2023年3月29日，x.com/sama/status/1641181668206858240。
该模型的开发：“GPT-4 contributions”，OpenAI，访问日期：2024年10月13日，openai.com/contributions/gpt-4。
公司这篇报告的作者：“GPT-4”，OpenAI，2023年3月14日，openai.com/index/gpt-4-research。
奥特曼随后发推致谢：山姆·奥特曼（@sama），“GPT-4 was truly a team effort from our entire company, but the overall leadership and technical vision of Jakub Pachocki for the pretraining effort was remarkable and we wouldn’t be here without it”，Twitter（现为X），2023年3月14日，x.com/sama/status/1635700851619819520。
OpenAI的回应：OpenAI，“OpenAI and Journalism”，OpenAI（博客），2024年1月8日，openai.com/index/openai-and-journalism。
同周，OpenAI的政策：Dan Milmo，” ‘Impossible’ to Create AI Tools like ChatGPT Without Copyrighted Material, OpenAI Says”，《卫报》，2024年1月8日，theguardian.com/technology/2024/jan/08/ai-tools-chatgpt-copyrighted-material-openai。
迭代部署，奥特曼：OpenAI，“Our Approach to AI Safety”，OpenAI（博客），2023年4月5日，openai.com/index/our-approach-to-ai-safety。
该文章还宣布：OpenAI，“Introducing Superalignment”，OpenAI（博客），2023年7月5日，openai.com/index/introducing-superalignment。
“我曾希望”：山姆·奥特曼（@sama），“i was hoping that the oppenheimer movie would inspire a generation of kids to be physicists but it really missed the mark on that. let’s get that movie made! (i think the social network managed to do this for startup founders.)"，Twitter（现为X），2023年7月22日，x.com/sama/status/1682809958734131200。
奥特曼钟爱：Elizabeth Weil，“山姆·奥特曼 Is the Oppenheimer of Our Age”，《纽约》杂志，2023年9月25日，nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html。
他还喜欢援引：Cade Metz，“The ChatGPT King Isn’t Worried, but He Knows You Might Be”，《纽约时报》，2023年3月31日，nytimes.com/2023/03/31/technology/sam-altman-open-ai-chatgpt.html。
“世界曾经的样子”：Tyler Cowen主持，《与泰勒的对话》，播客，第61集，“山姆·奥特曼 on Loving Community, Hating Coworking, and the Hunt for Talent”，墨卡托斯中心播客，2019年2月27日。
2023年3月，他：埃利泽·尤德科夫斯基，“Pausing AI Developments Isn’t Enough. We Need to Shut It All Down”，《时代》杂志，2023年3月29日，time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough。
一个月后，Hoffman：Musk诉Altman案，案号4:24-cv-04722，CourtListener（加利福尼亚州北区，2024年11月14日），ECF No. 32，附件18。
“那一立场变成了”：Julia Black，《埃隆·马斯克去年与一位高管秘密育有双胞胎》，《商业内幕》，2022年7月6日，businessinsider.com/elon-musk-shivon-zilis-secret-twins-neuralink-tesla。
“这是一个诱饵”：《埃隆·马斯克希望OpenAI转为营利性机构》，OpenAI（博客），2024年12月13日，openai.com/index/elon-musk-wanted-an-openai-for-profit/#summer-2017-we-and-elon-agreed-that-a-for-profit-was-the-next-step-for-openai-to-advance-the-mission。
“在公告中，奥特曼”：山姆·奥特曼，《Quora》，山姆·奥特曼（博客），2017年4月21日，blog.samaltman.com/quora。
“在她最受欢迎的”：海伦·托纳，“Leaning into EA Disillusionment”，有效利他主义论坛，2022年7月22日，forum.effectivealtruism.org/posts/MjTB4MvtedbLjgyja/leaning-into-ea-disillusionment。
“2023年夏末”：Cade Metz、Tripp Mickle、Mike Isaac，《奥特曼被驱逐前，OpenAI董事会已分裂内讧》，《纽约时报》，2023年11月21日，nytimes.com/2023/11/21/technology/openai-altman-board-fight.html。
“会后，一位”：Kevin Roose，《OpenAI内部人士警告：争夺主导权的竞赛"鲁莽至极”》，《纽约时报》，2024年6月4日，nytimes.com/2024/06/04/technology/openai-culture-whistleblowers.html。
“当奥特曼最终移交时”：Dan Primack，《山姆·奥特曼持有OpenAI风险投资基金》，Axios，2024年2月15日，axios.com/2024/02/15/sam-altman-openai-startup-fund。

第十四章：解脱

“安妮·奥特曼？“Weil 写道：Elizabeth Weil，《山姆·奥特曼是我们时代的奥本海默》（“山姆·奥特曼 Is the Oppenheimer of Our Age”），《纽约》，2023年9月25日，nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html。
《纽约》杂志发表前的最后一天：安妮网络发帖所附电子邮件副本：安妮·奥特曼 (@anniealtman108)，“距 @NYMag 发布不到24小时，这是首次对我的存在及我与其关系的’官方’公开承认。x.com/bullishdumping/bullishdumping/status/1753869400719958519，"[已停用] Twitter（现为X），2024年2月3日，x.com/anniealtman108/status/1753881201482629258。
2024年，我将主动联系：作者对安妮·奥特曼的采访与走访，2024年3月至11月。
吉布斯廷给出了简短声明：作者与康妮·吉布斯廷的往来通信，2024年10月。
2025年1月，安妮：Altman v. Altman, No. 4:25-cv-00017, CourtListener (E.D. Mo. Jan 06, 2025) ECF No. 1；山姆·奥特曼 (@sama)，“我的妹妹对我提起了诉讼。以下是我母亲、兄弟和我的声明：，“Twitter（现为X），2025年1月7日，x.com/sama/status/1876780763653263770。
奥特曼家中另一个：事实核查员与 Burroughs 的通信，2024年10月；作者与 James Roble 的访谈，2024年7月。
还在大学就读期间：安妮在塔夫茨大学就读期间的病历副本。
在短短六年间：安妮的每项诊断均有以下一种或多种文件副本作为佐证：儿时病历；塔夫茨大学病历；塔夫茨大学心理咨询记录；成年后的诊断影像资料及报告，包括超声波检查和核磁共振成像；妇产科评估报告；以及物理治疗记录。这些诊断对其行动能力和生活质量所造成的影响，亦有塔夫茨大学心理咨询记录、成年后的物理治疗记录以及若干照片（如步行靴和汗湿床单的照片）作为佐证。
死于突发心脏病：“Jerry Altman Obituary”，《圣路易斯邮报》，2018年5月27日，legacy.com/us/obituaries/stltoday/name/jerry-altman-obituary?id=1683283。
她在幼年时被确诊：安妮儿时病历副本；安妮在塔夫茨大学心理咨询记录副本。
山姆也曾公开谈及：Trevor Noah（主持），《What Now? with Trevor Noah》，第1季第5集，“山姆·奥特曼 Speaks Out About What Happened at OpenAI”，Spotify Podcasts，2023年12月7日，open.spotify.com/show/122imavATqSE7eCyXIcqZL。
2019年5月，随着她：401(k)电子邮件通知及401(k)账户对账单副本（含余额信息）。
最优税务策略：电子邮件副本。
她的治疗师记录：安妮在洛杉矶期间的治疗师记录副本。
2019年12月，她的银行账户：银行通知电子邮件副本。
孤立无援、满心恐惧：SeekingArrangement 激活邮件截图。
从2019年末至2020年中，安妮：安妮与家人往来的各类电子邮件和短信副本。
他们同意承担：各类电子邮件和短信副本。
2020年5月，随着她家人：短信往来副本。
八个月后：电子邮件副本。
她继续经营自己的播客：Etsy 和 Patreon 激活邮件副本。
奇怪的事情正在发生：若干截图。
有时她发现大段内容：安妮早年 Instagram 限时动态截图，其中她@苹果播客客服，反映自己消失的评论记录。
至少两次，在两个平台上：一张 Instagram 截图（点赞数大于浏览量）；以及同一 YouTube 视频的两张截图，时间戳较晚的那张浏览量反而更低。
安妮的情况或许可以解释为：作者对以下人士的采访：Olivia Snow，加州大学洛杉矶分校研究性工作、技术与政策的研究员，2024年5月；Val Elefante，研究员，女性主义社交媒体公司 Reliabl 创始团队成员，2024年9月；以及一位前 Facebook 数据科学家，2024年10月。
“山姆把AI带入了这个世界”：作者对 Neily Messerschmidt 的采访，2024年11月。
在2021年7月的多次咨询中：安妮在夏威夷期间的心理咨询记录副本。
从十五次咨询记录来看：安妮的心理咨询记录。
在这些童年记忆中：对 Messerschmidt 的采访，2024年11月。
受害者的大脑：作者对一位治疗师的采访，2024年6月和8月，该治疗师亦援引了以下畅销书：Bessel van der Kolk，医学博士，《身体从未忘记：大脑、心智与身体对创伤的治愈》（The Body Keeps the Score: Brain, Mind, and Body in the Healing of Trauma，企鹅出版社，2015年），第1—464页。
“我遭受了性”：安妮·奥特曼 (@anniealtman108)，“我遭受了来自亲生兄弟姐妹的性虐待、身体虐待、情感虐待、言语虐待、财务虐待和技术虐待，施害者主要是山姆·奥特曼，杰克·奥特曼也有参与。(2/3)"，Twitter（现为X），2021年11月13日，x.com/anniealtman108/status/1459696444802142213。
“性虐待、身体虐待、情感”：安妮·奥特曼 (@anniealtman108)，“山姆和杰克，我知道你们还记得我的《妥拉》诵读段落是关于摩西宽恕他兄弟的。‘父啊，赦免他们，因为他们所做的，他们不晓得。‘性虐待、身体虐待、情感虐待、言语虐待、财务虐待和技术虐待。永不忘记。"，Twitter（现为X），2022年9月10日，x.com/anniealtman108/status/1568689744951005185。
在这三个月内：安妮 OnlyFans 收入记录截图。
2023年7月，山姆：电子邮件往来线程副本。
除其401(k)之外：Jerry Altman 遗嘱副本；以及 Jerry Altman 信托文件副本。
2024年初，随着她：安妮律师与吉布斯廷律师之间往来电子邮件副本。
诉状将指控：Altman, CourtListener, ECF No. 1。
2024年10月，在：安妮诊断证明副本。
边缘型人格障碍的典型表现：作者对上述治疗师以及 Blaise Aguirre（哈佛医学院精神病学助理教授）的采访，2024年10月，两位受访者均接诊过大量患有该障碍的患者，但均未审阅安妮的病例，仅就该病症作总体性评述。
该障碍通常会逐渐消退：关于边缘型人格障碍最为全面的研究，是一项由 Mary C. Zanarini 主持、持续进行中的二十四年纵向研究，名为"麦克莱恩成人发展研究”，已追踪逾360名被确诊为该障碍的个体。该研究的主要发现之一为：该障碍的症状预后良好，精神类药物并无根治作用。该研究定期发表新论文，包括：Mary C. Zanarini, Frances R. Frankenburg, Isabel V. Glass, and Garrett M. Fitzmaurice，“The 24-Year Course of Symptomatic Disorders in Patients with Borderline Personality Disorder and Personality-Disordered Comparison Subjects: Description and Prediction of Recovery From BPD”，《临床精神病学杂志》第85期（2024年），doi.org/10.4088/JCP.24m15370。

第十五章：豪赌

生于阿尔巴尼亚：关于穆拉蒂成长经历的叙述，主要来源于Charles Duhigg，“The Inside Story of Microsoft’s Partnership with OpenAI”，《纽约客》，2023年12月1日，newyorker.com/magazine/2023/12/11/the-inside-story-of-microsofts-partnership-with-openai；以及穆拉蒂在凯文·斯科特播客中的访谈：凯文·斯科特主持，《Behind the Tech with 凯文·斯科特》，“米拉·穆拉蒂, Chief Technology Officer, OpenAI”，微软（Microsoft），2023年7月11日，microsoft.com/en-us/behind-the-tech/mira-murati-chief-technology-officer-openai。
转折发生时：Christopher Jarvis，“The Rise and Fall of Albania’s Pyramid Schemes”，《金融与发展》，国际货币基金组织，2000年3月，imf.org/external/pubs/ft/fandd/2000/03/jarvis.htm。
这场动荡将留下：Duhigg，“The Inside Story of Microsoft’s Partnership with OpenAI”。
然而穆拉蒂工作越久：除另有说明外，本章及下一章关于董事会危机导火索与幕后经过的叙述，均基于作者对八位直接参与者或与直接参与者关系密切之人的访谈、他们当时的笔记，以及Slack消息、电子邮件等佐证材料的截图，包括2023年11月17日董事会解雇山姆·奥特曼后全员大会的录音。
那年夏天，穆拉蒂：Mike Isaac、Tripp Mickle 与 Cade Metz，“Key OpenAI Executive Played a Pivotal Role in 山姆·奥特曼’s Ouster”，《纽约时报》，2024年3月7日，nytimes.com/2024/03/07/technology/openai-executives-role-in-sam-altman-ouster.html。
对任何持抵制态度的人：Isaac 等，“Key OpenAI Executive Played a Pivotal Role”。
“我并没有感到”：Cade Metz、Tripp Mickle 与 Mike Isaac，“Before Altman’s Ouster, OpenAI’s Board Was Divided and Feuding”，《纽约时报》，2023年11月21日，nytimes.com/2023/11/21/technology/openai-altman-board-fight.html。

第十六章：秘密行动

《华尔街日报》后来报道：Deepa Seetharaman、Keach Hagey、Berber Jin、Kate Linebaugh，“山姆·奥特曼’s Knack for Dodging Bullets—with a Little Help from Bigshot Friends”，《华尔街日报》，2023年12月24日，wsj.com/tech/ai/sam-altman-openai-protected-by-silicon-valley-friends-f3efcf68。
以及里德·霍夫曼：Natasha Mascarenhas，“Behind OpenAI Meltdown, Valley Heavyweight 里德·霍夫曼 Calmed Microsoft Nerves”，The Information，2024年1月17日，theinformation.com/articles/behind-openai-meltdown-valley-heavyweight-reid-hoffman-calmed-microsoft-nerves。
《纽约时报》后来：Mike Isaac、Tripp Mickle、Cade Metz，“Key OpenAI Executive Played a Pivotal Role in 山姆·奥特曼’s Ouster”，《纽约时报》，2024年3月7日，nytimes.com/2024/03/07/technology/openai-executives-role-in-sam-altman-ouster.html。
“伊利亚有着良好的”：埃隆·马斯克（@elonmusk），“I am very worried. Ilya has a good moral compass and does not seek power. He would not take such drastic action unless he felt it was absolutely necessary."，Twitter（现为X），2023年11月19日，x.com/elonmusk/status/1726376406785925566。
后来，大约凌晨两点：埃隆·马斯克（@elonmusk），Twitter（现为X），2023年11月20日，x.com/elonmusk/status/1726542015087927487。
但在周二：埃隆·马斯克（@elonmusk），“This letter about OpenAI was just sent to me. These seem like concerns worth investigating. https://gist.github.com/Xe/32d7bc436e401f3323ae77e7e242f858"，Twitter（现为X），2023年11月21日，x.com/elonmusk/status/1727096607752282485。
那是另一封信：“Xe/openai-message-to-board.md”，GitHub Gist，存档于2023年11月21日，web.archive.org/web/20231121225252/https://gist.github.com/Xe/32d7bc436e401f3323ae77e7e242f858。
第一篇是我2020年的报道：郝凯伦，“The Messy, Secretive Reality Behind OpenAI’s Bid to Save the World”，《麻省理工科技评论》，2020年2月17日，technologyreview.com/2020/02/17/844721/ai-openaimoonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality；郝凯伦、Charlie Warzel，“Inside the Chaos at OpenAI”，《大西洋》，2023年11月19日，theatlantic.com/technology/archive/2023/11/sam-altman-open-ai-chatgpt-chaos/676050。
“我是现任员工”：电子邮件引文均来自当事人提供的截图。
董事会危机期间，一位：Anna Tong、Jeffrey Dastin、Krystal Hu，“OpenAI Researchers Warned Board of AI Breakthrough Ahead of CEO Ouster, Sources Say”，路透社，2023年11月23日，reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22。
该算法的构想源自：Jon Victor、Amir Efrati，“OpenAI Made an AI Breakthrough Before Altman Firing, Stoking Excitement and Concern”，The Information，2023年11月22日，theinformation.com/articles/openai-made-an-ai-breakthrough-before-altman-firing-stoking-excitement-and-concern。
他后来解释道：“伊利亚·苏茨克维尔: ‘Sequence to Sequence Learning with Neural Networks: What a Decade’"，2024年12月14日由seremot发布，YouTube，时长24分36秒，youtu.be/1yvBqasHLZs。
他们对公司实施了信息隔离：Anna Tong、Katie Paul，“Exclusive: OpenAI Working on New Reasoning Technology Under Code Name ‘Strawberry’"，路透社，2024年7月15日，reuters.com/technology/artificial-intelligence/openai-working-new-reasoning-technology-under-code-name-strawberry-2024-07-12。
关于Q（项目代号）的狂热讨论*：本节部分内容曾以不同形式发表：郝凯伦，“Why Won’t OpenAI Say What the Q* Algorithm Is?"，《大西洋》，2023年11月28日，theatlantic.com/technology/archive/2023/11/openai-sam-altman-q-algorithm-breakthrough-project/676163。
OpenAI预告了Sora：OpenAI，“Creating Video from Text”，OpenAI（博客），openai.com/index/sora。
2022年，Taylor曾：Kate Conger、Lauren Hirsch，“The Board Chair Squaring Up to 埃隆·马斯克 in the Feud Over Twitter”，《纽约时报》，2022年10月4日，nytimes.com/2022/10/04/technology/twitter-board-elon-musk.html。
此后不久，Taylor联合创办了：“OpenAI Chair’s AI Startup Sierra Gets $4.5 Bln Valuation in Latest Funding Round”，路透社，2024年10月28日，reuters.com/technology/artificial-intelligence/openai-chairs-ai-startup-sierra-gets-45-bln-valuation-latest-funding-round-2024-10-28。
就OpenAI的调查而言：OpenAI，“Review Completed & Altman, Brockman to Continue to Lead OpenAI”，OpenAI（博客），2024年3月8日，openai.com/index/review-completed-altman-brockman-to-continue-to-lead-openai。
“我们一致认定”：OpenAI，“Review Completed”。
“问责至关重要”：海伦·托纳以截图形式在X上发布了该声明：海伦·托纳（@hlntnr），“A statement from 海伦·托纳 and Tasha McCauley:"，Twitter（现为X），2024年3月8日，x.com/hlntnr/status/1766269137628590185。

第十七章：清算

其中两人是：Erin Woo 与 Stephanie Palazzolo，“OpenAI Researchers, Including Ally of Sutskever, Fired for Alleged Leaking，"《The Information》，2024年4月11日，theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking。
他正在筹划：Edward Ludlow 与 Ashlee Vance，“Altman Sought Billions for Chip Venture Before OpenAI Ouster，“Bloomberg，2023年11月19日，bloomberg.com/news/articles/2023-11-19/altman-sought-billions-for-ai-chip-venture-before-openai-ouster。
2024年2月，在：Keach Hagey 与 Asa Fitch，“山姆·奥特曼 Seeks Trillions of Dollars to Reshape Business of Chips and AI，"《华尔街日报》，2024年2月8日，wsj.com/tech/ai/sam-altman-seeks-trillions-of-dollars-to-reshape-business-of-chips-and-ai-89ab3db0。
奥特曼后来说：Lex Fridman 主持，Lex Fridman Podcast，播客，第419集，“山姆·奥特曼: OpenAI, GPT-5, Sora, Board Saga, 埃隆·马斯克, Ilya, Power & AGI，“2024年3月18日，lexfridman.com/podcast。
语音工作已：作者与 Alexis Conneau 的访谈，2025年1月。
奥特曼与格雷格·布罗克曼已设定新的截止日期：OpenAI 内部备忘录副本。
Scallion 将是第一个：OpenAI，《Preparedness Framework（应对准备框架）（测试版）》（OpenAI，2023年12月18日），第1—27页，cdn.openai.com/openai-preparedness-framework-beta.pdf。
上游流程与：OpenAI，《Preparedness Framework（应对准备框架）（测试版）》。
Scallion 的发布：OpenAI，“Hello GPT-4o，“OpenAI（博客），2024年5月13日，openai.com/index/hello-gpt-4o。
还曾有过：措辞经两位知情人独立核实。
在 The Daily Show 上：“Trump’s Thirsty VP Contenders Crash Trial & ChatGPT’s Flirty AI Update | The Daily Show，“2024年5月15日由 The Daily Show 发布，YouTube，时长9分57秒，youtu.be/eFkUOi_9140。
“我认为这是最好的”：会议录音，2024年5月15日。
“公司将会”：会议录音，2024年5月15日。
奥特曼后来会：奥特曼向员工表达遗憾的录音。
奥特曼怎么看：Sarah Krouse、Deepa Seetharaman 与 Joe Flint，“Behind the Scenes of 斯嘉丽·约翰逊’s Battle with OpenAI，"《华尔街日报》，2024年5月23日，wsj.com/tech/ai/scarlett-johansson-openai-sam-altman-voice-fight-7f81a1aa。
三月，他出现：Fridman，“山姆·奥特曼。”
“当我们只是”：“山姆·奥特曼 & Brad Lightcap: Which Companies Will Be Steamrolled by OpenAI?，“2024年4月15日由 20VC with Harry Stebbings 发布，YouTube，时长53分6秒，youtu.be/G8T1O81W96Y。
五月，他随后参加了：Julia Black，“The Besties’ Revenge: How the ‘All-In’ Podcast Captured Silicon Valley，"《The Information》，2023年12月15日，theinformation.com/articles/the-besties-revenge-how-the-all-in-podcast-ate-silicon-valley。
“在我看来”：“In Conversation with 山姆·奥特曼，“2024年5月10日由 All-In Podcast 发布，YouTube，时长1小时43分2秒，youtu.be/nSM0xd8xHUM。
“我尽量不去想”：山姆·奥特曼（@sama），“i try not to think about competitors too much, but i cannot stop thinking about the aesthetic difference between openai and google，“Twitter（现为X），2024年5月16日，x.com/sama/status/1791183356274921568。
The Blip 之后，董事会的：Deepa Seetharaman，“SEC Investigating Whether OpenAI Investors Were Misled，"《华尔街日报》，2024年2月28日，wsj.com/tech/sec-investigating-whether-openai-investors-were-misled-9d90b411。
最值得关注的是，三月：Karen Weise 与 Cade Metz，“How Microsoft’s 萨提亚·纳德拉 Became Tech’s Steely Eyed A.I. Gambler，"《纽约时报》，2026年7月14日，nytimes.com/2024/07/14/technology/microsoft-ai-satya-nadella.html。
他在这些人中素以：基于三位曾为其效力之人的回忆与描述。
多年人事投诉之后：Rob Copeland 与 Parmy Olson，“Artificial Intelligence Will Define Google’s Future. For Now, It’s a Management Challenge，"《华尔街日报》，2021年1月26日，wsj.com/articles/artificial-intelligence-will-define-googles-future-for-now-its-a-management-challenge-11611676945；Giles Turner 与 Mark Bergen，“Google DeepMind Co-Founder Placed on Leave From AI Lab，“Bloomberg，2019年8月21日，bloomberg.com/news/articles/2019-08-21/google-deepmind-co-founder-placed-on-leave-from-ai-lab。
2024年晚些时候，微软：Jordan Novet，“Microsoft Says OpenAI Is Now a Competitor in AI and Search，“CNBC，2024年7月31日，cnbc.com/2024/07/31/microsoft-says-openai-is-now-a-competitor-in-ai-and-search.html；Alex Heath，“Microsoft Now Lists OpenAI as a Competitor，"《The Verge》，2024年8月2日，theverge.com/2024/8/2/24212370/microsoft-now-lists-openai-as-a-competitor。
有更多人在联系：Ellen Huet 主持，Foundering: The OpenAI Story，播客，第5季第1集，“The Most Silicon Valley Man Alive，“Bloomberg Podcasts，2024年6月6日，bloomberg.com/news/articles/2024-06-05/foundering-sam-altman-s-rise-to-openai?srnd=foundering。
“这是一种奇特的”：“山姆·奥特曼 Talks GPT-4o and Predicts the Future of AI”，发布于 2024 年 5 月 14 日，Logan Bartlett Show，YouTube，时长 46 分 14 秒，youtu.be/fMtbrKhXMWc。
“伊利亚是最”：OpenAI，〈伊利亚·苏茨克维尔离开 OpenAI，Jakub Pachocki 出任首席科学家〉，OpenAI（博客），2024 年 5 月 14 日，openai.com/index/jakub-pachocki-announced-as-chief-scientist。
苏茨克维尔发推自述：伊利亚·苏茨克维尔（@ilyasut），“将近十年后，我决定离开 OpenAI。公司的发展轨迹堪称奇迹，我相信在 @sama、@gdb、@miramurati 的领导下，以及现在 @merettm 出色的研究领导下，OpenAI 必将构建出既安全又有益的 AGI。与大家共事是我莫大的荣幸，我将深深思念每一位同事。后会有期，感谢一切。我对即将从事的工作充满期待——那是一个对我个人而言意义深远的项目，我将在适当时候分享详情。"，Twitter（现为 X），2024 年 5 月 14 日，x.com/ilyasut/status/1790517455628198322。
OpenAI 高管内部：Slack 公告截图，2024 年 5 月 14 日。
“具备 AGI 就绪能力”：所有关于 AI 安全及超级对齐团队的引言均来自一次全员大会的录音，2024 年 5 月 15 日。
“我一直持有异议”：Jan Leike（@janleike），“我加入是因为认为 OpenAI 将是全球最适合开展这项研究的地方。然而，我与 OpenAI 领导层就公司核心优先事项的分歧由来已久，直至最终走到了彻底决裂的边缘。"，Twitter（现为 X），2024 年 5 月 17 日，x.com/janleike/status/1791498178346549382。
Kelsey Piper，一位资深：Kelsey Piper，〈ChatGPT 能说话，OpenAI 员工却不能〉，Vox，2024 年 5 月 17 日，vox.com/future-perfect/2024/5/17/24158478/openai-departures-sam-altman-employees-chatgpt-release。
他们同意不：Daniel Kokotajlo 就其决策过程撰有详细论述，包括以下帖子：Daniel Kokotajlo（@DKokotajlo67142），“1/15：今年四月，我从 OpenAI 辞职，原因是我对公司在构建通用人工智能——‘在各方面均比人类更智能的 AI 系统’——过程中能否负责任地行事失去了信心，"，Twitter（现为 X），2024 年 6 月 4 日，x.com/DKokotajlo67142/status/1797994238468407380；以及他在 AI 安全论坛 LessWrong 上的帖子与评论：“Daniel Kokotajlo”，LessWrong，访问于 2024 年 11 月 25 日，lesswrong.com/users/daniel-kokotajlo。其股权估值来自 Kevin Roose，〈OpenAI 内部人士警告：公司正在进行"鲁莽"的主导权争夺〉，《纽约时报》，2023 年 6 月 4 日，nytimes.com/2024/06/04/technology/openai-culture-whistleblowers.html。
Piper 的报道发出后：所有 Slack 引言均来自截图。
“我们从未追回”：山姆·奥特曼（@sama），“关于近期有关 OpenAI 如何处理股权问题的讨论：我们从未追回任何人的已归属股权，即使员工不签署离职协议（或不同意不诋毁协议）也不会这样做。已归属股权就是已归属股权，仅此而已。我们此前的离职文件中确实存在关于潜在股权取消的条款；尽管我们从未实际追回任何股权，但这种条款本就不应出现在任何文件或沟通中。这是我的失职，也是我在运营 OpenAI 期间为数不多真正感到羞愧的时刻之一；我当时并不知情，但我本应知道。过去一个多月，团队已在着手修订标准离职文件。如有签署过旧版协议的前员工对此感到担忧，可以直接联系我，我们会予以妥善解决。对此深感抱歉。"，Twitter（现为 X），2024 年 5 月 18 日，x.com/sama/status/1791936857594581428。
5 月 20 日，斯嘉丽：Bobby Allyn（@BobbyAllyn），“斯嘉丽·约翰逊就 OpenAI 事件发表声明。令人震惊："，Twitter（现为 X），2024 年 5 月 20 日，x.com/BobbyAllyn/status/1792679435701014908。
整整一周，除此之外：Kylie Robison，〈ChatGPT 将能像斯嘉丽·约翰逊在《她》中那样与你交谈〉，The Verge，2024 年 5 月 13 日，theverge.com/2024/5/13/24155652/chatgpt-voice-mode-gpt4o-upgrades。
她是否感到愤怒：Sarah Krouse 等，“Behind the Scenes of 斯嘉丽·约翰逊’s Battle with OpenAI”。
5 月 19 日，公司：OpenAI，〈ChatGPT 声音的选定方式〉，OpenAI（博客），2024 年 5 月 19 日，openai.com/index/how-the-voices-for-chatgpt-were-chosen。
在找到合适人选之前：Krouse 等，“斯嘉丽·约翰逊’s Battle with OpenAI”。
“在这个时代，当我们”：Allyn，“Statement from 斯嘉丽·约翰逊”。
“我们深感抱歉”：OpenAI，〈ChatGPT 声音的选定方式〉。
“我见过许多政策制定者”：Derek Robertson，〈山姆·奥特曼的斯嘉丽·约翰逊失误让 AI 在华盛顿愈加难以推销〉，Politico，2024 年 5 月 22 日，politico.com/news/magazine/2024/05/22/scarlett-johansson-sam-altmans-washington-00159507。
领导团队发表了：会议的所有描述与引语均据会议录音整理，2024年5月22日。
当日发布：Kelsey Piper，“Leaked OpenAI Documents Reveal Aggressive Tactics Toward Former Employees”，《Vox》，2024年5月22日，vox.com/future-perfect/351132/openai-vested-equity-nda-sam-altman-documents-employees。
“情况是，我认为”：所有引语均来自会议录音，2024年5月23日。
Murati、Brockman 和 Pachocki 抵达：Deepa Seetharaman，“Turning OpenAI into a Real Business Is Tearing It Apart”，《华尔街日报》，2024年9月27日，wsj.com/tech/ai/open-ai-division-for-profit-da26c24b。

第十八章：帝国的公式

奥特曼曾在台上说道：Tyler Cowen 主持，Conversations with Tyler，播客，第 61 期，“山姆·奥特曼 on Loving Community, Hating Coworking, and the Hunt for Talent”，Mercatus Center Podcasts，2019 年 2 月 27 日。
“最成功的创始人”：山姆·奥特曼，“Successful People”，山姆·奥特曼（博客），2013 年 3 月 7 日，blog.samaltman.com/successful-people。
“谁将掌控 AI 的未来？”：山姆·奥特曼，“Who Will Control the Future of AI?"，观点版，《华盛顿邮报》，2024 年 7 月 25 日，washingtonpost.com/opinions/2024/07/25/sam-altman-ai-democracy-authoritarianism-future。
“我们现在要假设”：全员会议所有引语均来自一段音频录音，2024 年 5 月 15 日。
5 月 28 日，不到：Slack 消息截图。
在奥特曼的名单上：Amir Efrati 和 Wayne Ma，“OpenAI CEO Cements Control as He Secures Apple Deal”，The Information，2024 年 5 月 29 日，theinformation.com/articles/openai-ceo-cements-control-as-he-secures-apple-deal。
奥特曼正在考虑：Aaron Holmes、Natasha Mascarenhas 和 Julia Hornstein，“OpenAI CEO Says Company Could Become Benefit Corporation Akin to Rivals Anthropic, xAI”，The Information，2024 年 6 月 14 日，theinformation.com/articles/openai-ceo-says-company-could-become-benefit-corporation-akin-to-rivals-anthropic-xai。
6 月 4 日，《纽约时报》：Kevin Roose，“OpenAI Insiders Warn of a ‘Reckless’ Race for Dominance”，《纽约时报》，2024 年 6 月 4 日，nytimes.com/2024/06/04/technology/openai-culture-whistleblowers.html。
在一封公开信中：“A Right to Warn About Advanced Artificial Intelligence”，访问日期 2024 年 11 月 5 日，righttowarn.ai。
一个月后，《华盛顿邮报》：Pranshu Verma、Cat Zakrzewski 和 Nitasha Tiku，“OpenAI Illegally Barred Staff from Airing Safety Risks, Whistleblowers Say”，《华盛顿邮报》，2024 年 7 月 13 日，washingtonpost.com/technology/2024/07/13/openai-safety-risks-whistleblower-sec。
当月晚些时候，五位美国参议员：Pranshu Verma、Cat Zakrzewski 和 Nitasha Tiku，“Senators Demand OpenAI Detail Efforts to Make Its AI Safe”，《华盛顿邮报》，2024 年 7 月 23 日，washingtonpost.com/technology/2024/07/23/openai-senate-democrats-ai-safe。
OpenAI 还在引进：OpenAI，“OpenAI Welcomes Sarah Friar (CFO) and Kevin Weil (CPO)"，OpenAI（博客），2024 年 6 月 10 日，openai.com/index/openai-welcomes-cfo-cpo。
率先离开的是：约翰·舒尔曼（@johnschulman2）：“今天我向 OpenAI 的同事们分享了以下说明：我做出了一个艰难的决定，选择离开 OpenAI。这一选择源于我希望更深入地专注于 AI 对齐研究，并开启职业生涯的新篇章——回归亲力亲为的技术工作。我决定在 Anthropic 追求这一目标，我相信在那里我能获得新的视角，与深耕于我最感兴趣领域的研究者并肩工作……"，Twitter（现为 X），2024 年 8 月 5 日，x.com/johnschulman2/status/1820610863499509855。
布罗克曼宣布他将：格雷格·布罗克曼（@gdb）：“我将休假直至年底。这是我联合创立 OpenAI 九年来第一次放松休息。使命远未完成；我们仍有一个安全的 AGI 需要构建。"，Twitter（现为 X），2024 年 8 月 5 日，x.com/gdb/status/1820644694264791459。
次月，9 月 25 日：米拉·穆拉蒂（@miramurati）：“今天我向 OpenAI 团队分享了以下说明。"，Twitter（现为 X），2024 年 9 月 25 日，x.com/miramurati/status/1839025700009030027。
几小时内，又有两位核心领导者：Bob McGrew（@bobmcgrewai）：“我刚刚与 OpenAI 分享了这条信息："，Twitter（现为 X），2024 年 9 月 25 日，x.com/bobmcgrewai/status/1839099787423134051；Barret Zoph（@barret_zoph）：“我向 OpenAI 发布了这条说明。"，2024 年 9 月 25 日，x.com/barret_zoph/status/1839095143397515452。
OpenAI 最新模型的发布：OpenAI，“Introducing OpenAI o1”，OpenAI（博客），访问日期 2025 年 1 月 6 日，openai.com/o1。
马斯克正在扩张：Dara Kerr，“How Memphis Became a Battleground over 埃隆·马斯克’s xAI Supercomputer”，NPR，2024 年 9 月 11 日，npr.org/2024/09/11/nx-s1-5088134/elon-musk-ai-xai-supercomputer-memphis-pollution。
Anthropic 的最新版本：Stephanie Palazzolo、Erin Woo 和 Amir Efrati，“How Anthropic Got Inside OpenAI’s Head”，The Information，2024 年 12 月 12 日，theinformation.com/articles/how-anthropic-got-inside-openais-head；Kevin Roose，“How Claude Became Tech Insiders’ Chatbot of Choice”，《纽约时报》，2024 年 12 月 13 日，nytimes.com/2024/12/13/technology/claude-ai-anthropic.html。
Sutskever 已正式成立：Kenrick Cai、Krystal Hu 和 Anna Tong，“Exclusive: OpenAI Co-Founder Sutskever’s New Safety-Focused AI Startup SSI Raises $1 Billion”，路透社，2024 年 9 月 4 日，reuters.com/technology/artificial-intelligence/openai-co-founder-sutskevers-new-safety-focused-ai-startup-ssi-raises-1-billion-2024-09-04。
OpenAI仍在苦苦挣扎：Stephanie Palazzolo、Erin Woo与Amir Efrati，“OpenAI Shifts Strategy as Rate of ‘GPT’ AI Improvements Slows，"《The Information》，2024年11月9日，theinformation.com/articles/openai-shifts-strategy-as-rate-of-gpt-ai-improvements-slows；Deepa Seetharaman，“The Next Great Leap in AI Is Behind Schedule and Crazy Expensive，"《华尔街日报》，2024年12月20日，wsj.com/tech/ai/openai-gpt5-orion-delays-639e7693。
OpenAI最新一轮融资：OpenAI，“New Funding to Scale the Benefits of AI，“OpenAI（博客），2024年10月2日，openai.com/index/scale-the-benefits-of-ai。
该文章标题为：山姆·奥特曼，“The Intelligence Age，“山姆·奥特曼（博客），2024年9月23日，ia.samaltman.com。
全员大会上，Murati：会议录音，2024年9月26日。
“Mira、Bob和Barret做出了”：山姆·奥特曼（@sama），“我刚刚向OpenAI发布了这条内部通知：大家好——在过去6.5年里，Mira对OpenAI的进步与成长至关重要；她是我们从一个默默无闻的研究实验室成长为一家举足轻重的公司的过程中极具分量的关键力量。今早Mira告知我她即将离开，我深感惋惜，但当然尊重她的决定。过去一年，她着力打造了一支强大的领导梯队，将延续我们的发展进程。我还想告知大家，Bob和Barret也决定离开OpenAI。Mira、Bob和Barret各自独立、以友好方式做出了这些决定，但Mira的决定时机恰好使得现在一并宣布更为合适，以便我们携手完成向新一代领导层的平稳过渡。"，Twitter（现为X），2024年9月25日，x.com/sama/status/1839096160168063488。
马斯克，此时与……结盟：Musk v. Altman，案号4:24-cv-04722，CourtListener（加利福尼亚州北区联邦地区法院，2024年11月14日）ECF文件第32号。
“OpenAI的行为本可”：Jessica Toonkel、Keach Hagey、Meghan Bobrowsky，“Meta Urges California Attorney General to Stop OpenAI from Becoming For-Profit，"《华尔街日报》，2024年12月13日，wsj.com/tech/ai/elon-musk-open-ai-lawsuit-response-c1f415f8。
年末，深藏于其中：OpenAI，“Why OpenAI’s Structure Must Evolve to Advance Our Mission，“OpenAI（博客），2024年12月27日，openai.com/index/why-our-structure-must-evolve-to-advance-our-mission。
“我们现在确信”：山姆·奥特曼，“Reflections，“山姆·奥特曼（博客），2025年1月5日，blog.samaltman.com/reflections。

尾声：帝国如何崩塌

2021年，我偶然读到：郝凯伦，“A New Vision of Artificial Intelligence for the People”，《MIT科技评论》，2022年4月22日，technologyreview.com/2022/04/22/1050394/artificial-intelligence-for-the-people。
大型语言模型加速了：作者采访 Kathleen Siminyu，2021年11月；Michael 与 Caroline Running Wolf，2021年11月；Kevin Scannell，2021年12月；Vukosi Marivate，2023年4月；Pelonomi Moiloa 与 Jade Abbott，2023年4月；Matteo Wong，“The AI Revolution Is Crushing Thousands of Languages”，《大西洋》，2024年4月12日，theatlantic.com/technology/archive/2024/04/generative-ai-low-resource-languages/678042。
在逾七千种：“Kevin Scannell on ‘Language from Below: Grassroots Efforts to Develop Language Technology for Minoritized Languages’ 24.S96 Special Seminar: Linguistics & social justice”，2021年11月17日由 MIT-Haiti Initiative 发布，Facebook，时长2小时56分46秒，facebook.com/mithaiti/videos/1060463734714819；OpenAI，“GPT-4”，OpenAI，2023年3月14日，openai.com/index/gpt-4-research。
它所面对的是：作者采访 Keoni Mahelona，2021年10月、11月及12月；Peter-Lucas Jones，2021年11月、12月及2022年1月。
这正是：作者采访 Mahelona；Jones；Caleb Moses（参与该项目的数据科学家），2021年11月；以及多位参与 Te Hiku 语言保护工作的人士，2021年11月至2022年1月。
“数据是最后的疆界”：采访 Mahelona，2021年10月。
这一数据池相形见绌：亚历克·拉德福德、Jong Wook Kim、Tao Xu、格雷格·布罗克曼、Christine McLeavey、伊利亚·苏茨克维尔，“Robust Speech Recognition via Large-Scale Weak Supervision”，预印本，arXiv，2022年12月6日，第1–2页，arxiv.org/pdf/2212.04356。
一款免费语音识别模型：Mozilla，“About DeepSpeech”，Mozilla GitHub，检索于2024年12月16日，mozilla.github.io/deepspeech-playbook/DEEPSPEECH.html。
蒂姆尼特·格布鲁被迫离职后：作者采访蒂姆尼特·格布鲁，2024年8月；Milagros Miceli，2024年8月。
她创立了一家非营利机构：“About Us”，Distributed AI Research，检索于2024年12月16日，dair-institute.org/about。
“我们的研究旨在”：“Research Philosophy”，Distributed AI Research，检索于2024年12月16日，dair-institute.org/research-philosophy。
她创建了数据工作者调查：“Data Workers’ Inquiry”，Data Workers’ Inquiry，检索于2024年12月16日，data-workers.org。
对于她的项目，Fuentes：Oskarina Veronica Fuentes Anaya，“Life of a Latin American Data Worker”，Data Workers’ Inquiry，检索于2024年12月16日，data-workers.org/oskarina；作者与 Fuentes 通信，2024年7月。
相隔一个大洲：作者采访 Mophat Okinyi，2024年8月。
他还创立了一家非营利机构：“Our Story”，Techworker Community Africa，检索于2024年12月16日，techworkercommunityafrica.org/About.html。
“尘埃落定之后”：Mophat Okinyi，“Impact of Remotasks’ Closure on Kenyan Workers”，Data Workers’ Inquiry，检索于2024年12月16日，data-workers.org/mophat。
他随后入选：Billy Perrigo，“Mophat Okinyi”，《时代》周刊，2024年9月5日，time.com/7012787/mophat-okinyi。
在乌拉圭，Daniel Pena：作者采访 Daniel Pena，2024年5月。
在她2019年的演讲中：Ria Kalluri，“The Values of Machine Learning”，会议演讲，2019年12月9日，由 NIPS 2019 于2019年12月9日发布，SlidesLive，时长28分51秒，slideslive.com/38923453/the-values-of-machine-learning。
加州大学伯克利分校研究员：作者采访 Deborah Raji，2024年8月。
“如果你开的是一辆汽车”：作者采访 Sasha Luccioni，2024年8月。
正如麻省理工学院教授约瑟夫·魏岑鲍姆：约瑟夫·魏岑鲍姆，“ELIZA—a Computer Program for the Study of Natural Language Communication Between Man and Machine”，《ACM通讯》第9卷第1期（1966年1月）：第36–45页，doi.org/10.1145/365153.365168。

索引

本索引中的页码对应印刷版图书。每个链接将跳转至对应印刷页的起始位置。在电子阅读器上，您可能需要从该位置向后翻页，以找到对应的引用内容。

A

Abbeel, Pieter，49, 118, 235
Abbott, Andy，30
加速风险，232, 249
达龙·阿西莫格鲁，88–89
Achiam, Joshua，406
非洲内容审核员联盟，416
通用人工智能（AGI），47–48, 76–79, 129–31, 232, 388–89
- 谷歌（Google）与，24–25
- OpenAI 与奥特曼，7–8, 12–13, 19, 31, 47–48, 49, 62, 65, 67, 75, 111, 121–22, 142–43, 183, 240, 253, 254–55, 301, 319, 357, 400–402, 405
- 术语使用，76–77, 93–94
Agnew, William，102, 106, 161
农业，229, 292–93
Aguirre, Blaise，338
人工智能（AI）
- 与通用人工智能（AGI）的比较，76–77
- 拟人化，90–91, 111
- 作者报道，14–16
- 收益，13, 16, 19, 76, 77–78, 84–85, 88–89, 90, 333–34, 400, 418
- 商业化，14–15, 51, 75, 101–15, 150–52
- 智能定义，90–94
- AI 帝国，16–20, 197, 222–23, 270, 414, 418, 420
- 资金，101–6, 110, 132
- 模型训练，4, 61, 98, 134–37, 163, 244–45, 278–81, 307
- 监管政策，25, 27, 84, 86, 134, 136, 265, 272, 301, 303–4, 306–7, 311–12, 357, 358, 384
- 研究与开发，13, 14, 17–18, 64, 89–90, 101–6, 110 论文规范与同行评审，15, 15n
- 研究人员出走潮，105–6, 134
- 风险与危害，16–19, 23–27, 55–58, 78–81, 106–10, 380
- 数据抓取，102–3, 114, 134–38, 151–52, 182–84, 384
- 理论，94–101
- 时间线，93, 133, 232–33, 260, 388–89
- 企业总投资，105
- 术语使用，90, 91, 400
AI 对齐，26, 248
- 失对齐，55, 86, 124, 145–46, 320, 347
- OpenAI，54, 70, 86, 122–23, 164, 240, 248, 250, 262, 315–18, 347
- 超级对齐，316–17, 353, 387–88
AI 指数报告，105
AI 洞察论坛，311
AI Now 研究所，308
Airbnb，36, 41, 136, 150, 202, 367
空气污染，286
AI 安全，55–58, 122–32, 301–12, 316–24, 419。另见数据隐私；存在性风险
- 对齐与，122–23, 124, 145–46, 316–18
- 有效利他主义与，55–56, 230–34, 321–22
- 前沿模型论坛，305–6, 309
- 美国参议院司法委员会听证会，301–3, 307–9, 314–15
- 阈值，301–2, 305–8, 310–11
AI Scientist，183, 318–19, 325, 347, 375
“AI 起飞”，232
“AI 寒冬”，97, 435n
Alameda Research，231
算法正义联盟，161
算法，51–52, 56, 373–74
《压迫的算法》（Noble 著），162
阿里巴巴，15, 159
对齐曼哈顿计划，315–18
Allen & Company，67–68
Alphabet，105
AlphaFold，309–10
AlphaGo，59, 93
安妮·奥特曼，43–45, 326–40, 352–55, 406, 458–59n
- 向家人求助经济援助，327, 331–32
- 父亲去世，329–31
- 早年生活与教育，29, 30, 328–29
- 精神健康困扰，44–45, 329–30, 331–32, 339–40
- 《纽约》杂志文章，326–27, 328–29, 332–33, 336–40, 343, 352
- 身体健康困扰，329, 332–33
- 性虐待指控，3, 44–45, 327–28, 334–38, 352–53, 406
- 性工作，326, 332–36
杰克·奥特曼，29, 30, 35–36, 41, 69, 185, 327–28, 331, 336
Altman, Jerold “Jerry”，29–31, 44, 329–31, 332
马克斯·奥特曼，29, 30, 36, 326, 327–28, 331
萨姆·奥特曼
- AI 芯片公司计划，3, 377–78
- 背景，23, 29–30
- AGI 的收益，19, 405
- 出生与早年生活，29, 30–31
- 董事会与，40, 252–53, 320–25, 375–76 领导权问题，345–65
- OpenAI 商业结构，13–14, 61–64, 66–67, 86, 402–3, 407
- ChatGPT，260, 261, 262, 280, 346
- 商业化计划，66–67, 150–51
- 算力阶段计划，278–81
- OpenAI 内部冲突与裂痕，149, 150–51, 233–34, 313–16, 396
- 国会证词，301–3, 314–15
- 教育经历，30–32
- 有效利他主义理念与，233–34
- 股权危机与，388–90, 392–96
- 解雇与复职，1–12, 14, 364–73 调查经过，369–70, 375–76, 377, 392
- OpenAI 的创立，12–13, 26–28, 46, 47–51, 53–54
- 融资，61–62, 65–68, 71–72, 132, 141, 156, 262, 320–21, 331, 367, 377, 405
- GPT-3，133–34, 278–79
- GPT-4，246, 248–52, 279, 346, 383–84, 386, 390–91
- 与格雷厄姆的关系，28, 32, 36–39, 40, 69
- “智能时代”，19, 405
- 与乔布斯的比较，2, 34, 35, 37
- 约翰逊风波，382, 390–92, 393
- 领导力，64–65, 69–70, 75, 141–44, 243–44, 354–55, 403–4
- 领导行为，345–60, 361–65, 382–83, 385–86
- Loopt 与，32–37, 43, 68
- 曼哈顿计划，146–47, 315–17
- Mayo 的办公室设计，74
- 媒体关系，33, 34, 383
- OpenAI 使命，5, 400–402
- 《麻省理工科技评论》，86–87
- 谈拿破仑，399–400
- 净资产，35, 44, 188, 389, 390
- 其他投资项目，3, 185–88
- 偏执，147–48
- 性格，31, 34, 42–45, 333, 346
- 政治立场，41–42, 43, 62
- 研究路线图，59, 175–78
- 2022 年 10 月静修会，256–57
- Scallion，379–80, 380, 382
- 性取向，31, 41
- 妹妹安妮与，43–45, 326–40, 385–86, 406 性虐待指控，3, 44–45, 327–28, 334–38, 352–53, 356
- 成功之道，32–35, 37, 142–44
- 对 OpenAI 的愿景，9, 83, 142–43, 262
- 世界巡回之旅，312, 313, 337
- 在 Y Combinator（YC），23, 27–28, 32, 34, 36–38, 39, 43, 68–69, 75, 141, 142, 185, 186, 187–88, 321
利他主义，13, 14, 400。另见有效利他主义
亚马逊，41, 46, 142, 161
- 数据中心，274–75, 277, 287
- Mechanical Turk，194
美国手语，254
丹妮拉·阿莫代伊，55–56, 58, 144–45, 156, 157, 230
达里奥·阿莫代伊，55–58
- AI 安全与风险，55–56, 57–58, 87, 122–27, 131, 133, 134, 145–46, 147, 149–52, 156–57, 362
- 奥特曼被解雇，366
- 在 Anthropic，58, 60, 115, 128, 157, 213–14, 230
- 背景，55
- 「决裂」，57–58, 156–57, 181, 213, 230, 233, 242, 353
- Dota 2，129, 144–45
- OpenAI 的创立，28, 55
- GPT-2，125, 129–32, 150
- GPT-3，133–34, 134–35, 144–45, 156
- Nest，134–35, 144–45, 150, 151, 156, 244
- 晋升为研究总监，125, 133
- 规模化扩展（scaling），129–33, 156–57
Android，100, 239
“匿名众包"模式，206
Antel，291–92
Anthropic，6, 60, 115, 157, 233
- Claude，261, 358, 379, 400, 404–5, 406
- 创立与「决裂」，58, 128, 157, 213, 230
- 前沿模型论坛，305–6, 309
- FTX 破产与，257–58
- Leike 加入，388
- 估值，18
AP 生物，245–46
APEC 工商领导人峰会，2
API（应用程序编程接口），150–51。另见各 API 词条
《阿波罗 11 号》（电影），317
阿波罗计划，317
Appen，137, 195, 197–202
苹果，30, 202, 334, 402
Arancibia, Alexandra，285–87, 296–99, 300
亚利桑那州，15, 279, 281, 292
军备竞赛，16–17
Arrakis，269, 374
砷，282
通用人工智能，见 AGI
人工智能，见 AI
arXiv，15n
石棉，288
艾萨克·阿西莫夫，83
阿塔卡马沙漠，271–72, 284–87
原子弹，316–17
威权主义，71, 147, 195–96, 400
美国作家协会，135
自动机研究，89–90, 434n
自主武器，52, 310, 380
Azure AI，68, 72, 75, 156, 266, 279

B

babbage, 150
查尔斯·巴贝奇, 150
反向传播, 97–98
百度, 15, 17, 55, 159, 413
塞缪尔·班克曼-弗里德, 231–32, 233, 257–58, 380
大卫·贝克汉姆, 1
贝尔实验室, 55
艾米莉·M·本德尔, 164–69, 253–54
- 《随机鹦鹉的危险》, 164–73, 254, 276, 414
Bengio, Samy, 161–62, 165, 166–67, 169
约书亚·本吉奥, 105, 162
杰夫·贝佐斯, 41
乔·拜登, 115–16, 310
Bing, 112, 113, 247, 264, 355
生物病毒, 27
生物武器, 305, 309, 310, 380
Birhane, Abeba, 102, 106, 137–38
“黑箱”, 107
Black in AI, 52, 53, 161
黑名单, 222
黑人的命也是命, 152–53, 162–63, 167
盲点, 88
眨眼, 375, 377, 384, 386, 396, 397–98
OpenAI 董事会
- 奥尔特曼的解雇与复职, 1–12, 14, 336, 364–73, 375–76, 384, 386, 396, 402
  - 作者的报道, 370–73
  - 调查, 369–70, 375–76, 377, 392
  - 穆拉蒂担任临时首席执行官, 1–2, 8, 357, 364–65, 366
  - 公开信, 10–11, 367–68
- 奥尔特曼的领导行为, 324–25, 345–65, 385
- 成员离任与加入, 11, 57–58, 58, 320–23, 375
- 监督问题, 322–25
尤塞恩·博尔特, 34
Books2, 135
Books3, 440n
婴儿潮一代（婴儿潮主义）, 233–34, 250, 305–6, 314, 315, 387, 396, 402, 403–4
自举, 49
无国界科学, 308–11
边缘型人格障碍, 338, 460n
加布里埃尔·博里奇·丰特, 296–97, 299–300
尼克·博斯特罗姆, 26–27, 55–56, 57, 122–23
机器人税, 200
瓶颈, 47, 78, 244–45, 280, 309
Boyd, Eric, 266
汤姆·布雷迪, 231
脑规模 AI, 60
桥水联合基金, 230
谢尔盖·布林, 249
Brockman, Anna, 10, 256–57, 333, 338
格雷格·布罗克曼
- 与奥尔特曼, 243–44, 349, 355, 395–96, 406–7
  - 解雇与复职, 2, 6, 8–12, 345–46, 366
  - 领导行为, 34, 363–64
- 作者 2019 年采访, 74–81, 84–85, 159–60, 278
- 个人背景, 46
- 与董事会, 240
- 与董事会及监督, 322–23
- 商业化计划, 150–51
- 计算基础设施, 278–79
- OpenAI 的文化与使命, 53–54, 84–85
- 离职, 404
- Dota 2, 66, 144–45
- OpenAI 的创立, 28, 46–51
- OpenAI 的治理结构, 61–63
- GPT-4, 244–48, 250–51, 252, 257, 260, 346
- Latitude, 180–81
- OpenAI 的领导, 58–59, 61–62, 63–65, 69, 70, 83, 84–85, 243–44
- 全面危机, 396–98
- 招募工作, 48–49, 53–54, 57–58
- 研究路线图, 59–61
- 2022 年 10 月务虚会, 256–57
- Scallion, 379–80
- Stripe, 41, 46, 55, 58, 73, 82
Brundage, Miles, 248, 250, 314, 388, 406
乔伊·布奥拉姆维尼, 161
火人节, 35, 263
Burrell, Jenna, 93
Buschatzke, Tom, 281

C

加州参议院第 1047 号法案，311
癌症，192, 282, 288, 293, 301, 378
利润封顶结构，70, 72, 75, 322, 370–71, 401
碳排放，79–80, 159–60, 171–73, 275–78, 295, 309
卡内基梅隆大学，97, 106, 172
Andrew Carr，385
Ashton Carter，43
CBRN 武器，301, 380
AI 安全中心，322
安全与新兴技术中心（CSET），7, 307, 321, 357, 358
长期风险中心，388
AI 治理中心，321–22
智利塞里略斯，288–91, 296, 297
美国消费者金融保护局（CFPB），419–20
聊天机器人，17, 112–14, 189–90, 217–18, 220
- ELIZA，95–97, 111, 420–21
- GPT-3，217–18
- GPT-4，258–59
- LaMDA，153, 253–54
- Meena，153
- Tay，153
ChatGPT，258–62, 267, 280
- 连接主义传统，95
- 以 GPT-3.5 为基础，217–18, 258
- 幻觉问题，113, 114, 268
- 发布，2, 58, 101, 111, 120, 158, 159, 212, 220, 258–62, 264, 265–66, 268, 302
- 注册激励，267
- 语音模式，378–79, 380–81, 391
Derek Chauvin，152–53
Mark Chen，381, 405–6
Brian Chesky，41, 367
芝加哥男孩（芝加哥经济学派），272–73, 296
儿童性虐待材料（CSAM），137, 180–81, 189, 192, 208, 237–39, 241, 242
智利，15, 271–81
- 数据中心，285–91, 295–99
- 萃取主义，272, 273–74, 281–85, 296–99, 417
1973 年智利政变，273
2019—2022 年智利抗议，291, 296–97
智利计划，272–73
中国
- AI 芯片，115–16, 304
- AI 发展，55, 103, 132, 146, 159, 191, 301, 303–4, 305, 307, 309–10, 311
- 大规模监控，103–4
1957 年丘基卡马塔矿难，281–82
美国中央情报局（CIA），155, 273, 321
Clarifai，108, 238
杰克·克拉克，76, 81, 125–28, 154, 156–57, 311
亚瑟·C·克拉克，55
Claude，261, 358, 379, 400, 404–5, 406
追回条款，389, 393–96
气候变化，24, 52, 76–80, 93, 165, 196, 276, 281, 292–95, 301
气候变化 AI，77–78, 276
CLIP，235, 236
封闭域问题，268
封闭系统，308–11
CloudFactory，206–7, 212–13
代码生成，151–53, 181–84, 318
Codex，184, 243, 247, 269, 318
联合创始人概述，48
Cogito，242
认知，109, 119–20
认知失调，227–28
Cohere，306–7
Coinbase，136
Rosemary Collard，104n
哥伦比亚，15, 103
科罗拉多河与用水问题，281
美国商务部，304, 307, 308
Common Crawl，135–36, 137, 151, 163
陪伴型机器人，179, 180
“组合生成”，238
压缩，122, 235
算力，59–61, 115–16, 278–81, 387
- 效率，175–77, 268–69, 375, 419
- 门槛，98, 301–2, 305–8, 310–11
康塞普西翁，41
Alexis Conneau，378–79
连接主义，94–100, 105, 109–10, 117–18
内容审核，136–37, 155, 179–81, 189–90, 238–39。另见数据标注
- Sama，190–92, 206–13, 218–19
Copilot，238–39, 247–48, 264
铜，272, 273, 277, 281, 282–84, 291
版权侵权，90–91, 102, 135, 301, 308, 313, 384
“高代价信号”，357–58
轧棉机，88–89
Nick Couldry，104
新冠疫情，54, 74, 149, 152, 181–82, 192, 203, 205, 206, 208, 213, 218, 293, 323
Tyler Cowen，399
螃蟹世代，220–21
知识共享（Creative Commons），182
低温技术，186–87
加密货币，63, 80, 185–86
CSAM。见儿童性虐待材料
CUDA（统一计算设备架构），61
curie，150
玛丽·居里，150
斯蒂芬·库里，231
网络安全，114, 147, 148, 179–80, 380
Cyc，97

D

分布式 AI 研究所（DAIR），414–15, 419
达利，萨尔瓦多，234
DALL-E，11, 114, 234–39, 241–42, 258–59, 269
- 鳄梨扶手椅，235, 237–38
达蒙，马特，317–18
亚当·丹杰洛，321
- 奥特曼被解雇，7, 11, 366, 367
- 奥特曼的领导行为，324–25, 352, 357, 359–60, 361–62
达特茅斯暑期研究项目（1856），89–90, 94
数据标注，15, 178, 189–90, 192–223, 414–17
- 肯尼亚工人，15, 18, 190–92, 206–13, 415–17
- Scale AI，202–6, 213–14
- 自动驾驶汽车，193–95, 202–6, 214–15
- 委内瑞拉工人，195–96, 198–202, 203–4, 218
数据中心，15, 274–78
- 奥特曼的算力阶段，278–81
- 碳排放，79–80, 159–60, 171–73
- 在智利，285–91, 295–99
- 能源使用，77, 80, 274–78, 280–81, 288–90, 294
- 谷歌（Google），274–75, 285–91, 295–96
- 在乌拉圭，291–96
“数据殖民主义”，103–4
数据过滤，137, 155, 177–78
Dataluna，289–90
数据隐私，19–20, 33, 56, 103, 136, 186, 301, 308, 310, 413, 416
数据抓取，102–3, 114, 134–38, 151–52, 182–84, 384
“数据沼泽”，137–38, 212–13
数据工人调查，415–17
davinci，150
达芬奇，列奥纳多，150
迪恩，杰夫，25, 158, 161–62, 163–65, 170–72
深度伪造，79–80, 239, 391
深度学习，98–101
- 歧视性影响，57, 108–9
- ImageNet，47, 100–101, 117–18, 259
- 局限性与风险，106–10
DeepMind，6, 17, 24–26, 48, 66, 158–59, 261–62, 384–85
- AlphaFold，309–10
- AlphaGo，59, 93
- OpenAI 与 ChatGPT，114, 119–20, 132, 159, 261–62
- 规模化扩展（scaling），132, 158–59
民主党，41, 231
Dempsey, Jessica，104n
稠密神经网络，177–78
部署安全委员会（DSB），248, 323–24, 346, 350, 362, 363
Desmond-Hellmann, Sue，376
Díaz Bejarano, Nicolás，297–99
扩散，235–36, 375
- Stable Diffusion，114, 137, 236, 242, 284
Digital Realty，274
灾难资本主义，189–223
歧视性影响，51–52, 57, 108–9, 114, 137, 161–64, 179, 310, 419, 432n
帝国消解，418–19
蒸馏，177, 307
胁迫密码，149
决裂，156–57, 181, 213, 230, 233, 242
DNNresearch，47, 50, 98–99, 100
《奇异博士》（电影），303
末日论者（Doomerism），233–34, 250, 267–68, 305–6, 308, 310, 311, 314, 315, 317–18, 319, 377, 387, 388–90, 396, 402, 403–4, 419
末日情景，26–27
Dorador, Cristina，283
Dota 2，66–67, 71, 129, 144–45, 244–45
Dowling, Steve，154, 256, 382–83
人肉搜索，303
饮用水。见水资源
DUST（内部方法代号），269
杜一仑，121

E

“赚钱行善”，229、231
经济增长，38–39
边缘案例，112
爱迪生（Thomas Edison），54、55
教育，420–21
有效加速主义（e/acc），233
有效利他主义（EA），55–56、228–33、321–22、388–89
Effective Ventures Foundation，321–22
Ehlers-Danlos 综合征，257、338
2016 年大选，38、42、51–52、321
ELIZA，95–97、111、420–21
AI 帝国，16–20、197、222–23、270、414、418、420
能源使用，77、80、160、171、173、186–87、275–78、280–81、288–
- 90、294、295、419、451n
恩尼格玛密码机，91
环境影响，20–21、57、79–80、84、89、134、165、170–
- 71、309、417、420。另见"萃取主义；水资源”
- 被掠夺的地球，271–300
Equinix，274
社会爆发（Estallido Social），291、296
Etcheverry, Aisén，300
欧盟委员会，105
欧盟（EU），283
- 《人工智能法案》，311
Evolved Transformers，160、171–73
美国第 14110 号行政命令，310
存在性风险，24–25、26、55–56、97、125、145、229–32、314、410。另见
- “末日论者”
- p(doom)（毁灭概率），232、250、317、319–20、377
期望值，229–30
专家系统，94–95
探索性研究，149、151–52
灭绝，24、26–27、55、232、378
萃取主义，104、417
- 在智利，272、273–74、281–85、296–99
- 在乌拉圭，291–96
- 该术语的用法，104n

F

Facebook, 11, 15, 16, 51–
- 52, 105, 154, 159, 162, 192, 209, 230, 321, 334
人脸识别, 57, 103, 104, 115, 161, 435n
Fact Factory（内部方案名）, 261
合理使用, 91
Fairwork, 202, 206, 416
美国联邦贸易委员会（FTC）, 239, 308, 358
Fedus, Liam, 247, 406
“感受AGI”, 120, 255
费曼, 理查德, 121–22
救火, 237, 260
先发优势, 103
火烈鸟世代, 220–21
弗洛伊德, 乔治, 152–53
“流动数据领地”, 299
一级方程式赛车, 1, 231
Founders Fund, 38
Foursquare, 32
欺诈, 25, 250, 267
言论自由, 368–69
Friar, Sarah, 404
Fridman, Lex, 383
弗里德曼, 米尔顿, 272–73
友好AI, 57, 319–20
Friend, Tad, 26–27, 31
前沿模型, 305–11
前沿模型论坛, 305–6, 309
FTX, 231–32, 233
- 破产, 257–58, 322, 380
FTX未来基金, 231–32
Fuentes Anaya, Oskarina Veronica, 197–202, 415–17
Future Perfect, 388
《人工智能研究的未来》, 273–74

G

比尔·盖茨，68
- 国会证词，311
- GPT-4，245–48
- OpenAI 演示，71–72，132–33，246
Gates 演示，71–72，132–33，246
Gawker Media，38
《通用数据保护条例》（GDPR），136
蒂姆尼特·格布鲁，24，52–53，108，160–70，171–73，414
生成式预训练 Transformer。见 GPT
《天才制造者》（Metz），80
Geometric Intelligence，110
《幽灵工作》（Gray 与 Suri），193–94
康妮·吉布斯廷，29–31，44，327–28，331–32，333，337
Marvin Gibstine，29
GitHub，135–36，182–84，237，243，336
- Codex，184，243，247，269，318
- Copilot，184，237，336
GiveWell，230–31，322
全球南方，16，89，165，186，190，193，222，278，291，416。另见
- 具体国家
Gmail，100
围棋（游戏），59
Gobi，269，348
《教父》（电影），369
高盛，18，275
Good Ventures，230–31
谷歌（Google），15，132
- AI 研究，64，70，72，100–101，106，178
- AI 数据抓取，136
- Amodei 任职，55，57
- Android，100，239
- 验证码，98
- 数据中心，274–75，285–91，295–96
- DeepMind。见 DeepMind
- DNNresearch，47，50，98–99，100
- 前沿模型论坛，305–6，309
- 与 GPT-4，249
- Imagen 模型，240，242
- LaMDA，153，253–54
- 神经网络，100–101
- Maven 项目，52
- 语音识别，100
- 与 Sutskever，50，100–101
- 科技反弹，51
- Transformer 架构，120–22，158–59，160，165–66，169，171–73，235
- 估值，70
- Waymo，100
Google Brain，72，159，162，166，167
Google I/O，379，380，383
Google Research，53，158，163
谷歌翻译，100，121–22，197，410
Joseph Gordon-Levitt，323
政府监管。见监管法规
GPT-1，178
- 发布，16，122
- 训练与能力，122，123，124，235
GPT-2，71–72，253
- 错误，146
- Gates 演示，71–72，132–33
- 潜在风险，125–28
- “纯语言"假说，129–30
- 发布，75，128，314
- 规模化扩展（scaling），130–32
- 训练与能力，124–25，135，150，153，410
- 扣押研究成果，125，128，131，166
GPT-3，132–36，260，278–79
- API，150–51，154–56，158–59，162，163，213–14，314
- 聊天机器人模仿，112
- InstructGPT，214–17，246–47
- 发布，133–34，158–59，160
- 训练与能力，109，134–35，136，153–56，179，242–43，244，253
GPT-3.5，135，183–84，189，217–18，247，258，259–60，264，269，378
GPT-3.75，378
GPT-4，189，244–53
- Bing，112，113，247
- 能力，16，119，135–36，245–53，410
- 开发，242，244–53
- 发布，258–62，323–24
- Superassistant，247–49，258–59，381
GPT-4o，383–84，386，390–91
GPT-4 Turbo，346，363
GPT-5，279，325
- Orion，374–75，379，380，405
GPU（图形处理单元），61–62，134，265–68。另见英伟达（Nvidia）
- 短缺，261
保罗·格雷厄姆，28，32，36–39，40，69
Mary L. Gray，193–94
Lachy Groom，41
接地假说，129–30，318
Leslie R. Groves，317–18
Eileen Guo，186

H

Hacker News, 70
幻觉, 113–14, 217, 268, 358
Hanna, Alex, 414
“硬件积压”, 177, 232, 377
卡玛拉·哈里斯, 302
德米斯·哈萨比斯, 24–26, 48, 309–10
“仇恨缩放定律”, 137–38
仇恨言论, 18, 192, 208
医疗与医学, 12, 19, 76, 77–78, 114, 229, 257, 304, 333
Helion Energy, 186–87, 280
Dan Hendrycks, 322–23
奥黛丽·赫本, 96
《她》（电影）, 246, 378, 382, 390–92, 393
Ari Herbert-Voss, 179, 180–81
Andrea Paola Hernández, 203–5
Danny Hernandez, 60
Elaine Herzberg, 107, 113
杰弗里·辛顿, 105, 110
- DNNresearch, 47, 50, 98–99, 100
- ImageNet, 47, 59–60, 100–101, 101, 117–18, 259
- 神经网络与深度学习, 97–99, 100–101, 109, 183
- 与 Sutskever 的关系, 47, 100–101, 109, 117–18, 121, 254
里德·霍夫曼, 50, 63, 320, 324, 367, 384–85
Mél Hogan, 274–75
Jonathan Ho, 235–36
好莱坞, 302–3
Amy Hood, 72
Sara Hooker, 306–7, 310, 311
Steve Huffman, 34
Ricardo Huggines, 204–5
Hugging Face, 276–77, 420
人脑, 60, 73, 90, 91, 109
人类意识, 111, 119–20
AI 规避人类控制, 152, 310, 314, 380
人类灭绝, 24, 26–27, 55, 232, 378
人类智能，见智能
人类寿命延长, 186–87
人权, 19–20, 197, 294
Will Hurd, 321
Chip Huyen, 52
Hydrazine Capital, 35–36, 38, 41, 69
超大规模云厂商, 274–75, 277, 279–80, 285, 294, 296

I

IBM，100、161
- Watson，99
Imagen，242
ImageNet，47、59–60、100、101、117–18、259
《模仿游戏》，81–82、91
Index Ventures，203
印度，133、191、202、242、276、324
工业化，39、272
工业革命，88–89、93
不平等，15、16、190、207、228、273、291
推理，98、236、373、374、378
Inflection AI，320、384–85
“信息危害”，125
The Information，33、213、280、371、403
Inglewood，279
内部威胁，148
Instacart，362、376
Instagram，334、404
InstructGPT，214–17、246–47
智能，109、111
- 定义，90–94
“智能时代”，19、405
国际能源署，275
智商测试，91–92
Irving, Geoffrey，158–59、370
Isaac, William，104
以色列，47、207、337
迭代开发，142、150、314–15、379、401

J

Janah, Leila，191–92, 206
《危险边缘》（电视节目），99
Jernite, Yacine，276–77, 309
乔布斯，劳伦·鲍威尔，2
乔布斯，史蒂夫，2, 34, 35, 37
约翰逊，斯嘉丽，382, 390–92, 393
John Burroughs School，30–31, 329
Johnson, Josh，381
Johnson, Simon，88–89
Jones, Peter-Lucas，410–13
Jones, Shane，238–39
琼兹，斯派克，246
乔丹，迈克尔，34

K

Kacholia, Megan，166–68, 170
kaitiakitanga，412
Kalluri, Ria，102, 106, 418–19
Kaplan, Jared，156–57
霍尔登·卡诺夫斯基，56, 57–58, 230, 321–22
Karpathy, Andrej，64
Kay, Alan，321
Kelton, Fraser，150, 236–37, 241, 247
约翰·F·肯尼迪，54
Kennedy, John Neely，302
肯尼亚，137, 179, 190–92
- 数据标注，15, 18, 190–92, 206–13, 415–17
- RLHF 项目，218–23
氯胺酮，35, 42
可汗学院（Khan Academy），246
萨尔·汗，246
Khlaaf, Heidy，179–80
Khosla Ventures，70
Klein, Ezra，115
Klein, Naomi，272
Knight, Will，126
Koko（大猩猩），254
Kokotajlo, Daniel，388–90, 394, 403
Kolln, Ryan，137, 189
Krisiloff, Matt，41
Krizhevsky, Alex，47, 100–101, 117–18, 259
Kwon, Jason，7, 8, 346, 365, 373, 392–96

L

劳工剥削，16, 17, 19–20, 89, 133, 190, 194, 295, 414–16, 418。见
- 另见数据标注
LAION，137
LaMDA，153, 253–54
语言流失，409–13
大语言模型，15, 71, 115, 133, 153, 156, 158–60
- 语言流失，410
- 《论随机鹦鹉的危险》，164–73, 254, 276, 414
Latitude，180–81, 189
Lattice，36
Leap Motion，69, 150, 344
杨立昆，105, 159, 235, 305
Jan Leike，387–88
- 对齐与安全，248, 250, 314, 316, 387–88, 403
- 离职，387–88, 401
Blake Lemoine，253–54
Jessica Lessin，33
Library Genesis，135
Brad Lightcap，4–5, 7, 69, 373, 393–94
有限合伙（LP），66–67, 69–71
LinkedIn，50, 218
LISTSERV，26, 162, 167, 168
锂，272, 283–84
刘慈欣，83
Jessica Livingston，32, 37–38, 50, 69
Llama，305
位置追踪，33
Loopt，32–37, 43, 68
Loopt Star，33
Bryan Lourd，382, 390–91
Ada Lovelace，150
Sasha Luccioni，276–77, 309, 420
Luka, Inc.，180
卢奥人，207
Desi Lydic，381
Lyft，202, 331

M

威廉·麦卡斯基尔, 229, 231
机器学习, 77–78, 94–95, 98
健康机器学习, 78
Mądry, Aleksander, 6, 8, 366, 380, 393, 398, 404
Maduro, Nicolás, 195–96
Mahelona, Keoni, 410–13
Makanju, Anna, 7, 154, 256–57, 302, 365
Mallery, Rob, 263
曼哈顿计划, 27, 146–47, 315–18
人体模特挑战, 103
毛利人, 409–13
Marcus, Gary, 109–10, 118, 183, 252, 302, 307–8, 392
市值, 18, 80, 84, 293
火星, 23–24, 285
乔治·R.R.马丁, 135
Mathenge, Richard, 416
Mayer, Katie, 150
梅奥办公室, 74, 316, 434n
约翰·麦卡锡, 89–90, 92, 400
McCauley, Tasha, 321–24, 375
- 奥特曼被解雇, 7, 11
- 奥特曼的领导风格, 324, 352, 357, 359–60, 361–62
McGrew, Bob, 69, 156, 236–37, 244, 373, 404, 405–6
机械土耳其人（MTurk）, 194–95, 202–3
Meena, 153
超大型园区, 275–76, 283–84
超超大规模, 276
Mejias, Ulises A., 104
精英主义, 36
Messerschmidt, Neily, 334–35
Meta, 51
- AI 投资, 105
- 算力, 305
- 内容审核, 190, 192, 209
- 数据中心, 274–75, 281, 285
- Llama, 305
- 与 OpenAI, 159, 406–7
- 开源, 304–5
- 科技反弹, 51
- Threads, 260
Metz, Cade, 80, 90
Metz, Luke, 247, 406
Miceli, Milagros, 414–15
米开朗基罗, 81
微软（Microsoft）
- 与奥特曼, 355–56 解雇, 4, 6, 9, 10, 13, 367
- Azure AI, 68, 72, 75, 156, 266, 279
- Bing, 112, 113, 247, 264, 355
- Copilot, 238–39, 247–48, 264
- 数据中心, 256, 274–75, 277, 278–81, 285, 287, 296–99
- 前沿模型论坛, 305–6, 309
- GitHub, 135–36, 182–84, 237, 243, 336
- Helion Energy, 187, 280
- Inflection AI, 320, 384–85
- 市值, 18, 80, 84, 293
- 马克斯·奥特曼在微软, 36
- ResNet, 309–10
- 语音识别, 100
- Tay, 153
Microsoft Office, 264
微软与 OpenAI 的合作关系, 18, 67–68, 71–72, 234, 264–67, 269–70, 402
- ChatGPT, 264, 265–66
- 算力阶段, 278–81
- GPT-3, 156, 278–79
- GPT-4, 245–48, 279, 324
- 投资与融资, 13, 17, 72, 75, 80–81, 84–85, 132–33, 143, 145, 156, 248, 331
Microsoft Research, 68
Microsoft Teams, 264
Mighty AI, 195
军事, 52, 304, 380
Millicent, 220–23
马文·明斯基, 95, 96–97
Mishra, Nikhil, 58, 254
虚假信息, 51–52, 179, 241, 377
教会区, 57, 73–74
麻省理工学院（MIT）, 6, 46, 88, 95, 106, 121, 231, 420–21
Mitchell, Margaret “Meg,” 162, 164, 166, 169, 254
《MIT科技评论》, 75, 86–87, 126, 169, 186, 370
模型权重, 148, 149, 150, 156, 248, 266, 305–9
Moeroa, Raiha, 411
Mohamed, Shakir, 104
垄断, 39–40, 101, 142, 182, 303
Montgomery, Christina, 307–8
登月式项目, 48–49, 51
戈登·摩尔, 60
摩尔定律, 60–61, 116
塞缪尔·莫顿, 91
MOSACAT, 288–92, 294, 297, 300, 417
达斯汀·莫斯科维茨, 230
Mozilla 基金会, 102, 413
多模态模型, 92–93, 158, 175, 176, 234–35, 237, 246, 375
Mundie, Craig, 68
米拉·穆拉蒂, 343–51
- 与奥特曼, 244, 345–51, 355–56, 362, 392–93 解雇与复职, 1–5, 9–10, 364–73 临时首席执行官, 1–2, 8, 357, 364–65, 366 领导风格, 345–51, 362, 363–64
- 个人背景, 69, 343–44
- 首席技术官, 343, 345–46
- 与 DALL-E, 241
- 离职, 404, 405–6
- 入职, 69, 344
- 约翰逊与股权危机, 392–93
- 与微软（Microsoft）, 182, 184, 270
- Omnicrisis, 396–98
- Scallion, 381
- 超级对齐, 387
- 在特斯拉（Tesla）, 69, 344, 362
- 与 Toner, 348–51, 355–56
- 应用副总裁, 150, 344–45
希里安·墨菲, 317
埃隆·马斯克
- 与奥特曼, 23–24, 26–28, 62–63, 64–66, 147, 316–17, 382 解雇, 368–70, 372, 375 领导风格, 362, 368
- 国会证词, 311
- 离开 OpenAI, 64–66
- 创立 OpenAI, 12–13, 26–28, 47, 49–51, 53–54
- 融资, 61–62, 63–64, 66–68
- OpenAI 的治理结构, 13–14, 61–63
- 曼哈顿计划, 316–17
- 《MIT科技评论》报道, 86
- Neuralink, 63, 73, 147, 320
- 与拉里·佩奇, 24, 25–26, 51
- 与 Radford, 122
- AI 风险, 23–27
- SpaceX, 23–24, 25, 28, 50, 368
- xAI, 321, 322, 397, 403, 404–5
- 与 Zilis, 320–21, 324–25
- 与扎克伯格, 406–7
Mutemi, Mercy, 212, 291

N

萨提亚·纳德拉，113
- Altman 被解雇，4、6、10、367
- 国会证词，311
- GPT-4，247–48、346
- OpenAI 合作关系，67–68、71、72、248、265、270
肯尼亚内罗毕，190–91、193、207、208、212、219、416
拿破仑·波拿巴，399–400
美国国家公路交通安全管理局，107–8
Nectome，186–87
尼泊尔，206
Nest，134–35、144–44、150、151、156、244–45
Netflix，59、70
“网络效应”，39、40、187
神经架构搜索，160、171、173
Neuralink，63、73、147、320
神经网络，95、97、98–101
- 幻觉，113–14、217、268、358
- 局限与风险，106–10、112–15
神经信息处理系统大会（NeurIPS），418
- 气候变化 AI，77
- Gebru 与种族主义，52–53、161–62
- OpenAI 参会，50、154、259、374
- 时间检验奖，259、374
神经符号 AI，109–10、116
New Enterprise Associates，32
Gavin Newsom，311
《纽约》杂志，326–27、328–29、332–33、336–40、343、352
《纽约客》，25、26–27、31、57
《纽约时报》，80、90、95、112、115、143、221、244、264、270、272、302、313、36、400–401、403
纽约大学，105、109、235
新西兰，409–13
下一词预测，122、124、130
Thami Nkosi，104
Trevor Noah，11
Safiya Umoja Noble，162
噪声污染，275
不贬损协议，389–90
北非，205–6
朝鲜，146
核聚变，141、186、187、280
核动力潜艇，144
英伟达（Nvidia），61–62、278、304、412
- A100，175–76、236、242
- B100，279–80
- H100，279
- V100，133、175

O

奥巴马，贝拉克，25, 43, 154, 207
奥德修斯，279
Okinyi, Albert，209, 211–12
Okinyi, Cynthia，208, 209, 210–11
Okinyi, Mophat，193, 207, 211–12, 291, 415–17
奥林工程学院，121, 411
Olson, Parmy，18
Ommer, Björn，236
Omni，380, 381
Omni 危机，390–92, 395–98, 400, 401, 403, 404
《随机鹦鹉的危险》（Bender），164–73, 254, 276, 414
OpenAI。另见具体人物与产品条目
- 奥特曼被解雇与复职，1–12, 14, 364–73 作者的报道，12, 370–73 调查经过，369–70, 375–76, 377, 392
- 奥特曼对 OpenAI 的愿景，9, 83, 142–43, 262
- 应用部门，150–52, 154–56, 178–79, 213–14, 236–37, 239– 40, 241, 247–51, 253, 267–68, 313, 314, 344–45, 375, 379–80
- Blip 事件，375, 377, 384, 386, 396, 397–98
- 董事会。见 OpenAI 董事会
- 建筑与办公室设计，73–74, 316
- 公司结构与治理，13–14, 61–67, 369–70 奥特曼的重组，86, 402–3, 407 “利润上限"制，70, 72, 75, 322, 370–71, 401 营利性，13, 14, 61–64, 69–70, 233, 369, 407 有限合伙制，66–67, 69–71 非营利性，6, 13, 14, 27, 28, 49, 50, 61, 63– 64, 65, 67, 233, 267, 402–3, 407
- 公司章程，67, 70, 239, 401
- 商业化，13, 14, 66–67, 72, 75, 101, 110, 143, 150–51, 154–55, 175, 267, 402
- 公司内部矛盾与分歧，144–47, 149, 155–56, 233–34, 239–42, 267–68, 313–16, 345, 351–52, 387, 396, 402, 403–4
- 公司文化，53–54, 127, 146–47, 157, 262–64, 267–68
- 公司使命，5, 28, 66–67, 72, 76, 83, 84–85, 240, 385, 400– 402, 418
- 薪酬，50, 63–64, 69–70
- 算力阶段与计划，278–81
- 数据瓶颈，244–45, 280, 309
- 分家，156–57, 181, 213, 230, 233, 242
- 员工，256, 262–63, 385
- 股权与股权危机，69–70, 388–90, 392–96, 463–64n
- 探索性研究，149, 151–52
- 创立，12–13, 26–28, 46, 47–51 瑰丽酒店晚宴，28, 46, 47, 48, 55
- 前沿模型论坛，305–6, 309
- 融资，61–62, 65–68, 71–72, 132, 141, 156, 262, 320– 21, 331, 367, 377, 405
- 生成式 AI 与 OpenAI，110–15, 121–22
- 约翰逊危机，382, 390–92, 393
- 发布，50–51, 52–53
- 标志，4, 82, 385
- 微软合作关系。见微软与 OpenAI 的合作关系
- 马斯克离开，64–66
- 命名，28
- “范式转变”，137, 189, 212
- 招聘，53–54, 57–59, 63–64
- 研究部门，150, 151–52, 156, 177–78, 181–84, 240, 247, 260– 61, 268–69, 313, 314, 347–48 AI 科学家，183, 318–19, 325, 347, 375
- 研究路线图，59–61, 175–78, 242
- 2022 年 10 月静思会，256–57
- 安全部门，145–46, 147, 149–59, 179–81, 213–15, 228, 239–41, 248–50, 254–55, 258, 261, 267–68, 305, 314, 317, 351–52, 372–73, 377–78, 380, 387, 388–89, 392–93, 403
- 规模化扩展（scaling），66, 117–20, 123, 130–32, 146, 159–60, 175–78, 213– 14, 242, 278–79, 307, 373–74, 405
- 要约收购，2, 4–5, 6, 11, 367
- 估值，2, 11, 14, 18, 49–50, 70, 84–85, 320–21, 406
OpenAI 定律，60–61, 116, 123–24
OpenAI Startup Fund，187–88, 324–25, 362
Open Philanthropy，56, 57–58, 230–32, 322
OpenResearch，185
开源，49, 304–5, 308–11, 309, 401
《奥本海默》（电影），316–18
奥本海默，J·罗伯特，316–18
Orion（内部代号），374–75, 379, 380, 405
Ortiz, Karla，303
鸵鸟，221
Otero Verzier, Marina，297–98, 299
牛津互联网研究所，202, 416
牛津大学，26, 55–56, 104, 229

P

p(doom)（毁灭概率），232, 250, 317, 319–20, 377
Pachocki, Jakub，145
- AI 科学家，318–19, 347
- AI 安全，145, 148–49
- 与 Altman，312, 386–87 解雇与复职，6, 8, 365–66, 366, 373 领导行为，347–48, 353, 355–56
- Dota 2，145, 244–25
- GPT-3，244–45
- GPT-4，312
- 新任首席科学家，386–87, 406
- Omnicrisis，396–98
拉里·佩奇，24, 25–26, 51, 249
巴基斯坦，222
Pang, Wilson，199
回形针，26, 56–57
“范式转变”，137, 189, 212
Parakhin, Mikhail，355
Park, Matt，204
Parque de las Ciencias，292
Patterson, Dave，172–73
PayPal，38, 50, 142, 198
PBJ1/PBJ2/PBJ3/PBJ4（项目代号），192
同行评审，15n, 170, 374
Pena, Daniel，294–95, 297, 417
感知机，90, 94–95
《感知器》（明斯基），95, 96–97
Perrigo, Billy，137, 192, 210
Phillips Exeter School，321
凤凰城，279
桑达尔·皮查伊，169, 311
Picoult, Jodi，135
奥古斯托·皮诺切特，273, 296
先驱大厦，73–74, 316, 397
Piper, Kelsey，388–90, 394, 403
掠夺的土地，见萃取主义
Png, Marie-Therese，104
Poe，324
色情内容，108, 162, 189, 237–38。另见儿童性虐待材料
Posada, Julian，196, 197, 291
贫困，191, 201, 207, 282, 293, 333–34
Preparedness Framework（应对准备框架），379–80, 404
隐私问题，见数据隐私
生产率，16, 18, 114–15, 222, 265–66
Maven 项目，52
心理咨询，191, 209–10, 211
公共政策，19, 43, 54, 75, 81, 125–28, 154, 276, 302–8, 311–12。另见法规
纯语言假说，129–30, 131, 158–59, 234, 318

Q

Q*（项目代号），373–74
量子计算，141
Queer in AI，161、418
智利基利库拉，285–88、290、296–99
Quora，7、183、321、324

R

种族主义，52–53, 56, 91, 108–9, 114, 161–64
Radford, Alec，121–24, 126, 137
- CLIP，235
- 离职，406
- GPT-1，123, 124, 235
- GPT-2，135
Raji, Deborah，56–57, 108, 161, 238, 306–7, 310–12, 419–20
Ralston, Geoff，34, 36, 142
Ramesh, Aditya，235, 236
Ramos, Sonia，281–82, 284–85, 295
快速泛化，154
Raven（内部代号），279
现实扭曲力场，34
Reddit，34, 151, 163
权力再分配，418–21
“红队测试”，179–80, 380
Regalado, Antonio，186, 187
监管政策，25, 27, 84, 86, 134, 136, 265, 272, 301,
- 303–4, 306–7, 311–12, 357, 358, 384
基于人类反馈的强化学习
- （RLHF），123, 137, 146, 155, 176, 213–23, 245, 248, 315, 381, 387
Remotasks，203–4, 218–23, 416
Renaldi, Adi，186
可再生能源，77, 275, 277
韧性筛查，208
ResNet，309–10
Retro Biosciences，186–87
《瑞克和莫蒂》（动画），68
Rickover, Hyman G.，144
Rihanna，1
Roberts Companies，29
Robinson, David，358
Roble, James，329
机器人学，66, 69, 71, 130, 150, 156, 321
Rodríguez, Tania，289–90
失控 AI，55, 56, 145, 230, 231–32, 250, 306, 314, 319–20, 419
Roose, Kevin，112, 264
Rose, Charlie，40
Rosenblatt, Frank，90, 94–95, 97
罗斯伍德酒店晚宴，28, 46, 47, 48, 55
魔方，71
俄罗斯，146
- 乌克兰战争，52, 191
卢旺达，102, 260

S

Safe Superintelligence，405
安全。见 AI 安全
Salinas, Alejandra，290–91
Sama AI，190–92、206–13、218–19、242、416
圣地亚哥，智利，271–74、285、287–88、295–96、299–300
Scale AI，195
- 数据标注，202–6、213–14
- 支付系统，204–5
- RLHF 项目，218–23
规模化扩展（scaling），115–16、117–20、130–32、146、160–61
- “厌恶缩放定律”，137–38
缩放定律，116、123、150、156–57、175、177–78、306
Scallion，375、378–82
Schmidt, Florian Alexander，196–97
约翰·舒尔曼，258、387、404
- InstructGPT，214–17、246–47
Schumer, Chuck，43、69、311–12、419
Scoble, Robert，33
Scott, Kevin，4、68、71、72、182、247、266–67、270、344
Sears, Mark，206、212–13
美国证券交易委员会（SEC），384、385、403
李世石，59
自动驾驶汽车，100、107–8、141
- 数据标注，193–95、202–6、214–15
Seligman, Nicole，376
SemiAnalysis，268、285
美国参议院司法委员会听证会，301–3、307–9、314–15
红杉资本（Sequoia Capital），32
服务器。另见数据中心
- 冷却，274–75、277–78、288–90、294
- 微软（Microsoft），149
- OpenAI，257、260–61、267
性机器人，179
性别歧视，162、344–45
Shear, Emmett，9–10、34、367、369–70
Shopify，46
Sidor, Szymon，6、8、145、148–49、244–45、318–19、366
Sierra，375
注册激励，267
2023 年硅谷银行危机，41–42
Silverman, Carolyn，18
Simo, Fidji，376
Sky，391
Slack，3、9、81、156、240、263–64、319、358、374、389、402–3
奴役，89、208、400
Slowe, Chris，34
Solon, Olivia，103
Song, Dawn，108、114
Sora，375
源代码，57–58
南非，104–5、115
韩国，59
SpaceX，23–24、25、28、50、368
西班牙征服智利，271、272
稀疏模型，177–78
物种歧视，24
语音识别，78、92、100、102、118、244、309、411
- Whisper，244、247、267、413
Stable Diffusion，114、137、236、242、284
Stack Overflow，183
标准化考试，91–92、245–46
斯坦福大学，52、74、102、137、173、235、418
- AI 指数报告，105
- AI Salon，24
- 阿尔特曼就读期间，31–32、39、142
星际争霸 II，66
Starlink，154
Steyerl, Hito，137–38
Strawberry（内部代号），374、375、404
压力测试，179–80
Stripe，41、46、55、58、73、82
Strubell, Emma，159–60、171–73、309
穆斯塔法·苏莱曼，320、384–85
SummerSafe（项目名），68
Summers, Lawrence “Larry”，11、375
超级对齐，316–17、353、387–88
Superassistant（内部产品名），247–49、258–59、381
超级智能，19、24、27、55
《超级智能》（博斯特罗姆），26–27、55、122–23
Suri, Siddharth，193–94
监视资本主义，101–2、103–4、111、133、138
监视无人机，52
伊利亚·苏茨克维
- 对齐曼哈顿计划，315–18
- 与阿尔特曼，347–48、349、386–87、397、401、406–7
  - 罢免与复职，1–6、7、9–12、365–66、368、373–74
  - 领导行为，340、353–59、363–64
- 接受作者采访，78–81、159–60
- 个人背景，47
- 董事会与监督，322–23
- 代码生成，152
- OpenAI 的文化，53–54
- 深度学习与神经网络，100–101、109、110
- 离职，386–87、398、401
- DNNresearch，47、50、98、100
- “感受 AGI”，120、254–55
- OpenAI 的创立，28、46、47–51
- 在谷歌（Google），50、100–101
- OpenAI 治理结构，61–63
- 辛顿与苏茨克维，47、100–101、109、117–18、121、254
- ImageNet，47、59–60、100–101、101、117–18、259
- 领导力，53–54、58–59、61–62、63–65、69
- 穆拉提与苏茨克维，343、344、347–48、349
- Omnicrisis 与苏茨克维，396–98、401
- 偏执倾向，148、149、441n
- 个性，3–4、119–20
- Q*（Strawberry），373–74、404
- 研究路线图，59–61
- Safe Superintelligence，405
- 规模化扩展（scaling），117–20、133、159–60、373–74
- 超级对齐，316–17、353、387
- Toner 与苏茨克维，325、343、351–52、353–55、359–60
- Transformer 架构，121–22
泰勒·斯威夫特，2
符号主义者（符号主义），94–95、97、99–100、109–10、116、217
叙利亚难民，137–38

T

Tay，153
Taylor, Bret，11，375
技术革命，16，88–89，93
- AI 帝国，16–19，197，222–23，270，414，418，420
技术性失业，78–81
技术民族主义，308–11
非洲科技工作者社区（TCA），416–17
Te Hiku Media，411–14
Telemachus，279
Tenaya Lodge，255
“10倍工程师”，82，83，142–43，175，177–78，242
毛利语（te reo Māori），409–13
特斯拉（Tesla），63，64，86，194
- 自动驾驶仪（Autopilot），64，107–8，109
- Model X，69，344
- Murati 在特斯拉，69，344
时间考验奖，259，374
文本生成，112，113，121，124
文生图，176–77，234–38。另见 DALL-E
Thiel, Peter
- 与 Altman，26–27，36，38–39，39–42
- Founders Fund，38
- OpenAI 的创立，12–13，50
- “垄断"策略，39–40，142
- Palantir，38，69
- PayPal，38，40，142
- 与特朗普，38，42
Threads，260
《三体》（刘），83
三里岛重启，275
TikTok，304
Tiku, Nitasha，253–54
《时代》杂志，137，192，210，416–17
Tironi Rodó, Martín，273–74，297–98，300
托纳，海伦，58
- 与 Altman 及董事会，7，11，253，321–22，375，376 领导行为，324，348–51，353–55，356–59，361–62，364
- “代价信号"论文，357–59，364
- 与 Murati，348–51，356–57
- 与 Sutskever，325，343，351–52，353–55，359–60
Tools for Humanity，185–86
TPU（张量处理器），171
转录，220–21
Transformer 架构，120–22，158–59，160，165–66，169，235
透明度，5，9，14，19–20，81，82，86，119，134，143，166，167，172，
- 173–74，230，301，384，403，406，419–20
特朗普，唐纳德，38，42，51，195，321，406
Tuna, Cari，230
图灵，艾伦，81–82，89，91，93，373
图灵奖，105，162
图灵机，81–82，91
Twitch，9，34，367

U

Uber，106、107、110、136、194、228
乌克兰战争，52、191
《联合候选名单》（Altman），42
全民基本收入（UBI），85、185–86
德累斯顿应用科学大学，196
加州大学伯克利分校，49、56、108、118、217、235、419
加州大学洛杉矶分校，162
加州大学圣迭戈分校，97
芝加哥大学，272–73、296
马萨诸塞大学阿默斯特分校，79–80、159–60
多伦多大学，47、105、117
“未知的未知”，249
Upwork研究院，18
乌拉圭，272、417
- 数据中心，291–96
- 水危机，292–95
肯尼亚乌塔瓦拉，190、209、211

V

Vallejos, Rodrigo，296–99
无知之幕，3
委内瑞拉危机，195–97，203
委内瑞拉，数据标注，195–96，198–202，203–4，218
维多利亚湖，207
Villagra, Julia，389–90
Vincent, James，119
弗吉尼亚的数据中心，278
Volpi, Mike，203
Volta, Alessandro，133

W

《机器人总动员》（电影），234
《华尔街日报》，
- 33, 35, 41, 69, 102, 188, 193, 212, 280, 367, 384, 390–91, 416
亚历山大·王，202–3, 213, 218
Warzel, Charlie，370
《华盛顿邮报》，69, 114, 253, 371, 400, 403
水污染，293
水资源，15, 17, 271, 273, 275, 277–78, 280–84, 287–96, 297, 299
Watson Health，99
Waymo，100
Weil, Elizabeth，326–27, 328–29, 332–33, 336–40, 343
Weil, Kevin，404
Weinstein, Emily，307, 309
约瑟夫·魏岑鲍姆，95–97, 420–21
Welinder, Peter，150, 155, 250–51
Weng, Lilian，267, 406
West, Kanye，221
West, Sarah Myers，308
Whale（内部代号），279–80
Whisper，244, 247, 267, 413
吹哨人保护，403
white hats，107–8
维基百科，57, 125, 135, 221
Willner, Dave，238, 249–52, 267, 406
WilmerHale，375
Wong, Hannah，256, 326–28, 338–40
职场影响，78–81, 114–15, 222, 265–66
世界银行，207
Worldcoin，185–86
第二次世界大战，29, 91

X

X（原 Twitter），3, 257, 260, 312, 328, 368–69
xAI，321, 322, 397, 403, 404–5
施乐PARC研究中心，54–55

Y

耶鲁大学，196, 291
Y Combinator（YC），23, 27–28, 32, 34, 36–38, 39, 43
赎罪日，326–27
YouTube，34, 51–52, 102–3, 136, 244–45, 334
埃利泽·尤德科夫斯基，319–20

Z

Zaremba, Wojciech，59, 152, 181–82
Zenefits，36
Zilis, Shivon，63, 320–21, 324, 384
左洛复，329, 330
Zoph, Barret，247, 381–82, 387, 404, 406
Zuboff, Shoshana，101
扎克伯格，马克，38, 42, 159, 311, 406–7

关于作者

郝凯伦是一位屡获殊荣的记者，长期关注人工智能对社会的影响。她为《大西洋月刊》等媒体撰稿，并主持普利策中心"AI聚焦系列"项目，该项目已面向全球数千名记者开展人工智能报道培训。她曾任《华尔街日报》记者，报道美中两国科技企业，后任《麻省理工科技评论》人工智能高级编辑。她的文章被多所大学列为教材，并频繁获各国政府引用。她因报道工作荣获众多奖项，包括美国人文主义媒体奖及美国杂志编辑协会"30岁以下记者"NEXT奖。她毕业于麻省理工学院，获机械工程学士学位。

接下来读什么？

发现你的下一本

好书！

获取个性化书单及作者最新动态。

立即注册。

151469223

人工智能帝国

人工智能帝国

阅读本书

版权说明

目录

前言部分

第一部

第二部

第三部

第四部

后记部分

版权页

献词

题辞

作者注

序章：奔向王座

第一部

1 君权神授

2 文明化使命

3 神经中枢

4 现代性之梦

5 雄心的尺度

第二部

6 登天

7 囚笼中的科学

8 商业黎明

9 灾难资本主义

第三部

10 神与魔

11 顶点

12 被掠夺的大地

13 两位先知

14 解脱

第四部

15 这一手棋

16 明枪暗箭

17 清算

18 帝国公式

尾声：帝国如何倒下

致谢

注释

题词注释

序章：逐鹿王座

第一章：神授之权

第二章：文明化使命

第三章：神经中枢

第四章：现代性之梦

第五章：雄心的尺度

第六章：升位

第七章：囚笼中的科学

第八章：商业黎明

第9章：灾难资本主义

第十章：神与魔

第十一章：顶点

第十二章：被掠夺的大地

第十三章：两位先知

第十四章：解脱

第十五章：豪赌

第十六章：秘密行动

第十七章：清算

第十八章：帝国的公式

尾声：帝国如何崩塌

索引

A

B

C

D

E

F

G

H

I

J

K

L

M

N

O

P

Q