# 登天 LLMS 索引： [llms.txt](/llms.txt) --- 奥特曼职业生涯早期就意识到，新上任的CEO只有"重建公司"才能真正成功。接手YC主席一职时，他以十足的决心付诸实践：推出新项目，设立新基金，拓展加速器对不同阶段初创企业的支持；转向硬技术赛道，涉足核聚变、量子计算、自动驾驶汽车等需要雄心勃勃的科学创新的领域。YC本已是声名显赫的品牌，其影响力版图从每年支持数百家公司扩展至数千家，成为硅谷当之无愧的引力中心。"我最引以为傲的是，我们真的建起了一个帝国。"奥特曼卸任主席后如此说道。 YC时代的落幕，开启了他在OpenAI的新篇章。2019年3月，在全职转入OpenAI的过渡期间，他迅速带来了在YC锤炼出的同一套进攻性思维。他不想让OpenAI跻身全球顶尖AI机构之列，他要让它成为唯一一家。多年来，奥特曼借助YC及其他论坛向创业者传授一个信条：把创业当作赢者通吃的竞争来打。他告诉他们，一家初创公司若想有所作为，就必须迅速而不懈地出击，击败对手，并持续压制对手。 他常用的那个魔法数字是"十"，源自蒂尔的垄断战略。"我有个有点疯狂、带点随意的经验法则：你的技术要比次优方案好上一个数量级。"2014年，彼得·蒂尔在斯坦福大学为奥特曼的创业课客座授课时如是说。比如亚马逊，找到了比实体书店多卖10倍图书的方法；他自己创办的PayPal，找到了比支票结算快10倍的支付方式。"你需要在某个关键维度上实现某种非常强劲的提升，也许是一个数量级的提升。"蒂尔说。 "十"成了奥特曼万物通用的基准数字。初创公司不仅要靠性能高出10倍的技术打入市场，他还会建议，每一代产品都需要再提升10倍。每一代迭代的速度，则是另一个决定成败的关键变量。"如果你的迭代周期是一周，竞争对手是三个月，你会把他们甩得远远的。"2017年，他对一批有志创业者说道。 在YC，奥特曼推动合伙人持续将投资公司数量扩大10倍。"我们会随着时间推移，摸索出如何再翻10倍，再翻10倍。"奥特曼后来在一次活动上谈及自己的策略时说，"总有一天，我们会投资世界上所有的公司。""山姆是我听到的第一个这样说的人——由于初创团队的工作和YC已建立的品牌，我们事实上已经是这个领域的事实垄断者，"奥特曼在YC的继任者杰夫·拉尔斯顿说。 在OpenAI，奥特曼打算沿用同一套策略。2019年底，他向公司发出一份备忘录，阐明长期愿景，强调OpenAI需要在2020年底前在四个类别中"位居第一"：技术成果、算力、资金（用于获取更多算力），以及"准备度"——即组织的安全与保密能力，及其在高压情境下的韧性。 其中最重要的是第一项，他说。OpenAI若想实现使命，就需要率先构建出有益的AGI，或处于领先地位，从而依然能够主导AGI的发展走向。"尽管我们理论上可以放缓能力研究，"他写道——此处指的是推进技术成果——"但鉴于其他人的进展速度，如果我们想对AGI拥有重大影响力，很可能必须在技术进步上全力加速。"随着越来越多的竞争者看透OpenAI的策略并涌入这一领域，这一点只会越来越真切。 "我们还需要更多次的10倍飞跃才能抵达AGI，"他在备忘录后段补充道，"我们应当始终追求颠覆性成果，而非渐进式改良。" 这套成功方程式还有几个不可或缺的要素。维持微软（Microsoft）的满意度、保持算力领先，至关重要。如果OpenAI取得成功，微软已承诺将远不止投入10亿美元。"我们希望微软一路相伴，成为我们始终如一的核心合作伙伴，"奥特曼说，"他们有能力在未来至少五年内，为我们提供全球最强大的超级计算机。"这意味着要告别过去OpenAI那种自由散漫的学术研究氛围，转向聚焦商业化，切实回馈微软。一旦OpenAI有其他想追求的研究项目，届时自然会有资源。"套用那句著名的迪士尼名言，"奥特曼写道，"我们应该先赚更多的钱，才能做更多的研究；而不是先做更多的研究，才能赚更多的钱。" 此外，公司还需要开始收紧透明度。"随着我们取得更多进展，谈论AGI所带来的信息危害风险将不断升高，"奥特曼指出。是时候限制研究论文的发表和模型的部署，采取更严格的保密政策，对外仅披露狭窄技能领域的进展，而非更宏观的AI突破。与此同时，每个人也都需要开始假定，"我们做出的每一个决定、进行的每一次对话，最终都会被调查，并登上《纽约时报》的头版"。 即便如此，"世人仍然需要认为我们在某件事上领先"，他说。这将使"世界上的关键影响者"更"愿意为我们竭尽全力"，也会让"总统级别或其授权代表"级别的全球政策制定者在面临重大决策时，主动向OpenAI"寻求答案"。为此，"我们大概应该计划每年至少发布一次令人印象深刻的进展展示"。 最后，公司需要开始以更认真、更团结的姿态行事。奥特曼引用了海曼·G·里科弗的一段话。里科弗是美国海军上将，因主导建造世界首艘核动力潜艇而被誉为"核动力海军之父"。这段话在OpenAI创立之初，就被奥特曼命人漆在了办公室的墙上： > 我相信，我们每一个人都有责任这样去行动：仿佛世界的命运就系于自己一身。诚然，一个人单枪匹马无法完成这项工作。然而，一个人可以带来改变。我们每个人都有义务将自己的独立思考与个人能力，投注于广泛的人类关切之中。正是怀着这种信念，我们才能坦然直面肩负人类繁荣的责任。我们必须为人类的未来而活，而非为了个人的安逸或成功。 "构建造福人类的AGI，或许是世界上最重要的事业，"Altman在文件的引语下方写道。"我们必须将使命置于任何个人偏好之上。 "无足轻重的事不必大动干戈，这样我们才能把精力留给真正举足轻重的事——而那样的事将会有很多。" --- 内部矛盾其实早已在酝酿之中。公司各处浮现的小裂缝，正逐渐汇聚成深层的分歧。Brockman 与阿莫代伊兄妹曾经相互引为挚友，如今却在越来越多的问题上针锋相对。其中，达里奥·阿莫代伊对 Dota 2 项目的降级处理令 Brockman 深感不满，他认为阿莫代伊从未认真对待自己的贡献。Dota 2 曾是算力消耗最大的项目，而阿莫代伊将算力集中调配给 Nest 团队用于 GPT-3 研发，同样让 Brockman 心生抵触。阿莫代伊兄妹则认为 Brockman 难以共事，拒绝让他参与他们的语言模型开发。 这种张力在领导层之间造成了裂痕，并逐渐蔓延至公司内各自阵营中效忠不同人的员工。Dota 2 项目期间，Brockman 与部分团队成员在高强度的工作、巨大的压力以及一次说走就走的夏威夷休整中，建立起了近乎家人般的情谊，尤其与波兰科学家 Jakub Pachocki 和 Szymon Sidor 最为亲密——这两位室友也是最好的朋友。阿莫代伊麾下的 AI 安全团队，尤其是 Nest 团队的核心成员，则构成了另一个圈子，将对失控 AI 与极端风险的共同忧虑作为精神纽带。他们刻意将工作与公司其他部分隔绝，建立了私有 Slack 频道和文档，甚至其他高管也无权访问。这让 Brockman 之外的更多人同样感到被边缘化——他们既无从参与公司核心研究，算力资源也日益萎缩。 与此同时，阿莫代伊 AI 安全阵营的人对 Altman 的一些行为也日渐不安。OpenAI 与微软（Microsoft）的协议签署后不久，其中几人震惊地发现，Altman 为换取微软的投资，竟向其承诺了如此广泛的技术访问权限，与他们此前从 Altman 那里得到的理解大相径庭。他们担忧，一旦 OpenAI 的模型真的出现 AI 安全问题，这些承诺将使阻止模型部署变得极为困难，甚至根本不可能。阿莫代伊阵营开始对 Altman 的诚信产生严重质疑。 "我们都是务实的人，"这个群体中的一人说，"我们当然要融资，当然要做商业化的事。如果你是 Sam 那样经手大量交易的人，这样想或许很合理：'好，来谈一笔交易，拿这个换那个，再拿下一个来换。'但如果你是我这样的人，你就会想：'我们在拿一件自己还没完全搞清楚的东西去交换。'这感觉把我们推进了一个让人不舒服的处境。" 这一切都发生在公司内部弥漫着种种偏执情绪的大背景之下。在 AI 安全阵营内部，这种情绪集中体现在他们眼中日益确凿的一个判断：强大而目标错位的 AI 系统，可能带来灾难性的后果。一段离奇的经历尤其令他们中的几人深感不安。2019 年，在一个参数量约为 GPT-2 两倍的后续模型上，一组研究人员开始推进阿莫代伊所倡导的 AI 安全工作：测试基于人类反馈的强化学习（RLHF），以此引导模型生成更积极正面的内容，并远离任何具有冒犯性的表达。 然而在某个深夜，一名研究员在离开前提交了一次代码更新，其中包含一个笔误，随即让 RLHF 进程在无人值守的情况下运行了整晚。这个笔误至关重要：一个减号被错写成了加号，致使 RLHF 进程反向运行，反而推动 GPT-2 生成更多具有冒犯性的内容。到第二天早晨，这个笔误已造成严重后果——GPT-2 在回应每一个提示时，都输出了极为淫秽露骨的语言。这件事既令人啼笑皆非，也着实令人忧虑。研究员找出错误后，向 OpenAI 代码库提交了修复，并附上一条注释：*不要造出一个效用最小化器。* 规模化扩展（scaling）本身就能带来 AI 能力的飞跃，这一认识也在员工中引发了另一层忧虑：如果其他公司发现了 OpenAI 的秘密，会发生什么？"我们这套东西背后的秘密，能写在一粒米上，"他们彼此私下说——那就是"规模"这一个词。正因如此，他们也担忧强大的能力一旦落入不法之徒手中将带来何种后果。领导层更是推波助澜，频繁提及中国、俄罗斯和朝鲜的威胁，强调 AGI 的研发必须掌握在美国机构手中。这种论调有时令非美国籍员工颇感不快。一位前员工回忆，午餐时大家会相互追问：为什么非得是美国机构？为什么不能是欧洲的？为什么不能是中国的？ 在那些热议 AI 研究长远影响的喧嚣讨论中，许多员工反复回想起 Altman 早期将 OpenAI 比作曼哈顿计划的比喻。OpenAI 真的在研制核武器的当量之物吗？这与公司作为一家学术机构所积累的那种充满理想主义的文化氛围，形成了奇异的反差。每逢周五，员工们会在一周的高强度工作后，聚在一起享受音乐与美酒之夜，在轮流登台弹奏办公室钢琴的同事营造的舒缓旋律中，将压力慢慢消散，直至深夜。 重心的悄然转移令部分人内心不安，对一些偶发的无关事件也愈加敏感焦虑。有一次，一名记者尾随员工混入有门禁的停车场，进入了大楼；还有一次，一名员工发现了一个来路不明的 U 盘，旋即引发了关于其是否携带恶意软件的惶惶猜测——恶意软件是常见的攻击手段，这会不会是某种网络安全入侵的图谋？在用气隙计算机（一台与互联网完全断开的机器）对其进行检测后，这个 U 盘最终证明并无异常。阿莫代伊至少有两次用气隙计算机撰写核心战略文件，并将机器直接连接打印机，只以纸质副本形式传阅。他极度担忧国家行为者窃取 OpenAI 的机密，进而研发出用于恶意目的的强大 AI 模型。 "没有人为这份责任做好了准备，"一名员工回忆道，"这件事让大家彻夜难眠。" Altman 本人则对信息泄露深感焦虑。他私下担心 Neuralink 的员工——自马斯克离开后，OpenAI 仍与 Neuralink 共用办公室，只是气氛已远不如前，多了几分不安。Altman 同样对马斯克放心不下——马斯克拥有一套庞大的安保体系，包括专职司机和保镖。深感双方实力悬殊的 Altman，曾秘密委托一次电子反监听审查，试图扫描办公室内是否存在马斯克可能留下的、用于监视 OpenAI 的窃听装置。 面对员工，Altman 以美国竞争对手正以比 OpenAI 更快的速度推进 AI 研究为由，为公司日益走向封闭、同时又要全速前进的做法进行辩护。"我们必须对世界的美好未来承担责任，"他在愿景文件中写道，"但另一方面，如果威权政府抢在我们之前研发出 AGI 并加以滥用，我们同样会辜负自己的使命——要完成使命，我们几乎势必要以极快的速度取得技术进展。" --- 奥特曼开始收紧安全管控。高管们就新的边界在哪里展开讨论：OpenAI应当更像一家保护专有技术的财富500强企业，还是更像一个守护高度机密的政府机构？作为基本底线，高管们一致认为必须锁定模型权重——这是可用于复制OpenAI深度学习模型完整训练版本的关键信息。一旦被窃，不仅会为不法分子提供助力，还会削弱OpenAI的竞争优势。 起初，公司没有专职安全人员，奥特曼指派了基础设施团队的一名成员——该团队负责从公司GPU到办公室网络的一切事务——专门思考防止模型被盗的方案，防范对象不仅包括企业间谍或国家支持的黑客，也包括OpenAI自己的员工。在网络安全领域，防范"内部威胁"是相对标准的做法。内部人员可能蓄意破坏或窃取OpenAI的知识产权，也可能被诱骗而泄露机密。在有人提出这一问题之后，奥特曼私下承认，苏茨克维这样的人可能面临后一类风险。这位首席科学家天然是不法分子的攻击目标：他是那种头脑超群却缺乏世故的科学家原型，在组织内地位举足轻重，掌握着最高级别的信息访问权限。 苏茨克维有着自己的偏执。作为AI研究圈这个以高智商著称、却在社交上普遍笨拙的世界里的明星科学家，他不止一次目睹过狂热粉丝和跟踪骚扰的行径。陌生人曾多次试图潜入OpenAI办公室，只为一睹他的真容。与Amodei一样，他也担心AI的力量会引来别有用心的政府的觊觎，并怀疑那些急于向他求教的人是否是潜伏的外国特工。他曾向同事设想：万一自己的手被砍断，被人拿去欺骗掌纹扫描仪以解锁OpenAI的机密，他该如何应对。他希望少招人、保持精简团队，以降低被渗透的风险。他与Jakub Pachocki、Szymon Sidor共同提议建造一个安全隔离设施——一个装有物理隔离计算机的地堡，用于存放OpenAI的模型权重并防止外泄。然而这个想法根本不切实际：模型首先需要在微软（Microsoft）的服务器上完成训练，提案因此从未落地。 在大多数员工视线之外，随着企业监控软件的安装，数字安全悄然升级；后台也同步对物理安全进行了加固。办公室停车场的闸门得到强化。在办公室内部，多处门禁的密码键盘被设置了"胁迫密码"——一种特殊代码，输入后可在不引起注意的情况下触发秘密警报，通知相关安全人员有现场威胁。公司还向供应商询价，评估将服务器机房加固至能够抵挡机枪扫射所需的费用，不过这一方案随后被放弃。 在那份愿景备忘录中，奥特曼指出了压力不断加剧所催生的内部分化。"OpenAI内部（至少）存在三个派系——打个不恰当的比方，分别是探索研究派、安全派和创业派。"探索研究派致力于推进AI能力，安全派专注于责任担当，创业派则强调快速行动、将事情做成。 按奥特曼的说法，每个派系都有公司需要珍视的重要价值观：探索研究派的"即便屡遭失败，我们也将追求重要的新想法"；安全派的"我们将坚定不移地做正确的事"；创业派的"我们总能找到办法把它实现"。"我们必须继续避免部落间的内讧，"他说，"要取得成功，我们需要这三个派系合而为一——同时保留各自的优势——共同朝着最大造福人类的AGI目标前进。" 奥特曼始终没有点名道姓，但员工们心领神会。苏茨克维是探索研究派的代言人；Amodei及其AI安全团队专注于极端风险，代表着安全派；布罗克曼则是创业派的旗手。不久之后，疫情来袭，所有人开始居家办公，各派系之间的隔阂由此愈发难以弥合。 --- Amodei 督促团队加快推进。就像训练 GPT-2 时那样，他们逐步训练规模递增的模型，最终迈向拥有 1750 亿参数、调用一万块 GPU 的完整体量，并按科学家名字以字母顺序依次命名：最小的模型取名 ada，致敬英国数学家 Ada Lovelace——她被普遍认为是史上第一位程序员；babbage 致敬英国发明家 Charles Babbage，他构想了第一台数字计算机，Lovelace 正是为此机器提出了程序设计方案；curie 致敬波兰裔法国物理学家兼化学家居里夫人，她是首位荣获诺贝尔奖、也是唯一两度获奖的女性；davinci 则致敬达·芬奇。这一过程既是为了持续验证缩放定律在更大规模下是否依然成立，也出于更实际的考量——在每个新量级上逐步攻克硬件与数据层面的挑战。Nest 团队定期向全公司汇报进展，现场氛围日益热烈。"那种震撼很难用语言描述，"一位研究员回忆道，"我这辈子从来没见过这样的东西。" 与此同时，Altman 和 Brockman 开始筹划商业化方案。2020 年 1 月下旬，Brockman 着手编写 GPT-3 应用程序接口（API）的第一行代码。这套 API 将让企业和开发者在无需获取模型权重的前提下调用模型能力，并将其嵌入自己面向消费者的产品。公司随即拆分为两个部门：米拉·穆拉蒂晋升为新成立的应用部门副总裁，主管 API 及商业化战略；她手下，原机器人学团队负责人 Peter Welinder 转岗主导产品；曾联合创办一家被 Airbnb 收购的 AI 初创公司的 Fraser Kelton，以及曾任职于 Leap Motion 的 Katie Mayer，分别受聘担任新产品团队与工程团队的负责人。未被纳入应用部门的人员，则自然归入研究部门。 这次拆分加深了 Altman 早已察觉的裂痕。应用部门的成立引入了一批来自其他初创公司的员工，虽然人数不多，却持续增加，由此壮大了"初创系"的阵营。探索性研究系对此态度复杂，担忧 OpenAI 会沦为又一家普通的硅谷产品公司；而安全系——Amodei 所在的派系，同样隶属于研究部门——则对此愈发强烈地抵制。 在安全系的许多人看来，很快通过 API 或其他方式发布 GPT-3，会白白葬送他们加速规模化扩展所换来的时间优势——那段时间本该用来完善模型的安全性。应用部门的存在意义在于为 OpenAI 的技术找到早期变现路径，在他们看来这就意味着必须在近期发布，因此双方立场相左。在他们看来，API 同时也是所有发布策略中管控最严密的方式：公司可以有选择地决定向谁开放访问权限，同时收集宝贵的数据，以了解模型可能被如何使用或滥用。在全员大会上，Altman 左右逢源：API 最终能帮助双方各取所需；有了一定的营收，OpenAI 才能在 AI 安全研究上投入更多。 GPT-3 训练完成后，员工开始在内部试玩这个模型，测试其能力边界，并摸索 API 的第一个版本。公司举办了一场黑客马拉松，员工们天马行空地设想各种应用场景。然而，每出现一个新原型，内部张力就会加剧一分。应用部门以及探索性研究系的许多人，看着这些演示愈发兴奋；而安全系的许多人则将其视为又一个佐证：在未经全面测试、未经充分研究的情况下发布模型，可能引发灾难性后果。 其中一项能力尤为引发争议——GPT-3 的代码生成能力。这并非 Nest 团队的预期目标，但在爬取 Reddit 链接、使用 Common Crawl 作为训练数据的过程中，他们顺带采集了工程师发布在各类在线论坛上用于提问或分享技巧的零散代码片段，由此使模型习得了一定的编程语言能力。这一进展让探索性研究系和应用部门大为振奋：它不仅是令人印象深刻的技术里程碑，还有望成为加速公司 AI 研究生产率的工具，并让 GPT-3 成为更具吸引力的产品。而正因如此，安全系的一些人陷入恐慌。如果 AI 系统能够利用自身的代码生成能力来修改自己，就可能加速更强大能力的涌现，增加其脱离人类控制的风险，并大幅提升造成极端危害乃至生存威胁的概率。 Sutskever 与 Wojciech Zaremba——马斯克曾在一次会议上当面施压的创始成员之一——随后着手组建一支团队，专门打造一个面向代码生成的模型。然而在项目启动会上，两人才得知 Amodei 已经有了自己开发代码生成模型的计划，并不认为有必要合并。尽管心存顾虑，Amodei 仍相信，与对待 GPT-3 时一样，应对代码生成潜在危害的最佳方式，就是比任何人都更快地把模型做出来——包括 OpenAI 内部他认为不会将 AI 安全置于首位的其他团队——然后用争取到的时间开展降低模型风险的研究。两支团队就此各自为战，推进重复的代码生成项目，令其他员工大惑不解。"从旁观者角度看，这简直像是某种疯狂的《权力的游戏》，"一位研究员说道。 围绕能否通过 API 发布 GPT-3 的僵局一直延续到暮春时节。安全系持续以可能加速极端 AI 风险为由呼吁极度谨慎，力主尽可能推迟发布；应用部门则继续推进 API 上线准备工作，认为让模型与真实世界接触才是改进的最佳途径。大约在同一时期，第三股员工群体也开始表达新的忧虑——他们担心在美国政治、社会与经济动荡的大背景下，强大的文本生成能力将带来难以预料的冲击。到 2020 年 5 月，疫情已引发比大萧条更为迅猛的失业潮。同月，明尼阿波利斯警察 Derek Chauvin 杀害了 46 岁的黑人男性 George Floyd，在全美乃至世界各地引爆了大规模"黑人的命也是命"抗议浪潮。团队同样对即将到来的美国总统大选忧心忡忡。 然而，OpenAI内部开始流传一个传言：谷歌（Google）可能很快就会发布自己的大型语言模型。这种可能性并非空穴来风——谷歌（Google）在年初发表了一项关于新型聊天机器人Meena的研究，该模型基于参数量达GPT-2约1.7倍的大型语言模型构建。谷歌（Google）极有可能正在将那个模型规模化扩展（scaling）到与GPT-3相当的量级。这股传言最终为API的发布盖棺论定：既然世界上即将出现一个同等规模的模型，安全团队便觉得继续压着GPT-3的理由已经不够充分了。 当年六月，公司正式宣布了这一API，并开放申请表供外界申请早期使用权限，优先向应用部门认为能够负责任地使用该技术的大型企业开放。与此同时，公司还维护着一张巨大的电子表格，供员工填写希望插队的人的名字，包括家人、朋友，乃至各自喜爱的明星名人。 谷歌（Google）传言中的那个模型，始终没有真正面世。这家科技巨头确实开始研发一款比Meena更大的模型——名为LaMDA，意在打造一款更出色的聊天机器人——但其规模仍略小于GPT-3，而公司最终决定在ChatGPT发布之后才将LaMDA推向公众。谷歌（Google）高管认定，LaMDA尚不符合公司的AI伦理标准。部分员工也担心重蹈微软（Microsoft）一桩臭名昭著的覆辙：2016年，微软（Microsoft）推出了一款AI聊天机器人Tay，在用户反复诱导其重复不当与冒犯性内容之后，Tay迅速演变为充斥种族主义与厌女情绪的机器人，甚至公开表达对希特勒的支持。GPT-3 API的发布，不会是OpenAI最后一次因夸大竞争威胁而仓促推出技术的决策。 --- 正如 ChatGPT 让 OpenAI 一夜之间家喻户晓，GPT-3 则是它在 AI 和科技圈的那个关键时刻。2022 年底，ChatGPT 在 GPT-3 的基础上加入了若干重要改进与功能——包括面向消费者的网页界面、对话能力、更多安全机制以及免费版本——从而将其打造成一款风靡全球的产品。但公众彼时通过这款聊天机器人所体验到的核心能力，开发者们早在两年前的 2020 年就已通过 API 亲身领略。同样的惊叹与震撼，让开发者们难以置信。 GPT-3 的能力远超 GPT-2 的任何表现。无论是学术界还是产业界，此前从未有人见过这样一种技术：它能以看似同等的娴熟度生成文章、剧本和代码。这种跨任务的灵活性本身已属极高的技术成就——此前的语言模型通常只擅长完成针对性训练的单一任务。但更令人叹服的是，许多人认为 GPT-3 开始展现出另一项在该领域长期以来梦寐以求的特性：快速泛化。只需向模型展示几个新任务的示例，它便能举一反三。 那一年的 NeurIPS 上，OpenAI 阐述这项模型工作的论文荣获顶级研究奖项，这让公司员工大感意外，也确立了该实验室作为顶尖机构的地位。效果正如领导团队所预期。OpenAI 新获的声望让招募和留住人才变得更加容易，而来自 OpenAI LP 的融资则在其中发挥了关键作用——这笔资金终于让公司在薪酬待遇上能够与谷歌（Google）和 DeepMind 一较高下。 2020 年 10 月，随着 OpenAI 知名度的持续攀升，Altman 聘用了 Steve Dowling——曾在苹果主导传播工作的资深高管——出任 OpenAI 新任传播副总裁。他同时将政府关系事务交由 Dowling 统管，着重强调向政策制定者普及 AI 知识、让他们提前了解即将到来的技术能力的重要性。Jack Clark 离职后，Dowling 引入了 Anna Makanju——奥巴马政府高度器重的前顾问，曾在 Facebook 和 Musk 的 Starlink 从事政策工作——负责统筹政策与全球事务。 应用部门急于乘 GPT-3 之势，积极谋划如何拓展商业化战略。然而几乎每走一步，安全派都会从中阻挠。对于安全团队而言，GPT-3 的仓促发布已是既成事实，弥补这一草率之举的正确方式不是继续扩大传播，而是尽快弥补模型的已知缺陷。当时 API 上线的版本没有任何内容审核过滤机制，输出结果也未经基于人类反馈的强化学习（RLHF）精调。双方在会议上都试图寻找中间地带，结果却是各说各话，陷入无休止的循环。有一次，后来晋升为产品副总裁的 Welinder 愤愤地说，每次对话都像是在重演 1944 年美国情报机构关于非暴力破坏的秘密手册。这份 2008 年解密的手册中有一节列出了一套简单的指令，专门介绍如何动摇和削弱一个组织的生产率，包括： 尽可能频繁地发言，且每次都尽量拖长。 尽可能频繁地提出无关议题。 在措辞、会议记录和决议的用语上反复纠缠。 将上次会议已议定的事项翻出来，试图重新质疑该决定的合理性。 没完没了地追问。 这种对立情绪渗透到了会议之外。在应用部门的人看来，每一个数字沟通渠道都沦为了战场。产品人员在 Slack 上发一条消息，就可能引来安全团队几十条乃至更多的忧虑回复。Murati 或 Welinder 分享商业化战略新思路的谷歌（Google）文档，可能会被评论塞满，整篇文档看起来都被黄色标注覆盖。GPT-3 已经面世，世界却并未因此终结，这让应用部门的许多人也认为安全派近乎歇斯底里，与现实完全脱节。对安全团队而言，这关乎原则与先例。OpenAI 需要建立严格的规范，并将自身约束在比眼前看似必要的更高标准上。一旦风险骤然升高——而安全团队相信这种升高会来得迅猛且难以预料——OpenAI 的充分准备，将决定其技术究竟带来的是巨大的伤害还是巨大的福祉。 然而，Amodei 和安全派最终落败。随着 GPT-3 API 的成功，微软（Microsoft）准备深化与 OpenAI 的合作关系。Altman 开始就微软（Microsoft）再追加 20 亿美元投资一事展开谈判，利润上限则设定为 6 倍。大语言模型展现出的商业潜力，进一步巩固了 OpenAI 的战略重心。Amodei 的同级对手、另一位研究副总裁 Bob McGrew 逐一将研究部门的团队和项目调整为以 GPT 相关工作为核心。2020 年夏末，公司解散了机器人学团队。大多数员工转入 GPT 项目；两名机械工程师则被裁员。9 月，微软（Microsoft）宣布将独家授权使用 GPT-3，大幅扩大了模型的发行渠道。除 OpenAI 继续通过自家 API 提供 GPT-3 服务外，微软（Microsoft）还将获得完整的模型权重，可按需将其嵌入并改造用于自身产品和服务，包括通过 Azure 上的微软（Microsoft）自有 GPT-3 API 进行交付。 就在员工们各自居家远程庆祝 OpenAI 走红的同时，达里奥·阿莫代伊与丹妮拉·阿莫代伊——她此时已出任安全与政策副总裁——以及 Jack Clark，还有几位担任 Nest 团队核心成员的 AI 安全研究员，在 Slack 上突然销声匿迹。私下里，包括达里奥在内的数人开始分别向董事会个别成员反映他们对 Altman 行为方式的担忧：Altman 每次涉及微软（Microsoft）交易和 GPT-3 部署的决策，都是早已内定的结论，却巧妙地操控和引导异见者相信自己拥有真正的话语权，直到为时已晚、无从更改。他们不仅认为这种做法有朝一日可能带来灾难性乃至关乎存亡的危险，它在现实中也已给部分人带来切肤之痛，并严重消耗了领导团队的凝聚力。据周围的人描述，阿莫代伊兄妹将 Altman 的这套手法形容为「煤气灯操控」和「心理虐待」。 当这个群体在无力感中挣扎时，他们开始凝聚在一个新想法上。达里奥·阿莫代伊首先向 Jared Kaplan 透露了这一想法——Kaplan 是他研究生时代的挚友与前室友，在 OpenAI 兼职工作，曾主导发现了缩放定律——随后又向丹妮拉、Clark，以及一小群在 AI 安全问题上与他立场一致的核心研究员、工程师和其他人分享了这一想法。他问道：他们真的还有必要继续在 OpenAI 内部争取更好的 AI 安全实践吗？他们能否独立出去，去追求自己的愿景？经过几番讨论，这群人认定，如果要离开，就必须尽快行动。随着缩放定律的演进态势，留给他们构建一家竞争对手公司的窗口期正在收窄。"缩放定律意味着训练这些前沿模型所需的资源会越来越高、越来越高、越来越高，"一位与阿莫代伊同行的人说，"所以如果我们想离开、想做点什么，我们是在跟时间赛跑，你知道吗？" 2020年末，员工们登录视频会议，参加一次全员大会。山姆·奥特曼把话筒交给了达里奥·阿莫代伊，后者如往常一样，带着一股坐立不安的劲儿，不停地转弄和拽着自己的卷发。他宣读了一份事先准备好的声明，宣布他、丹妮拉和其他几位同事即将离职、另立门户。随后，奥特曼请所有离职人员退出会议。次年五月，这批出走者宣布成立一家新的公共利益公司：Anthropic。 Anthropic 的人后来把这场"离婚"——部分人如此称呼——定性为一场关于 OpenAI AI 安全方针的分歧。这固然属实，但这场决裂同样关乎权力。达里奥·阿莫代伊固然受信念驱动——他希望在自己的原则框架内做正确的事，也希望与奥特曼拉开距离——但他同样渴望对 AI 发展拥有更大的主导权，以便按照自己的价值观和理念推动这一进程。他和其他 Anthropic 创始人后来构建出一套属于自己的叙事神话，用以说明为何是 Anthropic 而非 OpenAI，才是他们眼中这项最具历史影响力的技术的更好守护者。在 Anthropic 的内部会议上，阿莫代伊会不时在公司动态更新中插入"不像山姆"或"不像 OpenAI"这样的措辞。然而随着时间推移，Anthropic 与 OpenAI 的路线并无多大分歧，二者的差异不过是风格上的，而非实质上的。与 OpenAI 一样，它也不遗余力地追逐规模化扩展（scaling）。与 OpenAI 一样，它也在标榜民主化 AI 发展的同时，滋生出一种愈发浓厚的保密文化。与 OpenAI 一样，它也大谈合作，而其创立的根基，恰恰植根于竞争与对抗。