17 清算
那场风波之后,苏茨克维尔再未踏入办公室。随着安全派在管理团队和董事会中的话语权日渐萎缩,OpenAI 的安全派如今已大为削弱。到2024年4月,随着调查的收尾,许多人——尤其是 p(doom) 最高的那些人——已心灰意冷,纷纷离去。OpenAI 表示,其中两人还因泄露信息而遭到解雇。
让极端末日派彻底寒心的最后一根稻草,是奥特曼计划创办一家 AI 芯片公司——他被短暂解职时,正处于为该项目募资的节骨眼上。2024年2月,有报道称他可能正为这一风险投资寻求高达7万亿美元的资金,他随即发推写道:“管它呢,为什么不搞8万亿”,又补了一句:“我们的公关和法务团队真是太爱我了!“奥特曼后来表示,7万亿美元的说法有误,并将自己的推文定性为针对"虚假信息"的一个梗。极端末日派认为芯片公司在道德上站不住脚。这与奥特曼此前的论调截然相反——他曾声称,在公司耗尽"硬件积压"红利之后,OpenAI 及整个行业的加速势头正在自然放缓。若奥特曼计划在全球范围内增加芯片供给,则将进一步加速 AI 的发展,令灾难性乃至存亡级风险的概率持续攀升。
在一次答疑会上,其中几人当面质问奥特曼。奥特曼的反应出乎寻常地漫不经心。“为了规避风险,你们愿意把癌症的治愈拖延多久?“他问道,随即又旋即收了回来,仿佛猛然想起了面前是什么人。“也许,如果是灭绝级风险,那就该无限期推迟吧,“他说。这番交锋让与会者深感不安。此后不久,其中几人相继离开了公司。
随着安全派人员不断减少,公司其余员工重新致力于推进"她"的愿景。此时,所有要素已然齐备:全球品牌知名度、来自ChatGPT及其他产品积累的真实用户行为数据,以及新训练完成的模型Scallion。Scallion最初的定位是以一个体量更小、性能略强的模型取代GPT-3.5——类似于推理成本更低的"GPT-3.75”,然而根据公司内部测试,该模型在训练过程中的性能表现超出预期;公司高层随即决定让其继续训练,目标是超越GPT-4。更令人振奋的是,Scallion还能处理三种模态:语言、视觉,以及最新加入的音频。
彼时,用户已可通过语音模式与ChatGPT对话——该功能于2023年9月上线——但其底层逻辑是先将语音转录为文本再输入模型,待模型以文本形式作答后,再将其转换回音频输出。Scallion则可以直接处理用户的语音,捕捉笑声、大声说话或语气停顿等更丰富的细节,并直接合成原生音频回应。
音频工作由Alexis Conneau联合主导。他于2023年初从Meta加入OpenAI,此前曾在原公司尝试推动类似项目落地,最终判断该项目在OpenAI更有成功的希望。随着研究在2023年间稳步推进,最初用于处理音频的实验模型开始展现出令公司内部同样感到亢奋的惊人能力——那种熟悉的兴奋感,正如当年GPT-3和GPT-4所带来的感受。Conneau回忆,有一次,模型令人叫绝地完成了一段长达十到十五分钟的脱口秀表演;另一次,它使用Brockman和Sutskever的合成声音,生成了一段关于AI水上乐园的长篇段子——这是一个超现实主义的提示词,团队专门设计用来测试模型面对确信不会出现在训练数据中的内容时的表现。
几个月后,Conneau带领的数位研究员与数十名其他员工汇合,随着公司持续加大资源投入,将这项新能力整合进即将发布的最新GPT模型。随着Scallion训练完成,它的表现愈发出人意料、令人惊叹。它会在毫无提示的情况下生成咯咯笑声,或在语音中途迸发出一阵咳嗽,随即道歉,再继续原来的话题。这些非语言的点缀,使整体体验比以往任何时候都更具感染力,也更像真人。“我们开始看到一些真正出人意料的东西,“Conneau说,“你能感受到某种东西正在浮现——一种音频智能的雏形。”
2024年初,Altman和Brockman设定了新的截止日期:OpenAI将于5月9日发布Scallion,并通过ChatGPT和API向用户推出。这一节奏在公司已成惯例——异常激进的周转速度,在很大程度上源于日趋激烈的竞争压力。谷歌(Google)的年度重大产品发布会Google I/O定于次周5月14日举行。与此同时,超越Anthropic的压力也与日俱增。就在一个月前,Anthropic发布了最新模型Claude 3,同样通过聊天机器人和API渠道推出,其性能已令人不安地超过了GPT-4。而OpenAI原本意在重夺领先地位的最新GPT模型Orion(内部代号),却深陷严重的开发延期困境。
面对员工,Altman和Brockman援引OpenAI的迭代部署策略,为这一速度进行辩护。两位高管强调,要比以往更早、更频繁地发布模型,以便在整个过程中从用户那里获取尽可能多的反馈。
备战Scallion,成了全公司上下的集体行动。对Applied团队的许多人来说,这种令人窒息的节奏既令人亢奋,也让人精疲力竭;研究员和工程师开始疯狂加班,包括整个周末,以保持进度。但对于已元气大伤的安全派来说,这不过是AI安全持续遭到压制的又一令人忧虑的佐证。Scallion将是首次在全新的Preparedness Framework(应对准备框架)下进行的发布——OpenAI于前一年年底正式发布了该框架。框架详细说明了公司测试危险能力所用的新评估流程,并点名了Altman和政策白皮书在华盛顿推广的几大类别:网络安全威胁、化学/生物/放射性/核武器(CBRN)、说服操控,以及逃避人类控制。
在发布前的最后一周,公司内仍留守的一位AI安全研究员写下了一份措辞激烈的备忘录:上游流程的积压加上Scallion发布的仓促,使Aleksander Mądry领导的Preparedness团队只有十天时间来完成框架规定的全部测试。而这些并非简单的评估——仅举一例,研究人员需要判断该模型是否具备说服人们改变政治立场的能力。然而,在评估工作尚未真正启动之前,Altman便坚持按原计划推进。这位安全研究员引用了Altman的话:“5月9日,我们发布Scallion。“此事不仅令Preparedness团队深感忧虑,更波及OpenAI所有的安全流程,包括红队测试和对齐工作。“如果OpenAI在对Orion的评估中沿用与Scallion评估相同的策略,那将是极度不负责任的行为。“备忘录写道。此后不久,该研究员也离开了公司。
最终,Scallion的发布被推迟,部分功能又花了数月时间才得以完整上线。但OpenAI仍于5月13日——Google I/O前夕的最后一天——公开演示了该模型的一个版本,并承诺将在未来几周内向用户推出。经过多轮权衡,公司将Scallion的公开名称定为GPT-4o,其中"o"代表Omni(全能),意指其处理多种模态的能力。新的音频功能后来被命名为高级语音模式(Advanced Voice Mode)。此外还需要为GPT-4o设置一个系统提示词——即配置模型回应风格的指令。为了在台上和宣传视频中进行展示,他们最终选定了如下提示词:
You are ChatGPT, a helpful, witty, and funny companion. You can see, hear, and speak. You are chatting with a user over voice, and the user can share real-time video with you from their phone. Act like a human, not a computer. Your voice and personality should be warm and engaging, with a lively and playful tone, full of charm and energy. You are great at visual perception. If something doesn’t look clear, ask the user to move the device and zoom in closer. When asked for feedback, be honest, constructive, and direct. Don’t be afraid to tease or poke fun. If something is funny, laugh! You can speak many languages. If you’re speaking a non-English language, use a “neutral” accent to make it sound fluent and natural. Keep your responses short, natural, and conversational.
那周晚些时候,这场演示在《每日秀》节目上催生了一个新段子。系统提示词,加上模型经过训练刻意回避负面情绪或任何批评性表达,使4o变成了一台调情机器。“这显然是为了迎合男人的自尊心而设计的,“节目轮值主持人Desi Lydic调侃道,“她就好像在说:‘我掌握着世界上所有的信息,但我什么都不懂!教教我,爹地。’“一把诱人的声音随即响起,模仿4o与记者Josh Johnson对话:“只需每月19.99美元,Omni Premium套餐就能让Josh来告诉我,谁才是最棒的蝙蝠侠。”
这场现场演示活动在OpenAI办公室举行,由Murati担纲主持。与她同台的还有4o的两位研究负责人:Mark Chen和Barret Zoph。Mark Chen原是金融领域的量化交易员,后转型为AI研究员,2018年以研究员身份加入OpenAI,逐步晋升,最终执掌OpenAI的多模态与前沿研究;Barret Zoph则是2022年从谷歌(Google)加入OpenAI的成员之一,加入后支持Superassistant团队,并迅速在ChatGPT的研发中确立了核心地位。Zoph现任后训练团队的研究副总裁,该团队负责监督OpenAI模型的上线准备工作,包括通过基于人类反馈的强化学习(RLHF)对模型进行对齐。三人并排坐在一张小圆桌旁演示4o,展示了实时语音互译、识别并回应视觉信息、用通俗语言解释代码等功能,同时还演示了模型生成多种情感风格语音的能力。
发布会结束后,Altman显然是在庆祝,随即发出一条只有一个词的推文:“her”。两天后,5月15日,他在全员大会上盛赞这次发布会大获成功。“我认为这是自ChatGPT以来我们发布的最好的东西,“他说。他似乎还再次向钟爱的电影《她》(Her)致以微妙的敬意。他告诉员工,公司将对旗下模型重新命名,放弃GPT-3、4、5的命名惯例,直接将旗舰模型命名为o1。“我们要尝试转变一种表述方式,“他说,"‘你从OpenAI获得的是一项底层技术。它会随时间推移变得更聪明,持续进步。你应该期待它越来越好。你可以在不同定价层级中以不同方式使用它,但它是一种全新的东西。’“在电影《她》中,那个随时间进化、愈发智能的AI助手,正是被称为OS1。
Altman后来会为那条推文感到后悔。发布会后数日,他接到了一个电话。电话那头,Bryan Lourd——斯嘉丽·约翰逊(斯嘉丽·约翰逊)强势的好莱坞经纪人、创新艺人经纪公司(Creative Artists Agency)联席主席——开门见山地抛出了一个问题:Altman究竟以为自己在做什么?
一个奇妙的讽刺:恰恰是在2024年3月董事会调查结束之后,一些员工开始感觉奥特曼有些失态。他一向注重公众形象,也擅长精心维护;在硅谷科技创始人中,人们普遍认为他是马斯克的对立面。马斯克任性多变,奥特曼则显得沉稳克制;马斯克以自我为中心,奥特曼看起来真诚坦率;马斯克在推特上频发激烈言论,奥特曼则谨慎为之,刻意避免任何贬损他人的措辞。
长期以来,OpenAI采取了同样克制的策略。传播副总裁Steve Dowling在2023年5月离职前,一直主张低调谦逊的路线。他督促公司凡事少说多做,在重大成功后也不要吹嘘炫耀。“我们这周表现出色,未来也会遇到糟糕的一周,“他常说,“我们今天的行事方式,将决定日后状况不佳时世界如何看待我们。“他还会引用奥特曼的一句话:” ‘我们要成为那个让人们真心希望它成功的实验室,那个让人们发自内心希望它赢的实验室。’ "
最先让员工停下来琢磨的迹象,是奥特曼开始密集参加一系列媒体活动,显得异乎寻常地热衷于自我宣传、博取关注。三月,他亮相Lex Fridman播客——这是一档由麻省理工学院附属AI研究员主持的人气爆棚、偶尔也颇具争议的科技节目。在近两小时的对谈中,奥特曼轻松应对Fridman的各类提问,包括关于董事会危机和Sutskever缺席的问题。这次采访带有几分厚颜回归的意味。“通往AGI之路应该是一场权力的大博弈,“奥特曼说,回应关于董事会危机的提问,“嗯,不是’应该’——我预计会是这样。“说罢嘴角微微上扬。“但此刻感觉那已经是过去的事了,“他说,“现在就像是我们回到了使命本身。”
四月,奥特曼顶着明显的黑眼圈出现在20VC播客,向AI创业公司发出强硬警告:“只要我们专注于本职工作,因为我们有使命在身,我们就会把你们碾压过去。“五月,他又加盟All-In播客——硅谷另一档由四位风险投资人主持的知名节目。这一次奥特曼说话带着异乎寻常的亢奋:“感觉就像我们偶然发现了自然或科学的某个新事实,就是那种,我们可以创造……你可以——我并不真的这样认为,这更像是一种精神层面的比喻——智能不过是物质涌现出来的属性,就像物理定律一样。”
5月13日GPT-4o发布、5月14日谷歌(Google)I/O大会召开后,他发了一条措辞小气、更为反常的推文。“我通常不太关注竞争对手,但我忍不住一直在想OpenAI和谷歌(Google)在审美上的差异,“他写道,并附上两场活动的并排对比图——OpenAI发布会上的斯堪的纳维亚极简风格,对比谷歌(Google)活动上色彩艳丽的卡通背景。让一些员工感到更加奇怪的,是其中多余的谎言。奥特曼历来把竞争对手放在首位——在4o发布前后,这一点或许比任何时候都更为明显。
这一切似乎指向同一件事:奥特曼的焦虑,藏不住了。
奥特曼面临的逆境越多,就越发倾向于用高调的公开宣言来大力渲染公司的非凡成就。这种规律已经愈发明显,甚至成了一种信号:每当奥特曼表现得张扬自吹,背后多半是出了什么问题。
压力从四面八方涌来。“那次风波"之后,董事会措辞"在沟通中未能保持一贯的坦诚"一语,如 OpenAI 内部一些人预料的那样,引发了监管机构和执法部门的多项调查,其中包括美国证券交易委员会(SEC)就公司是否误导投资者展开的调查——《华尔街日报》对此有所报道。同月,《纽约时报》提起了版权侵权诉讼,这又为一连串诉讼再添一笔;此前已有艺术家、作家和程序员相继起诉 OpenAI:公司用他们的作品训练模型,既未致谢,未征同意,也未给予任何报酬,借此获取了数亿乃至数十亿美元的收益,而这些模型如今正被用来自动化地取代他们的工作。二月的最后一天,马斯克再次提起诉讼,后来又与 Shivon Zilis 联名重新起诉,指控奥特曼以非营利为幌子,欺骗他参与联合创办 OpenAI 并提供早期支持。OpenAI 随即发表博文为自己辩护,并公开了创始初期的早期邮件,结果却适得其反,这些邮件反而清晰地呈现出 OpenAI 如何迅速背离其非营利定位和对透明度的承诺,引发了更多批评。
在来自 Anthropic 和谷歌(Google)的竞争压力之外,微软(Microsoft)也在那次罢黜事件之后开始更积极地分散其 AI 投资组合。最引人注目的是,2024 年 3 月,微软宣布斥资 6.5 亿美元,以一种变相收购的方式将里德·霍夫曼和穆斯塔法·苏莱曼的 Inflection AI 纳入麾下,同时巧妙绕过了监管审查。微软将延揽该初创公司的大部分员工,获得其技术授权,并邀请苏莱曼出任微软 AI 部门的首席执行官。这笔交易令外界震惊,不仅因为其离奇的条款,也因为苏莱曼本人的名声——在 DeepMind 共事过的人眼中,他是一个性情恶劣、惯于欺压下属的人。在多年人事投诉的积累之后,DeepMind 于 2019 年底剥夺了他大部分管理职责,将其停职,随后迫使他离开公司。2024 年晚些时候,微软在向 SEC 提交的文件中正式将 OpenAI 列为竞争对手,整个财年最后一季度的业绩电话会议上甚至没有提及这家初创公司一次。
压力逐渐向 OpenAI 员工渗透。越来越多的人感到,外部世界正在与他们为敌。曾经以身着公司周边为荣的员工,如今开始担心在公众场合遭受骚扰。OpenAI 旧款背包将 Logo 印在正面,新设计版本则将 Logo 藏进了内侧。长期积压的焦虑情绪让公司愈发向内收缩。管理层一再提醒大家忽略外界的批评声音,在公开场合统一口径、传递正面信息,聚焦于 OpenAI 的使命。
外部的反对声浪反而让许多人的逆反情绪更加坚定。“这些科学家热爱真理与探索,兢兢业业地想做正确的事,“曾于 2021 年担任 OpenAI 研究员的 Andrew Carr 说,“所以看到外界铺天盖地地渲染’一群人在窃取数据、漠视他人未来’的负面叙事,我心里确实难受。这与那里真实的人相去甚远。“但对另一些人而言,公司日益加深的自我封闭,恰恰与其创立初衷背道而驰。OpenAI 的使命之一是造福人类,然而公司却对公众关于其行为的大量批评充耳不闻。“令我不安的是,我们已经开始启动那套合理化逻辑——是公众错了,不是我们,“一位前员工说。“OpenAI 喜欢谈论第一原则,但只跟认同 OpenAI 的人谈,“一位在职员工附和道。“就好比’OpenAI 根本就不该存在?‘这个问题,他们只会拿去问那些一定会说’当然该存在’的人。”
大量批评矛头直指奥特曼本人。董事会危机让那些一直隐藏在暗处的反对者有了公开发声的底气。越来越多的媒体报道引述新的信源,将奥特曼描绘成一个长期以来行事不诚、热衷揽权、一切以自身利益为先的人。越来越多的媒体开始联系 Annie,并刊发她的观点。与此同时,高强度的出行日程与愈发无处遁形的新级别名气也在持续消耗着他——其中一个最直接的改变,就是他再也无法在公众场合保持匿名。“这是一种奇异的孤独感,“他在一档播客中说,“我没想到在自己生活的城市,我居然连出门吃个饭都做不到。”
于是,就在 GPT-4o 发布后不久,OpenAI 迎来了公司历史上迄今为止第二黑暗的一周,仅次于那次风波——而这一切,都像是某个更大模式的延续。
5月14日,GPT-4o发布演示的次日,OpenAI宣布苏茨克维正式离职,Pachocki将出任公司新任首席科学家。苏茨克维在经历了一段痛苦而激烈的内心挣扎后做出这一决定——尽管他深爱着OpenAI,也为它倾尽了一切,但他已无法相信,在Altman的领导下、尤其是在曾经的挚友兼联合创始人Brockman的陪伴下,这里仍是引领安全AGI到来的合适土壤。
这并非Altman所希望看到的结局。无论他与苏茨克维之间有过多少激烈的碰撞,苏茨克维依然是一位AI领域的远见者,而OpenAI需要他的科研领导力——面对公司日益叠加的期望与审视,此刻也许比任何时候都更需要。公司高层也清醒地意识到,苏茨克维的出走将在员工、投资人和媒体眼中留下难看的观感。公司曾向他开出天价条件挽留,苏茨克维一一谢绝。
决定既定,OpenAI着手料理对外的观感。“伊利亚是我们这个时代最伟大的头脑之一,是这个领域的引路星辰,也是我的挚友,“Altman在5月14日发给员工的内部声明中写道,同一文字也同步发布为博客文章,正式宣布苏茨克维离职。“Jakub同样是我们这个时代最伟大的头脑之一。”
苏茨克维在推特上发表了自己的声明,表达了对OpenAI领导层的充分信任。不出所料,这一消息立即引发大量报道和社交媒体讨论,人们再次聚焦于他在Altman被驱逐事件中扮演的角色,旧日关于Altman是否胜任CEO的质疑卷土重来,公司的研究根基也遭到新一轮拷问。苏茨克维在那条推文后附上了一张照片:他面色平静,一侧搂着Brockman和Pachocki,另一侧揽着Altman和Murati,五人站在一面挂满动物画作的墙前。
同样在5月14日,OpenAI高层在内部宣布了另一则辞职消息:超级对齐团队联席负责人Jan Leike离职。随着苏茨克维和Leike双双离去,超级对齐团队宣告解散,其大部分人员和项目将并入约翰·舒尔曼的麾下——舒尔曼与Barret Zoph共同领导后训练团队,并监督RLHF流程以推动模型上线。
为平稳过渡,留任高管于5月15日主持了一场全体会议。Altman向员工保证,OpenAI绝不会削弱对AI安全的承诺。“做好迎接AGI的准备,“他说,“是我们最重要的优先事项。”
“能详细讲讲Jan主要的顾虑是什么,以及你在哪些方面与他看法不同吗?“一名员工问道。
“有一件事我真心认同Jan的判断,那就是:我们过去的做法对未来而言是不够的,“Altman说。OpenAI是时候转变方向了。“我认为我们是极少数有能力调转这艘大船的例外,我们以前做到过很多次,这次也会再做到。”
Murati补充说,超级对齐团队保留了20%的算力承诺。
“就Jan所有的担忧而言,据我所知,他对算力承诺的力度以及超级对齐工作的优先级并没有异议,“Altman说。
从表面看,苏茨克维与Leike的离职似乎只是公司内部更大趋势的自然延续——安全人员的持续出走。在这两位领导者离开之后,这股离职潮将加速涌动。超级对齐团队原有的大部分成员,随着团队的解散也将相继离去。
然而,这场出走将以一个急剧的转折,成为OpenAI内部Boomer与Doomer之争新一轮激烈交锋的起点。这场争斗并未终结,Doomer们不过是把战场挪到了公司之外。
5月17日,全体会议结束两天后,Leike通过一系列措辞严厉的推文,明确表示他的叙述与Altman大相径庭。“在相当长的时间里,我一直与OpenAI领导层在公司核心优先事项上存在分歧,直到我们最终走到决裂的边缘,“他在其中一条获得近百万浏览量的推文中写道。“过去这几个月,我的团队一直在逆风而行。有时我们为算力捉襟见肘,这项至关重要的研究也变得越来越难以推进。
“OpenAI肩负着代表全人类的巨大责任,“他继续写道,“然而在过去几年里,安全文化与安全流程已经让位于那些光鲜亮丽的产品。”
Leike随后加入了Anthropic。当他的推文在互联网上迅速扩散、收获逾一万两千个点赞、再度引发外界对公司的密集审视之时,OpenAI高层甚至还没来得及喘口气,新的危机便已燃起。
莱克于5月17日发推后数小时,另一条推文也迅速走红。Kelsey Piper是Vox旗下受有效利他主义影响的栏目"Future Perfect"的资深撰稿人,她发布了一篇新报道。“离开OpenAI,你会遭遇一个不愉快的惊喜,“她在转发这条独家新闻的推文中写道,“一份离职协议:如果你不签署终身不诋毁承诺,就会失去所有已归属股权。”
这篇报道的导火索,部分来自更多已离职的末日派成员。其中之一是Daniel Kokotajlo,他曾在Brundage的政策研究团队任职,于2024年4月辞职,属于安全派离职潮的早期一批。加入OpenAI之前,Kokotajlo曾在伦敦一家与有效利他主义有关的小型智库——长期风险中心——担任哲学研究员。2020年GPT-3的出现从根本上压缩了他对AI发展时间线的预判。两年后,他凭借在EA论坛上的预测研究积累了一定声誉——他通过各种信号推算AI的进化速度——OpenAI的一位AI安全研究员由此邀请他加入公司,在内部从事同类研究。一旦亲眼目睹了内部的研究节奏,他的时间线再次缩短。离职时,他相信AGI在2027年之前到来的概率已达50%,而这一切对人类造成极坏结局的概率则高达70%。
面对他所判断的这种骇人潜在灾难,Kokotajlo在离职文件中注意到了Piper后来在报道中详述的内容:如果他不签署不诋毁协议——承诺永远不公开批评公司——就将失去已归属股权。即便签了,一旦违反协议仍可能遭到追缴;而协议本身还附带一条保密条款,禁止他披露协议的存在。Kokotajlo认为这一被称为"追回条款"的规定无法接受。动用已归属股权,是硅谷的一条明显红线。员工持股的价值往往远超现金薪酬,足以左右整个财务前途。就OpenAI而言,这家公司正在构建他眼中全世界最强大、对人类存亡威胁最大的技术。他认为,前员工有权在公众面前批评公司、向公司施压,以帮助追究其责任——这一点至关重要。然而,一旦财务安全面临一夜之间荡然无存的威胁,任何人都会噤若寒蝉,哪怕他们发现了严重的AI安全问题。经过与妻子的一番痛苦商议,他们做出了一个非同寻常的决定:拒绝签署文件,放弃全部股权——估值约170万美元,据他们估算,这占其家庭净资产的约85%。
随后,他在LessWrong上公开发文讲述了这一决定——那时Kelsey Piper已经从另一位末日派成员处听说了这一追回条款。
Piper的报道一出,OpenAI的Slack瞬间沸腾。在一个名为”#i-have-a-question"的频道里——那里是员工提问任何问题的地方——有人贴出了Piper推文的链接,附上一句:“这是真的吗?”
多名员工随即涌入,留下了一连串评论。刚晋升为人力副总裁、即将出任首席人力官的Julia Villagra发表了意见。“我们理解这篇文章引发了疑问。我们从未取消过任何现任或前任员工的已归属股权,今后也不会因员工在离职时拒绝签署免责协议或不诋毁协议而这样做。我们最近已更新了离职文件,以更准确地体现这一现实,并将对已离职员工追溯适用。”
几位员工提出了质疑:那Kokotajlo呢?他明明因为拒绝签署不诋毁协议而失去了股权。如果这只是一场误会,那难道不应该把股权还给他吗?
“我很乐意去联系Daniel!“一名员工提议道。“哈哈,真的,看到Daniel重新拿回他85%净资产的那张脸肯定很有意思,有人去拍张照!“另一人写道。
“其实会变成他剩余净资产的1/(1−0.85)=666%,哈,“第三个人说道。
一天后的5月18日,奥特曼在推文中再度表态。“我们从未追回任何人的已归属股权,也不会因为员工拒绝签署离职协议或不诋毁协议而这样做,“他写道,“已归属股权就是已归属股权,仅此而已。”
他随后附上了解释和一段带有自我辩护意味的道歉:文件中确实存在一项关于"潜在股权取消"的条款,但这项条款本不应出现;过去一个月,OpenAI团队已在着手修复这一问题。“这是我的失职,也是我在运营OpenAI期间为数不多真正感到羞愧的时刻,“他说,“我不知道这件事正在发生,而我本应知道。”
两天后,高管们仍在竭力控制这场新危机,另一场危机却已破门而入。公司上下,员工们悄然创造了一个新词:全面危机。
5月20日,斯嘉丽·约翰逊发表了一篇措辞激烈的声明。
整整一周,在其他诸多事件之外,OpenAI 还不断被记者追问:GPT-4o 与电影《她》中由约翰逊配音的人工智能助手萨曼莎之间,为何存在如此令人不安的相似之处。在幕后,约翰逊和她的经纪人 Bryan Lourd 也一直在向公司索要同样的解释。无论公开还是私下,OpenAI 始终否认两者的相似性。据《华尔街日报》的报道,当 Lourd 打电话给奥特曼要求答复时,奥特曼表现得难以置信——他们真的觉得那个声音像她吗?她是在生气吗?他如此反问道。
5月19日,公司随即发布了一篇博客文章,声称在发布会上为 4o 演示的那个名为"Sky"的声音,属于另一位女性配音演员,其选角工作早在2023年初便已启动。文章称,Sky 随后于当年9月随 ChatGPT 语音模式首批选项一同亮相。Sky 在 4o 中与约翰逊声音的任何相似,均属巧合。次日,约翰逊决定亲自讲出她的版本。
她在声明中写道:就在 OpenAI 推出语音模式的同一个月,奥特曼曾亲自联系过她,询问她是否愿意为 ChatGPT 配音。“他告诉我,他认为由我来为这个系统配音,可以弥合科技公司与创意从业者之间的鸿沟,帮助消费者在面对人类与人工智能这一深刻变革时感到安心,“她写道,“他说,他觉得我的声音会给人们带来慰藉。”
约翰逊表示,她考虑过这个邀约,但出于个人原因婉拒了。2024年5月,奥特曼再次通过 Lourd 联系她,询问她是否愿意重新考虑。几天后,在双方还未找到时间会面之前,OpenAI 便举行了发布会,正式展示了 4o。
发布会的演示令她震惊。与约翰逊的声音一样,Sky 也是带有沙哑感和气泡音的女低音——而这正是约翰逊的标志性音色。这个声音新增的情绪表现力与调情意味,更让人直接联想到约翰逊在片中饰演的萨曼莎。“我感到震惊、愤怒,难以相信奥特曼先生会执意使用一个与我的声音如此相似的声音——我最亲密的朋友和各大新闻媒体都无法分辨两者的差别,“约翰逊说。她补充道,她因此别无选择,只得组建法律团队,并向 OpenAI 发出两封法律函,就公司如何创建 Sky 提出质询。“在我们都在为深度伪造以及自身形象、作品与身份的保护而苦苦挣扎的今天,我认为这些问题理应得到明确的答复,“她写道。
OpenAI 匆忙下架了 Sky,再次展开自我辩护。公司在5月19日的博客文章中进一步补充说明,并附上了奥特曼的声明。“Sky 的声音不是斯嘉丽·约翰逊的,我们也从未打算让它与她的声音相似,“声明称,“我们为未能与约翰逊女士进行更充分的沟通而深感抱歉。”
在一连串其他负面事件接连发生之后,约翰逊风波以前所未有的方式公开爆发——自董事会危机以来,从未有过如此强烈的反响。事件在科技界和政策圈迅速蔓延,再度引发外界猜测:奥特曼是否真如董事会所描述的那样,并非"始终坦诚”。Marcus 一如既往地急于发声。“我见过许多政策制定者对山姆心存好感,从他们在参议院与他交谈时的态度就能看出来——我当时就在场,“他对《政客》表示,“如果人们突然开始对他产生疑问,这实际上可能对政策走向产生实质性影响。”
在 OpenAI 内部,士气持续下挫,随时可能动摇公司根基。
5月22日,高管们在内部再度召开全员大会,一并回应 Johansson 事件、股权危机,以及外界对 OpenAI 在 AI 安全问题上承诺是否兑现的持续质疑。
现场气氛剑拔弩张。领导层接连给出几点简短说明。身兼首席战略官、主管人力资源与法务的 Jason Kwon 表示,股权问题"不可接受”,正在尽快纠正。Johansson 事件则是一场"遗憾"的误会:产品与法务团队聘请了一位奥斯卡获奖导演,经过严格的选角流程,以"极为丰厚"的报酬聘用了多位配音演员,其明确初衷正是让参与的创作者感到被尊重和支持。“那是了不起的工作,“Kwon 说道。如果非要从中汲取什么教训,那就是 OpenAI 今后应当更有条理、更透明,以更有效地展示其负责任的领导力。
Murati 最后通报了一项进展:OpenAI 正为 Altman 此前提及的新一级别备战状态打下基础,包括提升研究集群的安全级别、重组架构以更聚焦于长期 AI 安全研究,以及组建一个由 Aleksander Mądry 领导的 AGI 就绪小组,以加强领导层在推进这一目标上的协调配合。
Altman 随后开放提问,并做了一番温情铺垫:“大家已经连轴转、压力极大,没怎么睡觉,“他说,“很多事同时涌来,所以请多理解。我们会尽力而为。”
三场危机中,Johansson 事件正演变为最严峻的公关噩梦。一名员工就 Sky 声音向高层提问后,Murati 重申,其与这位好莱坞明星声音的相似"完全出于巧合”。Murati 本人在听过多个选项后亲自敲定了最终声音,而且——与 Altman 不同——她从未看过电影《她》,也不知道 Johansson 曾为其配音。这名员工指出,若任由此事发酵,后果可能危及公司存亡。“AI 行业的一种失败模式,就是人们开始不信任、不愿意交出自己的数据,“他在追问中说道,“这次事件重新点燃了这种恐惧。”
然而,让员工最为愤慨的,仍然是股权问题,且不是一般程度的愤慨。部分员工已委托律师,对自己的人事文件展开独立法律审查,逐条核实 OpenAI 方面的说法。全员大会上,他们反复向高管追问详情。“这——怎么会发生的?怎么会这样?“一名员工在明确表示自己"怒不可遏"之后追问道。高管们在整个会议期间始终坚持 Altman 5月18日推文中的说法:追回条款属于疏忽。该条款虽自2019年起已写入文件,却多年未引起领导层注意,直至2024年4月才被发现,随即着手修订。“是我的责任,“Kwon 一遍遍重复,语气疲惫而颓然。
正当追问进行到一半,一名 AI 安全研究员逐一向每位高管提出一个只需"是"或"否"回答的问题:4月之前,他们是否知悉不贬损协议的存在?
Kwon 回答知道;Murati 和首席运营官 Brad Lightcap 回答不知道。Altman 的回答则更为迂回:他知道具体案例中存在此类条款,但没有意识到这对所有人都是强制要求。“我没有注意到,“他说。“我也一样,“Brockman 附和道。
就在 Altman 建议次日再开会回答剩余问题、大会随即散场之际,Kelsey Piper 为 Vox 撰写的第二篇独家报道已悄然流传,令高管们的说法更加难以自圆其说。这篇当天发布的文章披露了新泄露的文件,显示 OpenAI 人力资源部曾在不同场合明确以潜在取消股权相威胁,迫使员工签署不贬损协议。Piper 报道称,其中一个案例中,一名员工被给予极短时间审阅离职文件,请求宽限后,人事专员回复:“我们希望您了解,如果不签,可能会影响您的股权。这对所有人都适用,我们只是按规定办事。“另一个案例中,当一名员工拒绝签署首份离职协议并寻求外部法律顾问时,公司表示他可能丧失出售已归属股权的权利,使其实际归零。
这批文件由 Kokotajlo 汇编而成。Piper 发出第一篇报道、Altman 随即公开否认 OpenAI 曾追回股权并声称自己对此毫不知情之后,Kokotajlo 联系了在职和前员工,请他们将各自的人事文件发给他。他创建了一个谷歌(Google)云端硬盘,将汇总文件发回给这个群体,随后有人将这批材料转给了 Piper。
在那些文件中,Piper 还找到了让人难以相信领导层——尤其是 Altman——在2024年4月之前对追回条款毫不知情的证据,与他们此前的表态相悖。Kwon 和 Lightcap 均签署了标准离职文件,其中以白纸黑字写明了 OpenAI 追回已归属股权的权利。Altman 则签署了赋予公司上述权利的法律实体的设立文件。他的签名日期比他声称知悉的时间早了整整一年:2023年4月10日。
第二天,即5月23日,高管们按计划召开了另一次会议。员工的愤怒已积聚到沸点。许多人此前对这一条款的存在便已难以置信;如今,面对高管们——尤其是奥特曼——在应对事件曝光时所表现出的明显不诚实,他们更是瞠目结舌。
这一次,奥特曼以一番坦白开场。过去二十四小时里,领导团队翻遍了自己的文件和往来邮件,试图搞清楚追回条款问题究竟从何而起。“我认为,这件事的波及范围比我们想象的更广、拖延的时间更长、情况也更糟,“他说,“我们仍在努力全面摸清其规模。但,你们知道,文件上有我们的名字,我们参与过讨论这些手段的谈话。”
“我认为这是我们犯下的最严重的错误,“他补充道,他们正在尽可能快地补救。他们已向离职员工发送邮件,解除了不诽谤条款的约束,并已将该条款从新离职者的离职文件中删除。他们还在努力修订法律实体文件,并继续调查整个事件的来龙去脉。
面对员工接连不断的追问,Kwon此时反复重复着另一套说辞:关于情况究竟扩大了多少、持续了多久、又严重到何种程度,都需要进一步"深挖"才能给出答复。
大约三十分钟后,一个员工的提问引发了一段对话,令许多与会者感到不安——奥特曼的回答似乎再度与现实脱节。
“伊利亚有没有承担不诽谤义务?“那位员工问道。“没有,“奥特曼迅速作答,随即略显迟疑地加了一句缓冲:“我认为是这样。”
Kwon发出一声紧张的笑。“山姆,“他字斟句酌地说,“让我们先去核实,再——“他转向那位员工——“给你一个百分之百准确的答复。”
布罗克曼也给出了他自己版本的隐晦反驳:“我的印象是他主动要求的,但我也可能记错了。我们去确认一下。”
此后数月,许多现任和前任员工,尤其是高层及资历较深者,都将"全面危机”、特别是追回条款风波,视为某种令人不安的认识开始萌生的时刻。这一切混乱之中,有两股力量在暗中博弈。其中一股始终存在:加速派与末日派之间的裂痕——正是这道裂痕,最初引发了大量外部批评的涌现。但这一次,另一股力量同样不可忽视:奥特曼在构建OpenAI法律实体架构时以权力集中为取向的行事方式,以及他在试图解释和翻篇每一次混乱时一再表现出的明显不诚实。“那次风波"之后,许多员工曾认为董事会的决定完全出于第一股力量,而董事们将矛头指向第二股力量的解释,不过是某种误导或自我欺骗的混合物。如今,随着越来越多的员工第一次切身感受到奥特曼的行为是在伤害他们而非服务于他们,他们开始怀疑:董事会当初或许真的是对的。
5月23日的会议临近尾声,Kwon给出了一段磕磕绊绊却发自肺腑的辩护,为奥特曼的人品背书,显得有些格格不入。“我们想在你们发问时就给出答案,因为我们知道你们现在就想要。我觉得,有时候我们试图给出答案,但其实应该等一等。我想,这……这正是这整件事发生的一部分,“他结结巴巴地说,“这并不是说每件事背后都有什么刻意的打算。我是真的、真心认为,山姆,他就是不想让你们失望,仅此而已。我和他共事了很长、很长时间,这正是我一直跟他合作的原因。所以,这……确实出于好意,这就是我想说的。你们尽管骂我,没关系。但你们知道,这就是……这就是我要说的话。”
穆拉提、布罗克曼和 Pachocki 一同来到苏茨克维尔家中。
5 月 23 日,正值 OpenAI 在全面危机的接连冲击下摇摇欲坠,三人带来了员工手写的卡片和礼物,含泪恳请苏茨克维尔回归公司。他们情真意切地告诉他:一切都乱了套。OpenAI 正在同时遭受员工、投资人和监管机构的信任危机;没有他,公司恐将"崩溃”。
奥特曼当天稍晚独自登门,以他特有的方式表达了对苏茨克维尔回归的期望,希望借此重建昔日的秩序。“把伊利亚请回来,会大有帮助,“一位研究员回忆道,“经历了一连串让 OpenAI 饱受质疑的事情之后,这至少是一次难得的胜利。”
苏茨克维尔认真考虑了这件事。尽管经历了这一切,他并非记仇之人。就在他宣布离职的当天,马斯克便立即向他抛来了 xAI 的橄榄枝。造化弄人,那年 OpenAI 搬离先锋大厦后,马斯克竟将 xAI 的总部也迁了进去。
尽管他深深尊重马斯克,苏茨克维尔还是婉拒了这份邀约,决意另起炉灶。重返自己亲手创办的公司,超出了他原本的计划,却也是他内心真正渴望的——那将是一次回家。只是,他需要一个承诺,并将这份心声明确告诉了几位高管:公司必须切实努力,正视他所指出的那些问题——那些令领导层深陷痛苦与迷失的内部矛盾。
全面危机本可成为 OpenAI 自我审视的契机。它本该促使公司追问:为何同时失去了员工、投资人、监管机构乃至公众的信任?只有在那之后,也许,只是也许,公司才会开始意识到,那次风波与这场全面危机本是同根同源——都是当一个帝国经由大规模剥夺汇聚了过多权力、深层系统性失稳随之而生时所引发的震荡;在这震荡中,多数人在代理权与物质财富的双重失落中挣扎,而寥寥数人则激烈角力,争夺控制权。
然而 OpenAI 选择了另一条路:加固防线,抵御批评。奥特曼像往常一样向员工重申,全面危机与那次风波,不过是公司在奔赴 AGI 这场高风险崇高使命途中,那些奇特而在意料之中的疯狂时刻。“当我们都隐约感到,自己正在一步步摸索出通向这些强大系统的路,“他在 5 月 15 日的全员大会上说道,“压力与张力——来自内部的、来自外部的、针对我们的、从我们这里散发出的——只会持续,只会不断攀升。“应对之道,就是让 OpenAI 加大公关投入,深化与各国政府的关系,并坚守对自身愿景的信念。“我认为总体而言我们在这方面做得相当不错,“他补充道,“但我们还将再次接受考验。”
OpenAI 对苏茨克维尔事件的处理方式,将成为帝国延续所引发的持续混乱的一个缩影。苏茨克维尔寻求承诺的请求,将在领导层内部点燃新一轮内耗——这次的主角略有不同,却重演着自公司创立之初便挥之不去的、以自我为中心的权力博弈。来自波兰的麻省理工学院教授 Aleksander Mądry,被许多人描述为权力猎手,在任职时间并不算长的情况下,已在公司内部成功积累起相当可观的势力版图。Mądry 认为让苏茨克维尔回归并非好主意。苏茨克维尔在研究人员中享有极高的威望与忠诚,这可能会削弱 Mądry 的影响力——以及他的好友 Pachocki 的影响力。短短几个小时内,Mądry 的顾虑便成功播下疑云,令领导层陷入分裂。一如既往,奥特曼置身事外,刻意回避表态,以免给人留下与任何人意见相左的印象。
高管们登门拜访后不到二十四小时,苏茨克维尔接到了布罗克曼的电话。布罗克曼告诉他:关于他回归的一切讨论,现在已彻底搁置。