15 这一手棋
在 Weil 为《纽约》杂志撰写的 Altman 人物专访发表四天后、距 Sutskever 向 Toner 发出那条消息还有四天之际,这位独立董事与另一位 OpenAI 高管进行了会面:首席技术官米拉·穆拉蒂。
穆拉蒂生于阿尔巴尼亚,自幼便学会了在混乱中保持镇定。幼年时期,她亲历了国家从极权共产主义向自由资本主义剧烈转型的阵痛。这一转变来势太猛,加之国家金融体系极不健全,金字塔骗局迅速蔓延,随即崩溃,引发大规模骚乱与暴力冲突。动荡过后,弹坑横陈,穆拉蒂上学途中不得不小心绕行。一位老师曾对她说,只要她肯坚持,老师也会一路陪伴。
穆拉蒂的父母教文学,但她却在数字的确定性中找到了慰藉。她最先爱上数学,这份热爱由慧眼识珠的老师们悉心培育——他们有时会给她出比课程更难的题目,帮助她更快进步。继而是对科学的热爱——化学、生物、物理——这又进一步滋养了她对技术的兴趣。她求知若渴,凡能到手的书无不贪婪地读完,把自己的教科书翻完之后,便去翻姐姐的。她热爱竞争,在数学和科学奥林匹克竞赛中如鱼得水,与同龄人激烈角逐,乐此不疲。
十六岁时,她凭借过人的早慧获得了一份奖学金,得以赴加拿大私立学校——位于不列颠哥伦比亚省维多利亚市的皮尔逊学院(Pearson College UWC)——留学深造。这一机会将她送上了快速上升的轨道:先是在达特茅斯学院(Dartmouth College)攻读机械工程,后进入一家航空航天公司,再到职业生涯的第一个重大突破——加入特斯拉(Tesla),担任 Model X 的高级产品经理。
在特斯拉(Tesla),她学会了在高压下打造复杂产品,在意见各异、专业背景迥异的多个团队之间斡旋协调。她常常提起,正是在那里,随着公司探索自动驾驶,她开始被人工智能深深吸引。她越深入钻研,就越觉得人工智能是一项基础性资产,必将在解决各类棘手问题上获得广泛应用,成为普遍所需。「它真的感觉像是我们可能要涉足的最后一个领域,」她后来在凯文·斯科特的播客中说道。
穆拉蒂并未立即投身人工智能。在特斯拉(Tesla)工作三年后,她离职加入 Leap Motion 公司,担任产品与工程副总裁,转而从事增强现实与虚拟现实系统的研发。她曾设想这家公司将颠覆教育领域,让学习者只需转动手腕便能旋转 DNA 链,或操控一只腾空飞驰的球的运动轨迹。然而,公司押注这项技术的时机太早——VR 与 AR 仍让太多人感到眩晕难耐。2018 年,两年后,她离开,加入了彼时仍是非营利机构的 OpenAI。
在 OpenAI,穆拉蒂的晋升之路继续向上。随着这家非营利机构转型为商业运营实体,她顺理成章地升任应用与合作伙伴关系副总裁,主管公司与微软(Microsoft)这一最重要的战略合作,以及从萌芽到蓬勃壮大、负责将公司研究成果商业化的业务部门。她比 Altman、Sutskever 和 Brockman 都要年轻,在相当长的一段时间里,是高层领导团队中唯一的技术女性。这有时使她成为性别歧视的靶子,尤其是在那些对实验室早期岁月念念不忘的研究人员当中——他们认为她技术底子不够扎实,充其量是个工程师而非科学家,并将她的晋升视为 OpenAI 远离严肃基础研究的标志。
确实,在人工智能这个充斥着笨拙书呆气与雄性激素的世界里,穆拉蒂显得格外与众不同。她长于社交,善于倾听,个人自我色彩极淡。在共事者眼中,她是一位无与伦比的解题高手。在 OpenAI 持续不断的内部纷争漩涡中,她能够引领公司向前,既广泛听取各方意见与视角,又不惧作出艰难抉择。「想象一下,当面临极其艰难的决定、又没有明确答案时,她能帮你找到出路,」一位前同事说,「她的判断始终是对的。」
在穆拉提承担的诸多角色中,她日益成为奥特曼的翻译者与沟通桥梁。Anthropic 分裂之后,奥特曼请她不仅主管应用部门,还一并负责研究部门;2022年5月,她正式出任首席技术官。随着越来越多的团队向她汇报,她成为员工与奥特曼之间不可或缺的信息枢纽。公司战略方向有所调整,她负责落地执行;某个团队需要对他的决策提出异议,她便充当其后盾。
即便在公司领导层内部,她对奥特曼的影响力以及对其想法的了解程度,也是旁人难以企及的。她可以直接告诉他,他的预期或计划不切实际,而他往往会听进去。当他表面上答应某件事、实则并不愿意时,她也会直接告知相关人员真实情况。人们常常对从奥特曼那里得不到明确答复而感到沮丧,便向她求助,请她帮忙解读他的真实意图。「她就是直来直去,」另一位前同事说,「真正把事情推动下去的人是她。」
然而,随着与奥特曼共事日深,穆拉提越来越频繁地充当「善后者」的角色。每逢两个团队发生分歧,他常常私下分别认同双方的立场,这不仅制造混乱、加剧冲突,还在同事之间滋生了不信任。布罗克曼四处插手项目所带来的混乱,又进一步放大了这种无序。在穆拉提看来,布罗克曼就像第二个CEO,却是个糟糕的版本——主见极强,且常以其强烈的工作强度把人逼到精疲力竭。GPT-4 开发期间,奥特曼与布罗克曼的互动方式给公司部分团队带来了事关成败的巨大压力,负责数据收集和模型初始训练的核心团队之一——预训练团队的几位关键成员,几乎因此离职。
还有纳德拉。奥特曼对微软(Microsoft)利益的顺从程度,令纳德拉实际上几乎成了 OpenAI 的第三位CEO。穆拉提曾多次精心拟定向微软作出合理承诺的方案,但奥特曼却屡屡在与这家科技巨头高管的会谈中脱稿发挥,向对方描绘出一幅与公司实际路线图相去甚远的图景,以迎合那些脱离实际的要求。而面对董事会,奥特曼对此另有一套说辞:是穆拉提与 OpenAI 最重要合作伙伴之间缺乏积极有效的关系。
ChatGPT 将奥特曼推上了超级明星的宝座,此后他的行为每况愈下。聚光灯与外界审视愈加强烈,爆满的行程让他不堪重负。从前他总是精力充沛,如今却常常疲惫不堪。重压之下他开始崩裂,焦虑攀上新高,并滋生出愈演愈烈的破坏性行为。他还是在做一贯的事——当面对谁都表示认同,而如今却越来越频繁地在背后中伤他人。这在公司内部掀起比以往更大的混乱与冲突,各团队负责人纷纷效仿他的恶习,在下属之间制造对立。这本已足够腐蚀性十足。而面对外部日益激烈的竞争,奥特曼还不断催促公司加快部署节奏,试图以效率为名绕过既有的发布流程,有时甚至诉诸欺瞒手段。不久前,他告诉穆拉提,他认为 OpenAI 法务团队已批准 GPT-4 Turbo 跳过 DSB 审查。但穆拉提去找主管法务团队的 Jason Kwon 核实,Kwon 完全不知道奥特曼是从何处得出这种印象的。
那年夏天,穆拉提曾尝试就这些不断升级的问题向奥特曼提供详细反馈,希望能促使他自我反思、有所改变。结果,他对她冷淡相待,穆拉提花了数周时间才重新修复这段关系,甚至不得不向他保证,她没有将那份反馈透露给任何人。她也见过他对其他高管如法炮制:一旦有人与他意见相左或挑战他,他就会迅速将对方排除在关键决策之外,或暗中削弱对方的公信力。这种手段隐蔽而克制,不在员工面前显露,以至于她花了好几年才意识到其全貌。但不可避免地,不同的高管都曾轮流承受这套对待。久而久之,他行为所积累的影响,已悄然侵蚀了整个组织的最高层。
最近,这把「烫椅子」传到了苏茨克弗身上。此前,向苏茨克弗汇报的波兰研究员、AI Scientist 项目负责人 Jakub Pachocki 对自己得不到认可、也没有相应权限深感不满。他找到盟友布罗克曼,布罗克曼又找了奥特曼。于是奥特曼鼓励了 Pachocki 的抱负,给了他研究部门更高级别的职位。但有一个问题:奥特曼从未将这些告知苏茨克弗。他也不肯厘清苏茨克弗与 Pachocki 各自的职责边界——两人从奥特曼那里接收到不同的信息,各自朝着不同方向推动同一领域的研究,却都搞不清楚失对齐的根源究竟在哪里。
这一乱局在研究部门引发了长达数月的组织内耗。此刻,正如此前 GPT-4 预训练团队的危机一样,压力已攀升至难以为继的程度。对苏茨克弗而言,这场旷日持久的风波痛苦至深。这不仅是奥特曼对他的羞辱性冷落,更瓦解了他与 Pachocki 多年结下的友谊——那段情谊,是两人并肩作战、历经无数个深夜、共享高光与低谷、一同将公司建立起来的岁月里积累出来的。
穆拉提再度加班加点,寻求解决之道。光是搞清楚究竟发生了什么,就已耗尽她大量的精力。现在,她还必须让苏茨克弗与 Pachocki 就分工安排达成共识,让布罗克曼停止通过向奥特曼施压来干预局面,并让奥特曼保持口径一致,不再在私下会谈中出尔反尔。然而这些都无法触及问题的根本,高层领导危机再度爆发只不过是时间早晚的问题。OpenAI 真正需要的,是更健全的治理机制与问责体系。
在穆拉蒂遭受冷遇期间,奥特曼最为忧虑、也最感到受威胁的,是她可能已将详细的反馈意见透露给了董事会。而事实上,她根本没有跟他们谈过。她希望直接与奥特曼解决问题,也不确信把董事会卷进来真的能带来问责。多年来,她对董事会历届的人员构成始终抱有疑虑。三位联合创始人同时坐在一个本应独立运作的非营利性董事会上,这个数字实在太多了。许多独立董事也并未真正独立于奥特曼——他们以这样或那样的方式,与他存在财务往来,或受惠于他的人脉。她曾亲眼目睹他投资初创公司、向政客捐款,借此建立和巩固重要关系。他也曾多次问过她,能为她做些什么,而她每次都婉言谢绝。她不想把自己卷入他的关系网,日后欠下人情。
但如果说有什么时机适合联系董事会,眼下或许是开辟一条更为常态化沟通渠道的好时机。九月底,她将前往华盛顿特区,在《大西洋》月刊年度思想节上发言,而 Toner 就住在那里。董事会正处于新成员遴选阶段,下一批入选者将直接决定其独立性的走向。奥特曼需要真正的监督制衡。穆拉蒂主动联系 Toner,约她喝咖啡。
对于 Toner 来说,Murati 主动联系她虽不寻常,却也在意料之中。Toner 是董事会成员,Murati 是高管,Murati 想找她谈谈,本在情理之中。
2023 年 9 月 29 日那次喝咖啡,感觉相当寻常。Murati 分享了公司的若干近况:OpenAI 盈利前景毫无疑问;眼下最关键的两件事,一是 Gobi 模型的推进,二是正在与微软(Microsoft)谈判的最新合作;此外她还在处理一些与 Altman 和 Brockman 之间关系有关的人事问题,这一次涉及 Sutskever 和 Pachocki。
只有一件事让 Toner 略感意外:Murati 说,Altman 催得太急,公司不得不拼命赶进度发布产品,她担心这样下去迟早会出问题。
更令 Toner 感到反常的,是几天后收到的 Sutskever 那封邮件。两人同在董事会共事两年,Sutskever 从未单独联系过她。邮件里,他问她第二天是否有空见面。如今,10 月 4 日,他紧张到几乎说不出话来。
Toner 主动开了口。“我只是真的很在乎这件事——我们要朝着拥有一个强有力的董事会的方向走,一个能真正监督公司的董事会,“她说,“这是我们共同的愿望。”
Sutskever 突然以一种极不寻常的方式同时笑了出来,语气里又带着一丝讥诮。“我完全同意,“他说,话里的意思却分明是:别人未必如此。
“大家都同意,“Toner 平和地说。Sutskever 翻了个白眼。
Toner 解释说,独立董事们正考虑引入一位具有深厚 AI 安全背景的新成员来强化董事会。如果他有不同想法,她愿意听。
Sutskever 一下子接住了这个话头。他说,董事会需要掌握更多信息,需要关注正在发生的事情。
Toner 试着追问:他认为董事会最需要了解的信息是什么?
Sutskever 停顿片刻,字斟句酌。“我不太想直接回答你这个问题,“他说,“如果我回答了,你就会明白为什么。”
“在最高层面,OpenAI 是个复杂的环境,“他继续说,“OpenAI 比从外面看起来要复杂得多。”
“也许我回去想想,“他谨慎地补充道,“或许会有些具体的事情可以跟你说。”
在此之前,他建议 Toner 不妨找 Murati 聊一聊。Murati 对事情的来龙去脉有更多了解。
穆拉蒂在一周多之后才收到 Toner 的回复。又一次董事会会议后,Toner 只是告诉穆拉蒂,看起来有些奇怪的事情正在发生。穆拉蒂回应说 Toner 很敏锐,两人商定再谈一次。
此时已是 2023 年 10 月 15 日。Toner 以一句寒暄开了头:“最近怎么样?有什么是董事会应该了解的吗?”
穆拉蒂斟酌着措辞,知道自己必须谨慎。“有很多棘手的事情,“她试探性地说——用的正是苏茨克维之前用过的措辞。她接着说:其中有些她没办法全部说出来,至少那些最棘手的部分不行,因为一旦说出口,就无法收回了。何况眼下奥特曼深感自己 CEO 一职受到威胁。
这最后一点似乎出乎 Toner 的意料。奥特曼,受到威胁?董事会固然尝试过建立更强有力的治理机制以制衡他的权力,但从未想过要动摇他的位置,更从未讨论过罢免他,Toner 说。
穆拉蒂进一步解释:奥特曼是个极度焦虑的人,一旦焦虑便会产生蠢主意,而 Brockman 的推波助澜往往让情况更糟。奥特曼的焦虑还催生出一种有毒的行为模式,而且总是遵循同样的剧本:对于任何阻碍他决策的人,他会想方设法说出对方想听的话来争取支持;等到他失去耐心、判断对方仍会持续与他作对时,他便开始暗中损害对方的声誉,直到对方出局为止。这种做法隐蔽而普遍,最近的一次表现就是苏茨克维与 Pachocki 之间的那件事。那造成了极大的伤害,令苏茨克维深感痛苦,她说。
穆拉蒂继续说,董事会需要重点防范的是:不能让奥特曼的盟友出任第七位董事。同时也要留意微软(Microsoft)对 OpenAI 技术的部署以及 DSB 的问题。她没法多说了——如果奥特曼发现她在和 Toner 谈话,他会大为惊慌。但高层管理的这种毒性已经无以为继,未来六到九个月内,必须有所改变。
穆拉蒂最后说,Toner 应该去和伊利亚谈谈,看看他愿意透露什么。
苏茨克维尔第一次联系 Toner 时,心头已积压了许多烦恼。那一年,眼看 OpenAI 急速崛起,他对 AGI 即将到来的念头愈发萦绕不去:它将引发翻天覆地的变局,一旦发生便无可挽回;OpenAI 肩负着确保最终结果是极度繁荣而非极度苦难的责任。
随后,另一重忧虑将他吞噬:他开始怀疑 OpenAI 能否真的抵达 AGI,也不再确信以奥特曼为领导者的 OpenAI 能够担当起这份责任。
ChatGPT 发布后,在 OpenAI 任职并晋升已成为硅谷最炙手可热的社会资本。这催生了前所未有的内部竞争与办公室政治,各团队负责人争相争夺关注与资源优先权。苏茨克维尔观察到,奥特曼非但没有从中调和各方自我,反而在周旋谋取自身利益的同时,把每个人最想听的话原封不动地转告给他们。在这个过程中,他说了无数小谎,也撒了一些大谎,几乎已成家常便饭。在苏茨克维尔看来,布罗克曼也加剧了混乱。当年两位最初的联合创始人曾彼此视为心腹,在无数个关起门来共同畅想 OpenAI 前途的漫长时光里结下深厚情谊——那些日子早已一去不返。
在苏茨克维尔眼中,最终呈现的是最有害的组合:一个方向迷失、混乱无序、相互倾轧的环境,人们不再共享信息,也不再拥有共同的信任基础,无法就如何推进的关键决策达成共识。这种内耗正在瓦解苏茨克维尔眼中 OpenAI 使命的两根支柱:它既在拖慢研究进展,又在销蚀作出稳健 AI 安全决策的可能。
现在,奥特曼的所作所为也开始直接伤害他自己。10 月 4 日与 Toner 的第一次通话结束后,苏茨克维尔辗转难眠,压力将他淹没。他觉得,Toner 是他能够接触的最安全的独立董事会成员。她在董事会会议上多次公开倡导建立强有力的治理与安全机制,显然不在奥特曼的掌控之中。他对另外两位独立董事 D’Angelo 和 McCauley 则没有这般把握。尽管如此,他仍担心自己究竟能向 Toner 透露多少,以及一旦奥特曼得知会有何后果。
就在苏茨克维尔反复权衡这些问题之际,Annie 在 Twitter 上循环流传的指控又为他对奥特曼是否适合带领人类走向 AGI 的那份疑问增添了新的维度。《纽约》杂志的文章在公司里只有人低声谈及,而在文章发出后,Annie 过去的两条推文再度病毒式传播:一条发于 2021 年 11 月,指控 Sam “在性、肉体、情感、言语、财务与技术方面实施了虐待”;另一条发于 2023 年 3 月 14 日,措辞更为直白,获得了近 4000 个点赞:
我不再是那个四岁、被十三岁的"哥哥"未经同意爬上床来的小女孩了。
(不用谢,是我帮你搞清楚了自己的性取向。)
我终于接受了这个事实:你一直都是、也永远都会是比我更怕我的那个人。
苏茨克维尔不知道她的指控是否属实,但他相信,不管究竟发生了什么,Annie 与 Sam 一起长大的经历一定相当艰难。这说明奥特曼的问题行为由来已久,可能延续了很长时间。
Annie 用的那个词——虐待——也正是苏茨克维尔觉得最能概括自己对奥特曼观察的词。和 Murati 一样,他花了很长时间才看清奥特曼的那套打法,尽管从一开始就有些迹象表明他不可信:他坚持要担任 OpenAI CEO 却始终没有清晰或一贯的理由;他在早年偶尔说过的一些小谎,似乎微不足道,毫无必要;2020 年底 Amodei 离职前转达的那些警告。苏茨克维尔当时并未真正理解 Amodei 所说的"心理虐待"是什么意思。如今,随着奥特曼的行为愈演愈烈、影响急剧扩大,他对这个词有了全新而深刻的体会。
10 月 12 日和 13 日,他与超级对齐团队一同参加了一次务虚会,又焚烧了一个稻草人作为团队建设活动,并继续思索下一步如何行动。如今,10 月 16 日,他与 Toner 进行了第二次通话,准备多透露一些。
他讲述了 Pachocki 一事,以及它如何印证了奥特曼的行事方式。奥特曼本可直接、坦诚地告诉他,说想让 Pachocki 发挥更大作用。然而他没有,而是将苏茨克维尔和 Pachocki 推入相互对立的境地,布罗克曼在这一过程中也出了不少力。他们似乎乐此不疲,让这两位科学家在完全不知情的情况下互相较劲,搞不清楚为何始终无法达成共识。“鞭打不休,直至士气好转,“苏茨克维尔说。
问题在于,奥特曼所做的一切总是那么隐蔽。单看每一件事,都不觉得有多大问题。只有把一切放在一起审视,那些规律才会骤然浮现。他强调,重点不在于"看这件坏事——伊利亚觉得自己受到了委屈”。这不过是奥特曼惯用虐待手段的最新案例。还有他对待 Amodei 的方式——他建议 Toner 去和 Amodei 谈谈。还有他姐姐流传的那些指控。“从某种意义上说,这是另一种安全问题,你懂我的意思,“他说。归根结底,奥特曼有时候和布罗克曼一起,多年来对许多人都是如此——惯于操控和欺骗,有时候说出口的话,连他自己似乎都不相信。
话虽如此,苏茨克维尔补充说,他们两人——Toner 和他自己——也可能谈下来之后觉得没什么可做的。如果真到了那一步,就当这次对话从未发生过。
不过,他有一个特定的话题想与 Toner 讨论,也正是促使他主动联系她的原因。董事会已将第二届年度现场会议安排在十一月底,届时的核心议题是最终就增补新董事作出决定。他想和 Toner 谈谈这件事。他认为扩大董事会并非好主意。他不确定这样做能否真正增强独立性。即便新加入的人不是奥特曼的死忠,他们也需要太长时间才能摸清他的那套手法。追究其责任只会变得更难,而非更容易,苏茨克维尔说。
不过,他也谨慎地补充,自己对这个判断并不完全确定。他想知道 Toner 看到了什么。
Toner同意,Altman确实圆滑。她说,在自己的职业生涯中,她亲历过管理层的圆滑如何引发连锁问题。如今董事会已失去了三位对Altman最为顺从的成员,她也认同:无论接下来如何,目标都是让Altman承担责任。
Sutskever心情轻松了许多。他现在更理解Toner的立场了。他们曾在僵局中站在对立两端,追求的却是同一件事——对Altman的权力形成真正的制衡。在她看来,增加董事会成员是实现这一目标的途径;在他看来,恰恰相反。
他继续深入。他意识到,自己的担忧在Toner看来可能显得过于激烈、过于突然,但这是因为能够补救问题的窗口正在收窄。“董事会好比外部对齐,管理层好比内部对齐,“他说。Toner认为OpenAI需要修复外部对齐,而他认为需要修复的是内部对齐。
Toner似乎在消化这些信息。“听起来,你认为应该把一些相当重大的变革摆上台面,“她说。
“是的,“Sutskever回答。但最大的挑战在于,没有明确的证据能够指向Altman领导方式中任何明显的劣行。很可能,董事会会认定无能为力,最终就新董事人选达成一致,然后这个时机就这样溜走了。
对此,Toner提出了几个替代方案。也许董事会可以为OpenAI设定不同的考核目标,以更具体地衡量Altman的表现,并在十二个月后重新审视这一问题。
Sutskever对此不以为然。Altman会通过董事会设定的任何目标,但这不会带来任何结构性改变来解决他的行为问题。
也许Brockman可以从董事会退出,Toner建议道。那当然会有所帮助,Sutskever回答,但仍然不够。Brockman固然加剧了Altman那套行事风格,但Altman才是问题的根源。“针对你关于Brockman的提议,我一直在想一个类似的方向,作为B计划,“Sutskever说。
他没有说出心目中的A计划究竟是什么。但随着通话结束、双方约定下周再次交谈,Sutskever确信:Toner已经开始明白了。
穆拉蒂正在应对另一场危机。就在她第二次与 Toner 通话前不久,奥特曼开始莫名地恐慌,担心微软(Microsoft)对 OpenAI 不满。为了弄清原委,穆拉蒂安排了一场与微软高管的会议,与会者包括 Bing 负责人 Mikhail Parakhin。
会议进展比预期顺利,但在此过程中,她发现奥特曼再次在未充分了解 OpenAI 实际进展的情况下,应承了微软的某项要求,从而给微软造成了错误的预期。她又一次被迫收拾烂摊子。
微软会议是在 10 月 19 日。到了 10 月 20 日,她在第三次通话中告诉 Toner,自己打算向奥特曼提出大量反馈意见。每当奥特曼说"可以"而她说"不行"时,便会生出诸多麻烦,双方的合作关系也因此严重割裂。
穆拉蒂接着说,苏茨克维尔与 Pachocki 的情况如出一辙。就在当天,他们终于敲定了一套安排,厘清了苏茨克维尔与 Pachocki 今后如何在各自职位上继续共事。协议刚一达成,她和苏茨克维尔便联手恳请奥特曼:在与 Pachocki 交谈时,不要偏离这一决定,不要只说对方想听的话。她对 Toner 说:“我跟 Jakub 谈,他听进去了,但他一去见 Sam,听到的又是另一套。“奥特曼在会上已经承诺遵守。然而一切依然危如累卵——布罗克曼随时可能代表 Pachocki 去游说奥特曼,再度打破这个脆弱的平衡。
穆拉蒂说,布罗克曼是另一回事。他最近坦承,在 GPT-4 的开发期间,他曾试图将她解雇。从职级上说,穆拉蒂是他的上司,过去也为他撰写绩效评估,但每次都会引发大量摩擦,她后来干脆不再写了。穆拉蒂后来曾向另一人吐露,她其实希望能解雇他,却无能为力,因为他是董事会成员。她告诉 Toner,自己一度想过请布罗克曼退出董事会,但最终还是没有开口。如今,乱局已一发不可收拾。
Toner 问:穆拉蒂对 Annie 的事了解多少?穆拉蒂一无所知。她没有问过 Sam,对他家里发生的事情也毫不了解。但她说,就算其中只有 10% 是真的,那也已经相当严重了。
“想到这一切都压着,我居然还能把工作做成这样,连我自己都感到惊讶,“穆拉蒂接着说。她把发生的事情一一记录了下来,如果 Toner 需要,她可以提供更多信息。
Toner 回应道:董事会将把注意力集中在它实际能够改变的事情上——不是 Sam 的个性或行为,而是通过建立更完善的治理流程与架构来对他加以制衡。
这与穆拉蒂在公司内部一直努力推动的方向不谋而合。临别之际,她还向 Toner 补充了一句告诫:“要确保你的信息来源不只是来自 Sam。”
托纳不确定奥特曼想谈什么。那天是10月25日,奥特曼早些时候发短信问她当天或第二天是否有时间聊一聊。两天前,即10月23日,她再次与苏茨克弗通了话——在苏茨克弗从穆拉提那里得知穆拉提也与托纳谈过之后,他似乎开放了许多。这一次,他的顾虑比以往任何时候都更为明确。“我认为山姆不是那个应该把手指放在AGI按钮上的人,“他说,并指出眼前"千载难逢的机会”——董事会完全有能力采取行动。他随即提出了一条出路:由穆拉提接替奥特曼,担任临时首席执行官。
后来,托纳、McCauley和D’Angelo相互商量时,才意识到穆拉提也说过同样的话:“我对山姆带领我们走向AGI感到不安。“这一消息对他们的判断产生了深远影响。如果奥特曼最资深的两位副手——一位来自应用部门,一位来自安全部门——都有此感受,董事会面临的就是一个严峻的问题。
随后,10月24日,托纳与D’Angelo和McCauley举行了一次会议,商讨可以继续采取哪些措施来强化董事会的监督机制。有一个显而易见的缺口:OpenAI的非营利主体缺乏足够的独立法律支持,所有事务都通过营利实体的律师来处理。三人一致认为,是时候为非营利实体聘请新的律师了,让他们出席每次董事会会议,并协助审查奥特曼正在谈判的所有交易及其他法律安排。
托纳暗自猜测,奥特曼是否以某种方式得知了这些会面,想要终止讨论。然而在这次通话中,他谈的却是截然不同的事情——他对托纳在CSET本职工作中发表的一篇研究论文表示担忧。
那一周,托纳共发表了三篇论文。奥特曼单独提出的是其中最为艰涩的一篇学术论文,探讨的是政治学中"代价信号"的概念,分析国家与私人行为者在就AI监管和发展意向向公众发出信号时所面临的挑战。她是第三作者,涉及OpenAI的内容埋藏在这份长达六十五页文件的第28至30页。在执行摘要、网页或任何发布材料中,这家公司均未被提及。从流量来看,根本没多少人读过这篇论文。她完全不明白奥特曼是怎么注意到它的。
托纳所不知道的是,就在前一天,这篇论文出现在OpenAI内部Slack的 #policy-research-chatter 频道里。提及该公司的那几页内容依次分析了OpenAI和Anthropic模型发布策略的优劣,并对OpenAI发布GPT-4坦诚的安全评估报告、以及为此推迟六个月发布该模型的做法予以赞赏。OpenAI负责政策规划的主管David Robinson只将其中三段内容粘贴到了Slack——恰恰是批评OpenAI、赞扬Anthropic的那几段。他对数行文字加粗标注,内容对比了ChatGPT引发的"竞相逐底动态”,以及Anthropic在ChatGPT之后发布Claude时所展现的克制。
“说到CSET报告,刚看到这篇新的,“Robinson写道,“海伦·托纳是联合作者,OpenAI和Anthropic之间的比较相当辛辣。”
这引发了频道内的简短讨论。“是的,这篇文章出人意料地偏颇(倒不是批评我们的部分,依我看那些批评虽然严苛但还算公正,而是对Anthropic的处理方式缺乏批判性),“一人写道。
“是的,我也觉得相当偏颇,而且说实话也有些站不住脚?“另一人补充道。“不管怎样,“他接着说,“非常感谢分享——看了这几段摘录,对这份报告的分析水准着实感到意外。”
奥特曼告诉托纳,有外部人士在论文发布仅数小时后便向OpenAI发来邮件,对此事进行了举报。他担心,在OpenAI正面临监管审查之际——包括2023年7月联邦贸易委员会就该公司数据、训练、安全实践及模型幻觉对消费者声誉造成的潜在损害所展开的调查——一位董事会成员公开批评OpenAI可能会带来不良影响。托纳是在当年五六月间起草这篇论文的,彼时监管压力尚未如此密集。她承认,自己没有在新的政治环境下以全新的眼光重新审视这篇文章。
通话持续了十五分钟,奥特曼的语气始终温和。通话结束时,双方都同意由她给其余董事会成员发送一封邮件,说明这篇论文的情况以及事情的来龙去脉。邮件措辞较为缓和。她承认自己犯了两个错误:以为这篇论文不会引起任何人的注意,以及正因如此而未能对其进行更仔细的审查。“山姆和我都认为,如果董事会成员希望批评公司,这样做是重要的,但这篇论文并不是恰当的方式,“她写道。
其余董事会成员没有一人回复。事情就这样似乎告一段落了。
10月23日,苏茨克维尔与托纳进行了第三次通话,托纳建议他去联系McCauley和D’Angelo。苏茨克维尔对这两人仍没有把握,不确定能否给予信任。此前他曾与D’Angelo当面见过,D’Angelo对山姆种种问题行为的了解,似乎不如托纳深入。10月26日与McCauley通话时,苏茨克维尔刻意谨慎,生怕透露太多。
但有一件事,他想从McCauley那里弄清楚。奥特曼与托纳通话后不久,向公司内部一些人发了一封邮件,说他就托纳的论文与她进行了交流,对于该文可能引发的后果,他强烈不认同。“我感觉我们对这件事的危害判断并不一致,“他在邮件中写道,“来自董事会成员的任何批评都举足轻重。“而对苏茨克维尔,奥特曼则说得更直接:托纳必须退出董事会,McCauley也支持他的立场。这让苏茨克维尔觉得不对劲。
“山姆说,他跟你谈到海伦的论文时,你说’海伦显然必须走人’,“他试探着对McCauley说,“山姆说他因此对你的印象大为改观。是真的吗?”
电话另一端,McCauley似乎愣住了。她斩钉截铁地说,自己绝没说过那样的话。奥特曼确实在10月24日深夜打来电话,谈及那篇论文。他提到论文中有一节他认为是在批评OpenAI,还说D’Angelo认为这不足以构成解雇理由,但托纳本不该写这篇文章。McCauley当时告诉奥特曼,她还没看过那篇论文,并建议他直接与托纳沟通。McCauley说,她根本不可能说出任何暗示将托纳赶出董事会的话。
这看起来像是巧合:就在谈论奥特曼那些"具体谎言"的当口,又一个现成的例子正在实时上演。若不是苏茨克维尔早有理由联系McCauley,奥特曼这次几乎便能蒙混过关。奥特曼很清楚,两人平素从无往来。但在苏茨克维尔看来,奥特曼撒谎与操弄的频率之高,这类事情的发生只不过是时间问题。
挂断与McCauley的通话后,苏茨克维尔又拨回给托纳。两人商定:三位独立董事该坐下来谈谈了。