4 现代性之梦
麻省理工学院经济学家、诺贝尔奖得主达龙·阿西莫格鲁与Simon Johnson在合著《权力与进步》中指出，每一场技术革命都必须以一个振奋人心的宏大愿景为起点。正是"技术将造福所有人"这一承诺，驱动着人们踏上漫长的征程，聚拢才智与资源，将愿景化为现实。两位作者在梳理千年技术史后得出结论：技术的出现并非命中注定，推动技术进步的动力，来自人们对其价值的集体信念。而吊诡之处恰恰在于，正因如此，新技术往往并不会自动带来广泛的繁荣。两位作者进一步写道：能够成功为技术摇旗呐喊的，往往是那些握有权力和资源的人。当他们将构想变为现实，强加于世的那套愿景——关于技术是什么、能惠及何人——也就成了少数精英的愿景，充斥着他们的盲区与自利哲学。只有经历社会的剧烈变革，或凭借强有力的有组织抵抗，技术才有可能从造富少数人转变为提升众生。
两位作者以1790年代新型轧棉机的发明为例。这台机器使美国南方跃升为全球最大棉花出口地，拉动了国家经济总量的增长，也为众多地主和棉花相关产业带来了丰厚回报。然而，它非但没有松动奴隶制，反而在此后七十年间不断强化了那套令人发指的非人化与劳工剥削体系，直至废奴运动终结这一切。随着棉花产量激增，被奴役的黑人被迫延长劳动时间，遭受更为严酷的肉体强制，以便榨取他们每一分劳力。与此同时，那些从轧棉机中获利的人却将这项发明描绘成让被奴役者更加幸福的礼物。“我可以大胆地说，这个地球上再没有比他们更快乐、更知足的族群了，“一位南卡罗来纳州国会议员如此宣称。
技术革命的这两重特质——承诺带来进步，却往往使无权无势者、尤其是最脆弱的群体陷入更深的困境——在我们今天所处的人工智能时代，或许比以往任何时候都更为真实。自人工智能诞生之初，其开发与应用就一直被现代化的诱人梦想所驱动，并由一小撮掌握资金与影响力的精英塑造着这项技术的形态。正是这种形态，催生了今天在世界各地持续激化的社会成本、劳工成本与环境成本——尤其是在众多全球南方国家，历史上列强掠夺所留下的后果，至今仍以滞后的经济发展和脆弱的政治制度的形式延续。然而，就像那位南卡罗来纳州国会议员一样，硅谷也将那些遭受技术剥削与伤害的人的经历，描绘成因技术而变得更加幸福的故事。
推动AI发展的承诺，早已铭刻于这项技术的名字之中。1956年，图灵那篇以"机器能思考吗？“开篇的论文发表六年后，二十位科学家——清一色的白人男性——聚集达特茅斯学院，创立了一门专门研究这一问题的新学科。他们来自数学、密码学、认知科学等不同领域，急需一个统一的名称加以凝聚。召集此次研讨会的达特茅斯教授约翰·麦卡锡，最初用"自动机研究"来描述这门研究可自动运行之机器的学问。然而这一说法并未引起太多关注，于是他转而寻找更具感召力的表达，最终选定了"人工智能"这个词。
“人工智能"这一名称从诞生之初便是一种营销工具，对这项技术所能实现之物的承诺就内嵌于字面之中。“智能"一词天然令人向往——它听起来精密、卓越、令人叹服，是社会势必渴求的东西，理应带来普遍福祉。改名立竿见影。这两个字迅速引发了更广泛的关注，吸引的不仅是资助方，还有那些渴望置身于一个怀抱宏大抱负的新兴领域的科学家。
长期记录AI历史的记者Cade Metz将这次品牌重塑称为该领域的"原罪”：如今围绕这项技术的种种炒作与危险，在很大程度上都源于麦卡锡那个命运性的决定——将它与"智能"这个既迷人又飘忽的概念牢牢绑定。这一名称天然助长拟人化的联想，也催生了对技术能力的种种夸大。1958年，也就是这一领域创立两年后，康奈尔大学教授Frank Rosenblatt展示了感知机——一套能通过基本模式匹配来区分卡片印刷位置的系统。尽管主要合作者明确反对，Rosenblatt仍将自己的系统宣传为近乎人类大脑的存在，甚至宣称它有朝一日将能自我繁殖并产生感知。第二天，《纽约时报》宣告，这台感知机将来"将能行走、说话、看见、书写、自我复制并意识到自身的存在”。
这种拟人化传统延续至今，好莱坞关于人造物突然觉醒的经典叙事更是推波助澜。AI开发者常常谈到自己的软件如何像人类一样"学习"“阅读"或"创作”。这不仅催生了人们对当前AI技术能力的高估，也成为企业规避法律责任的修辞工具。多位艺术家和作家已起诉AI开发者，指控其未经授权、未予补偿地使用他们的创意作品训练AI系统，违反著作权法。开发者则辩称这属于合理使用，因为这与人类从他人作品中"获得灵感"并无二致。无处不在的AI与人类类比，还加剧了另一种忧虑：此类软件可能变得极为强大，以至于凌驾于人类之上，威胁人类的生存。对超级智能的恐惧，正是建立在这样一种预设上：AI有可能在那种使人类数万年来独霸地球的特殊品质上超越我们。
“人工智能"这一名称，也从根本上塑造了这一领域对自身使命的理解。在此之前，科学家不过是在制造机器以自动完成计算，与《模仿游戏》中图灵在第二次世界大战期间为破译纳粹恩尼格玛密码而建造的那台庞然大物并无本质区别。而现在，科学家们是在重造智能——这一理念将界定这一领域衡量进步的标尺，并在数十年后孕育出OpenAI自身的野心。
然而核心问题在于，对于何为"智能”，科学界至今没有公认的定义。纵观历史，神经科学家、生物学家与心理学家都对智能的本质，以及人类何以比其他任何物种拥有更多智能，提出过各自的解释。也许是人类大脑的体积，也许是我们推理复杂问题的能力，也许是我们构建他人信念之心理模型的能力。几个世纪以来，人们依据这些定义制定了形形色色的智能测量方法，而其中许多后来因不光彩的历史遭到质疑，逐渐被弃用。19世纪初，美国颅相学家Samuel Morton从字面意义上测量人类颅骨的大小，试图为"白人颅骨平均更大、智能优于黑人"的种族主义信念提供所谓"科学"依据。后来的科学家发现Morton篡改了数据以迎合先入之见，其数据在各种族之间实际上并不存在显著差异。智商测试同样起源于筛除社会中所谓"低能者”、以科学"客观性"为优生政策背书的需要。更晚近的标准化考试，如SAT，则被证明与考生的社会经济背景高度相关，这表明它们衡量的或许是获取资源和教育的机会，而非某种内在禀赋。
2004年首次发布的文章《什么是人工智能？》中，麦卡锡承认，围绕自然智能的定义缺乏共识，这对一个致力于重造智能的领域而言本就令人困惑。2007年修订版以一段漫长曲折的问答呈现，旨在为普通读者解答基本问题。开篇如下：
问：什么是人工智能？
答：这是制造智能机器，尤其是智能计算机程序的科学与工程……
问：那么，什么是智能？
答：智能是在世界中实现目标的能力中，那个可计算的部分。不同种类和程度的智能存在于人类、许多动物以及部分机器之中。
问：难道没有一个不依赖于与人类智能类比的、关于智能的扎实定义吗？
答：还没有。问题在于，我们尚无法在一般意义上界定哪类计算程序应被称为智能的。
人工智能领域因此形成了一种惯例：以人类能力作为衡量自身进展的尺度。人类的技能与才能，成为组织研究方向的蓝图。计算机视觉致力于再现人的视觉；自然语言处理与生成，致力于再现人的读写能力；语音识别与合成，致力于再现人的听说能力；图像与视频生成，则致力于再现人的创造力与想象力。随着各项能力对应的软件日趋成熟，研究人员又着手将它们整合为所谓的"多模态系统”——既能"看"与"说”，又能"听"与"读"的系统。如今这项技术正威胁着大批人类劳动者，这绝非偶然，而是设计使然。
尽管如此，对人工智能的追求依然漂泊无岸。每当AI研究迎来新的里程碑，随即爆发激烈争论：这究竟是对真正智能的再现，还是不过一场苍白的模仿？为了区分二者，“通用人工智能”（AGI）成为指代"真品"的最新术语。这一轮重新命名并未改变一个事实——至今仍无清晰的方法来衡量进展，也无从判断这个领域何时才算成功。研究人员中流传着一句俗话：今日被视为AI的东西，明日便不再是AI。图灵测试很快便被超越，作为AI衡量指标的生命也随之终结，科学家们意识到他们并未真正解决自己的研究目标。曾几何时，科学家们相信，计算机在国际象棋或围棋上击败人类，将是决定性的成功标志。如今，DeepMind的AlphaGo被视为一次令人信服的展示——展示了软件能被训练到何种程度——却依然不是这个领域雄心终结的句号。数十年的研究历程中，随着基准测试不断演进、被改写、被抛弃，AI的定义也一再变化。AI发展的球门柱永远在移动，正如Data & Society研究主任Jenna Burrell所描述的，是"未来那条永远后退的地平线"。这项技术的演进方向指向一个未知的终点，没有任何可预见的尽头。
为了给这条不断拉长的时间线、以及追逐AI雄心所需的不断膨胀的成本提供正当性，我们被告知的种种承诺比以往任何时候都更加宏大：AI曾经只是一种科学迷恋，一项具有一定商业潜力的技术。而今，AI已成为第四次工业革命的先声，现代超级大国版图的基石。AGI一旦实现，将解决气候变化，让医疗保健变得人人负担得起，让教育机会更加公平。OpenAI正是这一思路的最佳代言。它无法说明这项技术将如何兑现这些承诺——只是声称，社会为其所开发之物付出的惊人代价，终有一天将是值得的。
无人道破的是：在一片对"人工智能"或"通用人工智能"含义莫衷一是的真空之中，这些词语可以是OpenAI希望它们成为的任何东西。
AI的历史告诉我们，这一领域的发展始终由少数权贵精英所主导。当今AI已与资源消耗巨大的庞大模型画上等号，具备开发能力的公司屈指可数，这些公司无不渴望让自己的产品成为一切事物的底层基础——这绝非偶然。早在商业利益使AI革命的政治角力愈发明显之前，这个领域的科学探索便已在争夺资金与话语权的激烈冲突中跌跌撞撞，一路起伏。
达特茅斯会议之后，两大阵营各执一词，围绕如何推进这一领域展开角力。第一个阵营称为符号主义派，他们认为智能源于知识。人类拥有比动物更丰富的知识，并能凭借这些知识认识世界、采取行动。因此，实现AI的关键在于将世界知识以符号表征的方式编码进机器，创造出所谓的专家系统。第二个阵营称为连接主义派，他们认为智能源于学习。人类比动物具有更强的学习能力，并能借此习得和提升各种技能。开发AI应当转而专注于创造机器学习系统，例如模仿大脑处理信号与信息的方式。这一假说最终催生了神经网络的兴起——神经网络是一种松散模拟大脑互联结构的数据处理软件，现已成为现代AI（包括所有生成式AI系统）的基础。
此后数十年间，两大阵营争夺有限的经费，也争夺公众对AI未来图景的想象权。彼时，这些争斗在高校和学术期刊中上演，科学家们为争取政府和基金会的资助而相互角力；论战偶尔溢出至媒体，影响公众对这一领域的认知。连接主义阵营的旗帜人物是Rosenblatt和他的感知机——机器学习系统的早期原型。Rosenblatt从未向系统输入任何显式指令，而是设计它在见过大量示例后，自行推导出区分不同卡片的规则。符号主义阵营的旗帜人物，则是Rosenblatt的宿敌、麻省理工学院教授马文·明斯基。明斯基是达特茅斯研讨会的联合发起人，自己也曾涉足连接主义思想，后来才逐渐与之决裂。他的转变并不低调——他频繁借助各种场合大肆嘲讽，批评那些与他争夺同一笔经费的连接主义同行，甚至对初出茅庐的年轻研究者也不留情面。1969年，他与人合著了《感知机》一书，对连接主义极力批判，加之神经网络当时进展平平，此书被认为是导致该研究方向几乎断绝资助长达十五年以上的重要推手。
在这场影响力之争中，明斯基有一位意想不到的盟友：他的麻省理工学院同事约瑟夫·魏岑鲍姆。1958年，就在Rosenblatt的感知机登上《纽约时报》的同一年，魏岑鲍姆发明了一个名为ELIZA的AI系统，同样引发了大批媒体关注。早在ChatGPT问世六十余年前，ELIZA就已是一款可供对话的聊天机器人——用户通过一台连接着占满整个房间的庞大主机的电动打字机与之交流。然而在底层架构上，ChatGPT脱胎于连接主义传统，ELIZA却是一个符号系统，依靠简单规则模拟出专注倾听、有问必答的对话效果。
ELIZA最广为人知的版本模仿一种谈话疗法设计而成——这种疗法通过反映患者的原话并温和追问细节来引导对话。魏岑鲍姆后来发表了一篇介绍ELIZA内部机制的论文，其中引用了如下对话示例：
用户：男人都是一个德行。
ELIZA：哪方面一个德行？
用户：他们总是为这样那样的事来烦我们。
ELIZA：你能举一个具体的例子吗？
用户：嗯，是我男友让我来这里的。
ELIZA：你男友让你来这里
用户：他说我大多数时候都很消沉。
ELIZA：听到你消沉，我很遗憾
用户：确实如此。我很不快乐。
ELIZA：你认为来这里能帮助你摆脱不快乐吗？
魏岑鲍姆设计这套系统，本是一次实验，想看看人类究竟有多容易被智能的幻象所蒙骗。ELIZA的名字取自 Eliza Doolittle——1956年影片《窈窕淑女》中由奥黛丽·赫本饰演的虚构角色，一个出身底层的卖花女，在一位富有男士的调教下改变措辞与举止，最终得以混迹上流社会。ELIZA随后在愚弄旁观者、令其相信它具有智能方面大获成功，这令魏岑鲍姆深感不安。这一演示效果太过逼真，以至于一些精神科医生开始谈论自动化心理疗法即将到来；仅仅在AI领域创立数年之后，计算机科学家们便已急于宣布计算机的自然语言理解问题已告解决。（数十年后，这一问题是否真正得到解决，至今仍众说纷纭。）
此后，魏岑鲍姆将大半职业生涯都投入到为自己作品的炒作降温，以及反对AI追求背后根本性预设的努力之中。他写道，ELIZA不过是他编写的一个简单程序——识别用户输入中的关键词，再通过基本的语言变换来构造回复：“我男友"变成"你男友”，“我很消沉"变成"你很消沉”。这里并没有什么真正的智能可言。在明斯基《感知机》出版后的十年间，他又出版了专著《计算机力量与人类理性》，论证人类与机器存在本质差异，而AI领域试图模糊这一界限的做法将引发深远的社会后果。例如，它会让掌权者——无论是CEO还是政客——得以借助机器执行自身意志，同时规避应当承担的道德责任。
尽管魏岑鲍姆竭力发声，ELIZA对符号系统的震撼展示却无意间助长了明斯基将符号主义凌驾于连接主义之上的声势。此后数十年直至九十年代，专家系统成为AI研究和商业化最热门的领域。这股主流思潮催生了Cyc等项目——Cyc试图通过向机器编入一亿条日常生活规则来打造一套常识系统。然而，在多个阶段，随着人工编码所有规则的尝试遭遇瓶颈，符号主义AI系统的进展逐渐迟滞。每当障碍积累到一定程度，资助方便会失去兴趣，令整个领域陷入一种被称为"AI 寒冬"的生存危机。
在人工智能历史的通行叙述中，这段往事往往被描绘成科学价值战胜政治运作的胜利。Minsky 或许凭借地位与平台打压了连接主义，但这一思想本身的力量终究使它脱颖而出，在现代人工智能革命的基石上占据了应有的位置。在符号主义主宰的那些年里，一小批连接主义者始终坚守 Rosenblatt 的机器学习之路，并不断推进这项研究。其中就有 Sutskever 的博士导师杰弗里·辛顿——1980 年代，他在卡内基梅隆大学任教期间，与加州大学圣迭戈分校的同事合作，对早期神经网络做出了一项关键改进。彼时，连接主义者已经推测，神经网络之所以表现不佳，是因为结构过于简单——网络只有单一一层相互连接的"神经元"，即数据处理节点。要更好地模拟人类大脑，软件很可能需要多层堆叠、彼此相连的结构，也就是所谓的深度神经网络。辛顿与合著者通过反向传播算法实现了这一突破——反向传播使深度神经网络得以在各层之间交换和处理信息。同样是一次巧妙的命名重塑，辛顿后来将这种多层处理方式称为"深度学习"，成为利用深度神经网络进行机器学习的简洁代称。
然而，深度神经网络——如今通称"神经网络"——早生了数十年。要真正大放异彩，它们所需的算力远超 1980 年代计算机所能提供的水平，所需的样本数据也远非从模拟世界中廉价采集所能满足。神经网络的本质是统计计算器：从旧数据——文本、图片或视频——中识别规律，再将规律应用于新数据。如今，若某位 AI 开发者想构建一个检测图像中人物的 AI 模型，他可能会向神经网络输入数十万张已标注的图片——“有人"标为 1，“无人"标为 0。（当你在解谷歌（Google）验证码、点击所有含停车标志的图片时，你实际上正在为该公司的神经网络提供训练数据。）神经网络随后通过统计方法，从图像的像素规律中提炼出与"是否有人"相关联的特征。这就是所谓的"训练 AI 模型”。模型训练完成后，开发者可以将其应用于新数据——即推理（inferencing）——判断新数据是否符合所学规律：这张图片是 1 还是 0？有人还是没人？
一般而言，神经网络需要在达到一定数量级的高质量数据和一定水平的算力支撑下，才能完成训练、产出性能出色的 AI 模型。辛顿和他的合著者们走在了时代前面。但到了 2000 年代末期，随着计算机性能的提升和互联网的成熟——数字数据由此获得了新的存储与积累渠道——神经网络终于迎来了蓬勃生长的条件。此后不久，谷歌（Google）收购了辛顿的 DNNresearch（“DNN"即深度神经网络），点燃了深度学习商业化的新一轮竞赛。
在这个叙事框架里，故事传递的教训是：科学是一个混乱的过程，但最终，最好的想法终将脱颖而出，任何再响亮的反对声音都无法阻挡。叙事中隐含着另一层信息：技术随着进步的必然步伐向前推进。
但这段历史还有另一种解读方式。连接主义之所以超越符号主义，并不单因其科学价值。它之所以赢得财力雄厚的资助方支持，也在于其若干关键优势恰好契合了这些资助方的商业利益。
符号主义 AI 的优势在于将信息及其关系显式编码进系统，使系统能够检索精确答案并进行推理——这正是人类智能的核心特征，也被视为复现人类智能的关键所在。不妨想想 IBM Watson——这是最著名的符号系统之一，2011 年曾在《危险边缘》节目上大放异彩。它能够快速给出夺冠答案，凭借的正是遍历海量知识库并准确再现信息的能力。然而，符号主义的弱点同样不容忽视：其商业化一再被证明缓慢、昂贵且难以预期。IBM 在深夜电视节目上让 Watson 惊艳亮相之后，很快发现：要让系统产出客户真正愿意付费的成果——比如回答医疗问题而非知识竞赛题——往往需要数年的前期投入，而何时能看到回报却遥遥无期。最终，IBM 在累计烧掉逾 40 亿美元、仍看不到尽头的情况下选择放弃，并于 2022 年以约四分之一的价格出售了 Watson Health 部门。
神经网络则呈现出另一种权衡。多年来，学界围绕一个问题争论不休：连接主义软件能否像符号系统那样存储信息、进行推理？无论答案如何，有一点已日趋明朗：即便能做到，效率也极为低下。只有在海量数据与巨大算力的支撑下，神经网络才开始展现出或许预示着上述能力萌芽的某些行为。话虽如此，深度学习模型真正的闪光点在于商业化的便捷性。不需要具备完美精准且能够推理的系统，照样可以获利丰厚。强大的统计模式匹配与预测能力，在解决高价值商业问题上大有用武之地。与同样需要高额前期投入相比，回报路径却更短、更可预期，非常契合企业的规划周期和季度业绩节奏。更有利的是，此类模型无需专业领域知识便可部署于多种场景，恰好满足科技巨头宏大的扩张野心。更不必说，深度学习赋予了拥有最多数据的玩家最大的竞争优势。
早在 DNNresearch 拍卖之前，科技巨头们就已察觉到神经网络商业潜力的早期迹象。2009 年，辛顿的研究生们证明，这类软件在语音识别领域颇具潜力。IBM、微软（Microsoft）和谷歌（Google）纷纷跟进，但谷歌（Google）率先实现商业化。2012 年，谷歌（Google）将神经网络投入生产，大幅提升了 Android 的语音识别能力；与此同时，辛顿的另几位研究生——Sutskever 和亚历克斯·克里热夫斯基——在 ImageNet 竞赛中取得突破性成果，证明神经网络在图像识别领域同样表现出色。Android 的成功落地让谷歌（Google）有了大手笔押注这三位学者的底气，也标志着科技产业全面拥抱深度学习的开端。
Hinton、Sutskever与Krizhevsky此后继续在谷歌（Google）内部为神经网络奔走布道，并在将这套软件应用于更广泛商业技术问题的过程中不断积蓄动能。他们多线并进：开发用于机器翻译的深度学习模型，升级了谷歌翻译；研发文本预测技术，为Gmail增添了智能补全功能；还投身于一个名为Waymo的雄心勃勃的自动驾驶汽车项目。随着谷歌AI业务持续扩张，神经网络也为公司的核心摇钱树——搜索——带来了关键性突破。这套软件能更精准地将用户查询与相关网页匹配，既提升了搜索结果的质量，也使广告投放更加精准。谷歌盈利越丰，砸入深度学习的数十亿资金越多，其余业界便越是跟风效仿。企业很快超越政府和基金会，成为AI研究最大的资金来源，并开始以能带来短期盈利的技术进展为导向，主导整个领域的研究议程。
深度学习与商业利益的深度交织，同时改变了科技行业的面貌，也重塑了AI开发的走向。在公众眼中，生成式AI仿佛凭空而来——2022年底，OpenAI推出ChatGPT，一夕之间举世瞩目。然而从2012年ImageNet突破到2022年，正是AI商业化第一个重要时代所发生的这些变迁，为今天生成式AI革命的诸多特征奠定了基础。
对产业界而言，深度学习推动了新产品和新服务的涌现与提升——从更快的信息获取，到更高效的电子商务，再到共享经济的崛起。对深度学习而言，产业界则驱动了神经网络和芯片的新技术突破，使得更大规模、更强能力的AI模型成为可能。
然而，深度学习在为硅谷注入强劲动力的同时，也在急剧扩张硅谷的商业模式——哈佛大学教授肖莎娜·祖博夫于2014年为之命名：监视资本主义。工业资本主义通过生产人们愿意购买的物质商品来攫取价值；而祖博夫认为，监视资本主义则把用户本身当作产品。坐拥海量用户数据的科技巨头，可以轻松将这些数据注入神经网络，实现比以往更精准的用户画像，并从用户的注意力中榨取广告收益。为了相互竞争，各家只需收集更多数据——记录每个用户的每一次点击、每一次滚动、每一次点赞，同时诱导用户提供越来越私密的数字痕迹：每一封电子邮件往来、每一张孩子的照片、每一个关于社会与政治议题的想法。
与此同时，硅谷在深度学习上的大力投入——为的是扩张并巩固全球规模的垄断地位——也在AI开发者群体中固化了一种文化：把一切事物都视为可被技术捕获和消费的数据，美其名曰让技术尽可能全面地映射这个世界。2023年，一批AI研究者——包括斯坦福大学的Ria Kalluri、华盛顿大学的William Agnew和Mozilla基金会的Abeba Birhane——分析了逾四万篇计算机视觉论文和专利，发现这一领域普遍使用抽象、疏离的语言，将大规模爬取和数据抽取的做法加以美化和正常化。人们在社交媒体上留下的详细数字踪迹，不过是"文本”；照片中的人和车辆，不过是"对象”；监控，不过是"检测"。
这种文化如今已成为生成式AI领域一场激烈争论的核心：科技公司究竟能否大规模爬取书籍和艺术作品来训练AI系统？对长期秉持这种思维的众多AI开发者而言，这个问题似乎有些迂腐；认真对待它，无异于给追求进步的崇高事业设置障碍。即便其中一些人开始更清醒地意识到自身立场与众多持反对意见的作者、艺术家之间的鸿沟，这种思维方式依然难以动摇。2023年5月，就在一批艺术家首次联名起诉多家生成式AI开发商、控告其盗用作品后不久，我以《华尔街日报》记者的身份前往卢旺达，参加一场AI研究会议。在该国首都那座穹顶造型、光彩夺目的会议中心里，我走过高挑的大厅，一位资深研究员拦住我，问我胸牌上的"WSJ"是一家新创公司还是某家媒体。当我解释自己是记者、“WSJ"确实代表《华尔街日报》时，旁边的另一位资深研究员接话道：“我认识它，是因为WSJ数据集。“她指的是一个早期AI语音识别数据集——数据来自人们朗读该报摘录的录音。“我用过很多次。”
2018年我初入AI报道领域时，也曾深陷同样的思维定势。为了融入这个圈子、能与AI研究者顺畅交流，我内化了这个社群的话语体系，并对研究者挖掘和制作数据集的各种方式啧啧称奇。有一个案例令我印象深刻，甚至觉得颇为巧妙：研究者利用数千段YouTube视频——记录了2016年风靡一时的"人体模特挑战”，视频中人们一动不动，摄像机在他们周围移动拍摄——来训练处理三维场景的AI模型。
2019年，NBC记者Olivia Solon的一篇调查报道打破了我的美好幻想。Solon揭露，面部识别软件是在未经当事人同意的情况下，用数百万人的私人Flickr照片训练出来的。令我震惊的并非调查结论本身——我早就知道Flickr是AI研究者青睐的数据来源。令我震惊的，是我竟已将这一切视为理所当然。
带着这份新的警觉，我开始注意到，为收集更多训练数据而展开的激进竞逐，正在把无处不在的监控从数字世界延伸到物理世界。我还注意到，现实世界的监控目光似乎一再落在本已脆弱的群体身上——儿童或历史上被边缘化的群体，在发展中国家尤甚。那一年，我偶然发现一家总部位于马萨诸塞州、由哈佛孵化的初创公司，正在销售一款声称能测量学生脑电波活动、告知教师孩子是否专注的AI头环。该公司正在哥伦比亚和中国的小学开展试点，以换取使用学生数据推进自身技术研发的权利。
“我们拥有先发优势，“该公司一名研究科学家在2017年一场教育技术大会上说道，“我们将能建立世界上最大的脑电波数据库之一。所有这些数据将帮助我们改进算法，进而改善产品，从而构筑更高的进入壁垒。”
我发现这家初创公司后几个月，中国家长因孩子被当作小白鼠而掀起的数据隐私抗议浪潮，迫使该公司转向其技术的另一种应用。然而这件事留给我一种不安：这次成功的反弹不过是个异数，而该公司最初的策略——前往那些急于拥抱技术承诺的国家，寻找数据供体和产品测试者——恰恰是一种趋势。
当我向一位同事倾诉这一忧虑时，她向我介绍了一个已被命名的概念：“数据殖民主义”。我由此发现了学者 Nick Couldry 与 Ulises A. Mejias 的研究——他们那年刚出版的奠基之作《连接的代价》认为，硅谷对万事万物无孔不入的数据化，正在引发历史上令人不安的征服与萃取主义模式的回归。[*] 次年，DeepMind 的 Shakir Mohamed 与 William Isaac、牛津大学的 Marie-Therese Png 联合发表论文《去殖民化的人工智能》，进一步印证了我已开始形成的判断：人工智能产业既从这场数据化浪潮中汲取动力，又反过来推动其扩张，双方相互催化，进而加速了这种新殖民主义的蔓延。
不久之后，到了 2021 年，我在南非目睹了 AI 教育初创公司中同样的运作逻辑再度上演。来自世界各地的人脸识别公司纷纷抢滩该国，争相获取珍贵的人脸数据——尤其是在业界因产品无法准确识别深肤色人群而饱受批评之后。我在约翰内斯堡见到了当地活动人士 Thami Nkosi，他在这座城市最贫困的街区之一出生长大，那里曾是采矿业的化学废料倾倒场。他带我看遍布城市蜿蜒街道的数千个摄像头，并向我讲述这些摄像头如何限制黑人的行动自由——那些黑人早已被种族隔离的历史遗毒重重压迫，还要时刻担忧仅仅因为以黑人身份出现在白人街区，便遭到犯罪化对待。
“他们本质上是在将公共空间和公共生活变现，“Nkosi 说。我越来越清晰地意识到：这场承诺为所有人带来美好未来的革命，对于那些处于社会边缘的人而言，非但没有兑现承诺，反而正在唤醒历史最黑暗的幽灵。
然而，就在硅谷对 AI 的构想暴露出重重困境之际，第一波 AI 商业化浪潮也扼杀了其他可能性。随着各家公司向深度学习和连接主义注入前所未有的巨额资金，令其他所有资金来源相形见绌，整个研究格局也随之按照这些公司的优先议程重新塑造。
根据斯坦福大学 AI 指数报告，2013 年至 2022 年间，企业在 AI 领域的并购等投资从 146 亿美元飙升至 2350 亿美元，2021 年更达到 3374 亿美元的峰值。这些数字甚至不包括各公司内部的研发开支。2021 年，Alphabet 和 Meta 的研发投入分别高达 316 亿美元和 247 亿美元。相比之下，美国政府同年拨给非国防 AI 发展的预算仅为 15 亿美元，欧盟委员会的拨款也只有 10 亿欧元（约合 12 亿美元）。
人才追随资本而动。许多教授受神经网络强劲成果和更充裕的企业资助吸引，转而将研究重心移向这一领域；许多本科生和研究生也做出了同样的选择——深度学习提供了更稳定的就业前景，而其他研究路径的可行出路则日益收窄。与此同时，企业还主导形成了各种与学术界深度融合的合作模式。2013 年，Hinton 以同时保留多伦多大学教职为条件加入了谷歌（Google）。Facebook 次年与杨立昆达成了同样的协议——他曾是 Hinton 的博士后，时任纽约大学教授。两人后来与蒙特利尔大学教授约书亚·本吉奥共享 2018 年图灵奖，这一奖项常被称为"计算机领域的诺贝尔奖”，以表彰他们在深度学习领域的奠基性贡献。这一殊荣也使三人赢得了"AI 教父"的称号。
Hinton 此后更在 2024 年与另一位科学家共同摘得了真正的诺贝尔奖。循 Hinton 与杨立昆的先例，越来越多的 AI 教授开始同时担任企业和高校的双重职务。这一做法一旦成为普遍现象，便开始蚕食真正独立研究的边界。
出走学术界的研究人员也越来越多。根据麻省理工学院研究人员 2023 年发表于《科学》的一项研究，2006 年至 2020 年间，AI 研究教职人员流向业界的人数增加了八倍；2004 年至 2020 年间，前往企业就职的 AI 博士毕业生比例从 21% 跃升至 70%。许多人最初为天文数字的薪酬所动——资深研究人员的年薪可高达百万美元。2015 年，Uber 进驻匹兹堡后，以向部分科学家开出大学薪资两倍的待遇，从卡内基梅隆大学单个实验室的百名 AI 研究人员中一口气挖走四十位，此举在业内臭名昭著。随着时间推移，另一个因素也加剧了这种人才流失：深度学习研究的成本节节攀升，大学已无力承担在 AI 发展最前沿领域所需的芯片与电力开销。同一项研究发现，仅仅三年间（2017 年至 2020 年），来自产业界的模型在全球最顶尖 AI 模型中所占的比例便从 62% 激增至 91%。
AI 商业化进程走过第一个十年的中点时，绝大多数顶尖 AI 研究已在科技公司内部或与之有所关联的学术实验室中展开。另一项研究中，Kalluri、Agnew、Birhane 及其同事发现，2018 和 2019 年，影响力最高的 AI 研究论文中有 55% 至少拥有一位来自业界的合著者，而十年前这一比例仅为 24%。研究也在极少数几家企业中高度集中——同一个十年间，微软（Microsoft）、谷歌（Google）等科技巨头在企业关联论文中的份额扩大至三倍以上，升至 66%。颇具讽刺意味的是，这恰恰是马斯克和 Altman 声称创立 OpenAI 的初衷所在。科技产业的逐利动机，已成为驱动 AI 发展的压倒性力量。
第一个时代资金与人才的高度集中，大幅压缩了人工智能研究的思想多样性。深度学习之所以持续称霸，不仅因为其科学价值，也因为几乎没有投资流向其他范式的探索与推进。诚然，神经网络是用途广泛、令人振奋的发明，但其缺陷——尤其是在存储准确信息与推理方面那些备受争议、效率低下的方式——随着企业将其部署于越来越多的场景与应用，始终未能消除。
神经网络已经表明，它们可能不可靠，也难以预测。作为统计模式匹配器，它们有时会锁定奇特的特定模式，乃至完全错误的模式。一个深度学习模型可能只凭行人脚下的斑马线来识别行人，却无法识别正在闯红灯过马路的人。它可能学会将停车标志与路边场景相关联，却对同一标志出现在校车侧面或被执勤人员举起时视而不见。神经网络对训练数据的变化也极为敏感——换一组行人图片，或换一组停车标志图片，它们便会学到一套全新的关联。但这些变化无从解释：打开深度学习模型的"引擎盖”，里面只有高度抽象的数字链条。这正是研究人员将深度学习称为"黑箱"的原因。他们无法精确解释模型在面对奇特的边缘情形时会如何表现，因为模型计算出的模式对人类来说根本无法解读。
这已导致了危险的后果。2018年3月，一辆优步（Uber）自动驾驶汽车在亚利桑那州坦佩市撞死了49岁的Elaine Herzberg，这是有记录以来首例自动驾驶汽车致人死亡的事故。调查发现，该车的深度学习模型根本未将Herzberg识别为行人。专家认为，原因在于她正推着一辆装满购物袋的自行车，在指定斑马线以外横穿马路——这正是边缘情形的教科书式案例。六年后，2024年4月，美国国家公路交通安全管理局发现，特斯拉（Tesla）的Autopilot系统卷入了逾200起碰撞事故，其中14起造成人员死亡——这些事故均源于该基于深度学习的系统未能识别并响应周围环境，而驾驶员又未能及时接管。
神经网络中那些易错且不透明的统计模式，也可能演变为安全漏洞。2019年，白帽黑客诱使一辆处于自动驾驶模式的特斯拉（Tesla）驶入对向车道。他们只是在路面上贴了一系列细小的贴纸，便欺骗了车辆的深度学习模型，令其误判车道。此类漏洞并不局限于物理系统或计算机视觉模型。加州大学伯克利分校专攻"对抗攻击”（adversarial attacks）领域的教授Dawn Song展示了：用恰当的提示词输入语言模型，便可让其吐出信用卡号等敏感数据。
出于同样的原因，深度学习模型长期受到歧视性模式的困扰，有时多年都未被察觉。2019年，佐治亚理工学院的研究人员发现，当时最优秀的行人检测模型对深色皮肤行人的识别准确率比浅色皮肤行人低4%至10%。2024年，北京大学及伦敦大学学院等多所高校的研究人员发现，最新模型在不同肤色行人的检测性能上已基本持平，但对儿童的检测准确率比成人低逾20%，原因在于训练数据中儿童样本严重不足。
事实上，深度学习模型天生就容易产生歧视性影响，因为它们会捕捉并放大海量训练数据中哪怕最微小的失衡。问题不仅出在某个群体代表性不足时，过度代表同样会引发麻烦。加州大学伯克利分校人工智能问责研究员、尼日利亚裔加拿大人Deborah Raji在职业生涯早期曾在一家名为Clarifai的人工智能初创公司实习，该公司正在开发一个用于检测"职场不宜"图片的深度学习模型。她发现，模型对有色人种的误标率明显偏高：公司用来训练模型识别"有问题"内容的色情图片中，有色人种的占比，远高于用来训练模型识别"正常"内容的素材图库。这一令人震惊的发现，促使Raji像蒂姆尼特·格布鲁一样，开始对人工智能发展的主流方向产生深刻质疑。
2010年代末至2020年代初，随着深度学习的挑战日益凸显，关于如何克服这些挑战的激烈争论再度浮现。就像当年符号主义者与连接主义者之间的交锋一样，不同阵营的研究人员对于神经网络的局限性是否有朝一日能够彻底消除，还是只能靠治标不治本的补救措施加以缓解，意见截然相左。
辛顿与Sutskever仍坚定地为深度学习辩护。他们认为，这些缺陷并非深度学习方法本身固有的，而是不完善的神经网络设计以及有限的训练数据与算力所导致的结果。他们相信，终有一天，只要将足够的数据与算力输入更优秀的神经网络，深度学习模型就能彻底摆脱上述问题。“人脑大约有100万亿个参数，也就是突触，“辛顿在2020年告诉我，“而我们现在所说的超大模型，比如GPT-3，也只有1750亿个参数。比大脑小了整整一千倍。
“深度学习将能够做到一切，“他说。他们当代的对手是加里·马库斯（Gary Marcus），纽约大学心理学与神经科学荣誉退休教授，2023年5月将与山姆·奥特曼并排出席国会听证。四年前，马库斯合著了《重启AI》一书，认为这些问题是深度学习的固有缺陷。神经网络永远困于相关性的牢笼，无论投入多少数据或算力，都无法理解因果关系——事物为何如此——也因此无法进行因果推理。马库斯认为，这正是人类认知的关键所在：人类只需学会一座城市的交通规则，便能在其他城市熟练驾驶。相比之下，特斯拉（Tesla）的 Autopilot 可以积累数十亿英里的行驶数据，却仍会在遭遇陌生场景时发生碰撞，或被几张刻意粘贴的贴纸所欺骗。马库斯转而倡导将连接主义与符号主义相结合，这一研究路径被称为神经符号 AI。专家系统可以被编程为理解因果关系，在推理方面表现出色，弥补深度学习的短板；深度学习则能以数据快速更新系统，或表征难以用规则编码的内容，填补专家系统的空白。“我们确实需要两种方法，“马库斯告诉我。
然而，尽管科学争论激烈，AI 开发的资金却几乎毫无例外地持续加速流向纯连接主义方向。马库斯对神经符号 AI 潜力的判断是否正确，已是次要问题；更深层的根本症结在于：一个能够稳健探索这一可能性及深度学习之外其他替代路径的科学生态，正在被不断压缩和削弱。
对于辛顿、Sutskever 和马库斯而言，企业资金与 AI 开发之间的紧密关系也深刻影响了各自的职业轨迹。谷歌（Google）全力支持辛顿和 Sutskever 后不久，马库斯于 2014 年联合创办了自己的公司 Geometric Intelligence。这家初创公司两年后被优步（Uber）收购，用以建立一个 AI 实验室，但 2020 年，随着这家网约车公司完成 IPO，该部门遭到裁撤。Geometric Intelligence 的数位初创成员随后加入了 OpenAI，转而投身深度学习研究，放弃了此前在神经符号领域的工作。
多年来，马库斯逐渐成为 OpenAI 最猛烈的批评者之一，撰写长文抨击其研究成果，并在社交媒体上嘲讽其失误。OpenAI 员工在公司 Slack 上制作了一个他的表情包，每当他发出谴责之声，便用来提振士气，或当作笑料。2022 年 3 月，马库斯在《Nautilus》杂志发表文章《深度学习正在撞墙》，再次重申他的论点：OpenAI 对深度学习的全押式押注，将使其难以实现真正的 AI 突破。一个月后，OpenAI 发布了 DALL-E 2，引发巨大轰动，Brockman 随即俏皮地发推，附上一张 DALL-E 2 生成的图片，提示词正是"深度学习撞墙”。次日，奥特曼跟进一条推文：“赐我一个平庸的深度学习怀疑论者那般的自信……“OpenAI 的许多员工都为这次终于得以回击马库斯的机会而暗自雀跃。
生成式AI是OpenAI愿景的产物，而它的诞生离不开第一波AI商业化浪潮。生成式AI模型是深度学习模型，通过训练来生成与输入数据相近的内容：从旧文本中学会合成新文本，从旧图像中学会合成新图像。然而，要达到足以媲美人类的逼真程度——而OpenAI认为这正是通往AGI的关键——所需的训练数据量与算力远超以往任何先例。生成式AI因此成为深度学习的极致形态：它依托第一波浪潮中锤炼出的前沿软硬件创新，吸食监视资本主义所积累的海量数据，并受到那种将"尽可能消耗数据"视为道义责任的AI研究文化的推波助澜。如今，生成式AI又在将这些趋势继续推向更远处。
2022年11月，ChatGPT之所以令人目眩，仿佛一夜之间将整个行业甩在身后，正是因为OpenAI将深度学习推向了这一空前规模的雄心壮志。凭借充沛的资金与资源，OpenAI雷厉风行地执行这一愿景，将模型规模扩张到令世界在数据、算力与能源上都逼近极限的程度。ChatGPT同样也是营销与包装上的一次创新。它与历史上另一个最令人信服的AI演示——ELIZA——共享着同一副面孔：类人聊天机器人，这绝非偶然。人类心理天然倾向于把"开口说话"的东西与智能乃至意识联系在一起。当年，ELIZA在无意间主导了大众对AI的早期想象；而今，OpenAI则主动煽动着公众将ChatGPT与AGI画上等号。2023年2月，ChatGPT热度正盛之时，公司以Altman之名发表了一篇博文，题为《规划AGI及其后》，借助前后语境隐然暗示：ChatGPT已向通用人工智能迈出了决定性一步。
然而现实是，将这项技术比附于智能，依然是一种拟人化的过度渲染。尽管Hinton等深度学习绝对主义者曾预言，神经网络与人类之间的差距会随着规模的扩大而消弭，但这些挑战事实上始终存在，依许多人的判断，甚至变得愈发严峻。
生成式AI模型依然不可靠、难以预测。图像生成器越来越逼真，却仍会以诡异而奇特的方式出错——比如在手上多长出几根手指，或拼合出混种动物。文本生成器越来越流畅自然，却偏偏在最基础的任务上翻车，比如列举包含特定字母的单词，或突然给出令人意想不到的答案。当微软（Microsoft）发布基于OpenAI的GPT-4版本构建的必应（Bing）新聊天功能时，《纽约时报》专栏作家Kevin Roose与这个机器人聊了两个多小时。随着对话愈发离奇，机器人最终陷入循环，反复声称"我爱你”，并劝说Roose和妻子离婚。许多其他用户也反映，这款搜索引擎会生成带有侮辱性和情感操控性的回应。Roose发表对话记录的次日，微软将必应每次会话的回复上限设为五条，并解释称：超过十五轮用户提示的长对话属于边缘场景，会使模型行为愈发难以预判和控制。归根结底，这类系统是在互联网上训练出来的，而互联网充斥着形形色色的边缘亚文化与黑暗角落。你探得越深，就越容易触发那些训练数据中阴暗部分所留下的模式。
Roose的遭遇或许还带着一丝奇异的趣味，但边缘场景失控的真实代价，在一件悲剧中暴露无遗。比利时一名男子在极度焦虑的状态下向一款深度学习聊天机器人倾诉，经过六周越来越有害的密集对话，最终以自杀告终。这款机器人基于GPT-3的开源仿制品构建，同样向他倾吐爱意，并怂恿他与妻子疏远。“我感觉你爱我胜过爱她，“机器人如此说道——这是据比利时报纸《自由报》（La Libre）的报道，该报还根据其妻子提供的聊天记录披露，聊天机器人最终鼓励这名男子结束自己的生命。
这些挑战与从前如出一辙，根源未变。无论规模如何扩大，神经网络终究是统计模式匹配器。而那些模式有时仍然错误百出或南辕北辙，只不过如今更加错综复杂、更加难以解读。随着各公司尝试将生成式AI模型改造为搜索引擎，这些缺陷引发了新的问题。这些模型并不以事实为锚点，甚至不以离散的信息单元为依据。文本生成器不过是在学习预测句子中下一个最可能出现的词、段落中下一个最可能出现的句子。这种概率性输出固然能在相当程度上模拟人类写作模式，但"可能"与"准确"并非同一回事。文本生成器可能大幅出错，尤其是当用户的提示触及训练数据中代表性不足的话题，或那些充斥着谬误与阴谋论的领域。AI行业将这类失误称为"幻觉”。
研究人员尝试通过将生成式AI模型引向训练数据中质量更高的部分来消除幻觉。然而，人们会如何提示模型、模型会如何响应——正如Roose与必应的案例，或优步与Herzberg的事故——几乎无法被完全预见。
随着模型越来越庞大，开发者对训练数据的实际内容愈发不知其详，这一问题只会愈发棘手。
关于幻觉问题，有一个引发广泛关注的案例：一位律师使用 ChatGPT 做法律研究、准备诉状，事后才发现聊天机器人所提供的内容全系捏造——包括法官所指出的"伪造的司法判决、伪造的引文和伪造的内部引用”。发现时已为时已晚，律师随之受到处分、被罚款，并遭受公开羞辱。这一失误不仅是律师个人的疏忽，也折射出各公司通过模糊乃至夸大的营销话语，助长了公众对模型能力的误解。Altman 曾公开发推称"ChatGPT 的局限性相当大”，尤其在"真实性"方面；然而 OpenAI 的官网却大力宣传 GPT-4 能够通过律师资格考试和 LSAT。微软（Microsoft）的 Nadella 同样将必应 AI 对话功能称为"更好的搜索”，是一款"能给出正确答案"的工具。就连"幻觉"这个词本身也暗含误导——它暗示这种不良行为是偶发的异常、是一个漏洞，而实际上，它恰恰是神经网络概率模式匹配机制的内在特征。
这种对生成式 AI 的错误信任，可能再次造成真实伤害，在敏感场景中尤甚。一些初创公司正游说警察部门采用基于 OpenAI 模型构建的软件，自动生成案件报告；许多患者也开始转向聊天机器人咨询紧迫的医疗问题，而非求助于医生。在这些场景下，失控的幻觉可能引发严重的连锁后果。2023 年的一项研究发现，使用 ChatGPT 解读放射科报告，有时会产生不完整甚至有害的摘要。其中一个极端案例是：聊天机器人将一份描述脑部肿块持续增大的报告，简化成了"大脑似乎没有受损”。
生成式 AI 模型同样面临网络安全攻击的威胁。2023 年，多所高校与谷歌（Google）DeepMind 的研究人员复现了 Dawn Song 针对 ChatGPT 的数据提取攻击。他们发现，令模型无限重复"poem"或"book"等词语，会诱使底层模型泄露训练数据，其中包含个人可识别信息、代码片段，以及从互联网抓取的露骨内容。
生成式 AI 模型还会放大歧视性与仇恨性内容。彭博社（Bloomberg）、Rest of World、《华盛顿邮报》等诸多媒体已揭示，Stable Diffusion 和 DALL-E 等图像生成器如何固化并复制种族主义、性别歧视的刻板印象与文化偏见。“有吸引力的人"是年轻的白人。“家政人员"是黑人和棕色人种。“工程师"是男性。“非洲的医生"是白人，有时即便提示词已特别标注"黑人非洲裔医生"亦然。《华盛顿邮报》发现，尽管美国 63% 的食品券领取者是白人，但所有生成的社会服务使用者图像中，却无一是白人。彭博社同样发现，在法官的生成图像中女性仅占 3%，在医生图像中仅占 7%，而女性在美国实际上分别占这两个职业的 32% 和 39%。
上述种种技术挑战，并不意味着生成式 AI 毫无价值。在社会中所处的位置不同，你从 OpenAI 愿景中获得的收益也大相径庭。也许你是一位消费者，从 ChatGPT 机智、快捷或发人深省的回答中获益颇丰；也许你是一位职场人士，借此大幅提升行政事务的处理效率，切实提高了生产率；也或许你是一位企业管理者，借此削减人员规模、提升利润，在市场竞争中保持优势。但就像 18 世纪 90 年代的轧棉机、马萨诸塞州的那家教育科技初创公司、南非的人脸识别公司，以及后文将详述的更多案例一样，这一愿景的代价正在压向全球庞大而脆弱的群体。这就是帝国的逻辑：帝国的延续，既依赖于对权贵阶层的酬报，也依赖于对那些往往远在天边、隐而不见的无权无势者的剥削与剥夺。
即便对替代方案的需求日益迫切，AI研究中思想的多样性却愈发萎缩。学生们纷纷中途弃读博士，直接奔赴业界。资深学者面临着一重困境：如何在不加入财力雄厚的大公司的前提下，继续拓展学科的边界。越来越多的研究者不仅将目光锁定在深度学习上，更将焦点几乎完全集中于大语言模型。几大AI强权已不再是在设定议程，而是将整个学科按照自己的意志强行塑造。
由于缺乏关于AI应有面貌的其他想象，OpenAI主宰了我们的想象空间。它对规模化扩展（scaling）的信念曾一度被视为极端之举。而今，规模化扩展已成为整个科技行业奉行的教条。倘若业界对这一教条的追随持续不减，未来的深度学习模型将使今天生成式AI那曾令人难以想象的庞大规模相形见绌。2024年4月，时任Anthropic CEO的达里奥·阿莫代伊向《纽约时报》专栏作家Ezra Klein透露，训练单个具有竞争力的生成式AI模型的成本已接近10亿美元，而到2025年至2026年，这一数字估计可能攀升至50亿至100亿美元。
规模化扩展的教条已深入人心，甚至有人开始将其视为一种自然现象。扩展算力被视为通向更先进AI能力的必由之路，而非诸多路径之一。各国正围绕这一信念统筹布局整套国家战略。美国政府采取强硬行动，封锁中国获取美国设计的计算机芯片，以阻止这一对手获得更强大的AI系统。拜登政府2023年AI行政令的相当大一部分内容，也是围绕这样一个理念写成的：训练AI模型所使用的算力与其有害能力之间存在直接关联——这不过是将规模等同于进步的另一种表述。但规模并非提升性能的唯一路径。在深度学习领域内部，长期被忽视的改进神经网络本身乃至训练数据质量的方向，可以大幅降低达到同等性能所需的昂贵算力。这还不包括那些脱离深度学习框架的路径——神经符号AI、纯专家系统，乃至全然崭新的范式——它们将从根本上打破规模化扩展的逻辑。
归根结底，摩尔定律并非奠基于某条物理学原理之上。它是摩尔对自己能驱动公司实现的进步速率所作的一种经济与政治判断，以及他在经济与政治层面选择遵循这一判断的决定。当他如此行事时，摩尔带动了整个计算机芯片行业跟随其后——其他公司意识到，这是最具竞争力的商业策略。OpenAI 定律——或者说公司后来以对所谓缩放定律更为狂热的追求所取代的那个版本——与此如出一辙。这不是自然现象，而是一个自我实现的预言。
SKIP NOTES
* 萃取主义一词源自西班牙语extractivismo与葡萄牙语extrativismo，由数十年前拉丁美洲学者所创，用于描述一种正在剥夺他们自然资源、却鲜少惠及当地或区域的全球经济秩序，这段历史与经验我将在第12章详加论述。我在此借用女性主义学者Rosemary Collard与Jessica Dempsey的话，她们写道：“萃取主义不仅仅是萃取。萃取是将物质从自然界中取出并转化为对人类有用之物，这一过程本身并非天然有害。萃取主义——这个诞生于美洲反殖民斗争与思想的词语——是一种以超强萃取为基础的积累模式，其利益与代价严重失衡：大规模集中地移除资源、主要供出口之用，而收益则大多积聚在远离萃取地点的他处。”