# 尾声：帝国如何倒下 LLMS 索引： [llms.txt](/llms.txt) --- 2021年，我偶然发现了一个故事，它与我此前采访过的任何故事都截然不同：新西兰一个原住民社区正在借助人工智能振兴毛利人的语言——te reo Māori。 和全球许多原住民群体一样，毛利人在殖民统治下经历了几代人的惨烈遭遇。1867年，《原住民学校法》规定英语为学校唯一教学语言，毛利儿童因说自己的母语而遭受羞辱，甚至被打。二十世纪初，随着快速城镇化席卷全国，毛利社区四分五裂，文化与语言保育的核心随之瓦解。te reo 使用者占毛利人口的比例从90%骤降至12%。当新西兰（毛利人称其土地为 Aotearoa）在120年后终于逆转相关政策时，所剩无几的 te reo 教师已难以挽救这门垂死的语言。与许多语言一样，te reo 几乎从地球上销声匿迹。 失去一门语言的悲剧，难以用言语充分表达。正是出于人工智能研究者最初转向语言来构建其技术的同样理由，语言流失的意义远不止于失去一种沟通方式。每一种语言都承载着丰厚的历史、文化与知识；它是无数人跨越时间，共同寻找声音与文字，捕捉对宇宙、生命与人类经验最细微观察的集体结晶；是彼此分享震撼之美与痛苦失败的载体；是教导孩童、向长者求知的媒介；是表达爱的方式。 失去一门语言，是全人类的悲剧，也是每一个人的悲剧。被迫割断自己的传承，转而守护他人的语言，否则便遭鞭打——这以最赤裸的方式确立了一种等级：谁的历史、谁的文化、谁的知识值得流传，谁的又微不足道、理应被抹去。 大型语言模型加速了语言流失。即便是早几代的 GPT-2 这类模型，全世界也只有少数几种语言拥有足够多的使用者，并在网络上留存了足够规模的文献，以满足这些模型对数据的渴求。在当今仍存在的七千余种语言中，据联合国教科文组织（UNESCO）统计，近半数濒临消亡；约三分之一在网络上有所呈现；不足2%受谷歌（Google）翻译支持；而根据 OpenAI 自身的测试，仅有15种语言（占0.2%）能被 GPT-4 以80%以上的准确率支持。随着这些模型成为数字基础设施，互联网对不同语言社区的可及性——以及它所提供的经济机会的可及性——将持续收窄，驱使越来越多的社区将学习和使用英语等强势语言置于本族语之上。 正是面对这一迫在眉睫的生存威胁——一种与主流截然不同的「存亡」观——一对原住民伴侣 Peter-Lucas Jones 和 Keoni Mahelona 率先将人工智能视为一种可能的工具，试图帮助新一代使用者重燃 te reo 的生命力。Jones 是毛利人，Mahelona 是夏威夷原住民，两人既是工作伙伴，也是生活伴侣。Mahelona 说，两人相识、相爱，源于他的一个梦中异象：如果移居新西兰，他便会遇见一个毛利男孩，与他共度此生。 2012年，两人从惠灵顿迁回 Jones 的出生地——位于 Aotearoa 北端的 Kaitāia。Jones 出任 Te Hiku Media 的首席执行官。这是一家以 te reo 播音的公共广播电台，也是参与 te reo 振兴工作的更大媒体与机构网络的组成部分。就任新职后，Jones 发现了一个机会。Te Hiku 经过二十余年的播音，积累了大量 te reo 口语档案音频，其中包括一段他的祖母 Raiha Moeroa 的录音——她生于十九世纪末，口音尚未受到殖民者英语的侵染。Jones 还有一个心愿：为更多毛利长老录制访谈，在他们离世之前，留存他们的口述历史与原汁原味的 te reo。在他看来，这些录音将是珍贵的语言学习资源，是通往过去的门户——让新一代 te reo 学习者得以聆听母语的原声，与先人的智慧相连。 挑战在于如何转录这些音频以辅助学习，毕竟流利的 te reo 使用者寥寥无几。于是在2016年，就在 OpenAI 刚刚起步之际，Jones 找到正在重建 Te Hiku 网站的 Mahelona，共同寻找解决方案。Mahelona 是个通才，曾在奥林学院（Olin College）攻读机械工程，先后获得工商管理硕士学位，又以富布赖特学者身份在新西兰攻读物理与计算纳米技术第二个硕士学位。他很快想到用人工智能解决问题：借助一个经过精心训练的 te reo 语音识别模型，Te Hiku 只需少数几位使用者便能完成整个音频库的转录。 正是在这里，Te Hiku 的故事与 OpenAI 及硅谷的人工智能开发模式彻底分道扬镳。深知殖民剥夺的毁灭性影响，Jones 和 Mahelona 下定决心：只有在每一个开发阶段都能保障三件事——知情同意、互惠互利，以及毛利人民的自主权——才会推进这个项目。这意味着，在启动项目之前，他们必须先征得毛利社区和长老的许可，询问社区是否真的希望推进此事；在收集训练数据时，只向充分了解数据用途、自愿参与的人征集；为了让模型发挥最大效益，他们会倾听社区的声音，了解哪类语言学习资源最有帮助；而在拥有这些资源之后，他们还将自行购置英伟达（Nvidia）GPU 和服务器来训练模型，不依赖任何科技巨头的云服务。 最关键的是，Te Hiku 将建立一套机制，确保其收集的数据始终作为未来受益的资源，而永远不会被挪用于社区未曾同意的项目、可能剥削或伤害社区的项目，或任何侵犯其权利的用途。基于毛利人的守护原则 kaitiakitanga，数据将由 Te Hiku 保管，而非自由发布至网络；Te Hiku 只向尊重毛利价值观、且拟将数据用于社区认可并认为有益之项目的机构发放许可。 "数据是殖民主义的最后一块边疆，"Mahelona 对我说：旧日的帝国从原住民社区夺走土地，随后又以新的限制性条款强迫他们购回，才能重新取得所有权。"AI 不过是新一轮的圈地运动。科技巨头热衷于几乎免费地收集你的数据——用来打造他们想要的任何东西，实现他们的终极目标——然后再以服务的名义卖还给你。" 从始至终，Jones 和 Mahelona 毫不妥协地完成了这个项目。他们曾发起一场教育活动，向更多毛利人普及 AI 知识，并举办社区竞赛，众筹数据捐赠与标注。短短十天内，Te Hiku 便从约二千五百人录制的约二十万条音频中，征集到三百一十小时的高质量转录录音。如此高的参与度在 AI 研究界几乎前所未闻——这充分印证了 Te Hiku 的工作方式在社区内积累的信任与热情。只要人们真正了解并同意这一项目，并完全相信 Te Hiku 会妥善托管这些数据，他们便乐于主动捐献。 这个数据池与 OpenAI 从网络各处抓取的六十八万小时音频相比相差悬殊——后者被用于训练 OpenAI 的语音识别工具 Whisper。但这正是 Te Hiku 经验带来的又一启示：三百一十小时已足以开发出第一个毛利语语音识别模型，准确率达 86%。OpenAI 致力于打造无所不能的单一超大型 AI 模型，这一目标必然要求尽可能大规模地汲取数据；而 Te Hiku 的追求仅仅是构建一个小巧、专精的模型，在一件事上做到极致。除此之外，Te Hiku 还得益于跨境开源 AI 社区的支持：它以 Mozilla 基金会提供的免费语音识别模型 DeepSpeech 为起点——这一模型本身也是另一种 AI 发展理念的产物。与 Te Hiku 一样，Mozilla 仅使用经过完全知情同意捐献的数据训练模型，所采用的神经网络架构由中国公司百度位于湾区的研究实验室开发。整个项目，Te Hiku 只使用了两块 GPU。 --- 早在ChatGPT迅速夺占AI发展的主导范式、将同意、互惠与主权几乎彻底抛诸脑后之前，我便已写过Te Hiku的工作。然而时至今日，我愈发觉得Te Hiku的激进路径不仅更具现实意义，更是刻不容缓。本书对OpenAI及硅谷宏观愿景的种种批判，绝非意在全盘否定AI。我所拒绝的，是一种危险的论断——认为AI的广泛惠益只能来自、乃至只会涌现自这样一种技术愿景：它要求我们彻底让渡隐私、自主与尊严，包括劳动和艺术的价值，以服务于一个归根结底的帝国式集权工程。 Te Hiku为我们指出了另一条路。它所构想的AI及其发展方式，恰恰与此相反。模型可以小巧、专用，训练数据可以是有边界、可知晓的，从而消除大规模剥削性、有损心理健康的劳工实践的动因，也消除生产和运行大型超级计算机那种无所不吞的萃取主义。AI的创造可以是社区驱动的、经过知情同意的、尊重本地语境与历史的；其应用可以提升和强化边缘化社群；其治理可以是包容的、民主的。 Te Hiku并非唯一一个探索AI发展新路径的组织。在为本书进行报道的过程中，世界各地涌现出的众多组织和运动一次次令我深受鼓舞——它们抵抗AI帝国，主张自决权利，共同勾勒出一条前进的新路。 蒂姆尼特·格布鲁被谷歌（Google）驱逐后，于2021年12月创立了一家非营利机构，以延续她的研究。她将其命名为DAIR，即分布式AI研究院（Distributed AI Research Institute）——"分布式"，是为了对抗集权。"那是我脑海中浮现的第一个词，"格布鲁说。她设想组建一支来自世界各地的研究人员团队，每个成员都扎根于本地社群，将各地丰富的经验与视角带入研究院的工作，同时以这些工作回馈所在社群。"科技正从硅谷出发影响整个世界，但整个世界却没有机会反过来影响科技，"她说。 社会学家Alex Hanna是〈随机鹦鹉〉论文谷歌方面的共同作者之一，也是首位加入格布鲁的人，出任DAIR研究主任。Hanna上任之初，首要任务便是撰写一份研究理念，进一步阐明机构工作的精神内涵。为此，格布鲁和Hanna招募了DAIR第三位成员Milagros Miceli——同样兼具社会学家与计算机科学家的双重身份，此前一直从事AI行业剥削性劳工实践的研究。三人共同写下这份理念宣言："我们的研究旨在惠及那些通常不被AI所服务的社群，并共同开辟拒绝、质询和重塑AI系统的路径。" 他们为这一理念的落实构建了七大支柱，包括：将受AI影响却尚未在AI研究中获得充分代表的社群置于核心位置，与之建立有实质意义的关系，视其为知识生产中真正的合作伙伴；对研究和技术创造中所涉及的各种劳动给予公平报酬；追问AI发展体系中那些将历来被边缘化的人持续推向边缘的结构性根源；并与这些社群携手，共同构想能够一点一滴重塑世界的替代方案——朝向一个他们真正愿意栖居其中的世界。 此后，Miceli着手推进一个新的研究项目，将上述理念付诸实践。她发起了"数据工作者调查"，邀请来自世界各地的数据工作者自行提出关于数据标注行业的研究问题及改进方向。无论参与者身处何地，她均按照她所在的德国标准研究员薪资发放报酬，以体现这些工作的价值：每小时二十五欧元。 "关于数据工作，始终存在一种虚假逻辑：我们最少能付这些人多少钱？这源于殖民主义的逻辑：你选择一个地方，用最低的成本做最多的事，在那里真正地掠夺人，以低廉的代价榨取资源，"Miceli说。"问题是，如果这些工作正在为公司创造数十亿乃至数万亿美元的收入，为什么这些公司只付每小时两美元？为什么我们不去看这些公司能支付多少，而只是盯着这些工人能接受多少？" 参与首轮调查的十五名工作者中，有来自委内瑞拉的Oskarina Veronica Fuentes Anaya，以及来自肯尼亚的Mophat Okinyi。Fuentes与一位动画艺术家合作，制作了一段讲述自身经历的视频，并与其他数据工作者携手，呈现他们共同面临的困境：平台任务的匮乏、难以预测也无从掌控的工作时间，以及惨不忍睹的薪酬。如今，Fuentes同时活跃在五个数据标注平台上，每月收入勉强超过哥伦比亚最低工资线，约合335美元。每项任务的平均报酬在一到五美分之间；任务在深夜推送时，她依然强迫自己爬起来接单。"我们是社会的幽灵，我敢说，对于那些我们服务了多年却始终毫无保障或保护的公司而言，我们不过是廉价的、用完即弃的劳动力，"她在项目中写道。自"数据工作者调查"以来，她持续在线上讲座和网络研讨会上讲述这些经历，希望借此向企业和政策制定者施压，推动更好的工人待遇。 远隔一个大陆，Okinyi同样在组织行动。2023年5月，距OpenAI与Sama的合同骤然终止刚刚过去一年多，他成为总部位于肯尼亚的非洲内容审核员联盟的发起组织者之一，致力于为承担互联网上最艰苦工作的非洲工人争取更好的薪资与待遇。半年后，他通过我在《华尔街日报》发表的报道公开了与OpenAI相关的亲身经历，随后与昔日Sama的同事Richard Mathenge共同创立了一家名为"非洲科技工作者社群"（Techworker Community Africa，TCA）的非营利机构。 2024年8月，我们重新取得联系时，Okinyi 正筹划将 TCA 打造成一个资源平台，既服务于非洲 AI 数据工作者群体，也面向寻求支持他们的国际机构和政策制定者。他一直在组织线上会议和校园集会，向工人和学生——尤其是女性——讲授劳工权益、数据隐私权及 AI 行业的运作机制。他正在筹措资金，计划开设一家职业提升培训中心。他接待了专程赴内罗毕考察的美国议员代表团，帮助他们深入了解为美国科技公司服务的工人的真实处境。与此同时，多个全球性机构也纷纷联系他，其中包括致力于支持全球南方工人的人权与劳工权益组织 Equidem，以及牛津互联网研究所的 Fairwork 项目。 在参与"数据工人调查"期间，他采访了肯尼亚的 Remotasks 工人——Scale 未经任何通知便将他们封禁于平台之外，连同他们尚未提现的最后一批收入一并抹去。他动用 TCA 募集的部分捐款，帮助这些工人度过这场财务噩梦。"随着这段历史的尘埃落定，有一件事始终清晰：不受约束的权力与无休止的贪婪，其代价是人命与尊严，"他写道。"这些工人的声音，回荡着对更光明、更公平未来的渴望……这是一声行动的召唤——确保每一位工人都能得到应有的尊重与体面。" 在他自己的生活中，这些倡导工作所赢得的尊重与认可，重新点燃了他的希望，也极大地改善了他的心理状态，他这样说。就在我们通话前不久，他收到消息，自己即将入选《时代》杂志年度百位最具影响力 AI 人物榜单。"我感觉到，自己的工作得到了认可，"他说。但这并不意味着一路坦途。2024年3月，他从 Sama 之后任职的那家外包公司辞去全职工作。他说，公司管理层对他的组织活动颇为不满。"他们担心我会带动员工变成维权人士。"随着工会与 TCA 的呼声日渐高涨，那家公司将部分项目迁往加纳。他听说，肯尼亚政府官员已对工人维权活动表示不满，认为此举吓走了投资、令更多肯尼亚人失业。 这个行业的全球化属性，让 Okinyi 更坚定地要将目光引向非洲数据工人。他说，即便肯尼亚政府全力支持，单凭肯尼亚法律，也难以约束 AI 公司的行为。这些公司大多来自美国，确切地说，来自旧金山。要让它们真正承担责任，必须有协调一致的国际行动。 在乌拉圭，Daniel Pena 得出了相同的结论。AI 行业的供应链错综复杂、延伸广泛。"他们从这里抽取能源，数据送往那里，矿产从别处开采，工人从另一处调来，"他说。面对这些蔓延四方的影响，以及其背后体量庞大、权势熏天的企业，每一个孤独抗争于本地的社区，都可能感到孤立无援，尤其当各自的政府受制于"维持经济稳定表象的需要"而束手束脚时。与他相识后不久，他得知自己政府无视那份逾四百人联署的请愿书——那份请愿要求对谷歌（Google）数据中心在本国的社会与环境影响展开更深入的研究。环境部门却悄然批准了该项目，且直到三十天公众异议窗口期结束后才公布决定，他说。Pena 没有放弃。他已与智利的 MOSACAT 展开交流，并尽力联络更多同样在抵制科技行业剥削与萃取主义的社区。通过跨境连结各方力量、彼此共享信息与抵制策略，他看到了一条凝聚集体力量的路径——足以向这个行业施压，推动它向更好的方向演变。"我们必须在全球层面展开抗争，"他说。 --- 如果 OpenAI 的使命是构建帝国的公式，那么瓦解帝国的公式又是什么？在写作本书之际，这家公司与高速运转的 AI 行业将如何演进，其细节无从预料。或许 OpenAI 的众多竞争者中会有人取代它的领先地位；这些 AI 帝国在模型开发、劳动剥削和算力基础设施扩张方面所采用的手段，也极有可能持续演变。但无论两年后还是十年后局势如何收场，有些事情是我们应当去做、且不应改变的。 2019 年，Ria Kalluri 在 NeurIPS 的 Queer in AI 工作坊上发表演讲。这位斯坦福大学的 AI 研究员提出了一个犀利的问题，作为「如何确保 AI 向善」这一追问的替代方案。「善」与「造福人类」——这类说法永远是主观的。我们真正应该追问的，是 AI 如何改变权力格局：它究竟是在集中权力，还是在推动权力再分配？以本书的框架来说，它是在继续巩固帝国，还是在将我们拉回民主的轨道？ Kalluri 的听众是技术圈人士，她将演讲的重心放在了基础 AI 研究上——科学家们如何用这个问题来衡量应该构建何种形式的 AI、应该推动该领域朝哪个方向发展。而这个问题，对于 AI 的其他一切面向同样至关重要：我们应如何开发 AI 应用、如何使用它们，以及——如同我在本书开篇所问的——我们究竟如何治理这项技术，才能将权力重新还给人民？ Te Hiku、DAIR，以及 Okinyi、Fuentes、Pena 各自的工作，都是能够且必须推进权力再分配的实践范例。而治理问题的核心，在于如何创造条件，让更多这样的工作得以涌现和蓬勃发展。 在演讲中，Kalluri 提出了权力的不同维度。本书触及了其中三个：知识、资源与影响力。当前，OpenAI 及其竞争帝国牢牢掌控着每一个维度：通过集中人才、侵蚀开放科学、封锁模型以逃避公众审视，它们控制着知识的生产；通过垄断资金、数据、劳动力、算力、能源和土地，它们掌控并压缩着他人的资源；通过制造和强化意识形态、推出席卷全球想象力的轰动演示，它们拥有着深远的影响力。这三者彼此强化：控制知识生产能扩大影响力；影响力增长能积累资源；资源积累反过来巩固知识生产。 因此，瓦解帝国的公式，需要沿着每个维度推进权力再分配。我在此列出的建议与主张只是举例，绝非全面。 首先，要实现知识的再分配，我们需要更多资金，支持帝国之外的知识生产。这意味着资助能够对企业模型进行独立评估的研究者，使我们不必仅仅依赖企业的自述来了解其模型能力。这意味着支持 DAIR 这样的机构，去开拓全新的研究方向——例如超越大语言模型、在数据和能源上更为高效的新型 AI 形式。这也意味着支持 Te Hiku 这样的组织，去推进面向特定任务、由社区驱动的 AI 应用，增强边缘化社区的能力。独立知识生产还包括记者和公民社会团体的工作——他们能够深入社区、扎根实地，帮助我们真正理解这些技术影响的复杂现实，而不是停留于猜测。 实现知识再分配，还需要政策层面的配合：要求企业公开其模型与超级计算机的训练数据及技术规格的关键细节。唯有如此，独立的企业模型评估者才能开展工作。在舒默论坛后持续与全球政策制定者对话的加州大学伯克利分校研究员 Deborah Raji 认为，这也是保障企业系统现实安全的最低门槛——她所指的，不是「末日论」所担忧的理论上的失控 AI 危害，而是消费者和社区已经面临的现实伤害：歧视、虚假信息、工作自动化——这些问题在大规模部署的模型未经充分测试时，已然存在。「我们有消费者金融保护局监管消费金融产品，有食品药品监督管理局监管医疗器械。但不知为何，轮到 AI 产品，就完全没有监管，」Raji 说。AI 模型实际上需要比普通产品更高的透明度。「这些系统由数据定义，并非确定性的。因此，我们需要深入了解这些系统，才能理解它们在做什么。」 这种透明度，对于衡量 AI 对环境的影响同样不可或缺。在这方面，其他产品早已接受 AI 产品所回避的评估。「如果你买的是汽车，买的是家电，上面有能源之星评级，」Hugging Face 的 Sasha Luccioni 说，「但 AI 已深度融入我们的社会，被广泛应用于各类产品，而我们对这些系统的可持续性却一无所知。」 有了这种透明度，我们也将开始在第二个维度——资源——上推进权力再分配。AI 帝国通过将模型的构成要素列为知识产权秘而不宣，得以在不经认可、不经同意、不予补偿的情况下窃取他人的知识产权。让企业的训练数据变得可见，将使这种掠夺性和剥削性的行为大大难以为继。同样，让企业供应链透明化也至关重要——包括它们将劳动力外包给哪些机构，以及它们正通过空壳公司在哪些地方秘密协商土地租约，用以建设更多电厂和数据中心。 资源再分配还需要全面加强劳动保护，不仅针对直接受行业雇用的数据工人，更要覆盖所有面临风险的劳动者——那些可能被迫将劳动成果纳入训练数据，或面临工作被自动化替代的人。好莱坞罢工成功为编剧和演员争取到了针对 AI 特定用途的保护，这充分说明工会在抵御人类劳动贬值、遏制薪资下滑、对抗资本由劳动者手中向 AI 公司集中方面，将发挥何等关键的作用。 最后，若要在第三条轴线——影响力——上重新分配权力，我们需要广泛的公众教育。破解人工智能炒作所制造的神秘主义与海市蜃楼，根本之道在于：让人们了解人工智能的运作原理，了解它的能力边界与局限，了解塑造其发展的各种体制，了解开发这些技术的人与公司所秉持的世界观以及他们的局限性。麻省理工学院教授、ELIZA 聊天程序发明人约瑟夫·魏岑鲍姆在二十世纪六十年代曾说："一旦某个程序被揭穿，一旦其内部运作以足够通俗的语言得到解释，令人真正理解，它的魔力便烟消云散。"我希望这本书能成为一份助人理解的薄礼。它建立在众多学者、记者、活动人士和教育工作者前辈的心血之上，他们毕生致力于公众启蒙。愿它成为一片新的土壤，让此后更多的人在此生根、奋起、建树。