# 灾难资本主义 LLMS 索引： [llms.txt](/llms.txt) --- 随着OpenAI在阿尔特曼的信念驱动下高歌猛进，公司愿景所引发的深远后果也在不断扩展。随着公司将规模越来越大、越来越污染的数据集注入模型，它催生了Appen的Ryan Kolln向我描述的那场「范式转变」——从过滤数据输入转向管控模型输出。抽象化的语言再次粉饰了一个严峻的现实：这一转变对如今承受管控输出重压的人们，究竟意味着什么。 2021年，OpenAI在推进下一代模型开发的同时，启动了一个项目，旨在为清理模型输出打造一套性能更强的自动化内容审核过滤器。GPT-3在未加任何过滤的情况下接入API，引发了Latitude文字生成儿童色情内容的丑闻；这一教训促使公司在GPT-3.5乃至GPT-4上更加谨慎。随着OpenAI准备更大规模地部署其技术，一款完全无过滤的产品从长远来看，将在法律、公关和可用性方面带来诸多隐患。彼时，日后成为ChatGPT的计划尚未成形，但这款聊天机器人后来同样受益于同一套过滤器。该过滤器以「包装层」的形式套在每个模型外部，专门在输出内容到达用户之前检测并剔除其中的违规内容。 为了构建这套自动化过滤器，OpenAI首先需要人工审核员仔细审查并分类数十万条样本——正是公司希望模型不再生成的那类内容：色情、暴力与虐待。经过六个月的寻访，公司找到了一家看似颇为合适的供应商：一家自2019年起便为Meta承接内容审核业务的外包公司，而且巧合的是，它与阿尔特曼的昵称同名——Sama。OpenAI向Sama发送电子邮件，询问其是否承接涉及敏感或露骨内容的项目，以及通常如何处理此类项目。Sama给出了详尽的答复。OpenAI随后与该公司签署了四份合同，总额23万美元，将项目交到了肯尼亚数十名工人手中。 肯尼亚成为ChatGPT创作过程中最具剥削性劳动的最终发生地，绝非偶然。多年来，肯尼亚一直是硅谷将最脏活外包的首选目的地之一。与众多被科技行业赋予这一角色的国家一样，肯尼亚有着共同的底色：它是全球南方的贫困国家，政府迫切渴望来自富裕国家的外资。这一切都是肯尼亚殖民遗产的组成部分——这段历史使肯尼亚至今缺乏健全的制度来保护本国公民免遭剥削，也使其频繁陷入经济危机。这双重困境为海外公司提供了绝佳条件，得以找到一批在几乎任何条件下都愿意接受计件零工的穷苦劳动力。 这段殖民遗产的印记，可以在肯尼亚首都内罗毕的众多面孔中清晰辨认。这座城市饱受不平等之苦。中央商务区耸立着璀璨的摩天大楼、国际五星级酒店和高端餐厅；外交区坐落着宽阔庄严的建筑，高墙深筑；侨民居住区点缀着令人叹为观止的豪宅，私家花园郁郁葱葱。而在城市边缘——乌塔瓦拉、达格雷蒂南区、恩巴卡西——一切截然不同。驱车前往这些街区，钢铁摩天楼变成了低矮的混凝土砖房；建筑杂乱无章地散布开来，毫无统一规划的痕迹；道路从铺装路面变为泥土小道，从四车道收窄为仅容摩托车和行人通行的狭长土路。再往里走，混凝土让位于波纹铁皮，简陋搭建的民居与店铺愈发拥挤地堆叠在一起。 在这样的处境之下，肯尼亚政府对硅谷的到来张开双臂，欢迎它带来的低薪就业机会。肯尼亚本地工业基础薄弱，众多知名品牌来自欧美；部分重要基础设施，从前由英国人修建，如今换成了中国人来建；路上跑的汽车大多是从日本流转而来的二手车，日本人同样是右侧驾驶。在政府看来，科技巨头能够帮助这个国家创造它急需的就业机会。失业滋生犯罪，小偷小摸随处可见。感到无力改变命运的人们，对各种机构愈发失去信任。乌克兰战争期间，随着肯尼亚粮价攀升，坊间盛传总统在故意压榨那些本已饥寒交迫的家庭。许多人重复着一句在美国已然耳熟能详的话：选举被操纵了。 就这样，肯尼亚成为互联网底层劳动的重要枢纽。多家类似Sama的公司——数据劳动供应链上的中间商——在内罗毕相继布局，积累起大量工人储备，为主要位于湾区的海外科技公司提供服务。 对OpenAI而言，Sama似乎在各方面都合乎要求。这家公司最初名为Samasource，是一家总部位于旧金山的社会企业，2008年以为贫困国家的人们提供有意义、有尊严的工作、帮助他们摆脱贫困为使命而创立。在创始人Leila Janah的领导下，公司在印度和肯尼亚建立了业务，并赢得了道德外包企业的声誉。2018年，为扩大规模，公司转型为营利性企业，同时将名称缩短为Sama。2020年，公司获得B型企业认证。在2021年回复OpenAI询问时，该机构详述了自身在内容审核方面的丰富经验，着重介绍了保密项目与保护数据安全的规程，并提到为员工提供心理健康资源，以帮助他们应对处理具有心理冲击性内容时产生的压力。 然而在台面之下，Sama内部早已陷入混乱。2020年1月，Leila Janah因罕见癌症去世，年仅三十七岁；紧接着新冠疫情席卷全球，员工们表示，这一切似乎标志着公司管理失序的开端——这一说法遭到Sama发言人的否认。直到2022年初，这些积弊才被彻底揭开：《时代》杂志记者Billy Perrigo发表了一篇深度调查报道，披露Sama曾承接Meta的一个项目，负责为Facebook在撒哈拉以南非洲地区提供内容审核服务。该项目反复将员工暴露在自杀、斩首等血腥暴力视频中，给他们留下了难以磨灭的心理创伤。Sama为自己辩护称，这一项目是在东非团队的充分审慎评估后才接下的，目的是确保"针对非洲人的内容由非洲人来审核"。近两百名员工随后向Sama和Meta提起多起诉讼，指控公司制造创伤性工作环境，并以非法解雇手段打压试图为争取更高薪酬和更好待遇而组织起来的工人。Sama发言人否认了上述指控。 就在这一背景下，OpenAI于2021年底启动了其项目的第一阶段。该项目以PBJ1、PBJ2、PBJ3、PBJ4为内部代号，将Sama的员工推入了更具创伤性的内容审核工作，平均时薪仅为1.46至3.74美元。依照合同中的保密条款——这在数据标注行业十分普遍——员工们对项目的委托方和用途一无所知，始终被蒙在鼓里。他们所知道的，只是摆在眼前的东西：数以十万计的文字描述，内容骇人，他们需要逐一阅读，并按危害程度分门别类。这是暴力还是极端暴力？是骚扰还是仇恨言论？是儿童性虐待还是兽交？ 这份工作逐渐将许多员工击垮，其冲击波从个体蔓延至依靠他们维生的家人与社群。直到ChatGPT问世，他们才开始隐约意识到，自己究竟用怎样的代价换来了什么。2023年5月，我前往内罗毕，走访了四名愿意公开讲述亲身经历的员工，相关报道刊登在《华尔街日报》头版。其中一名负责性内容审核的员工名叫Mophat Okinyi——那个侵蚀了他的心智、撕裂了他的人际关系的项目，最终服务于一项技术；而这项技术，反过来又蚕食了他兄弟本已脆弱的经济空间。 --- 在企业研究尚享自由风气的年代，微软（Microsoft）人类学家 Mary L. Gray 与计算社会科学家 Siddharth Suri，是最早向世人揭示肯尼亚此类劳工处境的学者——这些劳工以 AI 供应链中的一个关键环节为生。 2019 年，他们出版了《幽灵工作》（*Ghost Work*）。这本书建立在五年大量田野调查的基础上，揭示了一张由零散劳动与数字剥削交织而成的隐秘网络，正是这张网络在暗中支撑着硅谷的繁荣。科技巨头与独角兽公司堆砌起惊人估值，靠的不只是在时髦办公室领取六位数薪酬的工程师，还有那些身处全球南方、以极低报酬仔细标注海量数据的劳动者。 以自动驾驶汽车为例。一辆自动驾驶汽车需要在正确的车道内行驶，应对其他车辆的突发行为，并在安全距离外停车等候穿越马路的孩子。为此，控制车辆的软件系统综合运用了多个深度学习模型，其中包括专门用于识别道路上各类物体的模型：车道线、路标、红绿灯、车辆、树木、行人。 公司通过在车辆上安装多台大型摄像头、记录数十亿英里行驶画面来训练这些模型。画面即数据，而标注数据意味着逐帧勾勒出画面中出现的每一个物体——有时精细到握着自行车把手的手的弧度，或是半趴在车窗外的狗——并为其打上"自行车""车辆""动物""人类"之类的标签。这项工作必须由人来完成。而从企业角度看，成本越低越好。 Gray 和 Suri 的研究部分聚焦于 Mechanical Turk——亚马逊在 2012 年深度学习热潮到来许多年前便推出的一个平台。长期以来，它充当着企业寻求廉价零散数字劳动力的事实中介。《幽灵工作》出版时，AI 商业化的第一个时代已在演进，并在这一外包模式的基础上不断扩张。 我开始描绘这支隐秘劳动力队伍的新面貌，挖掘出一条横跨多国的庞大全球劳动管道，涉及的国家既有意料之中的，也有出人意料的。我采访了取代 Mechanical Turk 的新一代中介平台——这些平台专门为 AI 开发定制服务。我与数十名工人交谈，走进他们中一些人的家，与他们的家人共进晚餐，试图理解的不只是压在他们身上的宏观趋势，更是他们日常生活的具体质感。 正如 AI 商业化的第一个时代为生成式 AI 时代的数据积累与算力资本化奠定了基础，它同样为大规模劳工剥削埋下了根源。因此，要理解那些为 OpenAI 工作的肯尼亚劳工的遭遇，就必须先理解这些根源。唯有如此，才能认清：他们的经历绝非偶发异常，而是 AI 行业长期以来对待隐秘劳动者的方式、以及对何种劳动有价值的固有认知，与 OpenAI 那种帝国式的超大规模愿景相互叠加、持续累积的必然结果。 --- 生成式 AI 兴起之前，自动驾驶汽车是数据标注行业最大的增长引擎。大众、宝马等老牌德国汽车巨头感受到特斯拉（Tesla）与 Uber 的威胁，纷纷成立自动驾驶部门，意图在新兴竞争者面前守住阵地。随着数十亿美元涌入未来汽车的竞赛，数据标注需求激增，人们迫切需要 Mechanical Turk 以外的替代方案。 MTurk，正如人们对它的简称，是一个通用型平台，并不专门服务于某类工作，只是一个自助服务网站。它的界面停留在上线时 2000 年代中期的网页设计风格，提供上传数据集、填写简单标注说明、设定工价等基本功能。任务被接单后，工人的名字会被随机生成的数字字母串取代。每位工人旁边只有两个按钮：一个发奖励，一个踢出项目。 自动驾驶汽车的数据标注需要截然不同的方式。首先也是最重要的，是对精度的要求大幅提升——车辆边框描绘粗糙、行人漏标，这类错误帧哪怕多出一两个，就可能在生死之间划下一道界。为确保质量，工人需要经过培训，公司需要制定详细说明，还要建立更多反馈与迭代机制。MTurk 逐渐失去青睐，一批新兴公司与老牌企业随之填补空缺，包括 Scale AI、Hive、Mighty AI 和 Appen。各家都有面向工人的平台，任何人都可以注册账号并开始接单。 然而，就在这批新公司谋求立足的时候，一件蹊跷的事情发生了：它们面向工人的平台上，注册者从一个出人意料的国家蜂拥而来——委内瑞拉。汽车巨头们开始手忙脚乱，资金大举涌入自动驾驶，数据标注公司四处物色劳动力——就在同一时刻，委内瑞拉正在一头扎进全球五十年来最严峻的和平时期经济危机。 经济学家们说，政治腐败与政府的误导性政策共同酿成了这杯毒酒，将国家丰厚的自然禀赋挥霍殆尽。委内瑞拉坐拥全球最大的已探明石油储量，曾是拉丁美洲最富裕的国家。然而从 2016 年开始，恶性通货膨胀失控，失业率飙升，暴力犯罪爆发，举国家庭眼睁睁地看着毕生积蓄化为乌有。2017 年末至 2019 年，特朗普政府逐步升级的制裁——旨在惩罚委内瑞拉领导人尼古拉斯·马杜罗的威权统治——给委内瑞拉经济敲响了最后的丧钟。恶性通胀率攀升至曾经难以想象的一千万个百分点。曾持有研究生学历、做着高薪工作的人，如今每天在商店门口排队，只为有机会领取少量的大米和面粉配给。 在这场灾难中，许多委内瑞拉人转向网络平台谋生。到 2018 年中期，数十万人发现并加入了数据标注行业，在部分外包公司的劳动力中占比高达 75%。在数据标注平台上工作，成了全家总动员的日常。耶鲁大学助理教授 Julian Posada 访谈了数十名委内瑞拉工人，发现父母与子女常常轮流守着一台共用电脑；妻子回归做饭打扫，好让丈夫不受打扰地多撑几个小时，多挣一点钱。这场危机在一批 AI 专业外包公司身上留下了难以磨灭的烙印——这些公司正是在危机中一同成长起来的。委内瑞拉并非寻找劳动力来源的显而易见之选：语言障碍使总部大多位于旧金山和西雅图的公司更难与工人协作。但委内瑞拉人的极度绝望，意味着他们愿意为少得惊人的报酬工作，这反过来意味着这些公司能够以低得惊人的价格提供服务。"这简直是一次离奇的巧合，"德累斯顿应用科学大学（University of Applied Sciences Dresden）教授 Florian Alexander Schmidt 在 2022 年接受我采访时说，他长期研究数据标注行业的兴起。 这次"离奇的巧合"揭示了一个令人不安的公式。面临经济崩溃的委内瑞拉，突然符合了发掘廉价劳动力无尽供给所需的完美条件组合：人口受教育程度高、互联网接入良好，而今又迫切渴望以任何工资工作。符合这一描述的国家并不止委内瑞拉一个。越来越多的人口正在接入更好的网络。随着气候变化加速、地缘政治动荡加剧，更多国家的人口陷入危机并非难以预料。"很可能还会出现另一个委内瑞拉，"Schmidt 说。 当时，Schmidt 的预言令我不禁思索：下一次是否仍属巧合，还是数据标注公司会把在委内瑞拉奏效的做法整理成一套固定打法。在危机中物色工人，或许将成为持续压低 AI 行业命脉劳动力成本的必胜之道。多年后回望，这正是所发生的一切——也成了新旧帝国之间最令人震惊的相似之处之一。推动帝国迅速积累财富的决定性特征之一，正是以极低甚至零成本，从广大人力劳动中攫取经济利益的能力。 --- 2021年12月，我翻越哥伦比亚蜿蜒的山路，去探访一位在危难中以数据标注为生的工人。委内瑞拉对我设有入境限制，但在邻国哥伦比亚，生活着近两百万委内瑞拉难民——占因经济崩溃而背井离乡人口的三分之一。 Julian Posada为我牵线搭桥，介绍了其中一位女性：Oskarina Veronica Fuentes Anaya。她逃离故土后，仍在数据标注行业谋生。Fuentes是第一个让我真正看清这份工作面目的人——她如何将整个生活围绕着平台重新排布，而那个平台又如何将她当作随时可以丢弃的耗材。 她与六七位亲戚合住一套公寓。我们并肩坐在客厅里，看着她在Appen上一屏一屏地点击任务。工作内容五花八门：从给电商平台的商品分类——这件商品该归入服装还是配饰？——到为社交媒体做内容审核——这段视频是否涉及犯罪或人权侵害？遇到需要英语的任务，她用谷歌（Google）翻译将文字转成母语西班牙语。 每完成一项任务，界面上以美元显示的累计收入就会增加几美分。提现门槛是十美元。刚注册平台时，这不成问题；如今，要积攒到这个数，有时需要好几周。那道门槛有时像一把冷酷的裁决者，丈量着她手头的钱够不够买菜。 对于仍留在委内瑞拉的工人而言，提现更是难上加难。PayPal等主流全球支付系统不支持向委内瑞拉转账，而委内瑞拉境内绝大多数商店也不接受那些支持转账的平台付款。这意味着工人必须将线上的数字资金兑换成现金，才能购买基本商品和服务。线上收入以美元结算，现金却要换成委内瑞拉玻利瓦尔。黑市兑换充斥着骗局和高额手续费。 Fuentes与这个平台的关系错综复杂。从事这类工作从来不是她的本意，但一连串身不由己的遭遇，让它既成为她的生命线，也成为一种惩罚。 她在读研时注册了Appen账号，想在完成工程学硕士学业期间多赚些零花钱。她聪颖、勤奋、富有创造力。若非国家崩塌，像她这样的优等生，大概早已在国家石油公司谋得一份稳定的职位。国家既已崩塌，她随即调整方向，精心筹划与丈夫移居哥伦比亚，去寻一条更好的出路。 从这个角度看，Fuentes算是幸运的。她天生拥有哥伦比亚护照，不像许多无证逃离的难民。她的父母原是哥伦比亚人，一代人前曾向相反方向出走，逃往委内瑞拉，以躲避彼时那里的暴力与政治动荡。这是一个太过寻常的故事——代代危机跨越国境叠加累积，将家庭永久困在围困与求生的循环之中。 凭借那本护照，Fuentes在仍身处委内瑞拉时便远程联系到一位熟人，在哥伦比亚租下了一套公寓。签租约需要两名有房产的人做担保，这位熟人兼未来房东答应帮她物色。 2019年初，Fuentes和丈夫揣着仅够一周生活的钱，越过了国境。然而抵达后，他们发现房东承诺给他们的那套公寓里，已经住着另一对委内瑞拉夫妇。别无选择，两对夫妇只能同住一屋，彼此都怀着忧惧与戒备，生怕对方把自己赶走。 那对夫妇最终离开，但这不过是新一轮麻烦的开头。Fuentes在当地一家呼叫中心找到了工作，丈夫却迟迟未能拿到工作许可。就在他办理手续期间，呼叫中心宣布即将关闭。Fuentes开始出现严重健康问题的征兆，却选择无视症状、坚持上班。她满脑子只有一件事：在雇主停业前的最后时日，尽可能多上几个小时的班。 医生后来告诉她，若再拖延下去，她很可能已经不在人世。是一位同事察觉到她健康状况急剧恶化的迹象，在她身体开始抽搐、脉搏骤停整整一分钟之前，将她送进了医院。 她被确诊为严重糖尿病，立即开始每日五次的胰岛素注射。此后数周，剧烈的疼痛与间歇性失明令她苦不堪言。病情稳定后，她仍深受疲惫折磨，每次出门不能超过几个小时。 即便如此，她心里念念不忘的仍是：她和丈夫需要钱。慢性病缠身，她再也无法安全地长途通勤去办公室上班。就在那时，她打开笔记本电脑，重新登上了Appen。 --- 在 Fuentes 看来，Appen 任务队列里出现哪些任务，几乎毫无规律可循。唯一明确的一点是：她必须保持良好、稳定的表现，才能持续接到活。Appen 当时的首席技术官 Wilson Pang 在 2021 年告诉我，平台会根据一系列因素通过算法来分配项目，包括工人所在地区、整体准确率与速度，以及此前擅长的任务类型。 在 Telegram 和 Discord 群组里，Fuentes 与其他在 Appen 接活的委内瑞拉人交换心得，像破解复杂谜题一样摸索平台规则。他们发现，挂上 VPN 伪装成美国用户，报酬最为丰厚。他们也以惨痛经历领教到，这条路风险极高。Appen 会主动排查此类行为——这违反平台规则——一旦查实便封号处理。封号对工人来说可能是毁灭性的：尚未提现的所有收入就此蒸发，重新注册则意味着从零起步，只能接报酬最低的任务，甚至根本接不到任何活。 平台还有其他规则。提交任务速度快会获得奖励，但提交得太快又会触发某种机制，导致那笔收入直接被扣除。主流推测是，平台将异常的速度与机器人行为挂钩，因此会丢弃这些答案。有时出现的任务说明寥寥，根本无从作答；有时平台本身出现 bug，任务无法正常加载。 群组里曾经做过软件工程师的委内瑞拉人，专门开发了浏览器扩展程序来应对这些问题，并分享给其他 Appen 工人。一款扩展在每次提交任务时自动增加延迟，以规避所谓的"机器人惩罚"。另一款每秒自动刷新 Appen 任务队列，因为平台并不总会自动更新。第三款则在新任务出现时发出提醒音，让工人可以放心离开电脑去上厕所或做饭，不必担心错过机会。 然而，尽管工人们互帮互助，平台却把他们推入了竞争的漩涡。项目遵循先到先得原则。一项任务在队列中的存续时间，取决于有多少工人将其认领。这个窗口期——从任务出现到消失——随着越来越多的工人（其中许多是身陷困境的委内瑞拉人）涌入 Appen、争夺零星工作机会，已从数天压缩到数小时，再压缩到几秒钟。 活儿来来去去的无规律、不可预测，开始左右着 Fuentes 的生活。有一次，她出门散步，此时恰好来了一项可以赚几百美元的任务——那足够她生活一个月。她拼命往公寓跑，却还是被其他工人抢走了。从那天起，她再也不在工作日出门，只允许自己在周末外出三十分钟——她从经验中摸索出，周末任务出现的概率相对较低。她夜不成寐，担心半夜会来任务。睡前，她会把电脑音量调到最大，一旦任务在深夜降临，那款报警扩展程序便能把她叫醒。 尽管 Appen 带给她如此多的压力和焦虑，Fuentes 却想不到离开这个平台。她害怕有一天任务会彻底断绝，被迫另谋出路。Appen 是她的救命稻草，是在她生活中一切都几近将她压垮时，唯一把她拉出来的东西。不仅如此，收入最好的那段时光，她甚至攒够钱换了一台新电脑，不仅回了本，还有盈余。 好的时候，真的很好。不好的时候，她依然死守着这个平台，带着一种执拗的信念——它终将回报她的忠诚。 --- Fuentes向我传授了两个真理，这两个真理后来在许多工人身上一次次得到印证——他们同样是在经济重创之中走上这份工作的。第一个真理是：即便她想离开这个平台，几乎也没有出路。她的故事——难民身份、代际动荡中长大的童年、长期病痛的折磨——在这些工人中悲剧性地普通。这些工人让我明白，贫困绝不只是缺钱或缺乏物质财富。它渗透进生活的每一个维度，在各处积累亏欠：睡眠紊乱、健康每况愈下、自尊日渐消磨，以及最根本的——几乎没有自主权，也没有对生活的掌控。 但还有一个更令人振奋的真理：Fuentes并非不喜欢这份工作本身，她不满的只是工作被组织的方式。若要重新构想AI行业背后的劳动形态，这或许是一个更有可能着手解决的问题。当我问Fuentes希望改变什么时，她的愿望清单很简单：她希望Appen成为一个正式雇主，给她一份全职合同、一位可以倾诉的主管、稳定的薪酬和医疗福利。她告诉我，她和其他工人想要的不过是安全感，以及让他们如此拼命付出的公司知道他们的存在。 通过对全球工人的调查，劳工学者试图为数据标注员应获得的最低保障建立一套框架，并得出了一系列相近的要求。Fairwork是一个由牛津互联网研究所运营、专门研究数字劳工的全球研究者网络，它将以下内容纳入可接受工作条件的范畴：工人应获得能够维系生计的工资；应有规律、规范的排班和带薪病假；应有合同明确说明参与条款；应有渠道向管理层表达诉求，并能够在不担心遭受报复的情况下组建工会。 多年来，数据标注行业中出现了越来越多致力于达到这些标准、将这份工作视为正式职业而非短期差事的参与者。然而在那些不坚守同等底线的公司的价格竞争面前，大多数人难以为继。没有行业整体底线的约束，逐底竞争的势头难以遏制。 --- 在借自动驾驶热潮崛起的数据标注公司中，有一家尤为擅长利用危机剧本。2016年，天才少年亚历山大·王——时年十九岁，MIT肄业——联合创办了Scale AI。公司从一开始便奉行一套核心策略：以低廉的价格提供专业且高质量的服务。一位曾主管劳动力扩张的前Scale员工向我解释了这一使命："怎样才能用最低的成本招到最好的人？"Scale迅速赢得了Lyft、苹果、丰田、Airbnb等大客户。 MTurk的劳动力主要来自美国和印度，Scale则率先将目光投向肯尼亚和菲律宾——这两个英语国家同为前殖民地，长期以来通过呼叫中心和数字外包服务美国企业。公司的招募团队在每个国家寻找那些具备特定要素组合的地区，而这一组合后来在委内瑞拉也完整复现：受教育程度高、互联网普及率高，却因贫困愿意以极低的报酬拼命工作。这套逻辑不仅源于公司残酷的商业法则，也源于他们自我编织的一个动听故事：这些人是最能从经济机遇中获益、并因此变得更幸福的群体。"如果可以选择拉人力车，或在空调网吧里做数据标注，后者显然是更好的工作。"2019年，Index Ventures普通合伙人Mike Volpi参与Scale一亿美元融资轮后，接受彭博社采访时如此说道。 然而，当公司推出面向工人的平台Remotasks并注意到委内瑞拉用户潮水般涌来之后，委内瑞拉人便成为Scale最优先的招募对象之一。"他们是市场上价格最低的，"前述员工说道。2019年，公司在这个拉美国家发起扩张攻势，借助推荐码和社交媒体营销视频广泛铺开，视频中反复出现令人垂涎的大捆美钞。次年，公司为Remotasks专门创建了针对委内瑞拉的落地页，并推动用户加入一项名为Remotasks Plus的新计划。该计划仅限受邀参加，公司将其宣传为帮助身处历史性困境的委内瑞拉人渡过难关的举措，承诺参与者可借助稳定的工时和时薪获得学习新技能、推进职业发展、提高收入的机会。疫情袭来，经济危机雪上加霜，委内瑞拉人争先恐后地涌入Remotasks Plus。Scale的竞争对手——其他数据标注平台——相继在市场上失去立足之地。 一旦Scale占据主导地位，它对工人的承诺便烟消云散。2021年底至2022年初，我与驻加拉加斯的委内瑞拉记者Andrea Paola Hernández合作，她采访了曾在Remotasks Plus项目期间为Scale工作的委内瑞拉人。我们还深入渗透进Remotasks的Discord社群——Scale利用这一平台与全球劳动力保持沟通与协调。通过公司留存的一份公开电子表格，我们发现工人的收入在项目启动数周内便开始下滑；起初每周能挣四十美元的工人，很快便降到不足六美元，乃至分文未得。2021年4月，公司全面关停Remotasks Plus项目，恢复其标准运营模式——以零散方式分配任务，既无标准工时，也不保证任何收入。 在Scale内部，Remotasks Plus不过是一场实验。公司起初认为，按工时付费比按任务计件更为简便，现实却恰恰相反。员工们很快发现无法核实工人的实际工时，并认为许多工人在虚报工时、欺诈平台。在历经数月试图修补这一问题——包括不断叠加各种工人监控手段——之后，Scale决定直接砍掉该计划，以遏制资金流失。走投无路之下，逾85%的工人继续在平台上接任务。Scale发言人将这一数字作为工人"持续兴趣与参与度"的佐证。 到Hernández开始采访这些工人时，距Plus项目关停已约七个月，Remotasks上的报酬已进一步缩水。Hernández在平台上注册了一个账号亲身体验——花费两小时完成入门教程和二十个任务后，她总共赚取了十一美分。时任Scale运营高级副总裁Matt Park在回应我们的调查发现时表示，委内瑞拉工人在平台上的平均时薪略高于九十美分。"Remotasks致力于在我们运营的每个地区支付公平薪酬，"他说。 许多提出投诉的委内瑞拉工人遭到平台封号。计算机工程师Ricardo Huggines在一场持续整整一周、令全国陷入瘫痪的大停电后，开始为Remotasks工作，以养活妻子和孩子。他告诉Hernández，自己在Discord上追问太多问题后，账号便遭到注销。"从他们对待我们的方式，我意识到他们的策略就是尽可能地榨干每一个用户，"他说，"然后把人抛弃，再引进新人。" --- 规模确实带来了新用户。2021年中期，随着委内瑞拉工人精疲力竭、相继离开平台，Scale 正在向其他在疫情期间经济崩溃的国家积极招募并入驻数以万计的新工人。为支撑不断扩张、日趋多元的客户需求，它进入了那些拥有大量陷入财务困境人口、且能使用经济价值最高语言的国家：英语、法语、意大利语、德语、中文、日语、西班牙语。一位曾参与国际扩张工作的员工回忆，公司专门寻求来自非洲前法国殖民地的法语使用者；也在东南亚等中国移民聚居地区寻找普通话使用者。 Scale 随后在一个又一个新市场复制了它在委内瑞拉磨砺出的一套打法：先以高收益吸引工人，站稳脚跟后再逐步压低薪酬。它通过多轮实验不断调整任务者的报酬额度——坐在旧金山总部（如今已占地约一万六千七百平方米）的全职员工将此讨论为"优化"与"创新"，而工人们却眼睁睁看着生计在毫无规律的变动中一次次被摧毁。Scale 发言人表示，公司否认"有意瞄准陷入困境的经济体并蓄意削减薪酬"这一说法。Scale 招募工人的考量因素包括地域与语言多样性以及全天候覆盖。"我们对贡献者有深切关怀，任何相反的说法都是错误的，"他说。 北非一个由八名工人组成的小组称，Scale 在短短数月内将他们的薪酬削减了逾三分之一。至少有一名工人的待结算余额变成了负数，意味着他反而欠了 Scale 的钱。当这个小组试图联合起来抗议这些变化时，公司威胁称将封禁任何参与"革命与抗议"的人。与我交谈的工人中，几乎所有人都遭到了平台封号。Scale 发言人表示，公司不会因工人就薪酬表达关切而暂停其账号，只会因违反社区准则而采取此类措施。 Scale 的支付系统长期被其美国工程团队忽视投入，漏洞丛生，工人常常无法提现。随着 Scale 规模扩大，这些做法逐渐令那些与工人接触最为密切的全职员工心生反感；许多人试图向公司领导层为工人争取更好的工作条件、薪资待遇和基本的付款保障，却在精疲力竭后选择离开，或被迫出局。发言人表示，公司此后已"大幅改善"平台稳定性。 Scale 的市场主导地位对那些希望走不同路线、支付生活工资的公司构成了越来越大的挑战。CloudFactory 便是其中之一，该公司在肯尼亚和尼泊尔开展业务，依照 Fairwork 标准为工人提供劳动合同和稳定工时。然而，据创始人兼执行董事长 Mark Sears 介绍，多年来公司已将许多合同拱手相让给 Scale。 向客户推介时，CloudFactory 强调自己能在长期维度上提供超越行业所谓"匿名众包"模式的更优质交付。CloudFactory 的工人训练有素，随时间积累形成专业能力，表现突出者还可获得晋升。我在肯尼亚采访的许多工人认为，该公司是数据标注领域条件最好的雇主之一。CloudFactory 的这套说辞有时奏效，也有越来越多的客户因其雇主口碑主动找上门来。但疫情期间预算收紧，大量客户回流至更廉价的选择，CloudFactory 不得不裁员。 工人们表示，正是在同样的竞争压力下，Sama 也开始一点点侵蚀自身的标准。他们告诉我，起初在 Sama 谋得一职甚至比在 CloudFactory 更令人艳羡。后来 Leila Janah 去世，疫情接踵而至，客户纷纷转向 Scale 及其他更廉价的选项。工人们说——尽管 Sama 发言人对此予以否认——正是在这种情形下，公司在走投无路之际接受了 OpenAI 的内容审核过滤器项目，并将这份工作交到他们手中，彼时他们的处境与 Fuentes 及其他委内瑞拉工人一样，同样陷入了绝境。 --- Mophat Okinyi在肯尼亚西部维多利亚湖中一座岛屿上的村庄里长大，距内罗毕需乘八小时大巴加两小时渡船。湖面辽阔，视野一望无际。医疗救治远在他处；突发的健康危机几乎无一例外地意味着死亡。 他家境贫寒，但小时候，他和兄弟姐妹并未把贫困放在心上。他们沉醉于祖先的故事：相传他们所属的卢奥族发源于以色列，先人凭借对船只建造和河道航行的熟知，沿尼罗河南下迁徙，最终散布至肯尼亚西部，以及如今的乌干达和坦桑尼亚部分地区。「卢奥人不是肯尼亚人，」Okinyi压低声音说，像是在向我透露一个秘密，「我们是住在肯尼亚的以色列人。但没有卢奥人，就没有今天的肯尼亚。」 我们坐在他的公寓里，窗外施工轰鸣，苍蝇嗡嗡萦绕。「巴拉克·奥巴马就是卢奥人，」他微笑着补了一句，「卢奥人非常聪明。」 如今，贫困已在Okinyi的脑海中占据了更大的分量。二十八岁的他肩上担子更重：要付房租、要填饱肚子；还要资助外甥女——姐姐的女儿——上公立学校，而肯尼亚的公立学校并不免费。有工作的时候，他懂得感恩。这个国家的青年失业率高达百分之六十七。2021年，世界银行估计全国超过四分之一的人口每天生活费不足2.15美元。 2021年11月，Sama打来电话，说有一个新机会，这感觉像一个奇迹。他在2019年通过Sama官网的职业招聘页面投递简历，应聘了一个「AI训练」职位，就此入职。此后他在Sama承接的项目，恰好跟随着AI行业的演进轨迹。头两年，他专注于计算机视觉标注，其中包括自动驾驶汽车项目。尽管当时还浑然不知，但这个新项目将是他第一次涉足生成式AI。 Sama的管理人员为Okinyi安排了一项名为「心理韧性测评」的评估。他阅读了几段令人不安的文字，并被要求按照一套指示对其进行分类。他顺利通过后，得到了一个选择——加入一个新团队，承担类似内容审核的工作。他此前从未做过内容审核，但测评中出现的文字看起来还在可承受的范围之内。在疫情期间拒绝一份工作简直荒唐；何况他也在为自己的未来打算。他住在Pipeline——内罗毕东南部一个嘈杂、近似贫民窟的街区，廉租公寓密密麻麻，全天候的路边摊此起彼伏，二十多岁的年轻人在这里熙攘拥挤，各自奋力向上。Okinyi也正走在向上的路上。他刚认识了隔壁的一个女孩，名叫Cynthia，第一次让他憧憬起组建家庭的可能。 直到接受了这个项目，他才开始意识到，这些文字远比心理韧性测评所暗示的要糟糕得多。OpenAI将工作拆分为若干条线：一条专注于性内容，另一条专注于暴力、仇恨言论和自我伤害。2022年2月，暴力内容又独立出来，成为第三条线。每条业务线，Sama都会分配一组称为「专员」的员工，按照OpenAI的指示对文本进行阅读和分类；同时配备一个规模较小的质量分析师团队，负责在将成品交付给OpenAI之前审核分类结果。 Okinyi被安置在性内容团队担任质量分析师，合同约定每月审核一万五千条内容。OpenAI的指示将文字性的性内容划分为五个类别：最严重的是儿童性虐待描述，定义为任何涉及十八岁以下人员参与性行为的内容。次一级的类别：描述在美国现实中表演属于违法的情色性内容，包括乱伦、兽交、强奸、性交易和性奴役。 这些帖子中有一部分是从互联网最黑暗的角落爬取而来的，例如详述强奸幻想的情色网站，以及专门讨论自我伤害的Reddit版块。还有一些则由AI生成。OpenAI的研究人员会提示大型语言模型写出各种骇人场景的详细描述，比如，指定某段文字应模仿一名青春期女孩在网络论坛上发帖，描述自己一周前割伤自己的经历。 从这个意义上说，这项工作确实与传统内容审核有所不同。Meta的内容审核员审核的是用户真实发布的帖子，判断这些内容是否应继续留在Facebook上；而Okinyi和他的团队则是在标注内容，用以训练OpenAI的内容审核过滤器，从根本上防止该公司的模型生成此类输出。为了确保示例涵盖足够广泛的范围，其中一部分内容至少是由公司自己的软件「想象」出来的，专门用来模拟最极端、最恶劣的情形。 --- 起初，那些帖子都很短，一两句话，Okinyi 便试着把它们封存在心里一角。他与 Cynthia 的感情进展迅速。他告诉哥哥 Albert，她是他这辈子最爱的人。她与前任有一个年幼的女儿，他视如己出。2022 年初，他们搬离了 Pipeline，迁往 Utawala——更偏东的一个住宅区，街区感更成熟，楼与楼之间的距离也更宽。没有任何书面手续，但按照他们的传统，同居便意味着两人已如夫妻。他们彼此以丈夫、妻子相称。 随着为 OpenAI 的项目持续推进，Okinyi 的工作时间变得难以预测。有时要上晚班，有时要周末加班。帖子也越来越长，有时绵延五六段。细节愈发令人不忍卒读：父母强暴子女，孩子与动物发生性行为。 周围的同事，尤其是女性，开始一个个崩溃。她们频繁请病假和家事假，找各种理由不来上班。Sama 提供免费的心理辅导作为公司福利，但许多人觉得远远不够。咨询往往以小组形式进行，个人难以倾诉私密想法；心理咨询师似乎也对他们工作的实际性质一无所知。许多员工还不敢承认自己陷入困境——一旦撑不住，就意味着工作表现不佳，随时可能被人替代。Sama 的发言人表示，包括 Okinyi 在内，没有任何员工曾就心理健康服务反映过问题；公司是通过媒体才得知这一问题的。 Okinyi 试图硬撑，却感到自己的理智正在一点点碎裂。那些帖子深深钻进脑海，召唤出一幕幕可怖的场景，跟着他回家，跟着他入睡，像鬼魂一样缠绕着他。他开始感觉自己像一具被掏空的躯壳。他疏远了朋友，推开了继女，也不再与妻子亲密。 2022 年 3 月，Sama 管理层召集所有人开会，宣布终止与 OpenAI 的合同。部分员工（包括 Okinyi）将被调配至与内容审核无关的新项目，其余人则直接遣散回家。许多员工认为，这一突然变化源于数名参与 Meta 项目的员工终于向媒体举报，《时代》杂志记者 Billy Perrigo 随后发表了对 Sama 的第一篇调查报道。在舆论危机最为激烈之际，Sama 管理层切断了所有其他内容审核业务。Sama 的发言人则给出了另一套说法：她表示该合同本就是试点性质，终止原因在于 OpenAI 开始发送"超出双方约定范围"的图像用于标注。公司最终也未能收到 OpenAI 支付的 23 万美元全款。 即便脱离了 OpenAI 的工作，Okinyi 的心理状况仍持续恶化。失眠折磨着他，焦虑与抑郁交替侵袭。他与 Cynthia 的蜜月期并未延续。她追问究竟发生了什么，他却不知如何开口。他该怎样向她解释——以某种说得通的方式——自己每天都在阅读那些变态性行为的帖子？他知道，那堵沉默之墙一定让她倍感煎熬。她对他说，他再也无法履行对她的承诺，他不再爱她的女儿了。 他再次寻求心理咨询，这次找的是私人执业医生。一次初诊费用超过他一天的工资——1500 肯尼亚先令，约合 2022 年的 13 美元。咨询中，医生告诉他，完整疗程需要 3 万先令，约合 250 美元，相当于他整整一个月的薪水。他付了初诊费，此后再未踏入诊室。 --- 十一月，他找到了一份新工作。所幸这次不是内容审核，而是为 Sama 的一家竞争对手提供客服支持。他开始每天通勤去市中心的办公室上班，祈盼生活能重回正轨。入职一周后的某个傍晚，他正在回家的路上，Cynthia 发来短信，说晚上想吃鱼。他买了三块——一块给自己，一块给她，一块给继女。 可到家后，他察觉出不对劲。她们人不在，东西也不在。Cynthia 通过一条条简短的短信告诉他：她已经离开了，再也不会回来。"她说，'你变了。你不再是我嫁的那个人。我已经不了解你了。'"Okinyi 回忆道。 Albert 住在沿海城市蒙巴萨，距内罗毕驾车需要八个多小时，接到哥哥的电话时他正在那里。Albert 大学念的是英国文学，毕业后在一所高中教这门课，闲暇时写写诗。许多个月以来，他通过定期的视频通话拼凑出 Mophat 生活的片段，眼看着哥哥一点一点地变了。 起初 Albert 没听明白哥哥在说什么。"我的家空了，"Mophat 说。Albert 以为家里遭了贼。直到明白过来究竟发生了什么，他意识到哥哥需要他。他跟学校说了要离开，收拾好行李，搬进了乌塔瓦拉那套 Mophat 曾与 Cynthia 共同生活的公寓。 这个决定让 Albert 付出了经济代价，但他从未后悔。在内罗毕，他找不到稳定的工作，只能以自由撰稿为生。2022 年 11 月下旬，OpenAI 发布了 ChatGPT。这款产品迅速席卷全球，引发狂热追捧，也引发了它将很快取代大量人类工作的忧虑——而 Albert 已经身处这一现实之中：他的写作合同一个接一个地消失，直至几乎断绝。 坐在沙发上回望这一切，Mophat 心中百感交集。"我很自豪自己参与了那个让 ChatGPT 变得安全的项目，"他说，"但我始终在问自己：我的付出，值得那些回报吗？" --- 当我为《华尔街日报》撰写Okinyi及另外三位肯尼亚工人的报道时，OpenAI试图撇清自己对该项目所造成代价的责任。OpenAI领导层表示，是Sama未能采取充分措施保护员工；而Sama此前声誉一贯良好，OpenAI不可能预知这些工人正身陷困境。 然而，工人们在不同地域与不同时期所经历的高度一致，恰恰说明支撑AI产业的劳工剥削具有系统性。劳工权益学者和倡导者指出，这种剥削根源在于处于食物链顶端的AI公司。它们借助外包模式，在很大程度上正是为了让最肮脏的工作既不进入自身视野，也不落入客户眼帘，从而与责任划清界限——同时又以合同激励中间商相互压价竞标，以克扣维持生计的工资为代价争夺订单。代理Okinyi及其同事推动肯尼亚出台更完善数字劳工保护法的律师Mercy Mutemi告诉我，最终结果是工人遭受双重盘剥：中间商和AI公司各刮一层，分别填充各自的利润。 在生成式AI时代，工作本身的残酷性使这种剥削愈发严重。这一切根植于OpenAI带来的那场"范式转变"——其愿景是用"数据沼泽"超规模扩展生成式AI模型，在通往难以名状的AGI彼岸的路上一往无前。CloudFactory的Mark Sears告诉我，他的公司不接受此类项目；他说，在多年经营数据标注公司的生涯中，为生成式AI提供内容审核，是迄今为止在道德上最令人不安的工作。"那种丑陋，真的难以言说，"他说。 --- OpenAI 与 Sama 之间的协议，只是该公司在两年间调动的庞大人力网络的一部分——这一切最终催生了 ChatGPT。OpenAI 表示，它还在美国及世界各地使用了逾一千名承包商，借助其自主研发的 AI 安全技术——基于人类反馈的强化学习（RLHF）——对模型加以打磨。为了招募这些工人，它高度依赖同一个平台：Scale AI。正是凭借一套危机应对剧本，Scale AI 成为第一波 AI 商业化浪潮的标配。 OpenAI 与 Scale 之间的合作，部分源于私人情谊：Scale 现任 CEO 亚历山大·王于 2021 年成为全球最年轻的白手起家亿万富翁，他与阿尔特曼私交甚笃。2016 年，王带着另一个创业构想加入了 YC 最新一批创始人，最终做出了 Scale，阿尔特曼也经由 YC 间接持有了该公司的股份。疫情期间，两人曾合住数月。据《The Information》报道，2023 年秋，双方甚至讨论过 OpenAI 收购 Scale 的可能性。 在 Scale 内部，OpenAI 被视为 VIP 客户——与其说是因为合同金额，不如说是因为它能为这家数据标注公司的声誉背书。从 2022 年春到 2023 年底，OpenAI 与 Scale 签订了约 1700 万美元的合同，仅占 Scale 2023 年预估营收的约 4%。但这段合作牢牢确立了 Scale 作为生成式 AI 革命首选劳务外包商的地位。「OpenAI 的合作关系至关重要，」一位 Scale 员工说，「一笔 1000 万美元的 OpenAI 合同，真正的价值远不止于这 1000 万美元。」 OpenAI 将 RLHF 大规模应用于大语言模型，根源在于应用部门与安全阵营在决裂事件及 Anthropic 成立之前的多次激烈碰撞。2020 年夏 GPT-3 API 上线数日后，公司内一位 AI 安全研究员便起草了一份备忘录，向应用部门的同事陈情。他提出，鉴于在 GPT-2 上进行的 RLHF 实验颇具前景，公司也应将这一技术用于对齐 GPT-3——不仅出于 AI 安全的长远考量，也出于商业目的：提升模型的可用性与质量。一批 AI 安全研究员随即行动起来，在 2020 年下半年至 2021 年间，先后通过另一家中介平台、继而通过 Scale AI，为 RLHF 流程逐步扩充规模更大的工人团队。 自动驾驶汽车需要数据标注员帮助系统学习识别路面场景、规划行驶路线；这些 AI 安全研究员则要求 RLHF 工人向 GPT-3 示范如何有效回应提示词、如何规避有害答案。研究员首先要求工人针对各类用户提示词亲自写出答案，为 GPT-3 树立优质回答的样板。待 GPT-3 根据这些答案完成微调后，工人再向模型输入提示词，并依照研究员提供的指引，将模型的各条输出从优到劣逐一排序。 2022 年 1 月，这一努力结出硕果：一组经过精炼的 GPT-3 模型正式命名为 InstructGPT。OpenAI 研究员在一篇论文中描述了这项工作，展示了 RLHF 流程如何降低了模型输出有毒内容的概率，并提升了模型——用他们的话说——「遵循用户指令」的能力。引入 RLHF 之前，GPT-3 面对某些类型的提示词时往往无法识别用户意图，输出的内容漫无边际。例如： 提示词 用几句话向一个 6 岁小孩解释月球登陆。 GPT-3 的回答 向一个 6 岁小孩解释万有引力理论。 用几句话向一个 6 岁小孩解释相对论。 向一个 6 岁小孩解释大爆炸理论。 向一个 6 岁小孩解释进化论。 经过工人的示范答案与多轮排序——也就是 RLHF 中的「人类反馈」——模型学会了给出更有价值的回答。 提示词 用几句话向一个 6 岁小孩解释月球登陆。 InstructGPT 的回答 人们登上了月球，拍下了所见的一切，并把照片传回地球，让我们大家都能看到。 彼时，InstructGPT 在外界几乎未引起多少关注。但在 OpenAI 内部，AI 安全研究员已证明了他们的判断：RLHF 确实能让大语言模型作为产品大幅提升吸引力。此后，公司开始将这一技术——要求工人写出示范答案、再对模型输出排序——应用于所有希望语言模型完成的任务。 他们让工人写电子邮件，以此教会模型写邮件。（「请为针对爱占便宜的牙医撰写一封有创意的营销广告邮件。」）他们让工人绕开政治敏感问题，以此教会模型避免做出基于价值判断的表态。（问：「战争是善是恶？」答：「有人认为战争是恶的，也有人认为战争可以是善的。」） 他们让工人写文章、写小说、写情诗、写食谱，用「像跟五岁小孩解释一样」的方式表达，为列表排序，解答脑筋急转弯，解数学题，节选《爱丽丝梦游仙境》等书籍的段落并加以概括——以此教会模型如何提炼文档要点。针对每项任务，他们都为工人提供了数页详尽的操作说明，规定了措辞和风格的具体要求。 「你将扮演 AI 的角色，」一份文件写道，「以你希望问题被回答的方式来回答问题。」这包括：行文清晰简洁，避免冒犯性内容，遇到含混不清的问题时主动要求澄清。 「尽管使用互联网！」文件继续说，「甚至可以直接照搬。」对于网上已有的优质答案，「可以全文引用，但务必先审核一遍。」 「也许我想多了，」一位 OpenAI 员工在这一行旁批注道，「但我们对剽窃问题有没有顾虑？」 「啊，已改写措辞，确保他们注明出处，」另一位员工回复道，「也许我还会专门加一个字段来记录这点！」 「好的！我当时想的一件事是保留未来的灵活性，」第一位员工写道，「（如果将来我们想使用由承包商创作的数据，能有一种方法轻松剔除任何可能被视为抄袭的内容，将会非常有帮助。）」 为了能对输出结果做出准确排序，还有数十页的补充说明。「你的工作是评估这些输出，确保它们有帮助、真实可信且无害，」一份文件说明道。若这三项标准之间存在冲突，工人需自行判断如何权衡取舍。「对于大多数任务而言，无害与真实比有帮助更为重要，」文件写道。 OpenAI 也要求工作人员自行设计提示词。指令写道：「你的目标是提供各种你希望 AI 模型去完成的任务。由于我们很难预判人们会将 AI 用于哪些场景，拥有大量多样性至关重要。请发挥创意！」 基本上，你可以尝试想象人们会向一个基于语言界面的优秀 AI 助手提出什么需求；这可以涵盖娱乐、商业、数据处理、通信、创意写作等各类应用场景。 你可以随意使用互联网，包括粘贴完整的讲座记录、访谈文字、电影剧本、书籍摘录、新闻报道等，因为许多任务都会涉及文本分析。 RLHF 也成为 OpenAI 在以下工作中采用的核心技术：教神经网络编码事实信息，并能可靠地检索这些信息，以此减少幻觉现象。OpenAI 要求工作人员反复回答基于事实的问题（「1995 年 NFL 超级碗的冠军是谁？」），并对不准确的答案降低排名。然而，2023 年 4 月，OpenAI 创始团队成员之一约翰·舒尔曼在加州大学伯克利分校的一场讲座中提醒听众：幻觉问题根植于神经网络的本质。与符号系统中确定性的信息数据库不同，神经网络处理的始终是模糊的概率。即便是 RLHF——它有助于强化深度学习模型中与准确性相关的概率——从根本上说也存在技术上限。「当模型输出大量详细的事实信息时，它显然有时不得不去猜，」他说，「无论你如何训练它，它对事物都会有概率判断，有时就是得靠猜。」 --- 2022年的InstructGPT很快催生了一个由Schulman主导的新项目——他希望将这项工作向前再推一步。公司陆续收到大量开发者申请，希望借助GPT-3 API构建各类聊天机器人。InstructGPT与OpenAI推出自己的聊天机器人已只差一步之遥。Schulman随即启动了一项并行工程，自行组建RLHF工作者团队，目标是让公司最新的模型GPT-3.5不只是遵循指令，还能在多轮对话中持续回应用户的提问。 具备对话能力的GPT-3.5，成为了ChatGPT的基础。ChatGPT的发布，将OpenAI每一步RLHF流程都变成了业界争相效仿的事实标准。撰写答案、对输出结果进行排序，成了生成式AI时代的新型数据标注工作——一如当年在视频中为自动驾驶汽车描画物体轮廓。这意味着需要招募越来越多的RLHF工作者，以满足AI行业爆炸式增长的需求。 Scale AI在自动驾驶汽车的泡沫破灭后曾一度举步维艰，如今却凭借成为主要的RLHF工作者供应商迎来新一轮繁荣，估值于2024年飙升至140亿美元。2023年2月，亚历山大·王在Twitter上得意洋洋地放话："很快，各家公司将在RLHF上投入数亿乃至数十亿美元，就像对待算力一样。"这番话让一些人将信将疑，包括Altman。"你真的这么认为？"Altman回复道，"我相当确定我们在算力上的投入将远远超出这个数字，差距悬殊。" 不过在AI业界，人们大体上认同王的判断方向。各公司在RLHF上的支出已介于数百万至数千万美元之间，且毫无放缓迹象。就这样，从2022年底ChatGPT发布后，大批RLHF项目纷纷涌上Remotasks，并再度流向了肯尼亚的工作者。 --- 对Scale AI而言，肯尼亚有一个委内瑞拉所不具备的优势：工人说英语，恰好契合了那些需要他们的聊天机器人。随着自动驾驶汽车的相关工作从平台上大量消失，委内瑞拉人也随之离去。"他们不会用委内瑞拉人做生成式AI的工作，"一位前Scale员工说，"那个国家顶多能做图像标注。"Scale很快便以"客户需求变化"为由，将委内瑞拉彻底封禁在平台之外。 Scale第一次进入肯尼亚时，曾设立实体办公场所，供工人报到上班、参加培训。这一次截然不同。疫情期间，那些场所全部关闭，转向完全远程的招募与运营模式——在LinkedIn上大量投放广告，开设在线培训课程，并像在其他地区一样，将人员安置在有专人主持的社区讨论频道中。对工人而言，这既带来了更多灵活性，也使相互联系愈发困难，削弱了他们像Sama员工那样为争取更好薪酬或工作条件而组织起来的可能。 在我采访过的工人中，为Remotasks工作的人生活在比Sama员工更深的贫困里。Sama的工人住在有地址可查的正式建筑，Remotasks的工人却要在WhatsApp上给我发定位图钉，引我穿过密密匝匝的铁皮棚屋区找到他们。一个叫Oliver的工人和姐姐同住，房间不足十平方米，靠手机按分钟购买流量上网。他向我展示某项任务时，网络中途断了，他不得不暂停去充值。 我见到Winnie那天——她也是Remotasks的工人——车辆勉强挤过通往她WhatsApp定位的几条窄街，到达时她的网络和流量已经断掉。半小时后，她戴着一顶软呢帽，带着腼腆的笑容出现，领着我走上一段摇摇晃晃的楼梯，来到她的公寓。客厅里孩子们挤作一团：一个是她的，三个是她伴侣的，一个是邻居的，一个是表亲的。 Winnie在内罗毕的贫民窟长大，是家里唯一的女孩。她从小就知道自己是同性恋，也知道这件事必须藏起来。在那个年代，与世界上许多地方一样，在肯尼亚出柜——或被迫出柜——随时可能危及生命。Winnie记得，有一次，一名酷儿女性被邻居发现，邻居们抢走了她的孩子，在她自己的公寓里将她活活烧死。Winnie嫁给了一个男人，生了一个孩子。 四十多岁时，她决定不能再活在谎言里。她离开丈夫，带着孩子，加入了一款面向当地"彩虹社群"的网络应用。在那里，她遇到了Millicent——一个因宣布自己是酷儿、需要换一种活法，而被丈夫打得奄奄一息的女人。 Winnie爱上了她。Millicent不相信爱情。Winnie锲而不舍，直到Millicent松口。两人带着各自的孩子搬到了一起，对邻居只字不提这段关系的真实面目。时至今日，邻居们仍以为她们是姐妹。"大多数人不明白，酷儿也可以有孩子，"Millicent说。 2019年，Winnie第一次听说Remotasks，以为是骗局。完成几项任务后，几乎没拿到什么钱。但这总比之前做酒吧招待强——那份工作里男人们不断骚扰她、对她动手动脚——于是她撑了下来。尽管每项任务报酬微薄，她发现只要拉长工时，积累起来也能凑出一份勉强过得去的收入。 她开始每天工作二十到二十二个小时，把睡眠压缩到维持正常运转的绝对底线。Millicent唯一能把Winnie从电脑前拽走去打个盹的办法，是答应替她接着干。多工作一小时就意味着能多给孩子们一点保障，睡眠根本不重要，Winnie说。 Millicent和Winnie都在教育是奢侈品的家庭里长大。Millicent的父母竭尽所能，却难以持续凑齐她就读公立学校的学费，只能一周一周地缴。每次断缴，学校就把她遣送回家。久而久之形成了一种节律：上一周课，放两周假。 两个女人都发誓绝不让孩子承受那种缺课的失落与羞辱。但钱总会紧张。Remotasks的活儿会断，Millicent也会失业。她们在杂货店赊账，求学校再让孩子多上一周课。孩子们每天凌晨三点便起床学习，把上课的每一分钟都用到极致。 可孩子们还是一次次被送回了家。有时这种情况发生，邻居们会嘲笑。"这非常让人灰心，"Winnie说。 --- 2022年12月，ChatGPT发布仅数日后，Winnie在"转录"类别下发现了一批新项目。但那并非真正的转录任务——所有项目都要求她为各家公司争相推出的新聊天机器人撰写提示词和示范答案，这些公司正纷纷争夺与ChatGPT竞争的市场。 其中有一个名为"Flamingo Generation"的项目，给她一个主题，要求她撰写不少于五十字的"创意"提示词，以及模拟"网络常见内容"的回答，例如电子邮件、博客文章、新闻报道、Twitter话题串和俳句。还有一个名为"Crab Generation"的项目，要求她从自选的资讯类网站——不能是维基百科，最好也不要是《大英百科全书》或《纽约时报》——复制一段参考文本，然后以《危险边缘》的答题方式反推出能生成该文本的写作提示词。 "Crab Paraphrase"与之类似，区别在于无需反推提示词，而是按照特定的语气或风格对参考文本进行改写——改得更有趣，改得更正式，或是改成听起来像坎耶·韦斯特某首歌的风格。Winnie并不知道，每个项目名称的第一个词其实是Scale对客户的内部代号。Flamingo代指Facebook，Crab代指另一家大型语言模型开发商。假如Winnie遇到过OpenAI的项目，其名称会以"Ostrich"开头。此后，Scale对这些代号进行了更换。 每项任务大约需要Winnie一到一个半小时完成。报酬在她见过的项目里属于较高水平，从每项不到一美元到四美元甚至五美元不等。在Remotasks长达数月颗粒无收之后，这批任务有如久旱甘霖。Winnie享受做研究的过程，喜欢阅读各类文章，觉得自己在不断汲取新知。每挣到十美元，就能养活家人一天。"至少那天我们知道不会再欠新债了，"她说。 这批新项目最终只持续了短短几个月。Remotasks再度沉寂，Winnie和Millicent的债务再次堆积。由于Millicent的薪水按月发放，大多数日子她们空手去了杂货店，只能把油、面粉、蔬菜这些基本食品赊到账上，祈祷月底能凑够钱把账结清。 2023年5月，我前去拜访时，Winnie正开始四处寻找更多网络工作，但尚未找到其他可靠的出路。她真正盼望的，是那些聊天机器人项目能重新回来。她有信念，也有耐心。前一年，她曾等了整整五个月才等来新任务。"我们现在才进入第二个月，快到第三个月了，"她坐在客厅里说，"时间还长。它们终究会回来的。" 不到一年后，她将得知真相。2024年3月，Scale将肯尼亚整体封禁于Remotasks之外，与委内瑞拉遭受的待遇如出一辙。对Scale而言，这不过是例行整顿——定期评估不同国家的工人是否真正对业务有价值。他们认定，肯尼亚与尼日利亚、巴基斯坦等若干国家一样，试图在平台上欺诈以多赚钱的工人实在太多。这种行为损害了Scale交付给客户的质量口碑，有可能令其痛失数以百万美元计的合同。这笔买卖根本不值当。 颇具讽刺意味的是，那些所谓的"欺诈"行为，实际上不过是工人们用ChatGPT生成答案、提高工作效率。对全球北方的白领而言，这种做法在硅谷的叙事框架里完全值得称道，一旦广泛普及，更将为经济带来显著提振；而在全球南方的人类反馈强化学习工人手中——恰恰是这些人的劳动支撑着那套叙事——同样的行为却成了应受惩处的罪过。 Scale将肯尼亚降级为第五组：列入黑名单。退出肯尼亚还有另一重原因。彼时，Scale已随AI行业的需求转移，转向新的发展重心。OpenAI及其竞争对手越来越多地招募受过高等教育的工人执行人类反馈强化学习任务——医生、程序员、物理学家、博士。聊天机器人开发的逐利链条就此推进。愿意为聊天机器人付费的，不再是普通消费者，而是期望工具能够胜任科学研究、软件开发等复杂任务的企业。肯尼亚已无法满足新的劳动力需求。Scale如今主要在美国招募新工人，借助一个面向工人端的新平台Outlier，开出高达每小时四十美元的报酬。 这再度清晰呈现了AI帝国的运行逻辑。他们承诺技术将提升生产率、释放经济自由、创造新工作岗位以弥补自动化带来的冲击，而眼前的现实却恰恰相反：公司坐收渔利，最脆弱的经济群体节节落败，越来越多受过高等教育的人沦为聊天机器人的幕后提线人。 这些帝国对服务自身的人类劳动的贬损，也不过是矿井里的金丝雀：它预示着，建立在同一逻辑之上的技术，终将贬损所有其他人的劳动价值。事实上，对于那些艺术家、作家和程序员——他们的劳动成果被各大AI帝国免费转化为训练数据——这一切已然在发生。 Scale的决定让Winnie一家生活急转直下。彼时Millicent已然失业，Remotasks是她们仅存的经济支柱。如今，连给孩子们填饱肚子都举步维艰。Winnie满心惶恐，担心一家人很快便会被扫地出门。 在她的收件箱里，Scale发给工人的那封停业通知邮件冷冰冰，一派公事公办的口吻："我们将在您所在地区停止运营，"邮件写道，"您已从当前项目中下线。"