那么,下一词元预测将我们置于何地?
已解决/搞定(Solved/Cooked)
互联网上某些角落的AI极端乐观主义者,特别讨厌人们把大型语言模型仅仅称为“下一词元预测器”(next-token predictors)或“随机鹦鹉”(stochastic parrots)。他们本能地把这些说法当成贬义词。他们用“已解决”或“搞定”这样的词,来宣告那些需要真正人类创造力、专业知识或努力的行业或工作类别已经终结。“动画已解决”“好莱坞搞定”“编程已解决”“研究生搞定”等等。这远非对技术进步的中性描述,其中带着某种幸灾乐祸的快感。他们庆祝这种过时。讨论中充满攻击性,这与人们在网上政治站队的情形极为相似。我想不出还有哪种技术能达到这种部落主义程度。嗯,也许是加密货币?Arch Linux用户?都差得远。
这些是极端例子。[1] 我必须把这个放在最前面,因为从我的立场来看,我觉得现在欢呼雀跃的那些人,正是那些正在被经济上淘汰出局的人。
为什么?
能够思考的机器,长期以来一直是人类集体意识和文学虚构中的重要母题。它一直是个“何时”而非“是否”的问题,而“何时”和“什么”的曲线是抛物线式的。我觉得这背后有某种原始的东西:创造的傲慢,扮演上帝,从沙子中榨取智能。
那么,是什么造就了一个狂热的拥护者?为什么他们似乎对人类的聪明才智和劳动抱有某种蔑视?他们是否过于乐观地想象自己靠全民基本收入(UBI)生活,把所有时间花在休闲上,而机器则以亚音速[2]嗡嗡作响地完成那些最终可能被认为低于人类尊严的工作?我们不能、也显然不应该把这些事情一概而论。但最近我一直在想,这是否只是一个阶级问题?
这一群体的人很可能有一个缓冲垫,能缓冲他们现在正在施加的冲击。他们或许有幸生活在一个政府和社会安全网还算运作良好的环境中,而这是在他们生活各个方面都能看到的现实。世界上超过一半的人没有这样的条件。科学和技术,我觉得,一直对底层人民的困境抱有某种冷漠。而且我担心这是设计使然。要进入这个圈子,或分享其成果,你至少得先有接受教育的机会。
这个缓冲垫和社会安全网在很大程度上是暂时的。它不可能永远持续下去,除非我们能采取一些措施,比如对裁减劳动力的公司征税,或者其他疯狂的做法。而我们现在甚至无法公平地对普通亿万富翁征税。
从长远来看,这里没有赢家团队。没有需要安抚的巴希里斯克,也没有立场可站,现实世界的后果最终也会降临到你自己头上。
元契约(The Meta-Contract)
人工智能最初的信条——“拯救我们”免于气候、疾病、贫困、冲突等各种难题——正在快速崩塌。前沿实验室已经转向一种更世俗、更扭曲的信号:那就是简单地削减劳动力。
即使是最受剥削的阶级,人们也或多或少拥有一个谈判筹码——一个公司花费数十亿美元试图夺走的筹码。这个筹码就是劳动,就是“被需要”的价值。人工智能的CEO和拥护者轻率地宣布,这个筹码将不再是法定货币。Anthropic的CEO Dario Amodei在这方面名声很大。OpenAI的CEO Sam Altman则说,大学学位现在毫无价值,因为AI可以以更个性化的方式教得更好。在这些人下游,风险投资家们则宣称未来5年内某某工作类别将被“解决”——只是带着来自有钱人的那种优雅语气。
当你剥夺一个人的经济效用时,会发生什么?资本主义的承诺一直是——你有机会在轮盘赌桌上转一圈。如果你足够努力,你可以成功。我们一路走来,打造了这个超级资本主义世界:在亚马逊仓库工作时,一个瓶子就是你的厕所,一美元换取你的尊严。那么,那些唯一向上经济流动机会就是孩子拿到学位然后找到工作的数十亿人,又会怎么样?
AI民主化了CEO们想要淘汰的那些东西。当然,它可能会教你知识、帮你搭建仪表板,但你将无法出售它们。它在集中化——如果梦想完全实现,它就是生产资料集中到少数富人手中的字面体现。这是资本家的梦想。它藏在200美元的订阅后面,或者藏在强大的GPU后面,以及实验室是否愿意发布开放权重模型的善意里。AI提高了人类产出的上限,同时也提高了进入门槛。
我看到很多知识工作者在网上高呼“与AI一起,而不是由AI”,这在很大程度上读起来像是自我安慰(cope)。那些愿意花费25万美元+token成本的公司,宁愿改为花费3万美元+token成本去雇佣东南亚的劳动力。同样,这种劳动力套利也是暂时的,他们最终只想支付token成本。
上帝保佑任何人还能从自己的手艺中找到一丝快乐或满足感——这种感觉现在已经彻底消失了。你现在只是一个节点。你唯一的工作就是最大化吞吐量。你接收输入,用AI产生输出。你必须以自己无法可靠审查或验证的速度,持续推送工作流。即使你想认真做,也会有不这么做的人,对公司来说,你就成了表现不佳者。你可以再分配另一个代理去做这件事,不过要额外付费。
最近,菲尔兹奖得主Tim Gowers写下了他使用ChatGPT 5.5 Pro的经历(注意,输入每百万token 30美元,输出每百万token 180美元!)。他说:
所以,如果你做数学的目标是实现某种不朽,那么你应该理解,这将不再可能——不仅对你,而是对任何人。
与AI一起,而不是由AI?实验室和公司会让代理去 babysit 其他代理,用蛮力去解决和发现问题。你做不到同样的事,因为你没有无限的算力或专门模型。这与阻止普通人成为亿万富翁的结构性障碍是同一种模式。你将被把守。你将为自己的工作能力支付许可费。筹码现在是租用的。这个谈判筹码现在由台积电(TSMC)制造,由英伟达(Nvidia)出售。
那些一生中没写过一行代码的非技术中层管理者,现在觉得他们与伟大之间的最大障碍已经消失。他们不再需要跟讨厌的程序员打交道。他们不再需要要求程序员去改网页面包屑的颜色、大小或样式。不再有关于“这是糟糕的UX”或“代码复杂度对某个无用的花哨功能来说不合理”的抗议。AI不会抱怨,不会成立工会,不会抗议。它会听你的。它会说你顺便提到的一句话真的很 impressive,它没见过很多人有这样的思考方式。
我们是如何走到这一步的?(How Did We Get Here?)
每一个网站、每一本书、所有曾经写过、制作过、拍摄过、录制过的东西,都默认成为了训练语料库中的opt-out内容。只有当你运营一个网站,并在robots.txt里添加相应行,尊重的爬虫才会停止抓取。但仍然有大量不自我标识的爬虫,我猜想甚至存在被抓取内容的黑市。除了网站之外,你就毫无办法。成千上万的人被支付微薄的工资去标注、精炼和优化数据集。许多人因为数据中心以惊人速度建设而被迫支付更高的水电费。
巨额资金被投入到AI机器中。没有人做这件事是没有回报承诺的。如果不是这样,我们早就已经在逆转气候变化、拯救海龟了。相反,我们被告知AI将解决这些极其困难的问题,同时还能带来额外回报。在许多方面,AI狂潮……