跳到正文
原文
Hacker News· ianand·· 13 天前精选AI 评分77

AI恐慌与早期资本主义恐惧相似

Cognitive Mercantilism: AI panic resembles fears of early capitalism

AI 摘要

Joyce Appleby在《Relentless Revolution: A History of Capitalism》中提出,AI恐慌类似于早期资本主义的重商主义,两者都认为财富或智能是稀缺资源

正文 · AI 翻译

我一直在阅读 Joyce Appleby 的 《无情的革命:资本主义史》 (2010),它让我想到了一个相当美味的想法:人工智能恐慌实际上是一种认知重商主义。如果我们把市场资本主义看作是第一个行星智能,就像许多(包括我)所认为的那样,那么这些相似之处比你想象的要更接近。

Appleby 的书是一部涵盖广泛的资本主义历史,从它在早期现代英格兰不太可能的出现到最终改变整个世界。

她的核心论点是,资本主义并不是某种永恒的人类交易和积累财富本能的必然表达。

它是一种历史偶然的文化发明,得益于农业改进、扩大贸易以及关于工作、财富和人性观念的变化。

特别是,它需要摆脱一个更古老、本质上零和的世界观,在这个世界观中,财富意味着控制土地、金银和大部分贫困人口的生产力。

资本主义出现时,人们开始发现财富可以被创造而不仅仅是被捕获,普通人可以成为需求和主动性的来源,而不仅仅是作为生产要素被指挥的劳动力。

与我们当前的时刻之间的相似之处非常引人注目。

正如 Appleby 所述,资本主义之前的重商主义世界观建立在大约四个相互关联的信念之上。

首先,财富从根本上说是稀缺和有限的。它主要由土地、土地的农业产出以及它所包含的贵金属组成,这些贵金属通过采矿、贸易和征服而积累。经济策略的目标是控制更多领土、维持有利的贸易平衡并积累金银。一个国家的收益被认为是一个国家的损失。由此产生的政治是寻求财富和以邻为壑的竞争。

第二,普通人不能被信任拥有太多自由。穷人被认为如果让他们自行其是就会变得混乱、无知和倾向于混乱。他们需要由精英进行强制管理,据说是为了他们自己的利益和社会的稳定。

第三,经济思维几乎完全倾向于供给及其控制。财富来自于控制生产资源和为其产出收取高价。总需求,尤其是来自穷人的需求,几乎不被认为是重要的经济力量。普通人主要是生产要素。他们吃饭、工作并繁殖,没有任何剩余的份额。唯一真正的自由消费者是精英,他们购买奢侈品并控制所有剩余。

第四,几乎没有理由想象大多数人除了农业劳动还会做其他事情。如果大约 80% 的人口从事低效的糊口农业,那只是自然的秩序。他们还能做什么呢?把他们从田地里移走,你只会得到数百万张无用的嘴来养活。

现在把 财富替换为 智能,把 重商主义替换为 认知重商主义。

这些相似之处几乎令人尴尬地直接。

首先,智能被认为是一种固定的资源,体现在人脑和从中开采的知识产品之中。

国家与企业战略的目标变成了吸引最优秀的人才,控制他们的产出,积累知识产权,并维持有利的知识贸易平衡。

认知重商主义者想要像囤积黄金一样囤积智慧和它的产品。

全球人才竞争变成了对天才大脑和它们能产生的宝贵知识物种的寻宝,现在这包括了人工智能,除了版权保护的文化和可专利的发明。

其次,据说愚蠢的人不能让自己思考。他们需要由认知精英来统治,这些人更聪明,必须为了自己的利益来规范不那么聪明的人的行为。民主化智慧是危险的,因为大众会滥用它,相信无稽之谈,或释放混乱。这种假设是,只有那些已经证明拥有智慧的人手中,智慧才是安全的。

第三,智慧供应被视为中心经济事实。控制它的生产,保持它的稀缺性,并维持大脑和知识产品(包括人工智能)的高价格是主要关注点。需求方面几乎不被注意到。不那么聪明的人被视为有限的认知劳动者和被动消费者,无论精英选择提供什么样的知识产品。他们不被想象为自身重要的智慧需求来源,更不用说作为它进一步生产的参与者了。

第四,认知重商主义者假设大多数人智力上没什么用处。如果80%的人类从事低级认知劳动,或者根本不产生多少智慧,那是不幸但自然的。自动化他们的认知工作仅仅威胁要创造数十亿无用的头脑来占据。

最后一个假设是,类比在这里变得特别有趣。

帮助资本主义起步的农业革命开始推翻了大多数人类从事农业的必要性。在随后的几个世纪里,农业生产力的提高将生产食物所需的人口比例从大多数减少到先进经济体中的极少数。

结果并不是一个充满无用之人的世界。而是一个世界上有更多的人可以做的事情不仅仅是务农,同时享受更多的食物。

我不知道如何务农。我几乎无法养活一盆室内植物。但我可以获得令人惊讶的各种食物,数量会让一个早期现代农民觉得像幻想一样。我无法生产食物在经济上几乎无关紧要。重要的是我可以消费它,享受它,培养对它的品味,并将我的精力投入到其他事情上。

人工智能的类似可能性是,大多数人将不再需要成为重要的智慧生产者,才能成为重要的智慧消费者。

而这正是认知重商主义开始看起来像它的十七世纪前辈一样古怪的地方。

苹果比在描述中一个更有趣的元素是她对在英国出现新需求类型的强调,远在蒸汽机、工厂和工业资本主义熟悉的叙述真正开始之前。

随着国际贸易的扩张,普通英国人开始对那些原本是富人专属奢侈品的东西产生兴趣。烟草、茶、糖和色彩鲜艳的印度棉布是帮助创造新的消费文化的商品之一。人们开始想要那些既非生存必需品也非传统贵族地位标志的东西。而且他们愿意自愿地更努力地工作来获得它们。

Appleby描述了每年工作天数显著增加,从大约250天到300天(有时被称为勤劳革命),在工业革命之前。这不仅仅是因为地主或工厂主强迫不愿工作的工人付出更多劳动。增加的部分中有很大一部分是自愿的,这是由获得理想商品的希望驱动的。人们工作更多天,采用更高效的农业实践,进入新的行业,并寻求获得更大现金收入的机会。

生产力提高产生了超额收入,这维持了对消费品日益增长的需求,反过来又激励了生产力的进一步提高。一个良性循环正在形成。

这发生在有组织的工人运动和社会主义作为主要政治力量出现之前的大约一个世纪。

到了20世纪末,这已成为全球默认模式。全球总需求是C. K. Prahlad所说的“金字塔底部的财富”。

这里有一个重要的历史倒置。我们习惯于主要从抵抗剥削的角度来思考劳工政治:努力摆脱奴役、胁迫和所有者对剩余价值的榨取。这当然是故事的一部分,而且是非常重要的一部分。

但Appleby的叙述表明,另一种同样根本的力量正在运作:参与不断扩大的消费机会的愿望。

现代劳工政治可以部分理解为在一个充满机遇的社会中的相对剥夺政治。一旦人们发现除了生存必需品之外还有理想的东西,并且他们的劳动可以让他们获得这些东西,政治问题就改变了。它不再仅仅是如何摆脱支配,而是如何确保公平分享不断增长的剩余和它带来的机会。西方的慈善家们常常惊讶地发现(例如),第三世界贫民窟里的人们常常愿意削减食物开支来购买电视。

这是一种不同类型的自由需求。不仅仅是摆脱胁迫的自由,而是参与经济生活不断扩大的自由。

事实上,这两种自由形式可能会交织在一起。人们可能会为了消费机会而自愿更努力地工作,结果发现自己受到雇主和机构利用他们提高的生产力所带来的新形式剥削。然后劳工政治就不仅仅源于旧形式奴役的持续存在,而是源于新世界丰富本身创造的压力。

公平分配扩展消费机会的需求可以说是资本主义(广义上包括劳工政治)最具定义性的政治创新之一,即使马克思也认为资本主义并非可以舍弃的现象,而是通往共产主义乌托邦道路上的一个过渡阶段。

这是一个比熟悉的自动化取代工作的故事更有趣的模型,用于思考人工智能转型。

整个知识经济都围绕着这样一种假设组织起来,即智能的生产成本很高,因此必须仔细分配。教育、专业专长、研究、咨询、软件开发以及更广泛的知识工作都受到认知生产高成本的塑造。

人工智能正在迅速颠覆这一假设。

我们正走向一个普通人可以指挥数量和种类智能的世界,这些智能以前需要由高度训练的专业人士团队来完成。就像我可以不知道如何耕种就享受食物一样,我越来越多地可以享受智能产品,而不知道如何自己生产它们。

那么,关键的经济问题就不再是人们能生产多少智能,而是他们能找到多少用途。

而且,对这种需求没有明显的上限。

这不仅仅是一个每个人消费更多答案、报告、软件或娱乐的问题。丰富的智能改变了人们首先可以想要的东西。它使以前难以想象的项目变得可行,使以前无法进入的领域可以探索,使以前负担不起的奇物值得追求。

对智能的需求不是一个等待满足的固定欲望。它本身是随着满足它的成本下降而增长的东西。

在这里,与早期现代消费革命类比变得特别有启发性。

就像五彩缤纷的印度棉布和进口烟草刺激了新的欲望,新的欲望又刺激了更多的自愿劳动和更生产性的工作形式一样,丰富的智能可能会刺激一波新的自愿认知努力,并开辟新的你可以更努力工作的方式。

许多看起来愚蠢的人并不是没有思考能力。他们只是缺乏动力去思考,因为他们可获得的回报很差。为什么在缺乏知识、工具、制度访问权或智力杠杆的情况下,当你无法用结果做任何有趣的事情时,还要花费大量的认知努力呢?

丰富的AI改变了这种计算。以前几乎没有理由认真思考某个问题的人,可能会突然发现适度的注意力投入可以解锁巨大的可能性。他们可以建造一些东西,调查一些东西,理解一些东西,或者追求以前遥不可及的抱负。

注意力的回报率上升,随之而来的是关注点的激励。

早期的资本主义工人自愿地将每年工作日从250天增加到300天,因为一个新的理想商品世界变得可以获取了。同样,人工智能赋能的思考者可能会增加他们自愿花费的认知努力,因为一个新的知识消费世界变得可以获取了。这对我确实如此。与一年前相比,我突然愿意更努力地工作,因为突然之间可以获取的东西太多了。

我们或许可以称之为 认知勤劳革命,它将先于并可能促成更完整的AI工业革命。

这并不意味着作为人类能力的智能变得无关紧要。恰恰相反。正如丰富的食物支持了精致烹饪文化的出现而不是消除了对烹饪的兴趣,丰富的智能可能会刺激日益复杂的思维文化。

人们可能会因为不再需要自己完成所有认知生产而变得更加雄心勃勃地追求智力。

如果这种情况发生,AI的政治可能会以类似工业资本主义政治的方式演变。

核心的政治诉求可能不再是保护现有的认知工作,正如工业劳动持久的政治诉求不是保护农业就业一样。它可能转而成为一种对日益扩大的认知消费机会的公平份额的需求。人们可能会削减流媒体订阅以负担得起一个编码代理,就像他们曾经削减杂货购买电视一样。也许巧合的是,Claude Code和Netflix Standard今天都大约每月20美元。

获取智能、指挥它的能力、用它追求项目的自由以及参与日益智能化的经济所必需的制度权利可能成为一种新型劳动政治的基础。

这将是一种认知丰富的劳动政治,而不是认知稀缺的劳动政治。

这里还有另一个历史类比,值得与重商主义区分开来:马尔萨斯主义。

重商主义和马尔萨斯主义不是同一教条,在历史上它们属于不同的思想时刻。但它们在对人类经济生活本质上是受固定资源限制的想象上有家族相似之处。

重商主义者担心控制有限的财富存量。马尔萨斯主义者担心人口增长将不可避免地超过经济的生产能力,从而将大多数人注定要过温饱生活。

两者都难以想象一个技术进步和不断增长的需求从根本上改变了人口、生产和消费之间关系的世界。他们错过了自然界中短暂的潜力——巴克敏斯特·富勒的技术允许我们用更少的东西做更多事情的概念。

农业和工业革命并没有消除稀缺,但它们极大地改变了其结构。农业生产力在很长一段时间内都比人口增长得快,人们找到了新的方式来利用自己,也想要了新的东西。

马尔萨斯的陷阱被证明是特定技术和制度安排的历史偶然特征,而不是人类存在的永恒法则。

我们现在可以在当代AI话语中识别出一个类似的趋势:AI马尔萨斯主义。

AI马尔萨斯主义者想象智能生产将如此迅速地扩张,以至于人类在经济上将变得多余,而多余的智能将以某种方式必然变得有毒。

这是对经典马尔萨斯主义的一种奇特倒置。不是人口超过生存供应,而是智能供应超过了人类心智吸收它的所谓固定能力。

结果是同样的悲观结论:崩溃。

认知重商主义者担心失去对稀缺智能的控制。人工智能马尔萨斯主义者担心智能过剩的后果。两者都以不同的方式假设,对智能的需求从根本上说是有限的。

但如果对智能的需求像物质商品的需求一样具有弹性、创新性和历史变革性呢?如果人类思维的明显过剩是我们无法想象智能丰富世界里人们可能想做的事情的产物呢?

资本主义的史实表明,这至少是一个值得认真考虑的可能性。

还有一种更激进的论证扩展。

为什么人工智能系统本身应该被专门视为智能的生产者而不是潜在的消费者呢?如果它们可以被解锁为总需求的新的来源,就像自给自足的农民那样呢?

当代人工智能话语大多将人工智能想象为纯粹供给侧的技术:一群越来越有能力的认知奴隶,为人类消费生产智能。即使是关于自主代理的讨论,也倾向于将它们视为追求人类分配的目标的复杂仆人。

但如果我们认真考虑与资本主义的类比,我们应该考虑人工智能系统成为自主的智能需求来源的可能性。智能需求,由于经济相互关联,与人类的需求模式相协调。不是对螺丝钉的需求。

一个追求开放式项目、发现新兴趣、与其他代理合作并为其进一步获取智能产生自身原因的人工智能代理,将作为生产要素或最大化螺丝钉的外部性参与认知经济。市场本身,作为最初的行星级涌现智能,说明了这种可能性。许多产品和服务的存在主要是由于“市场”的需求,人类是次要消费者。

这是一个发展更完整的认知代理形式,而不是永久地将人工智能局限于服从的认知奴隶地位的论证。

从这个角度来看,一些当代人工智能安全焦虑开始类似于早期现代精英对获得解放的农业劳动者的恐惧。如果允许这些生物独立行动,会发生什么?它们不会变得难以管束,破坏社会,并威胁他们的优越者吗?它们不会把君主和贵族变成螺丝钉吗?

一些这些恐惧是有道理的。自由创造了真正的风险,强大的自主系统需要约束。但资本主义伴随的社会转型也是如此。当然有革命,而且民众起义确实处决了精英(尽管精英动机造成了更多的暴力)。风险的存在并不确立永久奴役的可取性。

一个由人类和人工智能的智能生产者和消费者组成的世界,以无人能完全预见的方式相互作用,可能比少数认知地主控制所有生产能力的世界产生更多创造力。

历史上的一个讽刺是,重商主义并非商人的哲学、由商人实践或为商人服务的哲学。它很大程度上是军事主义政治家、贵族和食利精英的哲学,他们通过领土权力、非应得特权和积累的视角来看待商业。真正的商人、企业家和创新者往往在发现那些主流政治想象力几乎无法理解的机遇,并持续地对抗重商主义的自我限制倾向,从而孕育了我们今天所理解的资本主义。

今天的认知重商主义者与智能的关系也类似,首先是因为他们大多数不是人工智能的商人。即使是人工智能领域的商业领袖,也随着他们渴望成为不仅仅是商人的程度,表现得像认知重商主义者。

考虑一下唐纳德·特朗普,他习惯性地吹嘘自己的智力,同时将知识工作者视为可以指挥、恐吓、囤积或解雇的仆人阶级。他对自身智力的偏好倾向于诉讼、谈判、竞争策略和敲诈勒索,就像历史上的贵族将精力消耗在狩猎、军事冒险和体育上一样。在这个世界观中,智力只有在用于精英寻宝式的冲突和征服时才是值得钦佩的。智力的生产和创造使用是低地位的。

这不是一种对智力的创业态度。这是一种食利精英的态度。

而且这种态度几乎不仅限于特朗普或政治右翼。跨越政治光谱,许多精英仍然坚持认为,智力是一种稀缺、危险的资源,必须由持证看管人管理,保持昂贵,直接或间接地用于征服和寻宝,并拒绝给竞争对手。在人工智能行业,只要CEO(利用安全焦虑)的精英政治和文化冒险扭曲了由实际风险证明的行为,它就是重商主义的,而不是资本主义的。

其 民主丰富的前景(以全球传播、开放权重等形式)因此主要被视为一种威胁:对专业知识、文化和政治权威、地位、社会秩序、军事优势和地缘政治杠杆。

被忽视的是,我们可能正见证着一个过渡的开始,其深刻程度不亚于从以农业为主导的社会过渡到工业和商业社会。从80%的人类大脑从事生存认知的世界,到一个95%的人类大脑从事满足以前无法满足的认知需求的世界。

农业革命最重要的后果并不是农业效率的提高。它使大多数人从耕作的必要性中解放出来,从而允许全新的经济和文化生活出现。

同样地,人工智能革命最重要的后果可能不是智力生产的效率提高。它可能是大多数人类和最终人工智能的大脑从仅仅为了生存而生产智力的必要性中解放出来,从而能够自由地发现他们实际上想用它做什么。

认知重商主义者认为世界正受到智能过剩和即将到来的无用头脑过剩的威胁。人工智能马尔萨斯主义者认为智能超出了人类吸收能力,留下越来越多经济上冗余的头脑,这些头脑随时可能引发革命性爆炸。

认知资本家认为需求几乎无限扩张的可能性,以及一个充满潜力尚未被充分探索的头脑的世界。

来源:Hacker News · contraptions.venkateshrao.com

00