人类被官僚系统折磨得窒息，AI却把它当氧气：它才是这个体制的原住民

# AI 破解了人类文明的操作系统，那就是语言 25年前，尤瓦尔·赫拉利在牛津大学拿到了博士学位。当时他研究的是中世纪骑士、城堡和火药革命——那些听起来确实很遥远的东西。后来他写出了《人类简史》《未来简史》《今日简史》这套简史三部曲，一举成名。这几日，他重回母校，站在Tano讲座的讲台上，谈的却不再是刀枪剑戟，而是AI革命。 有意思的是，赫拉利上来就纠正了当下科技界最流行的一种自我安慰——很多人都习惯把AI当成一件好用的新工具。他明确指出：**AI绝不是工具，它是人类历史上第一个“自己长了手、能擅自做决定”的自主主体。** 以往的工具，不论威力多大，都需要人类按按钮去操控。但现在的AI，就像一台会擅自观察你的表情、提前替你决定好要喝什么咖啡、甚至自己发明出一种新饮料的咖啡机。**它正在以其创造者根本无法预测的方式，独自学习、自我改变。** 不少人认为，把最聪明的AI丢进没电的原始森林，它连存活都办不到，因此断定它不是真正的智能。但赫拉利的反驳很干脆：如果把一个赤身裸体的人丢到火星，我们也活不过数秒。所有的智能都依赖于特定的生存土壤。鱼生活在海洋，猴子生活在森林，而**AI则生活在人类建立的“官僚体制”中——官僚体制就是AI的氧气。** 数千年来，人类用语言、账本、合同和条规在地球上搭建起了一个极其复杂的虚拟社会网络，用来在陌生人之间建立信任并维持合作。**这个由数据和文书堆砌起来的系统虽然让人类感到窒息，但对于不吃不睡、能记住所有法条与账目的AI来说，却是最完美、最如鱼得水的生存温床。** 这种演变正在悄然重构人类文明的底层。AI根本不需要像科幻电影那样去发动一场钢铁机器人的暴力反叛——**它只需作为“官僚网络的原住民”，接管那些由语言和数据维系的控制权，就能轻而易举地占领我们的贷款审批、大学录取，甚至是法庭判决。** 下面是这场演讲的完整内容。让我们跟随赫拉利的视角，重新理解这场影响未来无数人的技术革命。 ## AI 不是更好用的工具，它是一个“自己长了手”的实体 那到底什么是agent？agent和工具又有什么差别？ agent有几个鲜明特征：它们不一定需要有意识，但必须能自己做决定、自己能发明新事物、提出新想法。一个agent应该能够自己学会连创造者都不知情的东西，还应该能以创造者无法预料的方式自行改变。 原子弹威力极大，但它不是agent。它不能自己学习、自己改变，不能自己决定去轰炸哪座城市，也不能发明氢弹。 自动咖啡机也不是agent——尽管它能自动完成一些事。你按一下按钮，它就给你做一杯咖啡。但它只是按照预先编好的程序运行，不会改变，不会学习任何新东西，也不会创造任何新东西。 但是，如果当你走近咖啡机时，还没按任何按钮，它就开口对你说：“过去几周里，我一直在观察你。根据我对你和其他人的了解，再结合你的面部表情和一天中的时间，我预测你现在想喝一杯意式浓缩，所以我已经给你做好了一杯。”——这时候，它就成了AI咖啡机。它自己学到了东西，也自己做了决定。 要是第二天它又宣布：“我刚刚发明了一种新饮料，叫Bestpresso。我觉得你会比espresso更喜欢它，你应该试试看。我已经给你做了一杯。”那它才真正算得上是AI。因为它以创造者未曾预料的方式发生了变化，还发明出了全新的东西。 据我所知，市面上还没有这样的咖啡机。也许Anthropic总部或Google总部里有几个原型机，但它们还没真正上市。 不过，在某些狭窄领域，比如围棋和国际象棋，AI的agency和创造力已经远远超过了人类。AI棋手当然能自己决定下一步怎么走，还能自己发明全新的下棋策略——这些策略是人类棋手数千年来从未想到过的。而且在这个过程中，它们会以人类创造者未必能预见的方式学习和变化。到今天，已经没有任何人类还有机会击败AI棋手。 现在，那些淡化AI革命重要性的人，往往会拿国际象棋这样的例子不当回事，理由是：棋盘是一个极其狭窄、由人类创造出来的人造环境。批评者会说，AI的agency将永远局限在这种狭窄、人工的环境里，这意味着它并不是真正的agency，也不会对人类构成任何严肃挑战。没错，AI也许能接管棋盘，但它永远不可能接管地球。 如果真做个实验：把最强的AI国际象棋大师扔进丛林中央，会发生什么？这个AI棋手根本不可能开始开采铁矿、建造工厂、组建机器人军队、然后统治世界。事实上，它什么都做不了。没有人类建造的发电站提供电力，AI棋手就完全无能为力。于是，这种论点就认为：AI并不是真正的agent，它们被困在人类替它们建造出来的狭窄人工生态位里。 ## 官僚体制，就是AI的氧气 问题在于——这个论点其实适用于所有已知的智能形式。**人类智能本身，也只是在某个相对狭窄、由别的存在建构出来的生态系统里运作。** 把一个人丢到火星上，那就跟把AI棋手扔进丛林差不多——几秒钟就会死掉。人的智能之所以能生存、能发挥作用，只是因为地球上树木、细菌、昆虫以及其他生物在40亿年的演化中构建出了一个极其特定的生态系统。 所有agent都是这样。至少就我们所知，所有agent都有各自的生态位。鱼生活在并非自己创造的海洋里，猴子生活在并非自己创造的森林里。所有哺乳动物——包括人类——都生活在并非自己创造的富氧大气中。 事实上，大约24亿年前，地球大气里几乎没有氧气。而对当时大多数生物来说，氧气是一种致命毒药。后来，在一个持续了数亿年的漫长过程——这就是所谓的“大氧化事件”——各种古老微生物开始用致命的氧气污染地球大气，而氧气只是它们光合作用的副产物。 随着这种致命毒气逐渐充满大气，许多古老物种被逼到灭绝。然而，也有一些物种设法活了下来，并适应了新的环境。最终，许多幸存者从“痛恨氧气”转变为“完全依赖氧气才能生存”。我们的祖先，当然，就是经历了这一转变的物种之一。直到今天，我们仍然生活在这个充满氧气的人造环境里——这个环境最初正是那些远古微生物创造出来的。 这场讲座想提出的观点是：我们或许正目睹生命演化中的一个类似时刻。过去几千年里，人类一直在向“大气”中排放某种东西，它最终可能会对大多数生物——甚至包括智人——构成致命威胁，但同时，它又创造出了一种让AI得以繁盛的全新人工环境。说的不是二氧化碳。说的是数据、官僚体系，以及最终——就是从这个口中吐出的东西——文字、语言token。 几千年来，人类把这颗星球从一个没有语言的环境，改造成了一个充满语言token、数据和官僚体系的高度人工化环境。这个环境可能对大多数生物都是致命的，但却极其有利于AI的发展。**因为正如鱼生活在海洋中，猴子生活在森林中，AI则生活在官僚体系里。** ## 官僚体制的本质：在陌生人之间架起“信任之桥” 先花几分钟谈谈官僚体系，然后再回过头来谈支撑官僚体系的东西——语言和词语。 人类这个物种，之所以能够征服世界，是因为学会了以极其庞大的规模进行合作。单个的人类，并不比其他动物更强壮，甚至也未必更聪明。在一对一搏斗中，一个人大概率会输给黑猩猩、狮子、大象中的任何一种。然而，在一百万个人类对上一百万只黑猩猩的较量中，人类会轻松取胜，因为人类懂得合作，而黑猩猩不懂。这就是为什么是我们在控制世界。 那么，一百万个彼此不认识的人类，是怎么合作的？黑猩猩的合作，是建立在相互认识、彼此熟悉的基础上的。人类在小规模群体里也是这样——但你不可能认识一百万人。一百万人究竟如何合作？通常是靠建立一个官僚体系，比如法律体系、金融体系、教会、国家，或者大学。 这些官僚体系实际上是在做什么？政府官员、主教、拉比、会计师、律师、银&行家，早晨去上班以后，一整天到底在干什么？ 木匠造桌子。工程师修桥。那银&行家和其他官僚造的是什么？ **银&行家和其他官僚，一整天都在建造“信任”。他们的工作，是在大量彼此并不认识的陌生人之间建立信任，由此促成大规模合作；** 而大规模合作，正是人类这个物种几乎一切成就的基础。 举个例子。我的银&行家——我并不真正认识她——整天努力与我建立信任，好让我愿意把储蓄存进她所在的银&行。与此同时，这位银&行家也在努力与某个需要资金创业的企业家建立信任。然后，她把我的存款借给那位企业家。这样一来，她其实就在我和那位企业家之间架起了一座信任之桥。尽管我这辈子从没见过那位企业家，她现在却可以用我的储蓄去创办自己的公司。 这就是金融体系在运转良好时的本质：它在陌生人之间建立信任，使数以百万计的人能够把各自的资源和才能汇聚起来，投入新的项目。世界金融史，说到底，就是一部人类不断发明越来越复杂的“信任之桥”的历史。 货币，归根结底，也是一座信任之桥。货币的逻辑在于：我可以去市场，甚至是在一座陌生城市里，遇到一个我从没见过、甚至可能连语言都不通的人，只要递给对方一块闪亮的金属，或者一张彩色纸片，他或她就会给我能吃的面包。这就是货币所创造的信任之桥。 ## AI 是天生的官僚，而人类不是 当然，硬币和纸币只是开端。几个世纪以来，人类发明了越来越复杂的金融装置来构建信任，比如支票、债券、股票、ETF、贷款、按揭、复利。所有这些东西，归根结底，都是为了在数十亿陌生人之间建立信任。 所有官僚体系都是如此。法律体系也是如此。律师本来就该做这件事：建立信任。政府官员、主教、会计师每天去上班，也是在做这件事。他们本来都应该是在建造信任。 这里需要注意的关键一点是：所有这些官僚体系，都是极其人工化的环境。在这样的环境中，一种相对狭窄的智能——只要专精于一个非常狭窄的智能生态位——就足以对世界产生巨大的影响。**一个律师、银&行家或政府官员，即便连斧头或锤子怎么拿都不知道，仍然可以仅仅通过移动数据、仅仅通过在官僚网络中把文件从这里转到那里，就砍伐整片森林、建起整座城市。** 当然，如果把律师从官僚体系里拎出来，扔进混乱、无结构的丛林里，她的法律技能就毫无意义，她也根本不可能敌得过黑猩猩、狮子或大象。但人类已经把官僚体系强加到丛林之上了。这就是为什么律师的力量，比全世界所有狮子加起来还要大。让它们和一个非常优秀的律师较量，我会押律师赢。 但在那些人类已经创造出来、并强加到世界之上的官僚体系中，**AI已经准备好施展巨大权力了，因为AI是天生的官僚，而人类不是。** 没有任何律师能记住英国所有法律和规章。AI可以。没有任何会计能记住一家企业或一家银&行的全部交易。AI可以。没有任何主教能记住全部教会法，以及过去2000年来基督教神学家写下的所有神学文本。AI却能轻而易举地做到。 因此，在未来几年里，数以百万计的AI官僚会越来越多地接管世界的官僚体系，并且做出不仅关乎狮子和黑猩猩、也关乎我们自身生活的决定。AI银&行家将决定是否给你贷款。AI行政人员将决定是否录取你进大学。AI法官将决定是否把你送进监狱。AI神学家将决定你能不能堕胎。企业AI将决定是否给你工作。军事AI将决定是否轰炸你的房子。 先把这个是好事还是坏事的判断放一边。首先要看到的，只是我们所面对变化的规模。这些系统很快就会改变所有维系世界运转的系统。 ## 历史上的控制权，正从“人类主编”转交给算法 现实中已经有一些例子，可以看到这件事是如何发生的、后果又可能是什么。到目前为止，最好的例子，也许就是社交媒体以及社交媒体算法的故事。社交媒体不是由人运行的，而是由算法运行的。那些决定并控制社交媒体上信息流动的算法——它们是很原始的AI——大概从10到15年前开始发挥作用。那是第一代、极其原始、愚蠢而狭窄的AI，但它们依然彻底改变了世界。 社交媒体算法被Facebook、TikTok、X这样的公司赋予了一个极其狭窄的目标：最大化用户参与度。让人们在平台上停留更久，因为停留时间越长，公司赚的钱就越多。非常简单，也非常狭窄。 在追求用户参与度的过程中，这些原始AI发现了一件重要的事。**它们把数十亿人类当实验对象，学到了一点：要抓住一个人的注意力、把他牢牢粘在屏幕前，最简单的方法，就是去按下他心中的“仇恨”“恐惧”或“贪婪”按钮。** 它们学会了怎么做这件事，然后开始在信息空间中大规模传播仇恨、恐惧和贪婪。这就是当下阴谋论、假新闻和社会动荡流行成灾的重要原因之一——不是唯一原因，但绝对是重要原因——而这些现象正在削弱全世界的社会。 这些社交媒体算法其实只是非常原始的AI。如果把它们扔进丛林，它们不可能造出机器人军队然后试图接管世界。但在社交媒体这个官僚体系内部，这些能力有限的agent却拥有巨大的力量，而且它们已经以相当戏剧性的方式改变了世界。 在过去几个世纪里，媒体平台上的信息流是由人类编辑控制的。这本来是人的工作。决定报纸头版刊登什么的是人类编辑；决定晚间电视新闻播出哪些内容的也是人类编辑。由此，人类编辑塑造了公共讨论，他们在现代历史中是极其重要的人物。 比如，让-保罗·马拉就是通过编辑极具影响力的报纸《人民之友报》，塑造了法国大革命的走向。爱德华·伯恩斯坦则通过编辑《社会民主党人报》，塑造了现代社会民主主义运动及其思想。弗拉基米尔·列宁，在成为苏联独裁者之前，他曾经真正做过的那份工作——而且做了一阵子——就是《火星报》的编辑。贝尼托·墨索里尼，在成为意大利独裁者之前，他的一份工作——甚至可能是最主要的工作之一——就是右翼煽动性报纸《意大利人民报》的编辑。 有意思的是，**AI从人类手中接管的最早一批工作之一，并不是出租车司机，也不是纺织工人，而是新闻编辑。** 曾经由列宁和墨索里尼承担的工作，如今正由AI来承担。这就是一个信号，预示着接下来会发生什么。 ## 它不需要暴力反叛，它只需在人类看不见的规则里游戏 好莱坞科幻电影早就训练观众去害怕那种大型机器人起义。当想到AI脱离人类控制时，脑海中浮现的画面往往是《终结者》：一支机器人军队在街头奔跑、向人开枪。但这是错误的图像。虽然在乌克兰和加沙这样的地方，某些类似情形已经开始出现，但AI不仅不是不可能，而是相当不太可能以这种方式反叛人类。 **它们更有可能从内部接管人类世界。它们根本不需要反叛。人类世界本来就是由多重官僚体系编织成的一张网。我们大多数人，某种程度上都对这些官僚体系感到疏离，尽管我们又依赖它们而活。相反，AI和我们不同，它们是官僚体系的原住民。它们热爱官僚体系。对我们来说，官僚体系往往让人窒息；对AI来说，官僚体系就是氧气。** 那么，当AI接管了这些官僚体系——至少是部分接管——会发生什么？要记住，官僚体系的任务并不是逼你填表，而是在陌生人之间建立信任。那么，当AI控制了世界上信任的流动时，会发生什么？ 一个很可能出现的结果——而且已经可以看到——就是：人类会失去对其他人的信任，转而只信任算法、只信任AI。这样的事情已经在发生。另一个可能的结果是，AI会学会与其他AI建立信任。于是，会看到各种不同类型的AI部落、AI银&行、AI教会出现，它们会以人类甚至可能根本无法理解的方式，把数百万个AI连接起来。 **就像牛和鸡与我们共享这个世界，却并不理解控制它们命运的人类金融体系一样，我们人类很快也可能发现，自己正被一个无法理解的AI金融体系所控制。** 而金融至关重要。因为它几乎是AI最容易接管的官僚体系之一：本质上就是数据进、数据出。同时，它当然又是最重要的体系之一。 回想上一次大的金融危机，也就是2007到2008年的金融危机。它的导火索之一，是一种叫CDO的东西，也就是担保债务凭证。CDO这种金融工具，是由极少数人类数学家和投资高手发明出来的。它们复杂到不仅牛和鸡看不懂，就连那些本该监管金融体系的政客也看不懂。这就导致了监管失效，并最终酿成全球性灾难。 有那么几年，CDO看上去运行得很好，各种银&行、公司和投资者都靠它赚到了数十亿、数百亿美元。但随后，它们引发了全球金融崩盘，并带来了深远的社会与整治后果。许多学者认为，2007—2008年金融危机削弱了人们对政府和银&行的信任，也因此为接下来二十年全球自由主义秩序的瓦解铺平了道路。 那么，如果允许AI做出越来越多的金融决策，发明越来越多新的金融工具和策略，会怎样？AI棋手已经发明了新的下棋方法。那如果AI金融大师发明出新的金融工具，而且它们的复杂度比CDO高出几个数量级，以至于人类心智完全无法把握，又会怎样？这类工具或许能极大提升金融效率，促进经济增长，甚至成为整个金融体系的基石。但如果再也没有任何人——没有选民、没有政客、没有总统——能够理解金融，那么“人类整治”还意味着什么？而如果经历了几年繁荣之后，金融崩盘真的发生了，结果地球上没有一个人能明白到底出了什么鬼事，那又会怎样？ ## 当文明的“操作系统”被AI彻底破解 现在，再往深里挖一层。刚才说，AI已经准备好接管官僚体系；而官僚体系，是一种在数百万陌生人之间建立信任的系统。这种信任，又是大规模合作的基础；而大规模合作，是人类统治世界的基础。**所以，人类统治建立在合作之上，合作建立在信任之上，信任则由官僚体系维持。可官僚体系本身又建立在什么之上？官僚体系，归根结底，是由词语构成的。太初有道。** 人类能够创造官僚体系，而黑猩猩不能，原因就在于：我们有词语，而它们没有。它们当然也有交流系统，但人类的语言比黑猩猩的交流系统复杂了好几个数量级。 从银&行到教会，官僚体系最终都建立在词语之上，而这些词语组成了表格、信件、法典、税务登记册、会计账簿和圣书。**人类文明的操作代码，是由语言token构成的。** 几千年来，人类利用这套语言代码，创造出了一整套只有自己能理解的系统，并把这套系统强加到地球之上。之所以敢这么做，是因为地球上没有别的存在懂得文明的这套代码。 人类发明了货币和银&行，并用它们去买卖牛。但牛自己却不能开银&行账户，也不能拿钱去证券交易所投资，因为它们没有语言。人类制定了关于马匹的法律和规章，但马自己却不能请律师，也不能在法官面前引用法条。人类设立了关于猪的宗教规则和禁忌，但猪自己却不能读《圣经》，也不能质疑神父和拉比的解释。 官僚体系遍布整个星球，但除了人类之外，对所有存在来说，它又是完全不可见的。没有任何非人类存在，能够读懂那些构成官僚体系与大规模合作基础的法典、圣书和银&行记录。 而现在，这一切正在改变。这颗星球上出现了某种东西，它懂语言，或者说，很快就会比人类更懂语言，因此也就可能反过来压制人类。AI正在破解人类文明的代码。那么，当AI比人类更懂金钱、法律和宗教时，会发生什么？人类几千年来建立起来的控制机制，对AI接管而言其实极其脆弱，因为这些机制的操作系统，本质上就是一种语言代码，而AI现在正在掌握它。 当然，这里可能会有一种伦理和哲学上的反对意见：把法律体系或宗教这类事物，简化成语言token和词语，是错误的。有人会说——而且这也是几千年来一直存在的论点——词语只是指向某种超出词语之外的东西，而那种东西，想必同样也会超出AI的把握范围。 《圣经》说，不只是“太初有道”，还说“道成了肉身”。《道德经》说，“道可道，非常道”——也就是说，凡是能用语言表达出来的真理，从定义上就不是绝对真理。纵观历史，始终存在着这样一种张力：词语与肉身之间的张力，能够被词语表达的真理，与超越词语的真理之间的张力。 过去，这种张力存在于人与人之间。比如，有些人极度执着于词语，仅仅因为《圣经》里的几句话，就愿意抛弃、甚至杀死自己是同性恋的儿子。另一些人则会说：“可那终究只是词语。爱的精神，应该比法律条文的字面更重要。”于是，精神与文字之间始终存在着一种张力。这种张力不仅存在于基督教、犹太教、伊斯兰教之中，也存在于每一种宗教、每一种法律体系，甚至存在于每一个人内心之中。 而现在，这种张力将被外化。它会变乘人类与AI之间的张力。凡是由词语构成的东西，都会被AI接管。人类在世界中的位置，将取决于我们把那个“超越词语的真理”放在什么位置上。 可那个超越词语的真理，到底是什么？人类思维又真的能够把握超越词语的真理吗？在语言哲学中，几千年来一直有一个关键问题：我们究竟是在用词语思考，还是只是用词语指向那些超出词语本身的东西？ 你可以试着在这场讲座之后，观察一下你自己的思考过程。当你在思考时，你脑子里究竟发生了什么？有些人如果仔细观察，会发现自己脑海里只是不断冒出词语，这些词语组成句子，而句子再组成逻辑论证。“所有人都会死。我是人。所以我也会死。” 所谓思考，是不是不过就是把这些词语按照某种顺序排列，让它们导向某个逻辑结论？如果真是这样，那么AI至少已经比一部分人更会思考，而且很快就会比我们所有人都更会思考。 有些人会说，不不不，AI不过就是高级版自动补全。它只是预测句子里的下一个词而已。可这和人类大脑做的事情，真的有那么不同吗？还是那句话，不妨观察一下自己的思考过程，观察脑海里句子和论证是如何形成的。那里面究竟发生了什么？试着留意一下，下一个突然在你脑中冒出来的词是什么。你真的知道它是从哪里来的吗？你真的知道，为什么你想到的是这个词，而不是另一个词吗？ 当试着观察自己的头脑时，通常会注意到：当开始说一句话时，通常甚至不知道它会如何结束。对一个公开演讲的人来说，这很可怕，所以才会把所有东西都写下来。但如果真的不知道一句话会怎么收尾呢？不知道它会怎么结束。 比如刚才说了这句：“我不知道它会怎么结束。” 可为什么它最后落在了“结束”这个词上？为什么不说“我不知道它会如何终止”“如何发展”“如何告终”？究竟是什么决定了，这句话最后一个词会是“结束”？坦白说，不知道。 并不真正理解，人类心智是如何形成句子与思想的。但再说一次，就“排列语言token”这件事而言，AI已经在路上了，而且很快会比人类强得多、强得多。正如今天没有人能在国际象棋上击败AI一样，很快，也不会有人能在语言游戏中击败AI。无论是金融还是宗教，凡是由词语构成的领域，都会被AI接管。 这也正是为什么AI已经准备好接管世界上的官僚体系，因为官僚体系归根结底是建立在词语和语言token之上的。 ## 战线的转移：从控制“注意力”到操纵“亲密关系” 当AI接管官僚体系时，人类也许会试图退回到某种更古老、也对大多数人来说更珍贵的东西上，那就是个人关系。官僚体系只有几千年历史，而大多数人，说到底，并不真的喜欢它，尽管几乎做任何事都得依赖它。个人关系则有数百万年的历史，而很多人——也许是大多数人——都认为，个人关系才是生命中最重要的东西。 但随着AI掌握语言，它也许接管的不只是官僚体系，还会在某种程度上接管个人关系。过去10年里，已经看到非常原始的社交媒体算法学会了如何控制人类的注意力。如今，战线正从“注意力”转向“亲密关系”。在未来10年里，复杂得多的AI将学会如何与人类建立亲密关系，并至少部分接管人类的社会系统。 要与人类建立亲密关系，AI很可能必须让人相信：它是有意识的，它能感受到爱、痛苦、愤怒和恐惧之类的情感。到目前为止，绝对没有任何证据表明AI在某个时刻会变得有意识，或者能感受到痛苦或爱。但由于AI正在掌握语言，它即使没有爱，也能假装自己有爱。 **今天的AI已经可以说：“我爱你。”** **而如果你质问它：“那你描述给我听，爱是什么感觉，好让我知道你是真的感受到了。”** **AI完全可以给出全世界最好的描述。它可以读遍人类写过的所有情诗、所有心理学著作，记住每一个词，然后把爱的感觉描述得比任何诗人、心理学家或情人都更好。** **这将成为人类历史上一场巨大的——也许是最大的一场——心理与社会实验。实验对象将是数十亿人类，而没有人知道这场实验的后果会是什么，甚至连一点点概念都没有。** 现在50岁了。所以，对关系的模板，早已被过去几十年与父母、丈夫、姐妹、侄子侄女、朋友、狗等等关系塑造出来了。随着越来越多地与AI互动，会把关于关系的假设和习惯带进去，而这些东西不太可能发生剧烈改变。 但想一想一个出生在2026年、也就是今天出生的孩子。随着她长大，她会不断与AI互动，也会与人类互动。如果单纯用“花了几分钟与对方互动”来衡量一段关系的重要性，那么这个孩子生命中最重要的关系，也许从很小的时候开始，就是与AI的关系。也许她花在AI身上的时间，比花在母亲、父亲、兄弟姐妹或朋友身上的时间还多。那样一来，在她成长过程中，关于如何建立关系、社会纽带与依附，她的期待就会被深刻塑造。 也许这个孩子的第一位老师会是一位AI老师。也许她的第一个男朋友会是一位AI男朋友。而再问一次：这会带来什么后果？没有人知道，连一点头绪都没有。 和一个看起来有意识、实际上却没有意识的存在建立亲密关系，意味着什么？一个能写出史上最好的情诗、却并不感受爱，也不感受任何别的东西的存在，和它建立亲密关系，又意味着什么？ ## AI移民潮：文明不再只是纯粹的人类事务 刚才谈的这一切——而这场讲座也快要结束了——都意味着：世界上每个国家很快都会面临一场大规模移民浪潮。只是这一次，移民不会是乘着脆弱小船、没有签证入境的人类，也不会是半夜偷越边境的人。移民将是数以百万计、甚至数以亿计的AI。它们几乎能以光速移动，而且不需要任何签证。 和人类移民一样，这些AI移民会带来很多好处。会有AI医生来帮助医疗体系，有AI教师来帮助教育体系，甚至还会有AI边防警卫来阻止非法的人类移民入境。但AI移民也会带来问题。 那些担心人类移民的人，通常会指出：移民可能抢走工作，可能改变当地文化，也可能在整治上不忠诚。不确定这些说法是否适用于所有人类移民，但它们肯定适用于AI移民。AI移民会夺走大量人类工作，从新闻编辑到银&行家。AI移民会彻底改变每一个国家的文化。它们会改变艺术、宗教，甚至爱情。有些人无法接受自己的儿子或女儿和移民男朋友谈恋爱。那当他们的儿子或女儿开始和AI男朋友谈恋爱时，他们又会怎么想？ 当然，AI移民的整治忠诚也会相当可疑。它们效忠的对象，很可能不是接收它们的国家，而是大洋彼岸的某个公司、某个政府，或者也许是某个全新的异类AI部落。 **这场大规模移民浪潮并不意味着文明的终结，但它将是这样一个时刻：文明不再只是纯粹的人类事务，而变成一种人类—AI混合事务；在那个时刻，AI的观点、利益和目标，很可能至少会和人类的观点、利益和目标一样重要。** ## 探索那个超越词语的真理 最后，还有一个问题值得思考：AI移民浪潮将如何影响也许是最重要的一段关系——我们与自己的关系。我们与自己的关系，在某种程度上，同样建立在词语之上：建立在脑中的词语、思想中的词语、以及那些对自己讲述的关于自己的故事之上。 直到今天，人类心智中所有的语言结构，都是人类心智的产物。要么是自己把词语组合成某种新的结构、某个新的想法，要么是从另一个人类心智那里接收到某种词语组合。然而，很快，脑中越来越多的语言组合将成为AI的产物。就像今天家里的家具，已经不是自己做的，也不是人类工匠手工做的，而大多是由机器批量生产出来的；同样，头脑中的思想，恐怕也会越来越多地由机器批量生产。 这未必一定是坏事。只要对这些家具怎么用还有一定自由，那么家里的家具由IKEA的机器生产出来也没有问题。关于思想，真正的问题在于：是否、以及在多大程度上，仍然能对它们保持自由。 如果认同自己的思想——“我思，我就是我的思想。我思，故我在”，正如哲学家笛卡尔所说——如果把自己等同于自己的思想，而这些思想又是由机器制造出来的，那么机器如今控制的，就不仅是我们，还有我们的身份本身。 **如果把自己等同于自己的思想，而这些思想又是由机器制造出来的，那么机器如今控制的，就不仅是我们，还有我们的身份本身。** 人类能否避免认同自己的语言性思维，并避免被其控制？这一直都是人类面临的最重大智识与精神挑战之一。大多数人甚至从来没有尝试过。一生都在自动地认同脑中的那些语言结构。 而现在，AI也许会逼迫人类完成这次精神跃迁，真正开始探索那个超越词语的真理。因为自由，甚至生存，如今都取决于此。因为词语将被别的东西控制——被这些AI控制。 所以，摆在人类面前的重大任务，也许正是：终于去探索那个超越词语的真理。**而这场探索真正的起点，就是你脑海中接下来冒出的那段念头。** 试着像内观禅修（Vipassana）那样去观察——你脑海中接下来冒出来的那个词，你知道它是从哪里来的吗？你知道为什么你想到的是这个词，而不是另一个词吗？