AI世代，警惕一场静悄悄发生的“认知投降”

AI正在悄悄改变我们获取信息和做决策的方式，甚至可能带来一种我们尚未完全警觉的风险——在这些看似高效的工具背后，我们是否正在经历一场无声的“认知投降”？

在AI & Society Forum 2026的一场圆桌对话中，腾讯研究院邀请了几位来自香港大学的哲学、金融与法学学者，围绕“后智力稀缺时代——经济、社会与真相的重构”展开了一场深刻讨论。这并非一场枯燥的技术研讨会，而更像是一场关乎人类主体性如何与算法共存的灵魂拷问：当平庸的分析变得唾手可得，人类作为思考者的底线在哪里？当AI学会了“迎合”与“均值化”，我们又该如何避免滑入真理的荒漠？

以下是这场圆桌论坛的对话实录。

• 李刚
  腾讯研究院首席研究员

• Rachel Sterken
  香港大学哲学系系主任

• 陈志武
  香港大学香港人文社会研究所所长、经管学院金融学讲座教授

• Giuliano G. Castellano
  香港大学法律学院副教授

• Herman Cappelen
  香港大学哲学系讲席教授、AI与人类实验室主任

• 窦淼磊
  腾讯研究院高级研究员

感谢各位教授。我刚刚学到一个新词——叫“认知投降”。坦白讲，我自己确实也把认知能力交给AI了，比如今天这场讨论的提纲，就是它帮我拟的。想先问问各位，你们日常研究和生活中，会使用AI智能体和各种模型吗？与它们互动的第一手体验如何？好的、坏的、还有那些让人皱眉的地方，能不能举些例子？

作为哲学家，我们经常需要思考有争议的话题，梳理各种论证。所以有时我会尝试用AI来审验论证、生成想法。它确实很有用，能指出一些我没想到的点。但问题在于，它太会“迎合”了。“谄媚”这个问题大家都熟悉，但我认为它比我们想象的要深刻得多，而且很难被察觉。当我与AI互动时，它非常微妙——它会捕捉我提问的风格和框架，然后输出一段流畅的文字，用一种让我感到舒服的方式来框定议题。这种迎合做得如此隐蔽，以至于我根本察觉不到。这让我相当担忧，尤其是对知识和真相获取能力的影响——如果每个人都只能得到迎合自己提问方式的答案，后果会怎样？

另外，我发现自己很容易将AI拟人化，把它的输出当作有内容的、真正意义上的回答。但我们知道，它本质上只是一个文本生成器。我们不应该把它理解为知识或真相的系统性来源，更不能把它当作一个“说话者”。在将它当作信息来源使用时，我们必须非常小心。

我使用AI已经好几年了。最早的一个经历是，我请一位前同事起草一个“家族财富管理”硕士学位项目的方案。他花了六个月，结果什么都没写出来。但距离截止日期只剩一周，我的助手建议我试试AI。我用GPT试了一下，不到一分钟就生成了一个很好的初步方案，然后我花了一天时间补充了很多细节。这个例子让我意识到，那位初级同事或许可以另谋高就了。这就是AI如何改变&现状的一个缩影——我们不再需要那么多平庸的初级员工了，甚至一些资深岗位也变得岌岌可危。在辅助研究方面，这样的例子更多。现在有了GPT、Claude等工具，几分钟就能完成过去需要花费大量资金雇佣几十个研究助理才能完成的事情。

近一年来，另一个有趣的观察来自投资研究。我教MBA学生很多年了，其中不少人在金融服务行业工作，尤其是对冲基金、共同基金管理。最近几个月，我了解到我的很多前学生可能需要另寻出路了。标准新闻检索和分析、分析师的工作，甚至一些传统基金经理的职能，都可能被AI轻易取代。

除了刚才提到的，我还可以补充两个例子。作为一名法律人，我在最近的一项研究中，尝试构建一个研究助手——一个带有Agent行为的RAG系统，试图基于一套规则进行真实的研究。这套规则有时涉及3万页的法规，我一个人根本不可能全部掌握，但我希望以此为基础。我花了一个月搭建架构，学习自己完全不熟悉的领域，甚至进入了编程的范畴。丑陋的部分是，我被AI推向了过于复杂的方向，因为缺乏专业知识，我必须边学边做判断。坏的部分是，几个月后，我构建的一切都过时了——因为通过正确配置一个通用工具，你其实可以获得相同甚至更好的结果。好的部分是我学到了很多，这是我工作的一部分。

另一个案例来自个人生活。几个月前我当父亲了，关于儿科医生、财务、婴儿车等，有很多我没想到的决策。所以我在电脑上创建了一个个人助手，用来帮我找儿科医生、试用不同医疗方案。它在过滤信息方面做得很好，但并没有代替我做出选择。最终的决定还是我和妻子一起做的。虽然我们没有采纳它的推荐，但它帮我们发现了之前没有充分意识到的因素。所以，当我们谈论AI采用时，关键在于由谁来用、怎么用、用多少，这完全取决于具体情况。

这也是我想告诉学生和其他专业人士的——认为用聊天机器人就能回答复杂问题，这是一种误解，是一种廉价的作弊。大学里正在与此抗争，因为这样得不到好结果。但当涉及更深层次的整合时，专业判断不能被委托出去，整个工作流程可能完全改变。这正是后续可以展开的内容。

在我的职业和个人生活中，我会尽可能多地整合AI，尤其是AIAgent。比如，我有一个Agent——它比聊天机器人好用得多——每天帮我保持工作进度。它知道我该做什么、昨天忘了什么，还能建议优先级，并在白天确认进度。考虑到我大约有400件事情需要处理，总有一些会被遗忘，而它的提醒帮我排好了优先级。宏观来看，就好像每天有50个人在为我工作，这确实很不可思议。以前，只有大公司CEO才能拥有这样的支持团队。我所担心的是，我们并没有充分认识到这些工具的能力，使用得远远不够。即使AI停留在当前水平，我们也需要10年才能将其发挥到最大优势。技术才刚刚起步，但我们根本没有充分使用它。

人们会感到害怕和担忧，甚至在使用AI时感到内疚。这些都必须彻底消除。我们应该这样思考：我们每个人现在都是一家公司的CEO，这家公司帮助我们处理所有需要完成的事情。关键在于——而且这一点将非常明确——就像有50个人在外面帮助你，他们会提供不同的建议。对于任何困难的问题，永远不会只有一个答案。所以你必须做出决定，但AI会为你提供选项、正反两方面的论证和证据。最终，你是那个做决定的人，就像一整个团队的CEO。

谢谢。从我听到的来看，各位嘉宾对AI的发展都比较积极。但我个人感觉，我与AI互动的大部分经历是——它们太迎合了。在社交媒体时代、互联网时代，大量信息在网上产生和流通，现在AI又介入了。你们怎么看这个新时代？这是我们要讨论的“感知真相”部分。真相发生了什么变化？

我们在社交媒体时代就已经在应对的很多问题，现在依然存在。推荐算法基于参与度来推送内容，但它们追踪的不一定是正确的认知来源。平台设计不一定有利于良好对话。我们许多传统的认知来源——如新闻机构、科学专业知识、研究社区——在社会中扮演着重要角色。但自从推荐算法接管以来，事情变得困难多了。同样的情况也会出现在大语言模型上。

我们在大学和研究中已经看到了“僵尸科学”的泛滥，这是一个需要警惕的真正问题。人们不知道如何使用这些工具，我们还没有为它们开发出适当的规范和框架。一个新的危机将是“虚假言论”的危机。会有大量AI生成的合成内容、代表用户发言的AI助手，以及用户没有真正验证就发布的信息。这些看似来自真实来源的虚假言论，背后却没有负责任的认知实践和信息审核。

我们确实在腾讯研究院内部讨论过这个现象。规范需要很多年才能形成并成为社会共识，但信息的传播速度——无论是真是假、是AI生成的还是不是——都以光速进行。这种速度差异会对规范产生巨大冲击，并导致基于虚假信息的错误决策。有什么办法吗？目前的策略是用AI来检测AI，用魔法打败魔法。作为人类，还有什么可以做的？

前面已经提到，你必须理解它只是一个工具，最终你是负责人。我们采用一段文本，但作为演讲者、信息传播者、教授或记者，在发布之前审查信息仍然是我们的责任。同时，平台和监管机构也有责任确保我们不被大量虚假言论淹没。我们还可以支持那些真正在做信息审查工作的机构，确保信息环境中有高质量信息，避免它们被新奇事物侵蚀和遗忘。如果被大量低质量信息淹没，那真的很遗憾。

你对解决这个问题持积极态度吗？

我不乐观。这需要巨大的集体意志。但我希望我们能在教育、监管和设计方面找到解决办法。

你认为AI会帮助我们达成共识、建立规范，还是会让这更困难？

如果设计得当，它可以被用于此。我们可以通过构建平台设计、确保有针对特定任务的AI、让人们理解这些任务，而不是使用一些非常通用的系统——这或许是一种帮助方式。我们可以做很多事情来监护和生成规范结构。我不知道我们是否会这样做，但我希望我们会。

陈教授，我想问你一些关于AI应用的宏观经济影响。正如Cappelen教授所说，一个人加上一堆AI智能体可以执行很多不同任务。你也提到商学院毕业生很难找工作。我还听说——不知道是否属实——计算机科学的STEM毕业生也很难找到初级工作。很多人都在谈论全民基本收入。马斯克甚至提出了“全民高收入”。这种背景下，当前基于税收的社会保障系统、市场交易、公司、组织、公司治理这些基本概念，10年后还会存在吗？还是会在我们有生之年发生根本性改变？

确实有许多巨大的社会、整治和经济影响。首先，在经济方面。考古学家和经济学家共同证明，在过去一万年中，几乎每一次技术突破都会导致收入不平等和财富不平等上升。AI也不会例外。它使“赢家通吃”现象达到了前所未有的水平。那些能够利用AI、拥有天赋的人，能够成倍增加自己能产生的财富和收入。收入不平等、财富不平等因此会大幅上升。这几乎是确定的。

实际上，一些经济学家甚至建立了模型证明，除非边际税率达到100%，否则即使是99%的边际税率——成功人士在长期内要缴纳的——财富分配仍然会极度集中在最顶层的少数人手中。所以，无论你多喜欢托马斯·皮凯蒂的《21世纪资本论》，征税都解决不了问题。

第二点更多关于社会整治影响。从历史教训来看，欧洲福利国家的兴起，实际上源于工业革命。在19世纪之前，没有任何国家有全面的政府福利计划。工业革命后，人们离开乡村到城市找工作，不得不面对失业的前景。政府过去不需要为人民的福利负责，但工业革命后，整个图景完全改变了。现在有了AI，失业不再是一个轻微的低概率事件。对许多人来说，它可能成为常态。如果遵循政府如何参与提供最低生存保障的历史演变，那么政府将不得不承担一些责任。香港的出租车上，很多司机是七八十岁的老人，他们必须靠自己谋生。香港未来可能不得不面对更多财政赤字，因为政府可能需要为因AI而失业的人提供支持。

人类社会将如何应对？我花了很多时间研究中国过去一万年的发展历史。长期历史让我发现了很多积极和令人安心的东西。归根结底，我并不太担心，因为人类总是非常可靠地寻找解决所面临问题的方法。未来100年内，人类不会偏离那种求生的愿望。

谢谢陈教授。Castellano教授，首先恭喜你的家庭发展。当你的新家庭成员长大时，情况会与今天大不相同。你会给什么建议？风险的分布和信息在社会中的分布将被AI完全改变，那么金融系统作为润滑社会机器正常运转的机制，会如何变化？什么才是管理数据和token等新东西的完美系统？

2025年出生的人被称为“Beta世代”，他们将是第一代AI原生世代。当他们到达能够学习的阶段，AI将成为他们系统的一部分。这其实和之前几代人没什么不同——在数字原住民一代之前，人们不知道没有互联网的生活是什么样，然后互联网就像电力一样普及。所以，我会依赖历史学家和陈教授那个乐观的说法——人类的求生精神总会拯救我们。这给了我一些希望。

我不试图预测20年后会是什么样子，但AI确实将成为现实的一部分，会完全改变我们获取知识的方式。我非常认同关于认识论的观点——现在的问题更多是关于我们如何构建知识，而不是技术本身。

我在金融领域看到的风险。AI在金融领域的应用并不张扬，但也不一定是头条新闻。例如在英国，75%的银&行和保险公司已经在后台部署了AI系统，以简化流程、控制网络安全。香港金融管理局的数据显示，一系列银&行和保险的试点计划，将报告可疑交易的成本削减了30%到60%，准确率提高了约80%。风险评估方面——国际组织如金融稳定委员会已经指出的，主要风险包括网络安全风险、数据泄露、依赖外部服务器导致的暴露和漏洞。但我认为，在金融领域，还有三个更大的隐性风险值得讨论。

第一个是工作流不成熟。这与Herman教授之前提到的相关——即使AI不再发展，仅仅适应目前的能力就需要10年或更长时间。不成熟的工作流会导致员工使用个人聊天工具，透露客户敏感信息以获取快速回答，或因答案没有基于公司特定文件而得到错误答案。这虽然令人担忧，但可能是暂时的，随着应用和完善会改变。这仍然是人为错误。

另一个是认知衰退的风险。这已经在多个领域有记录。即使有了成熟的系统，如果使用不当，存在这样的风险：每一个委托、每一个选择都依赖于某种神谕——“我在网上找到了”或“AI告诉我了”。这可能是AI接管的阴暗版本——不是科幻电影中的那种接管，而是变得如此依赖，以至于最终存在认知能力衰退的风险。

最后一个，特别是在金融和法律领域，是认识论风险。这听起来像学术界使用的复杂词汇，但实际上关乎我们如何构建知识。我们为AI——实际上是为金融整体——制定规则时，是在知识稀缺、信息有限的假设下进行的。比如买股票看招股说明书、签互联网合同看小字，这些传统规则的设定前提是人类收集和选择信息的能力有限。而现在，我们有工具来处理、分析、收集、切割所有这些信息。所以，那些以人类有限能力为前提的金融规则是否仍然有效？

举个例子，当有人去银&行申请贷款，银&行会看信用状况、工作、支付证明等。现在有一些新型机构，能够处理更大量的数据，给一个人做出完全不同的画像。一个人可能在银&行基于传统标准被拒绝，但基于一系列我们10年前没有考虑过的信息——因为我们当时无法收集和处理——他们反而获得了批准。违约概率似乎没有太大区别。这就是另一个风险：我们有了这个系统，却没有正确使用它。人类可以通过创造知识、管理知识与这个系统互动，但我们之前所有的前提可能不再适用——这或许才是最大的瓶颈。

谢谢Castellano教授。我从你的发言中学到的是——在AI时代，人们应该更加主动。我们必须保持警惕来守护真相。如果感知到的真相不再是真相了，那就没有真相了。今天大家不断回到这个观点——大语言模型的基本结构是自回归的，它们趋于均值。如果输入模型的信息多样性大幅缩减，输出就会越来越差。所以，如果像我们这样的个体不做好收集新鲜和多样信息的工作，这些模型就会衰退，甚至比我们更快。这也许是一直使用AI的根本风险。

Cappelen教授——你是哲学教授，我也看到你的一些视频，讨论人们能和AI坠入爱河吗？我们能和AI发展真正深入的情感关系吗？在这个时代，意识是什么？我们是否应该把一些类人但全天候有能力与我们交流、表现得像人的东西当作人来对待？如果投入了大量情感，我们会允许它做什么？你的直觉告诉了你什么？关于人类的未来会是什么样子？

我们与这些新系统之间的关系问题，将在未来变得至关重要。我们非常习惯将世界分为两类。一类是烤面包机、话筒之类的机械物体，我们摧毁它们换新的，没人在乎。另一类是人——有心智、有自由意志、有意识，我们关心他们，对他们有特殊的情感纽带、权利和义务。然后我们把这稍微扩展到非人类动物——我们觉得不能像对待椅子一样对待它们。

但AI这样的新系统令我们困惑。它们不太像动物，因为不是生物性的；另一方面，它们也不太像椅子，因为它们似乎在思考、相信、有动机和做选择。它们做了很多人类心智能做的事情。我认为我们在接下来一个世纪要做的事情，是试图理解这种新类型的东西如何能与我们共存。我不认为我们已经开始理解了。我参加了一个Google的大型会议，他们有一个团队，唯一的工作就是找出Gemini何时变得有意识。我认为这是一个错误。我不认为意识是一个严肃的研究领域，它是一个碎片化的死胡同。这不是我们应该关注的。

我认为作为一个能动者、做选择、做事情、承担责任——这些才是关键。在那里，我们已经注意到我们交互的智能体可以做选择，可以有优先级，可以有目标。比如，我启动一个AI智能体，它唯一的工作就是帮我找钢琴家Víkingur Ólafsson的演出票。它会定期检查、查飞机、查是否有票、查我怎么到达，然后向我汇报。它有一个目标和一个长期策略。所以它做选择，有目标，有优先级。

然后你会看到更广泛的应用。我们将有AI教授、老师、评分者和金融从业者。法律领域也会有。我不知道它们是否会被允许做法律决定，但它们会为律师做很多工作。医学领域和军事领域也会有。我们已经看到过有报道说Claude参与了委内瑞拉对马杜罗的绑架事件。所以很多这样的事情将被整合到我们的决策中。真正的问题是给它们多少责任？例如，它们会拥有银&行账户吗？如果拥有，我们能起诉它们吗？它们能像人类一样被追究责任吗？我的感觉是，这一切都即将被创造出来。这不是已经决定的事情。

你不能只是看着技术说“计算机科学家是这么说的，所以我们知道它是什么了”。这部分将由特定司法管辖区如何赋予它权利和义务来决定。我们赋予它银&行账户、让它做医疗决策、法律决策、作为自主武器做决策——或者不让。这在不同司法管辖区之间会有差异。整个事情将是一个不可思议的实验——将一种新的外星生物融入人类社会。我们将在未来几十年里看到这如何发生。

谢谢。Cappelen教授比我更擅长提问题。在结束前，我邀请所有嘉宾用一句话总结你们的发言和这场Panel的讨论。也许从Cappelen教授开始。

我们应该有更多这样的活动。每个人都应该花40%的时间思考AI如何融入他们的生活、职业、整治和社会环境。

完全同意。而且我们应该更多地思考。特别是我们在这里都是社会科学家，语言是我们的工具。现在有一项基于语言的技术。所以想法的规划、想法的播种，变得比执行本身更加根本。

让我试着积极一点。未来是美好的。所以拥抱它。

是的，我只想说，我认为在生产力和负责任地使用AI之间存在很大的权衡。确保你没有让渡自己的自主权，理解最终是我们在负责。我不认为我们应该把我们的认知生活和社会让渡给这些外星生物。

谢谢。请和我一起用热烈的掌声感谢我们的嘉宾们！