别让AI替我们经历世界：图灵奖得主萨顿关于智能本质的一次清醒思考

在最近的世界人工智能大会上，图灵奖得主、强化学习之父理查德·萨顿提出了一个引人深思的观点：这个观点从何而来？让我们深入梳理。

一、苦涩的教训还会重演吗

想知道为何萨顿这么说，得先回到2019年，这一年他写了一篇短文《苦涩的教训》。文章只有一页半，但在业内流传很广。

在文内，萨顿总结了一个规律：

• 过去七十年，AI研究人员总喜欢把人的知识、经验或是规则写进AI系统里。这个方法短期内虽然见效快，但随着计算能力的提升，这些方法最终都会遇到瓶颈，然后被那些更依赖算力、搜索和机器学习的方法取代。
• 国际象棋、计算机视觉、自然语言处理，都经历过这样的转折。
• 这些教训之所以苦涩，是因为淘汰下来的一般不是错误的方法，而是曾经非常有效、凝聚了人类心血的方法。

所以问题出现了：如今的AI大模型，会是《苦涩的教训》的成功实践，还是即将要被淘汰的方法？

萨顿给的答案是：

• 是
  ——因为大模型的发展就是《苦涩的教训》的体现，靠的是不断增长的算力和海量数据以及规模化的训练，而不是靠人类编写的规则。

• 不是
  ——因为他们的能力存在局限，他们建立在人类已经发现的知识上，学习了人类记录的文本、图片，却无法自主发现人类未知的东西。

萨顿认为现在的模型无法知道事物是好的还是坏的，是比较弱小而且是不可靠的。

二、AI需要从“数据时代”进入“经验时代”

萨顿认为未来AI的方向是让智能体进入真实世界，通过行动、观察、得到相应反馈，然后主动产生新知识。他把这个阶段称为“经验时代”。

他说过一句话：“我自己一生都在从经验中学习，我预测经验时代即将到来，欢迎大家来到这个时代。”

其实，人类的知识本来就来自和真实世界的互动，而不是来自别人写好的文本。孩子学习走路，是靠着一次次摔倒又爬起来摸索出来的经验，而不是靠着读《走路指南》。AI未来走的路或许也相似。

三、Oak架构：让AI像婴儿一样自己摸索

萨顿介绍了他最新提出的Oak架构，这个架构有两个抽象能力：

• 时间抽象（Options）
  ——让智能体把一系列连续的行动打包成一个可以重复使用的技能模块，实现宏观层面的规划。

• 状态抽象（Knowledge）
  ——让智能体从感知到的信息中提炼出高层的状态特征，然后学会控制和达成这些特征的技能。

大白话讲就是把发现问题的权利交给智能体，让它自己去拆解问题，寻找解决方案，而不需要人类一步一步指导。

萨顿认为世界模型不能做成低级别的物理模拟器，模型应该能实现高阶的预判能力，比如回答“如果我去XX公司入职了，会快乐吗”等等，而不是简单的模拟物理碰撞。运行方式上，Oak追求持续学习，像小孩子一样在环境中不断更新自己认知，实现自我进步。

四、三类AI，各归其位

基于这些思考，AI可以划分为三类：

• 第一类
  ，边界明确的专用系统。比如自动驾驶，只在有限场景里完成特定任务，不需要拥有完整的心智。

• 第二类
  ，基础模型。也就是今天的大模型，它们的定位应该是保存、组织、传播人类已经积累的全部知识，成为超级百科全书。

• 第三类
  ，拥有完整心智的智能体。能在漫长时间里持续学习，拥有属于自己的经验、专长，可以独立思考和创造。

萨顿感兴趣的正是第三类，而且他刻意把它和现在流行的智能体区分开。他认为要去创造一个完整的心智，而不是一个用于模式识别、或者做某件特定事情的工具。

WAIC召开的前一周，69岁的萨顿与阿尔伯塔大学博士研究员共同创立了一家新公司——Oak Lab。这家公司的目标很明确，就是要打造一个拥有万亿参数、能够在仅20瓦极低能耗下进行实时学习和规划的智能体。20瓦，正好是人脑的功耗水平。

五、别让AI替我们经历世界

演讲中，萨顿还提出了一个值得认真思考的问题：

大模型把人类百年积累的知识快速组合输出答案，确实方便。但是，真实的世界是由等待、犹豫、紧张等非符号化的多重体验构成的，基础模型可以帮助人类接近世界，但永远不能替人类经历世界。优秀的模型应该能明确区分知识、推测、未知，不能在知识边界之外随意给出内容。

《苦涩的教训》没有直接指明未来AI的方向是什么，只是提醒我们不要把当下最强的技术当成智能的最终形态。现在的大模型是人类知识的集成者，是百科全书，不是超级智能，也不该被当成超级智能来期待。真正的智能，还在后面——在真实世界的互动里，在一次次的试错中，在那些无法被写成文本的经验里。