通用智能的本质｜奇绩大模型笔记 #1

《奇绩大模型笔记》系列，是奇绩基于内部搭建的通用智能分析与研究体系，整理出来的一些关于前沿技术创新和应用实践的心得。作为第一篇，我们想先把对“通用智能”本质的理解摊开来聊聊——希望它能帮创业者们看清趋势，识别当下技术变革带来的机会，在模型开发和实际应用中，更准确地把握住能力的边界。 目录 1. 什么是通用智能？ 2. 通用智能带来了什么变革？ 3. 如何构建通用智能？ --- ## 什么是通用智能？ 通用智能的核心定义在于：一个智能体，在不对环境做任何预设假设的前提下，能够依靠推理解决问题。这听起来有点抽象，举个例子就清楚了。人是典型的具备通用智能的生物。人类可以在不预设生活会遇到什么突发状况的情况下，靠自己的智能进行广泛推理，解决层出不穷的问题。比如出门在外，谁也无法假定今天会不会地震、海啸，或者前面会不会有车祸。正是因为在这样高度不确定的环境里，人类依靠通用智能来进行判断和决策——即便这些意外真的发生了，也能根据情况推理，想办法达成目标。 所以，从本质上讲，通用智能可以被看作环境的映射，是环境的产物。什么样的环境，就会催生出什么样的通用智能，它没法凭空变出新东西。对人类来说，环境是自然界；对通用智能而言，它依托的环境是数据。这里面有反馈，也有压缩的过程，和自然界的进化在逻辑上很像，只不过变成了一套计算过程。 这里需要特别说明一下，我们说的“推理”，是reasoning，而不仅仅是简单的“推断”（inference）。推断是从已有证据里得出一个结论，更像是推理的结果或产物。而推理，强调的是那个思考的过程和逻辑步骤，是“怎么找到解决问题的方法”的那套动作。 ### 通用智能的前提：不对环境做任何假设 通用智能不应该依赖先验假设，它应该随着环境的变化而变化。很多关注技术细节的创业者或研究者，可能会注意到理解模型和生成模型之间的差异。但说实话，把“理解模型”单独拎出来当成一个独立概念，有时候反而会带来误导。 现在大家聊理解模型，总盯着它有没有辨别能力、能不能分类和分割。这其实是因为人类自己关心这些问题——但人类的先验知识，恰恰可能是最大的障碍，哪怕它也带来了机会。打个比方，如果在500年前构建一个大语言模型，它一定会说“地球是平的，太阳绕着地球转”；而500年后的人再回头看今天的模型，同样会觉得我们愚蠢。人脑只有15瓦的功耗，思考能力相当有限，只能处理非常局部的信息。 从这角度看，**人类能不能“理解”这些模型，其实一点都不重要——真正值得关注的，是模型的压缩能力。** 压缩得好不好，决定了它在下游任务上的表现。更关键的是，模型能否在没有先验假设的前提下，根据环境的变化自动调整和优化。想象一个巨大的符号空间，里面各种符号序列千奇百怪，人类能理解的符号，其实只是其中很小一块，通常只是局部最优。如果我们一味追求“人类能理解”的模型，那实际上是在放弃很多全局更优、更好的解决方案。 ### 通用智能的内核：推理 就像人的本质是不断感知、理解环境并进行推理，通用智能的本质也是推理。而推理的核心是：针对任何任务，都能找到一条完成它的路径。 推理水平的高低，直接决定了智能的程度，这通常体现在推理路径的长短上。同样是面对一个问题，聪明的人可能两步就能搞定，普通人则需要更多步骤。进一步说，**推理路径的效率是衡量推理质量的关键指标**，这里面包括时间和功耗两个维度。同样的问题，不仅要看解题的路径，还要看花了多少时间、耗了多少算力。今天的OpenAI，某种程度上有点“大人欺负小孩”的意思。回答同一个问题，GPT-4确实显得更聪明，但它花了大量时间、消耗了大量算力。真正公平的比较，应该像拳击比赛一样，按重量级分组，你不能让一个200磅的选手去跟一个60磅的选手打。 所以，**真正意义上的“聪明”或“智能”是在相同的时间和功耗约束下，能够找到一条更短、更好的推理路径。** ### 通用智能是数据的产物 那么，要找到更好的推理路径，关键在哪儿？答案是数据。既然通用智能依托的环境是数据，那它就是数据的产物。我们需要重点关注两类数据：**任务路径数据**和**思考路径数据**。 任务路径数据来自于对环境的观察和实验；思考路径数据则涉及逻辑、思考体系和思考框架。比如说，做一份蛋炒饭。“打鸡蛋、放油、放盐”这些具体的操作步骤和顺序，就是任务路径数据——这些需要真刀真枪地做实验，变不出戏法。但做蛋炒饭之前，你还需要搞清楚：今天几个人吃？做什么口味？这才是在规划整个任务，属于“为了完成这个任务，该怎么思考”的过程，也就是思考路径数据。 OpenAI的Strawberry（或者叫Q-star）项目，其中一件大事就是放大思考路径数据。**能获取的路径数据越多，搜索的范围越广，就越有可能找到更好的解决方案。** 现在大家常说的合成数据，其核心目的之一就是合成思考路径数据；而任务路径数据，则可以通过对真实世界的观察来采集。 --- ## 通用智能带来了什么变革？ 通用智能带来的这次变革，本质上是技术方法论的转变。与此同时，它也代表着一场根本性、全面性的科技革命——涵盖科学、技术、生产力和发展模式的全方位洗牌。 ### 能力的提升，靠的是规模化扩展，而不是工程化构建 从技术方法论的角度看，人类迄今为止建立的所有能力，都是通过“工程化构建”来实现的——从蒸汽机到飞机，无一例外。但通用智能完全不同，它的能力无法靠简单的工程化来构建，而必须通过“规模化扩展”来实现。 你看大自然，它并没有通过工程化构建来创造任何东西，而是遵循内在规律不断进化。宇宙、生命体、人类社会里那些大规模的复杂体系，都是通过“成长”长出来的，而不是被“建造”出来的。这意味着，在通用智能时代，我们开发的智能体已经不能靠写代码和堆模块来实现，而是要建立一套评估体系，去定义什么是想要的、什么是不想要的行为，然后通过持续的数据输入和优化，让它逐渐规模化的扩展。 ### 根本性的、全面的科技革命 从科技革命的角度来看，通用智能的崛起改变的不仅是我们对智能的理解和应用，它更是一场从基础科学到生产力的全面革命，正在把社会推向一个全新的发展阶段。 首先，**通用智能是一门全新的科学**。它研究的是通用智能的形成过程，包括原理、实现方法和应用领域。研究对象的范围不仅限于硅基，还包括碳基，甚至其他基体的智能体。目前，这门科学还处于早期阶段，有点像当年的“炼金术”——没有成熟的理论，只能通过不同元素的排列组合做实验。但一旦我们对通用智能有了深入的底层理解，就有机会重新构建数学、物理，乃至人类目前依赖的整个科学体系。 其次，**通用智能是一种全新的技术物种**。技术的本质，是人的行为和能力的延伸。它像达尔文的进化体系一样，会随着环境和需求的变化不断演化。任何新技术都不是凭空发明出来的，而是在旧技术的基础上找到新的组合——也就是技术的重新组合。大模型也一样，它并非从零到一，而是在前几代人工智能模型体系的基础上增长而来的。 与此同时，**通用智能也是一种全新的生产力**。人类的生产力是阶梯状的：最底层是科学，上面是技术，再往上才是生产和流通。而这次变革发生在最底层，它重塑的是人类生产力的整个堆栈。一旦具备了通用的推理能力，我们就能解决几乎所有满足人类需求所需解决的问题。 还有一点，**通用智能代表了技术发展模式的根本转变**。就像前面说的，它的能力构建不再依靠线性的工程化实现，而是通过数据驱动和规模化扩展，来完成动态的优化和进化。 最后，通用智能的最终形态，可以是一个浏览器，也可以是一个移动应用、一台智能手机、一个机器人、一辆汽车，甚至是一个房间。这些智能系统可以根据人类的需求，来定制它们的外形和执行环境。展望未来，通用智能模型会像今天的生命体一样，变得越来越多样化、复杂化，呈现出空前的繁荣景象。 --- ## 如何构建通用智能？ 在理解了通用智能的本质之后，我们可以进一步探讨：如何利用它来创造新的价值？这需要厘清三个关键点：**模型的范围（端到端）、模型与环境的交互形式（具身），以及模型的核心任务或目的（生存和减熵）。** 首先，要构建通用智能——尤其是构建任何一个产品——必须先明确范围。**如果不做范围内的端到端解决方案，这个智能就算不上真正的通用智能。** 只有想清楚这一点，才能真正理解通用智能的应用场景。过去，因为模型的容量不够大，端到端的解决方案难以实现。但现在，虽然模型还不完美，它的容量已经足够强大了。只要数据里存在熵结构，只要给模型足够的计算资源，它就能在处理过程中把这些结构内化进自己的激活函数维度，并在关键的前馈结构里表现出来。说得更直白点：数据中存在的任何有规律性的信息，模型都能把它“吃”进去。 其次，**具身可以看作是通用智能的交互形式**。某种程度上，通用智能是“感知-推理-行动”三位一体体系的具象化。数据作为感知的一部分，负责获取信息、处理信息、并与环境进行交互。通过数据计算来实现通用智能，也遵循一套特定的模式：数据导入后进行编码，映射到高维的向量空间里，然后再通过解码，生成具体的行动。 最后，也是最重要的，**通用智能的任务和目的，是生存和减熵（压缩）**。跟人一样，技术也需要生存，要进化、要发展。如果出现了一种比现有技术更高效的新技术，那旧技术就会被淘汰。所以，模型首先也得活下来——要在同样的环境、同样的范围里，比潜在的替代品做得更好。比如，更便宜、功耗更低、同样能做推理的模型，它的生存力就更强。你去看现在市场上活跃的模型，GPT-4o mini、Mistral、DeepSeek v2、Qwen，这些参数规模都不算大。当然，模型自身的压缩（减熵）能力也得足够好。 反观OpenAI最初带出来的那条路——要想推理足够好，就得做个大模型，然后费劲地微调。成本太高了，结果就是模型很难在产业里真正落地。打个比方：一个人什么都学会了，进了公司，结果只需要完成一个很小的任务。这条路在某种意义上，只有在国家层面才走得通，企业层面很难。很多模型本身是活不下来的，因为做这些模型的人和公司，扛不住成本。道理很简单——社会不接受那么高的成本，同时市面上又有其他更好的替代品。任何能活下去的事物，都是因为它没有替代品，没有谁比它更适合在这个环境里完成任务。 这三个核心要素，放到现实里是什么样？举个简单的例子：一家公司是做酱油的，从生产到销售一整套。它的“环境”就是工厂。采购大豆、运进工厂、发酵、加工，最后产出来卖出去——这就是它的“范围”。在这个案例里，我们需要想清楚：用模型的目的是什么？是把“做酱油和卖酱油”的整个过程，压缩到最好。目前，我们主要靠人脑来思考怎么做出更好的酱油、卖给谁、怎么提价、怎么刺激需求。但在未来，在这个“做酱油”的范围里，我们可以用模型来做各种通用推理，从而大幅提升业务效果。 总的来说，想用好通用智能的力量，一家公司需要回答好三个问题：环境里有什么数据？怎么采集这些数据？通用智能怎么和环境做交互？