人类喂给AI的数据，快要不够用了

说起AI，大家常把它比作一个需要“喂养”的智能体。没错，现代主流的AI，无论是机器学习还是深度学习，其核心机制都是从海量数据中“学习”模式和规律。没有数据，模型就无从训练，智能也就成了无源之水。数据，因此被形象地称为AI的“燃料”或“血液”。

进入大模型时代，情况发生了一些变化。基于自监督学习的预训练范式，大幅降低了对人工标注数据的依赖，让模型能以更低成本、更高效率地“消化”大规模数据。这直接推动了数据、模型参数和算力三者的协同跃进，并催生出一个著名的“规模定律”：模型的性能，与它的参数量、训练数据量以及消耗的计算量之间，存在一种平滑的幂律关系。简单说，就是模型越大、数据越多、算力越强，模型的表现就越好。

然而，这条看似光明的增长曲线，正面临一个根本性的挑战：数据，快不够用了。

这背后的逻辑其实很直观。当前AI训练所利用的，很大程度上是人类社会过去数十年甚至数百年积累的“库存”数据。以预训练中至关重要的互联网文本为例，维基百科虽然数据总量占比不大，但其高质量的内容是数千人二十多年持续维护的成果；语料库中的许多经典图书和文献，更是承载了人类数千年的智慧结晶。

问题在于，人类社会每年新产生的、符合训练要求的高质量数据（如新闻、新书、新论文），其增长是相对线性的。而AI发展的预期，却是超线性的。根据独立研究机构EpochAI的最新测算，语言模型的训练很可能在2026年到2032年间，耗尽人类所有公开的文本数据。这，就是所谓的“数据枯竭”危机。

更深入地看，AI发展面临的数据挑战是双重的：一是“量”的挑战，即是否有足够多、覆盖足够广的数据；二是“质”的挑战，涉及数据的真实性、标注水平、结构化程度等。

这两个维度的挑战，贯穿了AI开发与应用的全链条：预训练阶段，面临互联网数据质量参差和总量见顶的压力；后训练和对齐阶段，高质量标注数据极度短缺；将基座模型微调至具体行业时，专业数据又显得异常稀缺且噪声巨大；多模态模型训练，苦于高质量图文配对数据不足；而具身智能模型，则受困于真实世界交互数据获取成本极高的现实。

那么，出路在哪里？大体有三个方向：一是对人类社会已有数据和人类脑中的隐性知识进行更深度的挖掘与治理；二是借助机器智能自身来生成或挖掘数据；三是从算法和模型范式上创新，减少对数据的依赖。接下来，我们重点探讨前两个方向。

01 数据扩增方法一：收集和整理散落数据

所谓“数据枯竭”，更像是一个信号：那些公开、易得的“低垂果实”快要被摘完了。但事实上，人类社会和人脑中，仍蕴藏着大量尚未被充分开发的数据与知识富矿。

首先，是各行各业的海量非公开数据。电商平台的交易记录、医疗机构的病历影像、制造业的工艺参数、科研领域的实验数据……这些高价值数据往往涉及隐私、产权或商业机密，以“数据孤岛”的形式分散在各处。它们虽然可以通过RAG（检索增强生成）等技术在特定应用中发挥价值，但很难汇聚成足以持续提升通用AI能力的大规模训练语料。

这里有个容易被忽视的例子：科学界的“发表偏差”。通常，只有成功的实验才会被发表，而大量失败的实验数据则被束之高阁。但对AI学习而言，失败案例与成功案例同样具有价值。这些未被共享的“负面”数据，本身就是一座尚未开采的知识矿山。

技术上，业界已在探索释放这类数据潜力的方法，比如联邦学习，它允许在不移动原始数据的前提下进行联合训练；再如差分隐私技术，能在数学上保证个体信息不被还原，为跨机构数据协作提供安全边界。这些技术解决的是“如何安全地使用数据”的问题。

然而，要让这些分散的数据真正发挥最大价值，单靠技术还不够，更需要制度与机制的创新。路径大致有两条：一是自下而上的市场化路径，例如通过数据交易市场、数据信托、数据要素入表等模式，让数据持有者在合规前提下有动力分享数据并获益；二是自上而下的公共路径，由政府或行业主导，在关乎国计民生、公共安全等领域，通过统一标准、建设公共数据平台，加速数据从“碎片资源”向“公共基础设施”的转化。技术提供安全阀，机制提供流动性和激励，二者缺一不可。

其次，是人类大脑中尚未被数据化的认知资产。其中有两类对AI能力上限影响尤为关键：一是复杂决策背后的“思维轨迹”，二是专家的“隐性知识”。

想想看，一位企业家做重大决策、医生诊断疑难杂症、工程师处理罕见故障，我们通常只记录了他们“做了什么”和“结果如何”，却很少留下“当时是怎么想的、考虑过哪些选项、为何最终如此选择”这样详细的思维过程。这就好比只保存了数学题的题目和答案，却丢了解题步骤。缺乏这些“思维链”数据，AI就很难学到真正的推理能力，只能做表面的模式匹配。这也是为什么引入“思维链”技术后，模型性能往往能显著提升，但目前可用的高质量思维轨迹数据依然凤毛麟角。

至于隐性知识，那就更微妙了。资深专家的直觉、情境化的感知、团队协作的默契……这些“只可意会，难以言传”的知识，恰恰是AI最难学习和利用的部分。系统性地数据化思维轨迹和隐性知识，虽然成本高、难度大，但从信息密度和独特性来看，这无疑是一座价值极高的金矿，很可能成为未来AI能力持续突破的关键。

第三，是对现有知识的“提纯”与治理。AI领域有句老话：“垃圾进，垃圾出。”数据质量直接决定了模型输出的上限。互联网信息鱼龙混杂，充斥着错误、虚假和过时的内容，直接用于训练，必然导致模型输出中的“幻觉”与偏见。更棘手的是，AI时代催生了新的“污染源”——为了被模型更多地引用和采样，各种过度甚至恶意的“生成式引擎优化”手段开始出现。

因此，围绕提升数据质量本身，可以展开一整套系统工程：底层是常规的数据清洗、去重、纠错；再上一层，是为关键知识建立溯源和版本控制机制，明确来源与责任，并通过知识图谱等技术结构化知识关系；在专业领域，则需要通过精细的标注工程和专家参与，构建“少而精”的高置信度数据集，作为模型校准与评估的基准。只有经过这样一轮“面向AI的治理”，后续的模型训练才能站在坚实、干净的知识地基上，而非混杂的信息流沙中。

02 数据扩增方法二：利用机器智能

在尽力挖掘人类社会存量数据之外，另一个思路是让AI自己“动手丰衣足食”，利用机器智能来挖掘和生成数据。

首当其冲的是合成数据。合成数据的生成方式多样，我们重点看当前扮演重要角色的两种：基于模型的生成和基于仿真环境的生成。

用大模型生成的数据，为什么能训练新的大模型？一个直观的例子是“知识蒸馏”：用性能更强的教师模型的高质量输出，来训练学生模型。即便对于前沿大模型，上一代模型的合成数据也能发挥作用。比如，让模型解答同一道数学题100次，只选取其中正确的20次作为训练数据。这本质上是在用模型自身的“高质量子集”来放大有效样本。这种方法不仅能从稀缺的人类解题记录中扩展出更多样、逻辑正确的解题轨迹，还能刻意在真实数据薄弱的难题上进行“过采样”，补齐短板。

另一个典型场景是智能驾驶。在仿真环境中，可以组合各种极端要素——暴雨夜的十字路口、结冰的高速弯道——生成现实中极其罕见的事故场景数据，用于训练模型应对长尾风险。

不过，从这两个例子也能看出，这类合成数据并未创造全新知识。前者依赖外部验证器（标准答案）从模型能力上限中提取样本，优化的是数据分布；后者是对已知物理要素的重组与放大。严格来说，AI在这里扮演的是“冶炼师”的角色，将人类社会贡献的原始数据“矿石”，提纯、配比，加工成更适合训练的“数据合金”，在既有知识边界内榨取更多价值。

其次，是让AI通过强化学习主动探索，生成数据。这与基于人类样本的合成有本质不同。强化学习的核心是“试错学习”，智能体在与环境的交互中，通过“状态-动作-反馈”循环，自主探索策略空间，其产生的每一条行为序列本身就是新的数据。

最经典的例子莫过于Alpha Zero。在围棋、国际象棋等棋类上，它几乎不依赖人类棋谱，仅凭规则从随机起步开始自对弈，通过数以亿计的自生成对局数据和胜负反馈，最终超越了所有人类棋手。这表明，在规则明确、反馈清晰的封闭环境中，AI完全可以通过自生成的数据，突破人类经验的上限。

在开放任务上，近期以DeepSeek-R1为代表的“思维链强化学习”提供了新思路。让模型在数学、编程等可自动验证的任务上自由生成推理步骤，然后根据答案正确性和思维链合理性给予奖励，驱动模型调整推理策略。这相当于搭建了一个“自动生产高质量思维轨迹”的数据工厂，无需预先准备庞大的人类标注数据集。

更具想象空间的是具身智能领域。自动驾驶和机器人训练已广泛使用仿真环境，通过强化学习生成远超真实场景数量的交互数据，覆盖各种长尾风险。机器人在真实世界中的长期训练，也会持续产生传感器数据、动作序列和任务反馈，这些都是宝贵的新生数据源。

第三，是发展AI的“主动学习”能力。与被动接收数据不同，主动学习让模型自己决定“学什么、问什么”。在数据标注成本高昂的场景下，模型可以根据当前的不确定度，主动挑选最具信息价值的样本请求人类标注，或在仿真环境中重点探索最能减少不确定性的状态。这样，有限的标注预算就能用在刀刃上，获得信息密度最高的样本，而非平均分布的“薄层监督”。

长远来看，将主动学习、强化学习与具身智能结合，有望让AI从“被动消费数据”的食客，转变为“主动规划学习路径、创造关键数据”的探索者——这本身也是对人类学习方式的一种高级模仿。

03 AI时代，数据领域有巨大机会

AI下一阶段的竞争，很大程度上将围绕数据展开。这背后有两个核心原因。

第一，如前所述，数据在数量和质量上都遇到了新的天花板。任何能缓解这些瓶颈、提升数据有效供给的方案，都对应着巨大的经济价值。特别是在前沿模型能力逐渐趋同的背景下，竞争的焦点很可能转向“谁掌握了更干净、更稀缺、更难以复制的数据资产”。

第二，在AI三要素（算力、算法、数据）中，算力和基础模型的产业门槛极高，市场高度集中。相比之下，数据生态则分散得多。它深深嵌入在各个垂直行业、具体场景之中。这意味着，深耕不同领域的龙头企业、手握独特数据资源的中小公司甚至初创团队，都有机会通过构建高质量的数据资产、数据产品或数据服务，在AI时代建立起自己的护城河，而不必在算力和通用大模型上进行正面“内卷”。

除了企业层面的机会，政府也需要扮演关键角色。前面提到的自上而下与自下而上两种治理思路，需要在不同领域灵活应用。

粗略来看，涉及国家安全、公共利益和基础服务的数据，如气象、地理信息、人口统计、宏观经济、社会保障等，更适合由政府主导，通过统一平台和制度框架来保障秩序与可用性。医疗健康、交通等民生相关数据，因外部性强、风险难以内部化，同样需要较强的顶层设计，包括统一标准、建设公共数据基础设施、制定跨部门共享规则并严守隐私安全边界。

相比之下，那些更偏向商业竞争的领域，如电商行为数据、消费金融数据、企业内部运营数据等，则更应依靠市场机制来发现价值、优化配置，政府主要负责监管框架的搭建，而非直接干预。

具体到中国的情况，大语言模型训练高度依赖的互联网文本数据，在规模和质量上整体仍与英文世界存在差距。然而，中国在其他类型数据上拥有潜在的结构性优势：庞大的人口与市场带来了丰富的消费与场景数据；完整的工业体系沉淀了海量的工业与物联网数据；较为先进的智慧城市与政务数字化建设，则形成了独特的城市运行与政务数据资源。

如果能通过完善数据法规、明晰产权与收益分配、建设高质量的公共数据平台，同时鼓励行业主体围绕具体场景打造高价值数据产品，那么数据完全有可能成为中国在AI时代取得竞争优势的一个重要支点。这不仅是技术问题，更是一场关于数据治理、生态构建与价值释放的深刻变革。