大模型的当前和未来

自ChatGPT在2022年底点燃大模型这股热潮以来，时间已经走过了一年半多。这期间，大模型几乎成了整个科技圈最核心的议题。如今它到底发展到了什么程度？未来又会朝着哪个方向演进？天翼智库的研究团队近期针对知乎上大家最关心的14个相关问题，做了一轮集中的专业性解答。以下，就是这次问答内容的核心摘编。

大模型入门：基础概念与学习路径

1. 什么是大模型、超大模型和Foundation Model？

通常来说，大模型指的是那些拥有海量参数、能够学习和捕捉复杂数据模式的模型。参数规模越大，它在自然语言理解、图像识别等各类任务上的表现往往也越出色。而超大模型则是大模型里的“巨无霸”，参数动辄几千亿甚至上万亿。随着模型规模（参数、数据、计算量）的不断增长，性能会随之提升，能处理的任务范围更广，在特定任务上精度也更高，甚至会“涌现”出一些令人意想不到的新能力，比如常识推理、创作等。Foundation Model是一种特殊类型的大模型，它的设计初衷不是为了解决某个单一任务，而是具备高度的泛化能力，能处理多种任务。

2. 如何系统地入门大模型？

系统入门大致可以分三步走。第一步是夯实基础，通过在网络上寻找吴恩达、李宏毅等专家的视频课程来学习，核心内容涵盖机器学习、深度学习、自然语言处理等。第二步是深入技术，可以通过视频或《这就是ChatGPT》这类书籍来了解Transformer架构、预训练与微调、多模态大模型等关键知识点。第三步是动手实践，通过各种方式将理论付诸于行动，比如研究开源大模型的源代码，理解其内部机制；或者通过Hugging Face、阿里云ModelScope等平台，直接调用现有大模型进行应用开发。

3. 想学习大语言模型（LLM），该从哪个开源模型开始？

Llama系列是一个相当不错的起点。原因有三点。一是生态全面，它拥有完善的开源资源、工具和社区支持，遇到问题时更容易找到解决方案。二是上手方便，它提供了一个无需GPU的体验版本llama.cpp，即使没有高性能硬件也能开始学习和实践。三是扩展性强，由于它的普及度很高，许多人在此基础上进行了扩展和优化，比如Flash Attention算法已成为标准组件，为后来者提供了现成的案例和清晰的改进方向。

大模型发展现状：热潮下的真实图景

1. 从ChatGPT横空出世到“百模大战”，现在大模型发展得怎么样了？

大模型仍处于快速发展和变革期，这期间呈现出几个值得关注的特征。一是技术迭代极快，正在迈向原生多模态时代。2024年5月，OpenAI和谷歌几乎前后脚推出了基于原生多模态大模型的最新力作——GPT-4o和Project Astro，开启了一个新阶段。二是端侧大模型加速落地，有望成为未来交互的新入口。AI手机、AI PC、人形机器人、智能座驾等产品的市场占有率有望快速提升。比如IDC预计，国内AI手机出货量在2024年将达到3700万台，占比13.2%，到2027年则会飙升至1.5亿台，市占率超过50%。三是大模型在各行各业的渗透日益加深，展现出强大的应用潜力。Gartner预测，到2027年，企业中超过50%的生成式AI模型将是垂直领域模型（与行业或业务功能相关），而2023年这个比例仅有1%。四是伦理与安全问题日益凸显，各国法律法规正在加速跟进。

2. 如何看待国产大模型的现状？

根据天翼智库基于公开资料的不完全统计，目前我国共有通用大模型87个，行业大模型341个，主要集中在北京、上海、广州三地。热潮背后，也暴露出一些问题。国内通用大模型同质化严重，缺少原创性的突破和应用上的独特性；行业大模型则显得“多而不精”，实际落地和商业化进程比较缓慢。究其原因，可以归结为三点。一是原创性算法架构创新不足。国内AI企业多侧重于对现有Transformer架构及其衍生模型进行优化和应用创新，缺乏对底层架构的根本性革新。2019至2023年全球发布的387个重要机器学习模型中，美国机构主导开发的达262个，而中国仅有68个。二是高端算力资源紧缺。一方面，美国对我们的芯片封锁政策不断升级；另一方面，核心算力芯片的国产化进程较慢，高端芯片工艺长期被“卡脖子”，与国外先进水平存在2到3代的差距。三是高质量中文数据短缺。公共数据开放共享水平不足，数据可获得性有待提高；各行业数据体量庞大，但标准不统一、产业化程度低，数据使用与数据安全之间的平衡问题依然存在。

回顾历史，国内也曾经历过“百团大战”，最终只有2到3家生存下来。我们判断，未来国内主导的通用大模型可能只会剩下3到5家，甚至只有1到2家，而现有的许多模型厂商将不得不转型到垂直领域和应用开发领域。

3. 国内大模型目前处在什么阶段？是否存在关键技术壁垒？

目前整体上仍处于追赶国外先进水平的阶段。尽管国内对研发大模型投入了巨大热情，但与国际前沿模型相比仍有一定差距。例如，号称整体超越GPT-4 Turbo的讯飞星火大模型V4.0于2024年6月发布，而GPT-4 Turbo早在2023年11月就已问世，时间上领先了半年多。关键的技术挑战主要集中在核心算法和基础架构设计上。目前，大模型主要基于Transformer架构，并采用“预测下一个词”作为主要训练策略。要实现“直道超车”，可以通过增加模型参数、强化多模态和AI Agent产品能力等策略。同时，探索超越参数规模增长的新理论基础，甚至提出非基于连接学派的新方向，或许能为大模型带来“弯道超车”的机遇，从根源上解决高能耗和模型缺乏逻辑思维能力等问题。

4. 国内有哪些开源多模态大模型？

根据公开资料不完全统计，目前国内开源多模态大模型至少有28个，发布者主要分为科技企业和科研机构两类。具体名单包括：阿里巴巴的Qwen-VL、Qwen-Audio；智谱AI与清华大学联合发布的VisualGLM-6B、CogVLM；零一万物的Yi-VL；面壁智能与清华大学NLP实验室联合发布的MiniCPM-V 2.0、OmniLMM、VisCPM-Chat、VisCPM-Paint；中国电信的TeleSpeech-ASR；商汤科技的Shikra；字节跳动的BuboGPT；美团的MobileVLM；小红书的InstantID；上海人工智能实验室的VideoChat、MM-Interlea ved、InternLM-XComposer-2.5；阿里达摩院的mPLUG-Owl；北京智源人工智能研究院的AltCLIP、AltDiffusion、EVA、Painter、SegGPT、Uni3D、Emu2、EVA-CLIP-18B；以及IDEA研究院的太乙、Ziya-Visual。

大模型发展深度剖析：经验、挑战与前沿方向

1. 大模型发展中有哪些经验和教训值得总结？

可以总结出几点可供企业、开发者、用户借鉴的经验。第一，提示工程的趋势是自动化，这可能会减少对人类工程师的依赖，并将以新的形态存在。目前的发展表明，自动生成的提示词在很多情况下已经优于人类工程师设计的版本。未来，它可能集成到基础模型中，或成为大语言模型运营（LLMOps）的一部分，但人类参与仍然是必要的。第二，混合专家模型（MoE）架构有望超越传统范式，实现低成本的万亿参数大模型。它通过将任务分解给不同的专家模型分别处理，展现出显著的性能提升潜力。第三，随着数据隐私法规的加强和高质量数据的稀缺，数据合成技术在大模型研发流程中的重要性愈发凸显。第四，基于SFT的企业大模型微调策略门槛较高，而“RAG+知识库”的方案有望成为主流。基于监督微调（SFT）的策略虽然能快速见效，但计算密集、资源消耗大。相比之下，结合检索增强生成（RAG）和知识库的方案不仅能提供个性化和领域特定的回答，而且更易实施和维护。

2. 开源大模型是否比闭源大模型取得了更多进展？

从模型性能的角度看，开源大模型的进展落后于闭源大模型。享誉业界的LMSYS Chatbot Arena榜单（2024年7月8日更新）显示，排名前十的全都是闭源模型，前二十中仅有6个开源模型。斯坦福团队的AlpacaEval排行榜（2024年7月15日查阅）也显示，前十中只有2个开源模型。然而，从技术普及和发展的角度看，开源大模型的贡献远大于闭源模型。它们吸引了大量开发者与研究人员自由地查看、修改和扩展，极大地加速了技术创新的进程和应用场景的探索。同时，开源社区的集体智慧又反哺了模型本身，推动了问题的发现、修复和质量提升。

3. 大模型发展到现在，为什么还没出现爆款级应用？

这里面有几个关键原因。首先，国内C端用户付费意愿普遍偏低，相比国外更难实现盈利。其次，应用场景并未完全切中用户刚需，难以形成稳固的用户基础。传统爆款软件往往能解决用户的某个刚性需求（比如社交App），而大模型的核心应用场景“内容生成”，对于大多数用户来说更多是尝鲜，而非硬性需求，这直接影响了用户的留存率。再者，应用本身对用户有使用门槛，限制了其易用性。模型的回复质量很大程度上取决于用户提问的技巧，用户能力的差异会导致使用效果的两极分化，这与爆款应用“人人易用”的特性相悖。最后，模型依然存在“幻觉”问题，对使用体验造成了较大影响。

不过话说回来，今天的AI技术正站在“技术革新到应用繁荣的临界点”上。爆款级应用或许并非难以出现，而是正处于中间那个“应用准备期”的阶段。

4. 大语言模型为什么无法对数字进行准确运算？

这背后有两个深层原因。第一，大模型的工作原理与数学运算的逻辑本身就存在不一致。大语言模型基于上下文词与词之间的关联性来获取语义信息，并根据统计概率预测下一个词，这更适合处理具象的自然语言理解与生成任务。相比之下，数学运算的上下文信息很少，数字的含义更为抽象，这增加了模型的理解难度。而且，大模型基于概率生成输出，与数学运算需要严格遵循规则的精确推理方式不完全匹配。第二，不同的分词方法也会对数学运算能力产生影响。不恰当的分词会增加模型理解多位数的难度，让token向量与数字之间难以建立起准确的对应关系。此外，随着数字位数的增加，模型将相同数位的数字进行对齐的难度也随之增加，导致在分步计算过程中容易出错。

5. 2024年大模型还有哪些值得研究的方向？

以下是当前国际主流企业普遍认可的十个研究方向。一是模型融合技术，旨在不增加参数量的前提下提升性能和效率。二是混合专家系统，通过组合多个小型模块来创建MoE，其性能和效果有望媲美甚至超越大型模型。三是训练更小的大模型，研究如何在保持性能的同时减少模型大小和算力需求。四是个性化与定制化，开发能够根据特定用户需求进行调整的模型。五是多模态大模型与多模态融合，继续拓展模型处理多种数据类型的能力。六是跨模态交互，促进不同模态之间的有效交互与预测。七是模型对齐与安全可控，研究如何让模型更好地对齐人类偏好，并确保其安全性。八是时序预测与异常检测，挖掘大模型在金融、医疗等领域的应用潜力。九是智能体评测，评估大模型作为智能中枢解决复杂任务的能力。十是交叉学科研究，将大模型与语言学、整治学、社会学和心理学等学科结合，拓展应用场景与理论深度。

大模型发展路径展望：未来五年与终局猜想

1. 大模型再发展5年，搜索引擎还在吗？

大模型技术大概率会与搜索引擎产品深度融合。从发展的终局来看，结合了大模型技术的搜索引擎将在三个层面发生显著变化。首先，用户的使用边界将从“检索”拓展到“问答”。AI搜索让信息的颗粒度从网页细化到了内容本身，在多数情况下能帮用户省去“逐个点击链接”和“整合多个网页信息”这两个关键步骤，并且“提问-回答-追问”的新用户习惯也在快速建立。其次，产品的核心定位将从“搜索引擎”转向“大模型+搜索的整体问答系统”。底层的产品逻辑变得更加复杂，AI搜索的智能化水平成为新的决定性因素；UI界面重点从网页列表转向内容答案；商业模式也将更加多元，比如采用付费订阅制，或者后向整合内容生态开启知识付费；服务形态则可能从云服务向端云协同转变。最后，未来的搜索市场将是一个混合格局，既有整合了大模型技术的传统搜索巨头，也会出现专业的AI搜索初创企业。全球市场的前两名很可能仍是谷歌和微软，而三四五名的位置或许会迎来一轮洗牌，专业AI搜索初创企业有机会杀出重围。

2. 大模型的终局是“通用”还是“专用”？

通用大模型通过在海量数据上进行大规模预训练来获取知识，从而获得面向各种任务的通用求解能力，这恰好契合了C端用户多样化和碎片化的需求。而专用大模型则遵循“大规模预训练+微调”的范式，针对特定任务进行微调，以更好地适应实际应用场景。它的能力发展源于办公、制造、医疗等场景中降本增效、提高准确率的实际诉求，最终向B端和G端客户提供高度定制化的模型能力。综合来看，通用大模型和专用大模型各有优势，未来将趋于并行发展。通用大模型将继续作为技术底座，推动模型架构的创新和应用普及；专用大模型则会在特定领域中提供更精准、更高效的服务。随着技术的不断融合与进步，未来或许会出现更加灵活、智能的模型架构和训练方法，最终实现通用与专用的最佳结合。