让企业拥有用得起的好模型，火山引擎给出一个更优选择

### 导语 大模型技术正在从概念验证走向规模化落地，这个过程中既有令人兴奋的机遇，也有不容忽视的挑战。什么才是真正的好模型？企业如何才能低成本、高效率地迈出这一步？在刚刚落幕的「2024春季火山引擎FORCE原动力大会」上，字节跳动旗下的豆包大模型家族及其配套平台正式发布，给出的答案出乎很多人意料——价格低到“厘时代”，且目标清晰：让每一家企业都用得起。 “大模型的超低定价，来源于我们在技术上有信心优化成本。”火山引擎总裁谭待的表态掷地有声。这样的定价策略，结合火山引擎全栈的AI服务，让企业应用大模型多了一个更优、更好的选择。 那么，当前大模型落地究竟卡在哪里？企业又该如何快速找到适合自己的模型，并尽可能地减少试错成本？我们采访了火山引擎的几位核心专家，来看看他们的实践与思考。 *火山引擎总裁 谭待* ### 01 ## 大模型落地的机遇与挑战：从“尝鲜”到“创造价值” 大模型出世后，各行各业都掀起了尝试的热潮。火山引擎大模型算法服务负责人王科观察到，2023年整个领域更像是在“原型探索”阶段——手机、汽车、教育、游戏、社交等行业的玩家们做了大量尝试。同时，从去年下半年开始，一批AI Native的创业公司也崭露头角。到了2024年，行业的主旋律正从探索转向落地，我们期待看到大模型在更多实际场景中产生商业价值。 当然，大模型技术本身还在快速演进，用它来构建上层应用，必然伴随着不确定性。谭待点出了企业需要面对的三大关键挑战：**模型效果、推理成本和落地难度**。想要落地，不仅需要好的基础大模型来解决复杂问题，也需要低成本的推理服务让应用真正“跑起来”，更需要丰富的工具、平台和应用来帮助场景落地。 试错成本高，是新技术的“拦路虎”。王科指出，企业只有真正用过，才知道大模型在自己的场景里到底好不好用。但创新又必须考虑ROI，这就必须在模型效果与成本之间找到平衡。高成本显然抬高了使用门槛。 **成本压力无处不在**。比如业务体量大的客户，像手机厂商，哪怕在一个场景里用一点，存量业务也会推高总成本。而对于创业公司或新业务，本身还在创新期、探索期，更难以承担高昂的模型费用。 此外，模型选择也让人头疼。市场上大模型太多，技术迭代又快，选对模型，并在实际场景中打磨出好效果，本身就是一个需要攻克的难题。 从技术工程角度看，火山引擎大模型工程负责人雷景言总结了三大痛点： * **精调与迭代**：很多用户会精调模型以适应自身业务。精调本身不复杂，但如何高效精调、平衡好成本与训练速度才是难题。精调后的推理部署，尤其是多个版本之间的灰度发布和AB测试，以及应对流量峰值的弹性能力，都直接关系到成本控制。 * **安全与可控**：一方面，企业担心样本数据泄露或遭受攻击；另一方面，生成式内容可能带来业务风险，比如出现违规信息。这需要业务方具备及时的干预能力。火山引擎观察到，很多用户希望在 **30分钟内** 就能把安全规则全部下发生效。 * **延迟挑战**：为了追求算法效果，大模型本身的推理计算量，加上与知识库、周边系统的大量交互，很容易带来延迟问题。这对软硬结合的计算效率优化提出了很高要求。 不过，雷景言认为，就像当年被OpenAI教育出一些知名场景一样，国内已经逐步摸索出使用大模型的门道。从工程视角看，国内主流大模型的调度、推理优化能力已接近GPT-4水平，算法效果发展更快，局部场景甚至有超越。 火山引擎对大模型的未来有充足的信心。在他们看来，大模型是基础设施，会与每个企业和每个人都产生关联，长期影响深远。正如实践出真知，面对这种早期技术，只有多尝试，才能探索出切实可行的路径，推动它深入行业去创造价值。 ### 02 ## 给企业一个更优的选择：豆包大模型与全栈服务 什么才是好大模型？这个问题可能没有标准答案。谭待的观点很朴素：**不看榜单，不看参数，只有大的使用量才能打磨出好模型。降低成本，是推动大模型快进到“价值创造阶段”的关键因素。** 人人用得起，才是好模型。基于这个理念，字节跳动自主研发的豆包大模型家族通过火山引擎正式对外提供服务。它包括豆包通用模型pro、豆包通用模型lite、豆包·角色扮演模型、豆包·语音合成模型、豆包·声音复刻模型、豆包·语音识别模型、豆包·文生图模型、豆包·Function call模型、豆包·向量化模型等，企业可以根据业务场景灵活选择。 这套模型并非实验室产物，它由字节跳动专业算法团队打造，经过了公司内部50多个业务场景的实践验证，每天处理着千亿级的tokens，因此在效果和业务适配性上都有保证。更重要的是，它首批通过了国家大模型服务安全备案，满足了合规性需求。目前，豆包大模型日均处理 **1,200亿tokens** 文本、生成 **3,000万张** 图片。 真正引爆行业关注的，是它的定价。以豆包通用模型pro-32k版为例，推理输入价格仅为 **0.0008元/千tokens**。市面上同规格模型通常定价0.12元/千tokens，是豆包价格的约150倍。大模型价格，正式进入了“厘时代”。而在大幅降价的同时，豆包模型的TPM（每分钟Tokens）、RPM（每分钟请求数）均达到国内一流水平，每分钟处理的token限额是业内同级别模型的四到八倍，足以满足绝大多数企业的业务需求。 谭待表示，这种低价并非野蛮补贴，而是源于技术优化。比如，通过对模型结构的调整、从单机推理演进到分布式推理、以及将不同负载的推理任务混合调度，这些技术能更高效地利用底层算力，最终实现成本的大幅降低。 实际上，客户应用大模型主要有两条路径：一是技术储备更强的头部企业，基于开源模型训练专有模型；二是大多数企业选择的MaaS（模型即服务）模式，直接调用API服务。 火山引擎提供的是从应用服务、MaaS到云计算的全栈服务，以场景驱动，加速探索和落地。 * **模型生产端**：火山引擎打造了“模型生产工场”——优秀的算力系统和机器学习平台。平台提供高效的训练和推理编排、调度能力，并对算子库、通信库等底层系统进行通用优化。它以一种极低的侵入性、近乎透明的方式提供给客户。国内主流的大模型创业公司基本都在这个平台上完成训练，资源编排调度能力和故障卡自愈能力备受好评。升级后的平台，还通过GPU碎片资源的自动优化，进一步提升了资源利用率。用户调试好模型环境，构建Docker镜像，启动一个大规模训练环境只需要 **2秒钟**。 * **模型应用端**：去年发布的火山方舟平台，通过模型即服务的理念，精选优质大模型，帮助企业安全、高效地应用它们。今年升级的 **火山方舟2.0**，以更强性能、更优插件、更好服务和全周期安全可信方案，助力大模型应用落地。雷景言介绍，火山方舟更强调提供大模型的全生命周期管理，包括对开源、闭源模型的运维纳管。特别是针对闭源模型的“黑盒”运维，它集成了火山引擎的优秀实践，帮助客户找到算法效果和落地成本的最优解。 * **云底座**：火山引擎的超大规模算力集群，支持万卡集群组网，并兼容公有云、混合云以及异构算力，为AI创新提供了稳定、可规模化的云基础设施。 可以看到，火山引擎的做法是，拿出经过广泛场景打磨的好模型，同时把训练和应用模型的优秀工程实践，通过火山方舟、机器学习平台等工具开放出来，让每一家企业都能以更低成本、更高效率、更安全稳定地应用大模型。 ### 03 ## 小结：让大模型飞入寻常企业 更多案例已经开始验证这条路径的可行性。以证券行业的客服场景为例，传统体系存在产品形态孤立、意图识别泛化不足、缺乏多轮会话能力等问题，导致客户体验不佳。华泰证券基于火山引擎方舟平台，打造了新一代的财富管理助手，成功解决了传统技术的痛点，提升了用户体验。 更低的价格，意味着更低的试错成本。这让更多企业敢于去尝试，去了解大模型的能力边界，从而形成更理性的预期。当预期趋于理性，大模型才能更持续、更健康地发展。 在AI时代，火山引擎的做法既授人以鱼（提供优质、价低的模型），也授人以渔（提供强大易用的平台）。其全栈大模型服务，正在努力让大模型“飞入寻常企业”，给所有想要拥抱AI的企业，一个真正可负担、可落地的全新选择。