AI服务器成本如何降低九成？AMD与韩国企业推出开放方案

对于许多希望部署人工智能应用的企业而言，高昂的服务器硬件与运营成本是一大障碍。有没有可能在不牺牲性能的前提下，将成本大幅降低？近日，一项由AMD与韩国半导体初创企业共同推动的开放生态系统方案，给出了肯定的答案。

AMD韩国分公司与MangoBoost宣布，将共同推广基于开放生态系统的异构计算方案。该方案的核心优势在于，能够在提供同等AI计算性能的前提下，将服务器的部署与运营成本降至竞品方案的十分之一，这意味着整体成本可下降高达

开放架构打破硬件绑定

实现这一成本优势的关键在于其采用的开放生态异构计算架构。该方案不再局限于单一厂商的硬件，而是支持多品牌的图形处理器（GPU）与中央处理器（CPU）进行混合部署。AMD韩国商务销售负责人指出，这种不绑定单一供应商的开放生态，是实现人工智能技术规模化落地的关键，而异构计算正是可行的落地路径。

配套技术优化效率与负载

为了充分发挥异构计算架构的潜力，MangoBoost提供了两项核心配套技术。其一是数据处理单元（DPU）芯片，它能够加速服务器内部网络的数据传输，有效分担CPU的网络负载。其二是名为LLM Boost的推理软件，专门用于优化大型语言模型（LLM）的推理运行效率，进一步提升整体性能。

尽管异构计算方案优势明显，但其落地实施存在较高的技术门槛。客户公司通常需要配备充足的技术团队与配套资源来完成复杂的系统改造。对此，MangoBoost首席执行官表示，他们的方案能够补齐客户在自研能力上的缺口，帮助客户省去高达数十亿韩元的自研投入。据悉，MangoBoost今年的业务范围已拓展至整机服务器机柜销售，并设定了年度营收100亿韩元的目标，计划在次年将营收提升十倍。