此芯科技发布AGX战略,桌面超算原生跑通150B大模型
近期,此芯科技这边有了大动作,正式发布了AGX Agentic Compute智能体计算战略,并一口气推出了全新的硬件AGX Station以及全栈智能体算力产品系列。这套产品线覆盖了端、边、云全场景,意在打造一个全域算力底座来赋能AGI发展。听起来可能有点抽象,但说白了,这个战略的发布,标志着智能体计算这事儿,终于从概念阶段开始走向真正的落地了。尤其是对于AI大模型在桌面端的原生部署,以及多智能体协同计算来说,这算是提供了一个全新的硬件基础设施。

不得不说,当前AI行业的发展节奏很快,正加速从“大模型训练”这个阶段,转向“智能体应用”的深水区。像Agent、多智能体协作、自主决策这类新型应用场景,对算力提出的要求,跟过去完全不是一个量级。传统PC和服务器架构,在设计之初压根就没考虑过AI大模型的推理需求。面对70B以上参数规模的大模型,很多时候只能依赖云端API调用,不仅延迟高、成本贵,数据隐私泄露的风险也让人头疼。此芯科技这次发布AGX Agentic Compute战略,恰恰是瞄准了这个核心痛点——从底层硬件架构到上层软件生态,重新构建一套专门为智能体计算优化的全栈算力方案。
这次发布的核心硬件产品,是AGX Station。它采用了相当创新的模组化、可扩展开放式硬件架构,支持M.2、MXM、PCIe等多种AI算力卡形态。用户可以根据自己的实际需求,灵活配置算力规模。从推理能力来看,AGX Station可以实现70B到150B参数规模大模型的原生推理,所有计算都在本地完成,彻底告别了对云端API的依赖。这意味着,无论是运行Llama 3.1 70B、Qwen3.8 72B,还是其他主流大模型,都能在桌面上获得流畅的本地推理体验,让桌面端真正拥有了云端级的AI算力。
在硬件适配层面,AGX Station展现出了极强的开放性和兼容性。它深度适配了天数、后摩、原粒、智辰、光羽等多家国产存算一体AI芯片,同时兼容半高旗舰显卡,给用户提供了丰富的算力选择。这种开放式的硬件架构,打破了传统AI算力设备对单一芯片厂商的依赖。用户可以根据应用场景、预算和性能需求,灵活选择最合适的算力卡,这大大降低了AI算力设备的采购成本和供应链风险。从市场角度来看,这确实是个很务实的策略。
针对多智能体协同计算这个前沿场景,AGX Station基于分布式架构实现了多智能体并行计算与智能调度。在智能体应用中,多个AI Agent需要同时运行、相互通信、协同完成复杂任务,这对算力设备的并行计算能力与通信带宽提出了很高的要求。AGX Station通过内置的智能调度引擎,可以同时运行多个大模型实例,每个实例独立处理不同的Agent任务,并通过高速内部总线实现Agent之间的实时通信与数据共享。此外,AGX Station还支持通过2×10G RDMA实现多机级联,多台AGX Station可以组成桌面集群,算力规模线性扩展,满足更大规模多智能体系统的部署需求。
在软件生态层面,此芯科技同步发布了AGX Agentic Compute软件栈,包含了模型部署工具、Agent编排框架、性能监控平台等核心组件。开发者可以通过统一的API接口,快速完成大模型在AGX Station上的部署与优化,无需关注底层硬件的差异。软件栈内置了模型量化、算子融合、内存优化等性能加速工具,可将大模型的推理效率提升2到3倍。同时,它支持主流AI框架如PyTorch、TensorFlow、ONNX Runtime的无缝迁移,大幅降低了开发者的迁移成本。
从战略层面来看,有几个关键点值得单独拎出来说。此芯科技此次发布的AGX Agentic Compute战略,还涵盖了端侧与云侧的全场景算力产品。在端侧,推出了面向智能终端设备的轻量级AI推理芯片,支持端侧大模型的轻量化部署;在云侧,则推出了面向数据中心的高密度AI算力服务器,满足大规模训练与推理需求。端、边、云三侧产品通过统一的AGX软件栈实现算力协同,用户可以根据任务需求灵活调度算力资源,实现成本与效率的最佳平衡。
目前AGX Station已经开启预售,首批用户覆盖了AI科研机构、智能体应用开发商、高校实验室等群体。未来此芯科技将持续迭代AGX Agentic Compute产品线,推出更多面向不同场景的智能体算力方案,为AGI时代的到来提供坚实的硬件底座。