4万Agent协同、多模型组队，Agent基础设施开始重构

发布时间：2026-07-17 07:08:35 来源：安智兰德资讯网 作者：综合

编辑 | 泽南

AI 智能体时代，协同型组专属算力底座正式确立。多模队

上周四，基础在 2026 开放计算技术大会（OCTS26）上，设施浪潮信息重磅发布业界首款 CPU 原生液冷整机柜服务器及 元脑 SD200 超节点 AI 服务器等核心基础设施产品。开始

随着产业共识从“做大模型”向“用智能体”转移，重构针对应用范式变革的协同型组 AI 工作负载，浪潮信息完成了算力体系的多模队底层重构，标志着 Agent 基础设施进入全新阶段。基础

Agent 时代：算力分工与架构重塑

2025-2030 年被视为智能体（Agent）规模化应用的设施关键窗口期。IDC 预测，开始全球智能体市场年复合增长率将达 139%；Gartner 指出，重构今年 40% 的协同型组企业应用将集成智能体，至 2028 年超三成企业应用将深度嵌入智能体能力。多模队

从“单次问答”到“群智协同”

技术落地正呈现双向渗透趋势：
1. 模型端：Kimi、基础DeepSeek、GLM 等先进大模型加速原生化升级，强化任务规划、工具调用与自主执行能力。
2. 应用端：ChatGPT Work、Workbuddy 等企业级框架深入办公、研发场景，推动 AI 应用从“单次模型调用”转向“数百上千智能体后台协同”的群智工作模式。

如果说传统大模型是大脑，那么原生智能体应用则是为机器人装上了手脚，具备了直接执行任务的完备形态。

CPU 算力地位显著提升

这种进化对算力提出了极高要求。从单次对话到端到端交付，Token 消耗呈指数级增长，单一用户请求可能触发数百个子任务，意味着背后数百个芯片内核的高频调用。

传统“CPU 调度、GPU 计算”的分工被打破，底层逻辑发生根本变化：
* Agent 本质是 CPU 沙箱：智能体核心承载逻辑管理、流程调度与系统协同，非 GPU 擅长的并行矩阵运算，而是更适合 CPU 处理的任务。
* 延迟瓶颈在 CPU：研究显示，智能体执行链路中，CPU 处理环节占端到端延迟比例最高可达 90.6%。

结论：GPU 决定模型能力上限，而 CPU 驱动的多智能体协同通过工程化手段提升 AI 输出的完整性与可靠性。面向 Agent 时代，数据中心将新增大量独立纯 CPU 算力集群。传统 AI 服务器 CPU:GPU 配比约为 1:4~1:8，而在智能体时代，CPU 服务器需承担智能体主机负载。国内头部互联网企业今年的 CPU 服务器采购几乎全部投向智能体业务，Agent Infra（智能体基础设施）成为行业共同探索方向。

CPU 原生液冷整机柜：高密度群智协同载体

7 月 9 日，浪潮信息发布两大核心成果，从 CPU 算力底座与 GPU 推理引擎两端，给出智能体规模化落地的开放架构方案。

为什么需要 CPU 原生液冷？

1. 群智协同的算力需求：智能体常态化为分工协作（规划、调用、检索、执行、汇总），需海量 CPU 支撑。公有云场景中，每个智能体实例需占用 2 个 CPU 核心，亿级用户规模对应海量持续运行的 CPU 算力池。
2. 企业管控与安全：分散部署存在权限混乱、审计缺失风险，企业亟需统一、可管控、可规模化的运行底座。
3. 功耗密度突破极限：传统风冷单机柜功率极限约 40-50kW，而 2026 年底高密度 AI 机柜功率将突破 300kW，增长 10-50 倍，远超风冷及风液混合散热上限，原生液冷成为必然选择。

技术突破：重新定义 CPU 计算系统

浪潮信息推出的业界首款 CPU 原生液冷整机柜服务器，基于开放 OCM 架构打造：
* 超高密度：单机柜最高支持 384 颗多元 CPU 处理器，支撑 4 万+ 个智能体同时协同运行。
* 兆瓦级功耗：单柜功耗最高可达兆瓦级，是传统通用 CPU 机柜数倍。

区别于传统风液混合方案，该服务器采用原生液冷架构，通过计算与散热协同设计，对内存、光模块、网卡等发热部件解耦并平面化重构，依托一体化冷板实现零软管、零线缆、零风扇的极致散热形态，从硬件底层解决高密度 CPU 散热瓶颈。

三大核心技术突破：
1. CPU 计算系统重构：协同设计散热与计算架构，打造 0.5U 超薄算力节点，实现 2U 空间内部署 16 颗 CPU 的高密度架构。
2. 标准化算力模组：基于液冷 OCM 架构，兼容 X86、ARM 等多元 CPU，灵活衍生不同形态节点，兼顾高负载性能稳定性与大内存、高带宽需求。
3. 全域部件液冷重构：突破仅覆盖 CPU 的局限，将内存、网卡、光模块纳入液冷体系，无线缆设计，支持热维护，保障业务零中断，整机柜运维效率提升 100% 以上。

此外，该架构适配 800V 高压进机柜供电趋势，解决传统 380V 在百千瓦级场景下铜缆过粗、运维难的问题，为下一代供电标准预留空间。

元脑 SD200 超节点：低延迟智能输出引擎

如果说液冷服务器解决了“规模化运行”问题，升级后的 元脑 SD200 超节点 AI 服务器则提供了高质量、低延迟的“智能输出引擎”。

性能突破：单 Token 生成延迟低至 4.77ms

浪潮信息率先完成对 Kimi K2.6、DeepSeek V4、GLM 5.2、MiniMax M3等主流开源大模型的高性能优化。
* 迭代历程：2025 年首发时实现 8.9ms 单 Token 生成速度（国内首个突破 10ms 大关）。
* 最新实测：在 Kimi K2.6 万亿参数模型上，单 Token 生成时间仅需 4.77ms，首 Token 延迟较优化前降低 35%，充分支撑智能体高频调用、多轮交互及并行协作需求。

优化来源：
* 硬件层：优化超节点内部 Fabric 互联架构，提升卡间通信路由确定性，降低通信耗时。
* 软件层：引入多 Token 预测、JIT 等推理优化技术。

多模融合：突破单一模型边界

面对长文本、代码生成、逻辑推理等复杂需求，“多模融合”成为提升智能体智能水平的核心路径。通过多个模型并行生成、评审比对与融合，突破单一模型能力局限。

• 验证数据：在 DRACO 基准测试中，融合模型获 53.9% 最优成绩；在 AIME 2026 数学推理（97.2%）和 GPQA 通用高难问答（90.8%）中领先单一模型。

系统能力：
* 元脑 SD200 单机最大承载 4 万亿参数大模型，支持多模型并行部署。
* 结合 元脑企智 EPAI 平台，用户一次 API 调用即可分发任务至多款大模型，经评审融合后输出完整可靠答案。

企业版：降低高性能部署门槛

面向本地部署需求，浪潮信息推出 元脑 SD200 超节点企业版：
* 架构优势：延续原生内存语义开放互联架构，构建 16 卡统一 Scale-up 计算域，实现统一寻址与低时延跨卡通信，首 Token 延迟降低 40% 以上。
* 显存能力：单机支持 TB 级统一显存，完整承载主流万亿参数开源模型。
* 业务价值：从千亿参数的“辅助编码/写作”浅度应用，跃升至万亿参数的“完整代码生成/复杂方案输出”生产级应用，大幅降低企业部署门槛。

开放协同：加速 Agent 落地与智能化转型

从大模型到智能体，AI 基础设施正从硬件升级走向系统级协同重构。

清晰算力分工

• GPU 超节点：负责“思考”，输出低延迟、高质量 Token。
• CPU 原生液冷整机柜：负责“行动”，承载海量智能体调度、编排与协同。
• 元脑企智 EPAI 平台：统一管控。

三者共同构成 “群智协同 + 多模融合”完整技术体系。

未来展望

2026 年下半年将是超节点方案规模化落地节点，国内头部互联网客户已批量部署。在开放计算生态推动下，单位 Token 生成成本与智能体运行成本将持续降低，推动 AI 走向全企业、全流程规模化落地。

长远来看，Token 生产将如工业流水线般精细化拆分：Prefill 阶段与 Decode 阶段分离，注意力计算、前馈网络等环节匹配最适配芯片架构，实现全链路效率最优。这与浪潮信息融合架构底层逻辑相通——通过高速互联实现算力、内存、存储池化，让资源自由连接、按需组合。预计未来 2-3 年，GW 级智算中心将逐步落地，支撑 AI 从技术创新全面走向大规模应用。

相关文章