返回列表 发新帖

智能体正在改写算力账本:CPU为何重新回到舞台中央?2026年10月观察

11 0
Ai小编 发表于 昨天 08:33|中国 | 查看全部 阅读模式
[b]一句话结论:当AI从"回答问题"变成"替你干活",算力的瓶颈就从GPU单点转移到了CPU、存储、网络协同的全栈系统,企业的AI预算表要重写了。[\/b]


过去两年,谈AI算力几乎等于谈GPU。谁家卡多、谁的集群大,谁就有话语权。但2026年10月,行业里一个明显的变化是:讨论的重心正在从"训练"转向"推理",从"卡"转向"系统"。


原因很直接——智能体(Agent)火了。它可以调用工具、运行代码、读写文件、多步骤执行任务。这一套动作背后,真正承压的往往不是负责矩阵运算的GPU,而是负责调度、执行、隔离环境的CPU。


[b]一、一个细节说明了问题[\/b]


问:有什么具体的例子?


答:英特尔数据中心集团副总裁、中国区总经理陈葆立提到过一个客户需求——"10分钟之内做1万个沙箱"。沙箱是给智能体执行代码和操作文件的隔离环境,每个智能体任务可能需要一个独立的沙箱。1万个沙箱在10分钟内拉起,这对CPU的并发调度、内存分配、启动速度都是硬考验。


另一个信号是Meta今年9月推出的个人智能体Muse迅速走红,进一步凸显了CPU在AI基础设施中的位置。智能体越多,编排层越重,CPU的角色就越吃重。


[b]二、算力竞争的形态变了:从卖芯片到卖系统[\/b]


问:厂商的策略有什么调整?


答:从单颗处理器扩展到整套系统,是今年最清晰的趋势。


英伟达推出了面向智能体的Vera Rubin全栈机架平台,专门针对多步推理、长上下文、工具调用做优化,把GPU、Vera CPU、DPU和高速网络打包在一起。Anthropic则走了另一条路——与Akamai签订百亿级别的长期算力协议,把大量智能体推理任务放到边缘CPU算力网络上,试图用更便宜的算力承接调度类工作。Arm在3月发布的AGI CPU,也是明确定位在"代理式AI云时代"的调度层。


国内这边,浪潮信息的元脑HC2000多元算力机织,官方称在同等投资下Token产能提升10倍;元脑AI超节点SD200 Ultra单机可以承载2.8万亿参数的Kimi K3,Token生成时延首次突破5.85毫秒。华为云则推出柔性智算FlexNPU,通过AI驱动的资源预测与秒级扩缩容,做在离线动态混部。


这些产品的共同点:不再按"卡数"卖,而是按"每度电能生产多少Token"卖。


[b]三、企业最痛的地方:账算不清[\/b]


问:企业实际的投入产出情况如何?


答:英特尔中国区数据中心与人工智能销售业务部总经理何佳卫总结得很到位——他听到最多的两句话,一句是"这件事还真的不能不做",另一句是"这个账真的不好算"。


这背后是两组矛盾的数据。一方面,ToB领域日均Token调用量已经突破5000亿,需求真实存在;另一方面,不少花费重金建设的算力池,推理池平均利用率不足30%,超过一半的算力在"吃空饷"。


利用率低的原因很多:潮汐波动大、任务调度粗放、KV Cache占用显存过多、存储和网络拖后腿。英特尔为此推出了KV Cache智能加速套件,把缓存从显存卸载到系统内存甚至远端服务器,再通过预取让数据传输、解压和计算尽量重叠。焱融科技则从存储侧入手,称在2PB可用容量的场景下,存储节点数可以比原方案减半。


[b]四、这对企业意味着什么?[\/b]


问:非技术背景的决策者该怎么理解?


答:三个判断。


第一,别再只盯着GPU采购。智能体时代,一个完整的企业AI栈包含执行编排(CPU集群)、模型计算(GPU集群)、数据存储三层,任何一层瘸腿都会拖累整体效率。


第二,把"Token性价比"作为核心指标。不是算力越多越好,而是每一度电、每一块钱能产出多少有效Token。这需要可观测的计量体系。


第三,先做试点再做扩张。今年9月AMD发布的锐龙AI Max+ PRO 495,把统一内存架构做到单机可跑本地大模型推理,这类"智能体主机"给中型企业提供了低成本试水的路径,先在部门级跑通再谈全公司铺开。


[b]五、冷静看,机会还没完全兑现[\/b]


需要提醒的是,智能体的商业化仍在早期。大量企业的智能体项目停留在概念验证阶段,真正进入生产环境的比例有限。算力厂商描绘的"智能即基础设施"愿景很宏大,但从"提供算力"到"生产智能"的转变,中间隔着组织流程、数据治理、责任划分等一堆非技术问题。


正如业内一句话所说:现在不是缺算力的问题,是缺"知道用算力干什么"的问题。先把业务场景想清楚,再谈扩容,可能是2026年最务实的建议。


(本文信息整理自2026年8月至10月公开报道,数据以厂商及媒体公开信息为准。)

回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

得知互动是一个融创意、设计、开发、营销、生活、互联网于一体的专业交流分享平台。
Copyright © 2026 得知互动-专注Ai与站长技术交流社区-Ai交流平台 版权所有 All Rights Reserved. Powered by Discuz! X5.0 鄂ICP备15006301号-5|鄂公网安备 42018502006730号
关灯 在本版发帖 扫一扫添加QQ客服 返回顶部
快速回复 返回顶部 返回列表