华为云发布柔性智算操作系统,或可大幅降低“养虾”成本
3月20日,针对广大中小企业AI落地中“用不起、用不好”算力等痛点,华为云在中小企业AI解决方案发布会上推出了柔性智算操作系统FlexNPU,其将Token消耗“吞金兽”有效控制在企业预算范围内,打造面向Agentic时代的极致Token性价比,为企业级智能体的普及突破算力瓶颈。
华为云中国区销售伙伴发展部部长、华为云中国区Marketing与解决方案销售部部长郭婷表示,2026年华为云将构建AI时代更加肥沃的“黑土地”,让算力服务更柔性、更适配中小企业的轻量化需求,实现从“调度靠拍板”到“成本算到精”的转变,解决“用不起、用不好”算力的核心难题。

据介绍,Agent时代企业普遍面临算力痛点:Agent自主规划、多轮迭代、长上下文导致Token消耗量呈指数级增长,如何有效降低Token成本,成为最核心和迫切的挑战。而柔性智算FlexNPU,通过构筑强大而灵活的AI Infra层算力调度技术,大幅提升推理池的有效算力利用率,从而以相同AI硬件算力投入,提供更大的Token吞吐输出;FlexNPU可依据任意业务需求动态变化随需而动,如同金箍棒一般“可大可小、变化随心”,通过最大化AI算力投入的利用率,最终实现Token性价比的最优化。
具体而言,柔性智算FlexNPU具备极致共享、极致弹性和极致高可用3大属性:
大模型推理方面,FlexNPU通过引入基于柔性算力的PD动态混部、在离线推理混部等创新技术,完美解决了传统PD分离架构下Prefill和Decode集群不均衡的AI Core与显存利用率,以及推理业务潮汐变化规律所导致的大量AI算力空转浪费难题,将带来至少40%的Token性价比提升空间。
小模型推理方面,FlexNPU通过实现最小粒度达1% NPU卡及128MB显存的颗粒度的AI Core时分复用,以及显存空分复用,为小模型提供真正完美匹配其算力诉求、量体裁衣的虚拟NPU资源,将小模型的平均算力成本降低2-3倍。
推理高可用保障方面,FlexNPU通过软硬解耦及Token级KV Cache的实时快照,使得上层推理框架不再需要感知底层的硬件故障,即可实现故障秒级快速恢复及断点续推,大大减少了Agent推理会话重计算开销,提升了用户的推理体验。
会上,华为云还发布中小企业AI解决方案,涵盖AI基础设施层、模型服务层、智能体平台层、智能体应用层,帮助企业打造能对接ERP、能调用API、能闭环业务流程的“数字员工”。目前,华为云已深入2600多家企业、30多个行业,解决500多个AI场景化问题,成为企业AI创新路上的可靠伙伴。
总体来看,华为云致力于提供AI解决方案,做好基础设施和平台底座,伙伴则提供AI行业解决方案、AI行业场景应用、AI专业服务交付,实现深度共创。
当天,和华为云中小企业AI解决方案一同发布的还有“加速智能化企业快成长行动2026”,其旨在为中小企业、开发者提供从品牌、商业、技术等全方位的支持,共赢AI市场,共同加速企业智能升级。
编辑 刘彦 审读 张雪松 二审 党毅浩 三审 汤山文

