新浪新闻

闲置算力利用率仅11%,AI企业如何平衡资源浪费与价值创造的双重挑战?

BigNews 05.10 07:46

面对AI行业高达30%-40%的算力闲置率(极端情况仅11%),企业正通过技术革新、模式创新和政策协同破解资源浪费困局,将算力转化为实际生产力。

一、技术创新:提升硬件利用效率

软件定义算力

华为通过Flex:AI容器技术实现跨品牌GPU/NPU算力池化,将单卡资源切分至10%粒度,支持多任务并发运行,利用率从30%-40%提升至70%,相当于硬件效能翻倍。该方案已开源,兼容英伟达、昇腾等异构芯片,无需改造现有基础设施。

算法与架构优化

模型轻量化:京东JoyAI-LLMFlash通过自适应专家裁剪算法减少33%参数量,推理速度提升49%;月之暗面(Kimi)采用注意力残差技术降低无效算力消耗。

推理控制优化:通过反思抑制机制(RIRM)减少AI“过度思考”,避免生成冗余Token。

二、模式创新:构建灵活算力生态

算力银行与超市

工信部2026年推动“算力银行”支持企业存入闲置算力,跨区域调度获取“利息”;“算力超市”提供菜单化服务,支持按卡时、核时及Token计费,中小企业算力成本降低30%-50%。上海“模速空间”等平台已实现下楼即购算力。

算力租赁普及

90%的AI初创公司选择租赁而非自建,单卡月成本控制在2.5万内。头部服务商(如利通电子、首都在线)通过规模化采购和智能调度,将闲置算力复用率提升至78%。

分布式共享平台

Free Qwen3等分布式算力平台整合家用电脑高端显卡资源,免费提供大模型API,让闲置算力创造商业价值。 【#3分钟看懂算力银行算力超市##算力银

三、系统级优化:全链条降本增效

绿色算力协同

西部数据中心利用风电、光伏等绿电直供,结合“东数西算”调度,电力成本降至欧美1/3。液冷技术(如英维克方案)降低数据中心PUE值,能耗减少22%。

边缘计算减负

在工厂、医院部署训推一体机,本地处理实时任务。华为FusionCubeA1000将AI应用上线周期缩短80%,减少云端算力依赖。

四、政策与生态支撑

工信部专项行动明确至2028年建成普惠算力体系,通过“算力券”补贴降低中小企业门槛;高校与龙头企业开放数据接口,共建验证平台加速技术转化。

关键成效对比

方案 利用率提升 成本降幅 典型案例
软件定义算力 30%→70% 硬件采购降50% 华为Flex:AI
算力银行调度 闲置资源复用40% 中小企业省30% 上海模速空间
模型轻量化 推理速度+49% Token消耗降80% 京东JoyAI-LLMFlash
绿电+液冷方案 能耗降22% 电力成本降65% 青海数据中心

(以上内容均由AI生成)

加载中...