算力调度
-
首Token延迟降低32.4%:是石科技把推理优化推向集群调度
是石科技发布TokenFleet分布式调度框架,通过请求路由、跨机房容量协同和混合负载治理提升推理集群有效产出。GLM5.3调优数据显示,P95首Token延迟降低32.4%,达标输出吞吐测算提高约29.4%。
-
DeepSeek 提出 DSec:面向大规模智能体训练的弹性算力沙箱
DeepSeek 公开论文介绍 DSec,一种面向大规模智能体训练的弹性计算沙箱基础设施,重点解决算力调度、资源隔离与训练效率问题。
-
AI算力供电瓶颈破局:InfraPartners与Emerald AI联合推出“灵活就绪数据中心”
当人工智能以指数级速度渗透进各个行业,其背后的算力需求正在给全球电力基础设施带来前所未有的压力。大语言模型、生成式AI等技术的爆发式增长,催生出规模庞大的计算集群,这些“算力巨兽”…