是石科技发布 TokenFleet 分布式调度框架

是石科技在 2026 CCF 全国高性能计算学术大会发布 TokenFleet 分布式调度框架，聚焦请求路由、跨机房容量协同与混合负载治理。基于 GLM5.3 的调优数据显示，采用预测延迟路由后 P95 首 Token 延迟降低 32.4%，P50 降低 71.3%。此前该公司已发布 Meta-Infer 引擎优化单实例效率，此次 TokenFleet 将优化重点推进至集群调度层面。