商汤大装置日均6万亿Token服务背后，异构推理集群如何提升效能？

商汤大装置通过PD分离与异构混合调度构建万卡级集群，在相同高端卡条件下将Token吞吐量提升至5倍。其平台日均Token服务量达6万亿，预计2026年Q4将增至10万亿。此前AI基础设施竞争主要依赖算力规模，现转向通过架构创新提升高质量Token产能。