图书信息
内容简介
对 arXiv cs.DC 分类的年度综述,涵盖 2025 年 9 月 至 2026 年 8 月 期间发表的研究。本卷基于对 132 篇论文 的细读整理,组织为 37 章,按该领域的研究子方向描绘这一年的全貌。
全书框架(年度产出占比):
- 通信高效的并行训练与推理 (13.4%) — 通过高效并行与压缩技术,最小化通信开销、内存占用与能耗,优化分布式训练与推理系统。
- 智能体 AI 系统与高性能计算工作流编排 (12.7%) — 在高性能计算环境中设计智能体 AI 与混合人机协作框架,以优化复杂、计算密集型工作流。
- 分布式量子计算与图算法 (11.7%) — 为量子计算、图处理与容错系统发展分布式算法,以增强去中心化网络的可扩展性与安全性。
- 多智能体一致性与资源调度 (10.5%) — 处理多智能体系统、多租户环境与无服务器架构中的调度、一致性与资源分配挑战。
- 隐私保护联邦学习系统 (10.3%) — 为去中心化数据增强联邦学习框架,引入隐私保护机制、能效与稳健的客户端级分歧消解。
- 高性能计算架构与分析 (8.4%) — 分析并优化高性能计算架构,包括 GPU 内核、众核平台与百亿亿级系统的性能诊断。
- GPU 集群管理与加速计算 (8.3%) — 优化 GPU 集群编排、多 GPU 仿真与异构资源分配,以最大化加速计算的吞吐与可靠性。
- 解耦式大语言模型服务与键值缓存优化 (7.4%) — 通过解耦架构、键值缓存管理、推测解码与 SLO 感知调度,提升大语言模型服务效率。
- 边缘-云连续体与自适应资源管理 (7.4%) — 在边缘-云连续体中管理自适应资源分配与任务调度,以平衡分布式应用的延迟、可靠性与成本。
- 大规模大语言模型训练与基础设施优化 (6.8%) — 优化大规模语言模型训练与推理的基础设施与调度,包括仿真、策略修复与分布式优化。
- 高效大语言模型推理与推测解码 (3.1%) — 通过推测解码、专家混合优化与硬件感知内存管理,降低边缘与超级芯片上大语言模型推理的延迟与能耗。
每个子方向均通过三章展开论述——它如何提出自己的问题、其关键结论的强度,以及它开放的争论与前沿,从而让读者获得该领域今年实际产出的可溯源图景。