圖書信息
內容簡介
對 arXiv cs.DC 分類的年度綜述,涵蓋 2025 年 9 月 至 2026 年 8 月 期間發表的研究。本卷基於對 132 篇論文 的細讀整理,組織為 37 章,按該領域的研究子方向描繪這一年的全貌。
全書框架(年度產出佔比):
- 通信高效的並行訓練與推理 (13.4%) — 通過高效並行與壓縮技術,最小化通信開銷、內存佔用與能耗,優化分佈式訓練與推理系統。
- 智能體 AI 系統與高性能計算工作流編排 (12.7%) — 在高性能計算環境中設計智能體 AI 與混合人機協作框架,以優化複雜、計算密集型工作流。
- 分佈式量子計算與圖算法 (11.7%) — 為量子計算、圖處理與容錯系統發展分佈式算法,以增強去中心化網絡的可擴展性與安全性。
- 多智能體一致性與資源調度 (10.5%) — 處理多智能體系統、多租戶環境與無服務器架構中的調度、一致性與資源分配挑戰。
- 隱私保護聯邦學習系統 (10.3%) — 為去中心化數據增強聯邦學習框架,引入隱私保護機制、能效與穩健的客戶端級分歧消解。
- 高性能計算架構與分析 (8.4%) — 分析並優化高性能計算架構,包括 GPU 內核、眾核平臺與百億億級系統的性能診斷。
- GPU 集群管理與加速計算 (8.3%) — 優化 GPU 集群編排、多 GPU 仿真與異構資源分配,以最大化加速計算的吞吐與可靠性。
- 解耦式大語言模型服務與鍵值緩存優化 (7.4%) — 通過解耦架構、鍵值緩存管理、推測解碼與 SLO 感知調度,提升大語言模型服務效率。
- 邊緣-雲連續體與自適應資源管理 (7.4%) — 在邊緣-雲連續體中管理自適應資源分配與任務調度,以平衡分佈式應用的延遲、可靠性與成本。
- 大規模大語言模型訓練與基礎設施優化 (6.8%) — 優化大規模語言模型訓練與推理的基礎設施與調度,包括仿真、策略修復與分佈式優化。
- 高效大語言模型推理與推測解碼 (3.1%) — 通過推測解碼、專家混合優化與硬件感知內存管理,降低邊緣與超級芯片上大語言模型推理的延遲與能耗。
每個子方向均通過三章展開論述——它如何提出自己的問題、其關鍵結論的強度,以及它開放的爭論與前沿,從而讓讀者獲得該領域今年實際產出的可溯源圖景。