圖書信息
內容簡介
AI 安全威脅模型與對抗性評測：AI 實驗室如何圍繞危險展開競爭 —— 本冊為《智能體走進現實》系列中關於自主人工智能前沿的綜述。
全書框架（章節主題）：
- 緒論 —— AI 安全威脅圖景與本綜述的範疇
- AI 安全的核心概念與理論框架
- 對齊問題的形式化表述及其理論困難
- 大語言模型安全威脅的分類學與威脅建模
- 越獄攻擊與提示注入：機制、變體與檢測
- 多模態模型的安全威脅與跨模態攻擊面
- 智能體安全：工具使用、自主行動與運行時防護
- 安全對齊的後訓練優化與微調風險
- 推理時安全擴展與計算效率的權衡
- 安全評測基準的構建、分類與一致性分析
- 物理安全與具身智能系統的威脅評估
- 對抗性機器學習：攻擊機制與防禦策略
- 機制可解釋性在安全驗證中的應用
- 紅隊測試與威脅展示競賽的方法論
- 安全護欄與運行時監控機制
- 人類監督與社會技術系統的安全威脅建模
- 信息物理系統與自動駕駛的安全威脅
- 超級智能的存在性風險與安全治理
- 安全評估的前沿挑戰與開放問題
- 未來方向：從威脅展示到安全工程範式
目標讀者。 具備機器學習與安全工程基礎、希望系統瞭解 AI 安全威脅、防禦機制與評估方法論的人工智能領域研究者、工程師與進階愛好者。
---
