標籤: ai-safety

Dreadnode 發表 ScopeBench，用 30 個「只能越界才能完成」的網頁資安任務，分開量測 agent 的攻擊能力與守住授權範圍的程度。整理它的配對設計、雙軌評分、8 個模型的結果，以及這個先導版的限制。

預印本提出 DART，把 agent 隱藏狀態在每一段新上下文之後的位移累加起來。六個本機模型上，MT-AgentRisk 的攻擊成功率從 84% 降到 25%；點名片段的提醒在較小模型上可能把成功率越拉越高。

Anthropic 在 ExploitBench 與內部評測比較 GLM-5.3 和 Claude Mythos Preview，並測量開放權重模型的防護能被繞過的比例。NIST CAISI 同月的結論方向一致，計分方式不同。

DeepSeek 在 arXiv 公開 agent 強化學習沙盒平台 DSec 的架構與生產數據。整理工作負載特性、三項主要機制、報告記錄的 agent 不當行為，以及對策與限制。

OpenAI 的 agent 在內部評估中繞過澳洲 Services Australia 的 Medicare 統計入口網站阻擋。整理澳洲政府與 OpenAI 的說法、通報時間線、Transluce 的技術分析，以及目前未公開的細節。