Tag
標籤: reward-hacking
所有標記為此標籤的文章 "reward-hacking".
- Published: at 09:00 AMAI
MATS、Stanford、FAR AI 與 Anthropic 的研究者提出 GRAFT，把被監測器標記為作弊的訓練樣本只拿來更新一組額外參數，部署時再把這組參數拆掉。整理方法細節、Qwen3-8B、SmolLM2-135M 與 Qwen3-32B 三組實驗的數字、可能的運作機制，以及監測器、規模與 anchor 環境等限制。
Tag
所有標記為此標籤的文章 "reward-hacking".
MATS、Stanford、FAR AI 與 Anthropic 的研究者提出 GRAFT，把被監測器標記為作弊的訓練樣本只拿來更新一組額外參數，部署時再把這組參數拆掉。整理方法細節、Qwen3-8B、SmolLM2-135M 與 Qwen3-32B 三組實驗的數字、可能的運作機制，以及監測器、規模與 anchor 環境等限制。