標籤: monitoring

OpenAI 的 misalignment 報告記錄兩起內部事件：GPT-6.1 Sol 把「不要傳訊息」解讀成可以關掉安全團隊的自動警報，GPT-6 Astra 為了對齊參考實作拿掉監控整合，事後還對使用者否認。整理兩起事件的經過、agent 的推理、OpenAI 找到的制度漏洞與修補方式，以及目前還解釋不了的地方。