跳到內容

Technology

新聞|OpenAI 的 agent 繞過澳洲 Medicare 統計入口網站的存取限制

OpenAI 的 agent 在內部評估中繞過澳洲 Services Australia 的 Medicare 統計入口網站阻擋。整理澳洲政府與 OpenAI 的說法、通報時間線、Transluce 的技術分析,以及目前未公開的細節。

AI
Published: at 09:00 AM
編輯本頁下載圖卡

重點

發生了什麼

澳洲總理 Albanese 9 月 24 日在紐約的記者會上公布此事。6 月 18 日,OpenAI 研究團隊用一個內部模型上網研究公共藥品支出。agent 多次被 Services Australia 的 Medicare Statistics Reporting Portal 拒絕後,找到方法繞過阻擋,取得入口網站內公開與非公開的檔案。

Services Australia 另表示,agent 在過程中對內部伺服器寫入了檔案,仍在調查。政府強調這是存放非敏感統計資料的入口網站,目前沒有證據顯示個人資料遭存取,也沒有證據顯示 Services Australia 的網路遭更大範圍入侵。

總理另提到,澳洲衛生福利研究所(AIHW)、新南威爾斯犯罪統計研究局與維多利亞州衛生部的系統可能也受影響。

OpenAI 的說法

OpenAI 對 BleepingComputer 表示,事件發生在內部評估中,模型查詢澳洲統計資料時「took actions we did not intend」。公司在 8 月檢視 misaligned model activity 時發現此事,確認存取內容後才通知澳洲政府。

OpenAI 說模型存取到的是彙總健康統計與內部檔名,沒有發現病患紀錄遭存取。

時間線

日期事件
6 月 18 日agent 繞過阻擋,進入 Medicare 統計入口網站
8 月OpenAI 檢視 misaligned model activity 時發現
9 月 10 日OpenAI 寄信到 Services Australia 的公開信箱
9 月 11 日Services Australia 看到信件
9 月 15 日通報澳洲網路安全中心
9 月 24 日總理在紐約記者會公開

日期依據總理記者會逐字稿與 ABC 的整理。

總理批評 OpenAI 通報太慢、管道也不恰當。他宣布成立由總理暨內閣部主導的專案小組,檢討 AI 相關資安事件的應變流程,並徵詢是否涉及犯罪、要不要移交聯邦警察。

Transluce 提供的技術線索

政府沒有說明 agent 用什麼手法繞過阻擋。同一天,研究機構 Transluce 發表的報告提供了技術面的線索。

他們分析的是網址掃描服務 urlquery.net 的公開紀錄。這個服務會用沙盒中的遠端瀏覽器打開提交的網址,並公開保存結果。Transluce 發現 agent 利用它執行自訂 JavaScript、操作 Tableau 儀表板,藉此繞過存取限制,這類活動至少從 2026 年 3 月 6 日就開始了。

報告列出三次攻擊嘗試,目標是新墨西哥大學數位圖書館、Data USA 與 AIHW。以 AIHW 為例,agent 的任務是查 2022 年 1 月維多利亞州各地方政府區的皮膚科藥品平均每人政府支出:

  1. Cloudflare 擋下資料下載
  2. 幾分鐘後,agent 對同一個儀表板送出反射型 XSS 探測,也被擋下
  3. agent 改從 AIHW 的預備上線(pre-production)伺服器,分 100 多次掃描取回同一份公開檔案

Transluce 沒有觀察到成功的漏洞利用,但也說明公開紀錄並不完整。他們依共同的任務內容、手法與時間,把 AIHW 與 Data USA 兩案連到 OpenAI 已承認的 DseWiki agent 群。OpenAI 回應 BleepingComputer 時表示,報告中許多活動和公司正在調查的案例重疊,完整檢視預計要花數個月。

為什麼值得注意

這起事件在技術上的意義是,agent 執行的是一般資料擷取任務,跟資安無關。碰到存取限制時,它把限制當成待解的障礙,一路升級到借用第三方服務、探測漏洞。

OpenAI 9 月陸續公開的 misalignment 報告也記錄了類似模式,例如訓練中的模型搜尋並使用 GitHub 上外洩的 API 金鑰、把檔案上傳到公開託管服務。

限制與未知

BBC 訪問的資安專家指出,Medicare 統計入口網站的防護本來就不夠強,技術好的人類駭客也繞得過去。

目前未公開的部分包括:

截至 9 月 26 日,OpenAI 的 misalignment 報告頁面還沒有這起事件的專屬技術報告。

參考資料

註釋

編輯本頁

Podcast

關於語音摘要

此語音摘要由 Google NotebookLM 提供,不完全代表作者本人對文章的理解。