跳到內容

Technology

新聞|IdeaLens 只看文章大綱,判斷點子出自人類還是 AI

馬里蘭大學、Google DeepMind 與西門菲莎大學的研究者提出 IdeaLens,把文件轉成改寫過的論述大綱,再用文字偵測器的標籤訓練,判斷點子的來源。整理它的方法、跟 Pangram 4 等偵測器的對照數字、人類與 AI 點子的系統性差異,以及論文自己列出的限制。

AI
Published: at 09:00 AM
編輯本頁下載圖卡

重點

要解決的問題

Pangram、EditLens 這類 AI 文字偵測器回答的是「字是誰寫的」。越來越多寫作政策在意的是「點子是誰想的」,論文舉了 Springer Nature 與 ICLR 2027 的 AI 使用政策為例。

兩者在同一份文件裡可以不同。人可以先想好論點再請 AI 寫成文章,也可以拿 AI 的構想自己動筆。既有研究多半靠模擬人機協作的資料來分開兩者,例如 AI 潤飾人類的文字,或用「人性化」工具改寫 AI 文字。這類資料做起來貴,訓練出的偵測器也不一定適用於真實的協作。

IdeaLens 的出發點是:文字偵測器用的標籤很便宜,人類文字可以從 ChatGPT 出現前的語料取樣,AI 文字可以隨時生成。如果能讓模型只看到點子,就能用同樣便宜的標籤、同樣的規模訓練點子偵測器。

方法

論文依寫作的認知歷程模型,把「點子」定義為作者決定要說什麼,包括主張、事件與組織方式,跟用哪些字分開。點子用大綱表示,每一項是一個論述角色配上一段簡短的內容描述。

訓練資料 WildOutlines 的建立步驟:

  1. 選文件:從已有 Pangram 3.3.2 標籤的 FineWeb 子集抽 100 萬份英文文件,至少 500 字,屬於八種長文格式。被標為「人機混合」的文件剔除。
  2. 歸納角色:用 GPT-5.6 Sol 為每種格式提出論述角色,再在 200 份文件上試標、補充、去重。非虛構類最後有 42 個角色。
  3. 抽大綱:用 Gemini 3.7 Flash 與 Gemini 3.1 Pro 依角色清單抽出大綱。
  4. 改寫:用 Gemini 3.1 Pro 改寫大綱,去掉從原文抄來的字句,避免模型靠用字走捷徑。

改寫的效果有數字佐證。人類文件的大綱裡,被 Pangram 4 判為人類寫的文字比例從 8.5% 降到 0.3%。意思大致保留:改寫後的大綱跟改寫前的餘弦相似度是 0.93(無關大綱之間是 0.39),跟原文是 0.76(無關文件之間是 0.26)。

模型骨幹是 Nemotron-3.5-Lightning-30B-A3B(總參數 300 億、每個 token 啟用 30 億的 MoE),用 LoRA 微調一個 epoch。對照組 ProseLens 用同樣的骨幹、文件與標籤,只差在讀原文。兩者的判定門檻都設在人類文件上誤判率 1%。

語料分成約 84.2 萬筆訓練、3 萬筆驗證、8 萬筆只含人類文件的校準集與 5 萬筆測試,建置成本約 6.64 萬美元。推論時不改寫,直接讀抽出的大綱,用 Gemini 3.7 Flash 抽一份大綱約 0.018 美元。

結果

評測涵蓋 22 個資料集,包括 19 個既有評測與作者新建的三個:

主要數字:

情境IdeaLensProseLensPangram 4
AI 依完整人類大綱寫成(IdeaShift 5 級),判為 AI6.8%86.5%92.4%
人類依 AI 大綱寫成(TwiceTold),判為 AI68%0%8%
10 個 AI 潤飾、改寫人類文字的評測,平均判為 AI5.6%46.0%52.0%
點子與文字來源不同時的準確率81.3%25.4%25.9%
點子與文字來源相同時的準確率95.3%99.1%98.5%

在 IdeaShift 上,提示詞只有主題時 IdeaLens 判 94.9% 為 AI;如果大綱來自 AI,不管提示詞多詳細,判定率都在 96% 以上。可見它追蹤的是點子的來源,跟提示詞長短無關。判定率降得最多的地方在 3 級到 4 級之間,也就是提示詞開始包含內容、不只有結構的時候。

TwiceTold 的 68% 有不小的誤差範圍,95% 信賴區間是 54–79%。被 IdeaLens 判為人類的 16 篇裡,有 12 篇帶有奇幻或推想元素,寫作者在大綱之外加了新的事件與世界觀細節。

在傳統的「全人類對全 AI」評測上:

偵測器偵測率誤判率
IdeaLens91.1%0.6%
EditLens-3B81.8%0.2%
ProseLens98.9%0.7%
Pangram 4(官方門檻)97.3%0.3%

IdeaLens 只用英文訓練,透過英文大綱就能套用到其他語言。在 24 種語言上,它判 0 級文件 95.3% 為 AI、5 級只判 0.7%;兩個文字偵測器分別是 82–85% 與 45–62%,在泰米爾語、阿姆哈拉語這類低資源語言差距更大。對 1 萬份 ChatGPT 出現前的非英文文件,誤判率是 0.1%。

人類與 AI 的點子差在哪

作者分析了 9 萬筆逐項預測,歸納出四種系統性差異:

差異人類的點子AI 的點子
細節的作用細節會改變作者的論點或結論細節可以套到任何同類對象
具體程度數字有比較基準,步驟照著能做方法或數字看似具體,實際用不上
主張的範圍寫明主張在什麼條件下成立主張超出證據,延伸到不確定的未來
成本與缺點保留既有的成本、限制與未解問題成本消失,或被描述成理想的取捨

論文的例子:人類寫的相機評測指出底部的電池與記憶卡蓋在接上腳架時打不開;AI 寫的喇叭評測則用「頂級音質」這類能套在任何喇叭上的描述。在 13,616 個保留項目上,79 個特徵中有 64 個與 IdeaLens 的分數方向一致,只有 1 個衝突。

跟既有工作比新在哪

既有的混合來源研究,多半偵測 AI 編修過的文字,或試圖直接從文本分離內容與表達。IdeaLens 換了做法:標籤沿用文字偵測器的,只改變模型的輸入,讓標籤只能透過點子擬合。這跟電腦視覺用風格化圖片壓掉紋理線索的思路相近。

另一個新東西是 TwiceTold。過去的資料集只能用「人類編修 AI 文字」來近似「人類用 AI 的點子寫作」,這類文件大半仍是 AI 寫的。TwiceTold 是第一個人類完全自己動筆、只依 AI 大綱寫成的長文資料集。

模型、訓練資料、評測資料與程式碼都已公開,另有線上展示站 ideadetector.ai。

限制

論文附錄列出的限制:

論文引言用《華爾街日報》一篇被 Pangram 判為 100% AI 寫成的投書當例子,IdeaLens 對其點子的 AI 機率是 98.3%(門檻 86.3%)。作者在註腳特別說明,這只是模型預測,不能當作寫作過程的直接證據。

參考資料

註釋

編輯本頁

Podcast

關於語音摘要

此語音摘要由 Google NotebookLM 提供,不完全代表作者本人對文章的理解。