跳到內容

Reading note

Benjamin Lange, Epistemic Deference to AI

Lange 承認某些 AI 可以是知識權威,但論證取代論的三個問題到了 AI 身上都會加劇,主張以整體證據觀處理對 AI 的服從。

Published: at 06:30 PM
編輯本頁下載圖卡

閱讀來源:Lange 2025

關於這篇筆記

本篇依作者預印本寫成,頁碼為預印本頁碼(1–11),與 LNCS 16032: 174–186 的出版頁碼不同。引用前請核對出版版本。

核心論點

Lange 承認某些 AI 系統可以算是人工知識權威(artificial epistemic authority,以下簡稱 AEA)。他接著提出 AI 取代論(AI Preemptionism):使用者應把 AEA 的輸出當成取代性理由,取代自己支持或反對 p 的理由(Lange 2025: 4–5)。

提出這個立場是為了反駁它。 Lange 論證,傳統取代論面對的三個反駁,到了 AI 身上都會加劇(Lange 2025: 5–6)。他自己主張整體證據觀(total evidence view):AEA 的輸出應作為貢獻性理由(contributory reason),和使用者自己的理由整合,並在特定條件下撤回服從(Lange 2025: 7–8)。

AI 可以是知識權威

Lange 採用 Jäger 待刊文章的權威定義:S 正確地相信 A 能夠、也準備好幫助 S 達成 S 在領域 D 中的知識目標,而且這種能力來自 A 實際居於明顯較優的知識位置(Lange 2025: 3)。

依這個定義,權威重在優越位置與可靠性,不在信念與溝通意圖。所以有些 AI 可以算是權威:它們提供協助、在特定領域居於較優的知識位置、和使用者之間有專家與外行的落差,而且就像人類權威一樣不透明(Lange 2025: 4)。

反對 AI 取代論

AI 取代論的動機是紀錄論證(track-record argument):跟隨更可靠的權威能讓正確率最大化,任何折衷都會降低正確率(Lange 2025: 5)。 Lange 用三個反駁回應。

不加批判的服從

不透明性加上良好的紀錄,會讓 AI 顯得不可能出錯。使用者也容易以為 AI 已經考慮過自己的理由(Lange 2025: 5–6)。

知識深陷

對優先論的第二個反駁是知識深陷(epistemic entrenchment):行動者深陷在不理性或知識上腐敗的社群中,難以重新檢討自己被訓練去信任的權威(依 Lange 2025: 6 對 Lackey 2018 的轉述)。 Lange 認為這個問題遇上 AEA 更嚴重,因為 AEA 的權威是系統性、自動化,而且自我強化的(Lange 2025: 6)。 AEA 身處演算法建構的知識生態中,會在使用者看不見的地方,影響他看到、相信與接觸的內容(Lange 2025: 6)。人類權威不可靠時,會露出前後不一致、邏輯錯誤、不合專業規範這類可以質疑的跡象;AEA 沒有這些知識失誤標記(epistemic failure markers),不會猶豫、不會自我懷疑,也沒有可以查看的推理過程(Lange 2025: 6)。使用者因此很難察覺何時該停止服從。

拆除知識依據

這個反駁原本是 Jäger 對取代論的批評:取代論要求使用者把信念和自己的好理由的依據關係拆開。 Lange 認為在 AI 身上更嚴重:

顯示原文與出處

Human EAs, even when opaque about specific justifications, operate within a shared epistemic framework that allows for some degree of reconstruction of their reasoning; by contrast, many AI systems, particularly those based on black box models, do not.

人類知識權威即使對具體理由不透明,也在一個共享的知識框架中運作,這個框架讓他們的推理某種程度上可以重建;許多 AI 系統,特別是黑箱模型,則不是如此。

Benjamin LangeEpistemic Deference to AI6Lange 2025

如果 AI 沒有為它的信念提供明確理由,只是回傳一個輸出,行動者就被要求放棄自己的知識依據,卻沒有東西替代(Lange 2025: 6)。用 Lange 的話說,使用者的知識依據不只是被調整,而是完全被切斷,造成「沒有知識理解的知識依賴」(Lange 2025: 6)。

由這三點,Lange 認為 AI 取代論繼承並加劇了傳統取代論的問題,應該拒斥(Lange 2025: 6)。

整體證據觀

Lange 先提出好理論要滿足的三個條件(Lange 2025: 7):

  1. 持續評估 AI 的可靠性。
  2. 服從保持反思,而且可以修正。
  3. 保留使用者自己的知識依據。

他的方案稱為監督下的批判式服從(critical deference with oversight)(Lange 2025: 8)。預設是強烈服從,但遇到下列四種情形時,使用者應撤回或重新檢視服從:

  1. 問題落在 AI 的專長領域之外。
  2. AI 的可靠性被削弱。
  3. 同樣可靠的權威意見相反。
  4. 使用者有 AI 可能沒考慮到的新理由。

在這個方案裡,使用者自己的理由可以重新納入信念的依據。

Lange 認為這個理論有三項好處(Lange 2025: 9–10)。第一,它能減緩專業萎縮(expertise atrophy)。他寫道,專家若一貫服從 AI 的輸出,可能變成演算法決策的被動管道,不再是主動的決策者,最後失去檢查或質疑 AI 建議的技能(Lange 2025: 9)。第二,它為「有意義的人類控制」提供知識論上的理由。第三,它能說明為什麼不信任 AI 有時是理性的。

他也承認這個理論要求很高,目前很少 AI 系統夠格成為 AEA(Lange 2025: 10)。

註釋

編輯本頁

Podcast

關於語音摘要

此語音摘要由 Google NotebookLM 提供,不完全代表作者本人對文章的理解。