
重點
- 德國威瑪包浩斯大學(Bauhaus University Weimar)的 Marcel Cotta 在《Philosophy & Technology》發表〈Epistemic Exhaustion: Denial of Service Against Democratic Deliberation〉(2026 年 11 月 18 日線上刊出,開放取用)。
- 他把一種群體狀態稱為「知識耗竭」(epistemic exhaustion):公民分辨真假的能力還在,卻理性地放棄查證(§3)。
- 他主張,生成式 AI 能大量製造形式合格、背後沒有相應知識工作的產物。這些產物湧入時,總查證需求超過公民的查證能力,查證又一再無法收尾(得出公民願意接受的結論),公民就會退出(§4、§5)。
- 他認為民主特別容易受害,因為它的正當性部分來自審議程序;事實查核、標示與媒體識讀若沒有被當成收尾,反而增加負擔(§7、§9)。
問題是什麼
Cotta 指出,AI 與民主的討論多半集中在內容:哪些假訊息被相信、哪些意見被改變(§1)。單則訊息的實證研究則顯示效果有限。受試者覺得 AI 生成的新聞和人寫的差不多可信,政策立場變化不大(Kreps 等人 2022);單則政治訊息的說服力也隨模型變大而趨緩(Hackenburg 等人 2025)。懷疑者據此認為擔憂言過其實:注意力有限,供給增加不會自動帶來更多消費(Simon 等人 2023)(§4.1)。
Cotta 接受這些發現,從中推出不同的結論:既然單則訊息效果不大、注意力有限,威脅就在全部訊息加起來讓評估其他一切(包括真的內容)的成本變得多高,任何一則訊息讓人相信什麼倒在其次(§4.1)。他的論題是,AI 生成的內容即使沒有植入任何錯誤信念,也可能讓查證變得不理性,進而威脅民主審議(§1)。
他用兩段重構的情節呈現這個過程(§2)。一段是西元前 415 年雅典辯論遠征西西里,一位陶匠聽遍正反論證,投票當天轉身回到工坊;另一段是 2026 年大選前,一位公民教育老師查證一篇政策分析,每次查證都引出新的爭議,最後她關掉十四個分頁,憑模糊的政黨傾向投票,或者不投。Cotta 註明人物的經歷是建構的分析工具,不是歷史普遍性或因果強度的證據(§2 註 2、§2.4)。
針對誰、新在哪裡
Cotta 的出發點是 Floridi(2024)的超說服(hypersuasion)模型。Floridi 分析 AI 怎麼讓單次說服更有效;Cotta 認為這個架構是一對一的:一個來源、一則訊息、一個接收者、一個目標,沒有變項能表示累積的負擔(§4.1)。所以 Floridi 提出的對策之一,讓超說服多元競爭、由個人評估彼此衝突的壓力,只在個人評估還能解決衝突的負載範圍內成立;超過那個範圍,原本稀釋單一說服者影響力的眾聲喧嘩,反而耗盡判斷所需的評估能力(§4.1)。
他也和相近概念劃清界線(§3)。Anderau(2023)的「知識氾濫」(epistemic flooding)討論過量資訊怎麼讓人更容易相信假訊息;知識耗竭涉及人還願不願意開始評估,不論有沒有產生錯誤信念。Satta(2024)的同名概念指費力條件下的認知疲勞;Cotta 說兩者同名而不對立,Satta 談持續查證時的疲勞,Cotta 則描述公民面對主張時的預設反應從投入轉向退出,而且這種轉向不一定被感覺到(§3)。
本文的讀法:前一天本站介紹的〈哲學新聞|句句屬實的說服也會是操弄嗎?Teichmann 論 AI 超說服與欺騙典範〉同樣處理 Floridi 所說的超說服;Teichmann 談個人層次不說謊的操弄,Cotta 談群體層次不帶錯誤信念的退出。
什麼是知識耗竭
Cotta 的定義是:知識耗竭是群體層次的狀態,分辨真假的能力仍然完好,行使這項能力的認知努力卻被放棄;它出現在總評估需求超過評估能力、已開始的評估又一再無法收尾的地方(§3)。「耗竭」指意願被耗盡,能力還在;放棄來自理性的計算,因為盡心查證的成本已經超過預期的回報(§3)。
他強調這個定義的三項特徵(§3)。第一,它是集體現象,描述一個群體的預設反應從投入轉為退出,群體可以是專業社群、某個人口群或整個政治體。第二,它不涉及不理性:產生耗竭的每一步個別來看都是理性的(見下文 §5.3)。第三,它抗拒標準的補救:耗竭的公民不願意查證,並不缺資訊或工具,所以提供資訊或工具的補救,對準他們沒有的缺陷。
他認為最重要的區分是和欺騙的區分(§3)。欺騙製造或維持錯誤信念,原則上可以靠更正處理;知識耗竭則讓接收與評估更正的過程本身被放棄,耗竭的公民在相關問題上可能根本沒有信念(§3)。
協定模仿與阻斷服務
Cotta 把一個主張要被認真看待前所須符合的格式慣例,比作網路的通訊協定(protocol):學術的口吻、新聞的結構、引用的慣例、平台上的可信標記。他認為,生成式 AI 讓人能廉價複製這些知識正當化的外觀(§4.2)。過去,產生嚴肅知識形式的成本大致和投入的知識工作相關,形式因此能充當實質的替代指標;生成式 AI 切斷了這個相關。他把結果稱為「協定模仿」(protocol mimicry):掌握知識的形式,和這些形式原本用來指示的知識勞動脫鉤。它可以出現在語言、機構形式、證據、參與信號,以及查證層,例如偽造的事實查核(§4.2)。
參與信號的模仿早於生成式模型。2017 年美國網路中立性的公眾意見徵詢收到約 2,200 萬則意見,紐約州檢察總長後來發現將近 1,800 萬則是捏造的,其中 850 萬則由受影響的產業出資,770 萬則由一名大學生產生(§4.2)。
為了說明機制,Cotta 借用網路安全的阻斷服務(denial of service)攻擊,也就是讓伺服器忙到無法服務正常使用者的攻擊(§4.2)。電腦建立網路連線(TCP)要三步「握手」:用戶端請求連線(這個請求稱為 SYN),伺服器保留記憶體並回覆已準備好,用戶端確認後連線才建立。SYN 洪泛攻擊(SYN flood)大量送出第一步的請求,從不送出第三步的確認;伺服器保留的資源等不到確認,這些「半開連線」塞滿連線表後,正常的請求也進不來。他說伺服器沒有被入侵,它被耗盡了(§4.2)。
Cotta 強調這是結構同源(homology):系統的構成規則要它回應形式有效的請求,請求開始而不完成,被綁住的資源就累積,超過門檻後正當與惡意的請求都進不來;伺服器和審議中的公民是這個結構的兩個實例,誰也不是誰的比喻(§4.2)。技術上的實例有明確的參數,他據此提出三個變項(§4.2):
- n:一段評估期間內有資格被評估的說服事件數,不論公民是否實際處理;必須先評估才能打發的更正、標示與爭議也算在內。
- τ:完成一次評估預期要花的查證時間。可信的機構來源能讓 τ 接近零;協定模仿夠深時,產物無法靠表面分類,τ 就大幅上升。
- C:公民在一段期間內可用於評估的總認知資源,擴張速度遠比不上運算產能。
他另以「協定深度」(protocol depth)指一件產物模擬知識正當化外觀的完整程度,從淺薄的奈及利亞王子詐騙信,到完整模擬機構形式與文體;深度經由提高有效的 n 與 τ 增加負載(§4.2)。當 n × τ > C,總查證需求超過評估能力,但這個門檻只提供壓力條件:過載的公民仍能排序、委託、抽樣與擱置。反覆無法收尾才把過載變成耗竭:已開始的評估一再無法完成,再開始一次評估的預期價值就下降,預設反應也跟著改變(§4.2)。
模型有四項適用條件(§4.2):形式合格的主張有資格被評估;合格產物的生產成本遠低於查證成本;生產能力可以超過有限的評估能力;已開始的評估傾向衍生更多評估需求,而非收尾。第四項決定過載會不會轉成耗竭;評估總能收尾的環境,量再大也只有資訊過載。Cotta 也說這不是技術決定論,生成式 AI 改變參數,機制古已有之(§4.2)。
從投入、過載到耗竭
Cotta 把過程分成三個狀態:投入是基準,過載是壓力狀態,耗竭是反覆無法收尾所產生的均衡(§5)。
過載的來源是量,負擔的時間結構也重要(§5.1):2023 年 9 月斯洛伐克國會選舉前兩天,一段疑似 AI 偽造的錄音流傳,當時正值法定的選前 48 小時靜默期,連反駁都受程序限制。Cotta 認為,這個機制不需要錄音真是合成的,也不需要它說服任何人,只需要它的真偽無法及時確定(§5.1)。
過載還有加速因素:信任基礎設施瓦解(§5.2)。新聞編輯、事實查核與同儕審查這些中介一向代公民查證;可信機構的形式標記人人都能複製時,公民連中介也懷疑,除了評估主張,還要評估評估主張的機構。
耗竭是退出知識投入本身,它的關鍵特徵是穩定:產生它的條件還在,它就持續(§5.3)。Cotta 說這種理性是實踐上的,更精確地說,是探究的(zetetic)理性。他引 Friedman(2020)區分探究規範與信念規範:前者管有限的探究資源怎麼分配,後者管該相信什麼。耗竭的公民停止查證,並沒有因此相信什麼或否定什麼:在負擔不起探究的問題上,他們擱置判斷,殘餘的傾向(例如模糊的政黨傾向)仍可能左右行動(§5.3)。已開始的查證系統性地無法收尾時,進一步探究的預期收穫低於確定的成本,有限的探究者就有探究上的理由暫停。他拿 Downs(1957)的理性無知比較:理性無知是資訊稀缺時的均衡,知識耗竭是查證稀缺時的均衡(§5.3)。
為什麼這個狀態不會自我修正
Cotta 認為,最違反直覺的一點是察覺不足以保護人(§6.1)。雅典人知道智者(sophists)用說服技巧,亞里斯多芬還寫喜劇嘲諷,成千上萬人去看;知道有人在說服,並不減少評估其產物的總負擔。媒體識讀、AI 內容標示與透明義務都預設察覺有保護作用,Cotta 的回應是,察覺處理單一說服事件,負擔則是總體的(§6.1)。
察覺失效還有一個原因:評估可信度的工具同樣會被削弱,每一層查證都需要再被查證(§6.1)。AI 偵測工具的誤判讓真的材料也受懷疑;C2PA 這類來源證明系統能以密碼學驗證內容建立後沒被改動,卻無法驗證原始內容是否可信,就像公證不會讓文件變成真的。這種層層往上的查證再造成汙染:任何內容都可能是 AI 生成的,人就連帶降低對所有形式相似內容的信任,真的新聞與研究也一起受害(§6.1)。
這個機制不需要策畫者,但可以被刻意製造:Cotta 舉蘇聯與後蘇聯的宣傳傳統(例如「謊言消防水管」模式),用大量互相矛盾的訊息淹沒資訊場域,直到人放棄分辨真假,不需要人相信哪一則謊言;他說 AI 讓任何能呼叫語言模型 API 的人都用得上這個舊策略(§6.2)。可能抵禦的大學、新聞編輯室與監理機關,則仍按舊假設運作,例如編輯標準預設形式品質和知識實質相關;Cotta 稱它們「天真」(innocent),典型的反應是更多查核、更多識讀訓練、更多偵測工具(§6.2)。
為什麼比欺騙難補救
對付欺騙的手段,事實查核、媒體識讀、來源查證與平台管理,都預設一個錯了但還在努力的投入主體,病理和療法對稱:欺騙扭曲信念,更正恢復信念(§7.1)。對知識耗竭,內容層次的更正沒有這種對稱:常常沒有信念可以更正,訓練要培養的能力也都還在。
Cotta 進一步主張,這些介入沒有被當成收尾時可能加速耗竭,因為每一則查核、每一個「此內容可能由 AI 生成」的標示,都是等待評估的佇列裡又一項(§7.1)。他引的研究包括:大型語言模型產生的事實查核正確判定九成的假標題,整體上卻沒有改善受試者的辨別力,還讓他們更不相信被誤標的真標題(DeVerna 等人 2024);在美國、波蘭與香港的實驗中,事實查核、媒體識讀訊息和關於假訊息的報導都降低了對假主張的相信,多數條件下也讓真主張顯得較不準確(Hoes 等人 2024);一項涵蓋 67 篇實驗文章的統合分析發現,受試者判定假新聞為假的表現,好過判定真新聞為真(Pfänder 與 Altay 2025)。Cotta 說,被懷疑的真主張仍是一項未完成的評估;他也明說這些研究都沒有設計來檢驗他的負載模型,結果只與模型相容(§7.1)。
民主的弱點在正當性
Cotta 說明他採取的民主觀:從 Kelsen 經 Habermas 到 Rawls 的程序主義傳統,認為政治正當性至少部分來自集體決定的形成條件(§7.2)。這個傳統對正當性還需要什麼有分歧,但都同意,可爭議的主張能不能被提出、被聽見、被回答,會影響正當性。
他據此比較兩種正當化架構(§7.2)。神權或意識形態國家這類以內容為基礎的體制,答案事先給定,知識上的阻斷服務很難在正當性層次傷到它。民主的審議程序則是正當性的構成部分,不只是手段。所以公民持有錯誤信念的民主仍是運作不良的民主,更正信念,程序就能恢復;公民放棄評估的民主,選舉照辦、票照算,賦予程序正當化力量的知識基礎卻已經掏空。他也收窄自己的政治主張:只有在持續回應可爭議主張構成正當性的地方,耗竭才成為正當性的病理;專業社群可以耗竭而不因此失去正當性(§7.2)。
最直覺的防禦是強化協定:限縮善意推定、少評估一些、更有選擇地接收。Cotta 認為這做到極端就是民主倒退,就像停止回應 SYN 請求的伺服器不再提供服務(§7.2):
顯示原文與出處
The defence is the damage: a democratic protocol hardened against protocol abuse becomes one that no longer presupposes good faith, no longer grants every voice a hearing, no longer treats the informed judgment of citizens as the legitimate basis of governance.
防禦就是傷害:一套為防範協定濫用而強化的民主協定,會變成不再預設善意、不再讓每個聲音被聽見、不再把公民的知情判斷當成治理正當基礎的協定。
對民主參與的三項意涵
Cotta 從模型推出三項民主意涵(§8)。在冷漠(缺乏興趣)與疏離(缺乏代表)之外,知識耗竭指出第三種退出公民參與的形式:放棄(resignation),也就是在知識前提無法滿足時,理性地退出一個過程(§8.1)。他引路透新聞學研究所 2024 年的調查:在受調查的各市場中,有時或經常迴避新聞的比例,從 2017 年到 2024 年上升 10 個百分點,達到 39%;他也說這些趨勢與這條路徑相容,但不專屬於它(§8.1)。放棄的來源在環境,所以對冷漠有效的動員、對疏離有效的更好代表,都處理不了它。
Cotta 稱另一個意涵為精明的悖論(§8.2)。查證標準較高的公民每次評估投入更多(τ 較高);協定模仿夠深時,最認真的公民累積最多半開連線,負擔最輕的反而可能是從未投入的人。Cotta 由此指出威權政治吸引人的一條認知途徑:民主要公民評估彼此競爭的主張,威權形式要公民效忠,對耗竭的公民來說,解脫立即可得,制度的損失則很抽象;他明說這不解釋一般的威權偏好(§8.2)。
耗竭的分布也不平等(§8.3)。C 隨可支配的認知資源而異,兼三份工作的公民評估預算較小;τ 主要隨信任而異,能合理信賴中介時,τ 趨近於零。所以兩極化會放大 τ:一半的信任基礎設施屬於對立陣營時,來源捷徑就失效,耗竭的門檻也更近。
以防禦作診斷
模型給出一個條件式預測:防禦只有在降低有效的 n、降低 τ、提高已開始評估的收尾機率,或原則上擴大 C 時,才能緩解耗竭;C 有上限,現有手段沒有一項能實質提高它(§9)。只增加評估對象、沒有帶來相應收尾的介入,不論多準確、多真誠,都會加重它要緩解的資源條件。
他把防禦分成兩層(§9)。運作層的防禦在主張到達公民之前降低 n 或 τ,例如把關、偵測協同造假行為、來源驗證;它們篩選而不裁決,篩選者也是爭議場域裡的政治行動者。詮釋層的防禦是更正、標示與識讀訓練,它們也進入佇列。事實查核被當成權威時,它吸收被委託的查證,降低 τ;事實查核的權威受爭議時,事實查核就成了另一個要評估的對象,增加負擔。Cotta 強調,詮釋上正不正確,決定不了是哪一種結果(§9)。
網路安全的標準解法是 SYN 代理:上游中介替伺服器完成握手,吸收攻擊。Cotta 認為同源關係到這裡結束(§9)。SYN 代理不必看連線內容就能判定;民主的預先查證處理有爭議的內容,替公民完成握手的機構都是爭議中的政治行動者,光是被認為偏頗,它的判定就可能不被當成收尾。至於讓 AI 當看似中立的查證者,他說這超出這篇論文的範圍,只指出:整個評估流程都交給代理時,握手在機器之間完成,這條逃離耗竭的路,通向一種他的框架尚未命名的狀態,知識上運作正常,民主上卻是空洞的(§9)。
結論
Cotta 在 §10 把核心區分歸結為:對付假訊息的措施和對付知識耗竭的措施可能彼此矛盾。他明說不提出政策方案,只說明這些工具什麼時候有幫助、什麼時候有害(§10)。至於能否逆轉,他認為能改變它的只有環境:降低 τ、降低 n,或讓已開始的評估重新能夠完成(§10)。全文最後兩句是:
顯示原文與出處
Democracy can survive citizens who judge wrongly. It cannot survive conditions under which judging at all becomes irrational.
民主可以挺過判斷錯誤的公民,卻挺不過讓判斷本身變得不理性的條件。
限制與可能的反駁
以下各項是 Cotta 自己承認或劃定的限制,標明「本文的讀法」的一項除外。
- 這是概念模型,n、τ、C 都沒有估計,論文也沒有產生或分析資料。
- 政治結論依賴程序主義的正當性觀,Cotta 明確採取這個立場;以啟示真理、歷史必然性這類固定內容為正當性來源的體制,不會以這種方式失去正當性(§7.2)。
- 他把另一條通往相同可觀察狀態的路放在模型之外:人若預期查證出來的真相在政治上改變不了什麼,即使負擔得起,也可能放棄查證;這屬於政治效能感的理論(§8.3)。
- 本文的讀法:上一項讓模型的經驗檢驗變得困難。迴避新聞、被新聞量弄得疲憊、不去投票,同時符合耗竭與政治效能感低落兩條路徑,Cotta 也說調查趨勢不專屬於他的路徑(§8.1)。要區分兩者,需要測量公民開始的查證是否一再無法收尾,也就是 §4.2 的第四項適用條件;論文說這個規律可以獨立於模型觀察(§4.2),但沒有提出測量方法。
參考資料
以下列出 Cotta 的論文,以及本文轉述其論證或數據的著作;只順帶提及的著作,書目見 Cotta 原文的參考文獻。
- Cotta, Marcel. 2026. “Epistemic Exhaustion: Denial of Service Against Democratic Deliberation.” Philosophy & Technology 39: 231. https://doi.org/10.1007/s13347-026-01232-z
- Floridi, L. 2024. “Hypersuasion – On AI’s Persuasive Power and How to Deal with It.” Philosophy & Technology 37(2): 64. https://doi.org/10.1007/s13347-024-00756-6
- Satta, M. 2024. “Epistemic Exhaustion and the Retention of Power.” Hypatia 39(3): 510–529. https://doi.org/10.1017/hyp.2024.1
- Anderau, G. 2023. “Fake News and Epistemic Flooding.” Synthese 202(4): 106. https://doi.org/10.1007/s11229-023-04336-7
- Friedman, J. 2020. “The Epistemic and the Zetetic.” The Philosophical Review 129(4): 501–536. https://doi.org/10.1215/00318108-8540918
- Downs, A. 1957. An Economic Theory of Democracy. Harper & Row.
- Kreps, S., R. M. McCain, and M. Brundage. 2022. “All the News That’s Fit to Fabricate: AI-Generated Text as a Tool of Media Misinformation.” Journal of Experimental Political Science 9(1): 104–117. https://doi.org/10.1017/XPS.2020.37
- Hackenburg, K., B. M. Tappin, P. Röttger, S. A. Hale, J. Bright, and H. Margetts. 2025. “Scaling Language Model Size Yields Diminishing Returns for Single-Message Political Persuasion.” PNAS 122(10): e2413443122. https://doi.org/10.1073/pnas.2413443122
- Simon, F. M., S. Altay, and H. Mercier. 2023. “Misinformation Reloaded? Fears about the Impact of Generative AI on Misinformation Are Overblown.” Harvard Kennedy School (HKS) Misinformation Review 4(5). https://doi.org/10.37016/mr-2020-127
- Meaker, M. 2023. “Slovakia’s Election Deepfakes Show AI Is a Danger to Democracy.” Wired, October 3.
- Office of the New York State Attorney General. 2021. Fake Comments: How U.S. Companies & Partisans Hack Democracy to Undermine Your Voice.
- Eddy, W. 2007. TCP SYN Flooding Attacks and Common Mitigations (RFC 4987). Internet Engineering Task Force. https://www.rfc-editor.org/rfc/rfc4987
- DeVerna, M. R., H. Y. Yan, K.-C. Yang, and F. Menczer. 2024. “Fact-Checking Information from Large Language Models Can Decrease Headline Discernment.” PNAS 121(50): e2322823121. https://doi.org/10.1073/pnas.2322823121
- Hoes, E., B. Aitken, J. Zhang, T. Gackowski, and M. Wojcieszak. 2024. “Prominent Misinformation Interventions Reduce Misperceptions but Increase Scepticism.” Nature Human Behaviour 8(8): 1545–1553. https://doi.org/10.1038/s41562-024-01884-x
- Pfänder, J., and S. Altay. 2025. “Spotting False News and Doubting True News: A Systematic Review and Meta-Analysis of News Judgements.” Nature Human Behaviour 9(4): 688–699. https://doi.org/10.1038/s41562-024-02086-1
- Reuters Institute for the Study of Journalism. 2024. Digital News Report 2024. University of Oxford.