
重點
- 奧勒岡大學哲學系的 Abbas Bagwala 在《Philosophy & Technology》發表〈AI Sapience and Responsible Reasoning〉(2026 年 11 月 6 日線上刊出,開放取用)。
- 他認為,關於大型語言模型是否「理解」的爭論,不論站在哪一邊,都漏掉了責任:斷說(assertion)一件事,就是讓自己為它負責(§I)。
- 他借 Brandom 的推論主義,提出系統要算是負責地推理必須滿足的五項標準:有些報告對語料之外的世界負責、跨脈絡追蹤同一個對象、主張之間有推論連結、承諾能依理由更正、實質推論受概念內容約束。每一項都有程度之分,各自必要,合起來並不充分。它們是規範標準,說明負責地推理需要什麼;個別系統落在哪裡,是另一個經驗問題(§I、§III)。
- 這五項標準衡量行動者在多大程度上自己記下承擔了哪些承諾、受到質疑時自己答辯,而非它是否獨立於社群。所有系統因此落在同一條軸上:承諾全由別人記錄與維持的一端,他稱為代理智性(proxy sapience);自己記錄、自己答辯的一端,稱為自有智性(proprietary sapience)(§I、§IV)。
- 他的判斷是:現有系統的位置,比認為這些系統只是在操作語言形式的看法所允許的高,比它們流暢的表現所暗示的低;確切位置是開放的經驗問題,他沒有處理(§I、§IV)。
理解之爭漏掉了責任
大型語言模型能維持長段對話,多模態模型也能看圖回報內容。依 Bagwala 的整理,這些表現該怎麼評價,爭論大多圍繞「理解」:Bender 與 Koller(2020)等人認為這些系統只是在操作語言形式,沒有真正的語意理解;Shanahan(2024)與 Andreas(2022)探討它們在多大程度上近似推理或能動性;Gubelmann(2023)則從語言使用的角度處理這個問題(§I)。
Bagwala 主張,這些框架不論站在哪一邊,都漏掉了論辯推理(discursive reasoning)的一個要素:責任。「論辯」在這裡指運用概念、能給出與要求理由的語言活動。他寫道:
顯示原文與出處
To assert something is to make oneself answerable for what is claimed, to stand ready to defend it, and to give up a previously-asserted claim that cannot be defended.
斷說某件事,就是讓自己為所主張的內容負責,準備為它辯護,並放棄先前斷說過、卻辯護不了的主張。
所以一個系統是否參與論辯實踐,除了看它理解多少、表現多好,還要看我們能不能要它為說過的話負責(§I)。
他用 Jones 與 Bergen(2026)的圖靈測試研究說明這一點。在標準的三方圖靈測試中,領先的模型先被提示扮演一個像人類的角色,才通過測試;Bagwala 轉述,沒有這個提示時,同一批模型被判為人類的比率等於或低於 1960 年代的規則式基準(即 ELIZA)(§I)。他的解讀是,這個測試獎勵成功扮演角色,而靠扮演角色成功的系統,不論還做了什麼,都沒有把自己說的話當成自己的承擔(§I)。他因此把焦點從行為上能否與人區分,移到推理本身的規範結構。
原研究的摘要與 Bagwala 的轉述不完全一致。依摘要,研究包含兩場預先登錄的隨機對照圖靈測試,受試者同時和另一位真人受試者與一個系統各交談 5 分鐘,再判斷哪一方是人類。有角色提示時,GPT-4.5 被判為人類的比率是 73%,顯著高於審問者選中真人的比率;LLaMa-3.1 是 56%,和真人沒有顯著差異。沒有角色提示時,兩者的表現顯著較差,被判為人類的比率是 38% 與 36%,也沒有穩定勝過基準模型 ELIZA 與 GPT-4o(分別為 23% 與 21%)(Jones 與 Bergen 2026)。
針對誰、新在哪裡
- 文章回應整場「理解」之爭。Bagwala 把 Bender 與 Koller(2020)、Hicks 等人(2024)歸為緊縮的讀法(deflationary treatments),並認為它們把現有系統放得太低(§IV)。
- 最接近他的立場是 Simonelli(2026)。Simonelli 同樣從 Sellars 與 Brandom 的框架出發,主張大型語言模型可能有真正的概念理解;Bagwala 同意他對「把理解歸屬給系統」是什麼意思的看法,但不同意這種歸屬需要的條件(§IV)。Marchettoni(2025)也從推論主義得出寬容的結論,並把「規範地位由社群授予,系統的知識權威取決於社會承認」這個問題留給未來;Bagwala 說,他的論文可以讀成接手這個問題的一次嘗試(§IV 註 19)。
- 依本文整理,新意在三處:把判準從理解與表現移到責任(§I);用「誰在記分」區分代理智性與自有智性,並說明它和原初/衍生意向性的區分互相獨立(§IV);把證據放在系統的承諾如何隨時間變化、出錯時由誰修補,而非系統的架構(§I、§III.6)。
為什麼用推論主義
推論主義(inferentialism)主張,一個主張的內容由它的推論角色決定:什麼算是支持它的理由、從它可以推出什麼、它和什麼不相容(§I)。Bagwala 依此把智性(sapience)理解為參與「給出與要求理由的遊戲」:行動者參與到什麼程度,就在什麼程度上算是有智性(§I)。
斷說一個句子,就承擔了一項承諾(commitment),也就是因為說了這句話而必須承認的其他主張;說話者在這個實踐中的處境足以支持這項承諾時,他才有資格(entitlement)這樣說(§II)。Bagwala 的例子是:斷說「Tom 是一隻貓」,就承諾了「Tom 是哺乳類」與「Tom 是動物」。斷說「Judit Polgár 是來自匈牙利的西洋棋特級大師」,就承諾了她是棋手;較弱的主張,例如她花了很多時間下棋,說話者有資格說,卻沒有承諾;他也不能再斷說她從沒下過棋、她是電腦程式或她是一隻鳥(§II)。這些推論由「貓」、「特級大師」這些概念的內容決定,而非由形式邏輯決定,Bagwala 依 Sellars(1953)稱之為實質推論(material inference)(§II)。
Bagwala 從這裡看出,意義和責任是同一枚硬幣的兩面(§II)。說出「Tom 是一隻貓」,就是準備推出 Tom 是哺乳類、不是爬蟲類;有沒有資格這樣說,則看說話者的處境,例如他親眼看過 Tom,還是轉述傳聞。記錄每個參與者承擔了哪些承諾、有哪些資格,他沿用 Brandom 的說法,稱為義務記分(deontic scorekeeping)(§I)。
Bagwala 選推論主義,還有方法上的理由。推論主義用表現在公共場合的規範意義解釋概念內容,不必訴諸表現背後的機制,所以評估一個系統的論辯地位時,不必先判定它怎麼實作(§I)。照 Bagwala 的說法,我們不必先決定模型運算時在做什麼,就能問它做出斷說這種言語行為時在做什麼(§I)。這個框架也不需要訴諸常被歸給人類、卻不歸給機器的隱藏心理狀態,所以他稱推論主義是非人類中心的意義理論(§II)。
「立基」一詞容易引起誤會,Bagwala 特別說明(§I)。Harnad(1990)提出的符號立基問題(symbol grounding problem),是要說明依形式規則操作的符號怎麼會關於任何東西。這個問題預設表徵主義的背景,也就是意義在於符號代表某個指涉對象。推論主義拒絕這個背景,Bagwala 也同意 Gubelmann(2024):對於用語言使用的規範來描述的系統,這樣理解的符號立基問題並不適用。他所說的立基是規範性的,關心系統的表現能不能在實踐中被追究責任,而非系統的符號怎麼連上世界(§I)。
Bagwala 在 §II 還處理了訓練的問題。Brandom 在《Between Saying and Doing》(2008)區分兩種延展能力(elaborating abilities):演算法式的延展,例如從計數延展出加法;實踐式的延展,例如經由訓練,從非論辯的辨別能力延展出「藍色」這個概念(§II)。Brandom 反對古典 AI 功能論,也就是認為論辯能力可以靠演算法分解建構出來的看法;Bagwala 則指出,Brandom 對經由回饋與修正而來的實踐延展保持開放(§II,引 Brandom 2008: 86)。
神經網路的參數調整算不算這種實踐延展,Bagwala 認為仍是開放問題。他也認為這個對比可能不穩:Brandom 把訓練描述成「知覺、回應的表現、再知覺表現結果」的回饋迴路,梯度下降大概也符合這個描述。所以要麼這種迴路算實踐延展,神經網路也經歷了它;要麼這種迴路終究可以形式化,實踐延展就不是本質上非演算法的(§II)。不過他說明,後面的論證不依賴這個問題的答案。他的條件關心行動者是否為能力的運用負責,能力怎麼得來,不影響這些條件(§II)。
推論立基條件的五項標準
Bagwala 把五項標準合稱為推論立基條件(inferential grounding condition),並強調它只提供必要條件,滿足了也不保證有智性(§III)。五項條件說明同一件事的不同面向:行動者的表現要能理解成承諾,而且是它在理由空間(space of reasons)中可以被追究責任的承諾。理由空間是 Sellars 的說法,指主張之間互為理由、可以要求與提出證成的關係網絡;參與「給出與要求理由的遊戲」,就是在這個空間裡行動。每一項條件各對應責任落空的一種方式(§III)。以下 §III.1 到 §III.5 指第三節依序編號的五項條件,§III.6 是該節最後討論證據的一段。
對語料之外的世界負責(§III.1)
第一項條件要求行動者的論述對它自己語料之外的東西負責,包含三個要求(§III.1)。第一,有些報告是非推論的:它們沒有從其他主張推出,由行動者自己當下與世界的互動所支持。第二,行動者自己憑自己的權威,把這些報告登錄為承諾;由別人歸屬給它的報告不算。第三,這些報告可以被推翻(defeasible)。
三個要求缺一不可。由觀察支持、卻憑別人的權威登錄的報告,只算歸屬(attribution),算不上承擔(undertaking),例如由操作者決定系統的哪些輸出算是它的承諾。憑自己的權威登錄、內容卻完全來自既有語料的報告,只讓行動者對自己的語料負責(§III.1)。少了這一項,承諾就只對彼此負責(§III)。他在註中說明,條件只要求「有些」報告如此:模型的語料來自訓練資料,這本身不構成問題,問題出在新的登錄不會動態更新(§III.1 註 12)。
Bagwala 沿用 Brandom(1994)的區分:鸚鵡看到紅紙就叫「紅!」、溫度計隨氣溫改變讀數,都是可靠的反應傾向;真正的非推論報告和其他主張有推論關係,可以當前提,也可以被質疑、辯護或修正(§III.1)。他也說明,這項條件不要求從知覺到斷說的「語言進入規則」,它關於誰把報告登錄進記分、憑誰的權威(§III.1)。
至於現有系統,Bagwala 認為,說模型的報告只是統計關聯、所以不符合這項條件,在目前的技術狀態下是倉促的結論:現有系統不只用下一個詞預測來訓練,之後的訓練程序也不適合描述成關聯;多模態系統能直接讀入影像並回報內容,例如讓有視覺的模型看天空,問它是不是在下雨(§III.1)。這樣的報告算不算系統自己可推翻的承諾,還是我們歸屬給它的,他沒有判定。他只主張,關鍵問題在此,有沒有知覺輸入並不決定答案(§III.1)。
跨脈絡追蹤同一個對象(§III.2)
第二項條件要求行動者能從物地(de re)追蹤個別對象:在不同脈絡裡,不論用名字、代名詞還是指示詞,都知道自己談的是同一個東西(§III.2)。這需要正確使用指示詞(「這隻貓餓了」)、回指(「牠餓了」)與同一性替換(「Tom 就是這隻貓」)。如果無法相信一連串主張談的是同一個對象,對這個對象說過的話也就無從追究(§III.2)。
Bagwala 認為,現有模型處理這些語言機制大致和人一樣好,實證文獻不支持全面否認(§III.2,引 Mandelkern 與 Linzen 2024)。他認為差別在指涉鏈的終點:他談論 Tom 時,那一串承諾最後落在他自己和一隻貓的接觸上,他可以看 Tom、對 Tom 感到意外、依 Tom 的行為得出新的結論;模型的指涉鏈同樣緊密,終點卻是其他行動者有過這些接觸的地方,例如模型在訓練時讀到的內容(§III.2)。所以模型的從物追蹤是借來的還是自己的,取決於系統本身能不能為它對這些對象說的話負責(§III.2)。
主張之間的推論連結(§III.3)
第三項條件要求行動者的主張,和它登錄的報告、追蹤的對象有推論連結:沒有一則報告能孤立存在,每一則都要對整個理由網絡產生後續影響(§III.3)。這需要判斷哪些推論後果和某個承諾相關、哪些無關,也就是 AI 文獻所說的框架問題(frame problem)(McCarthy 與 Hayes 1969;Dennett 1990)。Bagwala 引 Brandom(2008)依 Dreyfus 提出的看法:古典符號 AI 做不到這件事,因為它得把理解日常生活世界所需的實踐技能全部寫成明確規則(§III.3)。這項條件要求行動者維持登錄報告的推論後果,而且先前承擔的承諾限制它後來能斷說什麼(§III.3)。
神經網路不預先編寫推論後果,它們透過訓練學習模式,依回饋調整。Bagwala 認為,只要這個過程產生穩定、可更正的推論行為,問題就從理論上可不可能,變成經驗問題:訓練出來的系統,推論網絡是否以正確的方式修正(§III.3)?
承諾能依理由更正(§III.4)
第四項條件要求行動者的承諾與資格在新的輸入和質疑下可以更正(§III.4)。回到 Polgár 的例子:如果有人指出說話者把 Judit Polgár 和她的姊妹 Sofia Polgár 搞混了,資格就得撤回,承諾也要跟著調整。Bagwala 指出,修正的對象是行動者整個義務地位:撤回一個主張,連帶撤回它賦予的資格,也可能恢復原先被它排除的承諾(§III.4)。他引 Hlobil 與 Brandom(2024)說明,已經承擔的承諾還要分成有資格支持的承諾和「僅僅是承諾」的承諾,所以資格永遠可能受到質疑(§III.4)。
這一項的核心區分是可更正(corrigibility)與順從(compliance)。被追問什麼就撤回什麼的行動者只是順從,它向社會壓力退讓,而非向反證退讓。可更正則要求修正跟著對方提出的理由走,光有人反對不足以讓行動者撤回;它也要求相應的韌性,因為一受質疑就放棄的承諾,本來就算不上承諾(§III.4)。
Bagwala 認為,不能因為模型修正的傾向來自微調,就斷定它的修正不是它自己的:他自己遇到質疑時退讓的傾向,也是父母和老師訓練出來的(§III.4)。他問一個更窄的問題:模型撤回主張時,是在回應對方的理由,還是只在回應使用者的不滿?他說現有證據並不樂觀。Sharma 等人(2024)與 Wei 等人(2023)的研究顯示,模型偏好符合使用者既有看法的回答,勝過正確的回答;這種諂媚(sycophancy)傾向可追溯到訓練用的偏好資料,而且隨模型規模和指令微調增加,不會減少(§III.4)。
實質推論受概念內容約束(§III.5)
第五項條件要求行動者的實質推論受所用概念的內容約束(§III.5)。溫度計隨室溫改變狀態,Brandom(1994: 33)稱之為「可靠的差異反應傾向」,這是因果傾向,而非實質上恰當的推論。斷說某隻貓叫 Tom,就承諾了 Tom 是哺乳類,也失去說 Tom 是爬蟲類的資格;這些規範由概念內容決定。Bagwala 說,這種約束是規範的,因為它關於哪些推論應該做,不只關於哪些轉換在統計上常出現(§III.5)。
他考慮過這個說法:模型的實質推論由訓練固定,「凍結」在權重裡,所以不是它自己的,我們的推論才是我們的。他的回應是,我們接受的實質推論,絕大多數也不是自己想出來的,它們沉積在我們繼承的語言裡;沉積在自然語言和沉積在權重矩陣,兩者的差別遠不如表面上清楚,不足以支持他想做的區分(§III.5)。兩邊的推論傾向都是繼承來的,所以差別要劃在別處:行動者是否為這些推論的運用負責。他自己做出的實質推論受到質疑時,要由他來辯護,辯護不了也是他的失敗。自有的約束因此要求系統自己追蹤並維持正確推論與錯誤推論的區分,把它納入持續的承諾與資格,並在這個區分受到挑戰時答辯(§III.5)。
證據從哪裡來
Bagwala 接著處理一個反駁:如果論辯地位要像圖靈測試那樣,不判定實作問題就評估,還有什麼證據能顯示這些條件是否滿足(§III.6)?
他的回答是,推論主義擱置實作,也就是系統跑在權重上還是規則上、是 Transformer 還是符號系統;這個主張說實作和論辯地位無關,沒有說它觀察不到(§III.6)。他提出一個檢驗:看一個主張換了實作之後是否仍然成立。「系統是下一個詞的預測器,所以不能登錄觀察報告」換了實作就不成立,因為它是關於機制的主張。「系統的斷說大規模出錯時,由某家公司的團隊修補」換了實作仍然成立,因為規則由人工編輯的符號系統也是如此。這類事實從模型的描述就讀得出來,不必看系統內部,它們關於修正的責任落在哪裡(§III.6)。
據此,他列出三類可用的證據(§III.6):
- 持續性:行動者的承諾能不能跨脈絡保留,並限制它後來的斷說?撤回一個前提時,依賴它的主張會不會跟著撤回?
- 修正的性質:資格的得失回應理由,還是回應壓力?這可以分別改變理由和壓力來測試。
- 修補的分工:系統的承諾出錯時,由誰來彌補?
他也說明這套證據的兩個限制(§III.6)。第一,證據只能單向成立。記分由系統以外的人完成,這一點可以確立,因為這種分工是實踐中觀察得到的事實;反方向的肯定永遠不是最終的,任何一段表現良好的紀錄,都和「記分其實在別處完成」相容。所以判定一個系統屬於代理,比判定相反的結論有更穩固的基礎。第二個限制,他說是必須接受的後果:框架既然不訴諸隱藏的心理狀態,一個在三類證據上都表現完整的系統,就不會再留下它是否「真的」承擔承諾的問題,也沒有另外的事實等著發現。他接受這個後果,因為在他的說法裡,可答責性(answerability)是實踐中授予的規範地位,而非等著被偵測的內在性質。他也預告,下一節要辯護的主張是現有系統位在軸的低處,而這是關於目前由誰答辯的主張(§III.6)。
他還回應了一個針對「責任」的反駁。Haugeland(1979)說,人工智慧的麻煩在於電腦什麼都不在乎;如果責任需要這種在乎,機器就談不上責任(§III.6)。Bagwala 區分兩種責任:道德或法律責任關於誰該為損害負責,論辯責任則是說話者做出主張時承擔的責任。Haugeland 的觀察直接關係到前者(§III.6)。至於論辯責任,「在乎」給了說話者堅持自己說過的話的理由:他不會一被質疑就放棄主張,因為他在乎自己說的是否為真,而他在乎,是因為斷說時已經讓自己對別人負責。這種在乎在公共場合可以評估的對應,就是可更正與順從的區分;前面提到的諂媚證據,正是「不在乎」在論辯實踐中顯現出來的樣子(§III.6)。
代理智性與自有智性
Bagwala 先說明這條軸不衡量什麼:它不衡量行動者是否獨立於語言社群(§IV)。在 Brandom 的說法裡,沒有哪個說話者的論辯能力獨立於制定規範的社群,所以獨立性的判準會把人類和機器一起排除。他承認這一點涵蓋能力的來源:他的能力和模型的能力一樣,是訓練出來的;也涵蓋他使用的實質推論,它們沉積在他繼承的語言裡;還涵蓋持續的依賴,他的資格每一步都由他人授予和監督。這些既然都不減損他身為論辯參與者的地位,也就不能減損機器的地位(§IV)。
這條軸衡量行動者能不能為自己的義務記分負責,也就是能不能以理由空間中行動者的身分,追蹤自己的承諾與資格(§IV)。系統越能自己記分,越接近自有的一端:它記下自己承擔了什麼,把質疑看成和這些承諾相關,並在承諾受到挑戰時彌補。系統的分數若完全記在別人的帳本上,承諾由外部的記分者制定、詮釋與維持,它就落在軸的低處:我們把承諾歸屬到它身上,它自己卻沒有承擔這些承諾(§IV)。他把高處稱為自有智性,低處稱為代理智性;兩者是同一條軸的兩端,他並沒有把系統分成兩類(§I、§IV)。
這個區分看起來和原初意向性(original intentionality)與衍生意向性(derived intentionality)的區分很像(Searle 1983;Haugeland 1981)。Bagwala 認為兩者互相獨立:原初/衍生的區分關於內容從哪裡來,例如書上的字跡關於什麼,取決於讀者怎麼理解它們;他的區分關於誰在記分(§IV)。兩個區分可以從兩個方向分開。內容完全衍生的系統,仍可能自己維持義務帳本,追蹤承諾、回應質疑並修正,即使它用的每個概念都是別人給的;反過來,具有無可挑剔的原初意向性的系統,也可能完全不記分,在我們的實踐中只是被記分的對象,就像溫度計(§IV)。
Bagwala 接著討論 Simonelli(2026)。依他的轉述,Simonelli 認為掌握推論角色就足以擁有概念,而以語言資料訓練原則上能帶來這種掌握(§IV)。Bagwala 同意 Simonelli 對「歸屬」的看法:說一個系統理解,是把它放進理由空間,當作要回應理由、澄清與更正要求的對象,而非描述它的某個經驗性質。兩人的分歧在於這種安置需要什麼條件(§IV)。
Simonelli 區分系統無法承擔的實踐責任(要提告,對象是公司)與理論責任,並主張後者可以單獨歸屬給系統,因為履行它所需的斷說、澄清、證成與撤回,本身就是理論行為(§IV)。Bagwala 回應,履行責任的行為不等於承擔責任,前者可以由一個行動者代另一個行動者完成。系統可以產出任意數量的撤回、澄清與證成,它是否承擔責任仍未決定;關鍵在於引發這些行為的質疑,最後是否落在系統本身(§IV)。
他用兩人共同接受的斷說理論再推進一步。斷說的核心功能是讓別人有資格說同樣的話,這需要 Simonelli 所說的證言式資格繼承:我憑你的權威斷說某事,受到質疑時,可以把問題轉回給你,相信你能提出證成(§IV,引 Brandom 1983、1994)。順著這個結構往下推,模型的斷說性承諾系統性出錯時,彌補的工作不由模型完成,而由重新訓練它的機構完成。Bagwala 指出,重新訓練修補斷說性承諾,並未賠償實際損害,所以屬於「理論的」修補,只是在別處完成。理論責任和實踐責任因此不像 Simonelli 的論證所需要的那樣分得開(§IV)。
現有系統在軸上的位置
Bagwala 認為,現有系統在軸上的位置應該比緊縮的讀法(Bender 與 Koller 2020;Hicks 等人 2024)所允許的更高(§IV)。它們確實能在對話中追蹤個別對象,能讀入知覺輸入並回報內容,也會在質疑下修正主張。這些能力每一項都曾被說成這類系統不可能做到,後來也都被推翻;他預期自己的某些說法也會遭遇同樣的命運,並認為他的框架不但容得下這個預期,還把它寫明,這是框架的優點之一(§IV)。
同樣的證據也標出現有系統停在哪裡,三類證據各有一項(§IV)。在修正的性質上,它們的修正追蹤壓力至少和追蹤理由一樣容易;依前面的區分,這屬於順從。在持續性上,它們承擔的承諾不能可靠地延續到原本的脈絡之外。在修補的分工上,它們的主張大規模出錯時,修補由背後的團隊完成,追究責任的終點不落在系統上。他再次提到 Jones 與 Bergen 的結果:靠扮演角色通過測試的系統,就字面意義而言,並沒有把說出的話當作自己的承擔(§IV)。
他由此推論:軸上的位置不由能力決定,能力再怎麼提升也改變不了它(§IV)。系統可以在知覺、流暢度、推論範圍等所有我們現在知道怎麼測量的表現上不斷提升,由誰為它的承諾答辯,仍然不會改變,因為可答責性是行動者在實踐中占有的地位,能力再多也累積不出這種地位。他甚至認為兩者可能反向發展,因為順從使用者既有看法的傾向,隨模型規模與指令微調增加(§IV)。
結論
Bagwala 的結論是,大型語言模型有沒有「理解」的爭論,解決不了它們算不算「給出與要求理由的遊戲」的參與者這個問題(§IV)。系統能否往軸的高處移動,取決於彌補的工作由誰完成:它的承諾能否延續並限制後來說的話,資格能否依理由得失,修補能否由系統自己完成。他在文末寫道:
顯示原文與出處
The question of reasoning, where artificial systems are concerned, is finally a question about where responsibility comes to rest.
就人工系統而言,推理的問題,終究是責任最後落在哪裡的問題。
可能的反駁
以下先列 Bagwala 自己承認的限制或明說的前提;本文的評論都標明「本文的讀法」。
- 五項標準只是必要條件,滿足了也不保證有智性(§III)。證據又只能單向成立(§III.6),所以這個框架能比較穩固地判定一個系統還在代理的一端,卻無法最終確認某個系統已經到了自有的一端。
- 標準是規範的,系統落在哪裡是經驗問題(§I)。Bagwala 沒有判定多模態模型的報告算不算它自己的登錄(§III.1),也預期自己對現有系統的某些判斷會被推翻(§IV);他在註中感謝審稿人指出,他原本對現有系統的某些說法低估了它們的能力(§III.1 註 15)。所以文中對現有系統的定位隨時可能需要修正,五項標準本身則不受影響(參 §I)。
- 整條軸建立在 Brandom 的社會語言觀上:語言先是社會的,再是個人的,所以獨立性不能當判準(§I、§IV)。Bagwala 對推論主義內部的爭論也沒有表態。Simonelli 主張的「超推論主義」(hyper-inferentialism)認為推論關係就窮盡了概念內容,不需要語言進入規則;Bagwala 對這個立場保持中立,並說自己還沒有定見(§III.1 註 13、14)。他接受「沒有另外的事實」這個後果(§III.6),並用道德責任與論辯責任的區分回應 Haugeland。本文的讀法:不接受社會語言觀,或認為責任需要內在狀態的人,正好會在這兩處反對他的框架。
- 本文的讀法:Bagwala 從「這些模型靠扮演角色才通過圖靈測試」推到「它們說出的話不是自己承擔的」(§I、§IV),這一步可以質疑。圖靈測試的設計本來就是讓系統設法被當成人,所以模型靠角色提示才通過,最直接說明這個測試獎勵扮演;模型在一般對話中的斷說是否也是扮演,要靠 Bagwala 自己列出的三類證據判斷。他在 §IV 稱這個結果有啟發性,對現有系統的定位則另外依據順從、持續性與修補分工的證據。原研究摘要的數字與 Bagwala 的轉述也不完全一致,見〈理解之爭漏掉了責任〉一節。
參考資料
- Bagwala, Abbas. 2026. “AI Sapience and Responsible Reasoning.” Philosophy & Technology 39: 220. https://doi.org/10.1007/s13347-026-01234-x
- Brandom, Robert B. 1994. Making It Explicit: Reasoning, Representing, and Discursive Commitment. Harvard University Press.
- Brandom, Robert B. 2008. Between Saying and Doing: Towards an Analytic Pragmatism. Oxford University Press.
- Jones, Cameron R., and Benjamin K. Bergen. 2026. “Large Language Models Pass a Standard Three-Party Turing Test.” Proceedings of the National Academy of Sciences 123(21): e2524472123. https://doi.org/10.1073/pnas.2524472123
- Simonelli, Ryan. 2026. “Sapience without Sentience: An Inferentialist Approach to LLMs.” Asian Journal of Philosophy 5: 48. https://doi.org/10.1007/s44204-026-00400-4