閱讀來源：Ferrario 2024

核心論點

有些醫療 AI 文獻主張：AI 的預測準確度高於人類專家，所以 AI 是專家，醫師有知識上的義務依從它。 Ferrario、Facchini 與 Termine 提出兩個論題回應。

第一，AI 不可能是真正的知識專家，因為專家性需要理解與研究取向能力。 AI 至多有弱專家性，從中推不出任何知識義務；它在不久的將來或許會被認定為信念權威（authority of belief），但「永遠不會成為理解權威」（authority of understanding）（Ferrario et al. 2024: 12）。

第二，人類成功挪用（appropriate）AI 時，人機互動會產生一個混合行動者（hybrid agent），而這個混合行動者可以是真正的專家或權威。

專家與權威

作者的框架主要來自 Croce。

知識專家：X 是領域 D 的知識專家，若且唯若 X 對 D 的理解優於多數人，而且具備研究取向能力（Ferrario et al. 2024: 4）。

理解採用 Elgin 的說法：理解者除了認出某事為真，還更能體會這個真理的意義，並且有廣度、深度與重要性之分（Ferrario et al. 2024: 4–5）。研究取向能力（research-oriented abilities）是運用已有知識去發現並面對新問題的德性（Ferrario et al. 2024: 5–6）。

權威則是相對於某位外行人的角色。作者採用 Zagzebski 的定義：在某個信念領域中，X 對 Y 是權威，條件是 X 做的是 Y 若更具知識盡責、或更能達成知識盡責的目的（也就是得到真理）時會做的事（Ferrario et al. 2024: 6）。知識盡責（epistemic conscientiousness）是一種德性，作用是讓人盡己所能運用自己的官能以求得真理（Zagzebski 2012: 48，轉引自 Ferrario et al. 2024: 6）。權威還需要新手取向能力（novice-oriented abilities），也就是適當回應外行人知識依賴的德性，包括對需求的敏感、寬厚、同理與助產能力（Ferrario et al. 2024: 7）。助產能力（maieutic ability）引自 Jäger 2016：「促進主體對問題的整體洞見」，作者認為這是最難具備的一種新手取向德性（Ferrario et al. 2024: 7）。

依 Croce，權威分兩種（Ferrario et al. 2024: 7）：

信念權威：比 Y 更具知識盡責，且運用對 Y 需求的敏感。

理解權威：比 Y 更具知識盡責，且運用新手取向能力。

作者強調，用權威的語言談 AI，和用專家的語言談 AI，是兩個不同的主張（Ferrario et al. 2024: 8）。

第一論題：AI 不是專家，也不是理解權威

AI 從訓練資料編碼大量真命題，至多是弱知識，也就是真信念（Ferrario et al. 2024: 13–14）。它的能力限於特定任務，而且會隨時間劣化。依穩定世界原則（Stable-World Principle），機器學習只在穩定環境中勝過人類；資料分布改變（概念漂移，concept drift）時，準確度會下降（Ferrario et al. 2024: 13–14）。

AI 也沒有心智狀態。用作者的話說，它們無法辨認某事為真，更不用說像理解某事的行動者那樣體會真理的意義（Ferrario et al. 2024: 14）。所以 AI 既不理解，也沒有研究取向能力，它「只是預測」。

由此得到三個結論（Ferrario et al. 2024: 14–15）：

1. AI 只有弱專家性。
2. AI 的專家性無法和人類比較，所以談不上專家之間的分歧。
3. 依從 AI 的知識義務不成立。

權威方面，作者認為權威至少需要能辨認外行人的知識需求、給予支持，並在不同程度上引導他們達到理解（Ferrario et al. 2024: 15）。 AI 沒有心智狀態，又不透明，所以不具備助產能力。它或許能模擬對需求的敏感，因而在某些情境成為信念權威，但永遠不會成為理解權威（Ferrario et al. 2024: 12, 15）。

第二論題：混合行動者

第二論題的出發點是分散式認知：認知過程可以分散在人與人造物之間，這樣的系統可以是真正的認知行動者（Ferrario et al. 2024: 16–17）。人類 X 在情境 C 中成功挪用 AI 系統 M，也就是藉 M 達成自己的知識目標時，就產生混合行動者（Ferrario et al. 2024: 18）。

成功挪用的最低判準是互補性：X 與 M 合作的準確度，不低於兩者各自獨立時的準確度（Ferrario et al. 2024: 20）。

集體能不能具有某種德性，作者依 Croce 的非加總論來判斷：成員共同承諾該德性的目的，而且集體能可靠地達成它（Ferrario et al. 2024: 21）。 AI 的「承諾」由它的功能設計來體現。所以具備研究取向或新手取向能力的人，挪用承諾這些能力的 AI，形成的混合行動者就是專家或權威（Ferrario et al. 2024: 22）。

兩個案例

熟悉科技的醫師（Ferrario et al. 2024: 22–23）。一位住院醫師常用 AI 評估加護病房病人的敗血症風險，還請工程師設計了可以檢驗假設的介面。工程師最近重新訓練了模型，新模型對高血壓病人有偏誤，醫師並不知情。某次醫師初判風險低，AI 判高。他分析這個預測，重新調整血壓特徵的權重，最後判為中度風險，並向同事說明理由；後續評估證實他判斷正確。作者認為，這位醫師具備研究取向能力，對同事是信念權威，非緊急時也是理解權威。他和 AI 組成的混合行動者比兩者各自都準確，並具有專家性與權威。

數位爺爺（Ferrario et al. 2024: 23）。孫女問怎麼在夜空找北極星。爺爺不懂天文，但想支持孫女的好奇心，就用上過提示詞課程的本事問 ChatGPT。幾次嘗試後，他得到逐步說明：北極星會隨時代改變，目前是小熊座 α；先找北斗七星前端的兩顆星，沿兩星連線延長約五倍距離即可。爺爺據此向孫女提問，以對話方式引導她自己找到答案。作者說，這個混合行動者雖然展現了研究取向能力，卻沒有天文學的理解，所以不是專家；但因為它展現了新手取向能力，它是孫女的知識權威（Ferrario et al. 2024: 23）。查天文書則不會形成混合行動者，因為書不是知識科技。

作者承認的限制

成功挪用的最低判準只看準確度。作者承認，它沒有說明混合行動者較高的準確度是如何達成、如何證成，又如何可能傳達給他人，也無法區分偶然的挪用與有充分根據的挪用，這些留待日後研究（Ferrario et al. 2024: 21）。