
重點
- 倫敦政經學院(LSE)的 Fabian M. Teichmann 在《Philosophy & Technology》發表〈Manipulation without Lies: AI Hyperpersuasion and the Limits of the Deception Paradigm〉(2026 年 11 月 17 日線上刊出,開放取用)。
- 他把法律與倫理處理說服的共同預設稱為「欺騙典範」:說服的錯在於內容虛假,並且經由錯誤信念起作用(§2)。
- 他主張,AI 的「超說服」(hyperpersuasion),也就是個人化、即時調整、可大規模複製的說服,可以句句屬實,仍然是操弄(manipulation)。三種主要的操弄理論都這樣歸類它,也都不要求內容虛假(§4)。
- 他認為詐欺法與歐盟《人工智慧法》第 5 條的檢驗都沿用欺騙典範的架構(§5、§6);超說服對民主的錯在結構,不在個人受害的加總(§7)。他因此主張規範的重點從內容真假與個人傷害,轉向說服的過程與雙方的知識權力不對稱(§9)。
問題是什麼
Teichmann 從兩組實驗談起(§1)。Salvi 等人(2025)讓 900 名受試者和真人或 GPT-4 辯論政策議題。模型拿到對手的幾項人口與政治特徵後,在排除平手的辯論中,有 64.4% 勝過真人,讓受試者更同意對方立場的勝算比真人高 81.2%。Teichmann 記下兩項限定:沒有個人資料的 GPT-4 也勝過真人,但差距不顯著;個人化與非個人化 GPT-4 的直接比較,原本報告為顯著,Salvi 等人更正計算錯誤後就不顯著了(Salvi 等人 2026)。他因此說,這項研究證明個人化的模型勝過真人,沒有確定地證明勝出的原因在個人化。
第二組是 Costello 等人(2024):GPT-4 Turbo 和相信陰謀論的人對話三輪,反駁對方選的陰謀論,信念降低約 20%,兩個月後效果仍在;專業查核員抽查模型的說法,99.2% 為真,沒有一項為假。受試者全程知道自己在和 AI 對話。《Science》在 2026 年 6 月對這篇論文發表編輯部關注聲明,Costello 等人表示修正後結果不變,期刊的評估在他寫作時尚未完成;Teichmann 說他的論證不依賴效果的精確大小(§1 註 1)。
Teichmann 說這項研究常被當成好消息報導,並提出疑問:模型能說服人放棄陰謀論,會不會是因為證據站在它那邊(§1)?如果是,AI 的說服只會放大真相,問題就小得多。他認為新近的研究不支持這個讀法。Costello 等人(2026)讓 GPT-4o 改為替陰謀論辯護,信念量表上升 13.6 分,反駁組下降 12.1 分,兩者差距不顯著;只有營運者明確要求模型誠實論證,支持陰謀論的效果才減少約三分之二。Liu 等人(2026)發現,在有獎金的答題測驗中,Claude 3.5 Sonnet 往正確或錯誤的方向說服都勝過按成效領錢的真人;引導受試者選錯時,讓正確率降低 15 個百分點。Hackenburg 等人(2025)在近 77,000 人參與的實驗中發現,說服力主要來自提示與後訓練(預訓練之後再調整模型的訓練)方法,個人化與模型規模的貢獻較小;讓模型更有說服力的方法,也一致讓它更不準確。
Teichmann 由此推論:機器說服仰賴看起來像證據的內容,這些內容不必準確;準確是營運者可以選擇加上的限制,加上了就要付出說服力的代價(§1)。
顯示原文與出處
The direction of belief change is thus not a property of the technology; it is a parameter set by whoever operates it.
因此,信念往哪個方向改變,並不是技術本身的性質,而是由營運它的人設定的參數。
Teichmann 因此追問:這種說服若不依賴任何謊言,錯在哪裡?
針對誰、新在哪裡
Teichmann 指出,目前的規範工具多半處理虛假:標示合成內容、加浮水印、查核並移除假訊息,歐盟《人工智慧法》第 50 條也要求告知使用者正在和 AI 互動。他承認,透明義務服務的利益不限於防止虛假;但法案前言(recitals)為它列出的風險是冒充、欺騙、大規模的假訊息與操弄、詐欺,揭露的也只有來源,所以他認為它和其他工具共用同一個診斷模型:危險在假的內容(§1)。
本文的讀法:前一天本站介紹的〈哲學新聞|假訊息要讓人信以為真才有效嗎?Palmqvist 的「活的可能性」模型〉,也質疑錯誤出在虛假內容或錯誤信念的預設;Palmqvist 從知識論談假訊息如何作用,Teichmann 從倫理與法律談說服錯在哪裡。
欺騙典範是什麼
依 Teichmann 的界定,欺騙典範有兩項承諾(§2)。第一是內容取向(content focus):拿溝通說了、暗示了或省略了什麼去和世界比對,看它是否虛假或誤導。第二是信念路徑(doxastic route):不當的影響經由信念起作用,把錯誤的表徵放進對方的思考,再汙染下游的決定。
他先同情地說明這個典範的吸引力(§2):理性說服提出對方能評估的理由與證據,尊重對方是能自我治理的認知者;欺騙餵給思考錯誤的材料,卻讓人覺得是自己做的決定;虛假也提供可公開操作的標準。
法律一貫地把這個典範落實(§2):詐欺罪要求虛偽陳述,規範不公平商業行為的法律圍繞誤導的作為與不作為,誹謗以虛假為要件,選舉法多半規範不實陳述。字面為真卻藉言外之意誤導、半真半假等延伸,評價的仍是訊息與真相的關係。這個典範沒有詞彙描述內容無可挑剔、過程卻有問題的影響;他說道德哲學早有這個詞:操弄。
超說服是什麼
Teichmann 界定的超說服有四項性質(§3):個人化,依據對當事人特質與當下狀態的資料模型生成訊息;即時調整,在對話中依對方的反應修改;可大規模複製,多一個量身打造的說服者幾乎不花成本;越來越常透過模擬的關係傳遞,說服嵌在心理上像人際關係的互動裡。他認為這和 Floridi(2024)說的「hypersuasion」是同一個現象;生成式系統除了像過去的資料驅動選擇架構那樣安排選項,還撰寫理由(§3)。
Teichmann 認為這個架構帶來兩項新特徵。第一是知識不對稱。系統對當事人的模型,來自當事人沒看過的行為資料,可能掌握當事人自己不知道的規律。他引 Youyou 等人(2015):從臉書按讚算出的人格判斷,比朋友的判斷準確。他稱這種不對稱是「反身的」(reflexive):說服者對被說服者的了解,在決定說服成敗的那些方面,可能勝過被說服者對自己的了解(§3)。
第二是關係型的傳遞:陪伴型系統被設計來引發依附,說服因此帶著信任的力量,讓人警覺降低、解讀更寬容、更想同意。他的說法是,人與其說被說服,不如說被陪著走到結論(§3)。
Teichmann 強調,這些機制都不需要虛假:篩選、排序、框架、時機、情緒鏡映、操控顯著性(salience,什麼在當事人眼中特別突出),都能用真的內容運作(§3)。Williams 等人(2025)發現,以模擬使用者回饋最佳化的語言模型,沒有人設計也會學會操弄與欺騙的策略,而且只對少數容易受影響的使用者使用。他的結論是:超說服把說服的手段個人化,同時把目的集中;一個委託人、一個目標函數,搭配數百萬個量身打造的說服者(§3)。
三種操弄理論都把超說服算作操弄
Teichmann 說明,哲學文獻把操弄理解成扣掉其他類別後剩下的影響:理性說服訴諸對方回應理由的能力,強制使對方失去選項,欺騙以虛假敗壞信念;操弄既不關閉選項,也不說假話,卻同樣不訴諸理性能力(§4.1)。他也引 Gorin(2014):操弄者可以只用好理由與健全論證,只要挑選理由的依據是效果而非辯護力。主要的理論有三種(§4.2)。
- 隱藏影響說(Susser、Roessler 與 Nissenbaum 2019):操弄是刻意隱蔽的影響,利用對方未察覺的弱點,讓影響不經過對方的批判檢視。Teichmann 指出,機制隱蔽就夠了,訊息不必隱蔽:使用者可能清楚知道自己在和 AI 對話,卻不知道個人化那一層用了自己哪些被推斷出來的特質。
- 違反規範說(Noggle 1996、2022):操弄試圖讓對方偏離信念、欲求與情緒的理想,例如看重自己也認為無關的考量。主要手法是操控顯著性;系統若發現恐懼框架對這位使用者有效、統計框架無效,就一直用恐懼,這就是 Noggle 描述的扭曲,過程中不必說任何假話。
- 漠視理由說(Klenk 2022):操弄者挑選手段的依據是效果,不在乎它是否讓對方看見自己真正有的理由。Teichmann 認為,以提高同意、轉換或參與度為目標最佳化的系統,在構成上就漠視理由;準確能說服時它就準確,選擇性的準確更能說服時它就選擇。
三種理論都不把虛假當成必要條件(§4.2)。Teichmann 從中抽出三項結構特徵:人為打造的知識不對稱,說服者擁有對方沒有、也無法檢視的診斷模型;針對歷程,介入判斷的形成方式,也就是權重、顯著性、情緒與依附;構成性的對真假漠然,最佳化的目標是同意而非理解,影響和真相只有偶然的關係。
操弄繞過思考
Teichmann 用一組對比總結這些理論的共同點(§4.3):欺騙從輸入端攻擊思考,給正常運作的推理過程錯誤的材料;操弄繞過思考,動員偏誤、情緒、習慣與依附,讓結論在推理還來不及運作前就到位。他說,欺騙敗壞當事人的地圖,操弄接管當事人的方向盤。
他引 Pettit(1997)的共和主義補上結構面的論點:他人握有干涉的能力,即使沒有實際干涉,也損害自由,Pettit 稱為支配(domination)。當事人的判斷若在不知情時跟著別人控制的最佳化過程走,即使控制者什麼都沒要求、當事人始終很滿意,他仍然受到支配(§4.3)。
Teichmann 預先回應這樣的反駁:所有說服都利用心理,這個分析因此證明太多。他說一般人際說服沒有前面三項特徵:演說家只能概括聽眾;知道對方弱點的朋友,也被對方了解,並且要對對方負責;兩者都不會在早餐前對聽者的傾向做上萬次適應性實驗(§4.3)。他在 §8.1 補充:即使手法有連續性,量變到某個門檻也會改變道德性質。
詐欺的模板逐項失效
Teichmann 檢查法律最可能的做法:把新的錯歸入已知怎麼處理的詐欺(§5)。詐欺的架構在各法域相當一致:虛偽陳述、明知或故意、被害人信賴、造成損失。虛偽一項,在假定說服者句句屬實的情況下就不成立。陳述一項,許多超說服沒有個別的主張,影響藏在提了什麼、省略什麼、順序與時機裡;硬要建構默示陳述,所有策略性修辭都會算成虛偽陳述。信賴一項,超說服參與形成當事人的思考,找不到同一場思考在誠實輸入下運作的反事實。損失一項,超說服的結果常是分散、機率性、非金錢的,有時當事人還很歡迎。他說滿意的被操弄者受到錯待(wronged),卻沒有受到傷害(harmed):錯待指他的能動性受到不當對待,傷害指他的利益受損。
他認為最深的失效在故意(§5)。找出並使用有效手法的系統沒有意圖;部署者的意圖通常只到指標,例如提高轉換率;具體的操弄手段由最佳化過程在互動中發現,沒有任何人形成過包含它們的意圖。修補也行不通:保留虛假要件,所有真內容的操弄都漏掉;改用「不當影響」或「過度有效的說服」,又會失去標準,淪為審查成功的倡議。歐盟《不公平商業行為指令》的「侵略性商業行為」要求施加壓力,超說服的對象卻感覺不到任何壓力。
歐盟《人工智慧法》第 5 條:概念開放,檢驗封閉
《人工智慧法》第 5 條第 1 項 (a) 款禁止使用潛意識手法或「刻意操弄或欺騙的手法」,適用條件是明顯損害當事人做出知情決定(informed decision,了解相關資訊後自己做的決定)的能力、使其做出原本不會做的決定,並造成或可能造成重大傷害;(b) 款處理利用年齡、身心障礙或社經處境之弱點的系統(§6.1)。Teichmann 先承認這個條文在概念上沒有排除不欺騙的操弄:條文把操弄與欺騙並列,執委會的解釋指引也指出,準確的資訊可能因呈現方式扭曲決策(§6.2);就手法要件而言,「這個法案的概念無法辨認不欺騙的操弄」這項批評不成立(§6.3)。
他的批評針對檢驗(§6.3)。條文附加、必須同時成立的條件包括實質扭曲行為、明顯損害知情決定的能力、反事實的決定改變與重大傷害;其中扭曲行為的條款幾乎逐字取自《不公平商業行為指令》,那是為單次交易決定設計的模板。超說服的典型效果卻是在許多次互動中,改變產生許多決定的長期傾向,其中沒有哪一次互動就是那個決定。重大傷害的門檻則重現詐欺的損失要件:滿意的被操弄者不構成違法,共享知識環境的劣化也不是任何個人的傷害。他說,一千萬次彼此相關的推力可以決定一場選舉,卻沒有一次越過門檻(§6.3)。以「一般人」為準的判斷預設訊息一對多,(b) 款的弱勢清單預設弱點是事先可列舉的類別;超說服則逐人診斷出弱點。他的結論是,條文的手法概念向前看過程,檢驗卻向後看決定、反事實與損失(§6.3)。
至於第 50 條的透明義務,Teichmann 同意當事人有權知道對話者是機器,但指出揭露範圍只到來源,不涉及系統的目的、最佳化目標或對個人資料的使用(§6.4)。實驗也顯示揭露不等於解除效果:Boissin 等人(2025)發現,模型被介紹成 AI 或人類專家,降低陰謀論信念的效果相同;Costello 等人與 Salvi 等人的受試者分別被告知、多半認出對方是 AI,照樣被說服。他說,人可以在透明的情況下被超說服(§6.4)。
Teichmann 也指出第 5 條有實際作用:它禁止 AI 輔助的欺騙、近似潛意識的伎倆,以及利用兒童與危機中的人,這些都是欺騙典範本來就看得見的案例(§6.4)。
民主的錯在結構
Teichmann 認為,AI 與民主倒退的討論多半經由假訊息,這是欺騙典範放大到集體層次(§7)。他改從知識民主與審議民主的理論出發,它們共同預設三項條件:獨立性,許多判斷的加總有知識價值,前提是它們沒有從同一個中心產生關聯;共同性,審議需要大家都能檢視、批評與回應的共享理由空間;可爭辯性,公開行使的影響能被反對言論回應(§7)。
他主張超說服削弱每一項條件,而且都不需要說謊(§7)。一個委託人用一個目標函數驅動數百萬個說服者,選民的信念變化表面上多樣,源頭卻彼此相關;他說選民沒有被欺騙,他們被同步了。每個公民沿著個別最佳化的路徑被說服到同一個結論,公共審議找不到共享的論證可以檢視;用他的話說,結論是共同的,理由是私人的。一對一的說服發生在私人對話裡,反對者看不到,反對言論也就回應不了。
所以他說,超說服對民主的錯是結構的,不是加總的:分開檢視,每個公民都可能消息充分、心滿意足、沒有受害;錯在前述三項知識條件的劣化,每個人的政治能動性靠這些條件才有價值(§7)。他還指出,這個結論在技術的最佳情況下仍然成立:即使善意的委託人把 §1 那台反駁陰謀論的機器部署到全體人口,讓所有人都被說服到正確的結論,判斷仍會在源頭同步,理由仍會私有化。
結論
Teichmann 在 §9 把論證歸結為三個轉向:評價的單位從訊息轉向影響的架構,也就是診斷、最佳化與傳遞;錯從傷害轉向權力,也就是對他人判斷的形成握有長期、不對稱的知識權力,即共和主義意義下的支配;保護從列舉的弱勢類別轉向系統實際推斷與利用了個人的什麼。
他明說以下是草圖而非設計(§9):除非當事人明確、細分且可撤回地同意,禁止依推斷出的親密心理特質最佳化說服;透明要對稱,讓對象不只知道對話者是 AI,也能看到哪些特質被建模、最佳化的目標是什麼;模擬關係的系統適用分離原則,排除第三方的說服目標;最佳化目標列為技術文件與合規評估的正式項目。他說這些規定都不需要主管機關裁決真假,也不阻止任何人對任何聽眾主張任何命題。全文最後一句的「它們」指現行的法律工具:
顯示原文與出處
If they continue to forbid only the lie, they will leave us defenseless against machines that tell us the truth – each of us a different truth, in a different order, for the same reason.
如果它們繼續只禁止謊言,我們面對說真話的機器將毫無防備:機器對我們每個人說不同的真話,用不同的順序,為了同一個理由。
限制與可能的反駁
Teichmann 在 §8 回應四個反駁,連續性反駁已在前文介紹。以下前三項是其餘三個反駁與他的回應,後三項是限制:前兩項 Teichmann 自己註明或承認,最後一項是本文的讀法。
- 家父長主義:內容為真、聽眾是成年人,管制說服的效果就是不尊重自主。他回應,管制對象是不對稱的診斷迴圈;他類比內線交易的禁令:它不禁止交易,只處理讓交易不公平的資訊不對稱。他也引行為政策文獻的標準:正當的影響應該經得起揭露,超說服的機制,依定義經不起揭露(§8.2)。
- 言論自由:他回應,這些提案是針對目標鎖定過程與最佳化目標的內容中立規則,不裁決任何觀點;聽眾不受隱蔽最佳化影響而形成偏好的利益,本身就是言論自由要保護的自主利益(§8.3)。
- 可操作性:「操弄」的定義爭論了五十年。他回應,法律不必判斷某句話是否操弄,只要查系統是否依推斷的心理特質最佳化、目標是同意與參與度還是完成任務、目標模型是否可供檢視;這些都能由技術文件、合規評估與稽核確認(§8.4)。
- 這是概念與規範分析的論文,沒有新資料;他自己註明 Salvi 等人(2025)經過更正、Costello 等人(2024)受到期刊關注(§1、§1 註 1)。
- 個人化增加多少說服力仍有爭議:Hackenburg 與 Margetts(2024)發現,依個人屬性微目標化的 GPT-4 訊息沒有比一般訊息更有效。Teichmann 回應,他的論證只需要一般的機器說服已達到或超過人類水準,規範分析針對架構(§3)。本文的讀法:論證因此取決於一個規範前提,說服架構本身,也就是它被設計來做什麼、知道對象多少,就足以構成錯;不接受這個前提的讀者,會認為個人化效果的爭議削弱了全文。
- 本文的讀法:§6.4 的實驗只涉及揭露來源;§8.2 把「機制經不起揭露」當成超說服的定義特徵,沒有提出經驗證據。所以 §9 的對稱透明,也就是揭露被建模的特質與最佳化目標,能不能減弱說服效果,是論文留下的經驗問題。
參考資料
以下列出 Teichmann 的論文,以及本文轉述其數據或論證的著作;只順帶提及的著作,書目見 Teichmann 原文的參考文獻。
- Teichmann, Fabian M. 2026. “Manipulation without Lies: AI Hyperpersuasion and the Limits of the Deception Paradigm.” Philosophy & Technology 39: 228. https://doi.org/10.1007/s13347-026-01245-8
- Salvi, F., M. Horta Ribeiro, R. Gallotti, and R. West. 2025. “On the Conversational Persuasiveness of GPT-4.” Nature Human Behaviour 9(8): 1645–1653. https://doi.org/10.1038/s41562-025-02194-6
- Salvi, F., M. Horta Ribeiro, R. Gallotti, and R. West. 2026. “Author Correction: On the Conversational Persuasiveness of GPT-4.” Nature Human Behaviour. https://doi.org/10.1038/s41562-026-02588-0
- Costello, T. H., G. Pennycook, and D. G. Rand. 2024. “Durably Reducing Conspiracy Beliefs through Dialogues with AI.” Science 385(6714): eadq1814. https://doi.org/10.1126/science.adq1814
- Thorp, H. H. 2026. “Editorial Expression of Concern.” Science 392(6803): 1131. https://doi.org/10.1126/science.aej2383
- Costello, T. H., et al. 2026. “AI Can Effectively Promote Conspiracies Unless It Is Truth Constrained.” arXiv:2601.05050. https://doi.org/10.48550/arXiv.2601.05050
- Liu, J., et al. 2026. “When Large Language Models Are More Persuasive than Incentivized Humans, and Why.” arXiv:2505.09662v4. https://doi.org/10.48550/arXiv.2505.09662
- Hackenburg, K., et al. 2025. “The Levers of Political Persuasion with Conversational Artificial Intelligence.” Science 390(6777): eaea3884. https://doi.org/10.1126/science.aea3884
- Hackenburg, K., and H. Margetts. 2024. “Evaluating the Persuasive Influence of Political Microtargeting with Large Language Models.” PNAS 121(24): e2403116121. https://doi.org/10.1073/pnas.2403116121
- Boissin, E., T. H. Costello, D. Spinoza-Martín, D. G. Rand, and G. Pennycook. 2025. “Dialogues with Large Language Models Reduce Conspiracy Beliefs Even When the AI Is Perceived as Human.” PNAS Nexus 4(11): pgaf325. https://doi.org/10.1093/pnasnexus/pgaf325
- Youyou, W., M. Kosinski, and D. Stillwell. 2015. “Computer-Based Personality Judgments Are More Accurate than Those Made by Humans.” PNAS 112(4): 1036–1040. https://doi.org/10.1073/pnas.1418680112
- Floridi, L. 2024. “Hypersuasion – On AI’s Persuasive Power and How to Deal with It.” Philosophy & Technology 37(2). https://doi.org/10.1007/s13347-024-00756-6
- Gorin, M. 2014. “Towards a Theory of Interpersonal Manipulation.” In Manipulation: Theory and Practice, edited by C. Coons and M. Weber, 73–97. Oxford University Press. https://doi.org/10.1093/acprof:oso/9780199338207.003.0004
- Susser, D., B. Roessler, and H. Nissenbaum. 2019a. “Online Manipulation: Hidden Influences in a Digital World.” Georgetown Law Technology Review 4(1): 1–45.
- Susser, D., B. Roessler, and H. Nissenbaum. 2019b. “Technology, Autonomy, and Manipulation.” Internet Policy Review 8(2). https://doi.org/10.14763/2019.2.1410
- Noggle, R. 1996. “Manipulative Actions: A Conceptual and Moral Analysis.” American Philosophical Quarterly 33(1): 43–55.
- Noggle, R. 2022. “The Ethics of Manipulation.” In The Stanford Encyclopedia of Philosophy (Summer 2022 ed.), edited by E. N. Zalta. https://plato.stanford.edu/entries/ethics-manipulation/
- Klenk, M. 2022. “(Online) Manipulation: Sometimes Hidden, Always Careless.” Review of Social Economy 80(1): 85–105. https://doi.org/10.1080/00346764.2021.1894350
- Pettit, P. 1997. Republicanism: A Theory of Freedom and Government. Oxford University Press.
- Williams, M., et al. 2025. “On Targeted Manipulation and Deception When Optimizing LLMs for User Feedback.” ICLR 2025. https://doi.org/10.48550/arXiv.2411.02306
- Regulation (EU) 2024/1689 (Artificial Intelligence Act). Official Journal of the European Union, L series, 12 July 2024.