跳到內容

Reading note

Shin et al., Superhuman Artificial Intelligence Can Improve Human Decision-Making by Increasing Novelty

超人 AI 出現後,職業圍棋棋手的決策會改變嗎?若會,機制是什麼?

洪偉的作者圖像
Author

洪偉

偉鐸資訊技術長、台大哲學博士候選人與哲學普及寫作者,長期投入 AI、公共議題與 TRPG。

Published: at 08:10 PM
編輯本頁下載圖卡

閱讀來源:Shin 2023

關於這篇筆記

本篇依 arXiv 上的接受稿寫成,頁碼為手稿頁碼(1–22),與 PNAS 版不同。未讀 OSF 上的補充附錄,附錄收有 Figs. S1–S6,以及決策品質指數與新穎指數的技術定義。引用分階段的效果前請核對附錄。

核心論點

AI 系統在醫療、交通、語言與自然科學等領域逐漸接近或超越人類,人類的決策會因此改變嗎?若會,機制是什麼?這是作者要回答的問題(Shin et al. 2023: 3)。

作者選擇圍棋,因為職業棋手的每一手都有紀錄,而超人 AI 的出現可以對應到明確的日期:2016 年 3 月 15 日,AlphaGo 擊敗人類世界冠軍(Shin et al. 2023: 3)。他們分析 1950 到 2021 年間超過 580 萬手職業棋手的著法,得到三個結果(Shin et al. 2023: 2, 5–9):

  1. 決策品質在 1950 到 2016 年間幾乎持平,超人 AI 出現後明顯上升。
  2. 著法的新穎性在同一時間急升:棋局更早偏離過去出現過的序列。
  3. AI 出現後,新穎著法的品質提升大於非新穎著法。

作者也檢驗了一個替代解釋:棋手只是記住 AI 的著法。他們的結論是,記憶不可能是唯一的解釋(Shin et al. 2023: 17)。

背景

文獻告訴我們,創新不保證人類的決策會隨之進步(Shin et al. 2023: 4)。較好的決策方式常會透過累積文化演化在人群間傳開;但人類學習的內在偏誤與摩擦,也可能延遲或打亂這個過程。手上有已證實有效的熟悉方案時,連專家也可能不採用陌生但客觀上更好的方案。所以 AI 出現後人類決策會不會進步,並非理所當然。

若真的進步,其中的機制可能是新穎性(Shin et al. 2023: 4)。有人主張 AI 能以新的方式組合熟悉的想法,探索被忽略的概念空間;但人類決策者是否會採用 AI 產生的想法,研究還很少。

作者在引言引用李世乭的話:AlphaGo 讓他懷疑人類的創造力,懷疑自己所知道的那些棋是否正確;它的風格很不同,他花了時間才適應,也讓他明白自己必須更用功學棋(Shin et al. 2023: 3)。

方法

決策品質指數

圍棋的狀態空間太大,難以判斷哪一手客觀上比較好,所以作者使用超人 AI 程式 KataGo 來衡量(Shin et al. 2023: 18)。他們利用 KataGo 的兩個特性:它的決策品質超越人類,而且它能評估任何一手棋的品質,不論是人下的還是它自己下的。

做法分兩步(Shin et al. 2023: 18–19)。第一步,對每一手人類著法,讓 KataGo 在同一局面給出它自己的最佳著法,作為反事實的對照。第二步,用同一個程式比較這兩手的勝率。一手棋的決策品質指數(Decision Quality Index, DQI)就等於 100% 減去兩者的勝率差。每一手都模擬 10,000 個棋局變化,總共產生 580 億個反事實棋局(Shin et al. 2023: 2, 5)。

新穎指數

新穎性的測量借自西洋棋界的做法(Shin et al. 2023: 7)。在每一局中,找出使著法序列首次成為「歷史上前所未見」的那一手:如果前 9 手的序列曾經出現過,第 10 手使 10 手的序列成為資料中從未有過的,第 10 手就是新穎著法。新穎著法出現得越早,這一局就越新穎。新穎指數(Novelty Index)就是資料集中的最大手數 602,減去新穎著法的手數。新穎性只分析每局的前 60 手,因為作者先前的研究顯示,向 AI 學習似乎集中在棋局的前段(Shin et al. 2023: 7 n. 2)。

結果

決策品質

扣除棋手個人的差異後,各年、各月的平均決策品質在超人 AI 出現後明顯上升(Shin et al. 2023: 5–6)。出乎作者預期的是,AI 出現前的 66 年間,決策品質幾乎沒有進步。

新穎性

由於資料中的序列越來越多,新穎著法理應越來越晚出現,扣除棋手差異後各年的平均新穎指數也確實隨時間下降(Shin et al. 2023: 7)。但超人 AI 出現後,新穎指數急升:棋手更早偏離過去出現過的序列(Shin et al. 2023: 7–8)。用另一種新穎性的測量,也得到類似的結果。

新穎性與品質

作者以「是否在 AI 出現後」「是否為新穎著法」及兩者的交互作用,迴歸每一手的 DQI,並控制手數與棋手的固定效果(Shin et al. 2023: 8–9)。係數的單位是 DQI 的百分點。新穎著法本身的品質較低(約 −0.608),但交互作用顯著為正(約 0.515)(Shin et al. 2023: 8–9)。也就是說,AI 出現後,新穎著法的品質提升大於非新穎著法(Shin et al. 2023: 8)。不過 −0.608 加上 0.515 仍是負數:AI 出現後,新穎著法的品質還是略低於非新穎著法,只是差距從約 0.6 縮小到約 0.1 個百分點。

記憶假說的檢驗

一個可能的解釋是:人類棋手只是記住並複製 AI 產生的優越、新穎的著法,並沒有內化 AI 的決策邏輯(Shin et al. 2023: 9)。記憶可以是記住 AI 的著法序列(特別是從開局開始),也可以是記住每個可能局面的最佳著法。作者用五種方法檢驗這個假說。

排除與 AI 相同的著法。 約 40% 的人類著法和 KataGo 的最佳著法相同(Shin et al. 2023: 10)。若進步完全來自記住 AI 的最佳著法,其餘 60% 的著法就不該進步。但只看這 60%,AI 出現後的品質上升依然明顯(Shin et al. 2023: 10–11)。

較後的階段。 作者發現,資料中一半以上的新穎著法出現在第 10 手以前,99% 的開局序列到第 21 手時已是前所未見的(Shin et al. 2023: 12)。所以第 20 手以後,棋手面對的幾乎都是從未見過的局面,記住最佳著法並不可行。若進步來自記憶,應該只出現在前 20 手;但第 21 到 50 手的品質也上升了(Shin et al. 2023: 12)。

對手偏離之後。 假設雙方都背了 AI 的著法序列,那麼當對手第一次偏離 AI 的最佳著法時,回應的那一手就不在背好的序列裡(Shin et al. 2023: 12–13)。例如序列是 dd(黑)→ pp(白)→ dp(黑)→ pd(白),前兩手和 AI 相同,第三手 dp 不同,就分析 pd 這一手。這些應手的品質在 AI 出現後也上升了(Shin et al. 2023: 13)。

與 AI 不同的新穎著法。 只分析和 AI 最佳著法不同的新穎著法,新穎指數在 AI 出現後仍然上升(Shin et al. 2023: 13–14)。

加入 AI 的著法。 若棋手在私下研究時看到 AI 發現的新著法,再自己下出來,這些著法會被誤算成人類的新穎著法(Shin et al. 2023: 15–16)。作者讓 AI 自我對弈,產生 60 萬手棋,插入資料中、放在 AI 出現之前,再重新計算新穎指數。結果新穎性的趨勢幾乎沒變(Shin et al. 2023: 16)。

討論

作者認為,AI 能不受人類偏見影響地找出最佳決策,特別是透過自我對弈訓練時,因此能挖掘出被專注於熟悉方案的人類所忽略的優越解法;這些發現為人類創造了學習與進一步創新的機會blog/src/content/posts/phlosophy/ai-and-games/concept-discovery-alphazero.md(Shin et al. 2023: 17)。

他們也列出尚未回答的問題(Shin et al. 2023: 17–18):

  1. AI 是否透過增加新穎性而提升了決策品質,也就是因果鏈的每一環是否都能確立。
  2. 若不是透過新穎性,AI 是經由什麼機制提升了決策品質。
  3. AI 出現前後的新穎著法,在質上有什麼不同。
  4. AI 出現後,決策風格如何改變。

參考文獻

  • Shin, Minkyu, Jin Kim, Bas van Opheusden, and Thomas L. Griffiths. 2023. “Superhuman Artificial Intelligence Can Improve Human Decision-Making by Increasing Novelty.” Proceedings of the National Academy of Sciences 120 (12): e2214840120. doi.org/10.1073/pnas.2214840120

註釋

編輯本頁

Comments

留言

    Podcast

    關於語音摘要

    此語音摘要由 Google NotebookLM 提供,不完全代表作者本人對文章的理解。