《連結》：讓人類可以大規模合作的機制

在閱讀《連結》之前，我以為內容會是講演算法和 AI 可能帶來的危害和應對方法，但實際上，這本書在討論的是：人類社會建立在資訊網路上，這個系統如何在維持秩序的同時，還具備發現自己錯誤的能力。作者哈拉瑞把秩序與真理放在兩端，回顧歷史會發現，兩者常常無法兼顧。隨著科技發展，過去民主做不到的群眾對話，以及過去極權做不到的極致管理，都變得有可能實現；演算法的進步也迫使我們思考，是不是召喚了無法停止的魔法掃帚。¹

如果人類社會處處充滿哈拉瑞說的「虛構故事」，那我如何判斷什麼是「正確」的？每個人都拿手邊的資訊，織出一層包覆著自己的世界觀，那就是「繭」；如果資訊在演算法的作用下，變得只呈現我想看到的內容，我要怎麼知道包住我的繭是不是「真理真相」？

道德良善可能不是指標#

我首先想到羅馬哲學家皇帝馬可・奧理略，他認為道德良善是人生的最高美德；在斯多葛學派的架構裡，追求真理是看清世界的方法，實踐良善則是看清之後、人活在世上的最終實踐。先看清，然後做對的事，聽起來挺合理的。

但誰來定義「善」？只要判斷標準是「哪一種比較好」，就永遠有人可以宣稱自己是站在好的那邊。獵巫的人相信自己在剷除異端邪惡，那對他們是善；納粹迫害猶太人，用後見之明看是極不人道的行為，但對身在那個政權底下的人來說，他們不過是在剷除「非人」，那對他們也是善。

康德的義務論管的不是結果，是行為本身合不合道德法則。他最有名的 公式之一是：你的行動，永遠要把人當作目的，絕不能只當作手段。但規則裡沒有說誰算「人」。²

獵巫的人沒有主張可以燒死鄰居，他們說女巫是惡魔的僕人，必須嚴刑拷打並剷除；納粹沒有主張殺人合法，他們說猶太人是次等人，不在道德共同體裡。被改掉的不是規則，是適用範圍，不必推翻「應該善待所有人」，只要重新定義誰是人就夠了。

邊沁的效益主義，看的是行為帶來的結果能不能使最多人快樂或獲得最大利益。³ 但這本身是個難以計算的公式，因為公式加總範圍包含未來，任何把付款日押在未來的正當化都是賒帳，尚未到來的幸福永遠無法被檢驗、也可以被無限放大。

現在的痛苦是數得出來的——屍體、餓死的人數、勞改營的名冊；未來的幸福是空白支票。古拉格的痛苦除以未來真正社會主義的幸福，分母想寫多大就寫多大。

兩套公式本身都合乎理性，歷史卻都給了失效的案例：一套改的是誰算在裡面，一套改的是什麼時候結算。規則從頭到尾沒有被違反，悲劇還是會發生。

出錯時的訊號#

蘇聯的村莊被指派了清算富農的名額，可是每戶人家都一樣窮，最後只能抽籤選出「富」農；秦朝的官員謊報糧倉鼠洞數量，中央靠損耗的帳目估算糧食，以為國庫充盈，實際上百姓正在挨餓受凍。底下的官員說謊不是因為圖謀不軌，只是因為說實話會被懲罰。

哈拉瑞說「極權犧牲真理來換取秩序」，但其實不是「用一點真相，換一個穩定的社會」這樣划算的交易，懲罰壞消息的做法正是親手切斷得知「我可能錯了」的那條訊號線。

所以，或許我們該聚焦討論的不是系統的目標對不對，而是當系統出現錯誤時，會怎麼樣？

這個轉向不需要先定義「什麼是善」。與其爭論終極目標，不如先承認「人都會犯錯」。既然如此，一個系統只要有自己宣稱的目標，再加上不會靜默失敗的設計，「錯誤」就能被即時發現。

這或許是哈拉瑞最想傳達給讀者的訊息：不論過去或未來，自我修正機制都會是決定人類能不能從天災人禍中復原的重要能力。

從微觀的細胞、宏觀的自然，到人類的社會制度，「自我修正機制」是宇宙萬物在失序時，將自己拉回正軌的本能。人體靠負回饋調節，將異常狀態拉回平衡；科學的核心是「承認無知」，透過同儕審查與重複驗證，得以推翻錯誤理論，往真理靠近。

在資訊系統中，自我修正機制通常包含監測、評估、診斷、調整四個步驟。理想的民主制度應該會是一套嚴密的自我修正系統：自由媒體與言論 24 小時不間斷地「監測」社會異狀；獨立司法與法治標準對政府行為進行「評估」；透過國會質詢與公共辯論，各方角力並「診斷」政策的病灶；最終，定期選舉與修法機制給予社會翻轉與「調整」的權力。

每個環節都有可能獨立損壞，壞掉的樣子也完全不同。極權多半是在監測那層就斷掉了——說實話的人會被懲罰，沒有人敢講真話。後面三步就算完好也無事可做，因為要嘛沒有訊號進來、要嘛進來的訊號沒有反應真相。

民主是怎麼壞的#

先前提到的大多是極權與專制失效的案例，這不代表民主就比較善良。歷史上，在民主制度下被迫害的人也很多，差別在於有沒有留下紀錄，能夠在往後被拿出來重審、賠償、道歉。

另外，民主也比極權還要沒有效率，因為它得處理來自各方的訊號，用根本不共用的單位在無法互相比較的價值之間排序，而且不管怎麼排，都會有一部分的人認為排錯了。但那正是它在做的事，把不論想聽或不想聽的訊號都囊括進來。

民主的監測層可能壞掉，問題出在任何人都可以表達想法，但議題說出來討論後，彼此卻活在各自認同的事實裡。

人類一直活在「主體間的現實」：村莊、法律、宗教、國家，這些東西之所以存在，是因為夠多人相信它們存在。哈拉瑞在《人類大歷史》裡說過，智人能大規模合作靠的就是述說共同的故事，而故事不必是真的。 我們拿手邊的材料，不論是非真假，編織成一個包覆自己的繭，只看自己想看的、只聽自己想聽的。

資訊形成的繭一直都存在。差別在於過去鄰居手邊的材料來自同一個物理世界，周遭人們至少共享「發生了什麼事」；網路讓我們取得大量不是自己經歷的資訊，演算法再依各自的喜好過濾，織出來的繭變得沒有交集。連事實都不共享的時候，監測就失效了，不是因為沒有人講，是因為講什麼都有人不信。

寫到這裡，不免延伸到台灣的政治現況。數位社會計畫（Digital Society Project）長年調查各國「遭受境外政府散播假訊息」的程度，台灣連續多年排名全球第一。⁴

但我們的監測層不是壞在運作不良。來自境外的真假消息，其實也都得經過本地的媒體、政治人物與社群帳號去轉譯、放大、背書——負責監測的那些機構，同時也是傳話的人。這讓外部攻擊變得更難處理，政府沒辦法只是在邊界上過濾，因為有些訊號是從系統內部發出來的。

面對媒體充斥著似真似假的資訊，可以看到政治人物每個都聲稱自己的行為是「為台灣好」，但前面的歷史故事就是在告訴我們，這不是適合當成判斷的指標。

或許我們該注意的是別的訊號，而且全都是現在就看得到的：選舉有沒有如期舉行、票有沒有被清點、輸的人能不能上訴、下一次還能不能再選、監督機關能不能運作、憲法法庭能不能作成判決。這些問題不需要預測未來，也不需要判斷誰的動機比較純正，可以查證，也可以被推翻。

民主中的自我修正機制，要的不是掌權者認錯和悔改，那是道德問題，法律從來都是最低的道德標準，制度保障的只有「能和平的替換不適任者，沒有人需要流血」。人民可以觀察的是：實際握有權力的人想動的是遊戲規則，還是遊戲結果？爭奪結果是正當的，但改規則讓自己不會輸，是會破壞自我修正的行為，通常也會是邁向極權的開端。

台灣的現況似乎又更加嚴峻，即使社會透過媒體監測到危機、司法評估了違法、公共辯論診斷出漏洞，要依程序進行「調整」卻被自己內部的零件和運作規則卡死。

監測再完整，無法執行調整，系統就還是會崩潰。

如何面對未來的挑戰#

極權和民主是人類社會制度光譜的兩端，書裡用大量歷史案例討論兩者，不是要說哪個一定比較好。人類接下來要面對的生存與環境危機、社會與心理困境，需要的合作規模比過去都大，或許適合那種規模的制度是在光譜上的任何一個點，過去和現在都還不存在。

Facebook 的推薦系統在緬甸放大了針對羅興亞人的仇恨言論。這件事有工程師、有股東、有公司，理論上都算得上控制者，但真要問「誰該負責、要怎麼改」的時候，數位系統目前還是接近無法咎責的狀態。

AI 又更遠一層。它是大量演算法組合起來的東西，而且能自己從中摸索出新的演算法，所以它未來會有什麼行為比現在更難預測，也更難追回源頭。

正如魔法師學徒學會了召喚魔法掃帚的咒語，卻沒有學過如何讓掃帚停下不再舀水。

所以人類該擔心的或許不是 AI 會不會有意識或者會不會失控，而是當發現它往錯誤的方向發展時，誰有權關掉它、換掉它、要求它改？

回到那個繭#

回到個人層面，「我怎麼知道包覆住自己的繭是不是真理真相？」這個問題或許根本沒有答案，該問的應該是「包覆我的繭要怎麼樣才能留住進出的通道？」

我能想到的辦法可能跟哈拉瑞一樣，是去練習內觀，透過向內的覺察，觀看自己的信念。在相信某件事情為真時，也記得定義反駁的條件，讓自己具備偵錯訊號，成為思想可以自我修正的人。

也提醒自己警惕現代犬儒主義的思想和行為。⁵ 當監測找出問題時，不要忽略調整，不要讓清醒的認知停留在腦袋，要具體的、真誠的用身體力行。

面對充斥真假訊息的現況，能力有限的個人究竟能做什麼？在媒體會偏頗、專業人士也有成見的資訊網路裡，不是看誰說的比較正確，而是看誰錯了以後願意改過。更正的紀錄會累積而且可以查詢，不需要花很大量的時間調查每件事情的真相，也不需要是那個領域的專家。

我原本說不出自己為何焦慮於民主社會可能被破壞，也說不出來極權和專制為什麼不好，現在我可能知道原因了：我想要生活在可以自由探索的環境裡，也希望自身周圍的網路具備像森林那樣的多樣性，雖然有些危險、卻也新奇美妙。

自由帶來自主與選擇權，但也伴隨著責任、風險與孤單。事實上自由不代表會比較幸福快樂，選擇太多、價值太過相對，同樣會導致人失去客觀指引，陷入虛無主義的迷茫中。⁶ 但在民主社會裡，這是一種可以透過自我啟蒙和社群重建來治癒的疾病；在極權社會裡的人同樣有可能陷入虛無主義，那是由體制刻意製造出來控制人心的工具，人民會「因為恐懼而麻木」，傷害往往更深、更難復原。

所以在「主體間的現實」裡，不是去尋找絕對的秩序，也不是尋找真理真相，是去建立並維護自我修正機制，讓系統可以靈活應變，並持續運作下去。

註釋#

1. 〈魔法師的學徒〉是歌德一七九七年的敘事詩。學徒趁師父不在，用咒語讓掃帚去提水，水提個不停，他卻不會念停止的咒語，情急之下把掃帚劈成兩半——結果兩半各自繼續提水。 ↩

2. 康德（Immanuel Kant, 1724–1804），德國哲學家。義務論主張道德判準在於行為本身是否符合可普遍化的法則，而非行為造成的結果。此處引的是定言令式的「人性公式」。 ↩

3. 邊沁（Jeremy Bentham, 1748–1832），英國哲學家與法律改革者。效益主義主張行為的道德價值取決於它造成的後果，判準是「最大多數人的最大幸福」。 ↩

4. 指標是 Digital Society Project 的 v2smfordom（境外政府散播假訊息）。該計畫使用瑞典哥德堡大學 V-Dem 研究所的資料庫基礎設施，但與 V-Dem 每年發布的民主報告不是同一份東西。截至二〇二四年的資料，台灣已連續十一年排名全球第一，第二至五名為拉脫維亞、巴勒斯坦、伊朗、蒙特內哥羅。這是專家評分的調查指標，不是實際訊息流量的量測。 ↩

5. 現代所說的犬儒（cynicism）指的是看穿一切、對改變不抱期待的消極態度，與古希臘的犬儒學派幾乎相反——第歐根尼那一派主張唾棄世俗成規、身體力行地實踐德行。這裡指的是前者。 ↩

6. 虛無主義（nihilism）指既有的價值與意義失去根據之後的狀態。它主張的不是「什麼都是壞的」，而是找不到判斷好壞的立足點。 ↩