人工智能終成過去式，未來將是擴張智能

前 MIT 媒體實驗室主導伊藤穰一（Joi Ito）在疫情的時候，特別向 Wired UK 寫了一篇專稿，指出現在人工智能的浪潮無法解決人類社會的實際問題，另外提出「擴張智能（extended intelligence, EI 或 XI）」的概念，希望可以補足人工智慧的不足。原文需要一些計算機知識才能看懂，所以本次還是不以全文翻譯，而是加上技術背景，讓我們一起討論「擴張智能」的可能性。

模控學的早期貢獻者之一諾伯特·維納（Norbert Wiener）的著名作品「人類的人性用途：模控學與社會（The Human Use of Human Beings）」，指出技術具有特異點（Singularity）的本質，只要超過一定的實用數量就會影響人類社會，破壞過去繼承的一切，且不可逆。像是比特幣就很接近技術的特異點，或者人工智慧也是，許多人都認為人工智慧終將取代人類，技術成為社會運行的基礎。

我（伊藤穰一）有幸參與這個討論，但是也發現諾伯特·維納所提出的複雜機械問題不是解決技術問題，而是發明一種問題背後的結構，結構幾乎等於解決問題的路徑。從諾伯特·維納的角度來看，人類發明「電腦」這個極致的智能工具，目的不在於解決已知問題，而是問題的「結構」在電腦發明之後已經被改變了，現在我們要解決一個複雜問題，前提設定已經從人力轉換到電腦。

只要是電腦能夠產生資料與演算法，就有可能解決問題，反之，電腦無法解決的問題＝沒有資料與演算法，我們就當作不存在。

這也是控制論（Cybernetic）的主要論點，如果我們人類能夠控制複雜機械，就能依存在技術上，進而獲得數不盡的財富與知識。藉著技術能力（莫爾定律）逐漸提高，就等於人類將成為無限成長的一份子，技術本身就是成長，成長本身是必然現象。

特異點本身的思考缺陷

在矽谷，聚集一群以技術為宗教體系的人們，藉由技術所產生的資本獲利，卻少了規則與自我約束，造成性騷擾或者資本過度集中等等連鎖的倫理崩壞。雖然網路上也有像是#techwontbuild、#metoo、#timesup等等關鍵字運動，但終究不成大局。這些科技巨頭佔領的不只是人類的時間，不受限制的技術本身就幾乎等於無限成長的商業引擎，無止盡的往前開去。

這個時候，我們回來看技術特異點。如果特異點的轉換就像是人工智慧常用的 S (sigmoid) 曲線，邏輯 0 與1 中間充滿了無數的節點，在某個時間(t)這些變量就會成為曲線逆轉的關鍵。技術如果成功啟動人工智慧的象徵，已就代表我們回不去那個過去，就像我們現在已經很難想像沒有個人電腦要如何工作。許多特異點專家也指出，如果 S 曲線的上限不是 1 ，而是沒有設限的話，人工智慧等於有自我強化的能力。

人工智慧與社會的關係跟 S 曲線有相似的道理，差別只是有沒有自我設限。無限制的技術幾乎等於社會將會無限制擁抱人工智慧的到來，這也是那些矽谷科技巨頭對於人工智慧技術相當有信心的根本原因。

社會如何限制技術自我強化，尤其是那些提倡特異點的專家來說，根本就是無稽之談。專家們相信技術系統會自然產出限制，內部可以自我產生規則，不需要外部力量介入。即使技術出了問題，像是COVID-19疫情，也是某種技術特異點會發生的意外。經過一定的時間，疫苗以及自然該淘汰的物種滅絕之後，自然就會回到系統調節上。

專家指出這就是所謂的超智能（Super Intelligent），不管疫情怎麼結束，都有新的秩序取代舊規則。不過，特異點專家也許自己沒有發現，人類在特異點產生的時候所需要產生的行動變化，或者造成意識改變的糾結，誇大一點說是人類審判之日是否與超智能有所關係，技術與行為中間產生了矛盾。

對於技術能夠如何突破人類限制的討論，最精準的還是 Elon Musk 所炒紅的「第一原理（First Principle）」，表示如果我們把表面現象抽絲剝繭到最基礎的理論，再往上堆疊合理的推論，就成為他創辦許多科技新創的理由。

第一原理所代表的還原論（Reductionism）也在特異點的矛盾中發揮作用。

舉例來說，心理學家弗雷德里克·史金納（Frederic Skinner）將人類行動設定為條件刺激以來，強化行為理論紛紛在學校教育中實踐，反覆練習成為人類學習的準則。但是，近年的研究則顯示史金納的強化條件理論沒有實際上的科學證據能夠證明有正面影響，反覆練習並不會讓人類變得更加熟練，人類需要的是多元思考。或者像優生學也在近年的研究中發現沒有科學根據，人類跟高尚社會的連結不是挑選優秀基因就可以解決。錯誤的優生學理論導致第二次世界大戰發生，都是特異點矛盾（內部跟外部無法順利調節），人類只是接收自己造成的後果。

單純相信技術是理性的成果，對技術者來說的確是個有效的逃脫手段，能夠避免討論特異點矛盾。技術者創造名為「技術與科學」的宗教論：科學本身原本就是將複雜現象可以用理論簡單說明的領域，過於簡化的理論則會讓科學看起來極為樂觀，不存在例外，但也讓科學本身成為無法解決人類問題的關鍵。

「追求簡單，不是簡化（Make things as simple as possible, but not simpler）」愛因斯坦曾說過的一句話，體現科學宗教化的無意義。

我們必須要接受這個現實世界的不可知，不是簡化世界就能得到自己想要的結論，也不是單純使用技術就能夠達到控制的目的。有些人看不懂藝術家、生物學家或是人文科學等所提出的問題，或許也會感到不安，就等於是這些人會過度簡化自己的世界，沒有辦法體會到複雜問題背後的意義。

現代社會之所以有複雜問題，不只是過去解決問題的手法其實值得商榷（優生學或是工業時代的學校教育），像是氣候變動、貧困、慢性疾病或者恐怖主義其實都無例可循。學會如何指數成長，控制複雜系統的彈性，並且追求極致生產力，都是我們這個現實世界的議題。

從系統中系統的系統談起

現代科學要解決社會問題，必須認知到系統跟系統中間是相互連結，系統設計者無法完全理解其他系統的問題，一個系統能夠解決的問題範圍也有限。人類無法完全脫離系統生存，就像是過去人類動物無法脫離自然環境生存一樣，只要是現代人類就必定歸屬在某個系統之中。也就是說，當人類適應系統的時候，就連自己的行為準則跟會跟系統所代表的文化基礎或個體差異相互作用。舉例來說，組成人體的各個細胞，都跟設計者（造物者）想要的功能息息相關，無法個別獨立存在。

Kevin Slavin 在 2016 發表的一篇名為「設計即參與（Design as Participation）」，就以交通塞車問題為事例，如果我們想要設計出不塞車的系統，設計者本身就是參與者，反之亦然，參與者也是設計系統的一人。「你不是捲入交通塞車問題，你本身就是交通的一部份」Kevin 說。

對於人類來說，我們一方面接受繁衍所需要的進化，所以需要夠複雜的遺傳DNA系統，另外一方面也要多多參與能夠讓我們成長的系統，以確保自己的適應力可以符合未來社會的挑戰。我們稱為「參與式設計（Participatory Design）」，不管參與者的權力與組織規模大小，都能夠對未來系統有所貢獻。