人類進入駭客時代,你的意志不代表自己

,

撰寫「人類大歷史」與「人類大命運」的歷史學家哈拉瑞(Yuval Noah Harari)在元旦的日經新聞發表一份文章。他指出目前已經是「能夠操縱個人意志的時代」,希望科技巨頭們再次負起責任,在運用科技的時候也能仔細遵守網路倫理。個人也需要有面對變化的柔軟性,才能夠保持目前的行為準則。

他舉出這幾十年來人類運用和平、寬容與共同協力將國際秩序建立在一種可以維持繁榮的基礎,跟21世紀當初戰爭頻傳、疾病、營養不足餓死的世界,有很大的差距。就連糖分攝取過多都比火藥還要傷害人體,人類面對前所未有的榮景,而且每個人都認為理所當然。

如此經濟發展讓自由且成熟的國際秩序已經不是單一國家的責任,我們都住在一個系統化逐漸弱化的世界,各國都有自己內部的政治問題或者是區域不安定要素。人類生活已經是世界村,當然也需要秩序規則,但是,我們也發現國際秩序就等於是一個誰都不認為這是自己的責任,也沒有人想要修正的問題。多數政治家只會把強化對抗當作是迎合大眾的政策指標,有對手卻沒有願景,也不覺得現在人類有什麼樣現實的生存危機,只是一昧的相信「現在」就是最好的時代。

人類的生存危機一直都存在,核戰、生態系崩壞、科技的創造性破壞等等,都需要全球每個國家合作起來才有辦法解決,沒有一個國家可以解決溫室現象,同樣的也不可能制約基因工程與人工智慧的發展。舉例來說,即使日本可以降低碳排放量到零,俄國或是印度不照辦的話,溫室效應也不會停止。大規模的洪水與極端氣候也都會襲擊東京或是世界的每個角落。同樣的,如果只有在一個國家禁止基因操作,也停止機器人自動武器的開發,其他國家也會進行製造,整體來看也不會有什麼差別。只要一個國家沒有相同的倫理意識,就有可能把全部國家送進危機。

從結論看來,不管是什麼樣的生化武器或是人工智慧武器,都會激起軍備競賽,如果放任競爭不管的話,不管那個國家勝利都會是人類的失敗。哈拉瑞討論國際秩序等等的系統協調問題,目的在於跨越危機,他認為關鍵點在於誠實,對於家族、工作、地域性、國家都必須要誠實。而且,對地球誠實不代表要背叛國家,必須要認知我們現在誠實面對環境問題,就是就是解決問題的開始。

誠實也必須要有先後順序,有可能家庭優於工作,也有可能國家利益低於家族利益,狀況雖然不一樣也必須要重視規則。像是世界盃足球賽是國家競爭一個金盃,同時也是世界和平的象徵。任何國家競爭也應該如此,不管使用多破壞性武器,也必須站在全人類福祉的立場,認知到這會影響大部分世界人類的生活。這也帶到哈拉瑞使用的標題:人類目前已經是駭客能夠入侵的狀況,我們並不是以自由意識存在。

什麼叫做駭客時代?

現在的神經科學與生物學已經發展到一個奇異點,造成「現在」是人類歷史上成了第一個可以被駭客入侵的時代。如果有相對應的豐富知識,不管什麼樣的產品或是哪一個投票行為,都可以藉由科學精準控制內分泌與腦內運算,政府與民間企業可以大規模操作個人情感,以達到控制的目的。

如果駭客時代持續進化,民主主義也好,自由主義也罷,都會劣化成一種極端。

民主主義原本是保障每個人的投票權利,自由主義也是運用社會資本保障消費者的權利。現在因為演算法等科學技術,讓每個人忘了自己是有權利的個體,舉例來說,過去蘇聯情報局KGB就曾經以一個人的日常生活,推算這個人的情感弱點,最終造成20世紀以來的大眾廣告邏輯。廣告公司運用大規模的民調了解人們的喜好,並且推銷符合大眾利益的產品。過去因為技術尚未普及,從未針對個人進行行銷手段,21世紀開始累積的資料已經有能力對個人化行銷產生推進效果。以同樣影響一群人的廣告來說,個人行銷大幅減低了廣告預算,要影響一個人的決定,成本僅為幾十塊而已。對於廣告業界來說,已經達成了駭客效應。

如果廣告使用人工智慧的話,可以讓人進行自己不想要的消費選擇。但人工智慧同時也能夠設計出世界上最好的個人醫療系統,只要看技術者的心態就能得知技術的結果好壞:最新的監視系統可以幫助抑制犯罪,也能夠幫助世界上的極端政權控制異議人民。

我們現在正在一種資料殖民主義。只要掌握國家資料,就可操控該國的政治與經濟系統,小國也因為監視設備的普及,漸漸成為大國控制的殖民地,失去了聚集自由民權的能力。也就是說,如果要入侵一個國家,不需要動到任何武器,只需要拿到(或者消除)該國資料就算完成侵略,資料已經超越任何戰略物資。

目前最好的劇本是將我們人類發明的新技術,用於解放重度勞動或者減少疾病,每個人可以拿回自己人生的主導權。技術所帶來的社會紅利,必須要用在人權:像是藝術、運動、宗教或是社群活動。監視活動的對象也應該是政府並非個人,生物辨識也不應該用於大規模的市民資料蒐集。

哈拉瑞站在歷史的角度,認為我們仍然在科技與人權的交叉點,政治家無法使用科學家的工具進行政策開發,就像是疫情的時候忽略病毒傳播速度,直接做出封城決定,完全不是一個疫情解決之道。應該要靠國家間的努力了解病毒傳播的途徑、真實內容、可使用的科學化防疫方法等等,才有可能真正解決。

算起來疫情也是一部分人為決定的後果,因為國家競爭關係,不可能完全封起國境,也無法完全經濟活動,才造成了這麼大的人類浩劫。解決疫情必須要回到國際秩序的正軌,沒有一個國家可以不靠分享資料,而保障自己的安全,尤其是經濟先進國家必須依靠發展中國家提供廉價勞動力才能夠存活,也面臨到極大的考驗。

如果我們增加矽谷工程師,就有可能減少長時間運轉的貨車司機

對於科技公司來說,應該在員工訓練的時候加入科技倫理的課程,就像是醫生必須要學習醫學倫理才能夠取得證照一樣,得是職業要求的一環。

尤其是科技公司在快速競爭中,管理階層容易某個好點子投入許多資源以求得競爭優勢,卻傷害了使用者的隱私或是安全問題。舉例來說,自駕車本身固然是個好點子,但如果沒有思考到科技倫理,就會造成自駕車並非成為新的移動科技,而是遇到危險的時候變成了傷害人的武器。製作自駕車的人工智慧工程師就必須要考慮到「失速的自駕車要轉彎傷害車主,或者是直接撞向路人」之類的問題,直接考驗的是演算法,而不是開車的人性。

過去每個人的人生分為「學習」與「勞動」兩個階段,學習階段必須要學習專門知識,形成人格等等,不過對於面對未來的挑戰來說已經是過去式。現在世界變化非常劇烈的情況下,每個人都面臨到變化所帶來的壓力。對於個人層級來說,未來的20~30年之間是否可能維持經濟成長與繁榮,每個人都有不同看法。每個人也需要學習新的技能與心態調整。對於不喜愛變化的中老年人來說,不想面對甚至抗拒變化,也會激起某種對抗的心態,讓自己陷入困境。

未來人類不管在哪一個時期,必須要跟變化共存,不是調整自己的價值觀或是世界觀,就是讓心態保持平衡,像教育只能存在一個標準答案的老舊系統就無法讓學生面對挑戰 ,而是不斷容納且發現新事物的新教育系統才能做到。

孩子們如果要面臨到未來的變化,我們能夠教給他的不只是歷史年表或是物理方程式,就連教師本身自己都很難面對變化的話,要如何教育孩子?我推薦的方法是藉由冥想讓孩子們面對自己。其實冥想不是一種方法,有幾百種不同的冥想法,也有許多像是藝術療養或是運動集中等等的方法,都可以讓孩子們藉由活動認識到自己的行動,以及面對變化時該如何對應。至於哪一個方法才是最適合自己,就要花費時間與精力投資在面對自己的行動上,或許是新的科技、也有可能是改變生活型態,才有機會發現適合自己的方法。

時間已經不多,我們必須要學習並且實踐面對變化的能力,才有辦法存活下來,在這個充滿混亂的世界裡。

人間がハック可能な時代、新しい世界にこう対応せよ ハラリ氏寄稿

找尋更多未來 |

如果你喜歡這篇文章,或許可以請我喝杯咖啡

再生式企業特集