借鏡千年歷史我們選擇什麼樣的 AI 未來？

AI 科技的發展此刻正走到一個十字路口，Daron Acemoglu和Simon Johnson 合著的《權力與進步》（Power and Progress）開宗明義就這麼說。特別在〈給台灣讀者的話〉中強調：「任何科技創新都出於『選擇』，沒有什麼是必然會被發明出來的，一切都是人類決策的產物。」

這不只是兩位作者的看法，也是在 ChatGPT 等大型基礎模型問世一年多以來，包括 Geoffrey Hinton、Yoshua Bengio 等多位知名 AI 學者之所以對於 AI 發展感到憂心，以及世界各國政府都快速推 AI 相關法令規範的原因之一。

科技發展等於社會進步？

AI 的確給予人類不少協助，在面對如氣候異常、貧窮、疾病的預防與治療等問題，例如在新冠疫情期間快速掌握病毒變異，這是 AI 提供的重大幫助。但在本書中作者回顧千年歷史，告訴我們，技術發展和社會進步不見得能夠劃上等號，儘管社會中充滿各類科技樂觀主義者，但「只要回顧過去千年許許多多的新發明，就會發現技術進步所帶來的利益，往往未必能由所有人共享。」

作者在書中舉的例子，是我們可能都聽過但未曾仔細想過的，像是中世紀與現代初期的農業技術改良，對於當時占九成人口的農民而言，幾乎沒有帶來任何好處。另外，歐洲在中世紀晚期船集設計大幅進步，於是讓少數歐洲人獲得巨額財富；但也同樣由於這些船隻，使得數百萬人遭受奴役，從非洲家鄉被運往新大陸，好幾代人在壓迫下勉強生存，隨之而來的歧視至今仍未完全結束。

那麼，為什麼我們現代的生活比二、三百年前的祖先們更富裕、更健康？作者的看法是，這絕非靠技術進步就能達成，而是必須確認技術發展方向以及社會收益的分配方式，不再被牢牢掌控在少數精英或權力者手上，才可能實現真正的美好社會。

人類擁有選擇權，這才是關鍵

任何新科技的發展方向，都是由人類選擇而來的。

在某次人文創新相關主題的研討會中，多位學者專家針對「AI 將擴大或縮小偏鄉教育的落差」提出討論。理論上而言，現今生成式 AI 的確能為偏鄉學生打造完全客製化的教學內容，並且極具耐心地一步步引導學習。不過，再深一層想，如果孩子們因為學業成績優異，接著進入好學校、找到好公司，於是搬離家鄉。那麼，偏鄉是不是仍舊是偏鄉？

所以，偏鄉教育的落差，問題究竟是「偏鄉」還是「教育」？是單純 AI 技術就能解決的問題嗎？顯然不是。

作者在書中研究了許多資料和假設，從新石器時代的農業革命到 AI 崛起的科技發展史，鋪陳出極具深度與廣度的論述核心：科技發展的結局不必然代表進步，甚至可能造成傷害；但方向可以改變，人類有責任決定並掌握科技的影響。

數位技術如何成為監控與激化工具

在書中有另外一個重點是 AI 變成獨裁政府的好朋友，並且已是現在進行式。當然，一開始並非如此。例如，在網際網路和社群媒體出現初期，大家都認為將有益於政治對話與民主發展，但事實卻與預期正好相反。

作者指出，在早期看來似乎如此，像 2001 年 1 月菲律賓民眾透過手機簡訊的傳播，超過一百萬人到馬尼拉市中心，反對國會議員包庇艾斯特拉達貪腐罪行。在首都陷入癱瘓之後，艾斯特拉達終於遭到彈劾。另外，在「阿拉伯之春」期間，抗議者靠著 Facebook 與 Twitter 推翻了突尼西亞和埃及兩位獨裁者。

但是，為什麼現在數位工具、包括 AI 反而成為獨裁者的好朋友？作者們認為，「一旦數位工具被用於收集與處理大量資料數據，就會變成有意監控與操縱人民的政府，以及企業手中強大的工具。」更值得注意的是，這會使得政府對於人民的控制力量更為強大，而激化極端情緒來獲利的新商業模式，也開始蓬勃發展。

過度悲觀與樂觀皆非正確態度

以中國為例，2017 年發布「新一代人工智能發展規劃」，希望成為 AI 領域的全球領先者，其中，「智能監控」是一大發展重點。書中列出，「自 2014 年以來，中國監控軟體與攝影鏡頭的支出快速成長，對 AI 的投資已經占全球 AI 投資總額的 20％左右，中國研發者所擁有的 AI 相關專利數量更是超越其他國家。」「中國的這套制度不只是用來刪除某些東西，而是作為一個強大的工具，構建整套敘事，並且能夠大規模瞄準任何目標。」

但中國並非使用數位工具來壓制異己、消滅不同言論的特例，以致有人開始質疑科技對於推動民主化的潛力，例如歷史學者哈拉瑞就說：「科技有利於暴政。」

在《權力與進步》一書中認為，對於科技發展過度樂觀或過度悲觀都不正確，AI 技術的未來會怎麼走，取決於人類對於發展方向的選擇。

那麼該怎麼做才能做出最適當的選擇？第 11 章〈讓科技重新導向〉提出了三個要素，包括：改變敘事觀點及價值規範、培養制衡力量、提出政策解決方案。這三項實際上是極度艱鉅的任務，很明顯必須有許多不同領域專家的投入與對話，牽涉到政治、經濟、產業發展政策甚至民主體制的重新思索、再造。

2023 年，台灣討論熱度最高科技絕對是 AI，但除了追逐技術的進步之外，最重要的是掌握更大的格局、進行更全面的思考與對話。《權力與進步》是一本值得細讀深思的書。