當 ChatGPT 越來越方便，AI 的發展將是每個人都要思考的課題
鐵馬克主要的研究領域為天文物理學，並於2014年創辦未來生命研究所（Future of Life Institute），致力於降低人類所面臨的風險，尤其是人工智慧技術開發過程中的可能風險。他熱中於探究各種想法，追求突破的行動力和樂觀望向未來的態度更是深具感染力，並著有《我們的數理宇宙》（Our Mathematical Universe）。
當 AI 只是想完成目標，人類能定出合適的規則嗎？
隨著人工智慧技術越來越進步，應用層面也越來越廣，許多人也開始擔心該如何面對快跟人類一樣聰明的 AI。他在書中拋出了多個議題與情境，生動說明人工智慧如果沒有事先規範控管，將會帶來哪些負面的結局。為了避免未來人工智慧可能產生的風險，現在就要思考如何對待逐漸和人類一樣聰明的人工智慧。
人工智慧科技基金會資深科學家蔡源鴻認為，《Life 3.0：人工智慧時代，人類的蛻變與重生》是一本十分有趣且深具啟發性的書，讀者在閱讀的過程中被迫思考人類最終想利用人工智慧達到哪些目的，因為這些目的將影響我們該如何管理人工智慧，而這也是所有人類都必須面對的課題。
「人工智慧其實沒有善惡之分，它只是想要完成目標而已，」蔡源鴻提到一款名為《Universal Paperclips》的網頁遊戲，玩家在這個遊戲中扮演一個製造迴紋針的 AI，目標是要盡可能的製造出最多的迴紋針。雖然是看起來很簡單的目標，但 AI 為了讓資源可以被更有效地利用，極有可能將人類消滅了或是進攻全宇宙。
蔡源鴻認為，最大的難題是如何幫人工智慧設定目標，且不會傷害到人類。即使是按照機器人三定律設定，但當定律間彼此衝突時該怎麼辦？正如同作者在書中提到的許多情境，都無法有符合所有人需求的完美結局。因此，問題仍是：人類最終想要什麼結局。
這本書雖然是在 2018 年出版，但在 2024 年閱讀起來仍不顯過時，尤其是對於 NLP 的發展以及後續影響所做的推演，甚至與當今 AI 的發展所去不遠。蔡源鴻說，2017 年正是Transformer 被提出來的時候，而作者從 Google 翻譯的表現，推測未來翻譯機器人將有跳躍式的成長，甚至預期可直接和人類對話的發展。再加上人類的工作中，有極大的比例會使用對話與文字，因此，也就不難預見 NLP 的大幅進展將對人類的工作帶來劇烈影響。
不過，蔡源鴻認為，《Life 3.0：人工智慧時代，人類的蛻變與重生》雖然已為讀者建立起進入該議題需要的知識基礎，但略有不足，讀者可視需求額外涉獵相關書籍。
- 作者：鐵馬克（ Max Tegmark）
- 譯者：陳以禮
- 出版社：天下文化
- 出版日期：2018/03/31
延伸閱讀推薦：
- 作者：尼克．伯斯特隆姆（Nick Bostrom）
- 譯者：唐澄暐
- 出版社：感電出版
- 出版日期：2023/07/05
比爾．蓋茲和 Elon Musk 都推薦值得一讀的書籍，這本書以一篇「未完的麻雀寓言」開場，講述一群麻雀企圖馴服貓頭鷹為己所用，但最終卻沒能解決最重要的難題：如何控制牠？
這篇如同啟示錄的寓言，在在提醒人類與人工智慧的關係，並發現人工智慧和人類價值之間的連結相當鬆散，AI 專家與菁英學者、企業家們，尚未解決最重要的「控制難題」。
重點不是人工智慧將扮演什麼角色，而是我們「設計」它為人類社會扮演什麼角色？
2.《千腦智能新理論》A Thousand Brains: A New Theory of Intelligence
- 作者：傑夫・霍金斯（ Jeff Hawkins）
- 譯者： 許瑞宋
- 出版社：星出版
- 出版日期：2023/05/04
這本書由知名神經學家霍金（Jeff Hawkins）所著，一本致力於探討「智慧」本質的書，也是比爾・蓋茲 2021 年的聖誕季閱讀清單選書。
傑夫・霍金斯團隊發現，大腦利用類似地圖的結構建構世界的模型──並非只是單一模型，而是為我們所知的一切事物建構成千上萬個模型。此一發現使霍金斯得以回答關於我們如何感知世界、我們為何會有自我意識，以及高階思維起源的重要問題。