當 ChatGPT 越來越方便，AI 的發展將是每個人都要思考的課題

還記得 2023 年馬斯克曾發表千人連署公開信，希望各界暫停開發比 GPT-4 更進階的模型至少 6 個月，隨即引發圈內人士熱議嗎？當時與馬斯克站在同一陣線的就是《Life 3.0：人工智慧時代，人類的蛻變與重生》一書作者麻省理工學院物理學教授鐵馬克（Max Tegmark），也是被矽谷業界認可多年的人工智慧專家。

鐵馬克主要的研究領域為天文物理學，並於2014年創辦未來生命研究所（Future of Life Institute），致力於降低人類所面臨的風險，尤其是人工智慧技術開發過程中的可能風險。他熱中於探究各種想法，追求突破的行動力和樂觀望向未來的態度更是深具感染力，並著有《我們的數理宇宙》（Our Mathematical Universe）。

當 AI 只是想完成目標，人類能定出合適的規則嗎？

隨著人工智慧技術越來越進步，應用層面也越來越廣，許多人也開始擔心該如何面對快跟人類一樣聰明的 AI。他在書中拋出了多個議題與情境，生動說明人工智慧如果沒有事先規範控管，將會帶來哪些負面的結局。為了避免未來人工智慧可能產生的風險，現在就要思考如何對待逐漸和人類一樣聰明的人工智慧。

人工智慧科技基金會資深科學家蔡源鴻認為，《Life 3.0：人工智慧時代，人類的蛻變與重生》是一本十分有趣且深具啟發性的書，讀者在閱讀的過程中被迫思考人類最終想利用人工智慧達到哪些目的，因為這些目的將影響我們該如何管理人工智慧，而這也是所有人類都必須面對的課題。

「人工智慧其實沒有善惡之分，它只是想要完成目標而已，」蔡源鴻提到一款名為《Universal Paperclips》的網頁遊戲，玩家在這個遊戲中扮演一個製造迴紋針的 AI，目標是要盡可能的製造出最多的迴紋針。雖然是看起來很簡單的目標，但 AI 為了讓資源可以被更有效地利用，極有可能將人類消滅了或是進攻全宇宙。

蔡源鴻認為，最大的難題是如何幫人工智慧設定目標，且不會傷害到人類。即使是按照機器人三定律設定，但當定律間彼此衝突時該怎麼辦？正如同作者在書中提到的許多情境，都無法有符合所有人需求的完美結局。因此，問題仍是：人類最終想要什麼結局。

這本書雖然是在 2018 年出版，但在 2024 年閱讀起來仍不顯過時，尤其是對於 NLP 的發展以及後續影響所做的推演，甚至與當今 AI 的發展所去不遠。蔡源鴻說，2017 年正是Transformer 被提出來的時候，而作者從 Google 翻譯的表現，推測未來翻譯機器人將有跳躍式的成長，甚至預期可直接和人類對話的發展。再加上人類的工作中，有極大的比例會使用對話與文字，因此，也就不難預見 NLP 的大幅進展將對人類的工作帶來劇烈影響。

不過，蔡源鴻認為，《Life 3.0：人工智慧時代，人類的蛻變與重生》雖然已為讀者建立起進入該議題需要的知識基礎，但略有不足，讀者可視需求額外涉獵相關書籍。