唐鳳:AI 不是一開始就聰明,它需要一段熟成過程

傳統的線性思考與工作模式已無法因應新世界的巨變。無論是思考、閱讀、工作模式、看待世界的方式,唐鳳都像一個未來客,從未來回到現在,以公開透明的方式分享給所有人。

她建構自己知識體系的方式,讓她在面對日益複雜的世界時,很早就有了自己的定錨方式,不被外界紛亂左右,朝自己想要的目標前進。

本書從唐鳳如何自學、建構自己的思想體系、一天如何展開,窺見唐鳳在日理萬機的大小工作事務中,既能有效率的完成工作,又能兼顧生活品質與自我學習的需求。唐鳳跳脫傳統的學習路徑與聰明的時間管理,不僅是她保有清晰思慮的方法,也是不被工作綁架,成為自己生命主導者的關鍵。以下為本書精彩節錄:


AI 不是一開始就聰明,它需要一段熟成過程

馬斯克與祖克伯所推崇的另外一位科幻小說家,被蘇格蘭視為國寶大師的伊恩.M.班克斯(lain M.Banks),唐鳳過去也常看他的科幻小說,尤其是他所寫的以宇宙為背景的《Culture》系列小說。

《Culture》講的是未來某個時候,世界已是由AI機器主導人類社會運作,人類雖然與AI和平共存,但是人類的角色在這個文明裡變得不是特別重要。唐鳳認為《Culture》有一個其他科幻小說少有的特質,那就是作者傳達了一件事:「如果人類把社會的價值,良好地傳遞給AI的話,到最後文明的狀態大概會是什麼樣子,我覺得這個是滿好的。」

他認為,大部分的人想到AI,就是把它設定為已經發展到很成熟的階段,從來都沒有想過,AI也有不成熟到成熟的過渡階段,所以大部分的科幻小說,只要提到AI,就是AI已經成熟到機器人會叛變,然後莫名其妙地就把地球上的人類殺光,不然就是像電影「駭客任務」裡的AI,根本就跟神一樣,可以解決全部的問題。

很多科幻小說把AI處理成不是鬧脾氣的小孩,就是無所不能的大神,跳過中間階段,但一般人沒有想到的是,AI也需要經歷從三、四歲的小孩,到三、四十歲的社會化過程,在這個邁向成熟的階段裡,人類要如何陪伴AI 一起往前走?唐鳳舉例,姜峯楠有一篇小說《虛擬生物的生命週期》,就是在處理AI這個議題,它如何一開始從類似動物,然後慢慢開始發展成有人類八、九歲的智力,探討人去撫養它的過程,不僅令人大開眼界,也有許多深思。

姜峯楠自己也在書末的故事筆記中寫道:「無論我們是想要AI們勝任什麼樣的角色,員工、愛人或寵物都一樣, 我認為,有人在他們的發展過程中關心他們, 他們才能把自己的任務做得更好。」

從科幻小說回推到現實社會,在社會普遍強調AI的重要性,認為未來AI將會全面取代人工的論調時,唐鳳提供了另一個思考。他認為,在AI還沒有發展到很成熟的情況下,我們的社會不應該為了配合AI,或是覺得AI很潮,而放棄人類一直以來重視的價值, 例如人性尊嚴、人權等,為了專門發展AI,犧牲掉我們對資料共同治理的權利,將所有的資料全都集中到AI身上,反正總有一天AI會愈來愈成熟。

「這種以AI為名,行極權之實的做法,從我的角度來看,其實就是艾西莫夫很早以前就警告過的,我們的社會很容易不假思索這樣做,結果不會太好。」

如果每個人都可以理解AI現在無論是技術,或是大家對它的了解還處於不成熟狀態,而用類似共存的方式,整個社會與AI一起慢慢成熟,哪裡可以改得更好,而不是現在大家立刻把AI捧為神,或是貶為惡魔,然後把權力集中在少數人的身上。

哈拉瑞在《21世紀的21堂課》一書中也指出,現代科幻小說經常過度擔心人類隨時都可能會跟機器人開戰,他也表示:「事實上我們真正該擔心的,是有一小群超人類精英,靠著演算法帶來力量,而與大量低下階層、手無權力的智人,發生衝突。」

他在與唐鳳進行精采的線上對談時也提出「數位獨裁」的擔憂,直指二十世紀獨裁國家靠特務蒐集資料,現代人有了AI,完全不需要特務,因為AI就可以辦到,還更全面,左右人類生活的重要決定。

而人類所創造的價值,為什麼依舊很重要?他舉例,例如人權的概念是因為你是人,而不是因為你是哪一國人、哪一種性別,或是屬於哪一個宗教;也就是不依賴這些社會組織,只要是人,都應該受到保障。但如果AI的發明是往極權發展的話,很容易發生由AI來判定你是不是人的這種情況。例如,人臉辨識,如果你的膚色或是臉的形狀,剛好不是屬於人臉辨識的範疇,很可能就被認定是布景,如此一來,你就會忽然間喪失所有的人權。

所謂的人權,是只要生而為人,就有人權,不需要拿出證明,證明自己是人。但是,今天AI的發明還未到達成熟階段,我們不應該因為AI對九成九的人都判斷得很準,就說剩下來的人,不是人。過度倚賴AI判別,可能產生的效應就是會有一群人被排除在社會之外,沒有做到我們所謂的數位包容。唐鳳也表示,重點是當這種情況發生時,我們要非常清楚地指出,這是程式設計師的問題,不是個人問題。

換言之,補救的責任應該是在程式設計師上,而不是沒有通過AI判別的人。設計師補救時,不能只是說明這個AI的功能而已,然後建議沒通過的人去整形,整到讓AI認可的範疇內,這樣去刷臉時,就能通過了。

這當然不行,但為何一般人覺得程式設計師的責任只要說明就夠了,因為大家還有選擇,反正這裡的人臉辨識不通過,還有別的選擇。但唐鳳擔心的是,當它逐漸變成社會習慣,所有一切活動都必須靠人臉辨識時,大家找選擇的成本就會愈來愈高,到最後就變成幾乎沒有選擇的地步。就好像手上的電器無法接上插座,一定要到特別的店裡,才能找到適合的轉接頭,導致這個電器,幾乎無法在生活裡使用。

所以,唐鳳一再強調所謂的人權,展現在人臉辨識上,不是強迫那些無法被AI辨識的人去做選擇,而是反過來要求AI去改善,讓每個例外的情況都可以被好好處理,才可以說沒有喪失人權價值。最怕的就是用說明的方式來處理,例如:「你的辨識沒有通過,那就去整形成AI要的樣子」,以這樣的態度對待各別情況。換言之,我們應該要培養的正確態度是,用AI來配合人類的習慣,而不是讓人類來配合AI。

這就是閱讀科幻小說,帶給唐鳳在知識的想像與理解未來世界時的幫助,所以他鼓勵大家看科幻小說時,不妨帶著意識去閱讀。因為無意識地閱讀科幻小說,可能就只有當下的樂趣而已,但是有意識地去閱讀時,帶來的不只是樂趣,小說家為人類所演繹的未來社會,以及可能發生的情況,可以提供思索未來很多重要的參考。

本文節錄自《唐鳳的破框思考力 : 關於工作、學習與行動的方法》,由天下文化授權轉載。