技術呈指數成長，資訊安全將是 AI 時代最難攻克的一道牆

「人類對技術的短期影響傾向高估，對長期影響卻傾向低估。」史丹佛大學教授 Roy Amara 的這句名言，道盡了過去四十年科技發展的真實軌跡。從 1980 年代在 MIT 使用百萬分之一算力的設備模擬神經網路，到如今生成式 AI 滲透日常，這條科技發展的曲線，永遠比預期更加陡峭。

人工智慧科技基金會常務董事、前微軟亞洲研究院副院長張益肇，日前在台灣大學人工智慧研究中心所舉辦的 AI 論文研討會上引用這段話，同時也回顧圖靈獎得主 Jim Gray 於 1999 年提出的「A Dozen Systems Research Problems（十二項系統研究議題）」。可以發現，包括語音識別、機器翻譯、電腦視覺等清單上的所有難題都已解決，唯獨「資訊安全」至今仍是未解的議題。

詹姆斯·尼古拉·「吉姆」·格雷（James Nicholas "Jim" Gray），是一位美國資訊工程學家，以資料庫與交易處理研究奠定學術地位，並於 1998 年獲得圖靈獎。他在得獎後發表的這份清單，列出了十二項他認為電腦科學領域值得長期挑戰的目標。這些都是當年只覺得「可以做、也值得做」，卻沒料到這些項目在人們還沒充分意識到的時候，已一項項成為現實。

從雲端到 AI，十一道綠燈逐一成真

張益肇在研討會上逐一檢視這十二項議題，並將其中十一項標示為「綠燈」。他認為，從基礎建設層面來看，系統擴充性（Scalability）如今早已不是難題，透過 AWS、Google Cloud、Azure 等雲端平台，運算規模可以從單一機器輕易擴展至百萬節點。無故障系統（Trouble-Free Systems）與系統永遠在線（AlwaysUp）同樣列入綠燈，現今的雲端平台已大量導入 AI 進行自動化管理與維護，規模之大，若沒有 AI 根本無法透過人工應付。

而在人機互動層面，也有多項里程碑相繼跨越。圖靈測試（Turing Test）方面，張益肇以當今電話詐騙的高成功率為例，「AI 騙人的能力，是遠遠超過大家想像的。」語音辨識（Speech Recognition）在多數情境下甚至已超越人類水準。因為機器不會疲勞、記憶不會衰退，拿一段錄音來轉換文字，人與機器的表現基本一致。語音合成（Speech Synthesis）當前也已經能生成幾可亂真的各類人聲，電腦視覺（Vision）則讓隨手一張照片交給 AI，場景、物件幾乎無所不識。自動化程式設計（Automatic Programmer）亦已列入綠燈項目。

知識與記憶的層面也不遑多讓。個人記憶庫（Personal MemEx）的概念最早由研究者 Gordon Bell 以 MyLifeBits 計畫具體實踐，如今戴上 Meta Ray-Ban 智慧眼鏡持續拍攝、再交由 AI 處理辨識，技術上已完全可行，唯一尚待解決的是隱私問題。

世界記憶庫（World MemEx）則已化身為 ChatGPT、Claude 等大型語言模型，成為隨問隨答的龐大知識庫。遠端臨場感（TelePresence）方面，從 Teams、Zoom 到 Apple Vision Pro，虛擬會議的臨場感與表情細節已達相當逼真的程度。

越來越複雜的資安問題

Gray 當年所有的想像，幾乎都已有可解方法。唯獨資訊安全，至今仍亮著紅燈。安全漏洞層出不窮，AI 既可被用來自動搜尋系統弱點，也可透過社交工程話術騙取密碼。更棘手的是，其他十一項的技術進步，反而為攻擊方提供了更強大的工具。例如語音合成讓詐騙更逼真，電腦視覺讓身份驗證更脆弱，大型語言模型讓攻擊腳本自動生成。

生成式 AI 的蓬勃發展，讓社交工程、深偽（Deepfake）詐騙等惡意攻擊變得更容易執行，使這道未解的難題隨著技術躍進愈來愈困難。張益肇直言，「要讓資安變成綠色非常困難，但也因為如此，這是當前最值得投入的研究機會。」

好研究的標準，也是好研究者的自我提問

張益肇不只以 Gray 的議題為鏡，也以他的研究哲學勉勵大家。Gray 認為，一項值得投入的研究目標應具備五大條件：能讓自己的媽媽也聽得懂（Understandable）、具有挑戰性（Challenging）、對社會有實質影響力（Societal Impact）、可被測試驗證（Testable），以及進展可被量化（Incremental）。

他指出，科學研究與文學創作最大的不同，在於進步是可以被測量的。一部小說寫得好不好，難有客觀標準；但在電腦科學領域，今天做到十倍速度、明天挑戰十五倍，差距清晰可辨。

他進一步從三個面向勉勵在場年輕研究者進行職涯自我檢視。第一是成就感（Fulfillment）：做研究不是每個環節都令人愉快，但如果相信這件事有價值，Fulfillment 就會支撐你走下去。第二是影響力（Impact），張益肇提到，Gray 一生幫助過超過五百位研究者，研究方法被廣泛應用於多個領域，影響力遠不止於技術成就本身。第三是信任（Trust），也是張益肇認為最關鍵的一環，Gray 的合作對象幾乎都樂於與他共事，因為他慷慨分享、也願意花時間在別人身上。

張益肇將這三個維度化為給年輕研究者的自問清單：我做的事，是否讓自己覺得有意義？是否對社會有所貢獻？而我，是否成為一個讓人願意信任、樂於合作的人？這三個問題，也是 Jim Gray 一生的縮影。