AI 2.0 非關技術與能力,最重要的關鍵在找到需求
台灣產業界在這一波熱潮下,也於 2023 年 6 月成立「AI 大聯盟」,期待能推動台灣成為亞洲生成式人工智慧的生態強國,並打造全新 AI 2.0 生態系。華碩雲端暨台智雲總經理、AI 大聯盟會長吳漢章觀察,不論是什麼產業,是否具備技術能力,企業在這一波生成式 AI 熱潮下,都大幅提高了對人工智慧的期待值;並且在面對科技轉型或數位轉型議題時,將導入人工智慧的優先順序往前排。而原先沒有相關規劃的傳統產業,也是興致勃勃地想透過 AI 解決既有的問題。但他也坦言,運用 AI 的執行能力仍與企業具備的資源有關。
吳漢章認為, AI 2.0 讓企業不需要具備高深的 AI 知識與厲害的資料科學團隊,只要有算力與一個基礎模型,就可以嘗試原本需要花費許多力氣才能做到的事情。這不僅降低企業的進入門檻,甚至提供不同的應用想像與需求,例如製造業最常見的需求,便是透過生成式 AI ,將企業內部散亂的資料組織成可被傳承的知識,以解決長久以來存在的內部傳承或人員訓練問題。
吳漢章説,台智雲的客戶中,不乏這類需要進行知識管理的業者,由於過去企業要進行類似的知識管理應用非常辛苦,必須要將資料整理好才可以進行下一步的應用,但礙於時間與人力的不足,無法將每天所產生的知識,進行有系統的整理。但生成式 AI 讓企業產生期待,認為只要把原始資料丟進去模型中,就可以有 Chatbot 回答大部分的問題,而這些企業往往是受到少子化、數位轉型的直接衝擊者,此外,缺工問題也使得這些具有資金,卻缺乏技術的企業,對這一波生成式 AI 有著極高的期待。
企業需要的是算力還是模型? 需求才是關鍵
為何這一波生成式 AI 會引起所有產業的興趣?吳漢章認為,無關乎企業所具備的技術能力,而是這些應用與場景觸發了工作者的需求。也就是 2021、2022 年的 AI 1.0,仍是需要具備 AI 知識的人,才會使用,其他人多半認為與自己的工作無關,也就沒有激起企業員工的熱情。但 AI 2.0 讓所有的工作者認為,這些應用與自己息息相關。
而台智雲在這一波熱潮中,除了算力與模型開發,也提供企業所需的解決方案。吳漢章提到,知識管理是目前企業常見的生成式 AI 運用需求,但是普遍遇到的困難是,企業對於初期測試結果都不甚滿意,即使使用了目前熱門的 RAG 技巧,表現仍是不佳,這意味著,AI導入的確還有一段路要走。當然,在生成式 AI 的應用上,原先具有相關知識的人會比較容易上手,但用得快的人也不代表 RAG 技術已經落地了。但他認為,這得視服務供給端什麼時候可以做到讓不同產業的人都能落地,而時間並不會太久。
吳漢章也觀察到,受生成式 AI 興起的影響,原本以提供企業工具為產品的新創,多半已經將自家的產品快速升級成 AI 2.0 的工具;而原本經營領域知識的人,還是跟著客戶走。因為客戶最終仍是會混用 1.0 與 2.0 的服務。另一方面,從客戶的角度來看,給員工使用的 AI 是賦能員工;企業流程中使用的 AI 則是賦能企業。前者是否採用通常要看企業的預算,有預算的企業可以購買知名的套裝軟體;預算較少的企業就是開源軟體的機會。而進入公司流程中的 AI 服務,由於攸關風險,企業多半不會希望這裡的 AI 是無法控制的,也因此就出現了Open AI 之外的新機會。
吳漢章認為,現在產業在 AI 應用上,最缺的就是想像。如何擴張不同的想像,提供產業新的刺激?他說,就是大家必須多對話、激發出跨領域與跨界的創新。因為是新議題,而大部分企業不缺資金、不缺題目,但是缺乏作法與知識,可能只是不知道原來可以這樣做。而這也正是AI大聯盟存在的目的,能夠創造交流機會,讓帶著誠意的人彼此交流。
奠基於優勢算力下的機會
面對新的 AI 時代,吳漢章認為,台灣仍有許多機會,例如我們有優於周邊國家的優勢算力,這也使得台灣在基礎模型的競爭上相對活躍,因為 GPU 算力是基礎模型的關鍵。他透露,近來台智雲甚至協助許多東南亞國家建置算力。
而台智雲的底氣,主要來自於前幾年,政府部門、民間單位開始注意到開發AI運算技術的趨勢,因此在前瞻預算的挹注下,展開超級電腦台灣杉二號的建構計畫。而這個團隊成員在三年前併入華碩台智雲旗下,由於 AI 的基礎架構與過往的雲端架構並不同,再加上台智雲近來投入以開源模型為基礎所發展的各式大型語言基礎模型開發,使得台灣得以奠基在台灣杉二號超級電腦的算力、福爾摩沙大模型的開發經驗下超前部署。同時,也在建置的過程中,培養出新的 AI 生態系,例如水冷、散熱,以及能源管理的廠商。
「算力即國力,」吳漢章說,因為這一波的算力特性與過去不同,所以台灣現在不只有建算力,還有維運算力的經驗,甚至有能力協助其他國家建置,這些都是台灣產業這一波的機會。另一方面,他認為,台灣在提供信任的解決方案這件事情不只是硬體,也是軟體的機會。尤其是之後許多的應用機會出來時,底層的語言模型一定要在地,因為每個國家的知識都不相同,而這也是為什麼每個國家都在建立自己的基礎建設的原因。
把握能與軟體業一起成長的 AI PC
除了基礎語言模型之外,AI PC 則是這一波浪潮下另一個備受討論的議題,備受矚目的原因不只是 AI,而是與台灣的產業有極大關聯。吳漢章提到,由於大語言模型的參數量很大,當中推論(inference)所要使用的算力極大,甚至比訓練資源還高,而這也給了台灣另一個機會。這一波 AI 讓大家覺得什麼東西都會用到 AI,甚至擔心未來數據中心是否不夠使用,或是考量到電力資源與成本耗費及安全性等問題,因此,會希望能在主機、電腦或手機等終端產品上進行推論,因此,第一種價值就是將原本放在雲端的推論轉移到運算設備上,可以想像的是,電腦的運算能力比手機高,且電腦本身也是偏向生產力導向的產品,而這一波生成式 AI 有許多生產力導向的應用,也使得大家開始期待 AI PC 可以實現這些事情。
另一個原因則與台灣的產業有關,由於 PC 產業是台灣電子業的根本與核心能力,從品牌、組裝到零件都有完整的產業鏈,但「這是個在過去十年不被祝福的產業,」吳漢章認為,AI PC 的興起,會讓產業人員覺得未來希望無窮。另外,則是產生了創新應用的想像,他指出,AI PC 上執行的不會是跟 ChatGPT 一樣大的模型,而是像 Llama7B 這類再小一點的模型,而這些模型所能執行的應用也更具有創新性,例如放置在操作介面上的語音助理,可以幫助使用者快速找到檔案等應用。
「過去十年,台灣的軟體產業沒有辦法跟著PC一起成長,但 AI PC 可以。」吳漢章認為,未來的應用會越來越多,而台灣的 PC 產業在全球就佔據了兩大品牌,這是一波台灣需要抓緊的機會,除此之外,AI IPC 也是另一股機會,相較於步調快速的 PC,台灣的工業電腦生態更加活躍,也更長久。