2024年開源模型發展更蓬勃,期待新的語言模型結構出現

ChatGPT 自 2022 年底問世以來,不僅在 2023 年佔據討論話題中心,也加速所有產業的 AI 應用,更讓科技巨擘競爭愈形白熱化。進入 2024 年,在眾多的趨勢預測中,包括亞馬遜、Gartner 等機構都點出,生成式 AI 將變得越來越普及。人工智慧科技基金會首席資料科學家蔡源鴻認為,隨著人工智慧技術與環境風險意識快速提升,開源模型的發展將更加蓬勃;且期待能出現一個和 GPT 結構相異的語言模型,改變目前高耗能的缺點,以符合永續發展的應用與需求。

進入門檻降低,生成式 AI 全民化

由於技術創新的速度日益加快,IT 和其他高階領導者在評估策略技術趨勢的影響與益處上並不容易,對此,國際調研機構 Gartner 提出值得關注的十大戰略科技趨勢,分別是全民化的生成式 AI(Democratized Generative AI)、AI 信任、風險與安全管理(AI Trust, Risk and Security Management)、AI 增強開發(AI-Augmented Development)、智慧應用(Intelligent Applications)、增強型互聯勞動力(Augmented-Connected Workforce)、持續威脅揭露管理(Continuous Threat Exposure Management)、機器客戶(Machine Customers)、永續科技(Sustainable Technology)、平台工程(Platform Engineering)、產業雲平台(Industry Cloud Platforms)。

Gartner 提到,經過大規模預訓練的模型、雲端運算與開源的融合將促進生成式 AI 全民化,使這些模型能被全球工作者所用。雖然在 2023 年初時,使用生成式 AI 的 API 或模型,或在生產環境中部署支援生成式 AI 應用的企業還不到 5%,但他們預測至 2026 年,比例將會超過 80%。

AI 的風險意識提升,開源模型將成為趨勢

這也使得企業對於 AI 信任、風險和安全管理(TRiSM)的需求將變得更加迫切和明確。在沒有防護的狀況下,AI 模型可能會迅速產生脫離控制的多重負面效應,抵消 AI 所帶來的一切正面績效和社會效益。AI TRiSM 提供用於模型維運(ModelOps)、主動資料保護、AI 特定安全性、模型監控(包括對資料飄移、模型飄移和/或意外結果的監控)以及第三方模型和應用輸入與輸出風險控制的工具。 Gartner 預測,到 2026 年,採用 AI TRiSM 控制措施的企業將透過篩選多達80%的錯誤和非法資訊來提高決策的準確性。

蔡源鴻觀察,由於 AI 風險意識的提高,加上擔心資源過度掌握於科技巨頭手上,開源模型的應用與開發也逐漸成為趨勢,最主要的原因仍在於對模型的自主掌控度,能否自由的訓練與修改模型。

再者,目前大型語言模型的架構龐大且十分消耗資源,考量到永續科技發展的趨勢以及應用的便利性,有許多研究者也提出一些與 GPT 架構不同的新發展方向。主要路徑可大分為二,一是從模型壓縮的技術著手,另一個則是提升效能,希望能夠改變目前生成式AI耗能過大的缺點。蔡源鴻說,這些都是可能的做法,但仍然需要一些時間才會有明確的趨勢。

穿戴式應用裝置崛起,AI 將重新定義開發者生產力

日前 Meta 研究員 Martin Signoux 日前在社群媒體上對 2024 年 AI 做出的預測中也提到,隨著多模態模型的興起,領先的人工智慧公司將加倍投入人工智慧優先的穿戴裝置。

除了智慧應用將更加普及於生活中,包括 Gartner 與亞馬遜的預測中都提到人工智慧將能幫助增強工作及提升工作效率。2023 年 Stack Overflow 的開發者調查中提及,70% 的受訪者在開發過程中已使用或計畫使用 AI 輔助工具。

如亞馬遜在日前公布的 2024 年技術展望中指出,雲端技術、機器學習及生成式 AI 變得更加普及,並帶動生成式 AI 將逐漸具備文化意識、女性科技崛起、AI 助理重新定義開發者生產力,以及教育變革跟科技創新等四大趨勢。

亞馬遜指出,過去需要花費數週才能完全理解程式碼更改的影響,AI 助理能即刻評估變更可能的影響並提供修改建議。讓開發者不需再手動執行升級 Java 版本等繁雜的任務,能更專注於推動創新的創意性工作,使團隊效率得以提高,進而開發出更高品質的系統,並縮短軟體的發布週期。

ESG 議題已成共識,科技促進永續更要能持續

另一方面,永續議題已是近幾年全球共識,在全球政經方面,美國微軟 (MSFT-US) 創辦人比爾蓋茲在 2024 年的新年展望中也提到,氣候對話已進入一個新時代,且 2024 年約有 60 個國家的公民將投票選舉各級政府領導人,而這些國家人口總計 40 多億,佔世界人口的一半以上。他認為,即將到來的各國大選將牽動全球公衛和氣候的未來。

蓋茲表示,在 2024 年及未來,人們將看到大量新型技術進入市場——即使是像核能這樣非常複雜的領域。氣候危機可能會讓人感到不知所措,但當人們意識到取得的進展,就更容易感到樂觀。如果全世界繼續將重點放在科技創新投資,相信人們能在實現氣候目標方面取得廣闊進展。

蔡源鴻提到,為了不讓資源被耗盡,而將科技應用於永續發展上,除了環境面的永續外,還包括資源的分配與管理,而 ESG 能做到的就是更好的資源管控。藉由 AI ,能針對數據相關任務,因此包括能源、節電,或是電力盤查方面更好的應用;又或者在醫療方面,如何解決醫療資源、教育資源分配不均的問題,但他提醒,如何讓幫助能持續進行更是重要的思考。