AIF Editor

財團法人人工智慧科技基金會(AIF)深化產官學與跨產業的經驗資源連結,以人工智慧做為切入點,協助產業培育人才、掌握關鍵技術,並進一步落實到企業應用端,創造新的商機與價值。AIF透過文章分享基金會最新消息及技術新知,期待為台灣產業注入科技能量。

95 篇文章
模型部署前哨站!模型壓縮的原理與方法
實作解析, 技術

模型部署前哨站!模型壓縮的原理與方法

自 ChatGPT 推出至今,不少企業也開始嘗試將生成式 AI 模型應用於改善工作效率或提供客戶服務。然而,這類大型語言模型的部署並不容易,隨著模型規模的增長,儲存和計算需求也相對提高。例如:以GPT-175模型需要約350GB的儲存空間(Floot16 precision),並且在推理和運算時,也需要同等大小的記憶體。若要有效運行模型,至少需要五個A100級別的GPU,其中每個GPU具有80GB的記憶體。顯示大型語言模型在部署時,面臨參數量大、速度慢且計算複雜度高等挑戰。此外,若需要在移動端或邊緣設備上進行多模型部署,更是增加了複雜度。

  • AIF Editor
史丹佛大學教授李飛飛:AI 是一種責任,也是以人為本的實踐
精選書單, 觀點

史丹佛大學教授李飛飛:AI 是一種責任,也是以人為本的實踐

只要對於近十年人工智慧技術發展略有所聞的人,一定都聽過史丹佛大學教授李飛飛博士。她是自 2010年 之後這一波 AI 發展歷程中重要的領導者,在 AI 發展處於瓶頸時期,藉著獨到的見解和探索未知的熱情,使得電腦視覺領域產生重大突破。她目前擔任史丹佛大學「以人為本 AI 研究院」院長,深信此刻是我們重新想像 AI 的時候,AI 已經成了一種責任,而且是所有人的責任;AI 也是一種以人為本的實踐,不只為科學服務,也必須為人文服務。

  • AIF Editor
AI 時代的教養建議:在憂慮被取代前,先讓孩子好好活成一個人
精選書單, 觀點

AI 時代的教養建議:在憂慮被取代前,先讓孩子好好活成一個人

2022 年底,隨著 ChatGPT 問世,讓 AI 的影響全面普及化,這一次不再只有相關產業擔心AI的影響力。大人們開始感受到 AI 科技的發展,很真實取代著愈來愈多現存的工作,感受到這一波浪潮真的已經快要打在自己身上,並焦慮問:「哪些工作不會被 AI 取代?哪些能力才是未來需要的能力?」

  • AIF Editor