台灣產業 AI 化大調查發布:超過半數企業已使用生成式 AI,且企業 AI 化指數差異逐步加大 ➤➤ 點我看摘要報告內容
2024 台灣 AI 新創地圖發布!點我看地圖名單
AI 大模型的硬體瓶頸與探(一):從深度學習到大語言模型
LLM, 技術, 論文快讀

AI 大模型的硬體瓶頸與探(一):從深度學習到大語言模型

深度學習訓練AI:像教小朋友學東西現在的深度學習是數據驅動(Data-Driven)的技術,訓練深度學習模型就像教小朋友學習新知識。最關鍵的步驟是準備教材(數據)來教導小朋友,這些教材通常放在圖書館中(記憶體或硬碟)。 接著,需要準備一個教室(硬體設備)來進行教學,常見的是GPU(圖形處理單元)。GPU是一間設備完善的教室,裡面有較為彈性的工具和資源,讓小朋友可以有效率地學習。 每次訓練AI模型,小朋友會去圖書館搬一些數據,回到教室反覆閱讀數據並嘗試解答,重覆上述過程並且不斷修正小朋友的大腦(模型權重)。當AI模型完成訓練後,就像小朋友畢業,具備了基本回答和解決特定問題的能力。當提出問題時,小朋友能根據所學到的知識來給出回應,這就是AI模型的預測階段。

  • 曾繁斌
生成式 AI 並非橫空出世,那些關鍵的技術突破與發展
生成式AI, 論文快讀, 技術

生成式 AI 並非橫空出世,那些關鍵的技術突破與發展

自從 ChatGPT 在 2022 年底出現,並掀起一陣 AI 討論熱潮後,隨著各式生成式 AI 工具的出現,除了大眾開始感受到生活與工作方式將逐漸受到影響,各大科技巨頭相繼發表最新模型技術,紛紛投入這場大型語言模型競賽中,包括 Meta 推出 V-JEPA 模型、Google 的 Gemini ,以及 OpenAI 的影片模型 Sora。

走進真實場景,找到下世代永續的新遊戲規則
ESG新賽局, 人才培育, 策略觀點, 觀點

走進真實場景,找到下世代永續的新遊戲規則

無論是否注意到或採取因應行動,AI 技術的發展與 ESG 新規範的陸續出現,帶來了產業典範轉移,使得企業經營管理或人才定義,此刻就面臨全新的挑戰。如何從概念落實為執行方案?大學裡的教學如何培養下個世代面對新遊戲規則的挑戰,是台灣許多大學正積極投入的領域。

  • 楊育青
Google 發布台灣 AI 治理白皮書 美國商會邀集專家分享機會與挑戰
數位轉型, 趨勢

Google 發布台灣 AI 治理白皮書 美國商會邀集專家分享機會與挑戰

Google 台灣日前(7月31日)發布「台灣 AI 發展與治理:Google 的洞察與展望」白皮書,並對台灣在 AI 發展上提出投資 AI 基礎建設、打造鼓勵創新環境、發展 AI 人才培育體系,以及推動 AI 科技普及化三大建議。延續這個討論議題,8 月 1 日美國商會數位經濟委員會特別舉辦圓桌論壇,邀請人工智慧基金會 (AIF) 董事長詹婷怡、台灣人工智慧卓越中心 (Taiwan AIoE) 、中央大學資工系教授蔡宗翰與 Google 傑出科學家紀懷新,共同交流台灣 AI 發展的機會與挑戰。

  • 楊育青
蔡宗翰:算力不足有解,須掌握訓練垂直領域模型的焦點
LLM, 產業案例, 觀點

蔡宗翰:算力不足有解,須掌握訓練垂直領域模型的焦點

社群媒體巨頭 Meta 日前推出迄今為止最大的開源 AI 語言模型 Llama 3.1 405B ,該模型使用了 16,000 個 Nvidia H100 GPU 進行訓練。面對這波模型軍備戰爭,中央大學資工系教授、TAIDE 模型訓練組召集人蔡宗翰認為,台灣即使面臨算力不足的挑戰,仍可以針對台灣本地的需求,訓練垂直領域模型,而當中最重要卻也常被忽略的關鍵在於評估。

  • 楊育青
​​2024 台灣 AI 發展四大挑戰:人才、資料基礎建設、找對問題、組織文化
人工智慧, 趨勢

​​2024 台灣 AI 發展四大挑戰:人才、資料基礎建設、找對問題、組織文化

軟體與平台已經重新定義整個產業未來的型態,資通訊科技技術則成為新經濟模式的動力,因此,新時代的人才也與過去截然不同。人工智慧科技基金會董事長詹婷怡日前參與美國商會午餐會,分享自 2018 年開始推動產業 AI 化的長期觀察,她指出 2024,台灣 AI 發展的挑戰包括實戰人才缺乏、資料基礎建設不足、找對問題不簡單,以及組織文化重塑四大議題。

  • 楊育青
不僅是立國之本,農業還能協助企業完成減碳的最後一哩路
ESG新賽局, 產業案例, 觀點

不僅是立國之本,農業還能協助企業完成減碳的最後一哩路

面對全球氣候異常,幾乎所有產業都會受到影響。而農業雖是立國之本,但在工業革命之後,其重要性往往被忽略。進入ESG時代,新創企業無限永續創辦人楊旭宸點出,當企業減碳進行到極限,仍可能會增生無可避免的碳,使企業始終無法達成淨零目標,這時與農業合作,讓自然碳匯輔助企業達成淨零碳排的最終目標,將是極佳解方。

  • 楊育青

專題精選

知勢電子報

閱讀更多