MLOps 會是未來趨勢嗎?AI 專案中的關鍵思維
知勢電子報 | 2023.10.01
MLOps 會是未來趨勢嗎?AI 專案中的關鍵思維

各位朋友們好:

剛過完中秋節,緊接著又是雙十連假,從 9 月底到 10 月中旬台灣熱鬧滾滾。我看見的,不只是高鐵一票難求、高速公路塞車、到處人潮洶湧這種熱鬧,連 AI 界也是人聲鼎沸。

緊接在 Sam Altman、吳恩達來台灣同台分享之後,微軟宣布將旗下所有 GPT-4 加持的 Copilot 功能全部統一成 Microsoft Copilot,從 9 月 26 日開始,通過 Win11 系統免費推送。意思是只要使用微軟系統,隨時可以召喚AI出來幫忙。

Google 也有動作, Bard 正式結合 Google 原生的應用程式與服務,為使用者提供更多功能。包括讓 Bard 結合 Gmail、Google 地圖、YouTube等應用軟體,提供更多服務,並結合 google 搜尋功能,降低回覆結果出錯機率。

在過節氛圍如此濃厚的本週,我們電子報決定讓大家消耗一下月餅蛋黃酥的熱量(不是),本期走 「乾貨」 路線,跟大家共同思考 MLOps 未來的發展,還有一些技術面的分享。期待對技術感興趣的你能夠有所收穫。

人工智慧科技基金會執行長 溫怡玲

本期目錄

MLOps 是什麼?定義、導入流程、優缺點一次了解
開源 LLM 趨勢

MLOps 是什麼?定義、導入流程、優缺點一次了解

MLOps 是近來極為熱門的單字,在許多討論專案的文章或是論壇中都可以聽到,不過,實際上對於專案的幫助是什麼呢?這篇文章希望透過宏觀的角度來介紹 MLOps,以及不管是完全沒接觸過 AI、或是正開始學習 AI 的學生,甚至熟稔 AI 技術但正在觀望是否要導入 MLOps的工程師或主管們,都希望能透過這篇文章來讓你能更了解它。

閱讀更多
MLOps 工具介紹(一):常見的三種模型實驗管理工具
生成式 AI 技術

MLOps 工具介紹(一):常見的三種模型實驗管理工具

這篇文章將會和大家分享幾個有助於管理「紀錄實驗參數」、「模型訓練的 Loss 曲線」、「模型評估指標」、「儲存模型」等幾項實驗數據的好用工具,主要會介紹三個較多人使用與討論的工具: Tensorboard、Weight&Biases、MLflow。

閱讀更多
手把手部署 HPE MLDE 套件
MLDE 技術

手把手部署 HPE MLDE 套件

市面上專攻模型實驗平台的套件有非常多,之前曾介紹了如何上傳模型實驗任務,以及快速部署 MLDE 在單一電腦上。本文透過介紹 MLDE 的系統架構、事前準備、使用 CLI 部署及移除節點,讓讀者可以快速部署客製化的模型實驗平台在 Docker 環境中。

閱讀更多
AI 與生醫科技的創新技術與應用
生醫科技 活動

AI 與生醫科技的創新技術與應用

為推動 AI 應用與生醫產業的融合與交流,台智雲與國衛院合作舉辦「智匯創生 AIHPC 超算⇋ BIO 跨域交流會」,邀請 AI 應用與生醫場域的講師,分享跨域應用及產業趨勢,展示新創廠商的創新技術成果。

閱讀更多