MLOps 會是未來趨勢嗎?AI 專案中的關鍵思維

MLOps 會是未來趨勢嗎?AI 專案中的關鍵思維
知勢電子報 | 2023.10.01

各位朋友們好:

剛過完中秋節,緊接著又是雙十連假,從 9 月底到 10 月中旬台灣熱鬧滾滾。我看見的,不只是高鐵一票難求、高速公路塞車、到處人潮洶湧這種熱鬧,連 AI 界也是人聲鼎沸。

緊接在 Sam Altman、吳恩達來台灣同台分享之後,微軟宣布將旗下所有 GPT-4 加持的 Copilot 功能全部統一成 Microsoft Copilot,從 9 月 26 日開始,通過 Win11 系統免費推送。意思是只要使用微軟系統,隨時可以召喚AI出來幫忙。

Google 也有動作, Bard 正式結合 Google 原生的應用程式與服務,為使用者提供更多功能。包括讓 Bard 結合 Gmail、Google 地圖、YouTube等應用軟體,提供更多服務,並結合 google 搜尋功能,降低回覆結果出錯機率。

在過節氛圍如此濃厚的本週,我們電子報決定讓大家消耗一下月餅蛋黃酥的熱量(不是),本期走 「乾貨」 路線,跟大家共同思考 MLOps 未來的發展,還有一些技術面的分享。期待對技術感興趣的你能夠有所收穫。

人工智慧科技基金會執行長 溫怡玲

本期目錄

開源 LLM 趨勢

MLOps 是什麼?定義、導入流程、優缺點一次了解

MLOps 是近來極為熱門的單字,在許多討論專案的文章或是論壇中都可以聽到,不過,實際上對於專案的幫助是什麼呢?這篇文章希望透過宏觀的角度來介紹 MLOps,以及不管是完全沒接觸過 AI、或是正開始學習 AI 的學生,甚至熟稔 AI 技術但正在觀望是否要導入 MLOps的工程師或主管們,都希望能透過這篇文章來讓你能更了解它。

閱讀更多
生成式 AI 技術

MLOps 工具介紹(一):常見的三種模型實驗管理工具

這篇文章將會和大家分享幾個有助於管理「紀錄實驗參數」、「模型訓練的 Loss 曲線」、「模型評估指標」、「儲存模型」等幾項實驗數據的好用工具,主要會介紹三個較多人使用與討論的工具: Tensorboard、Weight&Biases、MLflow。

閱讀更多
MLDE 技術

手把手部署 HPE MLDE 套件

市面上專攻模型實驗平台的套件有非常多,之前曾介紹了如何上傳模型實驗任務,以及快速部署 MLDE 在單一電腦上。本文透過介紹 MLDE 的系統架構、事前準備、使用 CLI 部署及移除節點,讓讀者可以快速部署客製化的模型實驗平台在 Docker 環境中。

閱讀更多
生醫科技 活動

AI 與生醫科技的創新技術與應用

為推動 AI 應用與生醫產業的融合與交流,台智雲與國衛院合作舉辦「智匯創生 AIHPC 超算⇋ BIO 跨域交流會」,邀請 AI 應用與生醫場域的講師,分享跨域應用及產業趨勢,展示新創廠商的創新技術成果。

閱讀更多