實作解析

此標籤共有 37 篇文章

從大型語言模型了解如何更好的使用 AI 工具
LLM, 實作解析, 技術

從大型語言模型了解如何更好的使用 AI 工具

生成式 AI 的興起帶來了許多便利的工具,從文字、圖像的生成到對話聊天,但你是否好奇為什麼有些人可以產出很好的成品,而自己使用時,卻沒辦法有同樣效果?【AI CAFÉ 線上聽 】特別從生成式 AI 模型的原理出發,了解模型如何解讀指令,將使我們能更有效地使用 AI 工具並生成出滿意的結果。

  • AIF Editor
模型部署前哨站!模型壓縮的原理與方法
實作解析, 技術

模型部署前哨站!模型壓縮的原理與方法

自 ChatGPT 推出至今,不少企業也開始嘗試將生成式 AI 模型應用於改善工作效率或提供客戶服務。然而,這類大型語言模型的部署並不容易,隨著模型規模的增長,儲存和計算需求也相對提高。例如:以GPT-175模型需要約350GB的儲存空間(Floot16 precision),並且在推理和運算時,也需要同等大小的記憶體。若要有效運行模型,至少需要五個A100級別的GPU,其中每個GPU具有80GB的記憶體。顯示大型語言模型在部署時,面臨參數量大、速度慢且計算複雜度高等挑戰。此外,若需要在移動端或邊緣設備上進行多模型部署,更是增加了複雜度。

  • AIF Editor
MLOps 工具介紹(一):常見的三種模型實驗管理工具
MLOps, 實作解析, 技術

MLOps 工具介紹(一):常見的三種模型實驗管理工具

在AI專案的模型驗證階段,有許多工具可以協助團隊進行模型管理,主要目的都是在幫助團隊管理多專案與多實驗的狀況,可以輔助開發過程較為順利,所有的實驗數據都會被紀錄與備份,可以減少實驗數據遺失的風險。這些工具各有特色與強項,這篇將提供讀者幾個熱門工具建議:

神奇畫筆的養成:解密 AI 生成圖片的原理與應用
實作解析, 技術

神奇畫筆的養成:解密 AI 生成圖片的原理與應用

生成式 AI 可說是今年最為熱門的關鍵字,除了圖片,還可以生成出聲音、文字等成果,也可以看到越來越多的 AI 生成工具出現,例如 Midjourney、Stable Diffusion 就是十分受歡迎的繪圖工具。透過本篇技術原理的說明,你將知道如何有效利用這些工具快速產出想要的圖片。

  • AIF Editor
手把手部署HPE Machine Learning Development Environment
MLOps, 實作解析, 技術

手把手部署HPE Machine Learning Development Environment

市面上專攻模型實驗平台的套件有非常多,之前曾介紹了如何上傳模型實驗任務,以及快速部署 MLDE 在單一電腦上。本文透過介紹MLDE的系統架構、事前準備、使用 CLI 部署及移除節點,讓讀者可以快速部署客製化的模型實驗平台在 Docker 環境中。

AI如何辨認螢幕前的人是不是真人?活體辨識技術的發展與挑戰
實作解析, 技術

AI如何辨認螢幕前的人是不是真人?活體辨識技術的發展與挑戰

拜網際網路被發明、電子元件以及行動裝置的革新所賜,數位化已改變生活中的一切,過去需要親臨現場才能辦理的業務,如今大多能在線上完成。在看不到真人的情況下,尤其近幾年身份偽冒詐欺事件頻傳,如何確認遠端連線對象的身分成了企業的一大難題。目前在身份識別上多以生物辨識來實現,其中的關鍵之一就是活體辨識。

  • AIF EVENT
用 MLDE 平台實作 PyTorch 卷積神經網路模型
MLOps, 實作解析, 技術

用 MLDE 平台實作 PyTorch 卷積神經網路模型

機器學習模型的開發過程中,為了讓模型效能更好,通常資料科學家會設計實驗,擬定要嘗試的模型並對各個模型嘗試不同的超參數組合,以便從中找出表現最好的組合。正是因為要嘗試的組合非常多,可以想像過程中所產生的結果也不可計數,過往需要仰賴人工手動填寫表格,以利管理。