ChatGPT, 實作解析, 技術 利用 LangChain 實作多模態模型的 RAG：除了讀文章也能看圖答題 相信不少人已經知道 ChatGPT 這類的大型語言模型（LLM,Large Language Model），雖然對話能力強，卻也常亂接話。而RAG（Retrieval Augmented Generation）的做法便是讓 LLM 在回答問題時能夠參考相關文件，有效避免了因知識不足而產生的幻覺現象（hallucination），例如基金會與天下雜誌合作推出的「孫主任 AI 助教」，正是利用此技巧，讓 LLM 可以根據《孫主任的經濟筆記》這本書的內容，提供較正確、適當的回應。
LLM, 實作解析, 技術 從大型語言模型了解如何更好的使用 AI 工具 生成式 AI 的興起帶來了許多便利的工具，從文字、圖像的生成到對話聊天，但你是否好奇為什麼有些人可以產出很好的成品，而自己使用時，卻沒辦法有同樣效果？【AI CAFÉ 線上聽 】特別從生成式 AI 模型的原理出發，了解模型如何解讀指令，將使我們能更有效地使用 AI 工具並生成出滿意的結果。
實作解析, 技術 模型部署前哨站！模型壓縮的原理與方法 自 ChatGPT 推出至今，不少企業也開始嘗試將生成式 AI 模型應用於改善工作效率或提供客戶服務。然而，這類大型語言模型的部署並不容易，隨著模型規模的增長，儲存和計算需求也相對提高。例如：以GPT-175模型需要約350GB的儲存空間（Floot16 precision），並且在推理和運算時，也需要同等大小的記憶體。若要有效運行模型，至少需要五個A100級別的GPU，其中每個GPU具有80GB的記憶體。顯示大型語言模型在部署時，面臨參數量大、速度慢且計算複雜度高等挑戰。此外，若需要在移動端或邊緣設備上進行多模型部署，更是增加了複雜度。
實作解析, 技術 當 MLOps 落實在產業中：如何解決 ML 在企業的挑戰 一個AI專案包含了資料處理、模型開發、驗證到部署上線等階段，形成了一個週期性的工作流程，當中所要考量的因素非常多，包括成員人數、資源分配、模型維護等，面對這些挑戰，有沒有哪些工具可以協助企業，在發展 AI 專案時，能更有效率的控制流程？
MLOps, 實作解析, 技術 MLOps 工具介紹（一）：常見的三種模型實驗管理工具 在AI專案的模型驗證階段，有許多工具可以協助團隊進行模型管理，主要目的都是在幫助團隊管理多專案與多實驗的狀況，可以輔助開發過程較為順利，所有的實驗數據都會被紀錄與備份，可以減少實驗數據遺失的風險。這些工具各有特色與強項，這篇將提供讀者幾個熱門工具建議：
實作解析, 技術 神奇畫筆的養成：解密 AI 生成圖片的原理與應用 生成式 AI 可說是今年最為熱門的關鍵字，除了圖片，還可以生成出聲音、文字等成果，也可以看到越來越多的 AI 生成工具出現，例如 Midjourney、Stable Diffusion 就是十分受歡迎的繪圖工具。透過本篇技術原理的說明，你將知道如何有效利用這些工具快速產出想要的圖片。
MLOps, 實作解析, 技術 手把手部署HPE Machine Learning Development Environment 市面上專攻模型實驗平台的套件有非常多，之前曾介紹了如何上傳模型實驗任務，以及快速部署 MLDE 在單一電腦上。本文透過介紹MLDE的系統架構、事前準備、使用 CLI 部署及移除節點，讓讀者可以快速部署客製化的模型實驗平台在 Docker 環境中。
實作解析, 技術 AI如何辨認螢幕前的人是不是真人？活體辨識技術的發展與挑戰 拜網際網路被發明、電子元件以及行動裝置的革新所賜，數位化已改變生活中的一切，過去需要親臨現場才能辦理的業務，如今大多能在線上完成。在看不到真人的情況下，尤其近幾年身份偽冒詐欺事件頻傳，如何確認遠端連線對象的身分成了企業的一大難題。目前在身份識別上多以生物辨識來實現，其中的關鍵之一就是活體辨識。
MLOps, 實作解析, 技術 用 MLDE 平台實作 PyTorch 卷積神經網路模型 機器學習模型的開發過程中，為了讓模型效能更好，通常資料科學家會設計實驗，擬定要嘗試的模型並對各個模型嘗試不同的超參數組合，以便從中找出表現最好的組合。正是因為要嘗試的組合非常多，可以想像過程中所產生的結果也不可計數，過往需要仰賴人工手動填寫表格，以利管理。
