隨著科技技術與應用需求不斷發展，Edge AI 也逐漸成為 AI 領域中的一個關鍵分支，但實際要落地仍有許多挑戰待解。研華研華科技產業雲暨影像科技事業群副總經理鮑志偉在 AI EXPO 2024 的演講上便提到，除了關鍵的四大要素，生態系的建立與夥伴都是不可少的關鍵。
研華科技產業雲暨影像科技事業群副總經理鮑志偉提到， Edge AI 將是下一波 AI 發展的趨勢，也是台灣產業的機會。但是，AI 從技術到落地的過程中，需要考量到許多問題。根據他過去參與各類 Edge AI 專案的經驗，Edge AI 雖然已經出現很久，卻難以被規模化的原因很多，光是選擇硬體的規格就是一個大問題，尤其是邊緣裝置的計算能力、散熱等細節都需要考量。其次，由於 Edge AI 講求大量部署，也就代表企業必須具有遠端管理能力，能將裝置串接在一起；再加上 AI 模型必須時時更新，還要穩定提供服務而不間斷。
Edge AI 規模化四大要素：場域、平台、協作與 AI 加速
在眾多的挑戰下，鮑志偉認為， Edge AI 躍升規模化有四大要素，包含場域、平台、協作與 AI 加速。目前已知的邊緣運算應用包含農作物、玻璃瓶或金屬元件等不規則物件的檢測、可依照區域環境與氣候進行的無人化農業灌溉，以及得來速系統。美國的得來速系統已有多數是 AI ChatBot，不僅可以對話，還能清楚辨識客戶的點單內容，即使背景有噪音也能清楚辨識。
他認為， Edge AI 規模化的關鍵，在於產業先行者能率先採納相關應用，並使得產業生態開始改變，才能促使其他企業跟進。例如場域部分不只是表面看來的工業場域、智慧城市如此簡單而已，必須有分階段的實施過程。首先是以政府為主所推動的產業 AI 轉型，所產生的領頭效應，較為常見的場域如智慧交通，而鐵道邊坡落石預測就是目前的應用。
第二個階段則是先進業者積極研發導入，取得先進優勢；接下來造成其他業者不得不跟進所帶起的群起效應，在此同時，技術推進的速度也會越來越快。而第四個階段就是創新效應，各領域的開創應用情境百花齊放。他認為目前的產業應該在跟隨與創新效應之間，預計在 2025 年將有大幅度的成長，因此，2024 年將是一個好的準備期。
鮑志偉認為，高效能、低耗電運算平台的產生以及低延遲傳輸且僅耗費十分之一成本兩大技術的出現，驅動 Edge AI 智能化的產生，並將帶領產業未來十年的發展。從Camera、開發套件、小系統、各垂直領域專用，到 Edge AI 的Server等一系列的平台系統都已經準備並大量部署在在全球各場域中。
Edge AI 並不同於以往的 IPC 產業，更著重在共同的協作。在協作的藍圖中，除了平台的搭建，以及中介軟體（Middleware）的合作，更重要的就是如何建立整個系統的生態系。而研華也積極與主要的晶片公司合作，共同推出不同應用效能的運算平台；軟體方面的支援，以及技術的整合與協作，生態圈夥伴的數量也逐步增長。較為實際的應用包括針對垂直應用領域，整合 SDK、感測器，以及影片/圖像感測，提供一體化解決方案；或是針對區域性應用，與獨立軟體廠商合作，提供整合的銷售解決方案等。
夥伴才是生態系最重要的關鍵
那麼生成式 AI 是否能在 Edge AI 落地？鮑志偉表示，目前在韓國已有相關的交通場域應用，不只是車流、車牌及交通狀況的辨識，透過生成式 AI 的幫助，可以在車禍當下即時產生交通事故報告，並提醒交通事故處理者進行處理。
鮑志偉說，在研華的整個 Edge AI 規模化的藍圖下，除了平台、協作，以及整個產業中的部件，都已經有明確的定義，但更重要的是，在整個生態系裡，最重要的還是要有夥伴的共同合作，才是實現 AI 規模化關鍵要素。