面對這場新賽局,高通行銷資深總監江昆霖從技術層面呼應,指出雲端與地端協同運作的「混合式架構」將是企業算力佈局的新趨勢,搭配邊緣 AI 的靈活部署,方能在效能、成本與資料主權之間取得平衡,真正實現 AI 的全面規模化落地。
當 AI 從少數企業的專屬工具演變為產業標配,一場新賽局悄然展開。然而多數企業尚未意識到,競爭優勢的關鍵已不只在於是否導入 AI,更在於能否透過完善的政策框架,做出正確的資源配置決策。
根據人工智慧科技基金會今年發布的《2026 台灣產業 AI 化大調查》結果顯示,台灣產業 AI 化雖已正式跨越普及門檻,但在治理面卻有高達 61.8% 的企業,內部 AI 應用完全脫離組織管控;而長期被忽視的算力配置問題,更與實際應用需求之間存在日益擴大的錯位。
人工智慧科技基金會執行長溫怡玲指出,儘管「台灣缺算力」的聲音不絕於耳,但歷次調查數據顯示,台灣企業似乎並不缺算力。實際上,多數企業多半直接使用國際大型公有雲,大型企業更已自建地端伺服器。然而,這並不意味著算力佈局的問題可以置之不理。
若將眼光放遠至 2027 年後,全球算力供應恐將出現供過於求的局面,缺乏政策引導的重複投資將造成龐大的資源浪費。她強調,算力佈局必須從企業層次提升至政策層次統籌規劃,從地緣政治風險、實際應用需求到產業鏈特性等多重角度出發,積極推動多元算力架構,確保資源真正用在刀口上。
小模型能力提升,加速AI應用的典範轉移
面對這場新賽局,高通行銷資深總監江昆霖從技術層面指出,近兩年小型模型能力持續躍升,綜合表現已足以超越過去 700 億參數規模的大型模型,所需的運算資源與記憶體門檻也同步降低,AI 推論從雲端走向地端的條件日趨成熟,這波演進同時加速了 AI 應用的典範轉移。
隨著 Agentic AI 浪潮興起,每個人都能培育屬於自己的 AI Agent,而成熟的 Agent 將能統合不同模型與周遭智慧裝置,協同完成複雜任務。正因如此,分散式應用架構的重要性日益凸顯,不僅能滿足個人需求,更能回應企業對資料安全、算力掌控與主權性佈局的核心訴求。
江昆霖表示,Agentic AI 若要真正落地,光靠軟體進步還不夠,更必須走向 Physical AI 的整合。唯有在地端有效解決低延遲、隱私保護與資料自主性等關鍵問題,搭配雲端與地端協同運作的「混合式架構」,方能在效能、成本與資料主權之間取得平衡,真正實現 AI 的全面規模化。
AI已成為人與裝置的全新互動介面,帶動生態系建立
他指出,Agentic AI 工作流在行動裝置上其實已然成型。以手機為例,使用者只需透過語音或文字對話,便能指示手機完成規劃生日派對、預訂餐廳、訂購蛋糕等一系列複雜任務。這背後有兩個關鍵驅動力:其一,AI 已成為人與裝置之間全新的互動介面,無論語音、圖像或影像輸入,Agentic AI 都能在後台自動調用最適合的模型即時回應;其二,Agentic AI 不僅能調動不同模型,更能串聯使用者身上的各種穿戴裝置,持續累積個人化資料,形成真正專屬於個人的 AI 體驗。他將這套以個人為核心、跨裝置協同運作的生態模型稱為「Economy of AI of Things」,也是 AI 從工具演變為生活基礎建設的關鍵一步。
江昆霖認為,Agentic AI 的應用載具也將從手機逐步擴展至各類智慧裝置。隨著裝置端 AI 能力持續提升,裝置之間得以互相傳遞個人資訊,無論是車內座椅與溫度的自動調整,還是跨裝置切換時的無縫銜接,核心的 Agentic AI 都能將使用者的個人喜好與操作習慣跨裝置一致地呈現與實現。而這樣的多裝置協同,也進一步凸顯了算力分層配置的必要性。
雲端與地端分層協作將是未來趨勢
關鍵概念在於,雲端與地端之間應是分層協作而非相互取代的運算架構。江昆霖指出,企業可在兩者之間部署 On-prem Edge,讓資料留存於公司廠房內而不外流,同時藉助高達數千 TOPS 的本地算力,在企業內部運行數十億乃至數百億參數的大型模型,供各部門靈活調用。
江昆霖進一步點出,Edge 端成為 Agentic AI 規模化關鍵的核心原因在於,AI 的持續進化有賴高品質資料的持續輸入,然而近兩年前沿大型模型的問世頻率明顯趨緩,根本原因在於可供訓練的真實公開資料幾近耗盡。未來真正有價值的資料,將來自企業內部與使用者日常場景中持續產生的現場資料。如何將這些資料回傳雲端進行再訓練或 Fine-tuning,再重新部署至地端,形成持續優化的資料閉環,也是決定 AI 競爭力的關鍵。而這也正是連接能力(Connectivity)不可或缺的戰略價值所在。也凸顯了高通在串聯 Edge 端與 Cloud 端連接能力的核心優勢。
另一方面,江昆霖也提到,隨著無線通訊技術持續演進,6G 的發展目標已不僅止於提升資料速率,更必須承載來自邊緣端日益增長的 AI 推論需求。
為進一步降低技術落地的門檻,高通也針對工業電腦、機器人、零售等多元產業提供邊緣 AI 解決方案,並透過收購 Foundries.io、AnythingLLM 與 Arduino 等關鍵夥伴積極賦能開發者生態。其中 AnythingLLM 能即時收集產線、廠房與機器手臂上的現場資料,在線上完成模型 Fine-tuning 後重新部署,讓模型持續貼近實際應用需求;Arduino 則擁有全球 3,700 萬開發者社群,提供從電腦視覺到大型 LLM 的完整開發環境,開發者可將驗證成果直接套用至機器人、機器手臂或 AGV,實現從原型到落地的快速轉化。
高通認為,硬體、場域與開發者生態三位一體的整合佈局,將是推動邊緣 AI 真正規模化、讓 AI 從技術概念走向產業現實的關鍵所在。