高通劉思泰:善用終端 AI 軟硬整合 掌握智慧轉型契機

高通副總裁暨台灣、東南亞與紐澳區區總裁劉思泰,從技術現況、產業現場以及應用普及三個角度切入,提出 AI 下一步發展的具體趨勢將是成為新的使用者介面:AI is the new UI(User Interfance)──成為電腦、電器、機器、移動通訊裝置、軟體或應用的終端整合者。

「AI 是一個涵蓋範圍極其廣泛的技術領域,如今我們關注的重點,不再是會不會出現某一個『殺手級應用』」,劉思泰表示,AI應用已開始在終端裝置中落地實現,而隨著裝置上 AI的發展,AI 應用將愈來愈普遍且多元。

從手機到車載系統、筆電到穿戴裝置,甚至機器人與無人機,每一個裝置都潛藏成為 AI 代理(AI Agent) 的可能性──不再只是工具,而是能夠主動理解、預測與協作的智慧夥伴。人機互動模式也從指令輸入、觸控操作,走向語音、手勢甚至情感識別的新階段。

雲端不是萬靈丹:運算壅塞與即時性的落差

過去 AI 的運算多依賴雲端完成,但在全球超過 70 億人口、每天數以億計裝置向雲端發送請求的情況下,此運作模式在資源消耗與延遲控制方面都難以長期維持。有研究指出,AI 模型執行一次查詢所耗資源約為傳統搜尋的 8 至 10 倍。若所有 AI 任務均仰賴雲端處理,將對網路頻寬、能源與運算資源構成巨大壓力。

然而,這正是裝置上 AI 的強項。透過將模型部署在本地裝置,直接在終端進行運算,不僅回應速度顯著提升,也降低對網路與能源的依賴。

裝置上 AI 另一個優勢是隱私保護。若 AI 模型部署於終端裝置,用戶無需將資料上傳至網路或依賴外部伺服器,也能完成任務,同時也保障個人或企業隱私。同時,裝置上 AI 的自主性則有助於使用者體驗的提升:當 AI 長期在終端運行,它會持續學習你的行為習慣與偏好,進而提供更貼近個人需求的服務。

從近年問世的模型蒸餾(model distillation)技術,讓 AI 模型變得更小,也展現出更多卓越的效能與部署彈性。自去年起,市場已陸續出現更多輕量級但功能強大的模型,許多企業和開發者也開始投入相關開發。越來越多這類小型但功能強大的模型的出現,代表著 AI 模型正朝向簡化、強化與可靠性提升的方向前進,使其更容易部署在終端設備中,並能滿足實際應用的需求。

今天我們已經能將更強大的 AI 模型與運算能力部署在終端裝置上,不再只能仰賴遠端雲端來處理複雜任務。AI 應用可以「在地」完成操作,既有效率,也更具隱私保障,甚至可以透過免觸控的方式去操作使用。

裝置上 AI 的發展並不意味著雲端 AI 角色的消失。劉思泰強調,當我們將 AI 部署至終端裝置時,雲端仍可以用來持續發揮它在模型訓練與大型運算上的優勢,例如進行大型語言模型(LLM)的訓練與精進,對於例如智慧城市這種需要大型模型的應用,裝置端與雲端的協作架構將是未來AI部署的基本需求。

人機互動的新階段:從 UI 到 AI 代理

隨著裝置上 AI 普及,人機互動將邁入新階段。劉思泰表示,從最早的指令輸入、滑鼠鍵盤,到現在的觸控與語音,甚至手勢,其實都是介面的演進,「而 AI 代理 將成為這場演進下一個里程碑。」

劉思泰認為,AI 代理 不同於傳統被動地執行命令,而能根據使用者習慣與行為模式,學習、預測下一個動作並完成任務。舉例來說,當使用者想訂餐廳,AI 代理能跨平台自動整合聯絡好友、查詢行程、完成訂位等多項任務,真正解放使用者時間與心力。

這樣的跨模組協同能力,標誌著 AI 不再是輔助工具,而是邁向主動執行、智慧判斷、預測意圖的智慧代理角色。人機關係將從「指令執行」走向「目標協作」。

裝置(Device)、AI 模型、到邊緣運算(Edge computing)三者的結合不只推動技術發展,更創造了龐大的商業機會。劉思泰說,世界上有超過一萬種終端裝置——從手機、手錶、電腦、車載系統到頭戴式顯示器(HMD)等,每一種裝置都有不同的使用者、不同的需求,這樣的多樣性正是創新的沃土。

製造業擁有 AI 落地的關鍵場景

那麼,台灣是否有機會在這波 AI 趨勢中脫穎而出?劉思泰認為,台灣在各類終端裝置的製造與整合上擁有獨特的優勢。除了電子產品外,台灣在螺絲、輪胎、腳踏車等各類零組件和消費性產品的製造上也有深厚的基礎。這些遍布全球的終端裝置正是台灣製造業的強項,也是最具競爭力的領域。更重要的是,這些產品正是 AI 技術可以落地應用的關鍵場景。

台灣現有的工廠與製造供應鏈,不僅是傳統的生產者,同時也能成為 AI 技術的消費者。當工廠作為 AI 的消費者時,並不需要自行研發所有技術。相反的,可以積極建立更多的策略合作夥伴關係,整合硬體、軟體以及專案管理人才(program management),實現更高效的資源配置與技術開發。

若從專案管理的視角來推進,關鍵在於先明確定義核心問題(problem statement)為何,例如:「問題是什麼?」或「該使用什麼工具來解決問題?」當問題明確後,就可以針對問題開發相應的解決方案。

終端整合將是台灣 AI 發展的關鍵契機

劉思泰認為,對台灣而言,這波AI轉型發展的機會在於專注於將「終端」應用領域做到最好。所謂「把終端做好」,並不僅是製造硬體,而是進行「終端整合」,意即在硬體、軟體、開發者工具甚至支援開發者的整體平台上進行完整的建設,以提高台灣的終端產品的AI 價值,同時吸引開發者投入、善用我們的裝置與平台去創造新應用。

過去,台灣產業在全球供應鏈中大多扮演「代工者」角色,強調效率與成本,一旦無法在短期內轉化為生產效益或看到回報,許多企業便會選擇退出。但進入 AI 時代後,這樣的企業文化已經無法支撐公司進行終端整合所需的長期投入與系統性規劃。許多企業也坦言自己能力有限──沒有軟體團隊、缺乏平台開發能力,因此難以主動承接AI專案或導入相關應用。這反映的,不只是人才缺口,更是一種產業文化的斷層。

與其期望每一家傳統企業都能立刻轉型,劉思泰認為,不如協助這些企業一方面在硬體製造上繼續發揮專長,另一方面也能同時組建具備整合能力的跨域團隊來承接 AI 專案的實驗與應用開發。對於台灣眾多擁有技術但資源相對較為匱乏的中小企業和創新單位而言。透過與具備平台與工具資源的國際夥伴合作組建的跨域團隊,能更明確聚焦在核心問題上,繼而進行具體、可執行的開發計畫。

當前世界各國在 AI 時代的競爭已經進入白熱化,除了盡快展開長期培訓 AI 專才的計畫外,我們更應該思考:現在就能做些什麼。台灣擁有領先全球的半導體產業與強大的 ICT 生態系, 讓我們掌握在終端製造與系統整合的優勢出發,並在一套實用的國家 AI 發展策略的引導與支持,台灣可望在這場全球 AI 競賽中迎頭趕上。

更多精彩內容,請參考《2025 台灣產業 AI 化大調查暨 AI 落地指引》點此下載