聯發科技企業策略與前瞻技術資深處長梁伯嵩日前於「DIGITIMES 2026 GenAI 技術論壇」中，以「七層架構」系統性地說明 AI 發展的完整脈絡。他指出，AI 已不再是單純的技術演進,而須全面串聯硬體、半導體、軟體與應用，並成為實質驅動全球經濟成長的核心引擎。

隨著 AI 應用蓬勃發展，各界對 AI 的討論已從日常生活的便利性、底層算力的擴充、模型應用的落地，甚至延伸至太空運算中心。然而，過多碎片化的資訊，不僅難以建立系統性的理解，容易在不同層次的討論間各說各話。對此，聯發科技企業策略與前瞻技術資深處長梁伯嵩日前於「DIGITIMES 2026 GenAI 技術論壇」中，以「七層架構」系統性說明 AI 發展的完整脈絡。他指出，AI 已不再是單純的技術演進，而須全面串聯硬體、半導體、軟體與應用，並成為實質驅動全球經濟成長的核心引擎。

七層架構，重新定義 AI 發展地圖

七層架構分別是第一層實體層（Physical Layer）、第二層連結層（Link Layer）、第三層神經網路層（Neural Network Layer）、第四層情境層（Context Layer）、第五層代理層（Agent Layer）、第六層協調層（Orchestrator Layer）與第七層應用層（Application Layer）。

梁伯嵩說明，底層的能源供應、半導體與基礎建設宛如人體的消化、骨骼與神經系統，是支撐 AI 運作不可或缺的軀幹機能；而扮演核心「大腦」的大型語言模型則進一步被細分為第三與第四層。其中，「第三層」涵蓋模型的底層架構與海量數據預訓練（Pre-training），宛如人類的先天資質與基礎教育養成，會將知識深度「內化」至神經網路的參數（Parameters）中；「第四層」情境層則猶如人類累積實務經驗後的自我反思，主要仰賴記憶體中的「語境（Context）」來進行動態提取與學習。

但僅有三、四層並不夠，下一步透過第五與第六層的進階框架才能發揮價值。梁伯嵩說明，第五層「代理層（Agent）」宛如剛畢業初入職場的新鮮人，必須藉由提示（Prompt）、語境（Context）、代理（Agent）與迴圈（Loop）等工程技術進行專業培訓並賦予各類工具，使其打破單一語言模型的能力侷限。然而，僅靠單一的 AI agent，即使能力再強也難以完善處理處理龐雜的專案，因此第六層建構了「團隊協調機制」，透過多個專精不同領域的 AI 代理各司其職並高效協同運作，讓 AI 系統正式具備處理複雜商業任務的全面解題能力。第七層則是各類實際應用，讓 AI 系統能在各真實情境中發揮實質作用。

梁伯嵩指出，NVIDIA 執行長黃仁勳在2026年3月所提出的「五層堆疊架構」較偏向硬體視角，其中能源、晶片與基礎建設等硬體端就佔據了過半篇幅；而七層架構則更為細緻地拆解了軟體與模型端的運作邏輯，並將大腦模型分為「參數內化學習」與「記憶體語境學習」兩個層次，並將應用端進一步細分。

AI 發展不再只是先進製程競賽，而是系統整合的挑戰

當前的 AI 算力發展呈現兩大趨勢：一是規模擴大，二是運算速度幾乎以每月翻倍的速度飆升。尤其自2017 年 Transformer 架構問世後，算力與資料投入便開始狂飆。甚至到了2022 年底 ChatGPT 發布時，單一模型的訓練已需要 3,000 至 10,000 顆 GPU 的規模。時至今日，業界在規劃的「GW（百萬瓩）級」資料中心，其內部搭載的 GPU 數量更已來到 30 萬至 40 萬顆的驚人量級。

攤開各科技巨頭的佈局，梁伯嵩指出，如 xAI 約以 8 萬顆 H100 規模進行訓練，已是當前全球頂尖水準；而包含 Google、OpenAI 與微軟（Microsoft）等企業，在 2030 年的資料中心發展藍圖，若依趨勢推算，預期將達到等效於「400 萬顆 H100」以上的超大型運算節點，未來算力需求的龐大程度不言可喻。

面對龐大的算力需求，產業首先會撞上單一晶片的物理極限。梁伯嵩指出，算力擴張不可能只靠單一顆 GPU，因為單顆 IC 的算力有其極限。因此要進一步提升算力，勢必得透過封裝技術，將晶片與記憶體整合為單一晶片，這也是目前主流 GPU 的設計方式。接著再透過 scale-up network 將多顆 GPU 串聯成運算節點(compute node)，由眾多節點組成資料中心，並以 scale-across 架構串聯跨資料中心的運算資源。

梁伯嵩點出關鍵轉變，未來 AI 算力布局已不能只仰賴先進製程，後端同樣需要先進封裝，並搭配高速的 scale-up、scale-out 與 scale-across 三種網路架構。換言之，AI 的發展不再只是先進製程的競賽，而是牽動整個系統工程設計整合的複雜挑戰。

因此，未來的 AI 硬體設計將不再只專注於單一晶片（IC）設計，而需要考量諸多要素的系統級整合戰。對 IC、製程設計及各種軟體商來說，都是挑戰，也是機會。

從提示工程到循環工程：讓 AI 突破單一模型能力的技術金字塔

若將視角轉到上層的軟體發展，梁伯嵩表示，自 2022 年以來，AI 在語言對話、助理化應用與程式撰寫等能力上持續增強，已是眾所皆知的趨勢；然而除了模型訓練本身，產業界也發展出一系列技術，讓 AI 得以發揮超越單一模型的能力。

首先最基礎的是 prompt engineering（提示工程），透過指令與角色設定，讓模型理解任務並快速回應，是多數人接觸大型語言模型時最先採用的方法，但效果有限。第二則是 context engineering（語境工程）：當任務牽涉大量專業知識，例如要求模型回答整學期電子學課程內容。單純餵入完整資料並不足夠，還需要協助模型消化、整理並萃取重點，就像是學生準備考試時將整本教科書濃縮成一篇筆記或一張小抄，唯有經過篩選與組織的知識。才能被有效調用回答問題。

第三是 agent engineering（代理工程），當 AI 被賦予使用工具、上網、查詢資料庫等強大能力時，若缺乏約束機制，反而可能失控闖禍。因此必須同步建立 guardrail（護欄機制），確保 AI 在發揮能力的同時仍在可控範圍內運作。第四層則是近期備受關注的 loop engineering（循環工程），當 AI 完成任務後，往往會誤以為工作已經到位，實際上結果可能與需求不符,因此必須加入自我驗證（verification）與反覆疊代的機制，才能逐步逼近正確答案。

梁伯嵩直言，這樣的概念並不新穎，本質上與工程界行之有年的 PDCA（計劃、執行、檢查、行動）循環如出一轍，只是如今被應用在 AI 系統的自我修正上。

再往上一層，則進入大規模協作的階段。梁伯嵩以「火星任務」為例，這項複雜任務往往需要環境探勘、基地建設、太空船維修、生態維生等不同專業角色分工合作，而這正是 large-scale agent engineering（大規模代理工程）的核心精神；其中更重要的是要有 orchestration 的協調調度，讓多個 AI 代理各自發揮所長，如同交響樂團需仰賴指揮統籌才能合奏出完整樂章。

模型能力須靠不同層次的整合

梁伯嵩強調，大型語言模型的能力養成不能只看訓練算力。模型能力其實分布在不同層次，神經網路參數中的學習只是基礎的第一層，結構化的 context memory 則對應到組織與調用知識的能力；再往上，透過工具賦能的代理工程，以及多代理間的協作運作，才能讓 AI 展現超越單一模型的整體能力。他認為，當大型語言模型未來得以與真實世界正式聯動、具備自主學習知識的能力時，AI 的表現甚至有機會超越人類既有知識的範疇。

他指出，過去 AI 的進展主軸集中在算力模型與 scaling law(擴展定律)上，但發展重心正逐漸轉移；未來若要持續向上突破，關鍵將落在 recursive self-improvement(遞歸自我改善)機制，以及多個 AI agent 之間的協作運作。

從整體產業規模切入，全球半導體產業今年產值約可達 1.3 兆美元，其中約三成、0.4 兆美元屬於 AI 相關規模；若放大到整體科技產業投資，涵蓋硬體、軟體與通訊規模約達 6.3 兆美元，其中可歸屬於 AI 的部分已占 1.4 兆美元，占比相當可觀。梁伯嵩認為，主要來自於資料中心持續建置帶動的電力相關支出，同時軟體端應用占比也逐漸提升。至於通訊產業目前雖尚未有明確的 AI 產值數字，但隨著 6G 等技術發展，通訊與 AI 的結合預期將成為未來計入 AI 產值的一環。