由於AI的技術原理使然，先進且可信任的硬體製造實力的確不可或缺，但缺乏質量足夠的數據，以及與其他資訊系統整合的基礎設施，絕對無法支撐起整體生態系發展。特別軟體產業的實力相對不足，是台灣在發展算力產業時，必須面對的核心挑戰。

儘管台灣在AI伺服器相關硬體產品居全球供應鏈關鍵地位，具有無可取代的價值，然而在算力服務方面的軟體開發與應用，卻因為AI發展尚在起步階段，加上產業結構長期偏重硬體的影響，從開發思維到人才，都尚未發展出足以充分利用硬體優勢創造新競爭優勢的商業模式。

在目前這個時間點，台灣企業對於算力的需求，正在找尋一種高度務實且緊密貼合本地市場特性的發展路徑。其核心特徵為成本敏感、重視在地化部署，並從單純的工具應用，逐步走向具備數據主權意識的垂直領域模型開發。整體而言，台灣企業的算力需求主要可分為應用層面的「小算力」需求，以及戰略層面的「大算力」部署需求，兩者形成了鮮明的對比，共同形塑了當前市場的樣貌。

成本敏感、在地化、數據主權為共同需求

算力需求的類型與規模：以應用為主

台灣企業的算力需求絕大多數集中於應用端，屬於市場主流的「小算力」範疇，其重心明確地落在「如何應用 AI」，而非「如何從零開發底層模型」。在國內，應用面主要集中在成本效益較高的模型微調（Fine-tuning）及算力推論（Inference）。

相較之下，只有在進行大規模語言模型（LLM）的訓練時，才需要動用機櫃型資料中心等級的「大算力」資源，其高昂成本使多數企業望而卻步。在硬體規格上，企業為滿足多樣化的應用場景，需要從NVIDIA的4090、L40S到最新世代的5090與H200等多種規格的GPU支援。然而，若牽涉到H100等級的高階GPU，其驚人的功耗與對樓地板載重的嚴苛要求，已非一般企業地端（例如辦公室）環境所能負荷，因此幾乎必須將其部署於專業的資料中心。

企業在導入AI時，已從通用型應用轉向高度專業化和在地化的垂直領域，這對算力提出了更具體的性能與安全要求。在金融服務業，數據主權、法規遵循與低延遲是關鍵，應用場景涵蓋需在30毫秒內判斷風險的大金流模型（LCM）及金融專屬大語言模型（FinLLM）。在製造與工程業，需求核心在於提升流程效率，例如希望透過AI模組判讀複雜的CAD或PDF圖檔，以自動計算管線配置與工程分析，大幅減少人工錯誤。對於教育與學術界的師生用戶而言，他們需要的是類型多樣化且可彈性租賃的資源，以進行語言模型開發與訓練。

而對於更廣泛的一般企業與新創，應用多停留在客服、內容生成等工具層面，成本效益與快速完成概念驗證（POC）是首要考量。尤其在醫療、金融這類受高度監管的領域，基於法規遵循與資料機敏性的雙重考量，確保「數據不離境」並於本地安全運算，已成為一項不可妥協的剛性需求。

沒有軟體與資料整備，再好的硬體也難以轉為競爭力

台灣算力產業的最大特色與優勢，目前是建立在全球無可取代的硬體製造實力之上。從台積電的頂尖晶片製程，到囊括全球九成AI伺服器產能的ODM產業鏈，構建出AI時代最堅實的硬體根基，成為全球AI發展不可或缺的軍火庫。而這些實力具體呈現在AI相關產品的出口成長數據，也使得台灣成為少數在AI熱潮中早期獲利的國家。在此硬體基礎上，台灣目前正在逐步發展完整的垂直生態系。向上延伸至資料中心，再到由國網中心與台智雲所營運的算力中心及雲端服務，形成了從硬體、基礎設施到算力服務的完整價值鏈。

面對國際雲端巨頭的競爭，「差異化」與「在地化」是台灣業者的獨特優勢。他們能提供政府、金融、醫療等關鍵產業所要、符合法規的資料隱私保障；滿足智慧製造、邊緣運算等講求即時反應的「極低延遲」應用；並提供深度客製化、溝通無礙的在地技術支援。

不過，由於AI的技術原理使然，先進且可信任的硬體製造實力的確不可或缺，但缺乏質量足夠的數據，以及與其他資訊系統整合的基礎設施，絕對無法支撐起整體生態系發展。特別軟體產業的實力相對不足，是台灣在發展算力產業時，必須面對的核心挑戰。

AI伺服器能夠運作，必須有高品質的硬體加上穩健、高效的軟體系統，缺一不可，從NVIDIA CUDA（Compute Unified Devices Architecture，統一計算架構）帶來的軟硬體整合技術優勢可以得知。

技術之外，AI發展真正的價值將展現於應用層面，也就是會從硬體製造轉向於定義問題、資料整理、流程拆解、演算法開發、建構軟體平台到創造生態系。但台灣多年累積起來的產業強項建立在「製造」而非「定義」，擅長將別人定義好的規格如晶片設計圖、作業系統的效率與成本做到極致。可惜這樣的能力，並無法直接轉移到AI應用上，這不只是算力產業的問題，更是台灣產業結構轉型的關鍵命題。

本文節錄自中技社即將發佈《我國算力發展及其對經濟影響之探討》報告